Đề cương khóa học

Cơ Sở của Triển Khai AI Hỗn Hợp

  • Hiểu biết về các mô hình triển khai hỗn hợp, đám mây và viền
  • Đặc điểm công việc AI và ràng buộc hạ tầng
  • Chọn cách triển khai phù hợp

Container hóa Công Việc AI với Docker

  • Xây dựng container suy luận GPU và CPU
  • Quản lý hình ảnh an toàn và registry
  • Thực hiện môi trường tái tạo cho AI

Triển Khai Dịch Vụ AI lên Môi Trường Đám Mây

  • Chạy suy luận trên AWS, Azure, và GCP thông qua Docker
  • Cung cấp máy tính đám mây cho việc phục vụ mô hình
  • Bảo mật các điểm cuối AI dựa trên đám mây

Kỹ Thuật Triển Khai Viền và Tại Chỗ

  • Chạy AI trên thiết bị IoT, gateway, và microserver
  • Môi trường chạy nhẹ cho viền
  • Quản lý kết nối gián đoạn và sự kiên trì cục bộ

Mạng Hỗn Hợp và Kết Nối An Toàn

  • Đường hầm an toàn giữa viền và đám mây
  • Chứng chỉ, bí mật và truy cập dựa trên token
  • Điều chỉnh hiệu suất cho suy luận độ trễ thấp

Quản Lý Triển Khai AI Phân Tán

  • Sử dụng K3s, K8s, hoặc tự động hóa nhẹ cho các cấu hình hỗn hợp
  • Phát hiện dịch vụ và lập lịch công việc
  • Tự động hóa chiến lược triển khai đa địa điểm

Giám Sát và Quan sát Across Environments

  • Theo dõi hiệu suất suy luận trên các địa điểm
  • Ghi log tập trung cho hệ thống AI hỗn hợp
  • Phát hiện lỗi và phục hồi tự động

Mở Rộng và Tối Ưu Hóa Hệ Thống AI Hỗn Hợp

  • Mở rộng cụm viền và nút đám mây
  • Tối ưu hóa việc sử dụng băng thông và bộ đệm
  • Cân bằng tải tính toán giữa đám mây và viền

Tổng Kết và Các Bước Tiếp Theo

Yêu cầu

  • Hiểu biết về các khái niệm containerization
  • Kinh nghiệm với các thao tác dòng lệnh Linux
  • Quen thuộc với quy trình triển khai mô hình AI

Đối Tượng

  • Kiến trúc sư hạ tầng
  • Kỹ sư Độ tin cậy Trang web (SREs)
  • Lập trình viên Viền và IoT
 21 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (5)

Các khóa học sắp tới

Các danh mục liên quan