Đề cương khóa học

Cơ Sở của Triển Khai AI Hỗn Hợp

  • Hiểu biết về các mô hình triển khai hỗn hợp, đám mây và viền
  • Đặc điểm công việc AI và ràng buộc hạ tầng
  • Chọn cách triển khai phù hợp

Container hóa Công Việc AI với Docker

  • Xây dựng container suy luận GPU và CPU
  • Quản lý hình ảnh an toàn và registry
  • Thực hiện môi trường tái tạo cho AI

Triển Khai Dịch Vụ AI lên Môi Trường Đám Mây

  • Chạy suy luận trên AWS, Azure, và GCP thông qua Docker
  • Cung cấp máy tính đám mây cho việc phục vụ mô hình
  • Bảo mật các điểm cuối AI dựa trên đám mây

Kỹ Thuật Triển Khai Viền và Tại Chỗ

  • Chạy AI trên thiết bị IoT, gateway, và microserver
  • Môi trường chạy nhẹ cho viền
  • Quản lý kết nối gián đoạn và sự kiên trì cục bộ

Mạng Hỗn Hợp và Kết Nối An Toàn

  • Đường hầm an toàn giữa viền và đám mây
  • Chứng chỉ, bí mật và truy cập dựa trên token
  • Điều chỉnh hiệu suất cho suy luận độ trễ thấp

Quản Lý Triển Khai AI Phân Tán

  • Sử dụng K3s, K8s, hoặc tự động hóa nhẹ cho các cấu hình hỗn hợp
  • Phát hiện dịch vụ và lập lịch công việc
  • Tự động hóa chiến lược triển khai đa địa điểm

Giám Sát và Quan sát Across Environments

  • Theo dõi hiệu suất suy luận trên các địa điểm
  • Ghi log tập trung cho hệ thống AI hỗn hợp
  • Phát hiện lỗi và phục hồi tự động

Mở Rộng và Tối Ưu Hóa Hệ Thống AI Hỗn Hợp

  • Mở rộng cụm viền và nút đám mây
  • Tối ưu hóa việc sử dụng băng thông và bộ đệm
  • Cân bằng tải tính toán giữa đám mây và viền

Tổng Kết và Các Bước Tiếp Theo

Yêu cầu

  • Hiểu biết về các khái niệm containerization
  • Kinh nghiệm với các thao tác dòng lệnh Linux
  • Quen thuộc với quy trình triển khai mô hình AI

Đối Tượng

  • Kiến trúc sư hạ tầng
  • Kỹ sư Độ tin cậy Trang web (SREs)
  • Lập trình viên Viền và IoT
 21 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Đánh giá (5)

Các khóa học sắp tới

Các danh mục liên quan