Liên hệ với chúng tôi

Đề cương khóa học

Nền tảng của Triển khai AI Lai

  • Hiểu mô hình triển khai lai, đám mây và edge
  • Đặc điểm tác vụ AI và các ràng buộc về cơ sở hạ tầng
  • Lựa chọn kiến trúc triển khai phù hợp

Đóng gói Tác vụ AI thành Container với Docker

  • Xây dựng container suy luận sử dụng GPU và CPU
  • Quản lý hình ảnh (images) và kho lưu trữ registries an toàn
  • Xây dựng môi trường tái lập cho AI

Triển khai Dịch vụ AI lên Đám mây

  • Chạy suy luận trên AWS, Azure và GCP thông qua Docker
  • Cấp phát tài nguyên tính toán đám mây để phục vụ mô hình
  • Bảo mật các điểm cuối AI trên đám mây

Kỹ thuật Triển khai tại Edge và Nội bộ

  • Chạy AI trên thiết bị IoT, gateway và microserver
  • Các runtime nhẹ cho môi trường edge
  • Quản lý kết nối gián đoạn và lưu trữ cục bộ

Mạng Lai và Kết nối An toàn

  • Tạo đường hầm bảo mật giữa edge và đám mây
  • Chứng chỉ, bí mật (secrets) và quyền truy cập dựa trên token
  • Tinh chỉnh hiệu năng cho suy luận có độ trễ thấp

Điều phối Triển khai AI Phân tán

  • Sử dụng K3s, K8s hoặc công cụ điều phối nhẹ cho mô hình lai
  • Khám phá dịch vụ và lên lịch tác vụ
  • Tự động hóa chiến lược triển khai ở nhiều vị trí

Giám sát và Khả năng quan sát trên Nhiều Môi trường

  • The dõi hiệu suất suy luận tại các địa điểm khác nhau
  • Gửi nhật ký tập trung cho hệ thống AI lai
  • Phát hiện lỗi và phục hồi tự động

Mở rộng và Tối ưu hóa Hệ thống AI Lai

  • Mở rộng cụm edge và các node đám mây
  • Tối ưu hóa việc sử dụng băng thông và cơ chế cache
  • Cân bằng tải xử lý giữa đám mây và edge

Tổng kết và Các Bước Tiếp theo

Yêu cầu

  • Hiểu biết về khái niệm containerization
  • Kinh nghiệm sử dụng dòng lệnh Linux
  • Tiếp xúc với quy trình triển khai mô hình AI

Đối tượng

  • Kiến trúc sư hạ tầng
  • Kỹ sư Độ tin cậy Trang thiết bị (SREs)
  • Phát triển viên Edge và IoT
 21 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (3)

Các khóa học sắp tới

Các danh mục liên quan