Đề cương khóa học
Cơ Sở của Triển Khai AI Hỗn Hợp
- Hiểu biết về các mô hình triển khai hỗn hợp, đám mây và viền
- Đặc điểm công việc AI và ràng buộc hạ tầng
- Chọn cách triển khai phù hợp
Container hóa Công Việc AI với Docker
- Xây dựng container suy luận GPU và CPU
- Quản lý hình ảnh an toàn và registry
- Thực hiện môi trường tái tạo cho AI
Triển Khai Dịch Vụ AI lên Môi Trường Đám Mây
- Chạy suy luận trên AWS, Azure, và GCP thông qua Docker
- Cung cấp máy tính đám mây cho việc phục vụ mô hình
- Bảo mật các điểm cuối AI dựa trên đám mây
Kỹ Thuật Triển Khai Viền và Tại Chỗ
- Chạy AI trên thiết bị IoT, gateway, và microserver
- Môi trường chạy nhẹ cho viền
- Quản lý kết nối gián đoạn và sự kiên trì cục bộ
Mạng Hỗn Hợp và Kết Nối An Toàn
- Đường hầm an toàn giữa viền và đám mây
- Chứng chỉ, bí mật và truy cập dựa trên token
- Điều chỉnh hiệu suất cho suy luận độ trễ thấp
Quản Lý Triển Khai AI Phân Tán
- Sử dụng K3s, K8s, hoặc tự động hóa nhẹ cho các cấu hình hỗn hợp
- Phát hiện dịch vụ và lập lịch công việc
- Tự động hóa chiến lược triển khai đa địa điểm
Giám Sát và Quan sát Across Environments
- Theo dõi hiệu suất suy luận trên các địa điểm
- Ghi log tập trung cho hệ thống AI hỗn hợp
- Phát hiện lỗi và phục hồi tự động
Mở Rộng và Tối Ưu Hóa Hệ Thống AI Hỗn Hợp
- Mở rộng cụm viền và nút đám mây
- Tối ưu hóa việc sử dụng băng thông và bộ đệm
- Cân bằng tải tính toán giữa đám mây và viền
Tổng Kết và Các Bước Tiếp Theo
Yêu cầu
- Hiểu biết về các khái niệm containerization
- Kinh nghiệm với các thao tác dòng lệnh Linux
- Quen thuộc với quy trình triển khai mô hình AI
Đối Tượng
- Kiến trúc sư hạ tầng
- Kỹ sư Độ tin cậy Trang web (SREs)
- Lập trình viên Viền và IoT
Đánh giá (3)
Cách giảng viên truyền đạt kiến thức một cách hiệu quả
Vu Thoai Le - Reply Polska sp. z o. o.
Khóa học - Certified Kubernetes Administrator (CKA) - exam preparation
Dịch thuật bằng máy
giảng viên có rất nhiều kiến thức và sự kiên nhẫn để chia sẻ với chúng tôi
Bogdan Olaru
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Kiến thức và sự trao đổi với Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy