Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Thời gian kéo dài 21 Giờ học
Đề cương khóa học
Nền tảng của Triển khai AI Hybrid
- Hiểu về các mô hình triển khai hybrid, cloud và edge
- Đặc điểm của tác vụ AI và các ràng buộc về hạ tầng
- Chọn cấu trúc triển khai phù hợp
Container hóa tác vụ AI với Docker
- Xây dựng các container suy luận GPU và CPU
- Quản lý các镜像 an toàn và registry
- Thực hiện các môi trường tái tạo được cho AI
Triển khai dịch vụ AI lên môi trường Cloud
- Chạy suy luận trên AWS, Azure và GCP thông qua Docker
- Cung cấp tài nguyên điện toán cloud cho việc phục vụ mô hình (model serving)
- Bảo mật các endpoint AI dựa trên cloud
Kỹ thuật triển khai Edge và On-Prem
- Chạy AI trên các thiết bị IoT, gateway và microserver
- Thời gian thực thi nhẹ cho môi trường edge
- Quản lý kết nối không liên tục và lưu trữ cục bộ
Lưới mạng Hybrid và Kết nối An toàn
- Đường hầm bảo mật giữa edge và cloud
- Chứng chỉ, bí mật (secrets) và truy cập dựa trên token
- Điều chỉnh hiệu suất cho suy luận độ trễ thấp
Điều phối các Triển khai AI Phân tán
- Sử dụng K3s, K8s hoặc các công cụ điều phối nhẹ cho cấu hình hybrid
- Phát hiện dịch vụ và lập lịch tác vụ
- Tự động hóa các chiến lược triển khai đa địa điểm
Giám sát và Khả năng quan sát xuyên suốt các Môi trường
- Theo dõi hiệu suất suy luận trên các địa điểm khác nhau
- Ghi log tập trung cho các hệ thống AI hybrid
- Phát hiện sự cố và tự động phục hồi
Mở rộng và Tối ưu Hệ thống AI Hybrid
- Mở rộng các cụm edge và nút cloud
- Tối ưu băng thông sử dụng và bộ nhớ đệm (caching)
- Cân bằng tải điện toán giữa cloud và edge
Tóm tắt và Các bước tiếp theo
Yêu cầu
- Hiểu biết về các khái niệm container hóa
- Kinh nghiệm với các thao tác dòng lệnh Linux
- Th quen với các luồng công việc triển khai mô hình AI
Đối tượng học viên
- Kiến trúc sư hạ tầng
- Kỹ sư Độ tin cậy điểm (Site Reliability Engineers - SREs)
- Nhà phát triển Edge và IoT
Đánh giá (2)
Như tôi đã đề cập trước đó, đối với một người như tôi (chưa có kinh nghiệm), đây chính là cánh cửa để bắt đầu hiểu rõ về các tính năng và chức năng của các chương trình/công cụ này, v.v.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy
chương trình khóa học được tổ chức theo nhiều cấp độ.
Bert Paelinckx - Cube SoftwareSolutions
Khóa học - Introduction to Docker
Dịch thuật bằng máy