Đề cương khóa học
Cơ Sở của Triển Khai AI Hỗn Hợp
- Hiểu biết về các mô hình triển khai hỗn hợp, đám mây và viền
- Đặc điểm công việc AI và ràng buộc hạ tầng
- Chọn cách triển khai phù hợp
Container hóa Công Việc AI với Docker
- Xây dựng container suy luận GPU và CPU
- Quản lý hình ảnh an toàn và registry
- Thực hiện môi trường tái tạo cho AI
Triển Khai Dịch Vụ AI lên Môi Trường Đám Mây
- Chạy suy luận trên AWS, Azure, và GCP thông qua Docker
- Cung cấp máy tính đám mây cho việc phục vụ mô hình
- Bảo mật các điểm cuối AI dựa trên đám mây
Kỹ Thuật Triển Khai Viền và Tại Chỗ
- Chạy AI trên thiết bị IoT, gateway, và microserver
- Môi trường chạy nhẹ cho viền
- Quản lý kết nối gián đoạn và sự kiên trì cục bộ
Mạng Hỗn Hợp và Kết Nối An Toàn
- Đường hầm an toàn giữa viền và đám mây
- Chứng chỉ, bí mật và truy cập dựa trên token
- Điều chỉnh hiệu suất cho suy luận độ trễ thấp
Quản Lý Triển Khai AI Phân Tán
- Sử dụng K3s, K8s, hoặc tự động hóa nhẹ cho các cấu hình hỗn hợp
- Phát hiện dịch vụ và lập lịch công việc
- Tự động hóa chiến lược triển khai đa địa điểm
Giám Sát và Quan sát Across Environments
- Theo dõi hiệu suất suy luận trên các địa điểm
- Ghi log tập trung cho hệ thống AI hỗn hợp
- Phát hiện lỗi và phục hồi tự động
Mở Rộng và Tối Ưu Hóa Hệ Thống AI Hỗn Hợp
- Mở rộng cụm viền và nút đám mây
- Tối ưu hóa việc sử dụng băng thông và bộ đệm
- Cân bằng tải tính toán giữa đám mây và viền
Tổng Kết và Các Bước Tiếp Theo
Yêu cầu
- Hiểu biết về các khái niệm containerization
- Kinh nghiệm với các thao tác dòng lệnh Linux
- Quen thuộc với quy trình triển khai mô hình AI
Đối Tượng
- Kiến trúc sư hạ tầng
- Kỹ sư Độ tin cậy Trang web (SREs)
- Lập trình viên Viền và IoT
Đánh giá (5)
Ông đã giải thích mọi thứ, không chỉ là các khái niệm về k8s.
Stefan Voinea - EMAG IT Research S.R.L
Khóa học - Certified Kubernetes Application Developer (CKAD) - exam preparation
Dịch thuật bằng máy
Sâu sắc của kiến thức của người hướng dẫn
Grant Miller - BMW
Khóa học - Certified Kubernetes Administrator (CKA) - exam preparation
Dịch thuật bằng máy
Rất bổ ích và súc tích. Thực hành trực tiếp
Gil Matias - FINEOS
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Nội dung xuất sắc
Alan Kavanagh - FINEOS Corporation Ltd
Khóa học - Docker from Basic to Advanced
Dịch thuật bằng máy
Các phòng thí nghiệm và các cuộc thảo luận kỹ thuật.
Dinesh Panchal - AXA XL
Khóa học - Advanced Docker
Dịch thuật bằng máy