Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Nền tảng của Triển khai AI Lai
- Hiểu mô hình triển khai lai, đám mây và edge
- Đặc điểm tác vụ AI và các ràng buộc về cơ sở hạ tầng
- Lựa chọn kiến trúc triển khai phù hợp
Đóng gói Tác vụ AI thành Container với Docker
- Xây dựng container suy luận sử dụng GPU và CPU
- Quản lý hình ảnh (images) và kho lưu trữ registries an toàn
- Xây dựng môi trường tái lập cho AI
Triển khai Dịch vụ AI lên Đám mây
- Chạy suy luận trên AWS, Azure và GCP thông qua Docker
- Cấp phát tài nguyên tính toán đám mây để phục vụ mô hình
- Bảo mật các điểm cuối AI trên đám mây
Kỹ thuật Triển khai tại Edge và Nội bộ
- Chạy AI trên thiết bị IoT, gateway và microserver
- Các runtime nhẹ cho môi trường edge
- Quản lý kết nối gián đoạn và lưu trữ cục bộ
Mạng Lai và Kết nối An toàn
- Tạo đường hầm bảo mật giữa edge và đám mây
- Chứng chỉ, bí mật (secrets) và quyền truy cập dựa trên token
- Tinh chỉnh hiệu năng cho suy luận có độ trễ thấp
Điều phối Triển khai AI Phân tán
- Sử dụng K3s, K8s hoặc công cụ điều phối nhẹ cho mô hình lai
- Khám phá dịch vụ và lên lịch tác vụ
- Tự động hóa chiến lược triển khai ở nhiều vị trí
Giám sát và Khả năng quan sát trên Nhiều Môi trường
- The dõi hiệu suất suy luận tại các địa điểm khác nhau
- Gửi nhật ký tập trung cho hệ thống AI lai
- Phát hiện lỗi và phục hồi tự động
Mở rộng và Tối ưu hóa Hệ thống AI Lai
- Mở rộng cụm edge và các node đám mây
- Tối ưu hóa việc sử dụng băng thông và cơ chế cache
- Cân bằng tải xử lý giữa đám mây và edge
Tổng kết và Các Bước Tiếp theo
Yêu cầu
- Hiểu biết về khái niệm containerization
- Kinh nghiệm sử dụng dòng lệnh Linux
- Tiếp xúc với quy trình triển khai mô hình AI
Đối tượng
- Kiến trúc sư hạ tầng
- Kỹ sư Độ tin cậy Trang thiết bị (SREs)
- Phát triển viên Edge và IoT
21 Giờ
Đánh giá (3)
Cách giảng viên truyền đạt kiến thức một cách hiệu quả
Vu Thoai Le - Reply Polska sp. z o. o.
Khóa học - Certified Kubernetes Administrator (CKA) - exam preparation
Dịch thuật bằng máy
giảng viên có rất nhiều kiến thức và sự kiên nhẫn để chia sẻ với chúng tôi
Bogdan Olaru
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Kiến thức và sự trao đổi với Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy