Đề cương khóa học
Cơ Sở của Triển Khai AI Hỗn Hợp
- Hiểu biết về các mô hình triển khai hỗn hợp, đám mây và viền
- Đặc điểm công việc AI và ràng buộc hạ tầng
- Chọn cách triển khai phù hợp
Container hóa Công Việc AI với Docker
- Xây dựng container suy luận GPU và CPU
- Quản lý hình ảnh an toàn và registry
- Thực hiện môi trường tái tạo cho AI
Triển Khai Dịch Vụ AI lên Môi Trường Đám Mây
- Chạy suy luận trên AWS, Azure, và GCP thông qua Docker
- Cung cấp máy tính đám mây cho việc phục vụ mô hình
- Bảo mật các điểm cuối AI dựa trên đám mây
Kỹ Thuật Triển Khai Viền và Tại Chỗ
- Chạy AI trên thiết bị IoT, gateway, và microserver
- Môi trường chạy nhẹ cho viền
- Quản lý kết nối gián đoạn và sự kiên trì cục bộ
Mạng Hỗn Hợp và Kết Nối An Toàn
- Đường hầm an toàn giữa viền và đám mây
- Chứng chỉ, bí mật và truy cập dựa trên token
- Điều chỉnh hiệu suất cho suy luận độ trễ thấp
Quản Lý Triển Khai AI Phân Tán
- Sử dụng K3s, K8s, hoặc tự động hóa nhẹ cho các cấu hình hỗn hợp
- Phát hiện dịch vụ và lập lịch công việc
- Tự động hóa chiến lược triển khai đa địa điểm
Giám Sát và Quan sát Across Environments
- Theo dõi hiệu suất suy luận trên các địa điểm
- Ghi log tập trung cho hệ thống AI hỗn hợp
- Phát hiện lỗi và phục hồi tự động
Mở Rộng và Tối Ưu Hóa Hệ Thống AI Hỗn Hợp
- Mở rộng cụm viền và nút đám mây
- Tối ưu hóa việc sử dụng băng thông và bộ đệm
- Cân bằng tải tính toán giữa đám mây và viền
Tổng Kết và Các Bước Tiếp Theo
Yêu cầu
- Hiểu biết về các khái niệm containerization
- Kinh nghiệm với các thao tác dòng lệnh Linux
- Quen thuộc với quy trình triển khai mô hình AI
Đối Tượng
- Kiến trúc sư hạ tầng
- Kỹ sư Độ tin cậy Trang web (SREs)
- Lập trình viên Viền và IoT
Đánh giá (5)
OC là mới với chúng tôi và chúng tôi đã học được rất nhiều, các phòng lab thật xuất sắc
sharkey dollie
Khóa học - OpenShift 4 for Administrators
Dịch thuật bằng máy
Rất thông tin và đi thẳng vào vấn đề. Thực hành thực tế
Gil Matias - FINEOS
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Các phòng thí nghiệm và thảo luận kỹ thuật.
Dinesh Panchal - AXA XL
Khóa học - Advanced Docker
Dịch thuật bằng máy
Nó đã cung cấp một nền tảng tốt cho Docker và Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Khóa học - Docker (introducing Kubernetes)
Dịch thuật bằng máy
Tôi chủ yếu thích kiến thức mà người hướng dẫn truyền đạt.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Khóa học - Docker, Kubernetes and OpenShift for Developers
Dịch thuật bằng máy