Đề cương khóa học
Giới Thiệu về AI Inference với Docker
- Hiểu biết về công việc AI inference
- Lợi ích của inference được container hóa
- Các kịch bản và ràng buộc triển khai
Xây Dựng Container AI Inference
- Chọn ảnh cơ sở và framework
- Gói các mô hình đã được huấn luyện
- Cấu trúc mã inference cho việc thực thi container
Bảo Mật Dịch Vụ AI Containerized
- Giảm thiểu mặt tấn công của container
- Quản lý bí mật và các tệp nhạy cảm
- Chiến lược mạng an toàn và phơi bày API
Kỹ Thuật Triển Khai Di Động
- Tối ưu hóa hình ảnh cho khả năng di động
- Đảm bảo môi trường chạy thời gian dự đoán
- Quản lý các phụ thuộc trên các nền tảng khác nhau
Triển Khai và Kiểm Thử Bản Địa
- Chạy dịch vụ bản địa với Docker
- Gỡ lỗi container inference
- Kiểm thử hiệu suất và độ tin cậy
Triển Khai trên Máy Chủ và VM Cloud
- Thích ứng container cho các môi trường từ xa
- Cấu hình truy cập máy chủ an toàn
- Triển khai API inference trên VM cloud
Sử Dụng Docker Compose cho Hệ Thống AI Đa Dịch Vụ
- Quản lý inference với các thành phần hỗ trợ
- Quản lý biến môi trường và cấu hình
- Tăng cường microservices với Compose
Giám Sát và Bảo Trì Dịch Vụ AI Inference
- Các phương pháp ghi log và theo dõi
- Phát hiện sự cố trong các chuỗi inference
- Cập nhật và quản lý phiên bản mô hình trong môi trường sản xuất
Tóm Tắt và Các Bước Tiếp Theo
Yêu cầu
- Hiểu biết về các khái niệm cơ bản của machine learning
- Kinh nghiệm với Python hoặc phát triển backend
- Am hiểu các khái niệm container cơ bản
Đối Tượng Học Viên
- Các nhà phát triển
- Kỹ sư backend
- Đội ngũ triển khai dịch vụ AI
Đánh giá (5)
Ông đã giải thích mọi thứ, không chỉ là các khái niệm về k8s.
Stefan Voinea - EMAG IT Research S.R.L
Khóa học - Certified Kubernetes Application Developer (CKAD) - exam preparation
Dịch thuật bằng máy
Sâu sắc của kiến thức của người hướng dẫn
Grant Miller - BMW
Khóa học - Certified Kubernetes Administrator (CKA) - exam preparation
Dịch thuật bằng máy
Rất bổ ích và súc tích. Thực hành trực tiếp
Gil Matias - FINEOS
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Nội dung xuất sắc
Alan Kavanagh - FINEOS Corporation Ltd
Khóa học - Docker from Basic to Advanced
Dịch thuật bằng máy
Các phòng thí nghiệm và các cuộc thảo luận kỹ thuật.
Dinesh Panchal - AXA XL
Khóa học - Advanced Docker
Dịch thuật bằng máy