Đề cương khóa học
Giới Thiệu về AI Inference với Docker
- Hiểu biết về công việc AI inference
- Lợi ích của inference được container hóa
- Các kịch bản và ràng buộc triển khai
Xây Dựng Container AI Inference
- Chọn ảnh cơ sở và framework
- Gói các mô hình đã được huấn luyện
- Cấu trúc mã inference cho việc thực thi container
Bảo Mật Dịch Vụ AI Containerized
- Giảm thiểu mặt tấn công của container
- Quản lý bí mật và các tệp nhạy cảm
- Chiến lược mạng an toàn và phơi bày API
Kỹ Thuật Triển Khai Di Động
- Tối ưu hóa hình ảnh cho khả năng di động
- Đảm bảo môi trường chạy thời gian dự đoán
- Quản lý các phụ thuộc trên các nền tảng khác nhau
Triển Khai và Kiểm Thử Bản Địa
- Chạy dịch vụ bản địa với Docker
- Gỡ lỗi container inference
- Kiểm thử hiệu suất và độ tin cậy
Triển Khai trên Máy Chủ và VM Cloud
- Thích ứng container cho các môi trường từ xa
- Cấu hình truy cập máy chủ an toàn
- Triển khai API inference trên VM cloud
Sử Dụng Docker Compose cho Hệ Thống AI Đa Dịch Vụ
- Quản lý inference với các thành phần hỗ trợ
- Quản lý biến môi trường và cấu hình
- Tăng cường microservices với Compose
Giám Sát và Bảo Trì Dịch Vụ AI Inference
- Các phương pháp ghi log và theo dõi
- Phát hiện sự cố trong các chuỗi inference
- Cập nhật và quản lý phiên bản mô hình trong môi trường sản xuất
Tóm Tắt và Các Bước Tiếp Theo
Yêu cầu
- Hiểu biết về các khái niệm cơ bản của machine learning
- Kinh nghiệm với Python hoặc phát triển backend
- Am hiểu các khái niệm container cơ bản
Đối Tượng Học Viên
- Các nhà phát triển
- Kỹ sư backend
- Đội ngũ triển khai dịch vụ AI
Đánh giá (3)
Cách giảng viên truyền đạt kiến thức một cách hiệu quả
Vu Thoai Le - Reply Polska sp. z o. o.
Khóa học - Certified Kubernetes Administrator (CKA) - exam preparation
Dịch thuật bằng máy
giảng viên có rất nhiều kiến thức và sự kiên nhẫn để chia sẻ với chúng tôi
Bogdan Olaru
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Kiến thức và sự trao đổi với Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy