Đề cương khóa học

Giới Thiệu về AI Inference với Docker

  • Hiểu biết về công việc AI inference
  • Lợi ích của inference được container hóa
  • Các kịch bản và ràng buộc triển khai

Xây Dựng Container AI Inference

  • Chọn ảnh cơ sở và framework
  • Gói các mô hình đã được huấn luyện
  • Cấu trúc mã inference cho việc thực thi container

Bảo Mật Dịch Vụ AI Containerized

  • Giảm thiểu mặt tấn công của container
  • Quản lý bí mật và các tệp nhạy cảm
  • Chiến lược mạng an toàn và phơi bày API

Kỹ Thuật Triển Khai Di Động

  • Tối ưu hóa hình ảnh cho khả năng di động
  • Đảm bảo môi trường chạy thời gian dự đoán
  • Quản lý các phụ thuộc trên các nền tảng khác nhau

Triển Khai và Kiểm Thử Bản Địa

  • Chạy dịch vụ bản địa với Docker
  • Gỡ lỗi container inference
  • Kiểm thử hiệu suất và độ tin cậy

Triển Khai trên Máy Chủ và VM Cloud

  • Thích ứng container cho các môi trường từ xa
  • Cấu hình truy cập máy chủ an toàn
  • Triển khai API inference trên VM cloud

Sử Dụng Docker Compose cho Hệ Thống AI Đa Dịch Vụ

  • Quản lý inference với các thành phần hỗ trợ
  • Quản lý biến môi trường và cấu hình
  • Tăng cường microservices với Compose

Giám Sát và Bảo Trì Dịch Vụ AI Inference

  • Các phương pháp ghi log và theo dõi
  • Phát hiện sự cố trong các chuỗi inference
  • Cập nhật và quản lý phiên bản mô hình trong môi trường sản xuất

Tóm Tắt và Các Bước Tiếp Theo

Yêu cầu

  • Hiểu biết về các khái niệm cơ bản của machine learning
  • Kinh nghiệm với Python hoặc phát triển backend
  • Am hiểu các khái niệm container cơ bản

Đối Tượng Học Viên

  • Các nhà phát triển
  • Kỹ sư backend
  • Đội ngũ triển khai dịch vụ AI
 14 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Đánh giá (5)

Các khóa học sắp tới

Các danh mục liên quan