Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Suy luận AI với Docker

  • Hiểu về tải trọng suy luận AI
  • Lợi ích của suy luận được đóng gói bằng container
  • Các kịch bản và ràng buộc triển khai

Xây dựng Container Suy luận AI

  • Chọn hình ảnh nền tảng và khung làm việc
  • Bao đóng gói các mô hình đã được huấn luyện trước
  • Cấu trúc mã suy luận để thực thi trong container

Bảo mật Dịch vụ AI được Đóng gói bằng Container

  • Giảm thiểu bề mặt tấn công của container
  • Quản lý bí mật và các tệp nhạy cảm
  • Các chiến lược kết nối mạng an toàn và phơi bày API

Kỹ thuật Triển di động

  • Tối ưu hóa hình ảnh để tăng tính di động
  • Đảm bảo môi trường thời gian chạy dự đoán được
  • Quản lý các phụ thuộc giữa nhiều nền tảng

Triển khai và Kiểm thử trên Máy Cục bộ

  • Chạy dịch vụ cục bộ với Docker
  • Gỡ lỗi container suy luận
  • Kiểm thử hiệu suất và độ tin cậy

Triển khai trên Máy chủ và Máy ảo Đám mây (VMs)

  • Điều chỉnh container cho môi trường từ xa
  • Cấu hình truy cập máy chủ an toàn
  • Triển khai API suy luận trên các máy ảo đám mây

Sử dụng Docker Compose cho Hệ thống AI Đa Dịch vụ

  • Điều phối suy luận với các thành phần hỗ trợ
  • Quản lý biến môi trường và cấu hình
  • Co giãn vi dịch vụ với Compose

Giám sát và Bảo trì Dịch vụ Suy luận AI

  • Các phương pháp ghi nhật ký và quan sát hệ thống
  • Xuất hiện sự cố trong các đường ống suy luận
  • Cập nhật và gắn phiên bản mô hình trong môi trường sản xuất

Tổng kết và Các Bước Tiếp theo

Yêu cầu

  • Hiểu biết về các khái niệm máy học cơ bản
  • Kinh nghiệm với Python hoặc phát triển backend
  • Làm quen với các khái niệm container nền tảng

Đối tượng tham dự

  • Nhà phát triển
  • Kỹ sư backend
  • Nhóm phụ trách triển khai dịch vụ AI
 14 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (3)

Các khóa học sắp tới

Các danh mục liên quan