Liên hệ với chúng tôi
 Thời gian kéo dài 14 Giờ học

Đề cương khóa học

Giới thiệu về Suy luận AI với Docker

  • Hiểu về các workload suy luận AI
  • Lợi ích của suy luận được đóng gói container
  • Các kịch bản và ràng buộc triển khai

Xây dựng các Container Suy luận AI

  • Chọn các ảnh cơ sở (base images) và framework
  • Đóng gói các model đã được huấn luyện sẵn
  • Cấu trúc mã suy luận để chạy trong container

Bảo mật các Dịch vụ AI Đóng gói Container

  • Tối thiểu hóa bề mặt tấn công của container
  • Quản lý các bí mật (secrets) và tệp nhạy cảm
  • Chiến lược mạng an toàn và lộ API

Kỹ thuật Triển khai Di động

  • Tối ưu hóa các ảnh (images) để tăng tính di động
  • Đảm bảo môi trường chạy (runtime) có thể dự đoán được
  • Quản lý các phụ thuộc xuyên suốt các nền tảng

Triển khai và Kiểm thử Cục bộ

  • Chạy các dịch vụ cục bộ bằng Docker
  • Gỡ lỗi các container suy luận
  • Test hiệu suất và độ tin cậy

Triển khai trên Máy chủ và Máy ảo Đám mây

  • Điều chỉnh các container cho môi trường từ xa
  • Cấu hình truy cập máy chủ an toàn
  • Triển khai các API suy luận trên máy ảo đám mây

Sử dụng Docker Compose cho Các Hệ thống AI Đa Dịch vụ

  • Điều phối suy luận với các thành phần hỗ trợ
  • Quản lý biến môi trường và cấu hình
  • Mở rộng microservices với Compose

Giám sát và Bảo trì Dịch vụ Suy luận AI

  • Các phương pháp ghi log và khả năng quan sát (observability)
  • Phát hiện sự cố trong các pipeline suy luận
  • Cập nhật và quản lý phiên bản model trong môi trường sản xuất

Tóm tắt và Các Bước Tiếp theo

Yêu cầu

  • Hiểu biết về các khái niệm cơ bản của máy học
  • Kinh nghiệm làm việc với Python hoặc phát triển backend
  • Quen thuộc với các khái niệm cơ bản về container

Đối tượng tham gia

  • Lập trình viên
  • Kỹ sư backend
  • Các nhóm triển khai dịch vụ AI

Số người tham gia


Giá cho mỗi học viên

Đánh giá (2)

Các khóa học sắp tới

Các danh mục liên quan