Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Triển khai AI

  • Tổng quan về vòng đời triển khai AI
  • Thách thức khi triển khai AI agents vào môi trường sản xuất
  • Các yếu tố quan trọng: khả năng mở rộng, độ tin cậy và khả năng bảo trì

Đóng gói (Containerization) và Điều phối (Orchestration)

  • Giới thiệu về Docker và cơ bản về đóng gói
  • Sử dụng Kubernetes để điều phối AI agents
  • Các thực tiễn tốt nhất để quản lý ứng dụng AI được đóng gói

Cung cấp Mô hình AI (Serving AI Models)

  • Tổng quan về các framework phục vụ mô hình (ví dụ: TensorFlow Serving, TorchServe)
  • Xây dựng REST API cho suy luận (inference) của AI agents
  • Xử lý dự đoán theo lô (batch) so với dự đoán thời gian thực (real-time)

CI/CD cho AI Agents

  • Cấu hình các pipeline CI/CD cho triển khai AI
  • Tự động hóa kiểm thử và xác thực các mô hình AI
  • Cập nhật dần dần (rolling updates) và quản lý phiên bản

Theo dõi và Tối ưu hóa

  • Triển khai các công cụ theo dõi hiệu suất AI agents
  • Phân tích sự dịch chuyển mô hình (model drift) và nhu cầu huấn luyện lại
  • Tối ưu hóa việc sử dụng tài nguyên và khả năng mở rộng

Bảo mật và Quản trị

  • Đảm bảo tuân thủ các quy định về quyền riêng tư dữ liệu
  • Bảo mật các pipeline triển khai AI và API
  • Thẩm định và ghi log cho các ứng dụng AI

Hoạt động Thực hành

  • Đóng gói một AI agent bằng Docker
  • Triển khai một AI agent sử dụng Kubernetes
  • Cấu hình theo dõi hiệu suất AI và mức sử dụng tài nguyên

Tóm tắt và Các bước Tiếp theo

Yêu cầu

  • Thành thạo lập trình Python
  • Hiểu biết về quy trình làm việc (workflow) của machine learning
  • Quen thuộc với các công cụ đóng gói (containerization) như Docker
  • Kinh nghiệm với các thực tiễn DevOps (khuyến khích)

Đối tượng

  • Kỹ sư MLOps
  • Chuyên gia DevOps
 14 Giờ

Số người tham gia


Giá cho mỗi học viên

Các khóa học sắp tới

Các danh mục liên quan