Đề cương khóa học

Giới thiệu về trình bày AI

  • Tổng quan vừa chùng trình bày AI
  • Thách thức trong quá trình triển khai các AI agent vào sản xuất
  • Các yếu tức quan trọng: khả năng mở rộng, tin cậy và khả năng bảo trì

Containerization và Orchestration

  • Giới thiệu về Docker và các khái niệm cơ bản về containerization
  • Sử dụng Kubernetes để quản lý các AI agent
  • Các tiện ích tốt nhất cho việc quản lý các ứng dụng AI được container hóa

Triển khai mô hình AI

  • Tổng quan về các khung triển khai mô hình (ví dụ: TensorFlow Serving, TorchServe)
  • Xây dựng REST APIs cho AI agent inference
  • Xử lý dự đoán theo lô hoặc thời gian thực

CI/CD cho AI Agents

  • Cài đặt pipeline CI/CD cho triển khai AI
  • Tự động hóa kiểm tra và xác minh các mô hình AI
  • Cập nhật cuộn và quản lý kiểm soát phiên bản

Giám sát và tối ưu hóa

  • Triển khai các công cụ giám sát cho hiệu suất AI agent
  • Phân tích sự dịch chuyển mô hình và nhu cầu huấn luyện lại
  • Tối ưu hóa sử dụng tài nguyên và khả năng mở rộng

An toàn và quản trị

  • Đảm bảo tuân thủ các quy định bảo mật dữ liệu
  • Bảo mật các pipeline triển khai AI và APIs
  • Kiểm toán và ghi log cho các ứng dụng AI

Các hoạt động thực tiễn

  • Container hóa một AI agent với Docker
  • Triển khai một AI agent sử dụng Kubernetes
  • Cài đặt giám sát cho hiệu suất AI và sử dụng tài nguyên

Tóm lược và bước tiếp theo

Requirements

  • Sở trường về lập trình Python
  • Hiểu biết về quy trình học máy
  • Quan niệm về các công cụ đóng gói như Docker
  • Kinh nghiệm với các thực hành DevOps (khuyến nghị)

Đối tượng

  • Kỹ sư MLOps
  • Chuyên gia DevOps
 14 Hours

Number of participants


Price per participant

Testimonials (1)

Upcoming Courses

Related Categories