Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Đề cương khóa học
Giới thiệu về triển khai AI
- Tổng quan về vòng đời triển khai AI
- Thách thức trong việc triển khai các tác nhân AI vào sản xuất
- Các cân nhắc chính: khả năng mở rộng, độ tin cậy và khả năng bảo trì
Container hóa và Điều phối
- Giới thiệu về Docker và các nguyên tắc cơ bản của container hóa
- Sử dụng Kubernetes để điều phối các tác nhân AI
- Các phương pháp hay nhất để quản lý các ứng dụng AI được container hóa
Phục vụ Mô hình AI
- Tổng quan về các khung phục vụ mô hình (ví dụ: TensorFlow Serving, TorchServe)
- Xây dựng REST API cho suy luận của tác nhân AI
- Xử lý dự đoán theo lô so với dự đoán thời gian thực
CI/CD cho AI Agents
- Thiết lập quy trình CI/CD cho triển khai AI
- Tự động hóa kiểm tra và xác thực mô hình AI
- Cập nhật dần dần và quản lý kiểm soát phiên bản
Giám sát và Tối ưu hóa
- Triển khai các công cụ giám sát hiệu suất của tác nhân AI
- Phân tích sự trôi dạt của mô hình và nhu cầu đào tạo lại
- Tối ưu hóa việc sử dụng tài nguyên và khả năng mở rộng
Bảo mật và Governance
- Đảm bảo tuân thủ các quy định về quyền riêng tư dữ liệu
- Bảo mật quy trình triển khai và API
- Kiểm toán và ghi nhật ký cho các ứng dụng AI
Thực hành Activities
- Container hóa một tác nhân AI với Docker
- Triển khai một tác nhân AI bằng Kubernetes
- Thiết lập giám sát hiệu suất và sử dụng tài nguyên của AI
Tóm tắt và Các bước tiếp theo
Requirements
- Thông thạo ngôn ngữ lập trình Python
- Hiểu rõ quy trình làm việc của học máy
- Làm quen với các công cụ đóng gói ứng dụng như Docker
- Có kinh nghiệm với các phương pháp thực hành DevOps (khuyến nghị)
Đối tượng
- Kỹ sư MLOps
- Chuyên gia DevOps
14 Hours
Testimonials (1)
Giảng viên trả lời câu hỏi một cách linh hoạt.
Adrian
Course - Agentic AI Unleashed: Crafting LLM Applications with AutoGen
Machine Translated