Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Giới thiệu về triển khai sản xuất
- Những thách thức chính trong việc triển khai các mô hình đã được tinh chỉnh
- Sự khác biệt giữa môi trường phát triển và môi trường sản xuất
- Công cụ và nền tảng để triển khai mô hình
Chuẩn bị mô hình để triển khai
- Xuất mô hình ở các định dạng tiêu chuẩn (ONNX, TensorFlow SavedModel, v.v.)
- Tối ưu hóa mô hình để có độ trễ và thông lượng thấp
- Kiểm tra mô hình trên các trường hợp biên và dữ liệu thực tế
Container hóa để triển khai mô hình
- Giới thiệu về Docker
- Tạo ảnh Docker cho các mô hình ML
- Các phương pháp hay nhất để bảo mật và hiệu quả của container
Mở rộng quy mô triển khai với Kubernetes
- Giới thiệu về Kubernetes cho khối lượng công việc AI
- Thiết lập cụm Kubernetes để lưu trữ mô hình
- Cân bằng tải và mở rộng ngang
Giám sát và bảo trì mô hình
- Triển khai giám sát với Prometheus và Grafana
- Ghi nhật ký tự động để theo dõi lỗi và hiệu suất
- Quy trình đào tạo lại để khắc phục hiện tượng trôi mô hình và cập nhật
Đảm bảo bảo mật trong sản xuất
- Bảo mật API để suy luận mô hình
- Cơ chế xác thực và ủy quyền
- Giải quyết các vấn đề về quyền riêng tư dữ liệu
Nghiên cứu điển hình và phòng thí nghiệm thực hành
- Triển khai mô hình phân tích tình cảm
- Mở rộng quy mô dịch vụ dịch máy
- Triển khai giám sát cho các mô hình phân loại hình ảnh
Tóm tắt và các bước tiếp theo
Yêu cầu
- Hiểu biết vững chắc về quy trình học máy
- Có kinh nghiệm điều chỉnh các mô hình ML
- Làm quen với các nguyên tắc DevOps hoặc MLOps
Đối tượng
- Kỹ sư DevOps
- Chuyên gia thực hành MLOps
- Chuyên gia triển khai AI
21 Giờ học
Đánh giá (1)
Có nhiều bài tập thực hành được hướng dẫn và hỗ trợ bởi giảng viên.
Aleksandra - Fundacja PTA
Khóa học - Mastering Make: Advanced Workflow Automation and Optimization
Dịch thuật bằng máy
