Đề cương khóa học
Giới thiệu về Tối ưu hóa và Triển khai Mô hình
- Tổng quan về các mô hình DeepSeek và các thách thức khi triển khai
- Hiểu về hiệu quả của mô hình: tốc độ so với độ chính xác
- Các chỉ số hiệu suất chính cho mô hình AI
Tối ưu hóa Mô hình DeepSeek để đạt Hiệu suất
- Các kỹ thuật để giảm độ trễ suy luận
- Chiến lược lượng tử hóa và cắt tỉa mô hình
- Sử dụng các thư viện tối ưu hóa cho mô hình DeepSeek
Triển khai MLOps cho Mô hình DeepSeek
- Kiểm soát phiên bản và theo dõi mô hình
- Tự động hóa việc tái huấn luyện và triển khai mô hình
- Quy trình CI/CD cho các ứng dụng AI
Triển khai Mô hình DeepSeek trong Môi trường Cloud và On-Premise
- Chọn cơ sở hạ tầng phù hợp để triển khai
- Triển khai với Docker và Kubernetes
- Quản lý quyền truy cập API và xác thực
Mở rộng và Giám sát Triển khai AI
- Chiến lược cân bằng tải cho các dịch vụ AI
- Giám sát sự trôi dạt của mô hình và hiệu suất suy giảm
- Triển khai tự động mở rộng quy mô cho các ứng dụng AI
Đảm bảo Bảo mật và Tuân thủ trong Triển khai AI
- Quản lý quyền riêng tư dữ liệu trong quy trình AI
- Tuân thủ các quy định AI của doanh nghiệp
- Các phương pháp hay nhất để triển khai AI an toàn
Xu hướng Tương lai và Chiến lược Tối ưu hóa AI
- Những tiến bộ trong các kỹ thuật tối ưu hóa mô hình AI
- Xu hướng mới nổi trong MLOps và cơ sở hạ tầng AI
- Xây dựng lộ trình triển khai AI
Tóm tắt và Các Bước Tiếp Theo
Requirements
- Kinh nghiệm triển khai mô hình AI và cơ sở hạ tầng đám mây
- Thông thạo một ngôn ngữ lập trình (ví dụ: Python, Java, C++)
- Hiểu biết về MLOps và tối ưu hóa hiệu suất mô hình
Đối tượng
- Kỹ sư AI tối ưu hóa và triển khai mô hình DeepSeek
- Nhà khoa học dữ liệu làm việc về điều chỉnh hiệu suất AI
- Chuyên gia học máy quản lý hệ thống AI dựa trên đám mây
Testimonials (2)
hệ sinh thái ML không chỉ có MLFlow mà còn có Optuna, hyperops, docker và docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Course - MLflow
Machine Translated
Tôi đã rất thích tham gia khóa đào tạo Kubeflow được tổ chức trực tuyến. Khóa học này giúp tôi củng cố kiến thức về các dịch vụ AWS, K8s và tất cả các công cụ devOps xung quanh Kubeflow, những nền tảng cần thiết để tiếp cận chủ đề một cách hiệu quả. Tôi muốn cảm ơn Malawski Marcin vì sự kiên nhẫn và chuyên nghiệp trong việc đào tạo và tư vấn về các thực hành tốt nhất. Malawski tiếp cận chủ đề từ nhiều góc độ khác nhau, sử dụng các công cụ triển khai khác nhau như Ansible, EKS kubectl, Terraform. Bây giờ tôi hoàn toàn tin tưởng rằng mình đang đi đúng hướng trong lĩnh vực ứng dụng này.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Course - Kubeflow
Machine Translated