Đề cương khóa học
Giới thiệu về tối ưu hóa và triển khai mô hình
- Tổng quan về các mô hình DeepSeek và các thách thức trong triển khai
- Hiểu về hiệu quả của mô hình: tốc độ so với độ chính xác
- Các chỉ số hiệu suất chính cho các mô hình AI
Tối ưu hóa mô hình DeepSeek để đạt hiệu suất
- Các kỹ thuật giảm độ trễ suy luận
- Các chiến lược lượng hóa và cắt tỉa mô hình
- Sử dụng các thư viện được tối ưu hóa cho mô hình DeepSeek
Triển khai MLOps cho các mô hình DeepSeek
- Quản lý phiên bản và theo dõi mô hình
- Tự động hóa việc huấn luyện lại và triển khai mô hình
- Các đường ống CI/CD cho các ứng dụng AI
Triển khai mô hình DeepSeek trong môi trường đám mây và tại chỗ
- Lựa chọn hạ tầng phù hợp cho triển khai
- Triển khai với Docker và Kubernetes
- Quản lý quyền truy cập API và xác thực
Mở rộng và giám sát các triển khai AI
- Các chiến lược cân bằng tải cho dịch vụ AI
- Giám sát hiện tượng trôi mô hình và suy giảm hiệu suất
- Triển khai tự động mở rộng quy mô cho các ứng dụng AI
Đảm bảo an ninh và tuân thủ trong các triển khai AI
- Quản lý quyền riêng tư dữ liệu trong các quy trình làm việc AI
- Tuân thủ các quy định về AI của doanh nghiệp
- Các phương pháp hay nhất để triển khai AI an toàn
Các xu hướng tương lai và chiến lược tối ưu hóa AI
- Các tiến bộ trong kỹ thuật tối ưu hóa mô hình AI
- Các xu hướng mới nổi trong MLOps và hạ tầng AI
- Xây dựng lộ trình triển khai AI
Tóm tắt và các bước tiếp theo
Yêu cầu
- Ekinh nghiệm triển khai mô hình AI và làm việc với hạ tầng đám mây
- Thành thạo một ngôn ngữ lập trình (ví dụ: Python, Java, C++)
- Hiểu biết về MLOps và tối ưu hóa hiệu suất mô hình
Đối tượng tham gia
- Các kỹ sư AI tối ưu hóa và triển khai các mô hình DeepSeek
- Các nhà khoa học dữ liệu làm việc về điều chỉnh hiệu suất AI
- Các chuyên gia học máy quản lý các hệ thống AI dựa trên đám mây
Đánh giá (2)
hệ sinh thái ML không chỉ bao gồm MLFlow mà còn có Optuna, HyperOps, Docker và Docker-Compose
Guillaume GAUTIER - OLEA MEDICAL
Khóa học - MLflow
Dịch thuật bằng máy
Tôi rất vui khi tham gia khóa đào tạo Kubeflow được tổ chức từ xa. Khóa học này giúp tôi củng cố kiến thức về các dịch vụ AWS, K8s và tất cả các công cụ devOps xung quanh Kubeflow, đây là những nền tảng cần thiết để tiếp cận chủ đề một cách hiệu quả. Tôi muốn cảm ơn Malawski Marcin vì sự kiên nhẫn và chuyên nghiệp của anh ấy trong việc đào tạo và tư vấn về các thực hành tốt nhất. Malawski tiếp cận chủ đề từ nhiều góc độ khác nhau, sử dụng các công cụ triển khai khác nhau như Ansible, EKS kubectl, Terraform. Bây giờ tôi hoàn toàn tin rằng mình đang bước vào lĩnh vực ứng dụng đúng đắn.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Khóa học - Kubeflow
Dịch thuật bằng máy