Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Giới thiệu về Huawei CloudMatrix
- Hệ sinh thái CloudMatrix và quy trình triển khai.
- Các mô hình, định dạng và chế độ triển khai được hỗ trợ.
- Các trường hợp sử dụng điển hình và chipset được hỗ trợ.
Chuẩn bị mô hình cho việc triển khai
- Xuất mô hình từ các công cụ huấn luyện (MindSpore, TensorFlow, PyTorch).
- Sử dụng ATC (Bộ biên dịch tensor Ascend) để chuyển đổi định dạng.
- Mô hình có hình dạng tĩnh so với động.
Triển khai lên CloudMatrix
- Tạo dịch vụ và đăng ký mô hình.
- Triển khai dịch vụ suy luận thông qua giao diện người dùng (UI) hoặc dòng lệnh (CLI).
- Định tuyến, xác thực và kiểm soát truy cập.
Cung cấp dịch vụ cho các yêu cầu suy luận
- Quy trình suy luận theo lô so với thời gian thực.
- Quy trình tiền xử lý và hậu xử lý dữ liệu.
- Gọi dịch vụ CloudMatrix từ các ứng dụng bên ngoài.
Giám sát và Tinh chỉnh hiệu suất
- Nhật ký triển khai và theo dõi yêu cầu.
- Mở rộng tài nguyên và cân bằng tải.
- Tinh chỉnh độ trễ và tối ưu hóa thông lượng (throughput).
Tích hợp với các công cụ doanh nghiệp
- Kết nối CloudMatrix với OBS và ModelArts.
- Sử dụng quy trình làm việc và quản lý phiên bản mô hình.
- CI/CD cho việc triển khai và hoàn tác (rollback) mô hình.
Quy trình suy luận đầu-cuối (End-to-End)
- Triển khai một quy trình phân loại ảnh hoàn chỉnh.
- Chẩn đoán (benchmarking) và xác thực độ chính xác.
- Mô phỏng chuyển đổi sự cố (failover) và cảnh báo hệ thống.
Tổng kết và Các bước tiếp theo
Yêu cầu
- Hiểu biết về quy trình huấn luyện mô hình AI.
- Kinh nghiệm làm việc với các framework ML dựa trên Python.
- Nắm bắt cơ bản về các khái niệm triển khai trên cloud.
Đối tượng khán giả
- Các đội ngũ vận hành AI (AI ops).
- Kỹ sư học máy.
- Chuyên gia triển khai cloud làm việc với cơ sở hạ tầng của Huawei.
21 Giờ
Đánh giá (2)
Bộ công cụ đa dạng được trình bày
Miruna Buzduga - Aeronamic Eastern Europe
Khóa học - AI Enablement Training for Engineers
Dịch thuật bằng máy
Huấn luyện từng bước với nhiều bài tập. Nó giống như một buổi workshop và tôi rất vui về điều đó.
Ireneusz - Inter Cars S.A.
Khóa học - Intelligent Applications Fundamentals
Dịch thuật bằng máy