Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Huawei CloudMatrix

  • Hệ sinh thái CloudMatrix và quy trình triển khai.
  • Các mô hình, định dạng và chế độ triển khai được hỗ trợ.
  • Các trường hợp sử dụng điển hình và chipset được hỗ trợ.

Chuẩn bị mô hình cho việc triển khai

  • Xuất mô hình từ các công cụ huấn luyện (MindSpore, TensorFlow, PyTorch).
  • Sử dụng ATC (Bộ biên dịch tensor Ascend) để chuyển đổi định dạng.
  • Mô hình có hình dạng tĩnh so với động.

Triển khai lên CloudMatrix

  • Tạo dịch vụ và đăng ký mô hình.
  • Triển khai dịch vụ suy luận thông qua giao diện người dùng (UI) hoặc dòng lệnh (CLI).
  • Định tuyến, xác thực và kiểm soát truy cập.

Cung cấp dịch vụ cho các yêu cầu suy luận

  • Quy trình suy luận theo lô so với thời gian thực.
  • Quy trình tiền xử lý và hậu xử lý dữ liệu.
  • Gọi dịch vụ CloudMatrix từ các ứng dụng bên ngoài.

Giám sát và Tinh chỉnh hiệu suất

  • Nhật ký triển khai và theo dõi yêu cầu.
  • Mở rộng tài nguyên và cân bằng tải.
  • Tinh chỉnh độ trễ và tối ưu hóa thông lượng (throughput).

Tích hợp với các công cụ doanh nghiệp

  • Kết nối CloudMatrix với OBS và ModelArts.
  • Sử dụng quy trình làm việc và quản lý phiên bản mô hình.
  • CI/CD cho việc triển khai và hoàn tác (rollback) mô hình.

Quy trình suy luận đầu-cuối (End-to-End)

  • Triển khai một quy trình phân loại ảnh hoàn chỉnh.
  • Chẩn đoán (benchmarking) và xác thực độ chính xác.
  • Mô phỏng chuyển đổi sự cố (failover) và cảnh báo hệ thống.

Tổng kết và Các bước tiếp theo

Yêu cầu

  • Hiểu biết về quy trình huấn luyện mô hình AI.
  • Kinh nghiệm làm việc với các framework ML dựa trên Python.
  • Nắm bắt cơ bản về các khái niệm triển khai trên cloud.

Đối tượng khán giả

  • Các đội ngũ vận hành AI (AI ops).
  • Kỹ sư học máy.
  • Chuyên gia triển khai cloud làm việc với cơ sở hạ tầng của Huawei.
 21 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (2)

Các khóa học sắp tới

Các danh mục liên quan