Đề cương khóa học

Giới thiệu về Huawei CloudMatrix

  • Hệ sinh thái và quy trình triển khai của CloudMatrix
  • Mô hình, định dạng và các chế độ triển khai được hỗ trợ
  • Ví dụ điển hình và chipsets được hỗ trợ

Sẵn sàng Mô hình cho Triển khai

  • Xuất mô hình từ công cụ đào tạo (MindSpore, TensorFlow, PyTorch)
  • Sử dụng ATC (Ascend Tensor Compiler) để chuyển đổi định dạng
  • Mô hình tĩnh vs động

Triển khai lên CloudMatrix

  • Tạo dịch vụ và đăng ký mô hình
  • Triển khai dịch vụ suy luận thông qua giao diện người dùng hoặc CLI
  • Lộ trình, xác thực và kiểm soát truy cập

Phục vụ Yêu cầu Suy luận

  • Quá trình suy luận lô vs thời gian thực
  • Hồ sơ tiền xử lý và hậu xử lý dữ liệu
  • Gọi dịch vụ CloudMatrix từ các ứng dụng bên ngoài

Theo dõi và Tinh chỉnh Hiệu suất

  • Logs triển khai và theo dõi yêu cầu
  • Tăng cường tài nguyên và cân bằng tải
  • Tinh chỉnh độ trễ và tối ưu hóa băng thông

Tích hợp với Công cụ Doanh nghiệp

  • Kết nối CloudMatrix với OBS và ModelArts
  • Sử dụng quy trình làm việc và phiên bản mô hình
  • CI/CD cho triển khai và hoàn tác mô hình

Dịchpipeline Suy luận Từ đầu đến cuối

  • Triển khai một pipeline phân loại ảnh hoàn chỉnh
  • Kiểm chứng và đánh giá độ chính xác
  • Mô phỏng việc chuyển đổi hệ thống và cảnh báo

Khái quát và Bước tiếp theo

Requirements

  • Hiểu biết về quy trình đào tạo mô hình AI
  • Kinh nghiệm với các khung ML dựa trên Python
  • Có hiểu biết cơ bản về các khái niệm triển khai đám mây

Đối tượng

  • Các đội ngũ AI ops
  • Kỹ sư học máy
  • Nhân viên chuyên trách triển khai đám mây làm việc với cơ sở hạ tầng của Huawei
 21 Hours

Number of participants


Price per participant

Testimonials (1)

Provisional Upcoming Courses (Require 5+ participants)

Related Categories