Đề cương khóa học

Giới thiệu về Huawei CloudMatrix

  • Ecosystem và quy trình triển khai của CloudMatrix
  • Các mô hình, định dạng và phương thức triển khai được hỗ trợ
  • Trường hợp sử dụng điển hình và chipset được hỗ trợ

Chuẩn bị Mô hình cho Triển Khai

  • Xuất mô hình từ công cụ đào tạo (MindSpore, TensorFlow, PyTorch)
  • Sử dụng ATC (Ascend Tensor Compiler) để chuyển đổi định dạng
  • Mô hình tĩnh vs động

Triển Khai lên CloudMatrix

  • Tạo dịch vụ và đăng ký mô hình
  • Triển khai dịch vụ suy luận thông qua giao diện người dùng hoặc CLI
  • Đạo luồng, xác thực và quản lý quyền truy cập

Phục Vụ Yêu Cầu Suy Luận

  • Quy trình suy luận theo lô vs thời gian thực
  • Ống xử lý tiền và hậu xử lý dữ liệu
  • Gọi dịch vụ CloudMatrix từ ứng dụng bên ngoài

Giám Sát và Tối ưu Hóa Hiệu năng

  • Nhật ký triển khai và theo dõi yêu cầu
  • Cân nhắc tài nguyên và cân bằng tải
  • Điều chỉnh độ trễ và tối ưu hóa băng thông

Tích Hợp với Công cụ Doanh Nghiệp

  • Kết nối CloudMatrix với OBS và ModelArts
  • Sử dụng luồng làm việc và phiên bản mô hình
  • CI/CD cho triển khai và hoàn nguyên mô hình

Pipeline Suy Luận Từ Đầu Đến Cuối

  • Triển Khai một pipeline phân loại ảnh đầy đủ
  • Đánh giá hiệu suất và xác minh chính xác
  • Tạo cảnh báo hệ thống và mô phỏng chuyển đổi

Tổng Kết và Bước Tiếp Theo

Requirements

  • Hiểu biết về quy trình huấn luyện mô hình AI
  • Kinh nghiệm với các khung ML dựa trên Python
  • Hiểu biết cơ bản về các khái niệm triển khai đám mây

Đối tượng

  • Các đội ngũ AI ops
  • Nhà phát triển công nghệ học máy
  • Chuyên gia triển khai đám mây làm việc với cơ sở hạ tầng Huawei
 21 Hours

Number of participants


Price per participant

Testimonials (1)

Upcoming Courses

Related Categories