Đề cương khóa học

Giới thiệu về Huawei CloudMatrix

  • Ecosystem và quy trình triển khai của CloudMatrix
  • Các mô hình, định dạng và phương thức triển khai được hỗ trợ
  • Trường hợp sử dụng điển hình và chipset được hỗ trợ

Chuẩn bị Mô hình cho Triển Khai

  • Xuất mô hình từ công cụ đào tạo (MindSpore, TensorFlow, PyTorch)
  • Sử dụng ATC (Ascend Tensor Compiler) để chuyển đổi định dạng
  • Mô hình tĩnh vs động

Triển Khai lên CloudMatrix

  • Tạo dịch vụ và đăng ký mô hình
  • Triển khai dịch vụ suy luận thông qua giao diện người dùng hoặc CLI
  • Đạo luồng, xác thực và quản lý quyền truy cập

Phục Vụ Yêu Cầu Suy Luận

  • Quy trình suy luận theo lô vs thời gian thực
  • Ống xử lý tiền và hậu xử lý dữ liệu
  • Gọi dịch vụ CloudMatrix từ ứng dụng bên ngoài

Giám Sát và Tối ưu Hóa Hiệu năng

  • Nhật ký triển khai và theo dõi yêu cầu
  • Cân nhắc tài nguyên và cân bằng tải
  • Điều chỉnh độ trễ và tối ưu hóa băng thông

Tích Hợp với Công cụ Doanh Nghiệp

  • Kết nối CloudMatrix với OBS và ModelArts
  • Sử dụng luồng làm việc và phiên bản mô hình
  • CI/CD cho triển khai và hoàn nguyên mô hình

Pipeline Suy Luận Từ Đầu Đến Cuối

  • Triển Khai một pipeline phân loại ảnh đầy đủ
  • Đánh giá hiệu suất và xác minh chính xác
  • Tạo cảnh báo hệ thống và mô phỏng chuyển đổi

Tổng Kết và Bước Tiếp Theo

Yêu cầu

  • Hiểu biết về quy trình huấn luyện mô hình AI
  • Kinh nghiệm với các khung ML dựa trên Python
  • Hiểu biết cơ bản về các khái niệm triển khai đám mây

Đối tượng

  • Các đội ngũ AI ops
  • Nhà phát triển công nghệ học máy
  • Chuyên gia triển khai đám mây làm việc với cơ sở hạ tầng Huawei
 21 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Đánh giá (1)

Các khóa học sắp tới

Các danh mục liên quan