Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Cambricon và Kiến trúc MLU

  • Tổng quan về danh mục chip AI của Cambricon
  • Kiến trúc MLU và pipeline lệnh
  • Các loại mô hình và trường hợp sử dụng được hỗ trợ

Cài đặt Bộ công cụ Phát triển

  • Cài đặt BANGPy và SDK Neuware
  • Thiết lập môi trường cho Python và C++
  • Tương thích mô hình và tiền xử lý

Phát triển Mô hình với BANGPy

  • Cấu trúc Tensor và quản lý hình dạng
  • Xây dựng đồ thị tính toán
  • Hỗ trợ thao tác tùy chỉnh trong BANGPy

Triển khai với Runtime Neuware

  • Chuyển đổi và tải mô hình
  • Điều khiển thực thi và suy luận
  • Thực hành triển khai biên và trung tâm dữ liệu

Tối ưu Hiệu năng

  • ánh xạ bộ nhớ và tinh chỉnh lớp
  • Theo dõi và phân tích thực thi
  • Nút thắt cổ chai phổ biến và cách khắc phục

Tích hợp MLU vào Ứng dụng

  • Sử dụng API Neuware để tích hợp ứng dụng
  • Hỗ trợ streaming và đa mô hình
  • Các kịch bản suy luận lai CPU-MLU

Dự án Toàn diện và Trường hợp Sử dụng

  • Thí nghiệm: Triển khai mô hình thị giác hoặc NLP
  • Suy luận biên với tích hợp BANGPy
  • Kiểm tra độ chính xác và thông lượng

Tổng kết và Bước tiếp theo

Yêu cầu

  • Hiểu biết về cấu trúc mô hình học máy
  • Kinh nghiệm với Python và/hoặc C++
  • Quen thuộc với các khái niệm triển khai mô hình và tăng tốc

Khán giả

  • Các nhà phát triển AI nhúng
  • Kỹ sư ML triển khai đến biên hoặc trung tâm dữ liệu
  • Các nhà phát triển làm việc với cơ sở hạ tầng AI của Trung Quốc
 21 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (1)

Các khóa học sắp tới

Các danh mục liên quan