Đề cương khóa học

Giới thiệu về Cambricon và kiến trúc MLU

  • Tổng quan về danh mục chip AI của Cambricon
  • Kiến trúc MLU và pipeline lệnh
  • Các loại mô hình được hỗ trợ và trường hợp sử dụng

Cài đặt chuỗi công cụ phát triển

  • Cài đặt BANGPy và SDK Neuware
  • Cài đặt môi trường cho Python và C++
  • Tương thích mô hình và tiền xử lý

Phát triển mô hình với BANGPy

  • Cấu trúc tensor và quản lý kích thước
  • Xây dựng đồ thị tính toán
  • Hỗ trợ các thao tác tùy chỉnh trong BANGPy

Triển khai với thời gian chạy Neuware

  • Chuyển đổi và tải mô hình
  • Kiểm soát thực thi và suy luận
  • Các thực hành triển khai ở biên và trung tâm dữ liệu

Tối ưu hóa hiệu suất

  • Bản đồ bộ nhớ và điều chỉnh lớp
  • Theo dõi và phân tích thực thi
  • Các điểm nghẽn thông thường và cách khắc phục

Tích hợp MLU vào ứng dụng

  • Sử dụng API Neuware để tích hợp ứng dụng
  • Hỗ trợ luồng và nhiều mô hình
  • Các kịch bản suy luận hỗn hợp CPU-MLU

Dự án từ đầu đến cuối và trường hợp sử dụng

  • Phòng thí nghiệm: Triển khai mô hình thị giác hoặc NLP
  • Suy luận ở biên với sự tích hợp BANGPy
  • Kiểm tra độ chính xác và thông lượng

Tổng kết và các bước tiếp theo

Yêu cầu

  • Hiểu về cấu trúc mô hình học máy
  • Kinh nghiệm với Python và/hoặc C++
  • Familiarity with model deployment and acceleration concepts

Đối tượng tham gia

  • Các nhà phát triển AI nhúng
  • Các kỹ sư ML triển khai ở biên hoặc trung tâm dữ liệu
  • Những người phát triển làm việc với cơ sở hạ tầng AI của Trung Quốc
 21 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Các khóa học sắp tới

Các danh mục liên quan