Đề cương khóa học

Giới thiệu về Phát triển Bộ Toán Tùy chỉnh

  • Tại sao xây dựng bộ toán tùy chỉnh? Trường hợp sử dụng và giới hạn
  • CANN cấu trúc runtime và điểm tích hợp bộ toán
  • Tổng quan về TBE, TIK và TVM trong hệ sinh thái AI của Huawei

Sử dụng TIK cho Bộ Toán Mức Thấp Programming

  • Hiểu về mô hình lập trình TIK và API được hỗ trợ
  • Quản lý bộ nhớ và chiến lược tiling trong TIK
  • Tạo, biên dịch và đăng ký một bộ toán tùy chỉnh với CANN

Kiểm thử và Xác minh Bộ Toán Tùy chỉnh

  • Kiểm thử đơn vị và tích hợp các bộ toán trong đồ thị
  • Gỡ lỗi vấn đề hiệu năng cấp nhân
  • Tương tác để hiển thị việc thực thi bộ toán và hành vi bộ đệm

Lập lịch và Tối ưu hóa dựa trên TVM

  • Tổng quan về TVM như một trình biên dịch cho các bộ toán tensor
  • Viết một lịch trình cho một bộ toán tùy chỉnh trong TVM
  • Điều chỉnh, kiểm thử và sinh mã với TVM cho Ascend

Tích hợp với Frameworks và Mô hình

  • Đăng ký các bộ toán tùy chỉnh cho MindSpore và ONNX
  • Xác minh sự nguyên vẹn của mô hình và hành vi fallback
  • Hỗ trợ đồ thị nhiều bộ toán với độ chính xác pha trộn

Các Trường hợp điển hình và Tối ưu hóa chuyên biệt

  • Trường hợp điển hình: Bộ toán tích chập hiệu suất cao cho kích thước đầu vào nhỏ
  • Trường hợp điển hình: Tối ưu hóa bộ toán chú ý nhận thức bộ nhớ
  • Những thực hành tốt nhất trong triển khai bộ toán tùy chỉnh trên nhiều thiết bị

Tóm tắt và Bước tiếp theo

Yêu cầu

  • Kiến thức vững chắc về nội bộ của mô hình AI và tính toán mức độ toán tử
  • Kinh nghiệm với các môi trường phát triển Python và Linux
  • Thạo về trình biên dịch mạng nơron hoặc tối ưu hóa mức đồ thị

Đối tượng tham gia

  • Kỹ sư ngôn ngữ trung gian làm việc trên công cụ AI
  • Nhà phát triển hệ thống tập trung vào tối ưu hóa mức độ thấp của AI
  • Nhà phát triển xây dựng toán tử tùy chỉnh hoặc nhắm mục tiêu các tác vụ AI mới
 14 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Các khóa học sắp tới

Các danh mục liên quan