Đề cương khóa học

Giới thiệu về Phát triển Bộ Toán Tùy chỉnh

  • Tại sao xây dựng bộ toán tùy chỉnh? Trường hợp sử dụng và giới hạn
  • CANN cấu trúc runtime và điểm tích hợp bộ toán
  • Tổng quan về TBE, TIK và TVM trong hệ sinh thái AI của Huawei

Sử dụng TIK cho Bộ Toán Mức Thấp Programming

  • Hiểu về mô hình lập trình TIK và API được hỗ trợ
  • Quản lý bộ nhớ và chiến lược tiling trong TIK
  • Tạo, biên dịch và đăng ký một bộ toán tùy chỉnh với CANN

Kiểm thử và Xác minh Bộ Toán Tùy chỉnh

  • Kiểm thử đơn vị và tích hợp các bộ toán trong đồ thị
  • Gỡ lỗi vấn đề hiệu năng cấp nhân
  • Tương tác để hiển thị việc thực thi bộ toán và hành vi bộ đệm

Lập lịch và Tối ưu hóa dựa trên TVM

  • Tổng quan về TVM như một trình biên dịch cho các bộ toán tensor
  • Viết một lịch trình cho một bộ toán tùy chỉnh trong TVM
  • Điều chỉnh, kiểm thử và sinh mã với TVM cho Ascend

Tích hợp với Frameworks và Mô hình

  • Đăng ký các bộ toán tùy chỉnh cho MindSpore và ONNX
  • Xác minh sự nguyên vẹn của mô hình và hành vi fallback
  • Hỗ trợ đồ thị nhiều bộ toán với độ chính xác pha trộn

Các Trường hợp điển hình và Tối ưu hóa chuyên biệt

  • Trường hợp điển hình: Bộ toán tích chập hiệu suất cao cho kích thước đầu vào nhỏ
  • Trường hợp điển hình: Tối ưu hóa bộ toán chú ý nhận thức bộ nhớ
  • Những thực hành tốt nhất trong triển khai bộ toán tùy chỉnh trên nhiều thiết bị

Tóm tắt và Bước tiếp theo

Requirements

  • Kiến thức vững chắc về nội bộ của mô hình AI và tính toán mức độ toán tử
  • Kinh nghiệm với các môi trường phát triển Python và Linux
  • Thạo về trình biên dịch mạng nơron hoặc tối ưu hóa mức đồ thị

Đối tượng tham gia

  • Kỹ sư ngôn ngữ trung gian làm việc trên công cụ AI
  • Nhà phát triển hệ thống tập trung vào tối ưu hóa mức độ thấp của AI
  • Nhà phát triển xây dựng toán tử tùy chỉnh hoặc nhắm mục tiêu các tác vụ AI mới
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories