Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Đề cương khóa học
Giới thiệu về Phát triển Bộ Toán Tùy chỉnh
- Tại sao xây dựng bộ toán tùy chỉnh? Trường hợp sử dụng và giới hạn
- CANN cấu trúc runtime và điểm tích hợp bộ toán
- Tổng quan về TBE, TIK và TVM trong hệ sinh thái AI của Huawei
Sử dụng TIK cho Bộ Toán Mức Thấp Programming
- Hiểu về mô hình lập trình TIK và API được hỗ trợ
- Quản lý bộ nhớ và chiến lược tiling trong TIK
- Tạo, biên dịch và đăng ký một bộ toán tùy chỉnh với CANN
Kiểm thử và Xác minh Bộ Toán Tùy chỉnh
- Kiểm thử đơn vị và tích hợp các bộ toán trong đồ thị
- Gỡ lỗi vấn đề hiệu năng cấp nhân
- Tương tác để hiển thị việc thực thi bộ toán và hành vi bộ đệm
Lập lịch và Tối ưu hóa dựa trên TVM
- Tổng quan về TVM như một trình biên dịch cho các bộ toán tensor
- Viết một lịch trình cho một bộ toán tùy chỉnh trong TVM
- Điều chỉnh, kiểm thử và sinh mã với TVM cho Ascend
Tích hợp với Frameworks và Mô hình
- Đăng ký các bộ toán tùy chỉnh cho MindSpore và ONNX
- Xác minh sự nguyên vẹn của mô hình và hành vi fallback
- Hỗ trợ đồ thị nhiều bộ toán với độ chính xác pha trộn
Các Trường hợp điển hình và Tối ưu hóa chuyên biệt
- Trường hợp điển hình: Bộ toán tích chập hiệu suất cao cho kích thước đầu vào nhỏ
- Trường hợp điển hình: Tối ưu hóa bộ toán chú ý nhận thức bộ nhớ
- Những thực hành tốt nhất trong triển khai bộ toán tùy chỉnh trên nhiều thiết bị
Tóm tắt và Bước tiếp theo
Requirements
- Kiến thức vững chắc về nội bộ của mô hình AI và tính toán mức độ toán tử
- Kinh nghiệm với các môi trường phát triển Python và Linux
- Thạo về trình biên dịch mạng nơron hoặc tối ưu hóa mức đồ thị
Đối tượng tham gia
- Kỹ sư ngôn ngữ trung gian làm việc trên công cụ AI
- Nhà phát triển hệ thống tập trung vào tối ưu hóa mức độ thấp của AI
- Nhà phát triển xây dựng toán tử tùy chỉnh hoặc nhắm mục tiêu các tác vụ AI mới
14 Hours