Triển khai Mô hình AI với CANN và Bộ xử lý AI Ascend Khóa Học Đào Tạo

Giới thiệu về CANN và bộ xử lý AI Ascend

• CANN là gì? Vai trò trong bộ stack điện toán AI của Huawei
• Tổng quan về kiến trúc bộ xử lý Ascend (310, 910, v.v.)
• Tổng quan về các framework AI được hỗ trợ và bộ công cụ (toolchain)

Chuyển đổi và biên dịch mô hình

• Sử dụng công cụ ATC để chuyển đổi mô hình (TensorFlow, PyTorch, ONNX)
• Tạo và xác thực tệp mô hình OM
• Xử lý các toán tử không được hỗ trợ và các vấn đề chuyển đổi phổ biến

Triển khai với MindSpore và các framework khác

• Triển khai mô hình với MindSpore Lite
• Tích hợp mô hình OM với API Python hoặc SDK C++
• Làm việc với Ascend Model Manager

Tối ưu hóa hiệu suất và hồ sơ thực thi (Profiling)

• Hiểu về AI Core, bộ nhớ và tối ưu hóa tiling
• Profiling thực thi mô hình bằng các công cụ CANN
• Các thực hành tốt nhất để cải thiện tốc độ suy luận và mức sử dụng tài nguyên

Xử lý lỗi và gỡ lỗi (Debugging)

• Các lỗi triển khai phổ biến và cách khắc phục
• Đọc nhật ký và sử dụng công cụ chẩn đoán lỗi
• Kiểm tra đơn vị và xác thực chức năng của mô hình đã triển khai

Các kịch bản triển khai Edge và Cloud

• Triển khai lên Ascend 310 cho các ứng dụng edge
• Tích hợp với API dựa trên đám mây và microservices
• Nghiên cứu tình huống thực tế trong thị giác máy tính và NLP

Tóm tắt và các bước tiếp theo