Đề cương khóa học

Tổng Quan về Các Năng Lực Tối Ưu Hóa CANN

  • Cách xử lý hiệu suất suy diễn trong CANN
  • Mục tiêu tối ưu hóa cho hệ thống AI ở rìa và nhúng
  • Hiểu về việc sử dụng nhân AI và phân bổ bộ nhớ

Sử Dụng Graph Engine để Phân Tích

  • Giới thiệu về Graph Engine và chuỗi thực thi
  • Trao đổi đồ thị toán tử và các phép đo thời gian chạy
  • Chỉnh sửa đồ thị tính toán cho tối ưu hóa

Công Cụ Xem and Các chỉ số Hiệu suất

  • Sử dụng CANN Profiling Tool (profiler) để phân tích công việc tải
  • Phân tích thời gian thực thi nhân và điểm nghẽn
  • Xem bộ nhớ truy cập và chiến lược chia nhỏ

Phep Phát Triển Toán Tử Tùy chỉnh với TIK

  • Tổng quan về TIK và mô hình lập trình toán tử
  • Thực hiện một toán tử tùy chỉnh sử dụng TIK DSL
  • Kiểm thử và so sánh hiệu suất của toán tử

Tối Ưu Hóa Nâng Cao với TVM

  • Giới thiệu về tích hợp TVM với CANN
  • Chính sách tự động điều chỉnh cho đồ thị tính toán
  • Khi và cách chuyển đổi giữa TVM và TIK

Các Kỹ Thuật tối ưu hóa bộ nhớ

  • Quản lý bố cục bộ nhớ và đặt đệm
  • Các kỹ thuật để giảm tiêu thụ bộ nhớ trên chip
  • Những thực hành tốt nhất cho việc thực hiện bất đồng bộ và tái sử dụng

Triển Khai Thực tế và Trường hợp điển hình

  • Trường hợp nghiên cứu: điều chỉnh hiệu suất cho chuỗi máy ảnh thành phố thông minh
  • Trường hợp nghiên cứu: tối ưu hóa bộ suy diễn xe tự lái
  • Hướng dẫn về việc xem lặp đi lặp lại và cải thiện liên tục

Tóm Tắt và Bước Tiếp Theo

Requirements

  • Hiểu biết vững chắc về kiến trúc mô hình deep learning và quy trình đào tạo
  • Kinh nghiệm triển khai mô hình sử dụng CANN, TensorFlow hoặc PyTorch
  • Thành thạo với Linux CLI, script shell và lập trình Python

Đối tượng tham gia

  • Kỹ sư hiệu suất AI
  • Nhân viên chuyên về tối ưu hóa suy luận
  • Nhà phát triển làm việc với AI ở rìa hoặc hệ thống thời gian thực
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories