Đề cương khóa học

Giới thiệu về Edge AI và Ascend 310

  • Tổng quan về Edge AI: xu hướng, giới hạn và ứng dụng
  • Cấu trúc chip Huawei Ascend 310 và công cụ hỗ trợ
  • Vị trí của CANN trong bộ xếp hạng triển khai AI ở rìa (edge)

Chuẩn bị và Chuyển đổi Mô hình

  • Xuất mô hình đã được đào tạo từ TensorFlow, PyTorch và MindSpore
  • Sử dụng ATC để chuyển đổi mô hình sang định dạng OM cho thiết bị Ascend
  • Xử lý các hoạt động không được hỗ trợ (ops) và chiến lược chuyển đổi nhẹ nhàng

Phát triển Đường ống Inferencing với AscendCL

  • Sử dụng API AscendCL để chạy mô hình OM trên Ascend 310
  • Xử lý tiền xử lý và hậu xử lý đầu vào/đầu ra, quản lý bộ nhớ và thiết bị
  • Triển khai trong các container nhúng hoặc môi trường chạy nhẹ nhàng

Tối ưu hóa cho Giới hạn Rìa (Edge)

  • Giảm kích thước mô hình, điều chỉnh độ chính xác (FP16, INT8)
  • Sử dụng CANN để nhận diện điểm nghẽn
  • Quản lý bố cục bộ nhớ và luồng dữ liệu cho hiệu suất

Triển khai với MindSpore Lite

  • Sử dụng thời gian chạy của MindSpore Lite cho mục tiêu di động và nhúng
  • So sánh MindSpore Lite với đường ống AscendCL gốc
  • đóng gói mô hình inferencing để triển khai theo thiết bị cụ thể

Trường hợp triển khai và nghiên cứu điển hình ở rìa (Edge)

  • Nghiên cứu điển hình: camera thông minh với mô hình phát hiện đối tượng trên Ascend 310
  • Nghiên cứu điển hình: phân loại thời gian thực trong trung tâm cảm biến IoT
  • Giám sát và cập nhật các mô hình đã triển khai ở rìa (Edge)

Tóm tắt và Bước Tiếp theo

Requirements

  • Kinh nghiệm với quy trình phát triển hoặc triển khai mô hình AI
  • Kiến thức cơ bản về hệ thống nhúng, Linux, và Python
  • Hiểu biết về các khung học sâu như TensorFlow hoặc PyTorch

Đối tượng

  • Nhà phát triển giải pháp IoT
  • Kỹ sư AI nhúng
  • Người tích hợp hệ thống Edge và chuyên gia triển khai AI
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories