Đề cương khóa học

Tổng quan về Hệ sinh thái AI GPU của Trung Quốc

  • Sự so sánh giữa Huawei Ascend, Biren, và Cambricon MLU
  • CUDA vs CANN, Biren SDK, và các mô hình BANGPy
  • Xu hướng công nghiệp và hệ sinh thái nhà cung cấp

Sẵn sàng cho việc di chuyển

  • Đánh giá mã nguồn CUDA của bạn
  • Xác định nền tảng mục tiêu và phiên bản SDK
  • Cài đặt chuỗi công cụ và thiết lập môi trường

Kỹ thuật Dịch Mã

  • Di chuyển truy cập bộ nhớ CUDA và logic nhân (kernel)
  • Mô hình ánh xạ lưới tính toán/luồng
  • Tùy chọn dịch tự động so với thủ công

Thực hiện Đặc biệt cho Mỗi nền tảng

  • Sử dụng các toán tử Huawei CANN và nhân tùy chỉnh
  • Kênh chuyển đổi Biren SDK
  • Xây dựng lại mô hình bằng BANGPy (Cambricon)

Kiểm thử và Tối ưu hóa Chéo nền tảng

  • Hàm phân tích thực thi trên mỗi nền tảng mục tiêu
  • Tùy chỉnh bộ nhớ và so sánh thực thi song song
  • Theo dõi hiệu suất và lặp lại

Quản lý Môi trường Trộn GPU

  • Cài đặt kết hợp với nhiều kiến trúc
  • Chiến lược dự phòng và phát hiện thiết bị
  • Các lớp trừu tượng cho việc duy trì mã

Ví dụ Case Studies và Thực hành Tốt nhất

  • Di chuyển mô hình nhìn/NLP đến Ascend hoặc Cambricon
  • Tái tạo ống dẫn suy luận trên các cụm Biren
  • Xử lý sự không phù hợp về phiên bản và khoảng cách API

Tóm tắt và Bước tiếp theo

Requirements

  • Kinh nghiệm lập trình với CUDA hoặc các ứng dụng dựa trên GPU
  • Nắm vững mô hình bộ nhớ và nhân tính toán của GPU
  • Hiểu biết về triển khai hoặc tăng tốc mô hình AI

Đối tượng

  • Lập trình viên GPU
  • Kỹ sư kiến trúc hệ thống
  • Nhân viên chuyển đổi chuyên dụng
 21 Hours

Number of participants


Price per participant

Provisional Upcoming Courses (Require 5+ participants)

Related Categories