Cambricon (MLU) Training in Hanoi

Ascend, Biren và Cambricon là các nền tảng phần cứng AI hàng đầu tại Trung Quốc, mỗi nền tảng đều cung cấp công cụ tăng tốc và phân tích hiệu năng độc đáo cho tác vụ AI quy mô sản xuất.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhắm đến các kỹ sư cơ sở hạ tầng AI và hiệu năng cao cấp muốn tối ưu hóa chuỗi công việc dự đoán và đào tạo mô hình trên nhiều nền tảng chip AI Trung Quốc.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Đánh giá hiệu năng của các mô hình trên các nền tảng Ascend, Biren và Cambricon.
• Xác định điểm nghẽn hệ thống và sự kém hiệu quả về bộ nhớ/tính toán.
• Áp dụng tối ưu hóa cấp đồ thị, nhân và trình điều khiển.
• Tùy chỉnh các đường ống triển khai để cải thiện băng thông và độ trễ.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng trực tiếp các công cụ phân tích hiệu năng và tối ưu hóa trên từng nền tảng.
• Bài tập hướng dẫn tập trung vào các tình huống điều chỉnh thực tế.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này dựa trên môi trường hiệu năng hoặc loại mô hình của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Các kiến trúc GPU Trung Quốc như Huawei Ascend, Biren, và Cambricon MLUs cung cấp các giải pháp thay thế CUDA được điều chỉnh cho thị trường AI và HPC địa phương.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các lập trình viên cấp cao và chuyên gia về cơ sở hạ tầng muốn di chuyển và tối ưu hóa các ứng dụng CUDA hiện có để triển khai trên nền tảng hardware Trung Quốc.

Tại kết thúc khóa học, người tham dự sẽ có khả năng:

• Đánh giá sự tương thích của công việc CUDA hiện tại với các giải pháp chip Trung Quốc.
• Di chuyển mã nguồn CUDA sang môi trường Huawei CANN, Biren SDK và Cambricon BANGPy.
• So sánh hiệu suất và xác định điểm tối ưu trên nhiều nền tảng.
• Xử lý các thách thức thực tế trong hỗ trợ đa kiến trúc và triển khai.

Hình thức khóa học

• Bài giảng tương tác và thảo luận.
• Thực hành chuyển đổi mã nguồn và so sánh hiệu suất.
• Bài tập hướng dẫn tập trung vào chiến lược thích ứng đa-GPU.

Tùy chọn tùy chỉnh khóa học

• Nếu bạn muốn yêu cầu một khóa đào tạo tùy chỉnh dựa trên nền tảng hoặc dự án CUDA của mình, vui lòng liên hệ với chúng tôi để sắp xếp.

Các chip MLU của Cambricon (Machine Learning Units) là các chip AI chuyên dụng được tối ưu hóa cho việc suy luận và đào tạo trong các tình huống ở rìa (edge) và trung tâm dữ liệu.

Khóa học trực tiếp này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển cấp trung muốn xây dựng và triển khai mô hình AI sử dụng khung BANGPy và SDK Neuware trên phần cứng MLU của Cambricon.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển BANGPy và Neuware.
• Xây dựng và tối ưu hóa các mô hình dựa trên Python và C++ cho MLU của Cambricon.
• Triển khai mô hình đến các thiết bị rìa và trung tâm dữ liệu đang chạy runtime Neuware.
• Tích hợp các luồng làm việc ML với các tính năng tăng tốc cụ thể của MLU.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế BANGPy và Neuware cho phát triển và triển khai.
• Bài tập hướng dẫn tập trung vào tối ưu hóa, tích hợp và kiểm thử.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh dựa trên mô hình thiết bị Cambricon hoặc trường hợp sử dụng của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Yêu cầu tiền đề

• Có hiểu biết về cấu trúc các mô hình học máy.
• Kinh nghiệm với Python và/hoặc C++.
• Có kiến thức về các khái niệm triển khai và tăng tốc mô hình.

Khán giả

• Nhà phát triển AI nhúng.
• Kỹ sư ML triển khai đến rìa hoặc trung tâm dữ liệu.
• Nhà phát triển làm việc với cơ sở hạ tầng AI Trung Quốc.

Tóm tắt và Bước tiếp theo