GPU Programming - OpenCL so sánh CUDA vs ROCm Training Course

Huawei Ascend là một gia đình chip AI được thiết kế cho việc suy diễn và đào tạo với hiệu suất cao.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho các kỹ sư AI trung cấp và nhà khoa học dữ liệu muốn phát triển và tối ưu hóa mô hình mạng nơron sử dụng nền tảng Ascend của Huawei và bộ công cụ CANN.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển CANN.
• Phát triển ứng dụng AI bằng MindSpore và quy trình làm việc của CloudMatrix.
• Tối ưu hóa hiệu suất trên Ascend NPUs bằng các toán tử tùy chỉnh và tiling.
• Triển khai mô hình vào môi trường cạnh hoặc đám mây.

Định dạng của khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực hành Huawei Ascend và bộ công cụ CANN trong các ứng dụng mẫu.
• Luyện tập có hướng dẫn về xây dựng mô hình, đào tạo và triển khai.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh dựa trên hạ tầng hoặc tập dữ liệu của bạn, xin vui lòng liên hệ với chúng tôi để sắp xếp.

CANN (Compute Architecture for Neural Networks) là bộ công cụ tính toán AI của Huawei để triển khai và tối ưu hóa các mô hình AI trên các bộ xử lý Ascend AI.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các nhà phát triển và kỹ sư AI cấp trung muốn triển khai các mô hình AI đã được huấn luyện một cách hiệu quả lên thiết bị Huawei Ascend sử dụng bộ công cụ CANN cùng các công cụ như MindSpore, TensorFlow, hoặc PyTorch.

Kết thúc khóa học này, người tham gia sẽ có thể:

• Hiểu kiến trúc CANN và vai trò của nó trong quy trình triển khai AI.
• Chuyển đổi và điều chỉnh các mô hình từ các bộ khung phổ biến sang định dạng tương thích với Ascend.
• Sử dụng công cụ như ATC, chuyển đổi mô hình OM, và MindSpore cho suy diễn ở biên và đám mây.
• Chẩn đoán các vấn đề triển khai và tối ưu hóa hiệu suất trên thiết bị Ascend.

Định dạng của Khóa học

• Bài giảng tương tác và trình diễn.
• Thực hành tay trên sử dụng các công cụ CANN và mô phỏng hoặc thiết bị Ascend.
• Cen huống triển khai thực tế dựa trên các mô hình AI trong thế giới thực.

Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Các bộ điều hợp AI hiệu suất cao Biren được thiết kế cho các tác vụ AI và HPC, hỗ trợ đào tạo và suy luận quy mô lớn.

Khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn, nhằm vào các nhà phát triển cấp trung đến nâng cao muốn lập trình và tối ưu hóa ứng dụng bằng cách sử dụng bộ điều hợp GPU độc quyền của Biren, với so sánh thực tế đối với môi trường dựa trên CUDA.

Cuối khóa học này, người tham gia sẽ có thể:

• Hiểu kiến trúc và hệ thống phân cấp bộ nhớ GPU của Biren.
• Thiết lập môi trường phát triển và sử dụng mô hình lập trình của Biren.
• Dịch và tối ưu hóa mã phong cách CUDA cho các nền tảng Biren.
• Áp dụng các kỹ thuật điều chỉnh hiệu suất và gỡ lỗi.

Định dạng của khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế SDK Biren trong các tác vụ mẫu GPU.
• Bài tập hướng dẫn tập trung vào việc chuyển đổi và điều chỉnh hiệu suất.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa đào tạo tùy chỉnh dựa trên bộ điều hợp hoặc nhu cầu tích hợp của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Các chip MLU của Cambricon (Machine Learning Units) là các chip AI chuyên dụng được tối ưu hóa cho việc suy luận và đào tạo trong các tình huống ở rìa (edge) và trung tâm dữ liệu.

Khóa học trực tiếp này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển cấp trung muốn xây dựng và triển khai mô hình AI sử dụng khung BANGPy và SDK Neuware trên phần cứng MLU của Cambricon.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển BANGPy và Neuware.
• Xây dựng và tối ưu hóa các mô hình dựa trên Python và C++ cho MLU của Cambricon.
• Triển khai mô hình đến các thiết bị rìa và trung tâm dữ liệu đang chạy runtime Neuware.
• Tích hợp các luồng làm việc ML với các tính năng tăng tốc cụ thể của MLU.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế BANGPy và Neuware cho phát triển và triển khai.
• Bài tập hướng dẫn tập trung vào tối ưu hóa, tích hợp và kiểm thử.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh dựa trên mô hình thiết bị Cambricon hoặc trường hợp sử dụng của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Yêu cầu tiền đề

• Có hiểu biết về cấu trúc các mô hình học máy.
• Kinh nghiệm với Python và/hoặc C++.
• Có kiến thức về các khái niệm triển khai và tăng tốc mô hình.

Khán giả

• Nhà phát triển AI nhúng.
• Kỹ sư ML triển khai đến rìa hoặc trung tâm dữ liệu.
• Nhà phát triển làm việc với cơ sở hạ tầng AI Trung Quốc.

Tóm tắt và Bước tiếp theo

CANN (Compute Architecture for Neural Networks) là bộ công cụ tính toán AI của Huawei được sử dụng để biên dịch, tối ưu hóa và triển khai mô hình AI trên các chip Ascend AI.

khóa học này do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển AI trình độ cơ bản muốn hiểu cách CANN được sử dụng trong chu kỳ đời sống của mô hình từ đào tạo đến triển khai, và cách nó hoạt động cùng với các framework như MindSpore, TensorFlow, và PyTorch.

Cuối khóa học này, người tham gia sẽ có khả năng:

• Hiểu mục đích và kiến trúc của bộ công cụ CANN.
• Thiết lập môi trường phát triển với CANN và MindSpore.
• Chuyển đổi và triển khai một mô hình AI cơ bản lên phần cứng Ascend.
• Có kiến thức nền tảng cho các dự án tối ưu hóa hoặc tích hợp CANN trong tương lai.

Định dạng khóa học

• Bài giảng và thảo luận tương tác.
• Phòng thí nghiệm thực hành với việc triển khai mô hình cơ bản.
• Hướng dẫn từng bước qua chuỗi công cụ CANN và điểm tích hợp.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Bộ công cụ Ascend CANN của Huawei cho phép thực hiện suy luận AI mạnh mẽ trên các thiết bị đầu cuối như Ascend 310. CANN cung cấp các công cụ cần thiết để biên dịch, tối ưu hóa và triển khai mô hình trong môi trường hạn chế về tính toán và bộ nhớ.

Khóa học này được hướng dẫn trực tiếp (trực tuyến hoặc tại chỗ) nhằm vào các nhà phát triển và tích hợp AI có trình độ trung cấp muốn triển khai và tối ưu hóa mô hình trên thiết bị đầu cuối Ascend sử dụng chuỗi công cụ CANN.

Đến hết khóa học này, người tham gia sẽ có thể:

• Chuẩn bị và chuyển đổi các mô hình AI cho Ascend 310 bằng các công cụ của CANN.
• Xây dựng cácpipeline suy luận nhẹ nhàng sử dụng MindSpore Lite và AscendCL.
• Tối ưu hóa hiệu suất mô hình cho môi trường hạn chế về tính toán và bộ nhớ.
• Triển khai và theo dõi các ứng dụng AI trong các trường hợp sử dụng thực tế ở đầu cuối.

Định dạng của Khóa học

• Bài giảng tương tác và trình diễn.
• Công việc phòng thí nghiệm thực hành với các mô hình và tình huống cụ thể cho đầu cuối.
• Ví dụ triển khai trực tiếp trên phần cứng đầu cuối ảo hoặc vật lý.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Túi AI của Huawei — từ SDK cấp thấp CANN đến framework cấp cao MindSpore — cung cấp một môi trường phát triển và triển khai AI được tích hợp chặt chẽ và tối ưu cho phần cứng Ascend.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho các chuyên gia kỹ thuật từ trình độ đầu tiên đến trung cấp muốn hiểu cách các thành phần CANN và MindSpore hoạt động cùng nhau để hỗ trợ quản lý vòng đời AI và quyết định về cơ sở hạ tầng.

Đến cuối khóa học, người tham gia sẽ có khả năng:

• Hiểu kiến trúc lớp của túi tính toán AI của Huawei.
• Xác định cách CANN hỗ trợ tối ưu hóa mô hình và triển khai cấp phần cứng.
• Đánh giá framework và công cụ MindSpore so với các giải pháp trong ngành.
• Định vị túi AI của Huawei trong môi trường doanh nghiệp hoặc cloud/on-prem.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Demo hệ thống trực tiếp và hướng dẫn dựa trên trường hợp thực tế.
• Lab được hướng dẫn tùy chọn về luồng mô hình từ MindSpore đến CANN.

Tùy chỉnh khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này, xin vui lòng liên hệ với chúng tôi để sắp xếp.

CANN SDK (Kiến trúc Tính toán cho Neural Networks) là nền tảng tính toán AI của Huawei, cho phép các nhà phát triển điều chỉnh và tối ưu hóa hiệu suất của mạng neural đã được triển khai trên bộ xử lý AI Ascend.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho các nhà phát triển AI cấp cao và kỹ sư hệ thống muốn tối ưu hóa hiệu suất suy luận bằng cách sử dụng công cụ tiên tiến của CANN, bao gồm Engine đồ thị, TIK và phát triển toán tử tùy chỉnh.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Hiểu kiến trúc thời gian chạy và vòng đời hiệu suất của CANN.
• Sử dụng công cụ phân tích hiệu năng và Engine đồ thị để phân tích và tối ưu hóa hiệu suất.
• Tạo và tối ưu hóa toán tử tùy chỉnh bằng TIK và TVM.
• Giải quyết các điểm tắc nghẽn bộ nhớ và cải thiện thông lượng của mô hình.

Định dạng khóa học

• Buổi giảng dạy tương tác và thảo luận.
• Lịch trình thực hành với phân tích thời gian thực và điều chỉnh toán tử.
• Bài tập tối ưu hóa sử dụng ví dụ triển khai trường hợp biên.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.

SDK CANN (Compute Architecture for Neural Networks) cung cấp các công cụ triển khai và tối ưu hóa mạnh mẽ cho ứng dụng AI thời gian thực trong xử lý hình ảnh máy tính và NLP, đặc biệt trên phần cứng Huawei Ascend.

Khóa học huấn luyện trực tiếp (trực tuyến hoặc tại chỗ) này được thiết kế cho các chuyên gia AI cấp trung muốn xây dựng, triển khai và tối ưu hóa mô hình thị giác và ngôn ngữ sử dụng SDK CANN cho các trường hợp sử dụng sản xuất.

Tại kết thúc khóa học này, người tham dự sẽ có khả năng:

• Triển khai và tối ưu hóa mô hình CV và NLP sử dụng CANN và AscendCL.
• Sử dụng các công cụ của CANN để chuyển đổi mô hình và tích hợp chúng vào luồng làm việc trực tiếp.
• Tối ưu hóa hiệu suất dự đoán cho các tác vụ như phát hiện, phân loại và phân tích cảm xúc.
• Xây dựng các luồng CV/NLP thời gian thực cho các trường hợp triển khai tại mép hoặc dựa trên đám mây.

Định dạng khóa học

• Bài giảng tương tác và trình diễn.
• Thao tác thực hành với việc triển khai mô hình và phân tích hiệu suất.
• Thiết kế luồng trực tiếp sử dụng các trường hợp sử dụng CV và NLP thực tế.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này, xin vui lòng liên hệ với chúng tôi để sắp xếp.

CANN TIK (Tensor Instruction Kernel) và Apache TVM cho phép tối ưu hóa và tùy chỉnh nâng cao các toán tử mô hình AI dành cho Huawei Ascend phần cứng.

Khóa học này do giảng viên hướng dẫn trực tiếp (trực tuyến hoặc tại chỗ) được thiết kế cho các nhà phát triển hệ thống cấp cao muốn xây dựng, triển khai và điều chỉnh các toán tử tùy chỉnh cho mô hình AI bằng cách sử dụng mô hình lập trình TIK của CANN và tích hợp bộ компилятора TVM.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Viết và kiểm thử các toán tử AI tùy chỉnh sử dụng DSL TIK cho các bộ xử lý Ascend.
• Tích hợp các toán tử tùy chỉnh vào hệ thống chạy CANN và đồ thị thực thi.
• Sử dụng TVM để lên lịch, tự điều chỉnh và đánh giá hiệu suất của các toán tử.
• Gỡ lỗi và tối ưu hóa hiệu suất mức lệnh cho các mô hình tính toán tùy chỉnh.

Định dạng khóa học

• Bài giảng tương tác và trình diễn.
• Lập trình thực hành các toán tử sử dụng luồng TIK và TVM.
• Kiểm thử và điều chỉnh trên phần cứng Ascend hoặc mô phỏng.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Các kiến trúc GPU Trung Quốc như Huawei Ascend, Biren, và Cambricon MLUs cung cấp các giải pháp thay thế CUDA được điều chỉnh cho thị trường AI và HPC địa phương.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các lập trình viên cấp cao và chuyên gia về cơ sở hạ tầng muốn di chuyển và tối ưu hóa các ứng dụng CUDA hiện có để triển khai trên nền tảng hardware Trung Quốc.

Tại kết thúc khóa học, người tham dự sẽ có khả năng:

• Đánh giá sự tương thích của công việc CUDA hiện tại với các giải pháp chip Trung Quốc.
• Di chuyển mã nguồn CUDA sang môi trường Huawei CANN, Biren SDK và Cambricon BANGPy.
• So sánh hiệu suất và xác định điểm tối ưu trên nhiều nền tảng.
• Xử lý các thách thức thực tế trong hỗ trợ đa kiến trúc và triển khai.

Hình thức khóa học

• Bài giảng tương tác và thảo luận.
• Thực hành chuyển đổi mã nguồn và so sánh hiệu suất.
• Bài tập hướng dẫn tập trung vào chiến lược thích ứng đa-GPU.

Tùy chọn tùy chỉnh khóa học

• Nếu bạn muốn yêu cầu một khóa đào tạo tùy chỉnh dựa trên nền tảng hoặc dự án CUDA của mình, vui lòng liên hệ với chúng tôi để sắp xếp.

Ascend, Biren và Cambricon là các nền tảng phần cứng AI hàng đầu tại Trung Quốc, mỗi nền tảng đều cung cấp công cụ tăng tốc và phân tích hiệu năng độc đáo cho tác vụ AI quy mô sản xuất.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhắm đến các kỹ sư cơ sở hạ tầng AI và hiệu năng cao cấp muốn tối ưu hóa chuỗi công việc dự đoán và đào tạo mô hình trên nhiều nền tảng chip AI Trung Quốc.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Đánh giá hiệu năng của các mô hình trên các nền tảng Ascend, Biren và Cambricon.
• Xác định điểm nghẽn hệ thống và sự kém hiệu quả về bộ nhớ/tính toán.
• Áp dụng tối ưu hóa cấp đồ thị, nhân và trình điều khiển.
• Tùy chỉnh các đường ống triển khai để cải thiện băng thông và độ trễ.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng trực tiếp các công cụ phân tích hiệu năng và tối ưu hóa trên từng nền tảng.
• Bài tập hướng dẫn tập trung vào các tình huống điều chỉnh thực tế.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này dựa trên môi trường hiệu năng hoặc loại mô hình của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.