GPU Training in Ho Chi Minh City

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng OpenACC để lập trình cho các thiết bị dị nhất và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển OpenACC.
• Viết và chạy một chương trình OpenACC cơ bản.
• Chú thích mã bằng các chỉ thị và mệnh đề OpenACC.
• Sử dụng OpenACC API và thư viện.
• Phân tích hiệu năng, gỡ lỗi và tối ưu hóa các chương trình OpenACC.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn học các kiến thức cơ bản về lập trình GPU và các framework và công cụ chính để phát triển ứng dụng GPU.

• Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
  Hiểu sự khác biệt giữa CPU và lập trình GPU cũng như những lợi ích và thách thức của lập trình GPU.
• Chọn framework và công cụ phù hợp cho ứng dụng GPU của họ.
• Tạo một chương trình GPU cơ bản thực hiện phép cộng vector bằng một hoặc nhiều framework và công cụ.
• Sử dụng các API, ngôn ngữ và thư viện tương ứng để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa host và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng các không gian bộ nhớ tương ứng, chẳng hạn như global, local, constant và private, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng các mô hình thực thi tương ứng, chẳng hạn như work-items, work-groups, threads, blocks và grids, để kiểm soát tính song song.
• Gỡ lỗi và kiểm tra các chương trình GPU bằng các công cụ như CodeXL, CUDA-GDB, CUDA-MEMCHECK và NVIDIA Nsight.
• Tối ưu hóa các chương trình GPU bằng các kỹ thuật như coalescing, caching, prefetching và profiling.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng các framework khác nhau cho lập trình GPU và so sánh các tính năng, hiệu suất và khả năng tương thích của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm OpenCL SDK, CUDA Toolkit, ROCm Platform, một thiết bị hỗ trợ OpenCL, CUDA hoặc ROCm và Visual Studio Code.
• Tạo một chương trình GPU cơ bản thực hiện phép cộng vector bằng cách sử dụng OpenCL, CUDA và ROCm, và so sánh cú pháp, cấu trúc và cách thực thi của mỗi framework.
• Sử dụng các API tương ứng để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng các ngôn ngữ tương ứng để viết kernel thực thi trên thiết bị và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp tương ứng để thực hiện các tác vụ và thao tác phổ biến.
• Sử dụng các không gian bộ nhớ tương ứng, chẳng hạn như toàn cục, cục bộ, hằng số và riêng tư, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng các mô hình thực thi tương ứng để kiểm soát các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình GPU bằng các công cụ như CodeXL, CUDA-GDB, CUDA-MEMCHECK và NVIDIA Nsight.
• Tối ưu hóa các chương trình GPU bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

CloudMatrix là nền tảng phát triển và triển khai AI thống nhất của Huawei, được thiết kế để hỗ trợ các ống dẫn suy luận có khả năng mở rộng và đạt chuẩn sản xuất.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho chuyên gia AI từ trình độ đầu tiên đến trung cấp muốn triển khai và theo dõi mô hình AI sử dụng nền tảng CloudMatrix với sự tích hợp của CANN và MindSpore.

Tại kết thúc khóa học này, người tham dự sẽ có thể:

• Sử dụng CloudMatrix cho việc đóng gói, triển khai và cung cấp mô hình.
• Chuyển đổi và tối ưu hóa các mô hình cho chipset Ascend.
• Cài đặt ống dẫn cho tác vụ suy luận thời gian thực và lô.
• Theo dõi triển khai và điều chỉnh hiệu suất trong môi trường sản xuất.

Định dạng khóa học

• Buổi giảng dạy tương tác và thảo luận.
• Sử dụng CloudMatrix thực tế với các tình huống triển khai thực tế.
• Bài tập hướng dẫn tập trung vào chuyển đổi, tối ưu hóa và mở rộng.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học tùy chỉnh dựa trên cơ sở hạ tầng AI hoặc môi trường đám mây của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa đào tạo trực tiếp, trực tuyến hoặc tại chỗ này dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn cài đặt và sử dụng ROCm trên Windows để lập trình cho các thiết bị AMD GPU và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm Nền tảng ROCm, thiết bị AMD GPU và Visual Studio Code trên Windows.
• Tạo một chương trình ROCm cơ bản thực hiện phép cộng vector trên thiết bị GPU và truy xuất kết quả từ bộ nhớ của thiết bị GPU.
• Sử dụng API ROCm để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ HIP để viết kernel thực thi trên thiết bị GPU và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp của HIP để thực hiện các tác vụ và hoạt động phổ biến.
• Sử dụng các không gian bộ nhớ ROCm và HIP, chẳng hạn như toàn cục, chia sẻ, hằng số và cục bộ, để tối ưu hóa việc truyền và truy cập bộ nhớ.
• Sử dụng các mô hình thực thi ROCm và HIP để điều khiển các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình ROCm và HIP bằng các công cụ như ROCm Debugger và ROCm Profiler.
• Tối ưu hóa các chương trình ROCm và HIP bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng ROCm và HIP để lập trình cho các thiết bị AMD GPU và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm Nền tảng ROCm, thiết bị AMD GPU và Visual Studio Code.
• Tạo một chương trình ROCm cơ bản thực hiện phép cộng vector trên thiết bị GPU và truy xuất kết quả từ bộ nhớ của thiết bị GPU.
• Sử dụng API ROCm để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ HIP để viết kernel thực thi trên thiết bị GPU và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp của HIP để thực hiện các tác vụ và hoạt động phổ biến.
• Sử dụng không gian bộ nhớ ROCm và HIP, chẳng hạn như toàn cục, chia sẻ, hằng số và cục bộ, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi ROCm và HIP để điều khiển các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình ROCm và HIP bằng các công cụ như ROCm Debugger và ROCm Profiler.
• Tối ưu hóa các chương trình ROCm và HIP bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

Ascend, Biren và Cambricon là các nền tảng phần cứng AI hàng đầu tại Trung Quốc, mỗi nền tảng đều cung cấp công cụ tăng tốc và phân tích hiệu năng độc đáo cho tác vụ AI quy mô sản xuất.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhắm đến các kỹ sư cơ sở hạ tầng AI và hiệu năng cao cấp muốn tối ưu hóa chuỗi công việc dự đoán và đào tạo mô hình trên nhiều nền tảng chip AI Trung Quốc.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Đánh giá hiệu năng của các mô hình trên các nền tảng Ascend, Biren và Cambricon.
• Xác định điểm nghẽn hệ thống và sự kém hiệu quả về bộ nhớ/tính toán.
• Áp dụng tối ưu hóa cấp đồ thị, nhân và trình điều khiển.
• Tùy chỉnh các đường ống triển khai để cải thiện băng thông và độ trễ.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng trực tiếp các công cụ phân tích hiệu năng và tối ưu hóa trên từng nền tảng.
• Bài tập hướng dẫn tập trung vào các tình huống điều chỉnh thực tế.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này dựa trên môi trường hiệu năng hoặc loại mô hình của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Các kiến trúc GPU Trung Quốc như Huawei Ascend, Biren, và Cambricon MLUs cung cấp các giải pháp thay thế CUDA được điều chỉnh cho thị trường AI và HPC địa phương.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các lập trình viên cấp cao và chuyên gia về cơ sở hạ tầng muốn di chuyển và tối ưu hóa các ứng dụng CUDA hiện có để triển khai trên nền tảng hardware Trung Quốc.

Tại kết thúc khóa học, người tham dự sẽ có khả năng:

• Đánh giá sự tương thích của công việc CUDA hiện tại với các giải pháp chip Trung Quốc.
• Di chuyển mã nguồn CUDA sang môi trường Huawei CANN, Biren SDK và Cambricon BANGPy.
• So sánh hiệu suất và xác định điểm tối ưu trên nhiều nền tảng.
• Xử lý các thách thức thực tế trong hỗ trợ đa kiến trúc và triển khai.

Hình thức khóa học

• Bài giảng tương tác và thảo luận.
• Thực hành chuyển đổi mã nguồn và so sánh hiệu suất.
• Bài tập hướng dẫn tập trung vào chiến lược thích ứng đa-GPU.

Tùy chọn tùy chỉnh khóa học

• Nếu bạn muốn yêu cầu một khóa đào tạo tùy chỉnh dựa trên nền tảng hoặc dự án CUDA của mình, vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng CUDA để lập trình cho NVIDIA GPU và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm CUDA Toolkit, NVIDIA GPU và Visual Studio Code.
• Tạo một chương trình CUDA cơ bản thực hiện phép cộng vector trên GPU và truy xuất kết quả từ bộ nhớ GPU.
• Sử dụng CUDA API để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ CUDA C/C++ để viết kernel thực thi trên GPU và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp của CUDA để thực hiện các tác vụ và hoạt động phổ biến.
• Sử dụng các không gian bộ nhớ CUDA, chẳng hạn như toàn cục, chia sẻ, hằng số và cục bộ, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi CUDA để điều khiển các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình CUDA bằng các công cụ như CUDA-GDB, CUDA-MEMCHECK và NVIDIA Nsight.
• Tối ưu hóa các chương trình CUDA bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

97% khách hàng hài lòng.

Huawei Ascend là một dòng chip AI được thiết kế cho việc suy luận và đào tạo với hiệu suất cao.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) dành cho các kỹ sư AI trung cấp và nhà khoa học dữ liệu muốn phát triển và tối ưu hóa mô hình mạng nơ-ron sử dụng nền tảng Ascend của Huawei và công cụ CANN.

Tại cuối khóa học này, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển CANN.
• Phát triển ứng dụng AI bằng MindSpore và quy trình CloudMatrix.
• Tối ưu hóa hiệu suất trên Ascend NPU sử dụng các toán tử tùy chỉnh và tiling.
• Cài đặt mô hình vào môi trường biên hoặc đám mây.

Định dạng của khóa học

• Buổi giảng dạy tương tác và thảo luận.
• Sử dụng thực tế Huawei Ascend và công cụ CANN trong các ứng dụng mẫu.
• Luyện tập có hướng dẫn tập trung vào việc xây dựng, đào tạo và triển khai mô hình.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh dựa trên cơ sở hạ tầng hoặc dữ liệu của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Biren AI Accelerators are high-performance GPUs designed for AI and HPC workloads with support for large-scale training and inference.

This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level developers who wish to program and optimize applications using Biren’s proprietary GPU stack, with practical comparisons to CUDA-based environments.

By the end of this training, participants will be able to:

• Understand Biren GPU architecture and memory hierarchy.
• Set up the development environment and use Biren’s programming model.
• Translate and optimize CUDA-style code for Biren platforms.
• Apply performance tuning and debugging techniques.

Format of the Course

• Interactive lecture and discussion.
• Hands-on use of Biren SDK in sample GPU workloads.
• Guided exercises focused on porting and performance tuning.

Course Customization Options

• To request a customized training for this course based on your application stack or integration needs, please contact us to arrange.

Các chip MLU của Cambricon (Machine Learning Units) là các chip AI chuyên dụng được tối ưu hóa cho việc suy luận và đào tạo trong các tình huống ở rìa (edge) và trung tâm dữ liệu.

Khóa học trực tiếp này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển cấp trung muốn xây dựng và triển khai mô hình AI sử dụng khung BANGPy và SDK Neuware trên phần cứng MLU của Cambricon.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển BANGPy và Neuware.
• Xây dựng và tối ưu hóa các mô hình dựa trên Python và C++ cho MLU của Cambricon.
• Triển khai mô hình đến các thiết bị rìa và trung tâm dữ liệu đang chạy runtime Neuware.
• Tích hợp các luồng làm việc ML với các tính năng tăng tốc cụ thể của MLU.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế BANGPy và Neuware cho phát triển và triển khai.
• Bài tập hướng dẫn tập trung vào tối ưu hóa, tích hợp và kiểm thử.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh dựa trên mô hình thiết bị Cambricon hoặc trường hợp sử dụng của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Yêu cầu tiền đề

• Có hiểu biết về cấu trúc các mô hình học máy.
• Kinh nghiệm với Python và/hoặc C++.
• Có kiến thức về các khái niệm triển khai và tăng tốc mô hình.

Khán giả

• Nhà phát triển AI nhúng.
• Kỹ sư ML triển khai đến rìa hoặc trung tâm dữ liệu.
• Nhà phát triển làm việc với cơ sở hạ tầng AI Trung Quốc.

Tóm tắt và Bước tiếp theo

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Ho Chi Minh City (trực tuyến hoặc tại chỗ) dành cho các quản trị viên hệ thống và chuyên gia IT ở trình độ mới bắt đầu, những người muốn cài đặt, cấu hình, quản lý và khắc phục sự cố môi trường CUDA.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Hiểu kiến trúc, các thành phần và khả năng của CUDA.
• Cài đặt và cấu hình môi trường CUDA.
• Quản lý và tối ưu hóa tài nguyên CUDA.
• Gỡ lỗi và khắc phục các sự cố phổ biến của CUDA.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Ho Chi Minh City (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng OpenCL để lập trình các thiết bị dị thể và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm SDK OpenCL, một thiết bị hỗ trợ OpenCL và Visual Studio Code.
• Tạo một chương trình OpenCL cơ bản thực hiện phép cộng vector trên thiết bị và truy xuất kết quả từ bộ nhớ thiết bị.
• Sử dụng API OpenCL để truy vấn thông tin thiết bị, tạo ngữ cảnh, hàng đợi lệnh, bộ đệm, kernel và sự kiện.
• Sử dụng ngôn ngữ C OpenCL để viết kernel thực thi trên thiết bị và thao tác dữ liệu.
• Sử dụng các hàm, tiện ích mở rộng và thư viện tích hợp của OpenCL để thực hiện các tác vụ và thao tác phổ biến.
• Sử dụng các mô hình bộ nhớ chủ và thiết bị của OpenCL để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi của OpenCL để điều khiển các mục làm việc, nhóm làm việc và ND-range.
• Gỡ lỗi và kiểm tra các chương trình OpenCL bằng các công cụ như CodeXL, Intel VTune và NVIDIA Nsight.
• Tối ưu hóa các chương trình OpenCL bằng các kỹ thuật như vector hóa, mở vòng lặp, bộ nhớ cục bộ và phân tích hiệu năng.

Buổi đào tạo trực tiếp do giảng viên hướng dẫn tại Ho Chi Minh City (trực tuyến hoặc trực tiếp) này dành cho các nhà phát triển cấp trung muốn sử dụng CUDA để xây dựng các ứng dụng Python chạy song song trên các thiết bị NVIDIA GPU.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Sử dụng trình biên dịch Numba để tăng tốc các ứng dụng Python chạy trên NVIDIA GPU.
• Tạo, biên dịch và khởi chạy các kernel CUDA tùy chỉnh.
• Quản lý bộ nhớ GPU.
• Chuyển đổi một ứng dụng dựa trên CPU thành một ứng dụng được tăng tốc bởi GPU.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này, đề cập đến cách lập trình GPUs cho điện toán song song, cách sử dụng các nền tảng khác nhau, cách làm việc với nền tảng CUDA và các tính năng của nó, cũng như cách thực hiện các kỹ thuật tối ưu hóa khác nhau bằng CUDA. Một số ứng dụng bao gồm học sâu, phân tích dữ liệu, xử lý hình ảnh và các ứng dụng kỹ thuật.