GPU Training in Hanoi

Huawei Ascend là một gia đình chip AI được thiết kế cho việc suy diễn và đào tạo với hiệu suất cao.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho các kỹ sư AI trung cấp và nhà khoa học dữ liệu muốn phát triển và tối ưu hóa mô hình mạng nơron sử dụng nền tảng Ascend của Huawei và bộ công cụ CANN.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển CANN.
• Phát triển ứng dụng AI bằng MindSpore và quy trình làm việc của CloudMatrix.
• Tối ưu hóa hiệu suất trên Ascend NPUs bằng các toán tử tùy chỉnh và tiling.
• Triển khai mô hình vào môi trường cạnh hoặc đám mây.

Định dạng của khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực hành Huawei Ascend và bộ công cụ CANN trong các ứng dụng mẫu.
• Luyện tập có hướng dẫn về xây dựng mô hình, đào tạo và triển khai.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh dựa trên hạ tầng hoặc tập dữ liệu của bạn, xin vui lòng liên hệ với chúng tôi để sắp xếp.

Túi AI của Huawei — từ SDK cấp thấp CANN đến framework cấp cao MindSpore — cung cấp một môi trường phát triển và triển khai AI được tích hợp chặt chẽ và tối ưu cho phần cứng Ascend.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho các chuyên gia kỹ thuật từ trình độ đầu tiên đến trung cấp muốn hiểu cách các thành phần CANN và MindSpore hoạt động cùng nhau để hỗ trợ quản lý vòng đời AI và quyết định về cơ sở hạ tầng.

Đến cuối khóa học, người tham gia sẽ có khả năng:

• Hiểu kiến trúc lớp của túi tính toán AI của Huawei.
• Xác định cách CANN hỗ trợ tối ưu hóa mô hình và triển khai cấp phần cứng.
• Đánh giá framework và công cụ MindSpore so với các giải pháp trong ngành.
• Định vị túi AI của Huawei trong môi trường doanh nghiệp hoặc cloud/on-prem.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Demo hệ thống trực tiếp và hướng dẫn dựa trên trường hợp thực tế.
• Lab được hướng dẫn tùy chọn về luồng mô hình từ MindSpore đến CANN.

Tùy chỉnh khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này, xin vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng OpenACC để lập trình cho các thiết bị dị nhất và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển OpenACC.
• Viết và chạy một chương trình OpenACC cơ bản.
• Chú thích mã bằng các chỉ thị và mệnh đề OpenACC.
• Sử dụng OpenACC API và thư viện.
• Phân tích hiệu năng, gỡ lỗi và tối ưu hóa các chương trình OpenACC.

SDK CANN (Compute Architecture for Neural Networks) cung cấp các công cụ triển khai và tối ưu hóa mạnh mẽ cho ứng dụng AI thời gian thực trong xử lý hình ảnh máy tính và NLP, đặc biệt trên phần cứng Huawei Ascend.

Khóa học huấn luyện trực tiếp (trực tuyến hoặc tại chỗ) này được thiết kế cho các chuyên gia AI cấp trung muốn xây dựng, triển khai và tối ưu hóa mô hình thị giác và ngôn ngữ sử dụng SDK CANN cho các trường hợp sử dụng sản xuất.

Tại kết thúc khóa học này, người tham dự sẽ có khả năng:

• Triển khai và tối ưu hóa mô hình CV và NLP sử dụng CANN và AscendCL.
• Sử dụng các công cụ của CANN để chuyển đổi mô hình và tích hợp chúng vào luồng làm việc trực tiếp.
• Tối ưu hóa hiệu suất dự đoán cho các tác vụ như phát hiện, phân loại và phân tích cảm xúc.
• Xây dựng các luồng CV/NLP thời gian thực cho các trường hợp triển khai tại mép hoặc dựa trên đám mây.

Định dạng khóa học

• Bài giảng tương tác và trình diễn.
• Thao tác thực hành với việc triển khai mô hình và phân tích hiệu suất.
• Thiết kế luồng trực tiếp sử dụng các trường hợp sử dụng CV và NLP thực tế.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này, xin vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn học các kiến thức cơ bản về lập trình GPU và các framework và công cụ chính để phát triển ứng dụng GPU.

• Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
  Hiểu sự khác biệt giữa CPU và lập trình GPU cũng như những lợi ích và thách thức của lập trình GPU.
• Chọn framework và công cụ phù hợp cho ứng dụng GPU của họ.
• Tạo một chương trình GPU cơ bản thực hiện phép cộng vector bằng một hoặc nhiều framework và công cụ.
• Sử dụng các API, ngôn ngữ và thư viện tương ứng để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa host và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng các không gian bộ nhớ tương ứng, chẳng hạn như global, local, constant và private, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng các mô hình thực thi tương ứng, chẳng hạn như work-items, work-groups, threads, blocks và grids, để kiểm soát tính song song.
• Gỡ lỗi và kiểm tra các chương trình GPU bằng các công cụ như CodeXL, CUDA-GDB, CUDA-MEMCHECK và NVIDIA Nsight.
• Tối ưu hóa các chương trình GPU bằng các kỹ thuật như coalescing, caching, prefetching và profiling.

CANN TIK (Tensor Instruction Kernel) và Apache TVM cho phép tối ưu hóa và tùy chỉnh nâng cao các toán tử mô hình AI dành cho Huawei Ascend phần cứng.

Khóa học này do giảng viên hướng dẫn trực tiếp (trực tuyến hoặc tại chỗ) được thiết kế cho các nhà phát triển hệ thống cấp cao muốn xây dựng, triển khai và điều chỉnh các toán tử tùy chỉnh cho mô hình AI bằng cách sử dụng mô hình lập trình TIK của CANN và tích hợp bộ компилятора TVM.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Viết và kiểm thử các toán tử AI tùy chỉnh sử dụng DSL TIK cho các bộ xử lý Ascend.
• Tích hợp các toán tử tùy chỉnh vào hệ thống chạy CANN và đồ thị thực thi.
• Sử dụng TVM để lên lịch, tự điều chỉnh và đánh giá hiệu suất của các toán tử.
• Gỡ lỗi và tối ưu hóa hiệu suất mức lệnh cho các mô hình tính toán tùy chỉnh.

Định dạng khóa học

• Bài giảng tương tác và trình diễn.
• Lập trình thực hành các toán tử sử dụng luồng TIK và TVM.
• Kiểm thử và điều chỉnh trên phần cứng Ascend hoặc mô phỏng.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

khóa học trực tiếp (trực tuyến hoặc tại chỗ) này dành cho các nhà phát triển từ trình độ đầu tiên đến trung cấp muốn sử dụng các khung làm việc khác nhau cho lập trình GPU và so sánh tính năng, hiệu suất và tương thích của chúng.

Kết thúc khóa học này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm SDK OpenCL, Toolkit CUDA, Platform ROCm, thiết bị hỗ trợ OpenCL, CUDA hoặc ROCm và Visual Studio Code.
• Tạo chương trình cơ bản GPU thực hiện cộng vector bằng cách sử dụng OpenCL, CUDA và ROCm, so sánh cú pháp, cấu trúc và thực thi của từng khung làm việc.
• Sử dụng các API tương ứng để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy nhân (kernels) và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ tương ứng để viết các nhân thực thi trên thiết bị và thao tác với dữ liệu.
• Sử dụng các hàm, biến và thư viện có sẵn tương ứng để thực hiện các tác vụ và hoạt động thông thường.
• Sử dụng không gian bộ nhớ tương ứng như toàn cục (global), địa phương (local), hằng số (constant) và riêng tư (private) để tối ưu hóa việc chuyển dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi tương ứng để kiểm soát các luồng, khối và lưới xác định sự song song.
• Debugging và thử nghiệm chương trình GPU bằng các công cụ như CodeXL, CUDA-GDB, CUDA-MEMCHECK và NVIDIA Nsight.
• Tối ưu hóa chương trình GPU bằng cách sử dụng các kỹ thuật như kết hợp (coalescing), bộ đệm (caching), dự đoán (prefetching) và phân tích hiệu năng (profiling).

CloudMatrix là nền tảng phát triển và triển khai AI thống nhất của Huawei, thiết kế để hỗ trợ các đường ống dự đoán quy mô lớn và sản xuất.

Khóa học này được giảng dạy trực tiếp (trực tuyến hoặc tại chỗ) dành cho chuyên gia AI cấp độ cơ bản đến trung cấp muốn triển khai và giám sát các mô hình AI sử dụng nền tảng CloudMatrix với tích hợp CANN và MindSpore.

Tại cuối khóa học này, người tham dự sẽ có thể:

• Sử dụng CloudMatrix cho đóng gói mô hình, triển khai và dịch vụ.
• Chuyển đổi và tối ưu hóa các mô hình cho chip Ascend.
• Thiết lập đường ống cho tác vụ dự đoán thời gian thực và lô hàng.
• Giám sát triển khai và điều chỉnh hiệu suất trong môi trường sản xuất.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế của CloudMatrix với các kịch bản triển khai thực tế.
• Các bài tập hướng dẫn tập trung vào chuyển đổi, tối ưu hóa và mở rộng.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh dựa trên cơ sở hạ tầng AI hoặc môi trường đám mây của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Bộ công cụ Ascend CANN của Huawei cho phép thực hiện suy luận AI mạnh mẽ trên các thiết bị đầu cuối như Ascend 310. CANN cung cấp các công cụ cần thiết để biên dịch, tối ưu hóa và triển khai mô hình trong môi trường hạn chế về tính toán và bộ nhớ.

Khóa học này được hướng dẫn trực tiếp (trực tuyến hoặc tại chỗ) nhằm vào các nhà phát triển và tích hợp AI có trình độ trung cấp muốn triển khai và tối ưu hóa mô hình trên thiết bị đầu cuối Ascend sử dụng chuỗi công cụ CANN.

Đến hết khóa học này, người tham gia sẽ có thể:

• Chuẩn bị và chuyển đổi các mô hình AI cho Ascend 310 bằng các công cụ của CANN.
• Xây dựng cácpipeline suy luận nhẹ nhàng sử dụng MindSpore Lite và AscendCL.
• Tối ưu hóa hiệu suất mô hình cho môi trường hạn chế về tính toán và bộ nhớ.
• Triển khai và theo dõi các ứng dụng AI trong các trường hợp sử dụng thực tế ở đầu cuối.

Định dạng của Khóa học

• Bài giảng tương tác và trình diễn.
• Công việc phòng thí nghiệm thực hành với các mô hình và tình huống cụ thể cho đầu cuối.
• Ví dụ triển khai trực tiếp trên phần cứng đầu cuối ảo hoặc vật lý.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa đào tạo trực tiếp, trực tuyến hoặc tại chỗ này dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn cài đặt và sử dụng ROCm trên Windows để lập trình cho các thiết bị AMD GPU và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm Nền tảng ROCm, thiết bị AMD GPU và Visual Studio Code trên Windows.
• Tạo một chương trình ROCm cơ bản thực hiện phép cộng vector trên thiết bị GPU và truy xuất kết quả từ bộ nhớ của thiết bị GPU.
• Sử dụng API ROCm để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ HIP để viết kernel thực thi trên thiết bị GPU và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp của HIP để thực hiện các tác vụ và hoạt động phổ biến.
• Sử dụng các không gian bộ nhớ ROCm và HIP, chẳng hạn như toàn cục, chia sẻ, hằng số và cục bộ, để tối ưu hóa việc truyền và truy cập bộ nhớ.
• Sử dụng các mô hình thực thi ROCm và HIP để điều khiển các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình ROCm và HIP bằng các công cụ như ROCm Debugger và ROCm Profiler.
• Tối ưu hóa các chương trình ROCm và HIP bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng ROCm và HIP để lập trình cho các thiết bị AMD GPU và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm Nền tảng ROCm, thiết bị AMD GPU và Visual Studio Code.
• Tạo một chương trình ROCm cơ bản thực hiện phép cộng vector trên thiết bị GPU và truy xuất kết quả từ bộ nhớ của thiết bị GPU.
• Sử dụng API ROCm để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ HIP để viết kernel thực thi trên thiết bị GPU và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp của HIP để thực hiện các tác vụ và hoạt động phổ biến.
• Sử dụng không gian bộ nhớ ROCm và HIP, chẳng hạn như toàn cục, chia sẻ, hằng số và cục bộ, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi ROCm và HIP để điều khiển các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình ROCm và HIP bằng các công cụ như ROCm Debugger và ROCm Profiler.
• Tối ưu hóa các chương trình ROCm và HIP bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

CANN (Compute Architecture for Neural Networks) là bộ công cụ tính toán AI của Huawei được sử dụng để biên dịch, tối ưu hóa và triển khai mô hình AI trên các chip Ascend AI.

khóa học này do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển AI trình độ cơ bản muốn hiểu cách CANN được sử dụng trong chu kỳ đời sống của mô hình từ đào tạo đến triển khai, và cách nó hoạt động cùng với các framework như MindSpore, TensorFlow, và PyTorch.

Cuối khóa học này, người tham gia sẽ có khả năng:

• Hiểu mục đích và kiến trúc của bộ công cụ CANN.
• Thiết lập môi trường phát triển với CANN và MindSpore.
• Chuyển đổi và triển khai một mô hình AI cơ bản lên phần cứng Ascend.
• Có kiến thức nền tảng cho các dự án tối ưu hóa hoặc tích hợp CANN trong tương lai.

Định dạng khóa học

• Bài giảng và thảo luận tương tác.
• Phòng thí nghiệm thực hành với việc triển khai mô hình cơ bản.
• Hướng dẫn từng bước qua chuỗi công cụ CANN và điểm tích hợp.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Ascend, Biren và Cambricon là các nền tảng phần cứng AI hàng đầu tại Trung Quốc, mỗi nền tảng đều cung cấp công cụ tăng tốc và phân tích hiệu năng độc đáo cho tác vụ AI quy mô sản xuất.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhắm đến các kỹ sư cơ sở hạ tầng AI và hiệu năng cao cấp muốn tối ưu hóa chuỗi công việc dự đoán và đào tạo mô hình trên nhiều nền tảng chip AI Trung Quốc.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Đánh giá hiệu năng của các mô hình trên các nền tảng Ascend, Biren và Cambricon.
• Xác định điểm nghẽn hệ thống và sự kém hiệu quả về bộ nhớ/tính toán.
• Áp dụng tối ưu hóa cấp đồ thị, nhân và trình điều khiển.
• Tùy chỉnh các đường ống triển khai để cải thiện băng thông và độ trễ.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng trực tiếp các công cụ phân tích hiệu năng và tối ưu hóa trên từng nền tảng.
• Bài tập hướng dẫn tập trung vào các tình huống điều chỉnh thực tế.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu đào tạo tùy chỉnh cho khóa học này dựa trên môi trường hiệu năng hoặc loại mô hình của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

CANN SDK (Kiến trúc Tính toán cho Neural Networks) là nền tảng tính toán AI của Huawei, cho phép các nhà phát triển điều chỉnh và tối ưu hóa hiệu suất của mạng neural đã được triển khai trên bộ xử lý AI Ascend.

Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho các nhà phát triển AI cấp cao và kỹ sư hệ thống muốn tối ưu hóa hiệu suất suy luận bằng cách sử dụng công cụ tiên tiến của CANN, bao gồm Engine đồ thị, TIK và phát triển toán tử tùy chỉnh.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Hiểu kiến trúc thời gian chạy và vòng đời hiệu suất của CANN.
• Sử dụng công cụ phân tích hiệu năng và Engine đồ thị để phân tích và tối ưu hóa hiệu suất.
• Tạo và tối ưu hóa toán tử tùy chỉnh bằng TIK và TVM.
• Giải quyết các điểm tắc nghẽn bộ nhớ và cải thiện thông lượng của mô hình.

Định dạng khóa học

• Buổi giảng dạy tương tác và thảo luận.
• Lịch trình thực hành với phân tích thời gian thực và điều chỉnh toán tử.
• Bài tập tối ưu hóa sử dụng ví dụ triển khai trường hợp biên.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.

Các kiến trúc GPU Trung Quốc như Huawei Ascend, Biren, và Cambricon MLUs cung cấp các giải pháp thay thế CUDA được điều chỉnh cho thị trường AI và HPC địa phương.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các lập trình viên cấp cao và chuyên gia về cơ sở hạ tầng muốn di chuyển và tối ưu hóa các ứng dụng CUDA hiện có để triển khai trên nền tảng hardware Trung Quốc.

Tại kết thúc khóa học, người tham dự sẽ có khả năng:

• Đánh giá sự tương thích của công việc CUDA hiện tại với các giải pháp chip Trung Quốc.
• Di chuyển mã nguồn CUDA sang môi trường Huawei CANN, Biren SDK và Cambricon BANGPy.
• So sánh hiệu suất và xác định điểm tối ưu trên nhiều nền tảng.
• Xử lý các thách thức thực tế trong hỗ trợ đa kiến trúc và triển khai.

Hình thức khóa học

• Bài giảng tương tác và thảo luận.
• Thực hành chuyển đổi mã nguồn và so sánh hiệu suất.
• Bài tập hướng dẫn tập trung vào chiến lược thích ứng đa-GPU.

Tùy chọn tùy chỉnh khóa học

• Nếu bạn muốn yêu cầu một khóa đào tạo tùy chỉnh dựa trên nền tảng hoặc dự án CUDA của mình, vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn sử dụng CUDA để lập trình cho NVIDIA GPU và khai thác tính song song của chúng.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường phát triển bao gồm CUDA Toolkit, NVIDIA GPU và Visual Studio Code.
• Tạo một chương trình CUDA cơ bản thực hiện phép cộng vector trên GPU và truy xuất kết quả từ bộ nhớ GPU.
• Sử dụng CUDA API để truy vấn thông tin thiết bị, cấp phát và giải phóng bộ nhớ thiết bị, sao chép dữ liệu giữa máy chủ và thiết bị, khởi chạy kernel và đồng bộ hóa luồng.
• Sử dụng ngôn ngữ CUDA C/C++ để viết kernel thực thi trên GPU và thao tác dữ liệu.
• Sử dụng các hàm, biến và thư viện tích hợp của CUDA để thực hiện các tác vụ và hoạt động phổ biến.
• Sử dụng các không gian bộ nhớ CUDA, chẳng hạn như toàn cục, chia sẻ, hằng số và cục bộ, để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi CUDA để điều khiển các luồng, khối và lưới xác định tính song song.
• Gỡ lỗi và kiểm tra các chương trình CUDA bằng các công cụ như CUDA-GDB, CUDA-MEMCHECK và NVIDIA Nsight.
• Tối ưu hóa các chương trình CUDA bằng các kỹ thuật như hợp nhất, bộ nhớ đệm, truy cập trước và phân tích hiệu năng.

97% khách hàng hài lòng.

CANN (Compute Architecture for Neural Networks) là bộ công cụ tính toán AI của Huawei để triển khai và tối ưu hóa các mô hình AI trên các bộ xử lý Ascend AI.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các nhà phát triển và kỹ sư AI cấp trung muốn triển khai các mô hình AI đã được huấn luyện một cách hiệu quả lên thiết bị Huawei Ascend sử dụng bộ công cụ CANN cùng các công cụ như MindSpore, TensorFlow, hoặc PyTorch.

Kết thúc khóa học này, người tham gia sẽ có thể:

• Hiểu kiến trúc CANN và vai trò của nó trong quy trình triển khai AI.
• Chuyển đổi và điều chỉnh các mô hình từ các bộ khung phổ biến sang định dạng tương thích với Ascend.
• Sử dụng công cụ như ATC, chuyển đổi mô hình OM, và MindSpore cho suy diễn ở biên và đám mây.
• Chẩn đoán các vấn đề triển khai và tối ưu hóa hiệu suất trên thiết bị Ascend.

Định dạng của Khóa học

• Bài giảng tương tác và trình diễn.
• Thực hành tay trên sử dụng các công cụ CANN và mô phỏng hoặc thiết bị Ascend.
• Cen huống triển khai thực tế dựa trên các mô hình AI trong thế giới thực.

Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Các bộ điều hợp AI hiệu suất cao Biren được thiết kế cho các tác vụ AI và HPC, hỗ trợ đào tạo và suy luận quy mô lớn.

Khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn, nhằm vào các nhà phát triển cấp trung đến nâng cao muốn lập trình và tối ưu hóa ứng dụng bằng cách sử dụng bộ điều hợp GPU độc quyền của Biren, với so sánh thực tế đối với môi trường dựa trên CUDA.

Cuối khóa học này, người tham gia sẽ có thể:

• Hiểu kiến trúc và hệ thống phân cấp bộ nhớ GPU của Biren.
• Thiết lập môi trường phát triển và sử dụng mô hình lập trình của Biren.
• Dịch và tối ưu hóa mã phong cách CUDA cho các nền tảng Biren.
• Áp dụng các kỹ thuật điều chỉnh hiệu suất và gỡ lỗi.

Định dạng của khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế SDK Biren trong các tác vụ mẫu GPU.
• Bài tập hướng dẫn tập trung vào việc chuyển đổi và điều chỉnh hiệu suất.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa đào tạo tùy chỉnh dựa trên bộ điều hợp hoặc nhu cầu tích hợp của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Các chip MLU của Cambricon (Machine Learning Units) là các chip AI chuyên dụng được tối ưu hóa cho việc suy luận và đào tạo trong các tình huống ở rìa (edge) và trung tâm dữ liệu.

Khóa học trực tiếp này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển cấp trung muốn xây dựng và triển khai mô hình AI sử dụng khung BANGPy và SDK Neuware trên phần cứng MLU của Cambricon.

Tại kết thúc khóa học, người tham gia sẽ có thể:

• Cài đặt và cấu hình môi trường phát triển BANGPy và Neuware.
• Xây dựng và tối ưu hóa các mô hình dựa trên Python và C++ cho MLU của Cambricon.
• Triển khai mô hình đến các thiết bị rìa và trung tâm dữ liệu đang chạy runtime Neuware.
• Tích hợp các luồng làm việc ML với các tính năng tăng tốc cụ thể của MLU.

Định dạng khóa học

• Bài giảng tương tác và thảo luận.
• Sử dụng thực tế BANGPy và Neuware cho phát triển và triển khai.
• Bài tập hướng dẫn tập trung vào tối ưu hóa, tích hợp và kiểm thử.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa học được tùy chỉnh dựa trên mô hình thiết bị Cambricon hoặc trường hợp sử dụng của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.

Yêu cầu tiền đề

• Có hiểu biết về cấu trúc các mô hình học máy.
• Kinh nghiệm với Python và/hoặc C++.
• Có kiến thức về các khái niệm triển khai và tăng tốc mô hình.

Khán giả

• Nhà phát triển AI nhúng.
• Kỹ sư ML triển khai đến rìa hoặc trung tâm dữ liệu.
• Nhà phát triển làm việc với cơ sở hạ tầng AI Trung Quốc.

Tóm tắt và Bước tiếp theo

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Hanoi (trực tuyến hoặc tại chỗ) dành cho các quản trị viên hệ thống và chuyên gia IT ở trình độ mới bắt đầu, những người muốn cài đặt, cấu hình, quản lý và khắc phục sự cố môi trường CUDA.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Hiểu kiến trúc, các thành phần và khả năng của CUDA.
• Cài đặt và cấu hình môi trường CUDA.
• Quản lý và tối ưu hóa tài nguyên CUDA.
• Gỡ lỗi và khắc phục các sự cố phổ biến của CUDA.

Khóa học trực tiếp này tại Hanoi (trực tuyến hoặc trực tiếp) được thiết kế cho các nhà phát triển cấp độ đầu đến trung cấp muốn sử dụng OpenCL để lập trình cho nhiều thiết bị khác nhau và khai thác khả năng song song của chúng.

Đến cuối khóa học, người tham gia sẽ có thể:

• Cài đặt môi trường phát triển bao gồm SDK OpenCL, thiết bị hỗ trợ OpenCL và Visual Studio Code.
• Tạo chương trình cơ bản sử dụng OpenCL để thực hiện phép cộng vector trên thiết bị và lấy kết quả từ bộ nhớ của thiết bị.
• Sử dụng API OpenCL để truy vấn thông tin thiết bị, tạo ngữ cảnh, hàng lệnh, bộ đệm, nhân (kernel) và sự kiện.
• Viết các nhân (kernel) sử dụng ngôn ngữ C của OpenCL để thực thi trên thiết bị và thao tác dữ liệu.
• Sử dụng các hàm tích hợp, mở rộng và thư viện của OpenCL để thực hiện các tác vụ và thao tác thông thường.
• Sử dụng mô hình bộ nhớ máy chủ và thiết bị của OpenCL để tối ưu hóa việc truyền dữ liệu và truy cập bộ nhớ.
• Sử dụng mô hình thực thi của OpenCL để kiểm soát các mục công việc, nhóm công việc và ND-ranges.
• Gỡ lỗi và kiểm thử chương trình OpenCL bằng các công cụ như CodeXL, Intel VTune và NVIDIA Nsight.
• Tối ưu hóa chương trình OpenCL bằng các kỹ thuật như vectorization, mở vòng lặp, bộ nhớ cục bộ và đánh giá hiệu suất.

Buổi đào tạo trực tiếp do giảng viên hướng dẫn tại Hanoi (trực tuyến hoặc trực tiếp) này dành cho các nhà phát triển cấp trung muốn sử dụng CUDA để xây dựng các ứng dụng Python chạy song song trên các thiết bị NVIDIA GPU.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Sử dụng trình biên dịch Numba để tăng tốc các ứng dụng Python chạy trên NVIDIA GPU.
• Tạo, biên dịch và khởi chạy các kernel CUDA tùy chỉnh.
• Quản lý bộ nhớ GPU.
• Chuyển đổi một ứng dụng dựa trên CPU thành một ứng dụng được tăng tốc bởi GPU.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này, đề cập đến cách lập trình GPUs cho điện toán song song, cách sử dụng các nền tảng khác nhau, cách làm việc với nền tảng CUDA và các tính năng của nó, cũng như cách thực hiện các kỹ thuật tối ưu hóa khác nhau bằng CUDA. Một số ứng dụng bao gồm học sâu, phân tích dữ liệu, xử lý hình ảnh và các ứng dụng kỹ thuật.