Phát Triển và triển khai AI với CloudMatrix Training Course
CloudMatrix là nền tảng phát triển và triển khai AI thống nhất của Huawei, được thiết kế để hỗ trợ các ống dẫn suy luận có khả năng mở rộng và đạt chuẩn sản xuất.
Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) dành cho chuyên gia AI từ trình độ đầu tiên đến trung cấp muốn triển khai và theo dõi mô hình AI sử dụng nền tảng CloudMatrix với sự tích hợp của CANN và MindSpore.
Tại kết thúc khóa học này, người tham dự sẽ có thể:
- Sử dụng CloudMatrix cho việc đóng gói, triển khai và cung cấp mô hình.
- Chuyển đổi và tối ưu hóa các mô hình cho chipset Ascend.
- Cài đặt ống dẫn cho tác vụ suy luận thời gian thực và lô.
- Theo dõi triển khai và điều chỉnh hiệu suất trong môi trường sản xuất.
Định dạng khóa học
- Buổi giảng dạy tương tác và thảo luận.
- Sử dụng CloudMatrix thực tế với các tình huống triển khai thực tế.
- Bài tập hướng dẫn tập trung vào chuyển đổi, tối ưu hóa và mở rộng.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu một khóa học tùy chỉnh dựa trên cơ sở hạ tầng AI hoặc môi trường đám mây của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.
Đề cương khóa học
Giới thiệu về Huawei CloudMatrix
- Hệ sinh thái và quy trình triển khai của CloudMatrix
- Mô hình, định dạng và các chế độ triển khai được hỗ trợ
- Ví dụ điển hình và chipsets được hỗ trợ
Sẵn sàng Mô hình cho Triển khai
- Xuất mô hình từ công cụ đào tạo (MindSpore, TensorFlow, PyTorch)
- Sử dụng ATC (Ascend Tensor Compiler) để chuyển đổi định dạng
- Mô hình tĩnh vs động
Triển khai lên CloudMatrix
- Tạo dịch vụ và đăng ký mô hình
- Triển khai dịch vụ suy luận thông qua giao diện người dùng hoặc CLI
- Lộ trình, xác thực và kiểm soát truy cập
Phục vụ Yêu cầu Suy luận
- Quá trình suy luận lô vs thời gian thực
- Hồ sơ tiền xử lý và hậu xử lý dữ liệu
- Gọi dịch vụ CloudMatrix từ các ứng dụng bên ngoài
Theo dõi và Tinh chỉnh Hiệu suất
- Logs triển khai và theo dõi yêu cầu
- Tăng cường tài nguyên và cân bằng tải
- Tinh chỉnh độ trễ và tối ưu hóa băng thông
Tích hợp với Công cụ Doanh nghiệp
- Kết nối CloudMatrix với OBS và ModelArts
- Sử dụng quy trình làm việc và phiên bản mô hình
- CI/CD cho triển khai và hoàn tác mô hình
Dịchpipeline Suy luận Từ đầu đến cuối
- Triển khai một pipeline phân loại ảnh hoàn chỉnh
- Kiểm chứng và đánh giá độ chính xác
- Mô phỏng việc chuyển đổi hệ thống và cảnh báo
Khái quát và Bước tiếp theo
Requirements
- Hiểu biết về quy trình đào tạo mô hình AI
- Kinh nghiệm với các khung ML dựa trên Python
- Có hiểu biết cơ bản về các khái niệm triển khai đám mây
Đối tượng
- Các đội ngũ AI ops
- Kỹ sư học máy
- Nhân viên chuyên trách triển khai đám mây làm việc với cơ sở hạ tầng của Huawei
Open Training Courses require 5+ participants.
Phát Triển và triển khai AI với CloudMatrix Training Course - Booking
Phát Triển và triển khai AI với CloudMatrix Training Course - Enquiry
Phát Triển và triển khai AI với CloudMatrix - Consultancy Enquiry
Consultancy Enquiry
Testimonials (1)
Hướng dẫn từng bước với nhiều bài tập. Nó giống như một workshop và tôi rất vui về điều đó.
Ireneusz - Inter Cars S.A.
Course - Intelligent Applications Fundamentals
Machine Translated
Provisional Upcoming Courses (Require 5+ participants)
Related Courses
Phát triển Ứng dụng AI với Huawei Ascend và CANN
21 HoursHuawei Ascend là một dòng chip AI được thiết kế cho việc suy luận và đào tạo với hiệu suất cao.
Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) dành cho các kỹ sư AI trung cấp và nhà khoa học dữ liệu muốn phát triển và tối ưu hóa mô hình mạng nơ-ron sử dụng nền tảng Ascend của Huawei và công cụ CANN.
Tại cuối khóa học này, người tham gia sẽ có thể:
- Cài đặt và cấu hình môi trường phát triển CANN.
- Phát triển ứng dụng AI bằng MindSpore và quy trình CloudMatrix.
- Tối ưu hóa hiệu suất trên Ascend NPU sử dụng các toán tử tùy chỉnh và tiling.
- Cài đặt mô hình vào môi trường biên hoặc đám mây.
Định dạng của khóa học
- Buổi giảng dạy tương tác và thảo luận.
- Sử dụng thực tế Huawei Ascend và công cụ CANN trong các ứng dụng mẫu.
- Luyện tập có hướng dẫn tập trung vào việc xây dựng, đào tạo và triển khai mô hình.
Tùy chọn Tùy chỉnh Khóa học
- Để yêu cầu một khóa học tùy chỉnh dựa trên cơ sở hạ tầng hoặc dữ liệu của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.
Deploying AI Models with CANN and Ascend AI Processors
14 HoursCANN (Compute Architecture for Neural Networks) is Huawei’s AI compute stack for deploying and optimizing AI models on Ascend AI processors.
This instructor-led, live training (online or onsite) is aimed at intermediate-level AI developers and engineers who wish to deploy trained AI models efficiently to Huawei Ascend hardware using the CANN toolkit and tools such as MindSpore, TensorFlow, or PyTorch.
By the end of this training, participants will be able to:
- Understand the CANN architecture and its role in the AI deployment pipeline.
- Convert and adapt models from popular frameworks to Ascend-compatible formats.
- Use tools like ATC, OM model conversion, and MindSpore for edge and cloud inference.
- Diagnose deployment issues and optimize performance on Ascend hardware.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on lab work using CANN tools and Ascend simulators or devices.
- Practical deployment scenarios based on real-world AI models.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
AI Engineering Nền tảng cơ bản
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các kỹ sư AI và nhà phát triển phần mềm ở trình độ mới bắt đầu đến trung cấp, những người muốn có được kiến thức nền tảng về các nguyên tắc và thực hành kỹ thuật AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các khái niệm và công nghệ cốt lõi đằng sau AI và học máy.
- Triển khai các mô hình học máy cơ bản bằng TensorFlow và PyTorch.
- Áp dụng các kỹ thuật AI để giải quyết các vấn đề thực tế trong phát triển phần mềm.
- Quản lý và duy trì các dự án AI bằng các phương pháp hay nhất trong kỹ thuật AI.
- Nhận biết các tác động và trách nhiệm đạo đức liên quan đến việc phát triển các hệ thống AI.
GPU Programming on Biren AI Accelerators
21 HoursBiren AI Accelerators are high-performance GPUs designed for AI and HPC workloads with support for large-scale training and inference.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level developers who wish to program and optimize applications using Biren’s proprietary GPU stack, with practical comparisons to CUDA-based environments.
By the end of this training, participants will be able to:
- Understand Biren GPU architecture and memory hierarchy.
- Set up the development environment and use Biren’s programming model.
- Translate and optimize CUDA-style code for Biren platforms.
- Apply performance tuning and debugging techniques.
Format of the Course
- Interactive lecture and discussion.
- Hands-on use of Biren SDK in sample GPU workloads.
- Guided exercises focused on porting and performance tuning.
Course Customization Options
- To request a customized training for this course based on your application stack or integration needs, please contact us to arrange.
Xây dựng Intelligent Applications với AI và ML
28 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia AI và nhà phát triển phần mềm trình độ trung cấp đến nâng cao, những người muốn xây dựng các ứng dụng thông minh bằng AI và ML.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các khái niệm và công nghệ nâng cao đằng sau AI và ML.
- Phân tích và trực quan hóa dữ liệu để thông báo cho quá trình phát triển mô hình AI/ML.
- Xây dựng, huấn luyện và triển khai các mô hình AI/ML một cách hiệu quả.
- Tạo các ứng dụng thông minh có thể giải quyết các vấn đề thực tế.
- Đánh giá các tác động đạo đức của các ứng dụng AI trong nhiều ngành công nghiệp.
Introduction to CANN for AI Framework Developers
7 HoursCANN (Compute Architecture for Neural Networks) is Huawei’s AI computing toolkit used to compile, optimize, and deploy AI models on Ascend AI processors.
This instructor-led, live training (online or onsite) is aimed at beginner-level AI developers who wish to understand how CANN fits into the model lifecycle from training to deployment, and how it works with frameworks like MindSpore, TensorFlow, and PyTorch.
By the end of this training, participants will be able to:
- Understand the purpose and architecture of the CANN toolkit.
- Set up a development environment with CANN and MindSpore.
- Convert and deploy a simple AI model to Ascend hardware.
- Gain foundational knowledge for future CANN optimization or integration projects.
Format of the Course
- Interactive lecture and discussion.
- Hands-on labs with simple model deployment.
- Step-by-step walkthrough of the CANN toolchain and integration points.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
CANN for Edge AI Deployment
14 HoursHuawei's Ascend CANN toolkit enables powerful AI inference on edge devices such as the Ascend 310. CANN provides essential tools for compiling, optimizing, and deploying models where compute and memory are constrained.
This instructor-led, live training (online or onsite) is aimed at intermediate-level AI developers and integrators who wish to deploy and optimize models on Ascend edge devices using the CANN toolchain.
By the end of this training, participants will be able to:
- Prepare and convert AI models for Ascend 310 using CANN tools.
- Build lightweight inference pipelines using MindSpore Lite and AscendCL.
- Optimize model performance for limited compute and memory environments.
- Deploy and monitor AI applications in real-world edge use cases.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on lab work with edge-specific models and scenarios.
- Live deployment examples on virtual or physical edge hardware.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Understanding Huawei’s AI Compute Stack: From CANN to MindSpore
14 HoursHuawei’s AI stack — from the low-level CANN SDK to the high-level MindSpore framework — offers a tightly integrated AI development and deployment environment optimized for Ascend hardware.
This instructor-led, live training (online or onsite) is aimed at beginner-level to intermediate-level technical professionals who wish to understand how the CANN and MindSpore components work together to support AI lifecycle management and infrastructure decisions.
By the end of this training, participants will be able to:
- Understand the layered architecture of Huawei’s AI compute stack.
- Identify how CANN supports model optimization and hardware-level deployment.
- Evaluate the MindSpore framework and toolchain in relation to industry alternatives.
- Position Huawei's AI stack within enterprise or cloud/on-prem environments.
Format of the Course
- Interactive lecture and discussion.
- Live system demos and case-based walkthroughs.
- Optional guided labs on model flow from MindSpore to CANN.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Optimizing Neural Network Performance with CANN SDK
14 HoursCANN SDK (Compute Architecture for Neural Networks) is Huawei’s AI compute foundation that allows developers to fine-tune and optimize the performance of deployed neural networks on Ascend AI processors.
This instructor-led, live training (online or onsite) is aimed at advanced-level AI developers and system engineers who wish to optimize inference performance using CANN’s advanced toolset, including the Graph Engine, TIK, and custom operator development.
By the end of this training, participants will be able to:
- Understand CANN's runtime architecture and performance lifecycle.
- Use profiling tools and Graph Engine for performance analysis and optimization.
- Create and optimize custom operators using TIK and TVM.
- Resolve memory bottlenecks and improve model throughput.
Format of the Course
- Interactive lecture and discussion.
- Hands-on labs with real-time profiling and operator tuning.
- Optimization exercises using edge-case deployment examples.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
CANN SDK for Computer Vision and NLP Pipelines
14 HoursThe CANN SDK (Compute Architecture for Neural Networks) provides powerful deployment and optimization tools for real-time AI applications in computer vision and NLP, especially on Huawei Ascend hardware.
This instructor-led, live training (online or onsite) is aimed at intermediate-level AI practitioners who wish to build, deploy, and optimize vision and language models using the CANN SDK for production use cases.
By the end of this training, participants will be able to:
- Deploy and optimize CV and NLP models using CANN and AscendCL.
- Use CANN tools to convert models and integrate them into live pipelines.
- Optimize inference performance for tasks like detection, classification, and sentiment analysis.
- Build real-time CV/NLP pipelines for edge or cloud-based deployment scenarios.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on lab with model deployment and performance profiling.
- Live pipeline design using real CV and NLP use cases.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Building Custom AI Operators with CANN TIK and TVM
14 HoursCANN TIK (Tensor Instruction Kernel) and Apache TVM enable advanced optimization and customization of AI model operators for Huawei Ascend hardware.
This instructor-led, live training (online or onsite) is aimed at advanced-level system developers who wish to build, deploy, and tune custom operators for AI models using CANN’s TIK programming model and TVM compiler integration.
By the end of this training, participants will be able to:
- Write and test custom AI operators using the TIK DSL for Ascend processors.
- Integrate custom ops into the CANN runtime and execution graph.
- Use TVM for operator scheduling, auto-tuning, and benchmarking.
- Debug and optimize instruction-level performance for custom computation patterns.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on coding of operators using TIK and TVM pipelines.
- Testing and tuning on Ascend hardware or simulators.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Chuyển đổi Các Ứng dụng CUDA sang Kiến trúc GPU Trung Quốc
21 HoursCác kiến trúc GPU Trung Quốc như Huawei Ascend, Biren, và Cambricon MLUs cung cấp các giải pháp thay thế CUDA được điều chỉnh cho thị trường AI và HPC địa phương.
Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các lập trình viên cấp cao và chuyên gia về cơ sở hạ tầng muốn di chuyển và tối ưu hóa các ứng dụng CUDA hiện có để triển khai trên nền tảng hardware Trung Quốc.
Tại kết thúc khóa học, người tham dự sẽ có khả năng:
- Đánh giá sự tương thích của công việc CUDA hiện tại với các giải pháp chip Trung Quốc.
- Di chuyển mã nguồn CUDA sang môi trường Huawei CANN, Biren SDK và Cambricon BANGPy.
- So sánh hiệu suất và xác định điểm tối ưu trên nhiều nền tảng.
- Xử lý các thách thức thực tế trong hỗ trợ đa kiến trúc và triển khai.
Hình thức khóa học
- Bài giảng tương tác và thảo luận.
- Thực hành chuyển đổi mã nguồn và so sánh hiệu suất.
- Bài tập hướng dẫn tập trung vào chiến lược thích ứng đa-GPU.
Tùy chọn tùy chỉnh khóa học
- Nếu bạn muốn yêu cầu một khóa đào tạo tùy chỉnh dựa trên nền tảng hoặc dự án CUDA của mình, vui lòng liên hệ với chúng tôi để sắp xếp.
Intelligent Applications Nền tảng cơ bản
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia IT mới bắt đầu, những người muốn có được kiến thức nền tảng về các ứng dụng thông minh và cách chúng có thể được áp dụng trong nhiều ngành công nghiệp.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu về lịch sử, nguyên tắc và tác động của trí tuệ nhân tạo.
- Xác định và áp dụng các thuật toán học máy khác nhau.
- Quản lý và phân tích dữ liệu hiệu quả cho các ứng dụng AI.
- Nhận biết các ứng dụng thực tế và giới hạn của AI trong các lĩnh vực khác nhau.
- Thảo luận về các cân nhắc về đạo đức và tác động xã hội của công nghệ AI.
Intelligent Applications Nâng cao
21 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà khoa học dữ liệu, kỹ sư và chuyên gia AI ở trình độ trung cấp đến nâng cao, những người muốn nắm vững các chi tiết phức tạp của các ứng dụng thông minh và tận dụng chúng để giải quyết các vấn đề phức tạp trong thế giới thực.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Triển khai và phân tích các kiến trúc học sâu.
- Áp dụng học máy ở quy mô lớn trong môi trường tính toán phân tán.
- Thiết kế và thực thi các mô hình học tăng cường để đưa ra quyết định.
- Phát triển các hệ thống NLP tinh vi để hiểu ngôn ngữ.
- Sử dụng các kỹ thuật thị giác máy tính để phân tích hình ảnh và video.
- Giải quyết các cân nhắc về đạo đức trong việc phát triển và triển khai các hệ thống AI.
Performance Optimization on Ascend, Biren, and Cambricon
21 HoursAscend, Biren và Cambricon là các nền tảng phần cứng AI hàng đầu tại Trung Quốc, mỗi nền tảng đều cung cấp công cụ tăng tốc và phân tích hiệu năng độc đáo cho tác vụ AI quy mô sản xuất.
Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhắm đến các kỹ sư cơ sở hạ tầng AI và hiệu năng cao cấp muốn tối ưu hóa chuỗi công việc dự đoán và đào tạo mô hình trên nhiều nền tảng chip AI Trung Quốc.
Tại kết thúc khóa học, người tham gia sẽ có thể:
- Đánh giá hiệu năng của các mô hình trên các nền tảng Ascend, Biren và Cambricon.
- Xác định điểm nghẽn hệ thống và sự kém hiệu quả về bộ nhớ/tính toán.
- Áp dụng tối ưu hóa cấp đồ thị, nhân và trình điều khiển.
- Tùy chỉnh các đường ống triển khai để cải thiện băng thông và độ trễ.
Định dạng khóa học
- Bài giảng tương tác và thảo luận.
- Sử dụng trực tiếp các công cụ phân tích hiệu năng và tối ưu hóa trên từng nền tảng.
- Bài tập hướng dẫn tập trung vào các tình huống điều chỉnh thực tế.
Tùy chọn Tùy chỉnh Khóa học
- Để yêu cầu đào tạo tùy chỉnh cho khóa học này dựa trên môi trường hiệu năng hoặc loại mô hình của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.