CANN for Edge AI Deployment Training Course
Huawei's Ascend CANN toolkit enables powerful AI inference on edge devices such as the Ascend 310. CANN provides essential tools for compiling, optimizing, and deploying models where compute and memory are constrained.
This instructor-led, live training (online or onsite) is aimed at intermediate-level AI developers and integrators who wish to deploy and optimize models on Ascend edge devices using the CANN toolchain.
By the end of this training, participants will be able to:
- Prepare and convert AI models for Ascend 310 using CANN tools.
- Build lightweight inference pipelines using MindSpore Lite and AscendCL.
- Optimize model performance for limited compute and memory environments.
- Deploy and monitor AI applications in real-world edge use cases.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on lab work with edge-specific models and scenarios.
- Live deployment examples on virtual or physical edge hardware.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Đề cương khóa học
Introduction to Edge AI and Ascend 310
- Overview of Edge AI: trends, constraints, and applications
- Huawei Ascend 310 chip architecture and supported toolchain
- Positioning CANN within the edge AI deployment stack
Model Preparation and Conversion
- Exporting trained models from TensorFlow, PyTorch, and MindSpore
- Using ATC to convert models to OM format for Ascend devices
- Handling unsupported ops and lightweight conversion strategies
Developing Inference Pipelines with AscendCL
- Using the AscendCL API to run OM models on Ascend 310
- Input/output preprocessing, memory handling, and device control
- Deploying within embedded containers or lightweight runtime environments
Optimization for Edge Constraints
- Reducing model size, precision tuning (FP16, INT8)
- Using the CANN profiler to identify bottlenecks
- Managing memory layout and data streaming for performance
Deploying with MindSpore Lite
- Using MindSpore Lite runtime for mobile and embedded targets
- Comparing MindSpore Lite with raw AscendCL pipeline
- Packaging inference models for device-specific deployment
Edge Deployment Scenarios and Case Studies
- Case study: smart camera with object detection model on Ascend 310
- Case study: real-time classification in an IoT sensor hub
- Monitoring and updating deployed models at the edge
Summary and Next Steps
Requirements
- Experience with AI model development or deployment workflows
- Basic knowledge of embedded systems, Linux, and Python
- Familiarity with deep learning frameworks such as TensorFlow or PyTorch
Audience
- IoT solution developers
- Embedded AI engineers
- Edge system integrators and AI deployment specialists
Open Training Courses require 5+ participants.
CANN for Edge AI Deployment Training Course - Booking
CANN for Edge AI Deployment Training Course - Enquiry
CANN for Edge AI Deployment - Consultancy Enquiry
Consultancy Enquiry
Provisional Upcoming Courses (Require 5+ participants)
Related Courses
Kỹ thuật Nâng cao Edge AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia, nhà nghiên cứu và nhà phát triển AI nâng cao, những người muốn làm chủ những tiến bộ mới nhất trong Edge AI, tối ưu hóa các mô hình AI của họ để triển khai trên thiết bị biên và khám phá các ứng dụng chuyên biệt trong nhiều ngành công nghiệp.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Khám phá các kỹ thuật nâng cao trong phát triển và tối ưu hóa mô hình Edge AI.
- Triển khai các chiến lược tiên tiến để triển khai mô hình AI trên các thiết bị biên.
- Sử dụng các công cụ và khung công tác chuyên biệt cho các ứng dụng Edge AI nâng cao.
- Tối ưu hóa hiệu suất và hiệu quả của các giải pháp Edge AI.
- Khám phá các trường hợp sử dụng sáng tạo và các xu hướng mới nổi trong Edge AI.
- Giải quyết các cân nhắc về đạo đức và bảo mật nâng cao trong việc triển khai Edge AI.
Phát triển Ứng dụng AI với Huawei Ascend và CANN
21 HoursHuawei Ascend là một dòng chip AI được thiết kế cho việc suy luận và đào tạo với hiệu suất cao.
Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) dành cho các kỹ sư AI trung cấp và nhà khoa học dữ liệu muốn phát triển và tối ưu hóa mô hình mạng nơ-ron sử dụng nền tảng Ascend của Huawei và công cụ CANN.
Tại cuối khóa học này, người tham gia sẽ có thể:
- Cài đặt và cấu hình môi trường phát triển CANN.
- Phát triển ứng dụng AI bằng MindSpore và quy trình CloudMatrix.
- Tối ưu hóa hiệu suất trên Ascend NPU sử dụng các toán tử tùy chỉnh và tiling.
- Cài đặt mô hình vào môi trường biên hoặc đám mây.
Định dạng của khóa học
- Buổi giảng dạy tương tác và thảo luận.
- Sử dụng thực tế Huawei Ascend và công cụ CANN trong các ứng dụng mẫu.
- Luyện tập có hướng dẫn tập trung vào việc xây dựng, đào tạo và triển khai mô hình.
Tùy chọn Tùy chỉnh Khóa học
- Để yêu cầu một khóa học tùy chỉnh dựa trên cơ sở hạ tầng hoặc dữ liệu của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.
Deploying AI Models with CANN and Ascend AI Processors
14 HoursCANN (Compute Architecture for Neural Networks) is Huawei’s AI compute stack for deploying and optimizing AI models on Ascend AI processors.
This instructor-led, live training (online or onsite) is aimed at intermediate-level AI developers and engineers who wish to deploy trained AI models efficiently to Huawei Ascend hardware using the CANN toolkit and tools such as MindSpore, TensorFlow, or PyTorch.
By the end of this training, participants will be able to:
- Understand the CANN architecture and its role in the AI deployment pipeline.
- Convert and adapt models from popular frameworks to Ascend-compatible formats.
- Use tools like ATC, OM model conversion, and MindSpore for edge and cloud inference.
- Diagnose deployment issues and optimize performance on Ascend hardware.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on lab work using CANN tools and Ascend simulators or devices.
- Practical deployment scenarios based on real-world AI models.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Building AI Solutions on the Edge
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển, nhà khoa học dữ liệu và những người đam mê công nghệ ở trình độ trung cấp, những người muốn có được các kỹ năng thực tế trong việc triển khai các mô hình AI trên các thiết bị biên cho nhiều ứng dụng khác nhau.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc của Edge AI và lợi ích của nó.
- Thiết lập và cấu hình môi trường điện toán biên.
- Phát triển, huấn luyện và tối ưu hóa các mô hình AI để triển khai trên thiết bị biên.
- Triển khai các giải pháp AI thực tế trên các thiết bị biên.
- Đánh giá và cải thiện hiệu suất của các mô hình đã triển khai trên thiết bị biên.
- Giải quyết các cân nhắc về đạo đức và bảo mật trong các ứng dụng Edge AI.
Introduction to CANN for AI Framework Developers
7 HoursCANN (Compute Architecture for Neural Networks) is Huawei’s AI computing toolkit used to compile, optimize, and deploy AI models on Ascend AI processors.
This instructor-led, live training (online or onsite) is aimed at beginner-level AI developers who wish to understand how CANN fits into the model lifecycle from training to deployment, and how it works with frameworks like MindSpore, TensorFlow, and PyTorch.
By the end of this training, participants will be able to:
- Understand the purpose and architecture of the CANN toolkit.
- Set up a development environment with CANN and MindSpore.
- Convert and deploy a simple AI model to Ascend hardware.
- Gain foundational knowledge for future CANN optimization or integration projects.
Format of the Course
- Interactive lecture and discussion.
- Hands-on labs with simple model deployment.
- Step-by-step walkthrough of the CANN toolchain and integration points.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Understanding Huawei’s AI Compute Stack: From CANN to MindSpore
14 HoursHuawei’s AI stack — from the low-level CANN SDK to the high-level MindSpore framework — offers a tightly integrated AI development and deployment environment optimized for Ascend hardware.
This instructor-led, live training (online or onsite) is aimed at beginner-level to intermediate-level technical professionals who wish to understand how the CANN and MindSpore components work together to support AI lifecycle management and infrastructure decisions.
By the end of this training, participants will be able to:
- Understand the layered architecture of Huawei’s AI compute stack.
- Identify how CANN supports model optimization and hardware-level deployment.
- Evaluate the MindSpore framework and toolchain in relation to industry alternatives.
- Position Huawei's AI stack within enterprise or cloud/on-prem environments.
Format of the Course
- Interactive lecture and discussion.
- Live system demos and case-based walkthroughs.
- Optional guided labs on model flow from MindSpore to CANN.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Optimizing Neural Network Performance with CANN SDK
14 HoursCANN SDK (Compute Architecture for Neural Networks) is Huawei’s AI compute foundation that allows developers to fine-tune and optimize the performance of deployed neural networks on Ascend AI processors.
This instructor-led, live training (online or onsite) is aimed at advanced-level AI developers and system engineers who wish to optimize inference performance using CANN’s advanced toolset, including the Graph Engine, TIK, and custom operator development.
By the end of this training, participants will be able to:
- Understand CANN's runtime architecture and performance lifecycle.
- Use profiling tools and Graph Engine for performance analysis and optimization.
- Create and optimize custom operators using TIK and TVM.
- Resolve memory bottlenecks and improve model throughput.
Format of the Course
- Interactive lecture and discussion.
- Hands-on labs with real-time profiling and operator tuning.
- Optimization exercises using edge-case deployment examples.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
CANN SDK for Computer Vision and NLP Pipelines
14 HoursThe CANN SDK (Compute Architecture for Neural Networks) provides powerful deployment and optimization tools for real-time AI applications in computer vision and NLP, especially on Huawei Ascend hardware.
This instructor-led, live training (online or onsite) is aimed at intermediate-level AI practitioners who wish to build, deploy, and optimize vision and language models using the CANN SDK for production use cases.
By the end of this training, participants will be able to:
- Deploy and optimize CV and NLP models using CANN and AscendCL.
- Use CANN tools to convert models and integrate them into live pipelines.
- Optimize inference performance for tasks like detection, classification, and sentiment analysis.
- Build real-time CV/NLP pipelines for edge or cloud-based deployment scenarios.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on lab with model deployment and performance profiling.
- Live pipeline design using real CV and NLP use cases.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Building Custom AI Operators with CANN TIK and TVM
14 HoursCANN TIK (Tensor Instruction Kernel) and Apache TVM enable advanced optimization and customization of AI model operators for Huawei Ascend hardware.
This instructor-led, live training (online or onsite) is aimed at advanced-level system developers who wish to build, deploy, and tune custom operators for AI models using CANN’s TIK programming model and TVM compiler integration.
By the end of this training, participants will be able to:
- Write and test custom AI operators using the TIK DSL for Ascend processors.
- Integrate custom ops into the CANN runtime and execution graph.
- Use TVM for operator scheduling, auto-tuning, and benchmarking.
- Debug and optimize instruction-level performance for custom computation patterns.
Format of the Course
- Interactive lecture and demonstration.
- Hands-on coding of operators using TIK and TVM pipelines.
- Testing and tuning on Ascend hardware or simulators.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Edge AI trong Hệ thống Tự động hóa
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các kỹ sư robot trung cấp, nhà phát triển xe tự hành và nhà nghiên cứu AI, những người muốn tận dụng Edge AI cho các giải pháp hệ thống tự động sáng tạo.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò và lợi ích của Edge AI trong các hệ thống tự động.
- Phát triển và triển khai các mô hình AI để xử lý theo thời gian thực trên các thiết bị biên.
- Triển khai các giải pháp Edge AI trong xe tự hành, máy bay không người lái và robot.
- Thiết kế và tối ưu hóa hệ thống điều khiển bằng cách sử dụng Edge AI.
- Giải quyết các cân nhắc về đạo đức và quy định trong các ứng dụng AI tự động.
Edge AI: Từ Ý Tưởng Đến Hiện Thực
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển và chuyên gia IT ở trình độ trung cấp, những người muốn có được sự hiểu biết toàn diện về Edge AI từ khái niệm đến triển khai thực tế, bao gồm thiết lập và triển khai.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các khái niệm cơ bản của Edge AI.
- Thiết lập và cấu hình môi trường Edge AI.
- Phát triển, huấn luyện và tối ưu hóa các mô hình Edge AI.
- Triển khai và quản lý các ứng dụng Edge AI.
- Tích hợp Edge AI với các hệ thống và quy trình làm việc hiện có.
- Giải quyết các cân nhắc về đạo đức và các thực hành tốt nhất trong việc triển khai Edge AI.
Edge AI cho ngành Y tế
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia y tế, kỹ sư y sinh và nhà phát triển AI ở trình độ trung cấp, những người muốn tận dụng Edge AI cho các giải pháp chăm sóc sức khỏe sáng tạo.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò và lợi ích của Edge AI trong lĩnh vực chăm sóc sức khỏe.
- Phát triển và triển khai các mô hình AI trên các thiết bị biên cho các ứng dụng chăm sóc sức khỏe.
- Triển khai các giải pháp Edge AI trong các thiết bị đeo và công cụ chẩn đoán.
- Thiết kế và triển khai hệ thống giám sát bệnh nhân bằng cách sử dụng Edge AI.
- Giải quyết các cân nhắc về đạo đức và quy định trong các ứng dụng AI chăm sóc sức khỏe.
Edge AI cho Ứng dụng IoT
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển, kiến trúc sư hệ thống và chuyên gia trong ngành ở trình độ trung cấp, những người muốn tận dụng Edge AI để nâng cao các ứng dụng IoT với khả năng xử lý và phân tích dữ liệu thông minh.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc cơ bản của Edge AI và ứng dụng của nó trong IoT.
- Thiết lập và cấu hình môi trường Edge AI cho các thiết bị IoT.
- Phát triển và triển khai các mô hình AI trên các thiết bị biên cho các ứng dụng IoT.
- Triển khai xử lý dữ liệu theo thời gian thực và đưa ra quyết định trong các hệ thống IoT.
- Tích hợp Edge AI với các giao thức và nền tảng IoT khác nhau.
- Giải quyết các cân nhắc về đạo đức và các thực hành tốt nhất trong Edge AI cho IoT.
Giới thiệu về Edge AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển và chuyên gia IT ở trình độ mới bắt đầu, những người muốn hiểu các nguyên tắc cơ bản của Edge AI và các ứng dụng sơ bộ của nó.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các khái niệm và kiến trúc cơ bản của Edge AI.
- Thiết lập và cấu hình môi trường Edge AI.
- Phát triển và triển khai các ứng dụng Edge AI đơn giản.
- Xác định và hiểu các trường hợp sử dụng và lợi ích của Edge AI.
Bảo mật và Quyền riêng tư trong Edge AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia bảo mật thông tin, quản trị viên hệ thống và nhà nghiên cứu đạo đức AI ở trình độ trung cấp, những người muốn bảo mật và triển khai một cách có đạo đức các giải pháp Edge AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các thách thức về bảo mật và quyền riêng tư trong Edge AI.
- Triển khai các phương pháp tốt nhất để bảo mật thiết bị biên và dữ liệu.
- Phát triển các chiến lược để giảm thiểu rủi ro bảo mật trong các triển khai Edge AI.
- Giải quyết các cân nhắc về đạo đức và đảm bảo tuân thủ các quy định.
- Thực hiện đánh giá và kiểm tra bảo mật cho các ứng dụng Edge AI.