Cambricon MLU Development with BANGPy and Neuware Training Course
Các chip MLU của Cambricon (Machine Learning Units) là các chip AI chuyên dụng được tối ưu hóa cho việc suy luận và đào tạo trong các tình huống ở rìa (edge) và trung tâm dữ liệu.
Khóa học trực tiếp này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển cấp trung muốn xây dựng và triển khai mô hình AI sử dụng khung BANGPy và SDK Neuware trên phần cứng MLU của Cambricon.
Tại kết thúc khóa học, người tham gia sẽ có thể:
- Cài đặt và cấu hình môi trường phát triển BANGPy và Neuware.
- Xây dựng và tối ưu hóa các mô hình dựa trên Python và C++ cho MLU của Cambricon.
- Triển khai mô hình đến các thiết bị rìa và trung tâm dữ liệu đang chạy runtime Neuware.
- Tích hợp các luồng làm việc ML với các tính năng tăng tốc cụ thể của MLU.
Định dạng khóa học
- Bài giảng tương tác và thảo luận.
- Sử dụng thực tế BANGPy và Neuware cho phát triển và triển khai.
- Bài tập hướng dẫn tập trung vào tối ưu hóa, tích hợp và kiểm thử.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu một khóa học được tùy chỉnh dựa trên mô hình thiết bị Cambricon hoặc trường hợp sử dụng của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.
Yêu cầu tiền đề
- Có hiểu biết về cấu trúc các mô hình học máy.
- Kinh nghiệm với Python và/hoặc C++.
- Có kiến thức về các khái niệm triển khai và tăng tốc mô hình.
Khán giả
- Nhà phát triển AI nhúng.
- Kỹ sư ML triển khai đến rìa hoặc trung tâm dữ liệu.
- Nhà phát triển làm việc với cơ sở hạ tầng AI Trung Quốc.
Tóm tắt và Bước tiếp theo
Đề cương khóa học
Giới thiệu về Cambricon và kiến trúc MLU
- Tổng quan về danh mục chip AI của Cambricon
- Kiến trúc MLU và pipeline lệnh
- Các loại mô hình được hỗ trợ và trường hợp sử dụng
Cài đặt chuỗi công cụ phát triển
- Cài đặt BANGPy và Neuware SDK
- Thiết lập môi trường cho Python và C++
- Tính tương thích của mô hình và tiền xử lý
Phát triển mô hình với BANGPy
- Quản lý cấu trúc và hình dạng tensor
- Xây dựng đồ thị tính toán
- Hỗ trợ tác vụ tùy chỉnh trong BANGPy
Triển khai với Neuware Runtime
- Chuyển đổi và tải mô hình
- Kiểm soát thực thi và suy luận
- Các phương pháp triển khai tại rìa và trung tâm dữ liệu
Tối ưu hóa hiệu suất
- Mã hóa bộ nhớ và điều chỉnh lớp
- Theo dõi và phân tích thực thi
- Nút thắt cổ chai phổ biến và giải pháp
Hoàn thiện MLU vào ứng dụng
- Sử dụng API Neuware để tích hợp ứng dụng
- Hỗ trợ luồng và nhiều mô hình
- Các trường hợp suy luận kết hợp CPU-MLU
Dự án end-to-end và Use Case
- Lab: Triển khai mô hình thị giác hoặc NLP
- Suy luận tại rìa với tích hợp BANGPy
- Kiểm tra độ chính xác và băng thông
Tóm tắt và bước tiếp theo
Requirements
- Hiểu biết về cấu trúc của mô hình học máy
- Kinh nghiệm với Python và/hoặc C++
- Nắm vững các khái niệm về triển khai và tăng tốc mô hình
Đối tượng tham gia
- Nhà phát triển AI nhúng
- Kỹ sư ML triển khai đến rìa hoặc trung tâm dữ liệu
- Nhà phát triển làm việc với cơ sở hạ tầng AI Trung Quốc
Open Training Courses require 5+ participants.
Cambricon MLU Development with BANGPy and Neuware Training Course - Booking
Cambricon MLU Development with BANGPy and Neuware Training Course - Enquiry
Cambricon MLU Development with BANGPy and Neuware - Consultancy Enquiry
Consultancy Enquiry
Provisional Upcoming Courses (Require 5+ participants)
Related Courses
Kỹ thuật Nâng cao Edge AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia, nhà nghiên cứu và nhà phát triển AI nâng cao, những người muốn làm chủ những tiến bộ mới nhất trong Edge AI, tối ưu hóa các mô hình AI của họ để triển khai trên thiết bị biên và khám phá các ứng dụng chuyên biệt trong nhiều ngành công nghiệp.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Khám phá các kỹ thuật nâng cao trong phát triển và tối ưu hóa mô hình Edge AI.
- Triển khai các chiến lược tiên tiến để triển khai mô hình AI trên các thiết bị biên.
- Sử dụng các công cụ và khung công tác chuyên biệt cho các ứng dụng Edge AI nâng cao.
- Tối ưu hóa hiệu suất và hiệu quả của các giải pháp Edge AI.
- Khám phá các trường hợp sử dụng sáng tạo và các xu hướng mới nổi trong Edge AI.
- Giải quyết các cân nhắc về đạo đức và bảo mật nâng cao trong việc triển khai Edge AI.
Building AI Solutions on the Edge
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển, nhà khoa học dữ liệu và những người đam mê công nghệ ở trình độ trung cấp, những người muốn có được các kỹ năng thực tế trong việc triển khai các mô hình AI trên các thiết bị biên cho nhiều ứng dụng khác nhau.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc của Edge AI và lợi ích của nó.
- Thiết lập và cấu hình môi trường điện toán biên.
- Phát triển, huấn luyện và tối ưu hóa các mô hình AI để triển khai trên thiết bị biên.
- Triển khai các giải pháp AI thực tế trên các thiết bị biên.
- Đánh giá và cải thiện hiệu suất của các mô hình đã triển khai trên thiết bị biên.
- Giải quyết các cân nhắc về đạo đức và bảo mật trong các ứng dụng Edge AI.
Chuyển đổi Các Ứng dụng CUDA sang Kiến trúc GPU Trung Quốc
21 HoursCác kiến trúc GPU Trung Quốc như Huawei Ascend, Biren, và Cambricon MLUs cung cấp các giải pháp thay thế CUDA được điều chỉnh cho thị trường AI và HPC địa phương.
Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các lập trình viên cấp cao và chuyên gia về cơ sở hạ tầng muốn di chuyển và tối ưu hóa các ứng dụng CUDA hiện có để triển khai trên nền tảng hardware Trung Quốc.
Tại kết thúc khóa học, người tham dự sẽ có khả năng:
- Đánh giá sự tương thích của công việc CUDA hiện tại với các giải pháp chip Trung Quốc.
- Di chuyển mã nguồn CUDA sang môi trường Huawei CANN, Biren SDK và Cambricon BANGPy.
- So sánh hiệu suất và xác định điểm tối ưu trên nhiều nền tảng.
- Xử lý các thách thức thực tế trong hỗ trợ đa kiến trúc và triển khai.
Hình thức khóa học
- Bài giảng tương tác và thảo luận.
- Thực hành chuyển đổi mã nguồn và so sánh hiệu suất.
- Bài tập hướng dẫn tập trung vào chiến lược thích ứng đa-GPU.
Tùy chọn tùy chỉnh khóa học
- Nếu bạn muốn yêu cầu một khóa đào tạo tùy chỉnh dựa trên nền tảng hoặc dự án CUDA của mình, vui lòng liên hệ với chúng tôi để sắp xếp.
Edge AI trong Hệ thống Tự động hóa
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các kỹ sư robot trung cấp, nhà phát triển xe tự hành và nhà nghiên cứu AI, những người muốn tận dụng Edge AI cho các giải pháp hệ thống tự động sáng tạo.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò và lợi ích của Edge AI trong các hệ thống tự động.
- Phát triển và triển khai các mô hình AI để xử lý theo thời gian thực trên các thiết bị biên.
- Triển khai các giải pháp Edge AI trong xe tự hành, máy bay không người lái và robot.
- Thiết kế và tối ưu hóa hệ thống điều khiển bằng cách sử dụng Edge AI.
- Giải quyết các cân nhắc về đạo đức và quy định trong các ứng dụng AI tự động.
Edge AI: Từ Ý Tưởng Đến Hiện Thực
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển và chuyên gia IT ở trình độ trung cấp, những người muốn có được sự hiểu biết toàn diện về Edge AI từ khái niệm đến triển khai thực tế, bao gồm thiết lập và triển khai.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các khái niệm cơ bản của Edge AI.
- Thiết lập và cấu hình môi trường Edge AI.
- Phát triển, huấn luyện và tối ưu hóa các mô hình Edge AI.
- Triển khai và quản lý các ứng dụng Edge AI.
- Tích hợp Edge AI với các hệ thống và quy trình làm việc hiện có.
- Giải quyết các cân nhắc về đạo đức và các thực hành tốt nhất trong việc triển khai Edge AI.
Edge AI dành cho Dịch vụ Tài chính
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia tài chính, nhà phát triển fintech và chuyên gia AI ở trình độ trung cấp, những người muốn triển khai các giải pháp Edge AI trong lĩnh vực dịch vụ tài chính.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò của Edge AI trong dịch vụ tài chính.
- Triển khai hệ thống phát hiện gian lận bằng cách sử dụng Edge AI.
- Nâng cao chất lượng dịch vụ khách hàng thông qua các giải pháp dựa trên AI.
- Áp dụng Edge AI cho quản lý rủi ro và ra quyết định.
- Triển khai và quản lý các giải pháp Edge AI trong môi trường tài chính.
Edge AI cho ngành Y tế
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia y tế, kỹ sư y sinh và nhà phát triển AI ở trình độ trung cấp, những người muốn tận dụng Edge AI cho các giải pháp chăm sóc sức khỏe sáng tạo.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò và lợi ích của Edge AI trong lĩnh vực chăm sóc sức khỏe.
- Phát triển và triển khai các mô hình AI trên các thiết bị biên cho các ứng dụng chăm sóc sức khỏe.
- Triển khai các giải pháp Edge AI trong các thiết bị đeo và công cụ chẩn đoán.
- Thiết kế và triển khai hệ thống giám sát bệnh nhân bằng cách sử dụng Edge AI.
- Giải quyết các cân nhắc về đạo đức và quy định trong các ứng dụng AI chăm sóc sức khỏe.
Edge AI trong Industrial Automation
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các kỹ sư công nghiệp, chuyên gia sản xuất và nhà phát triển AI ở trình độ trung cấp, những người muốn triển khai các giải pháp Edge AI trong tự động hóa công nghiệp.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò của Edge AI trong tự động hóa công nghiệp.
- Triển khai các giải pháp bảo trì dự đoán bằng cách sử dụng Edge AI.
- Áp dụng các kỹ thuật AI để kiểm soát chất lượng trong quy trình sản xuất.
- Tối ưu hóa các quy trình công nghiệp bằng cách sử dụng Edge AI.
- Triển khai và quản lý các giải pháp Edge AI trong môi trường công nghiệp.
Edge AI cho Ứng dụng IoT
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển, kiến trúc sư hệ thống và chuyên gia trong ngành ở trình độ trung cấp, những người muốn tận dụng Edge AI để nâng cao các ứng dụng IoT với khả năng xử lý và phân tích dữ liệu thông minh.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc cơ bản của Edge AI và ứng dụng của nó trong IoT.
- Thiết lập và cấu hình môi trường Edge AI cho các thiết bị IoT.
- Phát triển và triển khai các mô hình AI trên các thiết bị biên cho các ứng dụng IoT.
- Triển khai xử lý dữ liệu theo thời gian thực và đưa ra quyết định trong các hệ thống IoT.
- Tích hợp Edge AI với các giao thức và nền tảng IoT khác nhau.
- Giải quyết các cân nhắc về đạo đức và các thực hành tốt nhất trong Edge AI cho IoT.
Edge AI cho Thành phố Thông minh
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các nhà quy hoạch đô thị, kỹ sư dân dụng và quản lý dự án thành phố thông minh ở trình độ trung cấp, những người muốn tận dụng Edge AI cho các sáng kiến thành phố thông minh.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu vai trò của Edge AI trong cơ sở hạ tầng thành phố thông minh.
- Triển khai các giải pháp Edge AI cho quản lý giao thông và giám sát.
- Tối ưu hóa tài nguyên đô thị bằng công nghệ Edge AI.
- Tích hợp Edge AI với các hệ thống thành phố thông minh hiện có.
- Giải quyết các cân nhắc về đạo đức và quy định trong việc triển khai thành phố thông minh.
Edge AI với TensorFlow Lite
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển, nhà khoa học dữ liệu và chuyên gia AI ở trình độ trung cấp, những người muốn tận dụng TensorFlow Lite cho các ứng dụng Edge AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc cơ bản của TensorFlow Lite và vai trò của nó trong Edge AI.
- Phát triển và tối ưu hóa các mô hình AI bằng TensorFlow Lite.
- Triển khai các mô hình TensorFlow Lite trên nhiều thiết bị biên khác nhau.
- Sử dụng các công cụ và kỹ thuật để chuyển đổi và tối ưu hóa mô hình.
- Triển khai các ứng dụng Edge AI thực tế bằng TensorFlow Lite.
Giới thiệu về Edge AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển và chuyên gia IT ở trình độ mới bắt đầu, những người muốn hiểu các nguyên tắc cơ bản của Edge AI và các ứng dụng sơ bộ của nó.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các khái niệm và kiến trúc cơ bản của Edge AI.
- Thiết lập và cấu hình môi trường Edge AI.
- Phát triển và triển khai các ứng dụng Edge AI đơn giản.
- Xác định và hiểu các trường hợp sử dụng và lợi ích của Edge AI.
Optimizing AI Models for Edge Devices
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển AI trung cấp, kỹ sư học máy và kiến trúc sư hệ thống, những người muốn tối ưu hóa các mô hình AI để triển khai trên thiết bị biên.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu được những thách thức và yêu cầu khi triển khai các mô hình AI trên các thiết bị biên.
- Áp dụng các kỹ thuật nén mô hình để giảm kích thước và độ phức tạp của các mô hình AI.
- Sử dụng các phương pháp lượng tử hóa để nâng cao hiệu quả của mô hình trên phần cứng biên.
- Triển khai cắt tỉa và các kỹ thuật tối ưu hóa khác để cải thiện hiệu suất mô hình.
- Triển khai các mô hình AI đã được tối ưu hóa trên nhiều thiết bị biên khác nhau.
Performance Optimization on Ascend, Biren, and Cambricon
21 HoursAscend, Biren và Cambricon là các nền tảng phần cứng AI hàng đầu tại Trung Quốc, mỗi nền tảng đều cung cấp công cụ tăng tốc và phân tích hiệu năng độc đáo cho tác vụ AI quy mô sản xuất.
Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhắm đến các kỹ sư cơ sở hạ tầng AI và hiệu năng cao cấp muốn tối ưu hóa chuỗi công việc dự đoán và đào tạo mô hình trên nhiều nền tảng chip AI Trung Quốc.
Tại kết thúc khóa học, người tham gia sẽ có thể:
- Đánh giá hiệu năng của các mô hình trên các nền tảng Ascend, Biren và Cambricon.
- Xác định điểm nghẽn hệ thống và sự kém hiệu quả về bộ nhớ/tính toán.
- Áp dụng tối ưu hóa cấp đồ thị, nhân và trình điều khiển.
- Tùy chỉnh các đường ống triển khai để cải thiện băng thông và độ trễ.
Định dạng khóa học
- Bài giảng tương tác và thảo luận.
- Sử dụng trực tiếp các công cụ phân tích hiệu năng và tối ưu hóa trên từng nền tảng.
- Bài tập hướng dẫn tập trung vào các tình huống điều chỉnh thực tế.
Tùy chọn Tùy chỉnh Khóa học
- Để yêu cầu đào tạo tùy chỉnh cho khóa học này dựa trên môi trường hiệu năng hoặc loại mô hình của bạn, vui lòng liên hệ với chúng tôi để sắp xếp.
Bảo mật và Quyền riêng tư trong Edge AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia bảo mật thông tin, quản trị viên hệ thống và nhà nghiên cứu đạo đức AI ở trình độ trung cấp, những người muốn bảo mật và triển khai một cách có đạo đức các giải pháp Edge AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các thách thức về bảo mật và quyền riêng tư trong Edge AI.
- Triển khai các phương pháp tốt nhất để bảo mật thiết bị biên và dữ liệu.
- Phát triển các chiến lược để giảm thiểu rủi ro bảo mật trong các triển khai Edge AI.
- Giải quyết các cân nhắc về đạo đức và đảm bảo tuân thủ các quy định.
- Thực hiện đánh giá và kiểm tra bảo mật cho các ứng dụng Edge AI.