Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Thời gian kéo dài 21 Giờ học
Đề cương khóa học
Giới thiệu về TinyML và AI nhúng
- Đặc điểm của việc triển khai mô hình TinyML
- Các ràng buộc trong môi trường bộ vi điều khiển
- Tổng quan về các chuỗi công cụ AI nhúng
Nền tảng tối ưu hóa mô hình
- Hiểu về các nút thắt cổ chai tính toán
- Xác định các thao tác tiêu thụ nhiều bộ nhớ
- Phân tích hiệu năng cơ sở
Kỹ thuật lượng tử hóa
- Chiến lược lượng tử hóa sau huấn luyện
- Huấn luyện nhận thức lượng tử hóa (Quantization-aware training)
- Đánh giá sự đánh đổi giữa độ chính xác và tài nguyên
Cắt tỉa và nén
- Các phương pháp cắt tỉa có cấu trúc và không cấu trúc
- Chia sẻ trọng số và độ thưa của mô hình
- Các thuật toán nén cho suy luận nhẹ
Tối ưu hóa nhận thức phần cứng
- Triển khai mô hình trên các hệ thống ARM Cortex-M
- Tối ưu hóa cho các phần mở rộng DSP và bộ tăng tốc
- Xem xét việc ánh xạ bộ nhớ và luồng dữ liệu
Đánh giá hiệu năng và xác minh
- Phân tích độ trễ và thông lượng
- Đo mức tiêu thụ điện và năng lượng
- Kiểm tra độ chính xác và độ ổn định
Các luồng công việc và công cụ triển khai
- Sử dụng TensorFlow Lite Micro cho việc triển khai nhúng
- Tích hợp các mô hình TinyML với các pipeline Edge Impulse
- Thử nghiệm và gỡ lỗi trên phần cứng thực
Các chiến lược tối ưu hóa nâng cao
- Tìm kiếm kiến trúc mạng nơ-ron cho TinyML (Neural architecture search)
- Các phương pháp kết hợp lượng tử hóa và cắt tỉa
- Chưng cất mô hình (Model distillation) cho suy luận nhúng
Tóm tắt và các bước tiếp theo
Yêu cầu
- Hiểu biết về các luồng công việc (workflows) trong học máy
- Kinh nghiệm phát triển hệ thống nhúng hoặc dựa trên bộ vi điều khiển
- quen thuộc với lập trình Python
Đối tượng tham gia
- Nhà nghiên cứu AI
- Kỹ sư ML nhúng
- Các chuyên gia làm việc với các hệ thống suy luận có nguồn lực hạn chế
