Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Edge AI và Nano Banana

  • Đặc điểm chính của các tác vụ Edge-AI
  • Kiến trúc và năng lực của Nano Banana
  • So sánh các chiến lược triển khai Edge và Cloud

Chuẩn bị mô hình cho triển khai tại Edge

  • Chọn mô hình và đánh giá mức độ cơ sở (baseline)
  • Các yếu tố xem xét về phụ thuộc và tính tương thích
  • Xuất mô hình để tối ưu hóa thêm

Kỹ thuật nén mô hình

  • Chiến lược cắt tỉa (pruning) và độ thưa cấu trúc
  • Chia sẻ trọng số và giảm tham số
  • Đánh giá tác động của quá trình nén

Lượng tử hóa cho hiệu suất Edge

  • Các phương pháp lượng tử hóa sau huấn luyện
  • Quy trình huấn luyện nhận thức lượng tử hóa (quantization-aware training)
  • Các tiếp cận INT8, FP16 và độ chính xác hỗn hợp (mixed-precision)

Tăng tốc bằng Nano Banana

  • Sử dụng bộ tăng tốc (accelerators) Nano Banana
  • Tích hợp ONNX và các backend phần cứng
  • Đo lường hiệu năng (benchmarking) suy luận đã được tăng tốc

Triển khai ra các thiết bị Edge

  • Tích hợp mô hình vào các ứng dụng nhúng hoặc di động
  • Cấu hình và giám sát thời gian chạy (runtime)
  • Khắc phục sự cố trong quá trình triển khai

Hồ sơ hiệu năng (Profiling) và Phân tích sự đánh đổi

  • Ràng buộc về độ trễ, thông lượng và nhiệt độ
  • Sự đánh đổi giữa độ chính xác và hiệu suất
  • Các chiến lược tối ưu hóa lặp lại

Thực hành tốt để duy trì hệ thống Edge-AI

  • Quản lý phiên bản và cập nhật liên tục
  • Hoàn tác mô hình (rollback) và quản lý tính tương thích
  • Các yếu tố xem xét về bảo mật và tính toàn vẹn

Tóm tắt và Các bước tiếp theo

Yêu cầu

  • Hiểu biết về quy trình làm việc (workflows) của machine learning
  • Kinh nghiệm phát triển mô hình dựa trên Python
  • Quen thuộc với kiến trúc mạng nơ-ron

Đối tượng tham gia

  • Kỹ sư ML
  • Khám phá dữ liệu (Data scientists)
  • Thực hành viên MLOps
 14 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (1)

Các khóa học sắp tới

Các danh mục liên quan