Đề cương khóa học

Giới thiệu về Edge AI và Nano Banana

  • Đặc điểm chính của công việc Edge-AI
  • Kiến trúc và khả năng của Nano Banana
  • So sánh chiến lược triển khai edge versus cloud

Chuẩn bị Mô hình cho Triển khai Edge

  • Chọn mô hình và đánh giá cơ bản
  • Xem xét tính phụ thuộc và khả năng tương thích
  • Xuất mô hình để tối ưu hóa thêm

Kỹ thuật Nén Mô hình

  • Chiến lược cắt tỉa và độ thưa cấu trúc
  • Chia sẻ trọng số và giảm tham số
  • Đánh giá tác động của việc nén

Lượng tử hóa cho Hiệu suất Edge

  • Phương pháp lượng tử hóa sau huấn luyện
  • Quy trình huấn luyện có ý thức về lượng tử hóa
  • Tiếp cận INT8, FP16 và độ chính xác hỗn hợp

Tăng tốc với Nano Banana

  • Sử dụng các bộ tăng tốc của Nano Banana
  • Tích hợp ONNX và nền tảng phần cứng
  • Đánh giá hiệu suất suy luận đã được tăng tốc

Triển khai đến Thiết bị Edge

  • Tích hợp mô hình vào ứng dụng nhúng hoặc di động
  • Cấu hình và theo dõi thời gian chạy
  • Khắc phục sự cố triển khai

Phân tích Hiệu suất và Đánh giá Cân nhắc

  • Độ trễ, thông lượng và các ràng buộc nhiệt độ
  • Cân nhắc giữa độ chính xác và hiệu suất
  • Chiến lược tối ưu hóa lặp đi lặp lại

Thực hành Tốt nhất để Duy trì Hệ thống Edge-AI

  • Phiên bản và cập nhật liên tục
  • Quay lại mô hình và quản lý tương thích
  • Xem xét về bảo mật và tính toàn vẹn

Tóm tắt và Bước Tiếp theo

Yêu cầu

  • Hiểu biết về quy trình làm việc của machine learning
  • Kinh nghiệm phát triển mô hình dựa trên Python
  • Thân thuộc với kiến trúc mạng thần kinh

Đối tượng

  • Kỹ sư ML
  • Nhà khoa học dữ liệu
  • Thực hành MLOps
 14 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (1)

Các khóa học sắp tới

Các danh mục liên quan