Liên hệ với chúng tôi
 Thời gian kéo dài 14 Giờ học

Đề cương khóa học

Giới thiệu về AI biên và Nano Banana

  • Đặc điểm chính của các tác vụ AI biên
  • Kiến trúc và năng lực của Nano Banana
  • So sánh chiến lược triển khai biên và đám mây

    Chuẩn bị mô hình cho triển khai biên

    • Chọn lọc mô hình và đánh giá mức cơ sở
    • Các yếu tố cân nhắc về phụ thuộc và tính tương thích
    • Xuất mô hình để tối ưu hóa sâu hơn

      Kỹ thuật nén mô hình

      • Chiến lược cắt tỉa (pruning) và độ thưa cấu trúc
      • Chia sẻ trọng số và giảm tham số
      • Đánh giá tác động của việc nén

        Lượng tử hóa cho hiệu suất biên

        • Các phương pháp lượng tử hóa sau huấn luyện
        • Quy trình huấn luyện nhận thức lượng tử hóa
        • Các cách tiếp cận INT8, FP16 và độ chính xác hỗn hợp

          Tăng tốc với Nano Banana

          • Sử dụng các bộ tăng tốc Nano Banana
          • Tích hợp ONNX và các hậu phần cứng
          • Đo chuẩn hiệu suất suy luận đã tăng tốc

            Triển khai lên các thiết bị biên

            • Tích hợp mô hình vào các ứng dụng nhúng hoặc di động
            • Cấu hình thời gian thực và giám sát
            • Chẩn đoán các vấn đề trong triển khai

              Lập hồ sơ hiệu suất và phân tích đánh đổi

              • Độ trễ, thông lượng và các ràng buộc về nhiệt độ
              • Các đánh đổi giữa độ chính xác và hiệu suất
              • Các chiến lược tối ưu hóa lặp lại

                Thực hành tốt nhất cho việc duy trì hệ thống AI biên

                • Quản lý phiên bản và cập nhật liên tục
                • Khôi phục mô hình và quản lý tính tương thích
                • Cân nhắc về bảo mật và tính toàn vẹn

                  Tóm tắt và các bước tiếp theo

Yêu cầu

  • Hiểu biết về các quy trình làm việc của máy học
  • Kinh nghiệm phát triển mô hình dựa trên Python
  • Nắm vững kiến trúc mạng nơ-ron

    Đối tượng tham gia

    • Kỹ sư ML
    • Khoa học dữ liệu
    • Người thực hành MLOps

Số người tham gia


Giá cho mỗi học viên

Đánh giá (1)

Các khóa học sắp tới

Các danh mục liên quan