Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Containerization tăng tốc bằng GPU

  • Hiểu về việc sử dụng GPU trong các luồng công việc học sâu
  • Cách Docker hỗ trợ các tác vụ dựa trên GPU
  • Các yếu tố hiệu năng chính cần xem xét

Cài đặt và Cấu hình NVIDIA Container Toolkit

  • Thiết lập trình điều khiển và tính tương thích CUDA
  • Xác minh quyền truy cập GPU bên trong các container
  • Cấu hình môi trường runtime

Build hình ảnh Docker hỗ trợ GPU

  • Sử dụng hình ảnh cơ sở CUDA
  • Gói các framework AI vào các container sẵn sàng cho GPU
  • Quản lý các phụ thuộc cho huấn luyện và suy luận (inference)

Chạy các tác vụ AI tăng tốc bằng GPU

  • Thực thi các công việc huấn luyện sử dụng GPU
  • Quản lý các tác vụ đa GPU
  • Giám sát mức độ sử dụng GPU

Tối ưu hóa Hiệu năng và Phân bổ Tài nguyên

  • Hạn chế và cách ly tài nguyên GPU
  • Tối ưu hóa bộ nhớ, kích thước batch và vị trí thiết bị
  • Chỉnh sửa hiệu năng và chẩn đoán

Suy luận (Inference) và Phục vụ Mô hình dựa trên Container

  • Build các container sẵn sàng cho suy luận
  • Phục vụ các tác vụ tải cao trên GPU
  • Tích hợp các trình chạy mô hình và API

Mở rộng các tác vụ GPU với Docker

  • Các chiến lược cho huấn luyện GPU phân tán
  • Mở rộng các microservices suy luận
  • Điều phối các hệ thống AI đa container

Bảo mật và Độ tin cậy cho các Container hỗ trợ GPU

  • Đảm bảo quyền truy cập GPU an toàn trong các môi trường dùng chung
  • Củng cố hình ảnh container
  • Quản lý các bản cập nhật, phiên bản và tính tương thích

Tóm tắt và Các bước tiếp theo

Yêu cầu

  • Hiểu biết về các nguyên lý cơ bản của học sâu
  • Kinh nghiệm với Python và các framework AI phổ biến
  • Quen thuộc với các khái niệm cơ bản về containerization

Đối tượng tham gia

  • Kỹ sư học sâu
  • Đội ngũ nghiên cứu và phát triển
  • Kỹ sư huấn luyện mô hình AI
 21 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (3)

Các khóa học sắp tới

Các danh mục liên quan