Đề cương khóa học
Giới thiệu về Container hóa tăng tốc bằng GPU
- Hiểu về việc sử dụng GPU trong các luồng công việc học sâu
- Cách Docker hỗ trợ các tác vụ dựa trên GPU
- Các yếu tố cân nhắc chính về hiệu suất
Cài đặt và Cấu hình NVIDIA Container Toolkit
- Cài đặt trình điều khiển và khả năng tương thích CUDA
- Thư mục quyền truy cập GPU bên trong các container
- Cấu hình môi trường runtime
Xây dựng Các Ảnh Docker được kích hoạt bằng GPU
- Sử dụng các ảnh cơ sở CUDA
- Gói các framework AI trong các container sẵn sàng cho GPU
- Quản lý các phụ thuộc cho việc huấn luyện và suy luận
Chạy Các Tác vụ AI tăng tốc bằng GPU
- Thực thi các công việc huấn luyện sử dụng GPU
- Quản lý các tác vụ đa GPU
- Theo dõi mức độ sử dụng GPU
Tối ưu hóa Hiệu suất và Phân bổ Tài nguyên
- Hạn chế và cách ly các tài nguyên GPU
- Tối ưu hóa bộ nhớ, kích thước lô và vị trí thiết bị
- Điều chỉnh hiệu suất và chẩn đoán
Suy luận và Cung cấp Mô hình trong Container
- Xây dựng các container sẵn sàng cho suy luận
- Cung cấp các tác vụ tải cao trên GPU
- Tích hợp các trình chạy mô hình và API
Mở rộng Các Tác vụ GPU với Docker
- Các chiến lược cho việc huấn luyện GPU phân tán
- Mở rộng các microservice suy luận
- Tọa độ các hệ thống AI đa container
Bảo mật và Độ tin cậy cho Các Container được kích hoạt bằng GPU
- Đảm bảo truy cập GPU an toàn trong các môi trường chung
- Củng cố các ảnh container
- Quản lý các bản cập nhật, phiên bản và khả năng tương thích
Tóm tắt và Các Bước Tiếp theo
Yêu cầu
- Hiểu biết về các nguyên lý cơ bản của học sâu
- Kinh nghiệm làm việc với Python và các framework AI phổ biến
- Quen thuộc với các khái niệm cơ bản về container hóa
Đối tượng tham gia
- Kỹ sư học sâu
- Đội ngũ nghiên cứu và phát triển
- Đào tạo viên mô hình AI
Đánh giá (2)
Như tôi đã đề cập trước đó, đối với một người như tôi (chưa có kinh nghiệm), đây chính là cánh cửa để bắt đầu hiểu rõ về các tính năng và chức năng của các chương trình/công cụ này, v.v.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy
chương trình khóa học được tổ chức theo nhiều cấp độ.
Bert Paelinckx - Cube SoftwareSolutions
Khóa học - Introduction to Docker
Dịch thuật bằng máy