Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Giới thiệu về Containerization tăng tốc bằng GPU
- Hiểu về việc sử dụng GPU trong các luồng công việc học sâu
- Cách Docker hỗ trợ các tác vụ dựa trên GPU
- Các yếu tố hiệu năng chính cần xem xét
Cài đặt và Cấu hình NVIDIA Container Toolkit
- Thiết lập trình điều khiển và tính tương thích CUDA
- Xác minh quyền truy cập GPU bên trong các container
- Cấu hình môi trường runtime
Build hình ảnh Docker hỗ trợ GPU
- Sử dụng hình ảnh cơ sở CUDA
- Gói các framework AI vào các container sẵn sàng cho GPU
- Quản lý các phụ thuộc cho huấn luyện và suy luận (inference)
Chạy các tác vụ AI tăng tốc bằng GPU
- Thực thi các công việc huấn luyện sử dụng GPU
- Quản lý các tác vụ đa GPU
- Giám sát mức độ sử dụng GPU
Tối ưu hóa Hiệu năng và Phân bổ Tài nguyên
- Hạn chế và cách ly tài nguyên GPU
- Tối ưu hóa bộ nhớ, kích thước batch và vị trí thiết bị
- Chỉnh sửa hiệu năng và chẩn đoán
Suy luận (Inference) và Phục vụ Mô hình dựa trên Container
- Build các container sẵn sàng cho suy luận
- Phục vụ các tác vụ tải cao trên GPU
- Tích hợp các trình chạy mô hình và API
Mở rộng các tác vụ GPU với Docker
- Các chiến lược cho huấn luyện GPU phân tán
- Mở rộng các microservices suy luận
- Điều phối các hệ thống AI đa container
Bảo mật và Độ tin cậy cho các Container hỗ trợ GPU
- Đảm bảo quyền truy cập GPU an toàn trong các môi trường dùng chung
- Củng cố hình ảnh container
- Quản lý các bản cập nhật, phiên bản và tính tương thích
Tóm tắt và Các bước tiếp theo
Yêu cầu
- Hiểu biết về các nguyên lý cơ bản của học sâu
- Kinh nghiệm với Python và các framework AI phổ biến
- Quen thuộc với các khái niệm cơ bản về containerization
Đối tượng tham gia
- Kỹ sư học sâu
- Đội ngũ nghiên cứu và phát triển
- Kỹ sư huấn luyện mô hình AI
21 Giờ
Đánh giá (3)
Cách giảng viên truyền đạt kiến thức một cách hiệu quả
Vu Thoai Le - Reply Polska sp. z o. o.
Khóa học - Certified Kubernetes Administrator (CKA) - exam preparation
Dịch thuật bằng máy
giảng viên có rất nhiều kiến thức và sự kiên nhẫn để chia sẻ với chúng tôi
Bogdan Olaru
Khóa học - Introduction to Docker
Dịch thuật bằng máy
Kiến thức và sự trao đổi với Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy