Đề cương khóa học
Giới thiệu về Vận hành Kubernetes được nâng cao bởi AI
- Tại sao AI quan trọng đối với vận hành cụm hiện đại
- Hạn chế của các logic scaling và lập lịch truyền thống
- Các khái niệm chính về ML trong quản lý tài nguyên
Nền tảng quản lý tài nguyên Kubernetes
- Cơ sở phân bổ CPU, GPU và bộ nhớ
- Hiểu về hạn mức (quotas), giới hạn (limits) và yêu cầu (requests)
- Xác định các điểm nghẽn và sự kém hiệu quả
Các phương pháp học máy cho Lập lịch
- Các mô hình giám sát và không giám sát cho việc đặt tải việc (workload placement)
- Các thuật toán dự đoán nhu cầu tài nguyên
- Sử dụng các đặc trưng ML trong các bộ điều lịch tùy chỉnh
Học tăng cường cho Autoscaling Thông minh
- Cách các tác nhân RL học hỏi từ hành vi của cụm
- Thiết kế các hàm phần thưởng (reward functions) cho hiệu quả
- Xây dựng các chiến lược autoscaling do RL điều khiển
Autoscaling Dự đoán bằng Chỉ số và Telemetry
- Sử dụng dữ liệu Prometheus để dự báo
- Áp dụng các mô hình chuỗi thời gian cho autoscaling
- Đánh giá độ chính xác dự đoán và tinh chỉnh mô hình
Triển khai các Công cụ Tối ưu hóa dựa trên AI
- Tích hợp các framework ML với các bộ điều khiển (controllers) Kubernetes
- Triển khai các vòng lặp điều khiển thông minh
- Mở rộng KEDA cho ra quyết định có sự hỗ trợ của AI
Chiến lược Tối ưu hóa Chi phí và Hiệu năng
- Giảm chi phí tính toán thông qua scaling dự đoán
- Nâng cao hiệu suất sử dụng GPU bằng cách đặt vị trí do ML điều khiển
- Cân bằng độ trễ, thông lượng và hiệu quả
Các Kịch bản Thực tế và Trường hợp Sử dụng Thực tế
- Autoscaling các ứng dụng tải cao bằng AI
- Tối ưu hóa các nhóm node không đồng nhất (heterogeneous node pools)
- Áp dụng ML vào môi trường đa người thuê (multi-tenant)
Tóm tắt và Các bước tiếp theo
Yêu cầu
- Hiểu biết về các khái niệm cơ bản của Kubernetes
- Trải nghiệm trong việc triển khai ứng dụng dạng container
- Quen thuộc với vận hành cụm và quản lý tài nguyên
Đối tượng tham gia
- Kỹ sư SRE làm việc với các hệ thống phân tán quy mô lớn
- Kỹ sư vận hành Kubernetes quản lý các tải việc có nhu cầu cao
- Kỹ sư nền tảng tối ưu hóa hạ tầng tính toán
Đánh giá (2)
Như tôi đã đề cập trước đó, đối với một người như tôi (chưa có kinh nghiệm), đây chính là cánh cửa để bắt đầu hiểu rõ về các tính năng và chức năng của các chương trình/công cụ này, v.v.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Khóa học - Docker and Kubernetes
Dịch thuật bằng máy
hiểu biết cơ bản về container/Kubernetes và cách chúng tương tác tính năng của nền tảng OpenShift
Eric Scholze - NOW IT GmbH
Khóa học - Introduction to Containers, Kubernetes & OpenShift
Dịch thuật bằng máy