Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Nền tảng của Hệ thống Agentic trong Môi trường Sản xuất
- Kiến trúc agentic: vòng lặp, công cụ, bộ nhớ và các lớp điều phối
- Vòng đời của agent: phát triển, triển khai và vận hành liên tục
- Thách thức trong quản lý agent ở quy mô sản xuất
Hạ tầng và Mô hình Triển khai
- Triển khai agent trong môi trường container và đám mây
- Mẫu mở rộng: mở rộng ngang so với mở rộng dọc, độ song song và giới hạn thông lượng
- Điều phối đa-agent và cân bằng tải
Giám sát và Khả năng Quan sát
- Các chỉ số chính: độ trễ, tỷ lệ thành công, sử dụng bộ nhớ và độ sâu gọi agent
- Theo dõi hoạt động và đồ thị gọi của agent
- Thực hiện observability bằng cách sử dụng Prometheus, OpenTelemetry và Grafana
Ghi log, Kiểm toán và Tuân thủ
- Ghi log tập trung và thu thập sự kiện có cấu trúc
- Tuân thủ và khả năng kiểm toán trong các luồng công việc agentic
- Thiết kế các dấu vết kiểm toán và cơ chế phát lại (replay) để gỡ lỗi
Điều chỉnh Hiệu năng và Tối ưu Tài nguyên
- Giảm chi phí suy luận và tối ưu hóa các chu kỳ điều phối agent
- Bộ đệm mô hình (model caching) và embedding nhẹ cho truy xuất nhanh hơn
- Kiểm thử tải và các kịch bản căng thẳng cho các pipeline AI
Kiểm soát Chi phí và Quản trị
- Hiểu các yếu tố gây ra chi phí agent: các cuộc gọi API, bộ nhớ, tính toán và tích hợp bên ngoài
- Theo dõi chi phí ở mức agent và áp dụng mô hình phân bổ chi phí (chargeback)
- Các chính sách tự động hóa để ngăn chặn sự lan tràn của agent và tiêu thụ tài nguyên nhàn rỗi
CI/CD và Chiến lược Rollout cho Agent
- Tích hợp các pipeline agent vào hệ thống CI/CD
- Kiểm thử, phiên bản hóa và các chiến lược hoàn tác cho các bản cập nhật agent lặp đi lặp lại
- Rollout tiến bộ và các cơ chế triển khai an toàn
Phục hồi Sự cố và Kỹ thuật Độ tin cậy
- Thiết kế để chịu đựng sự cố và suy giảm mượt mà
- Các mẫu thử lại (retry), timeout và ngắt mạch (circuit breaker) cho độ tin cậy của agent
- Ứng phó sự cố và các khuôn khổ phân tích nguyên nhân (post-mortem) cho vận hành AI
Dự án Tổng hợp
- Xây dựng và triển khai một hệ thống AI agentic với giám sát và theo dõi chi phí đầy đủ
- Mô phỏng tải, đo lường hiệu năng và tối ưu hóa việc sử dụng tài nguyên
- Trình bày kiến trúc cuối cùng và bảng điều khiển giám sát cho các đồng nghiệp
Tóm tắt và Các Bước Tiếp Theo
Yêu cầu
- Hiểu biết vững chắc về MLOps và các hệ thống học máy trong môi trường sản xuất
- Kinh nghiệm với triển khai dạng container (Docker/Kubernetes)
- Nắm rõ về tối ưu hóa chi phí đám mây và các công cụ observability
Đối tượng học viên
- Kỹ sư MLOps
- Kỹ sư Độ tin cậy của Trang (Site Reliability Engineers - SREs)
- Quản lý kỹ thuật giám sát hạ tầng AI
21 Giờ
Đánh giá (3)
Người hướng dẫn rất kiên nhẫn và hữu ích. Anh ấy am hiểu rõ về chủ đề.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Khóa học - Agentic AI for Business Automation: Use Cases & Integration
Dịch thuật bằng máy
Phần lý thuyết và thực hành được pha trộn tốt
Ion Mironescu - Facultatea S.A.I.A.P.M.
Khóa học - Agentic AI for Enterprise Applications
Dịch thuật bằng máy
Phần kết hợp giữa lý thuyết và thực hành, giữa các góc nhìn ở mức độ cao và thấp
Ion Mironescu - Facultatea S.A.I.A.P.M.
Khóa học - Autonomous Decision-Making with Agentic AI
Dịch thuật bằng máy
