Đề cương khóa học
Ngày 1
Cấu trúc của một Agent AI hiện đại
Vượt xa chatbot, các agent là hệ thống suy luận và hành động tự chủ
Các mô hình agent phản ứng, chủ động, lai và hướng đích
Các thành phần cốt lõi: nhận thức, lập kế hoạch, bộ nhớ, sử dụng công cụ, hành động
So sánh sự đánh đổi giữa thiết kế đơn-agent và đa-agent
Khung Agent và Stack Hiện đại
LangChain, LlamaIndex, AutoGen, CrewAI và các điểm đánh đổi của chúng
So sánh với các khung cổ điển như JADE và SPADE
Lựa chọn một khung dựa trên yêu cầu sản xuất
Gọi công cụ, gọi hàm và đầu ra có cấu trúc
Bài thực hành: dựng khung cho một agent Python đơn với các lệnh gọi công cụ
Kiến trúc Hệ thống Đa Agent
Các thiết kế MAS tập trung, phân tán, lai và phân lớp
FIPA ACL, truyền tin điệp và các tương đương hiện đại
Mẫu phối hợp: lập kế hoạch, thương lượng, đồng bộ hóa
Hành vi phát sinh và tự tổ chức trong quần thể agent
Quyết định và Học tập trong Agent
Lý thuyết trò chơi cho tương tác cộng tác và cạnh tranh giữa các agent
Học tăng cường trong môi trường đa agent
Học chuyển giao và chia sẻ kiến thức giữa các agent
Giải quyết xung đột và niềm tin giữa các agent phối hợp
Ngày 2
Nền tảng Đa phương thức cho Agent
AI đa phương thức như một quy trình thống nhất qua văn bản, hình ảnh, giọng nói và video
Các mô hình đa phương thức hàng đầu: GPT-4 Vision, Gemini, Claude, Whisper
Kỹ thuật hợp nhất để kết hợp các phương thức bên trong vòng lặp suy luận của agent
Đánh đổi độ trễ, chi phí và độ chính xác trong đường ống đa phương thức
Xây dựng Lớp Nhận thức
Xử lý hình ảnh cho agent: phân loại, chú thích, phát hiện đối tượng
Nhận dạng giọng nói với Whisper ASR và phiên âm trực tiếp
Tổng hợp giọng nói từ văn bản và tương tác giọng nói tự nhiên
Kết nối đầu ra nhận thức với suy luận do LLM điều khiển và lựa chọn công cụ
Bài thực hành - Xây dựng Agent Đa phương thức trong Python
Xác định nhiệm vụ, cửa sổ ngữ cảnh và kho công cụ của agent
Kết nối các API GPT-4 Vision và Whisper từ đầu đến cuối
Triển khai bộ nhớ, trạng thái và quản lý hội thoại
Thêm lệnh gọi công cụ tạo ra các tác động thực tế một cách an toàn
Bài thực hành - Điều phối Hệ thống Đa Agent
Tổ hợp các agent chuyên biệt với AutoGen hoặc CrewAI
Xác định vai trò, trách nhiệm và giao thức liên kết giữa các agent
Phân bổ tài nguyên và phối hợp trong môi trường mô phỏng
Ghi log suy luận, lệnh gọi công cụ và quyết định của agent để kiểm tra và giám sát
Ngày 3
Bề mặt đe dọa của Agent AI Sản xuất
Điều khiến AI agentic dễ bị tổn thương hơn so với phần mềm truyền thống
Bề mặt tấn công: dữ liệu, mô hình, lời nhắc, công cụ, đầu ra và lớp giao diện
Mô hình hóa mối đe dọa cho hệ thống dựa trên agent với sử dụng công cụ tự chủ
So sánh thực hành an ninh mạng AI với an ninh mạng truyền thống
Bài thực hành Tấn công Đối kháng
Ví dụ đối kháng và phương pháp nhiễu: FGSM, PGD, DeepFool
Các kịch bản tấn công hộp trắng so với hộp đen
Tấn công đảo ngược mô hình và suy diễn thành viên
Nhiễm độc dữ liệu và cắm lỗ hổng sau trong quá trình huấn luyện
Lời nhắc tiêm nhiễm, phá vỡ giới hạn và lạm dụng công cụ trong agent dựa trên LLM
Kỹ thuật Phòng thủ và Cứng hóa Mô hình
Chiến lược huấn luyện đối kháng và tăng cường dữ liệu
Kiến trúc phân loại phòng thủ và các kỹ năng chống chịu khác
Xử lý đầu vào trước, che gradient và điều chuẩn
Riêng biệt vi sai, tiêm nhiễu và ngân sách bảo mật
Học liên hợp và tổng hợp an toàn cho huấn luyện phân tán
Bài thực hành với Adversarial Robustness Toolbox
Mô phỏng tấn công chống lại agent đa phương thức được xây dựng ở Ngày 2
Đo lường khả năng chống chịu dưới nhiễu và định lượng sự suy giảm
Áp dụng các biện pháp phòng thủ theo vòng lặp và đánh giá lại tỷ lệ thành công của cuộc tấn công
Thử nghiệm áp lực các đường dẫn gọi công cụ và vectơ tiêm nhiễm lời nhắc
Ngày 4
Khung Quản lý Rủi ro cho AI
NIST AI Risk Management Framework: điều hành, ánh xạ, đo lường, quản lý
ISO/IEC 42001 và các tiêu chuẩn cụ thể Emerging của AI
Ánh xạ rủi ro AI vào các khung GRC doanh nghiệp hiện có
Yêu cầu về trách nhiệm giải thích, khả năng kiểm toán và tài liệu hóa cho AI
Tuân thủ Quy định cho Hệ thống Agentic
Đạo luật AI của EU: tiers rủi ro, sử dụng bị cấm và nghĩa vụ cho hệ thống rủi ro cao
Ý nghĩa của GDPR và CCPA đối với đường ống dữ liệu agent
Lệnh Hành pháp Hoa Kỳ về AI An toàn, Bảo mật và Đáng tin cậy
Hướng dẫn cụ thể cho ngành tài chính, chăm sóc sức khỏe và dịch vụ công
Rủi ro bên thứ ba và việc sử dụng công cụ AI của nhà cung cấp
Đạo đức, Thiên vị và Khả năng Giải thích
Xác định và giảm thiểu thiên vị qua nhận thức và suy luận của agent
Khả năng giải thích và minh bạch như các thuộc tính liên quan đến bảo mật
Công bằng, tác hại thứ cấp và triển khai có trách nhiệm
Thiết kế hành vi agent bao trùm và có thể kiểm toán
Triển khai Sản xuất, Giám sát và Ứng phó Sự cố
Mẫu triển khai an toàn cho hệ thống đơn-agent và đa-agent
Giám sát liên tục đối với sự dịch chuyển, bất thường và lạm dụng
Ghi log, dấu vết kiểm toán và sẵn sàng phân tích pháp y cho hành động của agent
Sách playbook ứng phó sự cố an ninh AI và khôi phục
Nghiên cứu điển hình về các vụ vi phạm AI thực tế và bài học rút ra
Tổng hợp và Dự án Cuối khóa
Đánh giá lại hệ thống đa-agent đa phương thức được xây dựng xuyên suốt khóa học
Kiểm tra đường ống tổng thể: thiết kế, xây dựng, bảo mật, quản trị, triển khai
Tự đánh giá hệ thống theo các chức năng NIST AI RMF
Tầm nhìn về xu hướng mới nổi trong AI agentic và an ninh AI
Tóm tắt và Các bước Tiếp theo
Yêu cầu
Đối tượng mục tiêu
Các kỹ sư và kiến trúc sư AI đang xây dựng hệ thống agentic cho mục đích sử dụng sản xuất. Chuyên gia an ninh mạng, rủi ro và tuân thủ chịu trách nhiệm về đảm bảo AI trong các ngành công nghiệp được quản lý như tài chính, chăm sóc sức khỏe và tư vấn. Lập trình viên cao cấp và trưởng giải pháp tích hợp khả năng đa phương thức và đa agent vào nền tảng doanh nghiệp.
Đánh giá (3)
Người hướng dẫn rất kiên nhẫn và hữu ích. Anh ấy am hiểu rõ về chủ đề.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Khóa học - Agentic AI for Business Automation: Use Cases & Integration
Dịch thuật bằng máy
Phần lý thuyết và thực hành được pha trộn tốt
Ion Mironescu - Facultatea S.A.I.A.P.M.
Khóa học - Agentic AI for Enterprise Applications
Dịch thuật bằng máy
Phần kết hợp giữa lý thuyết và thực hành, giữa các góc nhìn ở mức độ cao và thấp
Ion Mironescu - Facultatea S.A.I.A.P.M.
Khóa học - Autonomous Decision-Making with Agentic AI
Dịch thuật bằng máy