Liên hệ với chúng tôi

Đề cương khóa học

Ngày 1
Cấu trúc của một Agent AI hiện đại

Vượt xa chatbot, các agent là hệ thống suy luận và hành động tự chủ

Các mô hình agent phản ứng, chủ động, lai và hướng đích

Các thành phần cốt lõi: nhận thức, lập kế hoạch, bộ nhớ, sử dụng công cụ, hành động

So sánh sự đánh đổi giữa thiết kế đơn-agent và đa-agent

Khung Agent và Stack Hiện đại

LangChain, LlamaIndex, AutoGen, CrewAI và các điểm đánh đổi của chúng

So sánh với các khung cổ điển như JADE và SPADE

Lựa chọn một khung dựa trên yêu cầu sản xuất

Gọi công cụ, gọi hàm và đầu ra có cấu trúc

Bài thực hành: dựng khung cho một agent Python đơn với các lệnh gọi công cụ

Kiến trúc Hệ thống Đa Agent

Các thiết kế MAS tập trung, phân tán, lai và phân lớp

FIPA ACL, truyền tin điệp và các tương đương hiện đại

Mẫu phối hợp: lập kế hoạch, thương lượng, đồng bộ hóa

Hành vi phát sinh và tự tổ chức trong quần thể agent

Quyết định và Học tập trong Agent

Lý thuyết trò chơi cho tương tác cộng tác và cạnh tranh giữa các agent

Học tăng cường trong môi trường đa agent

Học chuyển giao và chia sẻ kiến thức giữa các agent

Giải quyết xung đột và niềm tin giữa các agent phối hợp

Ngày 2
Nền tảng Đa phương thức cho Agent

AI đa phương thức như một quy trình thống nhất qua văn bản, hình ảnh, giọng nói và video

Các mô hình đa phương thức hàng đầu: GPT-4 Vision, Gemini, Claude, Whisper

Kỹ thuật hợp nhất để kết hợp các phương thức bên trong vòng lặp suy luận của agent

Đánh đổi độ trễ, chi phí và độ chính xác trong đường ống đa phương thức

Xây dựng Lớp Nhận thức

Xử lý hình ảnh cho agent: phân loại, chú thích, phát hiện đối tượng

Nhận dạng giọng nói với Whisper ASR và phiên âm trực tiếp

Tổng hợp giọng nói từ văn bản và tương tác giọng nói tự nhiên

Kết nối đầu ra nhận thức với suy luận do LLM điều khiển và lựa chọn công cụ

Bài thực hành - Xây dựng Agent Đa phương thức trong Python

Xác định nhiệm vụ, cửa sổ ngữ cảnh và kho công cụ của agent

Kết nối các API GPT-4 Vision và Whisper từ đầu đến cuối

Triển khai bộ nhớ, trạng thái và quản lý hội thoại

Thêm lệnh gọi công cụ tạo ra các tác động thực tế một cách an toàn

Bài thực hành - Điều phối Hệ thống Đa Agent

Tổ hợp các agent chuyên biệt với AutoGen hoặc CrewAI

Xác định vai trò, trách nhiệm và giao thức liên kết giữa các agent

Phân bổ tài nguyên và phối hợp trong môi trường mô phỏng

Ghi log suy luận, lệnh gọi công cụ và quyết định của agent để kiểm tra và giám sát

Ngày 3
Bề mặt đe dọa của Agent AI Sản xuất

Điều khiến AI agentic dễ bị tổn thương hơn so với phần mềm truyền thống

Bề mặt tấn công: dữ liệu, mô hình, lời nhắc, công cụ, đầu ra và lớp giao diện

Mô hình hóa mối đe dọa cho hệ thống dựa trên agent với sử dụng công cụ tự chủ

So sánh thực hành an ninh mạng AI với an ninh mạng truyền thống

Bài thực hành Tấn công Đối kháng

Ví dụ đối kháng và phương pháp nhiễu: FGSM, PGD, DeepFool

Các kịch bản tấn công hộp trắng so với hộp đen

Tấn công đảo ngược mô hình và suy diễn thành viên

Nhiễm độc dữ liệu và cắm lỗ hổng sau trong quá trình huấn luyện

Lời nhắc tiêm nhiễm, phá vỡ giới hạn và lạm dụng công cụ trong agent dựa trên LLM

Kỹ thuật Phòng thủ và Cứng hóa Mô hình

Chiến lược huấn luyện đối kháng và tăng cường dữ liệu

Kiến trúc phân loại phòng thủ và các kỹ năng chống chịu khác

Xử lý đầu vào trước, che gradient và điều chuẩn

Riêng biệt vi sai, tiêm nhiễu và ngân sách bảo mật

Học liên hợp và tổng hợp an toàn cho huấn luyện phân tán

Bài thực hành với Adversarial Robustness Toolbox

Mô phỏng tấn công chống lại agent đa phương thức được xây dựng ở Ngày 2

Đo lường khả năng chống chịu dưới nhiễu và định lượng sự suy giảm

Áp dụng các biện pháp phòng thủ theo vòng lặp và đánh giá lại tỷ lệ thành công của cuộc tấn công

Thử nghiệm áp lực các đường dẫn gọi công cụ và vectơ tiêm nhiễm lời nhắc

Ngày 4
Khung Quản lý Rủi ro cho AI

NIST AI Risk Management Framework: điều hành, ánh xạ, đo lường, quản lý

ISO/IEC 42001 và các tiêu chuẩn cụ thể Emerging của AI

Ánh xạ rủi ro AI vào các khung GRC doanh nghiệp hiện có

Yêu cầu về trách nhiệm giải thích, khả năng kiểm toán và tài liệu hóa cho AI

Tuân thủ Quy định cho Hệ thống Agentic

Đạo luật AI của EU: tiers rủi ro, sử dụng bị cấm và nghĩa vụ cho hệ thống rủi ro cao

Ý nghĩa của GDPR và CCPA đối với đường ống dữ liệu agent

Lệnh Hành pháp Hoa Kỳ về AI An toàn, Bảo mật và Đáng tin cậy

Hướng dẫn cụ thể cho ngành tài chính, chăm sóc sức khỏe và dịch vụ công

Rủi ro bên thứ ba và việc sử dụng công cụ AI của nhà cung cấp

Đạo đức, Thiên vị và Khả năng Giải thích

Xác định và giảm thiểu thiên vị qua nhận thức và suy luận của agent

Khả năng giải thích và minh bạch như các thuộc tính liên quan đến bảo mật

Công bằng, tác hại thứ cấp và triển khai có trách nhiệm

Thiết kế hành vi agent bao trùm và có thể kiểm toán

Triển khai Sản xuất, Giám sát và Ứng phó Sự cố

Mẫu triển khai an toàn cho hệ thống đơn-agent và đa-agent

Giám sát liên tục đối với sự dịch chuyển, bất thường và lạm dụng

Ghi log, dấu vết kiểm toán và sẵn sàng phân tích pháp y cho hành động của agent

Sách playbook ứng phó sự cố an ninh AI và khôi phục

Nghiên cứu điển hình về các vụ vi phạm AI thực tế và bài học rút ra

Tổng hợp và Dự án Cuối khóa

Đánh giá lại hệ thống đa-agent đa phương thức được xây dựng xuyên suốt khóa học

Kiểm tra đường ống tổng thể: thiết kế, xây dựng, bảo mật, quản trị, triển khai

Tự đánh giá hệ thống theo các chức năng NIST AI RMF

Tầm nhìn về xu hướng mới nổi trong AI agentic và an ninh AI

Tóm tắt và Các bước Tiếp theo

Yêu cầu

Đối tượng mục tiêu

Các kỹ sư và kiến trúc sư AI đang xây dựng hệ thống agentic cho mục đích sử dụng sản xuất. Chuyên gia an ninh mạng, rủi ro và tuân thủ chịu trách nhiệm về đảm bảo AI trong các ngành công nghiệp được quản lý như tài chính, chăm sóc sức khỏe và tư vấn. Lập trình viên cao cấp và trưởng giải pháp tích hợp khả năng đa phương thức và đa agent vào nền tảng doanh nghiệp.

 28 Giờ

Số người tham gia


Giá cho mỗi học viên

Đánh giá (3)

Các khóa học sắp tới

Các danh mục liên quan