AI Agentic An Toàn & Bảo Mật: Quản trị, Nhận dạng và Kiểm thử Red-Teaming Khóa Học Đào Tạo

Nền tảng: Mô hình hóa mối đe dọa cho AI Agentic

• Các loại mối đe dọa agentic: lạm dụng, leo thang đặc quyền, rò rỉ dữ liệu và rủi ro chuỗi cung ứng
• Hồ sơ đối thủ và năng lực của kẻ tấn công đặc thù cho các tác tử tự chủ
• Ánh xạ tài sản, ranh giới tin cậy và các điểm kiểm soát quan trọng cho các tác tử

Quản trị, Chính sách và Quản lý Rủi ro

• Các khung quản trị cho các hệ thống agentic (vai trò, trách nhiệm, cổng phê duyệt)
• Thiết kế chính sách: sử dụng hợp lệ, quy tắc leo thang, xử lý dữ liệu và khả năng kiểm toán
• Các yếu tố cần xem xét về tuân thủ và thu thập bằng chứng cho việc kiểm toán

Nhận dạng & Xác thực Phi Con Người cho Tác Tử

• Thiết kế nhận dạng cho các tác tử: tài khoản dịch vụ, JWT và chứng chỉ ngắn hạn
• Các mô hình truy cập tối thiểu và cấp chứng chỉ theo nhu cầu (just-in-time)
• Chu kỳ đời sống nhận dạng, xoay vòng chứng chỉ, ủy quyền và chiến lược thu hồi

Kiểm soát Truy cập, Bí mật và Bảo vệ Dữ liệu

• Các mô hình kiểm soát truy cập chi tiết và các mô hình dựa trên năng lực cho các tác tử
• Quản lý bí mật, mã hóa trong quá trình truyền tải và khi lưu trữ, và tối thiểu hóa dữ liệu
• Bảo vệ các nguồn tri thức nhạy cảm và PII khỏi truy cập không hợp lệ của tác tử

Quan sát, Kiểm toán và Ứng phó Sự cố

• Thiết kế đo lường (telemetry) cho hành vi của tác tử: truy vết ý định, nhật lệnh lệnh và nguồn gốc
• Tích hợp SIEM, ngưỡng cảnh báo và sẵn sàng pháp y
• Sổ tay hướng dẫn (runbooks) và kịch bản (playbooks) cho các sự cố liên quan đến tác tử và ngăn chặn

Red-Teaming Các Hệ Thống Agentic

• Lập kế hoạch cho các bài tập red-team: phạm vi, quy tắc tham gia và cơ chế chuyển đổi an toàn
• Các kỹ thuật đối thủ: tiêm prompt, lạm dụng công cụ, thao túng chuỗi suy nghĩ (chain-of-thought) và lạm dụng API
• Thực hiện các cuộc tấn công có kiểm soát và đo lường mức độ phơi bày và tác động

Tăng cường và Giảm thiểu

• Các biện pháp kiểm soát kỹ thuật: hạn chế tần suất phản hồi, kiểm soát năng lực và môi trường sandbox
• Các biện pháp kiểm soát chính sách và điều phối: luồng phê duyệt, con người trong vòng lặp (human-in-the-loop) và các chốt quản trị
• Phòng thủ ở cấp độ mô hình và prompt: xác thực đầu vào, chuẩn hóa và bộ lọc đầu ra

Vận hành Triển khai Tác Tử An toàn

• Các mô hình triển khai: môi trường staging, canary và triển khai dần dần cho các tác tử
• Kiểm soát thay đổi, đường ống kiểm thử và các kiểm tra an toàn trước khi triển khai
• Quản trị liên chức năng: kịch bản cho bảo mật, pháp lý, sản phẩm và vận hành

Capstone: Bài tập Red-Team / Blue-Team

• Thực hiện một cuộc tấn công red-team giả lập chống lại một môi trường tác tử sandbox
• Phòng thủ, phát hiện và khắc phục với tư cách là blue team sử dụng các biện pháp kiểm soát và đo lường
• Trình bày kết quả, kế hoạch khắc phục và cập nhật chính sách

Tóm tắt và Các Bước Tiếp theo