Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Thời gian kéo dài 21 Giờ học
Đề cương khóa học
Nền tảng: Các Mô Hình Mối Đe dọa cho AI Đại Lý
- Các loại mối đe dọa đại lý: sử dụng sai, leo thang, rò rỉ dữ liệu và rủi ro chuỗi cung ứng
- Hồ sơ đối thủ và năng lực tấn công cụ thể của các đại lý tự chủ
- Bản đồ hóa tài sản, biên giới tin cậy và các điểm kiểm soát quan trọng cho các đại lý
Quản trị, Chính sách và Quản lý Rủi ro
- Các khuôn khổ quản trị cho các hệ thống đại lý (vai trò, trách nhiệm, cổng phê duyệt)
- Thiết kế chính sách: sử dụng hợp lệ, quy tắc leo thang, xử lý dữ liệu và khả năng kiểm toán
- Các cân nhắc về tuân thủ và thu thập bằng chứng cho các cuộc kiểm toán
Danh tính & Xác Thực Phi Con Người cho Đại Lý
- Thiết kế danh tính cho các đại lý: tài khoản dịch vụ, JWT và thông tin đăng nhập có thời hạn ngắn
- Các mô hình truy cập tối thiểu và cấp quyền thông tin đăng nhập theo thời gian thực (just-in-time)
- Vòng đời danh tính, xoay vòng, ủy quyền và các chiến lược thu hồi
Kiểm soát Truy cập, Bí mật và Bảo vệ Dữ liệu
- Các mô hình kiểm soát truy cập chi tiết và các mẫu dựa trên khả năng (capability-based) cho các đại lý
- Quản lý bí mật, mã hóa khi truyền tải và khi lưu trữ, và tối thiểu hóa dữ liệu
- Bảo vệ các nguồn kiến thức nhạy cảm và PII khỏi truy cập trái phép của đại lý
Khả năng Quan sát, Kiểm toán và Ứng phó Sự cố
- Thiết kế viễn测 (telemetry) cho hành vi đại lý: theo dõi ý định, nhật ký lệnh và nguồn gốc
- Tích hợp SIEM, ngưỡng cảnh báo và sẵn sàng pháp y
- Các sổ tay (runbooks) và kịch bản (playbooks) cho các sự cố liên quan đến đại lý và kiểm soát sự cố
Red-Teaming Hệ Thống Đại Lý
- Lập kế hoạch các bài tập nhóm đỏ: phạm vi, quy tắc ứng xử (rules of engagement) và sao lưu an toàn
- Các kỹ thuật đối thủ: tiêm mồi nhắc (prompt injection), sử dụng sai công cụ, thao túng chuỗi suy nghĩ và lạm dụng API
- Thực hiện các cuộc tấn công có kiểm soát và đo lường mức độ phơi bày và tác động
Chống chịu và Khử giảm
- Các biện pháp kiểm soát kỹ thuật: hạn chế tốc độ phản hồi, chặn khả năng (capability gating) và sandboxing
- Các biện pháp kiểm soát chính sách và phối hợp: luồng phê duyệt, con người trong vòng lặp (human-in-the-loop) và móc quản trị
- Phòng thủ ở cấp độ mô hình và mồi nhắc: xác thực đầu vào, chuẩn hóa và bộ lọc đầu ra
Vận hành Triển khai An toàn cho Đại Lý
- Các mô hình triển khai: staging, canary và triển khai dần dần cho các đại lý
- Điều khiển thay đổi, đường ống kiểm thử và các kiểm tra an toàn trước khi triển khai
- Quản trị liên chức năng: sổ tay bảo mật, pháp lý, sản phẩm và vận hành
Đề tài đỉnh cao: Bài tập Red-Team / Blue-Team
- Thực hiện một cuộc tấn công nhóm đỏ giả lập đối với môi trường đại lý sandbox
- Phòng thủ, phát hiện và sửa chữa với tư cách là nhóm xanh sử dụng các biện pháp kiểm soát và viễn测
- Trình bày kết quả, kế hoạch sửa chữa và các bản cập nhật chính sách
Tóm tắt và Các Bước Tiếp Theo
Yêu cầu
- Nền tảng vững chắc trong kỹ thuật bảo mật, quản trị hệ thống hoặc vận hành đám mây
- Thành thạo các khái niệm AI/ML và hành vi của các mô hình ngôn ngữ lớn (LLM)
- Kinh nghiệm về quản lý danh tính & truy cập (IAM) và thiết kế hệ thống an toàn
Đối tượng tham gia
- Kỹ sư bảo mật và thành viên nhóm đỏ (red-teamers)
- Kỹ sư vận hành AI và kỹ sư nền tảng
- Quan viên tuân thủ và quản lý rủi ro
- Các trưởng nhóm kỹ thuật chịu trách nhiệm cho việc triển khai đại lý
Đánh giá (1)
xác lập và nhận diện các mức độ phơi bày rủi ro khác nhau trong AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Khóa học - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Dịch thuật bằng máy