Liên hệ với chúng tôi
 Thời gian kéo dài 21 Giờ học

Đề cương khóa học

Nền tảng: Các Mô Hình Mối Đe dọa cho AI Đại Lý

  • Các loại mối đe dọa đại lý: sử dụng sai, leo thang, rò rỉ dữ liệu và rủi ro chuỗi cung ứng
  • Hồ sơ đối thủ và năng lực tấn công cụ thể của các đại lý tự chủ
  • Bản đồ hóa tài sản, biên giới tin cậy và các điểm kiểm soát quan trọng cho các đại lý

Quản trị, Chính sách và Quản lý Rủi ro

  • Các khuôn khổ quản trị cho các hệ thống đại lý (vai trò, trách nhiệm, cổng phê duyệt)
  • Thiết kế chính sách: sử dụng hợp lệ, quy tắc leo thang, xử lý dữ liệu và khả năng kiểm toán
  • Các cân nhắc về tuân thủ và thu thập bằng chứng cho các cuộc kiểm toán

Danh tính & Xác Thực Phi Con Người cho Đại Lý

  • Thiết kế danh tính cho các đại lý: tài khoản dịch vụ, JWT và thông tin đăng nhập có thời hạn ngắn
  • Các mô hình truy cập tối thiểu và cấp quyền thông tin đăng nhập theo thời gian thực (just-in-time)
  • Vòng đời danh tính, xoay vòng, ủy quyền và các chiến lược thu hồi

Kiểm soát Truy cập, Bí mật và Bảo vệ Dữ liệu

  • Các mô hình kiểm soát truy cập chi tiết và các mẫu dựa trên khả năng (capability-based) cho các đại lý
  • Quản lý bí mật, mã hóa khi truyền tải và khi lưu trữ, và tối thiểu hóa dữ liệu
  • Bảo vệ các nguồn kiến thức nhạy cảm và PII khỏi truy cập trái phép của đại lý

Khả năng Quan sát, Kiểm toán và Ứng phó Sự cố

  • Thiết kế viễn测 (telemetry) cho hành vi đại lý: theo dõi ý định, nhật ký lệnh và nguồn gốc
  • Tích hợp SIEM, ngưỡng cảnh báo và sẵn sàng pháp y
  • Các sổ tay (runbooks) và kịch bản (playbooks) cho các sự cố liên quan đến đại lý và kiểm soát sự cố

Red-Teaming Hệ Thống Đại Lý

  • Lập kế hoạch các bài tập nhóm đỏ: phạm vi, quy tắc ứng xử (rules of engagement) và sao lưu an toàn
  • Các kỹ thuật đối thủ: tiêm mồi nhắc (prompt injection), sử dụng sai công cụ, thao túng chuỗi suy nghĩ và lạm dụng API
  • Thực hiện các cuộc tấn công có kiểm soát và đo lường mức độ phơi bày và tác động

Chống chịu và Khử giảm

  • Các biện pháp kiểm soát kỹ thuật: hạn chế tốc độ phản hồi, chặn khả năng (capability gating) và sandboxing
  • Các biện pháp kiểm soát chính sách và phối hợp: luồng phê duyệt, con người trong vòng lặp (human-in-the-loop) và móc quản trị
  • Phòng thủ ở cấp độ mô hình và mồi nhắc: xác thực đầu vào, chuẩn hóa và bộ lọc đầu ra

Vận hành Triển khai An toàn cho Đại Lý

  • Các mô hình triển khai: staging, canary và triển khai dần dần cho các đại lý
  • Điều khiển thay đổi, đường ống kiểm thử và các kiểm tra an toàn trước khi triển khai
  • Quản trị liên chức năng: sổ tay bảo mật, pháp lý, sản phẩm và vận hành

Đề tài đỉnh cao: Bài tập Red-Team / Blue-Team

  • Thực hiện một cuộc tấn công nhóm đỏ giả lập đối với môi trường đại lý sandbox
  • Phòng thủ, phát hiện và sửa chữa với tư cách là nhóm xanh sử dụng các biện pháp kiểm soát và viễn测
  • Trình bày kết quả, kế hoạch sửa chữa và các bản cập nhật chính sách

Tóm tắt và Các Bước Tiếp Theo

Yêu cầu

  • Nền tảng vững chắc trong kỹ thuật bảo mật, quản trị hệ thống hoặc vận hành đám mây
  • Thành thạo các khái niệm AI/ML và hành vi của các mô hình ngôn ngữ lớn (LLM)
  • Kinh nghiệm về quản lý danh tính & truy cập (IAM) và thiết kế hệ thống an toàn

Đối tượng tham gia

  • Kỹ sư bảo mật và thành viên nhóm đỏ (red-teamers)
  • Kỹ sư vận hành AI và kỹ sư nền tảng
  • Quan viên tuân thủ và quản lý rủi ro
  • Các trưởng nhóm kỹ thuật chịu trách nhiệm cho việc triển khai đại lý

Số người tham gia


Giá cho mỗi học viên

Đánh giá (1)

Các khóa học sắp tới

Các danh mục liên quan