Đề cương khóa học

Cơ Sở: Mô Hình Mối Đe Dọa cho AI Tự Chủ

  • Các loại mối đe dọa tự chủ: lạm dụng, thăng cấp, rò rỉ dữ liệu, và rủi ro chuỗi cung ứng
  • Hồ sơ đối thủ và khả năng tấn công cụ thể cho các đại lý tự chủ
  • Ánh xạ tài sản, ranh giới tin tưởng, và các điểm kiểm soát quan trọng cho các đại lý

Quản Trị, Chính Sách, và Quản Lý Rủi Ro

  • Khung quản trị cho hệ thống tự chủ (vai trò, trách nhiệm, cổng phê duyệt)
  • Thiết kế chính sách: sử dụng hợp lý, quy tắc thăng cấp, xử lý dữ liệu, và khả năng kiểm tra
  • Xem xét tuân thủ và thu thập bằng chứng cho các cuộc kiểm toán

Xác Thực & Xác Minh Không Phải Là Con Người cho Đại Lý

  • Thiết kế danh tính cho đại lý: tài khoản dịch vụ, JWTs, và chứng chỉ có thời hạn ngắn
  • Mô hình truy cập quyền tối thiểu và cấp phép kịp thời
  • Chiến lược vòng đời xác minh, xoay vòng, ủy quyền, và thu hồi

Kiểm Soát Truy Cập, Bí Mật, và Bảo Vệ Dữ Liệu

  • Mô hình kiểm soát truy cập chi tiết và mô hình dựa trên khả năng cho đại lý
  • Quản lý bí mật, mã hóa khi truyền tải và lưu trữ, và tối thiểu hóa dữ liệu
  • Bảo vệ nguồn kiến thức nhạy cảm và PII khỏi truy cập không được ủy quyền của đại lý

Khả Năng Quan Sát, Kiểm Tra, và Phản Hồi Sự Cố

  • Thiết kế telematics cho hành vi đại lý: theo dõi ý định, nhật ký lệnh, và nguồn gốc
  • Tích hợp SIEM, ngưỡng cảnh báo, và sự sẵn sàng phân tích pháp y
  • Sổ tay và kịch bản cho các sự cố liên quan đến đại lý và cách chứa chúng

Kiểm Thử Đội Đỏ Hệ Thống Tự Chủ

  • Lên kế hoạch bài tập đội đỏ: phạm vi, quy tắc tham gia, và failover an toàn
  • Kỹ thuật đối thủ: tiêm lệnh, lạm dụng công cụ, ma nơ canh suy nghĩ, và lạm dụng API
  • Thực hiện các cuộc tấn công được kiểm soát và đo lường mức độ phơi nhiễm và tác động

Cứng Hóa và Giảm thiểu Rủi Ro

  • Kiểm soát kỹ thuật: điều chỉnh phản hồi, giới hạn khả năng, và cát-xê
  • Kiểm soát chính sách và dàn dựng: luồng phê duyệt, con người trong vòng lặp, và các móc quản trị
  • Phòng thủ ở cấp độ mô hình và lệnh đầu vào: kiểm tra đầu vào, chuẩn hóa, và bộ lọc đầu ra

Triển Khai An Toàn Đại Lý theo Hoạt Động

  • Mô hình triển khai: thử nghiệm, canary, và triển khai tiến bộ cho đại lý
  • Kiểm soát thay đổi, đường ống kiểm tra, và các bước kiểm tra an toàn trước khi triển khai
  • Quản trị đa chức năng: an ninh, pháp lý, sản phẩm, và hướng dẫn vận hành

Dự Án Cuối Khóa: Bài Tập Đội Đỏ/Đội Xanh

  • Thực hiện một cuộc tấn công đội đỏ mô phỏng chống lại môi trường đại lý được sandbox.
  • Phòng thủ, phát hiện, và khắc phục như đội xanh sử dụng các kiểm soát và telematics
  • Trình bày kết quả, kế hoạch khắc phục, và cập nhật chính sách

Tóm Tắt và Các Bước Tiếp Theo

Yêu cầu

  • Kiến thức vững chắc về kỹ thuật bảo mật, quản trị hệ thống, hoặc hoạt động trên đám mây
  • Hiểu biết về các khái niệm AI/ML và hành vi của các mô hình ngôn ngữ lớn (LLM)
  • Kinh nghiệm với quản lý xác thực & truy cập (IAM) và thiết kế hệ thống an toàn

Đối Tượng

  • Kỹ sư bảo mật và đội đỏ
  • Kỹ sư vận hành AI và nền tảng AI
  • Chuyên viên tuân thủ và quản lý rủi ro
  • Lãnh đạo kỹ thuật chịu trách nhiệm triển khai đại lý
 21 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Các khóa học sắp tới

Các danh mục liên quan