Bảo mật OWASP GenAI Khóa Học Đào Tạo

Ngày 1: Nền tảng và Mối đe dọa Cốt lõi

Module 1: Giới thiệu về Dự án OWASP GenAI Security (1 giờ)

Mục tiêu Học tập:

• Hiểu sự phát triển từ OWASP Top 10 sang các thách thức bảo mật đặc thù cho GenAI
• Tìm hiểu hệ sinh thái và tài nguyên của Dự án OWASP GenAI Security
• Nhận diện những khác biệt chính giữa bảo mật ứng dụng truyền thống và bảo mật AI

Nội dung Bao gồm:

• Tổng quan về sứ mệnh và phạm vi của Dự án OWASP GenAI Security
• Giới thiệu khung công tác Threat Defense COMPASS
• Hiểu bối cảnh an ninh AI và các yêu cầu tuân thủ
• Bề mặt tấn công AI so với lỗ hổng ứng dụng web truyền thống

Bài tập Thực hành: Cài đặt công cụ OWASP Threat Defense COMPASS và thực hiện đánh giá mối đe dọa ban đầu

Module 2: OWASP Top 10 cho LLMs - Phần 1 (2,5 giờ)

Mục tiêu Học tập:

• Nắm vững năm lỗ hổng LLM quan trọng nhất
• Hiểu các vectơ tấn công và kỹ thuật khai thác
• Áp dụng các chiến lược giảm thiểu thực tiễn

Nội dung Bao gồm:

LLM01: Tiêm nhập Lệnh (Prompt Injection)

• Kỹ thuật tiêm nhập lệnh trực tiếp và gián tiếp
• Tấn công lệnh ẩn nhiễm và ô nhiễm chéo giữa các lời nhắc
• Ví dụ thực tế: Vượt tường lửa (jailbreaking) chatbot và né tránh biện pháp an toàn
• Chiến lược phòng thủ: Vệ sinh đầu vào, lọc lời nhắc, bảo mật vi phân

LLM02: Tiết lộ Thông tin Nhạy cảm

• Khai thác dữ liệu huấn luyện và rò rỉ lệnh hệ thống
• Phân tích hành vi mô hình để phát hiện lộ thông tin nhạy cảm
• Vấn đề riêng tư và xem xét tuân thủ quy định
• Biện pháp giảm thiểu: Lọc đầu ra, kiểm soát truy cập, ẩn danh hóa dữ liệu

LLM03: Lỗ hổng Chuỗi Cung ứng

• Sự phụ thuộc vào mô hình bên thứ ba và bảo mật plugin
• Dữ liệu huấn luyện bị xâm hại và đầu độc mô hình
• Đánh giá rủi ro nhà cung cấp cho các thành phần AI
• Thực tiễn triển khai và xác minh mô hình bảo mật

Bài tập Thực hành: Phòng thí nghiệm thực tế Demonstrates các cuộc tấn công tiêm nhập lệnh lên ứng dụng LLM dễ bị tổn thương và triển khai các biện pháp phòng thủ

Module 3: OWASP Top 10 cho LLMs - Phần 2 (2 giờ)

Nội dung Bao gồm:

LLM04: Đầu độc Dữ liệu và Mô hình

• Kỹ thuật thao túng dữ liệu huấn luyện
• Thay đổi hành vi mô hình thông qua đầu vào bị đầu độc
• Tấn công cửa hậu và xác minh toàn vẹn dữ liệu
• Phòng ngừa: Kênh xác thực dữ liệu, truy xuất nguồn gốc

LLM05: Xử lý Đầu ra Không Đúng cách

• Xử lý nội dung do LLM tạo ra không an toàn
• Tấn công chèn mã thông qua đầu ra AI
• Tấn công XSS (Cross-site scripting) qua phản hồi AI
• Khung xác thực và vệ sinh đầu ra

Bài tập Thực hành: Mô phỏng các cuộc tấn công đầu độc dữ liệu và triển khai các cơ chế xác thực đầu ra vững chắc

Module 4: Mối đe dọa LLM Nâng cao (1,5 giờ)

Nội dung Bao gồm:

LLM06: Tác quyền Quá mức (Excessive Agency)

• Rủi ro ra quyết định tự động và vi phạm ranh giới
• Quản lý quyền hạn và cấp phép của tác tử
• Tương tác hệ thống không chủ đích và leo thang đặc quyền
• Triển khai hàng rào bảo vệ và kiểm soát giám sát bởi con người

LLM07: Rò rỉ Lệnh Hệ thống (System Prompt Leakage)

• Lỗ hổng phơi nhiễm hướng dẫn hệ thống
• Khuyết lộ thông tin xác thực và logic qua lời nhắc
• Kỹ thuật tấn công để trích xuất lệnh hệ thống
• Bảo mật hướng dẫn hệ thống và cấu hình bên ngoài

Bài tập Thực hành: Thiết kế kiến trúc tác tử an toàn với kiểm soát truy cập và giám sát phù hợp

Ngày 2: Mối đe dọa Nâng cao và Triển khai

Module 5: Mối đe dọa AI Mới nổi (2 giờ)

Mục tiêu Học tập:

• Hiểu các mối đe dọa bảo mật AI tiên tiến
• Triển khai kỹ thuật phát hiện và phòng thủ nâng cao
• Thiết kế hệ thống AI bền bỉ trước các cuộc tấn công tinh vi

Nội dung Bao gồm:

LLM08: Điểm yếu Vector và Nhúng (Embedding)

• Lỗ hổng hệ thống RAG và bảo mật cơ sở dữ liệu vector
• Đầu độc nhúng và tấn công thao túng độ tương tự
• Ví dụ thù địch trong tìm kiếm ngữ nghĩa
• Bảo vệ kho lưu trữ vector và triển khai phát hiện bất thường

LLM09: Thông tin Sai lệch và Độ tin cậy của Mô hình

• Phát hiện và giảm thiểu hiện tượng 'ảo giác' (hallucination) của AI
• Khuếch đại thiên kiến và xem xét công bằng
• Cơ chế kiểm tra sự thật và xác minh nguồn
• Xác thực nội dung và tích hợp giám sát con người

LLM10: Tiêu thụ Không giới hạn (Unbounded Consumption)

• Suy kiệt tài nguyên và tấn công từ chối dịch vụ (DoS)
• Chiến lược giới hạn tỷ lệ và quản lý tài nguyên
• Tối ưu hóa chi phí và kiểm soát ngân sách
• Hệ thống giám sát hiệu suất và cảnh báo

Bài tập Thực hành: Xây dựng đường ống RAG an toàn với bảo vệ cơ sở dữ liệu vector và phát hiện ảo giác

Module 6: Bảo mật AI Tác tử (Agentic AI Security) (2 giờ)

Mục tiêu Học tập:

• Hiểu các thách thức bảo mật độc đáo của tác tử AI tự chủ
• Áp dụng phân loại mối đe dọa OWASP Agentic AI vào hệ thống thực tế
• Triển khai biện pháp kiểm soát bảo mật cho môi trường đa tác tử

Nội dung Bao gồm:

• Giới thiệu về AI Tác tử và hệ thống tự chủ
• Phân loại Mối đe dọa OWASP Agentic AI: Thiết kế Tác tử, Bộ nhớ, Lập kế hoạch, Sử dụng Công cụ, Triển khai
• Rủi ro bảo mật và phối hợp trong hệ thống đa tác tử
• Các cuộc tấn công lạm dụng công cụ, đầu độc bộ nhớ và chiếm quyền điều khiển mục tiêu
• Bảo mật quá trình giao tiếp và ra quyết định của tác tử

Bài tập Thực hành: Bài tập mô hình hóa mối đe dọa sử dụng phân loại OWASP Agentic AI trên một hệ thống dịch vụ khách hàng đa tác tử

Module 7: Triển khai OWASP Threat Defense COMPASS (2 giờ)

Mục tiêu Học tập:

• Nắm vững ứng dụng thực tế của Threat Defense COMPASS
• Tích hợp đánh giá mối đe dọa AI vào chương trình an ninh tổ chức
• Phát triển chiến lược quản trị rủi ro AI toàn diện

Nội dung Bao gồm:

• Tìm hiểu sâu về phương pháp luận Threat Defense COMPASS
• Tích hợp Vòng lặp OODA: Quan sát, Định hướng, Ra quyết định, Hành động
• Ánh xạ mối đe dọa sang khung MITRE ATT&CK và ATLAS
• Xây dựng Bảng điều khiển Chiến lược Bền vững Mối đe dọa AI
• Tích hợp với công cụ và quy trình bảo mật hiện có

Bài tập Thực hành: Hoàn thành đánh giá mối đe dọa sử dụng COMPASS cho kịch bản triển khai Microsoft Copilot

Module 8: Triển khai Thực tiễn và Thực hành Tốt nhất (2,5 giờ)

Mục tiêu Học tập:

• Thiết kế kiến trúc AI an toàn từ gốc
• Triển khai giám sát và ứng phó sự cố cho hệ thống AI
• Xây dựng khung quản trị cho bảo mật AI

Nội dung Bao gồm:

Vòng đời Phát triển AI An toàn:

• Nguyên tắc 'bảo mật ngay từ thiết kế' cho ứng dụng AI
• Thực tiễn xem xét mã (code review) cho tích hợp LLM
• Phương pháp luận kiểm thử và quét lỗ hổng
• An ninh triển khai và tăng cường bảo mật môi trường sản xuất

Giaim sát và Phát hiện:

• Yêu cầu đăng nhập nhật ký (logging) và giám sát đặc thù cho AI
• Phát hiện bất thường cho hệ thống AI
• Quy trình ứng phó sự cố cho các sự kiện an ninh AI
• Kỹ thuật điều tra pháp y

Quản trị và Tuân thủ:

• Khung quản trị rủi ro AI và chính sách
• Vấn đề tuân thủ quy định (GDPR, Đạo luật AI, v.v.)
• Đánh giá rủi ro bên thứ ba cho nhà cung cấp AI
• Đào tạo nâng cao nhận thức bảo mật cho đội ngũ phát triển AI

Bài tập Thực hành: Thiết kế kiến trúc bảo mật toàn diện cho bot chat AI doanh nghiệp, bao gồm giám sát, quản trị và quy trình ứng phó sự cố

Module 9: Công nghệ và Công cụ (1 giờ)

Mục tiêu Học tập:

• Đánh giá và triển khai công cụ bảo mật AI
• Hiểu bối cảnh hiện tại của các giải pháp bảo mật AI
• Xây dựng năng lực phát hiện và phòng thủ thực tiễn

Nội dung Bao gồm:

• Hệ sinh thái công cụ bảo mật AI và bối cảnh nhà cung cấp
• Công cụ mã nguồn mở: Garak, PyRIT, Giskard
• Giải pháp thương mại cho bảo mật và giám sát AI
• Mẫu tích hợp và chiến lược triển khai
• Tiêu chí lựa chọn công cụ và khung đánh giá

Bài tập Thực hành: Demonstration thực tế các công cụ kiểm thử an ninh AI và lập kế hoạch triển khai

Module 10: Xu hướng Tương lai và Tổng kết (1 giờ)

Mục tiêu Học tập:

• Hiểu các mối đe dọa mới nổi và thách thức bảo mật tương lai
• Phát triển chiến lược học tập liên tục và cải tiến
• Xây dựng kế hoạch hành động cho chương trình an ninh AI của tổ chức

Nội dung Bao gồm:

• Mối đe dọa mới nổi: Deepfake, tiêm nhập lệnh tiên tiến, xâm phạm mô hình (model inversion)
• Các phát triển và lộ trình dự án OWASP GenAI trong tương lai
• Xây dựng cộng đồng bảo mật AI và chia sẻ kiến thức
• Cải tiến liên tục và tích hợp thông tin tình báo mối đe dọa

Bài tập Lập kế hoạch Hành động: Phát triển kế hoạch hành động 90 ngày để triển khai các thực tiễn bảo mật OWASP GenAI trong tổ chức của người tham gia