Red Teaming AI Systems: Offensive Security for ML Models Khóa Học Đào Tạo

Khóa đào tạo trực tuyến hoặc tại chỗ do giảng viên hướng dẫn này ở Việt Nam nhằm vào các lãnh đạo doanh nghiệp ở mức trung cấp, mong muốn hiểu cách quản lý và bảo mật hệ thống AI một cách có trách nhiệm và tuân thủ với các khung pháp lý toàn cầu đang phát triển như Đạo luật AI của EU, GDPR, ISO/IEC 42001 và Lệnh Điều hành về AI của Hoa Kỳ.

Cuối khóa đào tạo, người tham gia sẽ có thể:

• Hiểu các rủi ro pháp lý, đạo đức và quy định khi sử dụng AI trong các bộ phận.
• Phân tích và áp dụng các khung quản lý AI chính (Đạo luật AI của EU, NIST AI RMF, ISO/IEC 42001).
• Thiết lập các chính sách bảo mật, kiểm toán và giám sát cho việc triển khai AI trong doanh nghiệp.
• Phát triển hướng dẫn mua sắm và sử dụng cho các hệ thống AI của bên thứ ba và nội bộ.

Khóa học cung cấp cái nhìn thực tế về cách bảo vệ các ứng dụng hiện đại dựa trên AI, API, trợ lý ảo và các tác nhân tự hành. Người tham gia tìm hiểu sự khác biệt giữa an ninh AI và an ninh web truyền thống, khám phá các mối đe dọa đặc thù của AI như tiêm lệnh, đầu độc RAG và lạm dụng tác nhân, đồng thời hiểu cách bảo vệ hệ thống AI bằng các biện pháp phòng thủ theo lớp bao gồm WAF, cổng AI, bảo mật API và guardrails. Thông qua các bài lab thực hành và ví dụ thực tế, học viên sẽ nắm bắt kỹ năng nhận diện mẫu tấn công AI, bảo mật các ứng dụng dựa trên LLM và triển khai các biện pháp phòng thủ tại thời điểm chạy hiệu quả cho môi trường sản xuất.

Khóa đào tạo trực tiếp do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho chuyên gia CNTT từ trình độ cơ bản đến trung cấp muốn hiểu và triển khai AI TRiSM trong tổ chức của họ.

Sau khi kết thúc khóa đào tạo, người tham dự sẽ có thể:

• Hiểu rõ các khái niệm và tầm quan trọng của quản lý tin cậy, rủi ro và bảo mật AI.
• Xác định và giảm thiểu các rủi ro liên quan đến hệ thống AI.
• Triển khai các thực hành bảo mật tốt nhất cho AI.
• Hiểu về tuân thủ quy định và các cân nhắc đạo đức đối với AI.
• Xây dựng chiến lược quản lý và điều hành AI hiệu quả.

Khóa đào tạo trực tiếp do chuyên gia hướng dẫn tại Việt Nam (trực tuyến hoặc tại chỗ) này nhằm đến đối tượng là các nhà phát triển AI, kiến trúc sư và quản lý sản phẩm ở mức độ trung cấp đến nâng cao, những người muốn xác định và giảm thiểu các rủi ro liên quan đến các ứng dụng dựa trên LLM, bao gồm tiêm nhập lời nhắc (prompt injection), rò rỉ dữ liệu và đầu ra không được kiểm duyệt, đồng thời tích hợp các biện pháp kiểm soát an ninh như xác thực đầu vào, giám sát có sự tham gia của con người và hàng rào an toàn cho đầu ra.

Hoàn thành khóa đào tạo này, người tham gia sẽ có khả năng:

• Hiểu các lỗ hổng cốt lõi của các hệ thống dựa trên LLM.
• Áp dụng các nguyên tắc thiết kế an toàn vào kiến trúc ứng dụng LLM.
• Sử dụng các công cụ như Guardrails AI và LangChain để xác thực, lọc dữ liệu và đảm bảo an toàn.
• Tích hợp các kỹ thuật như cô lập môi trường (sandboxing), tấn công có chủ đích (red teaming) và xem xét có sự tham gia của con người vào các quy trình sản xuất.

Khóa học này dạy các nhà phát triển phần mềm cách xây dựng các ứng dụng hỗ trợ AI một cách an toàn ngay từ thiết kế. Người tham gia học cách bảo vệ chatbot, copilots, đường ống RAG và các tác nhân AI trước các mối đe dọa đặc thù cho AI như tiêm lệnh, đầu độc dữ liệu, lạm dụng công cụ, rò rỉ bí mật và xử lý đầu ra mô hình không an toàn. Khóa học bao gồm thiết kế prompt an toàn, bảo mật RAG, truy cập nguyên tắc quyền tối thiểu, lớp bảo vệ và kiểm thử red-team, giúp nhà phát triển xây dựng các tính năng AI an toàn, đáng tin cậy và bền bỉ trong môi trường thực tế.

Chương trình đào tạo trực tiếp do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) hướng đến các chuyên gia AI và an ninh mạng ở trình độ trung cấp, những người mong muốn hiểu và giải quyết các lỗ hổng bảo mật đặc thù của các mô hình và hệ thống AI, đặc biệt trong các ngành nghề chịu sự quản lý chặt chẽ như tài chính, quản trị dữ liệu và tư vấn.

Kết thúc khóa đào tạo, người học sẽ có khả năng:

• Nắm vững các loại tấn công đối nghịch nhắm vào hệ thống AI và các phương pháp phòng thủ.
• Triển khai các kỹ thuật gia cố mô hình để bảo mật các quy trình học máy.
• Đảm bảo tính bảo mật và toàn vẹn của dữ liệu trong các mô hình học máy.
• Định hướng và đáp ứng các yêu cầu tuân thủ quy định liên quan đến bảo mật AI.

Khóa học đào tạo trực tiếp do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các kỹ sư bảo mật và nhân viên phụ trách tuân thủ mong muốn tăng cường độ an toàn cho các triển khai EXO, kiểm soát truy cập mô hình và quản lý các tải công việc AI chạy hoàn toàn nội bộ.

Khóa đào tạo trực tiếp do giảng viên hướng dẫn này (trực tuyến hoặc tại địa điểm) dành cho những chuyên gia bảo mật, quản lý rủi ro và tuân thủ IT ở cấp độ mới bắt đầu, mong muốn hiểu rõ các khái niệm cơ bản về bảo mật AI, các vector đe dọa và các framework toàn cầu như NIST AI RMF và ISO/IEC 42001.

Đến cuối khóa đào tạo này, người tham gia sẽ có thể:

• Hiểu được các rủi ro bảo mật độc đáo do hệ thống AI mang lại.
• Nhận diện các vector đe dọa như tấn công đối địch, đầu độc dữ liệu và lật ngược mô hình.
• Áp dụng các mô hình quản lý cơ bản như Framework Quản lý Rủi ro AI của NIST.
• Điều chỉnh việc sử dụng AI với các tiêu chuẩn, hướng dẫn tuân thủ và nguyên tắc đạo đức mới nổi.

Khóa học hướng dẫn trực tiếp này tại Việt Nam (trực tuyến hoặc tại chỗ) nhằm mục tiêu vào các kỹ sư an ninh và ML, những người cần xác định, kiểm thử và phòng thủ trước các cuộc tấn công vào mô hình ML và ứng dụng được cung cấp bởi LLM.

Dựa trên hướng dẫn mới nhất từ Dự án Bảo mật GenAI của OWASP, người tham gia sẽ học cách nhận diện, đánh giá và giảm thiểu các mối đe dọa đặc thù của AI thông qua các bài tập thực hành và kịch bản thực tế.

Khóa đào tạo trực tuyến hoặc tại chỗ do giảng viên hướng dẫn này dành cho các chuyên gia cấp cao muốn triển khai và đánh giá các kỹ thuật như học tập liên kết, tính toán đa bên an toàn, mã hóa đồng nhất và bảo mật vi phân trong các chuỗi xử lý học máy thực tế.

Cuối khóa đào tạo, người tham gia sẽ có thể:

• Hiểu và so sánh các kỹ thuật bảo mật dữ liệu chính trong học máy.
• Triển khai hệ thống học tập liên kết sử dụng các khung mã nguồn mở.
• Áp dụng bảo mật vi phân để chia sẻ dữ liệu và huấn luyện mô hình an toàn.
• Sử dụng mã hóa và kỹ thuật tính toán an toàn để bảo vệ đầu vào và đầu ra của mô hình.

Khóa đào tạo trực tiếp do giảng viên hướng dẫn tại Việt Nam (trực tuyến hoặc tại chỗ) này dành cho kỹ sư và chuyên gia bảo mật có trình độ trung cấp, những người muốn bảo mật các mô hình AI được triển khai tại biên chống lại các mối đe dọa như can thiệp, rò rỉ dữ liệu, đầu vào đối kháng, và tấn công vật lý.

Đến cuối khóa đào tạo này, người tham gia sẽ có thể:

• Xác định và đánh giá các rủi ro bảo mật trong việc triển khai AI Edge.
• Áp dụng các kỹ thuật chống can thiệp và suy luận mã hóa.
• Củng cố các mô hình được triển khai tại biên và bảo mật đường ống dữ liệu.
• Thực hiện các chiến lược giảm thiểu mối đe dọa cụ thể cho hệ thống nhúng và bị hạn chế.

Khóa đào tạo trực tiếp do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) nhắm đến các chuyên gia học máy và bảo mật mạng ở mức trung cấp, những người muốn hiểu và giảm thiểu các mối đe dọa mới nổi đối với mô hình AI bằng cách sử dụng cả khung concept và các biện pháp phòng thủ thực tế như huấn luyện mạnh mẽ và quyền riêng tư biệt lập.

Cuối khóa đào tạo, người tham gia sẽ có thể:

• Xác định và phân loại các mối đe dọa cụ thể cho AI như tấn công đối kháng, đảo ngược, và độc hại hóa.
• Sử dụng các công cụ như Adversarial Robustness Toolbox (ART) để mô phỏng tấn công và kiểm thử mô hình.
• Áp dụng các biện pháp phòng thủ thực tế bao gồm huấn luyện đối kháng, tiêm nhiễu, và kỹ thuật bảo mật quyền riêng tư.
• Thiết kế chiến lược đánh giá mô hình có ý thức về mối đe dọa trong môi trường sản xuất.