Securing AI Models: Threats, Attacks, and Defenses Training Course

khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn (tại địa điểm được chỉ định) dành cho các nhà lãnh đạo cấp trung của doanh nghiệp muốn hiểu cách quản lý và bảo mật hệ thống AI một cách có trách nhiệm, tuân thủ các khung khổ toàn cầu đang phát triển như EU AI Act, GDPR, ISO/IEC 42001, và lệnh hành pháp của Hoa Kỳ về AI.

Cuối khóa học, người tham gia sẽ có khả năng:

• Hiểu các rủi ro pháp lý, đạo đức và quy định khi sử dụng AI trong các bộ phận khác nhau.
• Giải thích và áp dụng các khung quản trị AI chính (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Xây dựng các chính sách bảo mật, kiểm toán và giám sát cho việc triển khai AI trong doanh nghiệp.
• Phát triển các hướng dẫn mua sắm và sử dụng cho hệ thống AI của bên thứ ba và nội bộ.

Artificial Intelligence (AI) giới thiệu các khía cạnh mới về rủi ro vận hành, thách thức quản trị và mối đe dọa an toàn mạng cho các cơ quan và bộ phận chính phủ.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các chuyên gia IT và rủi ro trong khu vực công có kinh nghiệm hạn chế về AI muốn hiểu cách đánh giá, theo dõi và bảo vệ các hệ thống AI trong bối cảnh chính phủ hoặc quy định.

Đến cuối khóa học này, người tham gia sẽ có thể:

• Giải thích các khái niệm rủi ro liên quan đến các hệ thống AI, bao gồm thiên lệch, bất khả dự đoán và việc dịch chuyển mô hình.
• Áp dụng các khuôn khổ quản trị và kiểm toán cụ thể cho AI như NIST AI RMF và ISO/IEC 42001.
• Nhận diện các mối đe dọa an toàn mạng nhắm vào mô hình AI và đường ống dữ liệu.
• Thiết lập kế hoạch quản lý rủi ro xuyên bộ phận và điều chỉnh chính sách cho việc triển khai AI.

Định dạng khóa học

• Giảng dạy tương tác và thảo luận về các trường hợp sử dụng trong khu vực công.
• Bài tập khuôn khổ quản trị AI và bản đồ chính sách.
• Xây dựng mô hình rủi ro và đánh giá dựa trên kịch bản.

Tùy chọn Đặt riêng khóa học

• Để yêu cầu một khóa đào tạo được tùy chỉnh cho khóa học này, xin vui lòng liên hệ với chúng tôi để sắp xếp.

Khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn (tại Việt Nam) dành cho các chuyên gia IT từ trình độ cơ bản đến trung cấp muốn hiểu và triển khai AI TRiSM trong tổ chức của họ.

Sau khi hoàn thành khóa học, người tham dự sẽ có thể:

• Nắm vững các khái niệm cốt lõi và tầm quan trọng của quản lý niềm tin, rủi ro và an ninh trong AI.
• Xác định và giảm thiểu rủi ro liên quan đến hệ thống AI.
• Triển khai các thực hành tốt nhất về an ninh cho AI.
• Hiểu rõ quy định tuân thủ pháp luật và các cân nhắc đạo đức đối với AI.
• Phát triển chiến lược quản lý và điều phối AI hiệu quả.

Buổi đào tạo trực tiếp (trực tuyến hoặc tại chỗ) này dành cho các nhà phát triển AI từ mức trung cấp đến nâng cao, kiến trúc sư và quản lý sản phẩm muốn xác định và giảm thiểu rủi ro liên quan đến ứng dụng được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM), bao gồm việc tiêm lệnh, rò rỉ dữ liệu và đầu ra chưa được lọc, đồng thời tích hợp các biện pháp kiểm soát an ninh như kiểm tra đầu vào, giám sát vòng lặp con người và rào cản đầu ra.

Tại kết thúc buổi đào tạo này, người tham gia sẽ có thể:

• Nắm vững những điểm yếu cơ bản của hệ thống dựa trên LLM.
• Áp dụng các nguyên tắc thiết kế an ninh vào kiến trúc ứng dụng LLM.
• Sử dụng công cụ như Guardrails AI và LangChain cho việc kiểm tra, lọc và đảm bảo an toàn.
• Tích hợp các kỹ thuật như sandboxing, red teaming và đánh giá vòng lặp con người vào chuỗi cung cấp sản phẩm chất lượng cao.

Khóa học trực tuyến hoặc tại chỗ do giảng viên hướng dẫn này dành cho các chuyên gia AI và an ninh mạng cấp trung muốn hiểu và giải quyết những lỗ hổng bảo mật đặc thù của mô hình và hệ thống AI, đặc biệt trong các ngành được quản lý chặt chẽ như tài chính, quản trị dữ liệu và tư vấn.

Sau khóa học này, người tham gia sẽ có khả năng:

• Hiểu các loại tấn công đối thủ nhắm vào hệ thống AI và phương pháp phòng thủ chống lại chúng.
• Áp dụng kỹ thuật tăng cường mô hình để bảo mật chuỗi cung ứng học máy.
• Đảm bảo an toàn và tính toàn vẹn dữ liệu trong các mô hình học máy.
• Hướng dẫn tuân thủ yêu cầu pháp lý liên quan đến an ninh AI.

Khóa học trực tiếp dưới sự hướng dẫn của giảng viên tại Việt Nam (trực tuyến hoặc tại chỗ) được thiết kế cho các chuyên gia IT bảo mật, rủi ro và tuân thủ ở trình độ cơ bản muốn hiểu về các khái niệm bảo mật AI cơ bản, vectơ mối đe dọa và khung khổ toàn cầu như NIST AI RMF và ISO/IEC 42001.

Cuối khóa học, người tham gia sẽ có thể:

• Hiểu rõ các rủi ro bảo mật riêng biệt được đưa ra bởi các hệ thống AI.
• Xác định vectơ mối đe dọa như tấn công đối thủ, đầu độc dữ liệu và đảo ngược mô hình.
• Áp dụng các mô hình quản lý cơ bản như Khung NIST AI Risk Management.
• Phù hợp việc sử dụng AI với các tiêu chuẩn mới nổi, hướng dẫn tuân thủ và nguyên tắc đạo đức.

Theo hướng dẫn của dự án OWASP GenAI Security mới nhất, các tham gia viên sẽ học cách nhận dạng, đánh giá và giảm thiểu các mối đe dọa đặc biệt dành cho AI thông qua các bài tập thực hành và các tình huống thực tế.

khóa huấn luyện trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn (trực tuyến hoặc trực tiếp) nhằm vào các chuyên gia cấp cao muốn triển khai và đánh giá các kỹ thuật như học liên minh, tính toán đa bên an toàn, mã hóa đồng cấu, và riêng tư công sai trong cácpipeline học máy thực tế.

Đến cuối khóa huấn luyện này, người tham dự sẽ có thể:

• Hiểu và so sánh các kỹ thuật bảo vệ riêng tư chính trong ML.
• Triển khai hệ thống học liên minh bằng cách sử dụng các khung mã nguồn mở.
• Áp dụng công sai riêng tư để chia sẻ dữ liệu và đào tạo mô hình một cách an toàn.
• Sử dụng các kỹ thuật mã hóa và tính toán an toàn để bảo vệ đầu vào và đầu ra của mô hình.

Khóa học trực tiếp do giảng viên hướng dẫn tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các chuyên gia an ninh cấp cao và chuyên gia AI có mong muốn mô phỏng tấn công vào hệ thống trí tuệ nhân tạo, phát hiện lỗ hổng và tăng cường độ tin cậy của các mô hình AI đã triển khai.

Cuối khóa học này, người tham dự sẽ có khả năng:

• Mô phỏng mối đe dọa thực tế đối với các mô hình trí tuệ nhân tạo.
• Tạo ví dụ đối thủ để kiểm tra độ tin cậy của mô hình.
• Đánh giá bề mặt tấn công của API và quy trình triển khai AI.
• Thiết kế chiến lược đội đỏ cho môi trường triển khai AI.

Khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn (tại Việt Nam) nhằm vào kỹ sư và chuyên gia an ninh có trình độ trung cấp muốn bảo vệ các mô hình AI được triển khai ở rìa trước những mối đe dọa như can thiệp, rò rỉ dữ liệu, đầu vào đối thủ cạnh tranh, và tấn công vật lý.

Kết thúc khóa học này, người tham gia sẽ có thể:

• Xác định và đánh giá các rủi ro an ninh trong triển khai AI ở rìa.
• Áp dụng kỹ thuật chống can thiệp và suy luận được mã hóa.
• Tăng cường mô hình được triển khai ở rìa và bảo vệ đường ống dữ liệu.
• Thực hiện các chiến lược giảm thiểu mối đe dọa đặc biệt cho hệ thống nhúng và bị hạn chế.