Giới thiệu về Độ tin cậy, Rủi ro và Security Management của AI (AI TRiSM) Training Course

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên tại Việt Nam (trực tuyến hoặc tại chỗ) này nhằm vào các nhà lãnh đạo doanh nghiệp cấp trung muốn hiểu cách quản lý và bảo mật hệ thống AI một cách có trách nhiệm và tuân thủ các khung khổ toàn cầu đang nổi lên như EU AI Act, GDPR, ISO/IEC 42001, và sắc lệnh hành pháp của Hoa Kỳ về AI.

Tại kết thúc buổi đào tạo này, người tham gia sẽ có thể:

• Hiểu rõ các rủi ro pháp lý, đạo đức và quy định khi sử dụng AI trong các bộ phận khác nhau.
• Hiểu và áp dụng các khung quản trị AI chính (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Xây dựng các chính sách bảo mật, kiểm toán và giám sát cho việc triển khai AI trong doanh nghiệp.
• Phát triển hướng dẫn mua sắm và sử dụng hệ thống AI từ bên thứ ba và nội bộ.

Artificial Intelligence (AI) giới thiệu những chiều kích mới về rủi ro vận hành, thách thức quản trị và mối đe dọa an toàn mạng cho các cơ quan và bộ phận chính phủ.

Khóa học này do giảng viên hướng dẫn trực tuyến hoặc tại chỗ dành cho các chuyên gia IT và rủi ro trong lĩnh vực công có ít kinh nghiệm trước đây về AI muốn hiểu cách đánh giá, giám sát và bảo mật hệ thống AI trong bối cảnh chính phủ hoặc quy định.

Tại kết thúc khóa học này, người tham dự sẽ có thể:

• Giải thích các khái niệm rủi ro quan trọng liên quan đến hệ thống AI, bao gồm thiên lệch, không đoán trước được và sự dịch chuyển của mô hình.
• Áp dụng các khuôn khổ quản trị và kiểm toán cụ thể cho AI như NIST AI RMF và ISO/IEC 42001.
• Nhận biết mối đe dọa an toàn mạng nhắm vào các mô hình AI và đường ống dữ liệu.
• Thiết lập kế hoạch quản lý rủi ro xuyên bộ phận và sự phù hợp chính sách cho việc triển khai AI.

Định dạng khóa học

• Bài giảng tương tác và thảo luận về các trường hợp sử dụng trong lĩnh vực công.
• Bài tập về khuôn khổ quản trị AI và ánh xạ chính sách.
• Mô hình hóa mối đe dọa dựa trên tình huống và đánh giá rủi ro.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa học tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.

Buổi đào tạo trực tiếp (trực tuyến hoặc tại chỗ) này dành cho các nhà phát triển AI từ mức trung cấp đến nâng cao, kiến trúc sư và quản lý sản phẩm muốn xác định và giảm thiểu rủi ro liên quan đến ứng dụng được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM), bao gồm việc tiêm lệnh, rò rỉ dữ liệu và đầu ra chưa được lọc, đồng thời tích hợp các biện pháp kiểm soát an ninh như kiểm tra đầu vào, giám sát vòng lặp con người và rào cản đầu ra.

Tại kết thúc buổi đào tạo này, người tham gia sẽ có thể:

• Nắm vững những điểm yếu cơ bản của hệ thống dựa trên LLM.
• Áp dụng các nguyên tắc thiết kế an ninh vào kiến trúc ứng dụng LLM.
• Sử dụng công cụ như Guardrails AI và LangChain cho việc kiểm tra, lọc và đảm bảo an toàn.
• Tích hợp các kỹ thuật như sandboxing, red teaming và đánh giá vòng lặp con người vào chuỗi cung cấp sản phẩm chất lượng cao.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia AI và an ninh mạng ở trình độ trung cấp, những người muốn hiểu và giải quyết các lỗ hổng bảo mật cụ thể của mô hình và hệ thống AI, đặc biệt là trong các ngành được quản lý chặt chẽ như tài chính, quản trị dữ liệu và tư vấn.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Hiểu các loại tấn công đối nghịch nhắm vào hệ thống AI và các phương pháp để phòng thủ chống lại chúng.
• Triển khai các kỹ thuật tăng cường mô hình để bảo mật quy trình học máy.
• Đảm bảo an ninh và tính toàn vẹn của dữ liệu trong các mô hình học máy.
• Điều hướng các yêu cầu tuân thủ quy định liên quan đến bảo mật AI.

This instructor-led, live training in Việt Nam (online or onsite) is aimed at beginner-level IT security, risk, and compliance professionals who wish to understand foundational AI security concepts, threat vectors, and global frameworks such as NIST AI RMF and ISO/IEC 42001.

By the end of this training, participants will be able to:

• Understand the unique security risks introduced by AI systems.
• Identify threat vectors such as adversarial attacks, data poisoning, and model inversion.
• Apply foundational governance models like the NIST AI Risk Management Framework.
• Align AI use with emerging standards, compliance guidelines, and ethical principles.

This instructor-led, live training in Việt Nam (online or onsite) is aimed at advanced-level professionals who wish to implement and evaluate techniques such as federated learning, secure multiparty computation, homomorphic encryption, and differential privacy in real-world machine learning pipelines.

By the end of this training, participants will be able to:

• Understand and compare key privacy-preserving techniques in ML.
• Implement federated learning systems using open-source frameworks.
• Apply differential privacy for safe data sharing and model training.
• Use encryption and secure computation techniques to protect model inputs and outputs.

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên tại Việt Nam (trực tuyến hoặc tại chỗ) này dành cho các chuyên gia an ninh cấp cao và chuyên gia ML muốn mô phỏng tấn công vào hệ thống AI, phát hiện lỗ hổng và tăng cường độ bền vững của các mô hình AI đã triển khai.

Tại cuối buổi đào tạo này, người tham dự sẽ có thể:

• Mô phỏng mối đe dọa thực tế đối với các mô hình học máy.
• Tạo ra các ví dụ đối kháng để kiểm tra độ bền vững của mô hình.
• Đánh giá bề mặt tấn công của API và chuỗi cung ứng AI.
• Lập kế hoạch chiến lược đỏ cho môi trường triển khai AI.

Giới thiệu về Red Teaming AI

• Nắm bắt bức tranh toàn cảnh mối đe dọa AI
• Vai trò của các đội đỏ trong an ninh AI
• Xem xét đạo đức và pháp lý

Tấn công Đối kháng Machine Learning

• Các loại tấn công: evasiveness, poisoning, extraction, inference
• Tạo ví dụ đối kháng (ví dụ: FGSM, PGD)
• Tấn công có mục tiêu và không mục tiêu cùng các chỉ số thành công

Kiểm tra Độ bền vững của Mô hình

• Đánh giá độ bền vững dưới sự nhiễu loạn
• Xem xét điểm mù và chế độ thất bại của mô hình
• Kiểm tra chịu đựng cho các mô hình phân loại, thị giác và NLP

Red Teaming Chuỗi cung ứng AI

• Bề mặt tấn công của chuỗi cung ứng AI: dữ liệu, mô hình, triển khai
• Lợi dụng API và điểm kết thúc không an toàn của mô hình
• Tái tạo hành vi và đầu ra của mô hình

Mô phỏng và Công cụ

• Sử dụng Adversarial Robustness Toolbox (ART)
• Red teaming với các công cụ như TextAttack và IBM ART
• Công cụ sandbox, giám sát và quan sát

Chiến lược và Phòng thủ của Red Team AI Collaboration

• Phát triển bài tập và mục tiêu của đội đỏ
• Tiếp xúc thông tin với đội xanh
• Đưa red teaming vào quản lý rủi ro AI

Tóm tắt và Bước tiếp theo

Red Teaming AI Systems là một lĩnh vực an ninh tấn công chuyên biệt tập trung vào việc xác định điểm yếu trong các mô hình học máy và chuỗi cung ứng thông qua kiểm tra đối kháng và mô phỏng chịu đựng.

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên (trực tuyến hoặc tại chỗ) này dành cho các chuyên gia an ninh cấp cao và chuyên gia ML muốn mô phỏng tấn công vào hệ thống AI, phát hiện lỗ hổng và tăng cường độ bền vững của các mô hình AI đã triển khai.

Tại cuối buổi đào tạo này, người tham dự sẽ có thể:

• Mô phỏng mối đe dọa thực tế đối với các mô hình học máy.
• Tạo ra các ví dụ đối kháng để kiểm tra độ bền vững của mô hình.
• Đánh giá bề mặt tấn công của API và chuỗi cung ứng AI.
• Lập kế hoạch chiến lược đỏ cho môi trường triển khai AI.

Thể loại khóa học

• Bài giảng tương tác và thảo luận.
• Nhiều bài tập và thực hành.
• Hướng dẫn thực hiện trong môi trường lab trực tiếp.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa đào tạo tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Một sự hiểu biết về kiến trúc học máy và học sâu

Kinh nghiệm với Python và các khung ML (ví dụ: TensorFlow, PyTorch)

Quen thuộc với các khái niệm an ninh mạng hoặc kỹ thuật tấn công

Đối tượng

• Nghiên cứu viên an ninh
• Các đội tấn công an ninh
• Các chuyên gia đảm bảo AI và red team

Buổi đào tạo trực tiếp (trực tuyến hoặc tại chỗ) này ở Việt Nam nhằm vào các kỹ sư và chuyên gia an ninh có trình độ trung cấp muốn bảo vệ các mô hình AI được triển khai ở rìa trước những mối đe dọa như can thiệp, rò rỉ dữ liệu, đầu vào đối thủ và tấn công vật lý.

Tại kết thúc buổi đào tạo này, người tham gia sẽ có thể:

• Xác định và đánh giá các rủi ro an ninh trong triển khai AI ở rìa.
• Áp dụng kỹ thuật chống can thiệp và suy luận mã hóa.
• Củng cố các mô hình được triển khai ở rìa và bảo vệ đường ống dữ liệu.
• Triển khai chiến lược giảm thiểu mối đe dọa cụ thể cho hệ thống nhúng và bị giới hạn.

Buổi đào tạo trực tiếp tại Việt Nam (trực tuyến hoặc trực tiếp) này dành cho các chuyên gia trung cấp về học máy và an toàn mạng muốn hiểu và giảm thiểu mối đe dọa mới đối với các mô hình AI bằng cả khung tư duy lý thuyết và biện pháp phòng thủ thực tế như huấn luyện mạnh mẽ và riêng tư khác biệt.

Tại kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Xác định và phân loại mối đe dọa cụ thể của AI như tấn công đối thủ, đảo ngược và độc hại.
• Sử dụng các công cụ như Adversarial Robustness Toolbox (ART) để mô phỏng tấn công và kiểm tra mô hình.
• Áp dụng các biện pháp phòng thủ thực tế bao gồm huấn luyện đối thủ, tiêm nhiễu và kỹ thuật bảo vệ riêng tư.
• Lập kế hoạch đánh giá mô hình nhận thức mối đe dọa trong môi trường sản xuất.