Securing Edge AI and Embedded Intelligence Training Course

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên tại Việt Nam (trực tuyến hoặc tại chỗ) này nhằm vào các nhà lãnh đạo doanh nghiệp cấp trung muốn hiểu cách quản lý và bảo mật hệ thống AI một cách có trách nhiệm và tuân thủ các khung khổ toàn cầu đang nổi lên như EU AI Act, GDPR, ISO/IEC 42001, và sắc lệnh hành pháp của Hoa Kỳ về AI.

Tại kết thúc buổi đào tạo này, người tham gia sẽ có thể:

• Hiểu rõ các rủi ro pháp lý, đạo đức và quy định khi sử dụng AI trong các bộ phận khác nhau.
• Hiểu và áp dụng các khung quản trị AI chính (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Xây dựng các chính sách bảo mật, kiểm toán và giám sát cho việc triển khai AI trong doanh nghiệp.
• Phát triển hướng dẫn mua sắm và sử dụng hệ thống AI từ bên thứ ba và nội bộ.

Buổi đào tạo trực tiếp (trực tuyến hoặc tại chỗ) này dành cho các nhà phát triển AI từ mức trung cấp đến nâng cao, kiến trúc sư và quản lý sản phẩm muốn xác định và giảm thiểu rủi ro liên quan đến ứng dụng được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM), bao gồm việc tiêm lệnh, rò rỉ dữ liệu và đầu ra chưa được lọc, đồng thời tích hợp các biện pháp kiểm soát an ninh như kiểm tra đầu vào, giám sát vòng lặp con người và rào cản đầu ra.

Tại kết thúc buổi đào tạo này, người tham gia sẽ có thể:

• Nắm vững những điểm yếu cơ bản của hệ thống dựa trên LLM.
• Áp dụng các nguyên tắc thiết kế an ninh vào kiến trúc ứng dụng LLM.
• Sử dụng công cụ như Guardrails AI và LangChain cho việc kiểm tra, lọc và đảm bảo an toàn.
• Tích hợp các kỹ thuật như sandboxing, red teaming và đánh giá vòng lặp con người vào chuỗi cung cấp sản phẩm chất lượng cao.

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên tại Việt Nam (trực tuyến hoặc trực tiếp) này dành cho các chuyên gia bảo mật IT, quản lý rủi ro và tuân thủ ở mức độ đầu tiên muốn hiểu về các khái niệm cơ bản về an ninh AI, vectơ đe dọa và các khung toàn cầu như NIST AI RMF và ISO/IEC 42001.

Tại cuối buổi đào tạo này, người tham gia sẽ có thể:

• Hiểu rõ những rủi ro an ninh độc đáo mà hệ thống AI mang lại.
• Xác định các vectơ đe dọa như tấn công đối thủ, đầu độc dữ liệu và đảo ngược mô hình.
• Áp dụng các mô hình quản trị cơ bản như NIST AI Risk Management Framework.
• Hợp nhất việc sử dụng AI với các tiêu chuẩn mới nổi, hướng dẫn tuân thủ và nguyên tắc đạo đức.

Buổi đào tạo trực tiếp (trực tuyến hoặc tại chỗ) này tại Việt Nam hướng đến các chuyên gia cấp cao muốn triển khai và đánh giá các kỹ thuật như học liên minh, tính toán đa bên an toàn, mã hóa đồng hình và riêng tư khác biệt trong chuỗipipeline học máy thực tế.

Tại kết thúc khóa đào tạo này, người tham dự sẽ có khả năng:

• Nắm bắt và so sánh các kỹ thuật bảo vệ quyền riêng tư chính trong ML.
• Triển khai hệ thống học liên minh bằng cách sử dụng các khung nguồn mở.
• Áp dụng riêng tư khác biệt để chia sẻ dữ liệu an toàn và đào tạo mô hình.
• Sử dụng mã hóa và kỹ thuật tính toán an toàn để bảo vệ đầu vào và đầu ra của mô hình.

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên tại Việt Nam (trực tuyến hoặc tại chỗ) này dành cho các chuyên gia an ninh cấp cao và chuyên gia ML muốn mô phỏng tấn công vào hệ thống AI, phát hiện lỗ hổng và tăng cường độ bền vững của các mô hình AI đã triển khai.

Tại cuối buổi đào tạo này, người tham dự sẽ có thể:

• Mô phỏng mối đe dọa thực tế đối với các mô hình học máy.
• Tạo ra các ví dụ đối kháng để kiểm tra độ bền vững của mô hình.
• Đánh giá bề mặt tấn công của API và chuỗi cung ứng AI.
• Lập kế hoạch chiến lược đỏ cho môi trường triển khai AI.

Giới thiệu về Red Teaming AI

• Nắm bắt bức tranh toàn cảnh mối đe dọa AI
• Vai trò của các đội đỏ trong an ninh AI
• Xem xét đạo đức và pháp lý

Tấn công Đối kháng Machine Learning

• Các loại tấn công: evasiveness, poisoning, extraction, inference
• Tạo ví dụ đối kháng (ví dụ: FGSM, PGD)
• Tấn công có mục tiêu và không mục tiêu cùng các chỉ số thành công

Kiểm tra Độ bền vững của Mô hình

• Đánh giá độ bền vững dưới sự nhiễu loạn
• Xem xét điểm mù và chế độ thất bại của mô hình
• Kiểm tra chịu đựng cho các mô hình phân loại, thị giác và NLP

Red Teaming Chuỗi cung ứng AI

• Bề mặt tấn công của chuỗi cung ứng AI: dữ liệu, mô hình, triển khai
• Lợi dụng API và điểm kết thúc không an toàn của mô hình
• Tái tạo hành vi và đầu ra của mô hình

Mô phỏng và Công cụ

• Sử dụng Adversarial Robustness Toolbox (ART)
• Red teaming với các công cụ như TextAttack và IBM ART
• Công cụ sandbox, giám sát và quan sát

Chiến lược và Phòng thủ của Red Team AI Collaboration

• Phát triển bài tập và mục tiêu của đội đỏ
• Tiếp xúc thông tin với đội xanh
• Đưa red teaming vào quản lý rủi ro AI

Tóm tắt và Bước tiếp theo

Red Teaming AI Systems là một lĩnh vực an ninh tấn công chuyên biệt tập trung vào việc xác định điểm yếu trong các mô hình học máy và chuỗi cung ứng thông qua kiểm tra đối kháng và mô phỏng chịu đựng.

Buổi đào tạo trực tiếp dưới sự hướng dẫn của giảng viên (trực tuyến hoặc tại chỗ) này dành cho các chuyên gia an ninh cấp cao và chuyên gia ML muốn mô phỏng tấn công vào hệ thống AI, phát hiện lỗ hổng và tăng cường độ bền vững của các mô hình AI đã triển khai.

Tại cuối buổi đào tạo này, người tham dự sẽ có thể:

• Mô phỏng mối đe dọa thực tế đối với các mô hình học máy.
• Tạo ra các ví dụ đối kháng để kiểm tra độ bền vững của mô hình.
• Đánh giá bề mặt tấn công của API và chuỗi cung ứng AI.
• Lập kế hoạch chiến lược đỏ cho môi trường triển khai AI.

Thể loại khóa học

• Bài giảng tương tác và thảo luận.
• Nhiều bài tập và thực hành.
• Hướng dẫn thực hiện trong môi trường lab trực tiếp.

Tùy chọn Tùy chỉnh Khóa học

• Để yêu cầu một khóa đào tạo tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.

Một sự hiểu biết về kiến trúc học máy và học sâu

Kinh nghiệm với Python và các khung ML (ví dụ: TensorFlow, PyTorch)

Quen thuộc với các khái niệm an ninh mạng hoặc kỹ thuật tấn công

Đối tượng

• Nghiên cứu viên an ninh
• Các đội tấn công an ninh
• Các chuyên gia đảm bảo AI và red team

Buổi đào tạo trực tiếp tại Việt Nam (trực tuyến hoặc trực tiếp) này dành cho các chuyên gia trung cấp về học máy và an toàn mạng muốn hiểu và giảm thiểu mối đe dọa mới đối với các mô hình AI bằng cả khung tư duy lý thuyết và biện pháp phòng thủ thực tế như huấn luyện mạnh mẽ và riêng tư khác biệt.

Tại kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Xác định và phân loại mối đe dọa cụ thể của AI như tấn công đối thủ, đảo ngược và độc hại.
• Sử dụng các công cụ như Adversarial Robustness Toolbox (ART) để mô phỏng tấn công và kiểm tra mô hình.
• Áp dụng các biện pháp phòng thủ thực tế bao gồm huấn luyện đối thủ, tiêm nhiễu và kỹ thuật bảo vệ riêng tư.
• Lập kế hoạch đánh giá mô hình nhận thức mối đe dọa trong môi trường sản xuất.