Đề cương khóa học

Tổng quan về Cấu trúc LLM và Mặt Phối hợp Tấn công

  • Cách xây dựng, triển khai và truy cập qua API của LLMs
  • Các thành phần chính trong bộ ứng dụng LLM (ví dụ: prompt, agents, memory, APIs)
  • Nơi và cách các vấn đề bảo mật xuất hiện trong sử dụng thực tế

Đánh cắp Prompt và Tấn công Bỏ trốn

  • Cái gì là đánh cắp prompt và tại sao nó nguy hiểm
  • Các tình huống đánh cắp prompt trực tiếp và gián tiếp
  • Kỹ thuật bỏ trốn để vượt qua bộ lọc an toàn
  • Chiến lược phát hiện và giảm thiểu

Rò rỉ Dữ liệu và Nguy cơ về Bảo mật Thông tin Cá nhân

  • Xuất dữ liệu không mong muốn thông qua phản hồi
  • Lộ thông tin cá nhân (PII) và việc sử dụng sai bộ nhớ của mô hình
  • Thiết kế prompt ý thức về quyền riêng tư và sinh ra tăng cường bằng cách thu thập lại (RAG)

Bộ lọc và Bảo vệ Đầu ra LLM

  • Sử dụng Guardrails AI để lọc và xác thực nội dung
  • Xác định các mô hình đầu ra và ràng buộc
  • Theo dõi và ghi lại đầu ra không an toàn

Phương pháp Làm việc với Con người trong Vòng lặp

  • Nơi và khi nào giới thiệu giám sát của con người
  • Hàng đợi phê duyệt, ngưỡng điểm số, xử lý trường hợp thay thế
  • Tính toán niềm tin và vai trò giải thích

Ứng dụng LLM An toàn Design Patterns

  • Quyền hạn tối thiểu và sandboxing cho các cuộc gọi API và agents
  • Hạn chế tốc độ, điều chỉnh băng thông và phát hiện lạm dụng
  • Kết nối mạnh mẽ với LangChain và cách ly prompt

Tuân thủ, Ghi chép và Governance

  • Đảm bảo tính minh bạch của đầu ra LLM
  • Bảo đảm khả năng theo dõi và kiểm soát phiên bản prompt
  • Hợp nhất với chính sách an ninh nội bộ và yêu cầu quy định

Tóm tắt và Bước tiếp theo

Requirements

  • Sự hiểu biết về các mô hình ngôn ngữ lớn và giao diện dựa trên prompt
  • Kinh nghiệm xây dựng ứng dụng LLM bằng Python
  • Quen thuộc với việc tích hợp API và triển khai dựa trên đám mây

Đối tượng

  • Nhà phát triển AI
  • Kỹ sư thiết kế ứng dụng và giải pháp
  • Trưởng sản phẩm kỹ thuật làm việc với công cụ LLM
 14 Hours

Number of participants


Price per participant

Provisional Upcoming Courses (Require 5+ participants)

Related Categories