Đề cương khóa học

Tổng quan về Cấu trúc LLM và Mặt Phối hợp Tấn công

  • Cách xây dựng, triển khai và truy cập qua API của LLMs
  • Các thành phần chính trong bộ ứng dụng LLM (ví dụ: prompt, agents, memory, APIs)
  • Nơi và cách các vấn đề bảo mật xuất hiện trong sử dụng thực tế

Đánh cắp Prompt và Tấn công Bỏ trốn

  • Cái gì là đánh cắp prompt và tại sao nó nguy hiểm
  • Các tình huống đánh cắp prompt trực tiếp và gián tiếp
  • Kỹ thuật bỏ trốn để vượt qua bộ lọc an toàn
  • Chiến lược phát hiện và giảm thiểu

Rò rỉ Dữ liệu và Nguy cơ về Bảo mật Thông tin Cá nhân

  • Xuất dữ liệu không mong muốn thông qua phản hồi
  • Lộ thông tin cá nhân (PII) và việc sử dụng sai bộ nhớ của mô hình
  • Thiết kế prompt ý thức về quyền riêng tư và sinh ra tăng cường bằng cách thu thập lại (RAG)

Bộ lọc và Bảo vệ Đầu ra LLM

  • Sử dụng Guardrails AI để lọc và xác thực nội dung
  • Xác định các mô hình đầu ra và ràng buộc
  • Theo dõi và ghi lại đầu ra không an toàn

Phương pháp Làm việc với Con người trong Vòng lặp

  • Nơi và khi nào giới thiệu giám sát của con người
  • Hàng đợi phê duyệt, ngưỡng điểm số, xử lý trường hợp thay thế
  • Tính toán niềm tin và vai trò giải thích

Ứng dụng LLM An toàn Design Patterns

  • Quyền hạn tối thiểu và sandboxing cho các cuộc gọi API và agents
  • Hạn chế tốc độ, điều chỉnh băng thông và phát hiện lạm dụng
  • Kết nối mạnh mẽ với LangChain và cách ly prompt

Tuân thủ, Ghi chép và Governance

  • Đảm bảo tính minh bạch của đầu ra LLM
  • Bảo đảm khả năng theo dõi và kiểm soát phiên bản prompt
  • Hợp nhất với chính sách an ninh nội bộ và yêu cầu quy định

Tóm tắt và Bước tiếp theo

Yêu cầu

  • Sự hiểu biết về các mô hình ngôn ngữ lớn và giao diện dựa trên prompt
  • Kinh nghiệm xây dựng ứng dụng LLM bằng Python
  • Quen thuộc với việc tích hợp API và triển khai dựa trên đám mây

Đối tượng

  • Nhà phát triển AI
  • Kỹ sư thiết kế ứng dụng và giải pháp
  • Trưởng sản phẩm kỹ thuật làm việc với công cụ LLM
 14 Giờ học

Số người tham gia


Giá cho mỗi người tham gia

Các khóa học sắp tới

Các danh mục liên quan