Building Secure and Responsible LLM Applications Training Course
Bảo mật ứng dụng LLM là lĩnh vực thiết kế, xây dựng và duy trì các hệ thống an toàn, đáng tin cậy và tuân thủ chính sách bằng cách sử dụng mô hình ngôn ngữ lớn.
Khóa học này do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển AI cấp trung đến cao, kiến trúc sư và quản lý sản phẩm muốn xác định và giảm thiểu rủi ro liên quan đến ứng dụng được hỗ trợ bởi LLM, bao gồm việc tiêm lệnh, rò rỉ dữ liệu và đầu ra chưa lọc, đồng thời tích hợp các biện pháp kiểm soát an ninh như kiểm tra đầu vào, giám sát của con người trong vòng lặp (human-in-the-loop) và rào cản đầu ra.
Tại kết thúc khóa học này, người tham gia sẽ có thể:
- Nắm vững những điểm yếu cơ bản của hệ thống dựa trên LLM.
- Áp dụng các nguyên tắc thiết kế an toàn vào kiến trúc ứng dụng LLM.
- Sử dụng công cụ như Guardrails AI và LangChain để kiểm tra, lọc và đảm bảo an toàn.
- Tích hợp các kỹ thuật như sandboxing, red teaming và đánh giá của con người trong vòng lặp (human-in-the-loop) vào chuỗi cung ứng sản xuất.
Định dạng khóa học
- Bài giảng tương tác và thảo luận.
- Nhiều bài tập và thực hành.
- Thực hiện trực tiếp trong môi trường phòng thí nghiệm trực tuyến.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu một khóa học được tùy chỉnh cho khóa này, vui lòng liên hệ với chúng tôi để sắp xếp.
Đề cương khóa học
Tổng quan về Cấu trúc LLM và Mặt Phối hợp Tấn công
- Cách xây dựng, triển khai và truy cập qua API của LLMs
- Các thành phần chính trong bộ ứng dụng LLM (ví dụ: prompt, agents, memory, APIs)
- Nơi và cách các vấn đề bảo mật xuất hiện trong sử dụng thực tế
Đánh cắp Prompt và Tấn công Bỏ trốn
- Cái gì là đánh cắp prompt và tại sao nó nguy hiểm
- Các tình huống đánh cắp prompt trực tiếp và gián tiếp
- Kỹ thuật bỏ trốn để vượt qua bộ lọc an toàn
- Chiến lược phát hiện và giảm thiểu
Rò rỉ Dữ liệu và Nguy cơ về Bảo mật Thông tin Cá nhân
- Xuất dữ liệu không mong muốn thông qua phản hồi
- Lộ thông tin cá nhân (PII) và việc sử dụng sai bộ nhớ của mô hình
- Thiết kế prompt ý thức về quyền riêng tư và sinh ra tăng cường bằng cách thu thập lại (RAG)
Bộ lọc và Bảo vệ Đầu ra LLM
- Sử dụng Guardrails AI để lọc và xác thực nội dung
- Xác định các mô hình đầu ra và ràng buộc
- Theo dõi và ghi lại đầu ra không an toàn
Phương pháp Làm việc với Con người trong Vòng lặp
- Nơi và khi nào giới thiệu giám sát của con người
- Hàng đợi phê duyệt, ngưỡng điểm số, xử lý trường hợp thay thế
- Tính toán niềm tin và vai trò giải thích
Ứng dụng LLM An toàn Design Patterns
- Quyền hạn tối thiểu và sandboxing cho các cuộc gọi API và agents
- Hạn chế tốc độ, điều chỉnh băng thông và phát hiện lạm dụng
- Kết nối mạnh mẽ với LangChain và cách ly prompt
Tuân thủ, Ghi chép và Governance
- Đảm bảo tính minh bạch của đầu ra LLM
- Bảo đảm khả năng theo dõi và kiểm soát phiên bản prompt
- Hợp nhất với chính sách an ninh nội bộ và yêu cầu quy định
Tóm tắt và Bước tiếp theo
Requirements
- Sự hiểu biết về các mô hình ngôn ngữ lớn và giao diện dựa trên prompt
- Kinh nghiệm xây dựng ứng dụng LLM bằng Python
- Quen thuộc với việc tích hợp API và triển khai dựa trên đám mây
Đối tượng
- Nhà phát triển AI
- Kỹ sư thiết kế ứng dụng và giải pháp
- Trưởng sản phẩm kỹ thuật làm việc với công cụ LLM
Open Training Courses require 5+ participants.
Building Secure and Responsible LLM Applications Training Course - Booking
Building Secure and Responsible LLM Applications Training Course - Enquiry
Building Secure and Responsible LLM Applications - Consultancy Enquiry
Consultancy Enquiry
Provisional Upcoming Courses (Require 5+ participants)
Related Courses
Xây dựng quy trình làm việc AI riêng tư với Ollama
14 HoursKhóa đào tạo trực tiếp do người hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) hướng đến các chuyên gia trình độ cao muốn triển khai quy trình làm việc an toàn và hiệu quả do AI điều khiển bằng cách sử dụng Ollama.
Vào cuối khóa đào tạo này, người tham gia sẽ có thể:
- Triển khai và cấu hình Ollama để xử lý AI riêng tư.
- Tích hợp các mô hình AI vào quy trình làm việc an toàn của doanh nghiệp.
- Tối ưu hóa hiệu suất AI trong khi vẫn đảm bảo quyền riêng tư dữ liệu.
- Tự động hóa quy trình kinh doanh với khả năng AI tại chỗ.
- Đảm bảo tuân thủ các chính sách quản trị và bảo mật doanh nghiệp.
Claude AI dành cho Sáng tạo Nội dung
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho những người tạo nội dung, người viết và chuyên gia marketing ở trình độ mới bắt đầu đến trung cấp, những người muốn tận dụng Claude AI để tạo, chỉnh sửa và tóm tắt nội dung nhằm nâng cao chất lượng blog, báo cáo và tài liệu marketing.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Sử dụng Claude AI để động não và mở rộng ý tưởng nội dung.
- Nâng cao chất lượng viết bằng công cụ chỉnh sửa và kiểm tra lỗi hỗ trợ AI.
- Tạo bản tóm tắt cho nội dung dài và báo cáo.
- Tự động hóa việc tạo bản sao marketing cho các nền tảng khác nhau.
Claude AI cho Nhà phát triển: Xây dựng Ứng dụng Được hỗ trợ bởi AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển phần mềm và kỹ sư AI trình độ trung cấp, những người muốn tích hợp Claude AI vào ứng dụng của họ, xây dựng chatbot hỗ trợ AI và nâng cao chức năng phần mềm bằng cách tự động hóa dựa trên AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Sử dụng API của Claude AI để tích hợp AI vào ứng dụng.
- Phát triển chatbot và trợ lý ảo hỗ trợ AI.
- Nâng cao ứng dụng với tự động hóa và NLP hỗ trợ AI.
- Tối ưu hóa và tinh chỉnh các mô hình Claude AI cho các trường hợp sử dụng khác nhau.
Claude AI cho Nghiên cứu và Knowledge Management
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà nghiên cứu, nhà phân tích và nhân viên tri thức ở trình độ trung cấp, những người muốn tận dụng Claude AI để xử lý lượng lớn dữ liệu, tổng hợp thông tin và tự động hóa các tác vụ nghiên cứu.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Sử dụng Claude AI cho việc đánh giá tài liệu và tổng hợp nghiên cứu.
- Tóm tắt báo cáo, bài nghiên cứu và các tài liệu dài.
- Trích xuất những hiểu biết và xu hướng chính từ dữ liệu có cấu trúc và không có cấu trúc.
- Tích hợp Claude AI vào quy trình nghiên cứu và quản lý tri thức.
Claude AI cho Workflow Automation và Productivity
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các chuyên gia ở trình độ mới bắt đầu, những người muốn tích hợp Claude AI vào quy trình làm việc hàng ngày của họ để cải thiện hiệu quả và tự động hóa.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Sử dụng Claude AI để tự động hóa các tác vụ lặp đi lặp lại và tối ưu hóa quy trình làm việc.
- Nâng cao năng suất cá nhân và nhóm bằng cách sử dụng tự động hóa dựa trên AI.
- Tích hợp Claude AI với các công cụ và nền tảng kinh doanh hiện có.
- Tối ưu hóa việc ra quyết định và quản lý tác vụ dựa trên AI.
Triển khai và tối ưu hóa LLM với Ollama
14 HoursKhóa đào tạo trực tiếp do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các chuyên gia trình độ trung cấp muốn triển khai, tối ưu hóa và tích hợp LLM bằng cách sử dụng Ollama.
Vào cuối khóa đào tạo này, người tham gia sẽ có thể:
- Thiết lập và triển khai LLM bằng cách sử dụng Ollama.
- Tối ưu hóa các mô hình AI để tăng hiệu suất và hiệu quả.
- Tận dụng khả năng tăng tốc GPU để cải thiện tốc độ suy luận.
- Tích hợp Ollama vào quy trình làm việc và ứng dụng.
- Theo dõi và duy trì hiệu suất của mô hình AI theo thời gian.
Fine-Tuning và Tùy chỉnh Mô hình AI trên Ollama
14 HoursKhóa đào tạo trực tiếp do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) nhắm tới các chuyên gia trình độ cao muốn tinh chỉnh và tùy chỉnh các mô hình AI trên Ollama để nâng cao hiệu suất và các ứng dụng cụ thể cho từng lĩnh vực.
Vào cuối khóa đào tạo này, người tham gia sẽ có thể:
- Thiết lập một môi trường hiệu quả để tinh chỉnh các mô hình AI trên Ollama.
- Chuẩn bị các tập dữ liệu để điều chỉnh có giám sát và học tăng cường.
- Tối ưu hóa các mô hình AI để tăng hiệu suất, độ chính xác và hiệu quả.
- Triển khai các mô hình tùy chỉnh trong môi trường sản xuất.
- Đánh giá những cải tiến của mô hình và đảm bảo tính mạnh mẽ.
Giới thiệu về Google Gemini AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển ở trình độ mới bắt đầu đến trung cấp, những người muốn tích hợp các chức năng AI vào ứng dụng của họ bằng Google Gemini AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc cơ bản của mô hình ngôn ngữ lớn.
- Thiết lập và sử dụng Google Gemini AI cho nhiều tác vụ AI khác nhau.
- Triển khai các phép biến đổi văn bản thành văn bản và hình ảnh thành văn bản.
- Xây dựng các ứng dụng cơ bản được hỗ trợ bởi AI.
- Khám phá các tính năng nâng cao và tùy chọn tùy chỉnh trong Google Gemini AI.
Google Gemini AI cho Sáng tạo Nội dung
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho những người tạo nội dung ở trình độ trung cấp, những người muốn sử dụng Google Gemini AI để nâng cao chất lượng và hiệu quả nội dung của họ.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ vai trò của AI trong việc tạo nội dung.
- Thiết lập và sử dụng Google Gemini AI để tạo và tối ưu hóa nội dung.
- Áp dụng các phép biến đổi văn bản để tạo ra nội dung sáng tạo và độc đáo.
- Triển khai các chiến lược SEO bằng cách sử dụng những hiểu biết sâu sắc do AI cung cấp.
- Phân tích hiệu suất nội dung và điều chỉnh chiến lược bằng cách sử dụng Gemini AI.
Google Gemini AI cho Dịch vụ Khách hàng Chuyển đổi
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các chuyên gia dịch vụ khách hàng ở trình độ trung cấp, những người muốn triển khai Google Gemini AI trong hoạt động dịch vụ khách hàng của họ.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ tác động của AI đối với dịch vụ khách hàng.
- Thiết lập Google Gemini AI để tự động hóa và cá nhân hóa tương tác với khách hàng.
- Sử dụng các phép chuyển đổi văn bản thành văn bản và hình ảnh thành văn bản để cải thiện hiệu quả dịch vụ.
- Phát triển các chiến lược dựa trên AI để phân tích phản hồi của khách hàng theo thời gian thực.
- Khám phá các tính năng nâng cao để tạo ra trải nghiệm dịch vụ khách hàng liền mạch.
Google Gemini AI dành cho Data Analysis
21 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phân tích dữ liệu và chuyên gia kinh doanh ở trình độ mới bắt đầu đến trung cấp, những người muốn thực hiện các tác vụ phân tích dữ liệu phức tạp một cách trực quan hơn trong nhiều ngành khác nhau bằng Google Gemini AI.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc cơ bản của Google Gemini AI.
- Kết nối các nguồn dữ liệu khác nhau với Gemini AI.
- Khám phá dữ liệu bằng các truy vấn ngôn ngữ tự nhiên.
- Phân tích các mẫu dữ liệu và suy ra những hiểu biết sâu sắc.
- Tạo các hình ảnh hóa dữ liệu hấp dẫn.
- Truyền đạt những hiểu biết dựa trên dữ liệu một cách hiệu quả.
Intermediate Gemini AI for Public Sector Professionals
16 HoursThis instructor-led, live training in Việt Nam (online or onsite) is aimed at intermediate-level public sector professionals who wish to use Gemini to generate high-quality content, assist with research, and improve productivity through more advanced AI interactions.
By the end of this training, participants will be able to:
- Craft more effective and tailored prompts for specific use cases.
- Generate original and creative content using Gemini.
- Summarize and compare complex information with precision.
- Use Gemini for brainstorming, planning, and organizing ideas efficiently.
Giới thiệu về các Ứng dụng Claude AI: Conversational AI và Business
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia kinh doanh, đội ngũ hỗ trợ khách hàng và những người đam mê công nghệ ở trình độ mới bắt đầu, những người muốn hiểu các nguyên tắc cơ bản của Claude AI và tận dụng nó cho các ứng dụng kinh doanh.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu rõ khả năng và các trường hợp sử dụng của Claude AI.
- Thiết lập và tương tác với Claude AI một cách hiệu quả.
- Tự động hóa các quy trình làm việc kinh doanh bằng AI hội thoại.
- Nâng cao mức độ tương tác và hỗ trợ khách hàng bằng các giải pháp dựa trên AI.
LangChain: Xây dựng Ứng dụng Được Hỗ trợ bởi AI
14 HoursKhóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển và kỹ sư phần mềm ở trình độ trung cấp, những người muốn xây dựng các ứng dụng hỗ trợ AI bằng framework LangChain.
Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu các nguyên tắc cơ bản của LangChain và các thành phần của nó.
- Tích hợp LangChain với các mô hình ngôn ngữ lớn (LLM) như GPT-4.
- Xây dựng các ứng dụng AI mô-đun bằng LangChain.
- Khắc phục các sự cố thường gặp trong các ứng dụng LangChain.
Bắt đầu với Ollama: Chạy mô hình AI cục bộ
7 HoursKhóa đào tạo trực tiếp do người hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các chuyên gia mới bắt đầu muốn cài đặt, cấu hình và sử dụng Ollama để chạy các mô hình AI trên máy cục bộ của họ.
Vào cuối khóa đào tạo này, người tham gia sẽ có thể:
- Hiểu được những điều cơ bản của Ollama và khả năng của nó.
- Thiết lập Ollama để chạy các mô hình AI cục bộ.
- Triển khai và tương tác với LLM bằng cách sử dụng Ollama.
- Tối ưu hóa hiệu suất và sử dụng tài nguyên cho khối lượng công việc AI.
- Khám phá các trường hợp sử dụng để triển khai AI cục bộ trong nhiều ngành công nghiệp khác nhau.