Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Nền tảng của AI Địa Phương An Toàn
- Ý nghĩa của AI địa phương và on-prem trong các môi trường được quản lý chặt chẽ
- AI đám mây so với triển khai nội bộ cho các quy trình xử lý nhạy cảm
- Các trường hợp sử dụng doanh nghiệp phổ biến cho trợ lý riêng tư và hỗ trợ quy trình làm việc
- Các thành phần cốt lõi của kiến trúc AI địa phương an toàn
Cơ bản về Ollama và Mô hình Mã Nguồn Mở
- Ollama tích hợp vào stack phát triển cục bộ như thế nào
- Kéo, chạy và quản lý các mô hình cục bộ
- Lựa chọn mô hình dựa trên kích thước, chất lượng, phần cứng và giấy phép
- Gắn kết tùy chọn mô hình với các nhiệm vụ kinh tế thực tiễn
Sẵn sàng Môi trường On-Prem
- Chuẩn bị máy chủ, trạm làm việc và server
- Cài đặt và định cấu hình Ollama cho suy luận cục bộ (local inference)
- Sử dụng container và công cụ phát triển nội bộ
- Xác minh quyền truy cập API và sự sẵn sàng vận hành cơ bản
Làm việc với các Mô Hình Cục Bộ một cách Hiệu quả
- Chạy các lệnh nhắc (prompts) và định hình đầu ra với hướng dẫn hệ thống
- Tái sử dụng mẫu cho các nhiệm vụ doanh nghiệp nhất quán
- Quản lý phiên bản mô hình và tài sản nội bộ
- Tinh chỉnh hiệu suất cơ bản cho triển khai CPU và GPU
Xây dựng Quy Trình Làm Việc Agentic Thực Tế
- Điều gì làm cho quy trình làm việc trở nên agentic trong một môi trường kiểm soát
- Các mẫu đơn giản cho lập kế hoạch, sử dụng công cụ và vòng lặp phản hồi
- Thiết kế trợ lý tập trung vào nhiệm vụ cho hoạt động nội bộ
- Bổ sung giám sát thủ công, logic dự phòng và xử lý lỗi
Quy Trình Truy Xuất Dữ Liệu Riêng Tư
- Cơ bản về tạo tăng cường truy xuất (retrieval-augmented generation) cho việc truy cập kiến thức nội bộ
- Chuẩn bị tài liệu để phân đoạn, lập chỉ mục và tìm kiếm
- Kết nối cơ sở dữ liệu vector cục bộ với ứng dụng dựa trên Ollama
- Cải thiện độ liên quan và chất lượng câu trả lời bằng cách sử dụng các mẫu truy xuất tốt hơn
Thực Hành Bảo Mật, Quản Trị và Tuân Thủ
- Giới hạn xử lý dữ liệu và cân nhắc về quyền riêng tư
- Kiểm soát truy cập, ghi nhật ký và hỗ trợ kiểm toán
- An toàn cho lệnh nhắc (prompt), kiểm soát đầu ra và hàng rào bảo vệ
- Các điểm kiểm soát quản trị cho việc triển khai và vận hành trong môi trường được quản lý chặt chẽ
Mẫu Tích Hợp Doanh Nghiệp
- Exposed các khả năng AI địa phương thông qua API nội bộ
- Tích hợp trợ lý với ứng dụng và dịch vụ nội bộ
- Hỗ trợ các trường hợp sử dụng trợ lý, hàng loạt và tự động hóa quy trình làm việc
- Duy trì giải pháp bên trong ranh giới mạng kiểm soát
Đánh giá Giải Pháp AI Cục Bộ
- Đánh giá chất lượng, độ tin cậy và tính nhất quán
- Thử nghiệm đối với yêu cầu kinh doanh, chính sách và an toàn
- So sánh các tùy chọn mô hình cho nhiệm vụ doanh nghiệp cụ thể
- Xây dựng chu kỳ cải tiến thực tiễn cho nhóm nội bộ
Phòng Lab Triển Khai Thực Tế
- Xây dựng trợ lý riêng tư với Ollama và một mô hình mã nguồn mở
- Bổ sung truy xuất trên tài liệu nội bộ đã được phê duyệt
- Bổ sung các hành động agentic đơn giản và kiểm soát an toàn
- Đánh giá triển khai, vận hành và các điểm kiểm soát quản trị
Kế hoạch Tiếp Nhận và Các Bước Tiếp Theo
- Đánh giá lại các quyết định thiết kế và triển khai chính
- Xác định các sai lầm phổ biến trong dự án AI được quản lý chặt chẽ
- Lập kế hoạch cho các trường hợp sử dụng thí điểm và sự nhất trí của các bên liên quan
- Định nghĩa lộ trình cho việc tiếp nhận AI địa phương an toàn
Yêu cầu
- Kiến thức cơ bản về các khái niệm AI và phát triển phần mềm
- Hiểu biết về công cụ dòng lệnh (command line), container hoặc môi trường phát triển cục bộ
- Kinh nghiệm viết kịch bản lập trình cơ bản
Đối tượng tham gia
- Các nhà phát triển và nhóm kỹ thuật xây dựng giải pháp AI riêng tư trên cơ sở hạ tầng nội bộ
- Chuyên gia bảo mật, tuân thủ và nền tảng hỗ trợ AI trong các môi trường được quản lý chặt chẽ
- Người lãnh đạo kỹ thuật trong lĩnh vực tài chính, chăm sóc sức khỏe, chính phủ và quốc phòng đang đánh giá việc triển khai AI on-prem
21 Giờ
