Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Nền tảng của AI Cục Bộ An Toàn
- Ý nghĩa của AI cục bộ và trên hệ thống nội bộ trong các môi trường có quy định
- So sánh giữa AI đám mây và triển khai nội bộ cho các khối lượng công việc nhạy cảm
- Các trường hợp sử dụng doanh nghiệp phổ biến cho trợ lý riêng tư và hỗ trợ quy trình làm việc
- Các thành phần cốt lõi của kiến trúc AI cục bộ an toàn
Kiến thức cơ bản về Ollama và các Mô hình Mã nguồn Mở
- Vai trò của Ollama trong bộ công cụ phát triển cục bộ
- Tải xuống, chạy và quản lý các mô hình cục bộ
- Lựa chọn mô hình dựa trên kích thước, chất lượng, phần cứng và giấy phép
- Phù hợp hóa các lựa chọn mô hình với các nhiệm vụ kinh doanh thực tế
Chuẩn bị Môi trường Trên Hệ thống Nội bộ
- Chuẩn bị máy chủ, máy trạm và máy chủ
- Cài đặt và cấu hình Ollama cho suy luận cục bộ
- Sử dụng container và các công cụ phát triển nội bộ
- Xác minh quyền truy cập API và sự sẵn sàng hoạt động cơ bản
Làm việc Hiệu quả với Các Mô hình Cục bộ
- Chạy các lời nhắc và định hình đầu ra bằng các chỉ dẫn hệ thống
- Tái sử dụng các mẫu cho các nhiệm vụ doanh nghiệp nhất quán
- Quản lý các phiên bản mô hình và các phần tử nội bộ
- Tinh chỉnh hiệu suất cơ bản cho các triển khai CPU và GPU
Xây dựng Các Quy trình Tác nhân Thực tế
- Những yếu tố tạo nên tính tác nhân của một quy trình trong môi trường được kiểm soát
- Các mẫu đơn giản cho lập kế hoạch, sử dụng công cụ và vòng lặp phản hồi
- Thiết kế các trợ lý tập trung vào nhiệm vụ cho các hoạt động nội bộ
- Bổ sung kiểm duyệt của con người, logic dự phòng và xử lý lỗi
Các Quy trình Truy xuất Riêng tư
- Kiến thức cơ bản về tạo văn bản được tăng cường bằng truy xuất cho việc truy cập tri thức nội bộ
- Chuẩn bị tài liệu cho việc phân mảnh, lập chỉ mục và tìm kiếm
- Kết nối kho vector cục bộ với ứng dụng dựa trên Ollama
- Cải thiện độ liên quan và chất lượng câu trả lời với các mẫu truy xuất tốt hơn
Các Phương pháp Bảo mật, Quản trị và Tuân thủ
- Ranh giới xử lý dữ liệu và các cân nhắc về quyền riêng tư
- Kiểm soát truy cập, ghi nhật ký và hỗ trợ kiểm toán
- An toàn lời nhắc, kiểm soát đầu ra và các hàng rào an toàn
- Các điểm kiểm soát quản trị cho triển khai và vận hành có quy định
Các Mẫu Tích hợp Doanh nghiệp
- Tiết lộ các khả năng AI cục bộ thông qua các API nội bộ
- Tích hợp trợ lý với các ứng dụng và dịch vụ nội bộ
- Hỗ trợ các trường hợp sử dụng trợ lý, xử lý theo lô và tự động hóa quy trình làm việc
- Giữ các giải pháp trong ranh giới mạng được kiểm soát
Đánh giá Các Giải pháp AI Cục bộ
- Đánh giá chất lượng, độ tin cậy và tính nhất quán
- Kiểm thử đối với các yêu cầu về kinh doanh, chính sách và an toàn
- So sánh các lựa chọn mô hình cho các nhiệm vụ doanh nghiệp cụ thể
- Thiết lập chu trình cải tiến thực tế cho các nhóm nội bộ
Phòng thí nghiệm Triển khai Thực hành
- Xây dựng một trợ lý riêng tư bằng Ollama và một mô hình mã nguồn mở
- Bổ sung truy xuất qua các tài liệu nội bộ được phê duyệt
- Giới thiệu các hành động tác nhân đơn giản và các biện pháp kiểm soát an toàn
- Xem xét triển khai, vận hành và các điểm kiểm soát quản trị
Lập kế hoạch Áp dụng và Các bước Tiếp theo
- Xem xét các quyết định thiết kế và triển khai chính
- Xác định các sai lầm phổ biến trong các dự án AI có quy định
- Lập kế hoạch cho các trường hợp sử dụng thử nghiệm và sự đồng thuận của các bên liên quan
- Xác định lộ trình cho việc áp dụng AI cục bộ an toàn
Yêu cầu
- Hiểu biết cơ bản về các khái niệm AI và phát triển phần mềm
- Làm quen với các công cụ dòng lệnh, container hoặc môi trường phát triển cục bộ
- Kinh nghiệm lập trình hoặc viết kịch bản cơ bản
Đối tượng
- Các nhà phát triển và nhóm kỹ thuật đang xây dựng các giải pháp AI riêng tư trên cơ sở hạ tầng nội bộ
- Chuyên gia bảo mật, tuân thủ và nền tảng hỗ trợ AI trong các môi trường có quy định
- Các nhà lãnh đạo kỹ thuật trong lĩnh vực tài chính, y tế, chính phủ và quốc phòng đang đánh giá việc áp dụng AI trên hệ thống nội bộ
21 Giờ
