Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Thời gian kéo dài 7 Giờ học
Đề cương khóa học
Từ Sinh thành Văn bản đến Quyết định Có Kiểu Dữ Liệu
- Mô hình ra quyết định trả về điều gì.
- Quyết định hệ thống một (System one) so với LLM suy luận.
- Hồ sơ chi phí và độ trễ của các quyết định có giới hạn.
Toàn cảnh các Mô hình Ra quyết định Mở Trọng số
- Strands Decider 2B từ AWS Labs.
- Các dòng mở trọng số JEV và GEV.
- Pplx-Decider, Liquid D1 và Clef.
- Sự khác biệt về giấy phép và triển khai.
Bên trong một Mô hình Ra quyết định
- Thân LLM không có đầu mô hình ngôn ngữ.
- Đầu con trỏ chấm điểm trên các tùy chọn ứng viên.
- Xuất phát điểm của điểm số độ tin cậy.
Chạy những Quyết định đầu tiên
- Cài đặt cục bộ trên CPU và GPU tiêu dùng.
- Viết câu hỏi và các bộ tùy chọn.
- Hỏi nhiều câu hỏi trong một lần truyền.
- Ngưỡng và hành vi dự phòng.
Đánh giá Chất lượng Quyết định
- JevBench và các thước đo chuẩn (benchmarks) ra quyết định.
- Độ chính xác so với hiệu chuẩn.
- Điểm Brier và độ tin cậy của độ tin cậy.
- Các tác vụ mà mô hình ra quyết định là công cụ không phù hợp.
Yêu cầu
- Nhận thức cơ bản về các mô hình ngôn ngữ lớn (LLM) và các ứng dụng dựa trên prompt.
- Thành thạo dòng lệnh và các kịch bản Python.
- Không yêu cầu kinh nghiệm huấn luyện học máy.
Đối tượng người học
- Kỹ sư AI đang đánh giá các mô hình ra quyết định cho luồng công việc của agent.
- Nhà phát triển phần mềm thay thế các lời gọi LLM bằng các quyết định có giới hạn.
- Kiến trúc sư giải pháp và nền tảng thiết kế kiến trúc agent.
- Quản lý sản phẩm kỹ thuật đánh giá các tùy chọn mô hình ra quyết định.