Liên hệ với chúng tôi
 Thời gian kéo dài 7 Giờ học

Đề cương khóa học

Từ Sinh thành Văn bản đến Quyết định Có Kiểu Dữ Liệu

  • Mô hình ra quyết định trả về điều gì.
  • Quyết định hệ thống một (System one) so với LLM suy luận.
  • Hồ sơ chi phí và độ trễ của các quyết định có giới hạn.

Toàn cảnh các Mô hình Ra quyết định Mở Trọng số

  • Strands Decider 2B từ AWS Labs.
  • Các dòng mở trọng số JEV và GEV.
  • Pplx-Decider, Liquid D1 và Clef.
  • Sự khác biệt về giấy phép và triển khai.

Bên trong một Mô hình Ra quyết định

  • Thân LLM không có đầu mô hình ngôn ngữ.
  • Đầu con trỏ chấm điểm trên các tùy chọn ứng viên.
  • Xuất phát điểm của điểm số độ tin cậy.

Chạy những Quyết định đầu tiên

  • Cài đặt cục bộ trên CPU và GPU tiêu dùng.
  • Viết câu hỏi và các bộ tùy chọn.
  • Hỏi nhiều câu hỏi trong một lần truyền.
  • Ngưỡng và hành vi dự phòng.

Đánh giá Chất lượng Quyết định

  • JevBench và các thước đo chuẩn (benchmarks) ra quyết định.
  • Độ chính xác so với hiệu chuẩn.
  • Điểm Brier và độ tin cậy của độ tin cậy.
  • Các tác vụ mà mô hình ra quyết định là công cụ không phù hợp.

Yêu cầu

  • Nhận thức cơ bản về các mô hình ngôn ngữ lớn (LLM) và các ứng dụng dựa trên prompt.
  • Thành thạo dòng lệnh và các kịch bản Python.
  • Không yêu cầu kinh nghiệm huấn luyện học máy.

Đối tượng người học

  • Kỹ sư AI đang đánh giá các mô hình ra quyết định cho luồng công việc của agent.
  • Nhà phát triển phần mềm thay thế các lời gọi LLM bằng các quyết định có giới hạn.
  • Kiến trúc sư giải pháp và nền tảng thiết kế kiến trúc agent.
  • Quản lý sản phẩm kỹ thuật đánh giá các tùy chọn mô hình ra quyết định.

Số người tham gia


Giá cho mỗi học viên

Các khóa học sắp tới

Các danh mục liên quan