Liên hệ với chúng tôi
 Thời gian kéo dài 14 Giờ học

Đề cương khóa học

Giới thiệu về Ollama cho việc Triển khai LLM

  • Tổng quan về khả năng của Ollama
  • Lợi ích của việc triển khai mô hình AI cục bộ
  • So sánh với các giải pháp lưu trữ AI trên đám mây

Thiết lập Môi trường Triển khai

  • Cài đặt Ollama và các phụ thuộc cần thiết
  • Cấu hình phần cứng và tăng tốc GPU
  • Container hóa Ollama bằng Docker để triển khai có thể mở rộng

Triển khai các Mô hình LLM với Ollama

  • Tải và quản lý các mô hình AI
  • Triển khai Llama 3, DeepSeek, Mistral và các mô hình khác
  • Tạo API và các điểm truy cập (endpoints) để truy cập mô hình AI

Tối ưu hóa Hiệu suất LLM

  • Tinh chỉnh (fine-tuning) mô hình cho hiệu quả
  • Giảm độ trễ và cải thiện thời gian phản hồi
  • Quản lý bộ nhớ và phân bổ tài nguyên

Tích hợp Ollama vào Quy trình AI

  • Kết nối Ollama với các ứng dụng và dịch vụ
  • Tự động hóa các quy trình dựa trên AI
  • Sử dụng Ollama trong các môi trúc tính toán biên (edge computing)

Giám sát và Bảo trì

  • Theo dõi hiệu suất và gỡ lỗi các vấn đề
  • Cập nhật và quản lý các mô hình AI
  • Đảm bảo bảo mật và tuân thủ trong các triển khai AI

Khả năng Mở rộng Triển khai Mô hình AI

  • Các phương pháp hay nhất để xử lý khối lượng công việc cao
  • Khả năng mở rộng Ollama cho các trường hợp sử dụng doanh nghiệp
  • Các tiến bộ trong tương lai đối với việc triển khai mô hình AI cục bộ

Tóm tắt và Các bước Tiếp theo

Yêu cầu

  • Kinh nghiệm cơ bản với học máy (machine learning) và các mô hình AI
  • Hiểu biết về giao diện dòng lệnh (command-line interface) và lập trình kịch bản (scripting)
  • Hiểu biết về các môi trường triển khai (cục bộ, biên (edge), đám mây)

Đối tượng tham gia

  • Kỹ sư AI đang tối ưu hóa các triển khai AI cục bộ và dựa trên đám mây
  • Chuyên gia ML triển khai và tinh chỉnh (fine-tuning) các mô hình LLM
  • Chuyên gia DevOps quản lý tích hợp mô hình AI

Số người tham gia


Giá cho mỗi học viên

Các khóa học sắp tới

Các danh mục liên quan