Liên hệ với chúng tôi

Đề cương khóa học

Giới thiệu về Ollama cho việc Triển khai LLM

  • Tổng quan về khả năng của Ollama
  • Lợi ích của việc triển khai mô hình AI cục bộ
  • So sánh với các giải pháp lưu trữ AI trên đám mây

Thiết lập Môi trường Triển khai

  • Cài đặt Ollama và các phụ thuộc cần thiết
  • Cấu hình phần cứng và tăng tốc GPU
  • Container hóa Ollama bằng Docker để triển khai có thể mở rộng

Triển khai các Mô hình LLM với Ollama

  • Tải và quản lý các mô hình AI
  • Triển khai Llama 3, DeepSeek, Mistral và các mô hình khác
  • Tạo API và các điểm truy cập (endpoints) để truy cập mô hình AI

Tối ưu hóa Hiệu suất LLM

  • Tinh chỉnh (fine-tuning) mô hình cho hiệu quả
  • Giảm độ trễ và cải thiện thời gian phản hồi
  • Quản lý bộ nhớ và phân bổ tài nguyên

Tích hợp Ollama vào Quy trình AI

  • Kết nối Ollama với các ứng dụng và dịch vụ
  • Tự động hóa các quy trình dựa trên AI
  • Sử dụng Ollama trong các môi trúc tính toán biên (edge computing)

Giám sát và Bảo trì

  • Theo dõi hiệu suất và gỡ lỗi các vấn đề
  • Cập nhật và quản lý các mô hình AI
  • Đảm bảo bảo mật và tuân thủ trong các triển khai AI

Khả năng Mở rộng Triển khai Mô hình AI

  • Các phương pháp hay nhất để xử lý khối lượng công việc cao
  • Khả năng mở rộng Ollama cho các trường hợp sử dụng doanh nghiệp
  • Các tiến bộ trong tương lai đối với việc triển khai mô hình AI cục bộ

Tóm tắt và Các bước Tiếp theo

Yêu cầu

  • Kinh nghiệm cơ bản với học máy (machine learning) và các mô hình AI
  • Hiểu biết về giao diện dòng lệnh (command-line interface) và lập trình kịch bản (scripting)
  • Hiểu biết về các môi trường triển khai (cục bộ, biên (edge), đám mây)

Đối tượng tham gia

  • Kỹ sư AI đang tối ưu hóa các triển khai AI cục bộ và dựa trên đám mây
  • Chuyên gia ML triển khai và tinh chỉnh (fine-tuning) các mô hình LLM
  • Chuyên gia DevOps quản lý tích hợp mô hình AI
 14 Giờ

Số người tham gia


Giá cho mỗi học viên

Các khóa học sắp tới

Các danh mục liên quan