Đẩy và Tối ưu hóa các Mô hình Ngôn ngữ lớn (LLMs) với Ollama Khóa Học Đào Tạo
Ollama cung cấp một cách hiệu quả để triển khai và chạy các mô hình ngôn ngữ lớn (LLM) cục bộ hoặc trong môi trường sản xuất, mang lại khả năng kiểm soát hiệu suất, chi phí và bảo mật.
Khóa đào tạo trực tiếp do giảng viên hướng dẫn (trực tuyến hoặc tại chỗ) này nhắm tới các chuyên gia trình độ trung cấp muốn triển khai, tối ưu hóa và tích hợp LLM bằng cách sử dụng Ollama.
Vào cuối khóa đào tạo này, người tham gia sẽ có thể:
- Thiết lập và triển khai LLM bằng cách sử dụng Ollama.
- Tối ưu hóa các mô hình AI để tăng hiệu suất và hiệu quả.
- Tận dụng khả năng tăng tốc GPU để cải thiện tốc độ suy luận.
- Tích hợp Ollama vào quy trình làm việc và ứng dụng.
- Theo dõi và duy trì hiệu suất của mô hình AI theo thời gian.
Định dạng của khóa học
- Bài giảng và thảo luận tương tác.
- Rất nhiều bài tập và thực hành.
- Thực hành trực tiếp trong môi trường phòng thí nghiệm.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu đào tạo tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Đề cương khóa học
Giới thiệu về Ollama để triển khai LLM
- Tổng quan về khả năng của Ollama
- Ưu điểm của việc triển khai mô hình AI cục bộ
- So sánh với các giải pháp lưu trữ AI dựa trên đám mây
Thiết lập môi trường triển khai
- Cài đặt Ollama và các phụ thuộc cần thiết
- Cấu hình phần cứng và tăng tốc GPU
- Dockerizing Ollama cho các triển khai có thể mở rộng
Triển khai LLM với Ollama
- Tải và quản lý các mô hình AI
- Triển khai Llama 3, DeepSeek, Mistral và các mô hình khác
- Tạo API và điểm cuối để truy cập mô hình AI
Tối ưu hóa hiệu suất LLM
- Tinh chỉnh các mô hình để đạt hiệu quả
- Giảm độ trễ và cải thiện thời gian phản hồi
- Quản lý bộ nhớ và phân bổ tài nguyên
Tích hợp Ollama vào quy trình làm việc AI
- Kết nối Ollama với các ứng dụng và dịch vụ
- Tự động hóa các quy trình do AI điều khiển
- Sử dụng Ollama trong môi trường điện toán biên
Giám sát và bảo trì
- Theo dõi hiệu suất và các vấn đề gỡ lỗi
- Cập nhật và quản lý các mô hình AI
- Đảm bảo an ninh và tuân thủ trong triển khai AI
Mở rộng triển khai mô hình AI
- Thực hành tốt nhất để xử lý khối lượng công việc lớn
- Mở rộng quy mô Ollama cho các trường hợp sử dụng doanh nghiệp
- Những tiến bộ trong tương lai trong việc triển khai mô hình AI cục bộ
Tóm tắt và các bước tiếp theo
Yêu cầu
- Kinh nghiệm cơ bản với máy học và mô hình AI
- Sự quen thuộc với giao diện dòng lệnh và tập lệnh
- Hiểu biết về môi trường triển khai (cục bộ, biên, đám mây)
Khán giả
- Các kỹ sư AI tối ưu hóa việc triển khai AI cục bộ và trên nền tảng đám mây
- Các học viên ML triển khai và tinh chỉnh LLM
- DevOps chuyên gia quản lý tích hợp mô hình AI
Khóa học đào tạo mở cần có ít nhất 5 người tham gia.
Đẩy và Tối ưu hóa các Mô hình Ngôn ngữ lớn (LLMs) với Ollama Khóa Học Đào Tạo - Đặt chỗ
Đẩy và Tối ưu hóa các Mô hình Ngôn ngữ lớn (LLMs) với Ollama Khóa Học Đào Tạo - Yêu cầu thông tin
Đẩy và Tối ưu hóa các Mô hình Ngôn ngữ lớn (LLMs) với Ollama - Yêu cầu tư vấn
Yêu cầu tư vấn
Các khóa học sắp tới
Các khóa học liên quan
Kiểm Tra và Đánh Giá Mô Hình Ollama Nâng Cao
35 Giờ họcAdvanced Ollama Model Debugging & Evaluation là một khóa học sâu sắc tập trung vào việc chẩn đoán, kiểm tra và đo lường hành vi của mô hình khi chạy các triển khai Ollama địa phương hoặc riêng tư.
Đây là khóa học trực tiếp do giảng viên dẫn dắt (trực tuyến hoặc tại chỗ), được thiết kế cho các kỹ sư AI cấp cao, chuyên gia ML Ops và chuyên viên QA muốn đảm bảo tính đáng tin cậy, sự trung thực và sẵn sàng hoạt động của các mô hình Ollama trong sản xuất.
Sau khi hoàn thành khóa học này, các tham gia sẽ có thể:
- Thực hiện việc gỡ lỗi hệ thống các mô hình được Ollama host và tái tạo các chế độ thất bại một cách đáng tin cậy.
- Thiết kế và thực hiện các ống dẫn đánh giá bền vững với các chỉ số định lượng và định tính.
- Triển khai khả năng quan sát (logs, traces, metrics) để theo dõi sức khỏe và độ lệch của mô hình.
- Tự động hóa các kiểm tra, xác thực và kiểm tra hồi quy tích hợp vào các ống dẫn CI/CD.
Định dạng của Khóa Học
- Bài giảng tương tác và thảo luận.
- Các phòng thí nghiệm và bài tập gỡ lỗi thực tế sử dụng các triển khai Ollama.
- Các nghiên cứu trường hợp, các phiên giải quyết vấn đề nhóm và các workshop tự động hóa.
Tùy chọn Tùy chỉnh Khóa Học
- Để yêu cầu một khóa học tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Xây dựng các quy trình làm việc AI riêng tư với Ollama
14 Giờ họcKhóa đào tạo trực tiếp do giảng viên hướng dẫn này (trực tuyến hoặc tại nơi làm việc) nhắm đến các chuyên gia cấp cao muốn triển khai các quy trình làm việc dựa trên AI an toàn và hiệu quả bằng Ollama.
Sau khi hoàn thành khóa đào tạo, người tham gia sẽ có thể:
- Triển khai và cấu hình Ollama cho xử lý AI riêng tư.
- Tích hợp các mô hình AI vào quy trình làm việc an toàn của doanh nghiệp.
- Tối ưu hóa hiệu suất AI trong khi duy trì tính bảo mật dữ liệu.
- Tự động hóa các quy trình kinh doanh với khả năng AI tại chỗ.
- Đảm bảo tuân thủ các chính sách an ninh và quản lý của doanh nghiệp.
Tinh chỉnh và tùy chỉnh mô hình AI trên Ollama
14 Giờ họcKhóa đào tạo trực tiếp do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) nhằm vào các chuyên gia cấp cao muốn tinh chỉnh và tùy chỉnh mô hình AI trên Ollama để cải thiện hiệu suất và ứng dụng cụ thể cho từng lĩnh vực.
Cuối khóa học, người tham dự sẽ có thể:
- Thiết lập một môi trường hiệu quả để tinh chỉnh mô hình AI trên Ollama.
- Chuẩn bị dữ liệu cho việc tinh chỉnh giám sát và học tăng cường.
- Tối ưu hóa mô hình AI về hiệu suất, độ chính xác và hiệu quả.
- Triển khai các mô hình tùy chỉnh trong môi trường sản xuất.
- Đánh giá cải tiến mô hình và đảm bảo độ tin cậy.
Ứng dụng đa phương thức với Ollama
21 Giờ họcOllama là một nền tảng cho phép chạy và tinh chỉnh các mô hình ngôn ngữ và đa mô-đun lớn ở cục bộ.
Khóa học trực tiếp, trực tuyến hoặc trực tiếp (online hoặc onsite) này được hướng tới các kỹ sư ML cấp cao, các nhà nghiên cứu AI, và các nhà phát triển sản phẩm muốn xây dựng và triển khai các ứng dụng đa mô-đun với Ollama.
Sau khi hoàn thành khóa học, các tham gia sẽ có thể:
- Cài đặt và chạy các mô hình đa mô-đun với Ollama.
- Tích hợp các đầu vào văn bản, hình ảnh và âm thanh cho các ứng dụng thực tế.
- Xây dựng các hệ thống hiểu văn bản và tra hỏi hình ảnh.
- Phát triển các tác nhân đa mô-đun có khả năng suy luận giữa các mô-đun.
Định dạng của khóa học
- Bài giảng tương tác và thảo luận.
- Thực hành trực tiếp với các tập dữ liệu đa mô-đun thực tế.
- Thực hiện trực tiếp trong phòng thí nghiệm của các ống dẫn đa mô-đun sử dụng Ollama.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu một khóa học đào tạo tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Bắt Đầu với Ollama: Chạy Mô Hình AI Bản Địa
7 Giờ họcKhóa đào tạo trực tuyến hoặc tại chỗ do giáo viên hướng dẫn này (trực tuyến hoặc tại chỗ) nhằm vào các chuyên gia cấp bắt đầu muốn cài đặt, cấu hình và sử dụng Ollama để chạy mô hình AI trên máy tính bản địa của họ.
Cuối khóa học, người tham gia sẽ có thể:
- Hiểu rõ các nguyên tắc cơ bản của Ollama và khả năng của nó.
- Cài đặt Ollama để chạy mô hình AI bản địa.
- Triển khai và tương tác với LLMs bằng cách sử dụng Ollama.
- Tối ưu hóa hiệu suất và việc sử dụng tài nguyên cho các tác vụ AI.
- Khám phá các trường hợp sử dụng của việc triển khai AI bản địa trong các ngành khác nhau.
Ollama & Bảo mật Dữ liệu: Cách triển khai an toàn
14 Giờ họcOllama là một nền tảng cho phép chạy các mô hình ngôn ngữ lớn và đa mô-đun trên máy cục bộ trong khi hỗ trợ các chiến lược triển khai an toàn.
Khóa học này do giảng viên hướng dẫn trực tiếp (trực tuyến hoặc trực tiếp tại nơi) nhằm mục đích cho các chuyên gia trung cấp muốn triển khai Ollama với các biện pháp bảo mật dữ liệu và tuân thủ quy định mạnh mẽ.
Sau khi hoàn thành khóa học, các tham gia sẽ có thể:
- Triển khai Ollama an toàn trong các môi trường ảo hóa và trên-prem.
- Áp dụng các kỹ thuật bảo mật riêng tư để bảo vệ dữ liệu nhạy cảm.
- Thực hiện các biện pháp ghi nhật ký, giám sát và kiểm toán an toàn.
- Áp dụng kiểm soát truy cập dữ liệu phù hợp với các yêu cầu tuân thủ.
Định dạng của khóa học
- Bài giảng và thảo luận tương tác.
- Phòng thí nghiệm thực hành với các mẫu triển khai an toàn.
- Các nghiên cứu trường hợp và bài tập thực hành tập trung vào tuân thủ.
Các tùy chọn tùy chỉnh khóa học
- Để yêu cầu khóa học tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Ứng dụng Ollama trong Tài chính
14 Giờ họcOllama là một nền tảng nhẹ để chạy các mô hình ngôn ngữ lớn trên máy tính cục bộ.
Khóa đào tạo trực tiếp do giáo viên hướng dẫn (trực tuyến hoặc tại chỗ) này dành cho những người làm việc trong lĩnh vực tài chính và nhân viên IT có trình độ trung cấp, muốn triển khai, tùy chỉnh và vận hành các giải pháp AI dựa trên Ollama trong môi trường tài chính.
Bằng cách hoàn thành khóa đào tạo này, người tham gia sẽ đạt được các kỹ năng cần thiết để:
- Triển khai và cấu hình Ollama để sử dụng an toàn trong các hoạt động tài chính.
- Tích hợp các mô hình ngôn ngữ cục bộ vào quy trình phân tích và báo cáo.
- Chỉnh sửa mô hình để phù hợp với thuật ngữ và nhiệm vụ cụ thể trong lĩnh vực tài chính.
- Áp dụng các thực hành tốt nhất về bảo mật, quyền riêng tư và tuân thủ quy định.
Định dạng của khóa học
- Bài giảng tương tác và thảo luận.
- Bài tập thực hành dữ liệu tài chính.
- Triển khai các kịch bản tập trung vào tài chính trong phòng thí nghiệm trực tiếp.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu khóa đào tạo tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Ứng dụng Ollama trong Y tế
14 Giờ họcOllama là một nền tảng nhẹ nhàng để chạy các mô hình ngôn ngữ lớn trên máy tính cá nhân.
Khóa đào tạo trực tuyến hoặc tại chỗ do giảng viên hướng dẫn này nhằm vào các chuyên gia y tế và đội ngũ IT trung cấp muốn triển khai, tùy chỉnh và vận hành các giải pháp AI dựa trên Ollama trong môi trường lâm sàng và quản trị.
Sau khi hoàn thành khóa đào tạo này, người tham gia sẽ có thể:
- Cài đặt và cấu hình Ollama để sử dụng an toàn trong các môi trường y tế.
- Tích hợp các mô hình ngôn ngữ địa phương vào quy trình làm việc lâm sàng và quản trị.
- Tùy chỉnh các mô hình cho thuật ngữ và tác vụ cụ thể của y tế.
- Áp dụng các thực hành tốt nhất về quyền riêng tư, bảo mật và tuân thủ quy định.
Định dạng Khóa học
- Bài giảng tương tác và thảo luận.
- Mô phỏng thực hành và bài tập hướng dẫn.
- Thực hiện thực tế trong môi trường mô phỏng y tế được cách ly.
Tùy chỉnh Khóa học
- Để yêu cầu khóa đào tạo tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Ollama về AI Trách Nhiệm và Quản Lý
14 Giờ họcOllama là một nền tảng chạy các mô hình ngôn ngữ và đa phương thức lớn trực tiếp, hỗ trợ quản lý và thực hành AI có trách nhiệm.
Khóa đào tạo trực tiếp này (trực tuyến hoặc tại chỗ) hướng đến những chuyên gia có trình độ trung cấp đến cao cấp muốn triển khai công bằng, minh bạch và trách nhiệm trong các ứng dụng Ollama.
Đến cuối khóa đào tạo, các tham gia sẽ có thể:
- Áp dụng nguyên tắc AI có trách nhiệm trong các triển khai Ollama.
- Triển khai các chiến lược lọc nội dung và giảm thiểu sự thiên vị.
- Thiết kế các quy trình quản lý để cân bằng và kiểm toán AI.
- Xây dựng các khung quản lý và báo cáo tuân thủ quy định.
Định dạng của khóa học
- Bài giảng và thảo luận tương tác.
- Phòng thí nghiệm thiết kế quy trình quản lý thủ công.
- Các nghiên cứu trường hợp và các bài tập tập trung vào tuân thủ quy định.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu đào tạo tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Ollama Scaling & Infrastructure Optimization
21 Giờ họcOllama là một nền tảng cho việc chạy các mô hình ngôn ngữ và đa mô điệu lớn tại địa phương và theo quy mô.
Khóa học trực tiếp do giảng viên dẫn (trực tuyến hoặc tại chỗ) này được thiết kế cho các kỹ sư từ trung cấp đến cao cấp muốn mở rộng triển khai Ollama cho các môi trường đa người dùng, có khả năng xử lý cao và hiệu quả về chi phí.
Đến cuối khóa học, các tham gia sẽ có thể:
- Cấu hình Ollama cho các tác vụ phân tán và đa người dùng.
- Tối ưu phân bổ tài nguyên GPU và CPU.
- Thực hiện các chiến lược tự động mở rộng, xử lý lô và giảm độ trễ.
- Giữ an và tối ưu hóa cơ sở hạ tầng cho hiệu suất và hiệu quả chi phí.
Định dạng khóa học
- Bài giảng và thảo luận tương tác.
- Bài thực hành triển khai và mở rộng theo cách tay trong.
- Bài tập tối ưu hóa thực tế trong các môi trường trực tiếp.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu một khóa học tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.
Kỹ năng Prompt Engineering với Ollama
14 Giờ họcOllama là một nền tảng cho phép chạy các mô hình ngôn ngữ lớn và đa phương thức trên máy cục bộ.
Khóa học trực tiếp dẫn dắt này (trực tuyến hoặc trực tiếp tại địa điểm) được hướng đến các chuyên gia có trình độ trung cấp muốn nắm vững các kỹ thuật lập trình lời khuyến khích để tối ưu hóa kết quả của Ollama.
Sau khi hoàn thành khóa học, các thí sinh sẽ có thể:
- Thiết kế các lời khuyến khích hiệu quả cho nhiều trường hợp sử dụng khác nhau.
- Áp dụng các kỹ thuật như khởi động và cấu trúc tư duy theo chuỗi.
- Triển khai mẫu lời khuyến khích và chiến lược quản lý ngữ cảnh.
- Xây dựng các ống dẫn nhiều giai đoạn cho các quy trình phức tạp.
Định dạng của khóa học
- Bài giảng và thảo luận tương tác.
- Bài tập thực hành với thiết kế lời khuyến khích.
- Triển khai thực tế trong môi trường phòng thí nghiệm trực tiếp.
Tùy chọn tùy chỉnh khóa học
- Để yêu cầu khóa học tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.