Huấn luyện tinh chỉnh các Mô hình và Mô hình Ngôn Ngữ Lớn (LLMs) Khóa Học Đào Tạo

Giới thiệu về Fine-tuning

• Fine-tuning là gì?
• Các trường hợp sử dụng và lợi ích của fine-tuning
• Tổng quan về các mô hình đã huấn luyện trước và học chuyển đổi

Chuẩn bị cho Fine-tuning

• Thu thập và làm sạch bộ dữ liệu
• Hiểu yêu cầu dữ liệu cụ thể theo nhiệm vụ
• Phân tích dữ liệu thăm dò và xử lý trước

Kỹ thuật Fine-tuning

• Học chuyển đổi và trích xuất đặc trưng
• Fine-tuning các mô hình biến đổi với Hugging Face
• Fine-tuning cho các nhiệm vụ giám sát và không giám sát

Fine-tuning Các Mô hình Ngôn Ngữ Lớn (LLMs)

• Thích ứng LLMs cho các nhiệm vụ NLP (ví dụ: phân loại văn bản, tóm tắt)
• Huấn luyện LLMs với bộ dữ liệu tùy chỉnh
• Điều khiển hành vi LLM thông qua kỹ thuật điều khiển (prompt engineering)

Tối ưu hóa và Đánh giá

• Tinh chỉnh siêu tham số
• Đánh giá hiệu suất mô hình
• Giải quyết hiện tượng quá khớp (overfitting) và dưới khớp (underfitting)

Khả năng Mở rộng Hiệu suất Fine-tuning

• Fine-tuning trên các hệ thống phân tán
• Khai thác các giải pháp dựa trên đám mây để mở rộng
• Nghiên cứu điển hình: Các dự án fine-tuning quy mô lớn

Thực hành Tốt và Thách thức

• Thực hành tốt để thành công trong fine-tuning
• Các thách thức phổ biến và cách khắc phục
• Các cân nhắc về đạo đức trong việc fine-tuning các mô hình AI

Các Chủ đề Nâng cao (Tùy chọn)

• Fine-tuning các mô hình đa phương thức
• Học không có ví dụ (zero-shot) và học ít ví dụ (few-shot)
• Khám phá các kỹ thuật LoRA (Thích ứng Bậc thấp)

Tổng kết và Các Bước Tiếp theo