Đề cương khóa học
Giới thiệu về Học Sâu
- Học sâu là gì và khác biệt với học máy truyền thống như thế nào
- Các ứng dụng thực tế trong thị giác máy tính, xử lý ngôn ngữ tự nhiên và hơn nữa
- Tổng quan về hệ sinh thái học sâu: TensorFlow 2.x, Keras, PyTorch
- Thiết lập môi trường phát triển tăng tốc GPU
Cơ chế của Học Sâu
- Nơ-ron nhân tạo, hàm kích hoạt và các lớp mạng
- Truyền thuận và tính toán dự đoán
- Hàm mất mát cho các tác vụ phân loại và hồi quy
- Tối ưu hóa xuống gradient và lan truyền ngược
- Huấn luyện mạng nơ-ron đầu tiên trên tập dữ liệu MNIST
Mạng Nơ-ron Tích chập cho Thị giác Máy tính
- Nắm vững tích chập, bộ lọc và bản đồ đặc trưng
- Các lớp gộp (pooling) và giảm chiều dữ liệu
- Các kiến trúc CNN: LeNet, VGG và các khái niệm của ResNet
- Xây dựng và huấn luyện một CNN cho phân loại ảnh
- Hình ảnh hóa các đặc trưng đã học và kích hoạt trung gian
Tăng cường Dữ liệu và Cải thiện Độ chính xác Mô hình
- Tại sao tăng cường dữ liệu chống lại hiện tượng overfitting và cải thiện khả năng tổng quát hóa
- Biến đổi ảnh: xoay, lật, phóng to và cắt
- Xây dựng quy trình tăng cường với các lớp tiền xử lý của Keras
- Dropout, bình thường hóa batch (batch normalization) và các kỹ thuật chính quy hóa khác
- Giám sát quá trình huấn luyện bằng các chỉ số xác thực và dừng sớm (early stopping)
Học Chuyển giao với Mô hình Đã Huấn luyện Trước
- Nắm vững học chuyển giao và lý do tại sao nó hiệu quả
- Tải các mô hình đã huấn luyện trước từ Keras Applications (ResNet, EfficientNet, MobileNet)
- Trích xuất đặc trưng: đóng băng các lớp gốc và huấn luyện các bộ phân loại mới
- Hiệu chỉnh tinh: mở khóa có chọn lọc các lớp để thích ứng miền
- Đạt độ chính xác cao với lượng dữ liệu huấn luyện hạn chế
Mạng Hồi quy và Mô hình hóa Chuỗi
- Giới thiệu về dữ liệu chuỗi và phụ thuộc thời gian
- Mạng nơ-ron hồi quy (RNN) và vấn đề tiêu biến gradient
- Các tế bào LSTM và GRU cho phụ thuộc tầm dài
- Huấn luyện mô hình sinh văn bản theo cấp ký tự
- Nhúng từ (word embeddings) và lớp Embedding trong Keras
Cơ bản về Xử lý Ngôn ngữ Tự nhiên
- Tiền xử lý văn bản: tokenization, đệm (padding) và xây dựng từ vựng
- Xây dựng bộ phân loại văn bản bằng RNN và LSTM
- Các mô hình chuỗi-đến-chuỗi cho khái niệm dịch máy
- Cơ chế chú ý (attention) và vai trò của nó trong NLP hiện đại
- Thực hành NLP với các API xử lý văn bản TensorFlow 2.x
Dự án Tốt nghiệp: Chú thích Ảnh
- Kết hợp thị giác máy tính và xử lý ngôn ngữ tự nhiên trong kiến trúc đa phương thức
- Trích xuất đặc trưng ảnh bằng bộ mã hóa CNN đã huấn luyện trước
- Xây dựng bộ giải mã dựa trên LSTM cho việc sinh chú thích
- Quản lý nhiều lớp đầu vào trong API chức năng của Keras
- Huấn luyện và đánh giá quy trình chú thích cuối cùng
Các bước Tiếp theo và Tài nguyên
- Triển khai các mô hình đã huấn luyện bằng TensorFlow Serving
- Khám phá kiến trúc transformer và các mô hình ngôn ngữ lớn (LLM)
- Khóa học nâng cao NVIDIA DLI và lộ trình chứng nhận
- Tài nguyên cộng đồng, tập dữ liệu và ý tưởng dự án
Yêu cầu
- Kỹ năng lập trình Python cơ bản (hàm, vòng lặp, từ điển, mảng)
- Nắm bắt các khái niệm lập trình như biến, câu lệnh điều kiện và cấu trúc dữ liệu
- Không yêu cầu kinh nghiệm trước về học sâu hoặc học máy
Đối tượng
- Nhà phát triển và kỹ sư phần mềm chuyển đổi sang lĩnh vực trí tuệ nhân tạo và học máy
- Nhà phân tích dữ liệu và nhà khoa học dữ liệu mong muốn nâng cao kỹ năng học sâu
- Chuyên gia kỹ thuật muốn hiểu và ứng dụng các mô hình mạng nơ-ron
- Sinh viên và nhà nghiên cứu bắt đầu hành trình học sâu
Đánh giá (2)
Khóa đào tạo được tổ chức và lên kế hoạch tốt, và tôi đã ra về với kiến thức hệ thống hóa và cái nhìn tổng quan về các chủ đề chúng tôi đã xem xét
Magdalena - Samsung Electronics Polska Sp. z o.o.
Khóa học - Deep Learning with TensorFlow 2
Dịch thuật bằng máy
Tôi thực sự thích phần cuối khi chúng tôi dành thời gian để làm quen với CHAT GPT. Phòng học không được bố trí tốt cho hoạt động này - thay vì một bàn lớn, vài bàn nhỏ để chúng tôi có thể chia thành nhóm nhỏ và thảo luận sẽ giúp ích hơn nhiều.
Nola - Laramie County Community College
Khóa học - Artificial Intelligence (AI) Overview
Dịch thuật bằng máy