Đề cương khóa học
Cơ bản của NiFi và Dòng dữ liệu
- Dữ liệu đang di chuyển so với dữ liệu tại chỗ: khái niệm và thách thức
- Kiến trúc NiFi: lõi, bộ điều khiển luồng, nguồn gốc, và thông báo
- Các thành phần chính: processor, kết nối, bộ điều khiển, và nguồn gốc
Trong bối cảnh Big Data và Tích hợp
- Vai trò của NiFi trong các hệ sinh thái Big Data (Hadoop, Kafka, lưu trữ đám mây)
- Tổng quan về HDFS, MapReduce, và các giải pháp hiện đại khác
- Các trường hợp sử dụng: nhập dữ liệu streaming, vận chuyển log, pipeline sự kiện
Cài đặt, Cấu hình & Thiết lập Cụm
- Cài đặt NiFi trên chế độ đơn node và cụm
- Cấu hình cụm: vai trò nút, Zookeeper, và cân tải
- Quản lý triển khai NiFi: sử dụng Ansible, Docker, hoặc Helm
Thiết kế và Quản lý Dòng dữ liệu
- Định tuyến, lọc, chia nhỏ, hợp nhất dòng dữ liệu
- Cấu hình processor (InvokeHTTP, QueryRecord, PutDatabaseRecord, v.v.)
- Xử lý schema, phong phú hóa, và biến đổi hoạt động
- Xử lý lỗi, mối quan hệ thử lại, và backpressure
Các Trường hợp Tích hợp
- Kết nối với cơ sở dữ liệu, hệ thống nhắn tin, REST APIs
- Streaming đến các hệ thống phân tích: Kafka, Elasticsearch, hoặc lưu trữ đám mây
- Tích hợp với Splunk, Prometheus, hoặc pipeline log
Giám sát, Phục hồi & Nguồn gốc
- Sử dụng UI của NiFi, chỉ số và visualizer nguồn gốc
- Thiết kế phục hồi tự động và xử lý lỗi êm dịu
- Sao lưu, phiên bản dòng dữ liệu, và quản lý thay đổi
Tối ưu hóa Hiệu suất & Tối ưu hóa
- Tiến hành điều chỉnh JVM, heap, thread pools, và các thông số cụm
- Tối ưu hóa thiết kế dòng dữ liệu để giảm thiểu cổ chai
- Cách ly tài nguyên, ưu tiên dòng dữ liệu, và kiểm soát throughput
Thực hành Tốt nhất & Quản lý
- Tài liệu dòng dữ liệu, tiêu chuẩn đặt tên, thiết kế mô-đun
- Bảo mật: TLS, xác thực, kiểm soát truy cập, mã hóa dữ liệu
- Quản lý thay đổi, phiên bản, quyền truy cập dựa trên vai trò, và lịch sử kiểm tra
Khắc phục Sự cố & Phản hồi Sự cố
- Các vấn đề phổ biến: deadlocks, rò rỉ bộ nhớ, lỗi processor
- Phân tích log, chẩn đoán lỗi và điều tra nguyên nhân gốc rễ
- Các chiến lược phục hồi và lùi dòng dữ liệu
Thực hành Phòng thí nghiệm: Triển khai Đường ống Dữ liệu Thực tế
- Xây dựng một dòng từ đầu đến cuối: nhập, biến đổi, giao hàng
- Triển khai xử lý lỗi, backpressure, và mở rộng
- Thử nghiệm hiệu suất và điều chỉnh đường ống dữ liệu
Tổng kết và Các Bước Tiếp theo
Yêu cầu
- Kinh nghiệm sử dụng dòng lệnh Linux
- Hiểu biết cơ bản về mạng và hệ thống dữ liệu
- Tiếp xúc với các khái niệm streaming dữ liệu hoặc ETL (Extract, Transform, Load)
Đối tượng
- Quản trị viên hệ thống
- Kỹ sư dữ liệu
- Lập trình viên
- Chuyên gia DevOps
Đánh giá (7)
Bài tập thực hành. Lớp học dự kiến kéo dài 5 ngày, nhưng 3 ngày đã giúp giải đáp nhiều câu hỏi mà tôi gặp phải khi làm việc với NiFi.
James - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy
Tôi nghĩ tốc độ giảng dạy của giáo viên rất tốt. Ông ấy không để ai bị bỏ lại phía sau với phương pháp giảng dạy của mình. Ông ấy rất hỗ trợ chúng tôi, những NGƯỜI MỚI BẮT ĐẦU, có thể chưa từng đảm nhận vai trò Quản trị Hệ thống hoặc Cơ sở hạ tầng trong sự nghiệp của mình, hoặc đã khôi phục lại những kỹ năng đó từ một giai đoạn trước đây của sự nghiệp.
Pamdrea Ivory - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy
Tôi thích phần thực hành. Nó giúp tôi ghi nhớ thông tin tốt hơn bằng cách hoàn thành các bài tập được cung cấp. Ngoài ra, khả năng tương tác của giảng viên với cả lớp đã khiến tôi cảm thấy thoải mái khi đặt câu hỏi về những điều mà tôi chưa rõ.
Leila - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy
Các trường hợp sử dụng và ví dụ về việc xây dựng luồng dữ liệu NiFi. Chúng tôi đã làm việc để giải quyết các vấn đề và bẫy phổ biến.
Nelson - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy
Tôi rất thích cấu trúc. Ngày đầu tiên, chúng tôi đã tìm hiểu về cơ bản của Nifi, các khái niệm, trường hợp sử dụng, v.v. Ngày thứ hai, chúng tôi đã áp dụng kiến thức từ ngày 1 bằng cách xây dựng các chuỗi xử lý để đáp ứng yêu cầu tình huống. Ngày thứ ba, chúng tôi được xem Nifi Registry và kiểm soát phiên bản, đa quyền truy cập, và tham gia phần hỏi đáp.
Adam - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy
Tôi thích cách anh ấy mô tả về Nifi và sức mạnh của nó. Bạn có thể sử dụng nó cho bất kỳ cơ sở hạ tầng nào và sử dụng nhiều ngôn ngữ lập trình khác nhau. Ngoài ra, tôi rất vui vì chúng ta đã giải quyết được vấn đề gia hạn chứng chỉ Nifi mà chúng ta đang gặp phải với Truststore.
Joachim Martin - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy
kiến thức chung và các khả năng mà khóa đào tạo cung cấp về công cụ.
Nalfis Tobar - BHG Financial
Khóa học - Apache NiFi for Administrators
Dịch thuật bằng máy