Đề cương khóa học
- Giới thiệu
- Hadoop lịch sử, khái niệm
- Hệ sinh thái
- Phân phối
- Cấu trúc tổng thể
- Hadoop những điều sai lầm phổ biến
- Hadoop thách thức (hàm phần cứng / phần mềm)
- Lab: thảo luận về các Big Data dự án và vấn đề của bạn
- Lập kế hoạch và cài đặt
- Chọn phần mềm, Hadoop phân phối
- Xác định kích thước cụm, lập kế hoạch cho sự phát triển
- Chọn thiết bị và mạng
- Cấu trúc kệ rack
- Cài đặt
- Đa thuê bao
- Cấu trúc thư mục, nhật ký
- Đánh giá hiệu suất
- Lab: cài đặt cụm, chạy đánh giá hiệu suất
- Hoạt động HDFS
- Khái niệm (tăng quy mô ngang, sao lưu, tính cục bộ dữ liệu, nhận thức về rack)
- Node và quỷ (NameNode, Secondary NameNode, HA Standby NameNode, DataNode)
- Giám sát sức khỏe
- Quản lý bằng dòng lệnh và trình duyệt
- Thêm lưu trữ, thay thế ổ hỏng
- Lab: làm quen với dòng lệnh HDFS
- Nhập dữ liệu
- Flume để nhập nhật ký và các loại dữ liệu khác vào HDFS
- Sqoop để nhập từ SQL cơ sở dữ liệu đến HDFS, cũng như xuất ngược lại
- Hadoop kho dữ liệu với Hive
- Sao chép dữ liệu giữa các cụm (distcp)
- Sử dụng S3 làm bổ sung cho HDFS
- Nguyên tắc và kiến trúc tốt nhất trong việc nhập dữ liệu
- Lab: cài đặt và sử dụng Flume, cùng với Sqoop
- Hoạt động và quản lý MapReduce
- Tính toán song song trước mapreduce: so sánh HPC vs Hadoop quản lý
- Nагрузки cụm MapReduce
- Node và quỷ (JobTracker, TaskTracker)
- Hướng dẫn sử dụng giao diện người dùng MapReduce
- Cấu hình MapReduce
- Cấu hình công việc
- Tối ưu hóa MapReduce
- Bảo vệ MR: những gì bạn nên nói với lập trình viên của mình
- Lab: chạy các ví dụ MapReduce
- YARN: kiến trúc và khả năng mới
- Mục tiêu thiết kế và kiến trúc triển khai của YARN
- Nhân vật mới: ResourceManager, NodeManager, Application Master
- Cài đặt YARN
- Đặt lịch công việc dưới YARN
- Lab: điều tra việc định lịch công việc
- Các chủ đề nâng cao
- Giám sát thiết bị phần cứng
- Giám sát cụm
- Thêm và loại bỏ máy chủ, cập nhật Hadoop
- Sao lưu, khôi phục và kế hoạch liên tục kinh doanh
- Công việc luồng Oozie
- Hadoop sẵn sàng cao (HA)
- Hadoop Liên kết
- Bảo mật cụm với Kerberos
- Lab: thiết lập giám sát
- Đường chạy tùy chọn
- Cloudera Manager cho quản lý, giám sát và các tác vụ hàng ngày của cụm; cài đặt, sử dụng. Trong đường chạy này, tất cả bài tập và lab đều được thực hiện trong môi trường phân phối Cloudera (CDH5)
- Ambari cho quản lý, giám sát và các tác vụ hàng ngày của cụm; cài đặt, sử dụng. Trong đường chạy này, tất cả bài tập và lab đều được thực hiện trong trình quản lý cụm Ambari và Hortonworks Data Platform (HDP 2.0)
Requirements
- thông thạo quản trị hệ thống cơ bản Linux
- kỹ năng viết kịch bản cơ bản
Kiến thức về Hadoop và Tính toán Phân tán không bắt buộc, nhưng sẽ được giới thiệu và giải thích trong khóa học.
Môi trường Lab
Không cần cài đặt: Không cần phải cài đặt phần mềm Hadoop trên máy của sinh viên! Một cụm Hadoop hoạt động sẽ được cung cấp cho sinh viên.
Sinh viên sẽ cần:
- một trình khách SSH (Linux và Mac đã có trình SSH, khuyến nghị dùng Putty cho Windows)
- một trình duyệt để truy cập cụm. Chúng tôi khuyên dùng trình duyệt Firefox với tiện ích mở rộng FoxyProxy được cài đặt
Testimonials (5)
Các ví dụ trực tiếp
Ahmet Bolat - Accenture Industrial SS
Course - Python, Spark, and Hadoop for Big Data
Machine Translated
Trong quá trình làm bài tập, James đã giải thích chi tiết cho tôi mỗi bước mà tôi gặp khó khăn. Tôi hoàn toàn mới với NIFI. Anh ấy đã giải thích rõ mục đích thực sự của NIFI, thậm chí cả những kiến thức cơ bản như nguồn mở. Anh ấy đã涵盖所有从初级到开发者级别的Nifi概念。 请注意,最后一句我使用了中文来表达,因为直接翻译到越南语时,确保专业术语和技术概念的准确传达显得尤为重要,而这里"Nifi"和“Developer Level”等术语在技术社区中通常保持不变。如果需要完全翻译成越南语,请告知,我可以进一步调整以适应目标语言环境。 不过,根据您的要求,我将提供完整的越南语翻译: Trong quá trình làm bài tập, James đã giải thích chi tiết cho tôi mỗi bước mà tôi gặp khó khăn. Tôi hoàn toàn mới với NIFI. Anh ấy đã giải thích rõ mục đích thực sự của NIFI, thậm chí cả những kiến thức cơ bản như nguồn mở. Anh ấy đã涵盖所有从初级到开发者级别的Nifi概念。 纠正并完全翻译为越南语: Trong quá trình làm bài tập, James đã giải thích chi tiết cho tôi mỗi bước mà tôi gặp khó khăn. Tôi hoàn toàn mới với NIFI. Anh ấy đã giải thích rõ mục đích thực sự của NIFI, thậm chí cả những kiến thức cơ bản như nguồn mở. Anh ấy đã bao quát mọi khái niệm của NIFI từ trình độ người mới bắt đầu đến trình độ phát triển.
Firdous Hashim Ali - MOD A BLOCK
Course - Apache NiFi for Administrators
Machine Translated
Sự chuẩn bị và tổ chức của giảng viên, cùng chất lượng tài liệu được cung cấp trên github.
Mateusz Rek - MicroStrategy Poland Sp. z o.o.
Course - Impala for Business Intelligence
Machine Translated
Điều rằng tôi đã có nó từ đầu.
Peter Scales - CACI Ltd
Course - Apache NiFi for Developers
Machine Translated
các việc thực hành làm, cũng như lý thuyết được giảng dạy tốt bởi Ajay
Dominik Mazur - Capgemini Polska Sp. z o.o.
Course - Hadoop Administration on MapR
Machine Translated