IBM Datastage For Administrators and Developers Khóa Học Đào Tạo

Khóa học này được dẫn dắt trực tiếp (online hoặc trực tiếp) được thiết kế cho các chuyên gia dữ liệu cấp cao muốn tối ưu hóa luồng xử lý dữ liệu, đảm bảo tính toàn vẹn của dữ liệu, và triển khai các giải pháp data lakehouse mạnh mẽ có thể xử lý các phức tạp của các ứng dụng big data hiện đại.

Đến cuối khóa học, các thí sinh sẽ có thể:

• Hiểu sâu về kiến trúc của Iceberg, bao gồm quản lý metadata và bố cục tập tin.
• Cấu hình Iceberg để đạt hiệu suất tối ưu trong các môi trường khác nhau và tích hợp nó với nhiều engine xử lý dữ liệu.
• Quản lý các bảng Iceberg lớn, thực hiện các thay đổi schema phức tạp và xử lý tiến hóa phân vùng.
• Thao tác kỹ thuật để tối ưu hóa hiệu suất truy vấn và hiệu suất quét dữ liệu cho các bộ dữ liệu lớn.
• Triển khai các cơ chế để đảm bảo tính nhất quán của dữ liệu, quản lý các bảo đảm giao dịch và xử lý sự cố trong môi trường phân tán.

Khóa học trực tiếp do giáo viên hướng dẫn (trực tuyến hoặc tại chỗ) này dành cho các chuyên gia dữ liệu cấp độ cơ bản muốn thu được kiến thức và kỹ năng cần thiết để có thể sử dụng Apache Iceberg để quản lý các bộ dữ liệu lớn, đảm bảo tính toàn vẹn dữ liệu, và tối ưu hóa quy trình xử lý dữ liệu.

Đến cuối khóa học, các thí sinh sẽ có thể:

• Hiểu rõ về kiến trúc, tính năng và lợi ích của Apache Iceberg.
• Học về các định dạng bảng, phân vùng, tiến hóa sơ đồ và khả năng du lịch thời gian.
• Cài đặt và cấu hình Apache Iceberg trong các môi trường khác nhau.
• Tạo, quản lý và thao tác với các bảng Iceberg.
• Hiểu quá trình di chuyển dữ liệu từ các định dạng bảng khác sang Iceberg.

khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn (ở Việt Nam) được thiết kế cho các nhà khoa học dữ liệu và kỹ sư cấp trung muốn sử dụng Google Colab và Apache Spark để xử lý và phân tích dữ liệu lớn.

Đến cuối khóa học, người tham gia sẽ có thể:

• Cài đặt môi trường dữ liệu lớn bằng cách sử dụng Google Colab và Spark.
• Xử lý và phân tích các tập dữ liệu lớn một cách hiệu quả với Apache Spark.
• Biểu đồ hóa dữ liệu lớn trong môi trường hợp tác.
• Tích hợp Apache Spark với công cụ dựa trên đám mây.

Apache Hadoop là khung làm việc phổ biến nhất để xử lý Big Data trên cụm máy chủ. Trong khóa học này kéo dài ba (có thể bốn) ngày, người tham gia sẽ được học về những lợi ích kinh doanh và các trường hợp sử dụng cho Hadoop và hệ sinh thái của nó, cách lập kế hoạch triển khai và mở rộng cụm, cách cài đặt, duy trì, giám sát, khắc phục sự cố và tối ưu hóa Hadoop. Họ cũng sẽ thực hành tải dữ liệu khối vào cụm, quen thuộc với các phân phối khác nhau của Hadoop, và thực hành cài đặt và quản lý công cụ trong hệ sinh thái Hadoop. Khóa học kết thúc bằng cuộc thảo luận về việc bảo mật cụm thông qua Kerberos.

“…Chất lượng tài liệu rất tốt và được trình bày chi tiết. Phòng Lab rất hữu ích và tổ chức tốt”
— Andrew Nguyen, Kỹ sư tích hợp DW chính, Microsoft Online Advertising

Đối tượng tham gia

Người quản trị Hadoop

Định dạng khóa học

Giảng dạy và thực hành lab, tỷ lệ khoảng 60% giảng dạy, 40% lab.

Apache NiFi là một nền tảng tích hợp dữ liệu và xử lý sự kiện dựa trên luồng mã nguồn mở. Nó cho phép tự động hóa, truyền tải dữ liệu thời gian thực, biến đổi và trung gian hệ thống giữa các hệ thống khác nhau, với giao diện người dùng web và kiểm soát chi tiết.

Khóa đào tạo trực tiếp do giảng viên hướng dẫn (trực tiếp hoặc từ xa) này dành cho quản trị viên và kỹ sư trung cấp có mong muốn triển khai, quản lý, bảo mật và tối ưu hóa các dòng dữ liệu NiFi trong môi trường sản xuất.

Sau khi kết thúc khóa học, người tham gia sẽ có thể:

• Cài đặt, cấu hình và bảo trì các cụm Apache NiFi.
• Thiết kế và quản lý dòng dữ liệu từ nhiều nguồn và đích.
• Triển khai tự động hóa luồng, định tuyến và biến đổi logic.
• Tối ưu hóa hiệu suất, giám sát hoạt động và khắc phục sự cố.

Định dạng của khóa học

• Bài giảng tương tác với thảo luận về kiến trúc thực tế.
• Thực hành phòng thí nghiệm: xây dựng, triển khai và quản lý dòng dữ liệu.
• Bài tập dựa trên kịch bản trong môi trường phòng thí nghiệm trực tiếp.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu khóa đào tạo được tùy chỉnh, vui lòng liên hệ với chúng tôi để sắp xếp.

Trong khóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Việt Nam, người tham gia sẽ học các nguyên tắc cơ bản của lập trình dựa trên luồng khi phát triển một số tiện ích mở rộng, thành phần và bộ xử lý bằng Apache NiFi.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Hiểu kiến trúc và khái niệm luồng dữ liệu của NiFi.
• Phát triển các tiện ích mở rộng bằng NiFi và API của bên thứ ba.
• Tự phát triển bộ xử lý Apache Nifi của riêng họ.
• Thu thập và xử lý dữ liệu thời gian thực từ các định dạng tệp và nguồn dữ liệu khác nhau và không phổ biến.

Khóa đào tạo này cung cấp một cái nhìn thực tiễn về việc xây dựng các quy trình xử lý dữ liệu có khả năng mở rộng và quy trình Học máy (Machine Learning) bằng PySpark. Người học sẽ tìm hiểu cách Apache Spark hoạt động trong các hệ sinh thái Dữ liệu lớn (Big Data) hiện đại cũng như cách xử lý hiệu quả các tập dữ liệu lớn dựa trên các nguyên lý tính toán phân tán.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các kỹ sư muốn thiết lập và triển khai hệ thống Apache Spark để xử lý lượng dữ liệu rất lớn.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Cài đặt và cấu hình Apache Spark.
• Xử lý và phân tích nhanh chóng các tập dữ liệu rất lớn.
• Hiểu sự khác biệt giữa Apache Spark và Hadoop MapReduce và khi nào nên sử dụng cái nào.
• Tích hợp Apache Spark với các công cụ học máy khác.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Việt Nam (trực tuyến hoặc tại chỗ) dành cho các quản trị viên hệ thống ở trình độ mới bắt đầu đến trung cấp, những người muốn triển khai, duy trì và tối ưu hóa các cụm Spark.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Cài đặt và cấu hình Apache Spark trong nhiều môi trường.
• Quản lý tài nguyên cụm và giám sát các ứng dụng Spark.
• Tối ưu hóa hiệu suất của các cụm Spark.
• Triển khai các biện pháp bảo mật và đảm bảo tính khả dụng cao.
• Gỡ lỗi và khắc phục các sự cố phổ biến của Spark.

Đường cong học tập của Apache Spark tăng chậm ở giai đoạn đầu, đòi hỏi rất nhiều nỗ lực để đạt được kết quả đầu tiên. Khóa học này hướng đến việc vượt qua phần khó khăn ban đầu đó. Sau khi hoàn thành khóa học này, người tham gia sẽ hiểu các kiến thức cơ bản về Apache Spark, phân biệt rõ ràng RDD và DataFrame, học API Python và Scala, hiểu về executors và tasks, v.v. Đồng thời, tuân thủ các phương pháp thực hành tốt nhất, khóa học tập trung mạnh vào triển khai trên nền tảng đám mây, Databricks và AWS. Người học cũng sẽ hiểu sự khác biệt giữa AWS EMR và AWS Glue, một trong những dịch vụ Spark mới nhất của AWS.

ĐỐI TƯỢNG:

Kỹ sư Dữ liệu, DevOps, Nhà khoa học Dữ liệu

Trong khóa đào tạo trực tiếp, do giảng viên hướng dẫn này tại Việt Nam, người tham gia sẽ học cách sử dụng Python và Spark cùng nhau để phân tích dữ liệu lớn thông qua các bài tập thực hành.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Học cách sử dụng Spark với Python để phân tích Big Data.
• Thực hành các bài tập mô phỏng các trường hợp thực tế.
• Sử dụng các công cụ và kỹ thuật khác nhau để phân tích dữ liệu lớn bằng PySpark.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển muốn sử dụng và tích hợp Spark, Hadoop và Python để xử lý, phân tích và chuyển đổi các tập dữ liệu lớn và phức tạp.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường cần thiết để bắt đầu xử lý dữ liệu lớn với Spark, Hadoop và Python.
• Hiểu các tính năng, thành phần cốt lõi và kiến trúc của Spark và Hadoop.
• Tìm hiểu cách tích hợp Spark, Hadoop và Python để xử lý dữ liệu lớn.
• Khám phá các công cụ trong hệ sinh thái Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka và Flume).
• Xây dựng các hệ thống khuyến nghị lọc cộng tác tương tự như Netflix, YouTube, Amazon, Spotify và Google.
• Sử dụng Apache Mahout để mở rộng quy mô các thuật toán học máy.

Spark SQL là mô-đun của Apache Spark để làm việc với dữ liệu có cấu trúc và không có cấu trúc. Spark SQL cung cấp thông tin về cấu trúc của dữ liệu cũng như các phép tính đang được thực hiện. Thông tin này có thể được sử dụng để tối ưu hóa. Hai cách sử dụng phổ biến của Spark SQL là:
- để thực thi các truy vấn SQL.
- để đọc dữ liệu từ cài đặt Hive hiện có.

Trong khóa đào tạo do giáo viên hướng dẫn này (trực tiếp hoặc từ xa), người tham gia sẽ học cách phân tích các loại tập dữ liệu khác nhau bằng Spark SQL.

Bằng cuối khóa đào tạo, người tham gia sẽ có thể:

• Cài đặt và cấu hình Spark SQL.
• Phân tích dữ liệu bằng Spark SQL.
• Truy vấn các tập dữ liệu ở định dạng khác nhau.
• Trực quan hóa dữ liệu và kết quả truy vấn.

Định dạng của khóa học

• Bài giảng tương tác và thảo luận.
• Nhiều bài tập và thực hành.
• Triển khai thực tế trong môi trường phòng thí nghiệm trực tiếp.

Tùy chọn tùy chỉnh khóa học

• Để yêu cầu một khóa đào tạo được tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.

Stratio là một nền tảng tập trung vào dữ liệu, tích hợp big data, AI và quản lý thành một giải pháp duy nhất. Các mô-đun Rocket và Trí Tuệ của nó cho phép khám phá dữ liệu nhanh chóng, chuyển đổi và phân tích nâng cao trong môi trường doanh nghiệp.

Khóa đào tạo trực tiếp này (trực tuyến hoặc tại chỗ) dành cho các chuyên gia dữ liệu trung cấp muốn sử dụng hiệu quả các mô-đun Rocket và Trí Tuệ trong Stratio với PySpark, tập trung vào cấu trúc lặp, hàm do người dùng định nghĩa và logic dữ liệu nâng cao.

Sau khóa đào tạo này, học viên sẽ có thể:

• Điều hướng và làm việc trong nền tảng Stratio bằng cách sử dụng các mô-đun Rocket và Trí Tuệ.
• Áp dụng PySpark trong bối cảnh nhập liệu, chuyển đổi và phân tích dữ liệu.
• Sử dụng các cấu trúc lặp và logic điều kiện để kiểm soát quy trình xử lý dữ liệu và tác vụ kỹ thuật đặc trưng.
• Tạo và quản lý hàm do người dùng định nghĩa (UDFs) cho các thao tác dữ liệu có thể tái sử dụng trong PySpark.

Định dạng Khóa Học

• Bài giảng tương tác và thảo luận.
• Nhiều bài tập và thực hành.
• Thực hiện trong môi trường lab trực tiếp.

Tùy chỉnh Khóa Học

• Để yêu cầu khóa đào tạo tùy chỉnh cho khóa học này, vui lòng liên hệ với chúng tôi để sắp xếp.