Xử lý dữ liệu thời gian thực và lưu trữ dữ liệu streaming Khóa Học Đào Tạo

Khóa học này được dẫn dắt trực tiếp (online hoặc trực tiếp) được thiết kế cho các chuyên gia dữ liệu cấp cao muốn tối ưu hóa luồng xử lý dữ liệu, đảm bảo tính toàn vẹn của dữ liệu, và triển khai các giải pháp data lakehouse mạnh mẽ có thể xử lý các phức tạp của các ứng dụng big data hiện đại.

Đến cuối khóa học, các thí sinh sẽ có thể:

• Hiểu sâu về kiến trúc của Iceberg, bao gồm quản lý metadata và bố cục tập tin.
• Cấu hình Iceberg để đạt hiệu suất tối ưu trong các môi trường khác nhau và tích hợp nó với nhiều engine xử lý dữ liệu.
• Quản lý các bảng Iceberg lớn, thực hiện các thay đổi schema phức tạp và xử lý tiến hóa phân vùng.
• Thao tác kỹ thuật để tối ưu hóa hiệu suất truy vấn và hiệu suất quét dữ liệu cho các bộ dữ liệu lớn.
• Triển khai các cơ chế để đảm bảo tính nhất quán của dữ liệu, quản lý các bảo đảm giao dịch và xử lý sự cố trong môi trường phân tán.

Khóa học trực tiếp do giáo viên hướng dẫn (trực tuyến hoặc tại chỗ) này dành cho các chuyên gia dữ liệu cấp độ cơ bản muốn thu được kiến thức và kỹ năng cần thiết để có thể sử dụng Apache Iceberg để quản lý các bộ dữ liệu lớn, đảm bảo tính toàn vẹn dữ liệu, và tối ưu hóa quy trình xử lý dữ liệu.

Đến cuối khóa học, các thí sinh sẽ có thể:

• Hiểu rõ về kiến trúc, tính năng và lợi ích của Apache Iceberg.
• Học về các định dạng bảng, phân vùng, tiến hóa sơ đồ và khả năng du lịch thời gian.
• Cài đặt và cấu hình Apache Iceberg trong các môi trường khác nhau.
• Tạo, quản lý và thao tác với các bảng Iceberg.
• Hiểu quá trình di chuyển dữ liệu từ các định dạng bảng khác sang Iceberg.

khóa học trực tuyến hoặc tại chỗ này do giảng viên hướng dẫn (ở Việt Nam) được thiết kế cho các nhà khoa học dữ liệu và kỹ sư cấp trung muốn sử dụng Google Colab và Apache Spark để xử lý và phân tích dữ liệu lớn.

Đến cuối khóa học, người tham gia sẽ có thể:

• Cài đặt môi trường dữ liệu lớn bằng cách sử dụng Google Colab và Spark.
• Xử lý và phân tích các tập dữ liệu lớn một cách hiệu quả với Apache Spark.
• Biểu đồ hóa dữ liệu lớn trong môi trường hợp tác.
• Tích hợp Apache Spark với công cụ dựa trên đám mây.

Khóa đào tạo trực quan này (hỗ trợ trực tuyến hoặc tại chỗ) hướng đến các kỹ sư dữ liệu, nhà phân tích dữ liệu và chuyên gia dữ liệu muốn sử dụng Databricks và PySpark để xây dựng các đường ống xử lý dữ liệu có khả năng mở rộng và di chuyển các quy trình công việc SQL hiện có.

Khóa đào tạo này cung cấp một cái nhìn thực tiễn về việc xây dựng các quy trình xử lý dữ liệu có khả năng mở rộng và quy trình Học máy (Machine Learning) bằng PySpark. Người học sẽ tìm hiểu cách Apache Spark hoạt động trong các hệ sinh thái Dữ liệu lớn (Big Data) hiện đại cũng như cách xử lý hiệu quả các tập dữ liệu lớn dựa trên các nguyên lý tính toán phân tán.

Khóa học thực hành ba ngày này tập trung vào việc xây dựng và tối ưu hóa các tác vụ xử lý dữ liệu hiệu quả bằng cách sử dụng PySpark, Pandas và Polars trong môi trường dựa trên Kubernetes.

Người học sẽ phát triển sự hiểu biết thực tiễn về cách các ứng dụng Spark được thực thi trên Kubernetes và cách các quyết định cấu hình ở cấp độ ứng dụng ảnh hưởng đến hiệu suất, khả năng mở rộng, mức tiêu thụ tài nguyên và chi phí. Khóa học bao phủ các lĩnh vực tối ưu hóa chính, bao gồm kích thước executor, phân bổ bộ nhớ, phân bổ động, chiến lược phân vùng, hành vi shuffle, vấn đề tệp nhỏ và xử lý Parquet hiệu quả.

Khóa học cũng đề cập đến các thách thức phổ biến khi làm việc với Pandas, bao gồm các hạn chế về bộ nhớ và lỗi thiếu bộ nhớ, đồng thời giới thiệu Polars như một giải pháp thay thế hiệu năng cao cho một số tác vụ xử lý dữ liệu nhất định. Thông qua các bài tập thực hành, người học sẽ chẩn đoán các vấn đề về hiệu suất và bộ nhớ, so sánh các chiến lược cấu hình khác nhau và áp dụng các kỹ thuật tối ưu hóa vào các kịch bản ETL và học máy thực tế.

Trọng tâm xuyên suốt khóa học là ra quyết định thực tiễn: hiểu cách xác định điểm nghẽn, lựa chọn công cụ phù hợp, cấu hình Spark hiệu quả và cân bằng giữa hiệu suất với mức tiêu thụ tài nguyên hạ tầng và chi phí.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các kỹ sư muốn thiết lập và triển khai hệ thống Apache Spark để xử lý lượng dữ liệu rất lớn.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Cài đặt và cấu hình Apache Spark.
• Xử lý và phân tích nhanh chóng các tập dữ liệu rất lớn.
• Hiểu sự khác biệt giữa Apache Spark và Hadoop MapReduce và khi nào nên sử dụng cái nào.
• Tích hợp Apache Spark với các công cụ học máy khác.

Khóa đào tạo thực hành có giảng viên hướng dẫn tại Việt Nam (trực tuyến hoặc tại địa điểm) này hướng đến các quản trị viên hệ thống từ cấp độ sơ cấp đến trung cấp, những người muốn triển khai, duy trì và tối ưu hóa các cụm Spark.

Sau khi hoàn thành khóa đào tạo, người tham gia sẽ có khả năng:

• Cài đặt và cấu hình Apache Spark trong nhiều môi trường khác nhau.
• Quản lý tài nguyên cụm và theo dõi các ứng dụng Spark.
• Tối ưu hóa hiệu suất của các cụm Spark.
• Triển khai các biện pháp bảo mật và đảm bảo khả dụng cao.
• Gỡ lỗi và khắc phục các vấn đề chung về Spark.

Trong khóa đào tạo trực tiếp có giảng viên hướng dẫn tại Việt Nam, người học sẽ tìm hiểu cách sử dụng Python và Spark cùng nhau để phân tích dữ liệu lớn thông qua các bài tập thực hành thực tế.

Sau khi hoàn thành khóa đào tạo, người học sẽ có khả năng:

• Hiểu cách sử dụng Spark với Python để phân tích Dữ liệu lớn (Big Data).
• Thực hiện các bài tập mô phỏng các trường hợp thực tế.
• Sử dụng các công cụ và kỹ thuật khác nhau để phân tích dữ liệu lớn bằng PySpark.

Khóa đào tạo trực tiếp, do giảng viên hướng dẫn này (trực tuyến hoặc tại chỗ) dành cho các nhà phát triển muốn sử dụng và tích hợp Spark, Hadoop và Python để xử lý, phân tích và chuyển đổi các tập dữ liệu lớn và phức tạp.

Khi kết thúc khóa đào tạo này, người tham gia sẽ có thể:

• Thiết lập môi trường cần thiết để bắt đầu xử lý dữ liệu lớn với Spark, Hadoop và Python.
• Hiểu các tính năng, thành phần cốt lõi và kiến trúc của Spark và Hadoop.
• Tìm hiểu cách tích hợp Spark, Hadoop và Python để xử lý dữ liệu lớn.
• Khám phá các công cụ trong hệ sinh thái Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka và Flume).
• Xây dựng các hệ thống khuyến nghị lọc cộng tác tương tự như Netflix, YouTube, Amazon, Spotify và Google.
• Sử dụng Apache Mahout để mở rộng quy mô các thuật toán học máy.