Đề cương khóa học
I. Tổng quan về công nghệ Lustre
1. Tổng quan về công nghệ Lustre
- Giới thiệu về hệ thống tệp song song và yêu cầu lưu trữ HPC
- Vai trò của Lustre trong các môi trường tính toán hiệu năng cao
- Sự phát triển và kiến trúc của Lustre
- So sánh với các hệ thống tệp mạng và phân tán truyền thống
- Các kịch bản triển khai Lustre phổ biến
2. Tính năng và khả năng của Lustre
- I/O song song có thông lượng cao
- Khả năng mở rộng cho các môi trường tính toán quy mô lớn
- Khái niệm tách biệt dữ liệu và dữ liệu mô tả (metadata)
- Đặc điểm và hạn chế về hiệu năng
- Tích hợp với các cụm HPC và các tác vụ khoa học
II. Kiến trúc và các thành phần cốt lõi của Lustre
1. Kiến trúc hệ thống Lustre
- Hiểu về kiến trúc máy khách - máy chủ Lustre
- Tổng quan về các thành phần của Lustre:
- Metadata Server (MDS)
- Metadata Target (MDT)
- Object Storage Server (OSS)
- Object Storage Target (OST)
- Các máy khách Lustre
2. Các khái niệm quản lý dữ liệu của Lustre
- Khái niệm chia sọc tệp (striping) và nguyên tắc lưu trữ đối tượng
- Các thao tác trên dữ liệu mô tả (metadata)
- Chiến lược đặt dữ liệu
- Tổ chức lưu trữ logic
III. Quy hoạch phần cứng và chuẩn bị môi trường
1. Thiết kế cơ sở hạ tầng lưu trữ Lustre
- Chọn các thành phần phần cứng
- Yêu cầu đối với máy chủ lưu trữ
- Công nghệ đĩa và các yếu tố cân nhắc về RAID
- Quy hoạch cơ sở hạ tầng mạng
- Quy hoạch dung lượng và hiệu năng
2. Chuẩn bị môi trường hoạt động
- Các hệ điều hành được hỗ trợ
- Yêu cầu về kernel và trình điều khiển
- Yêu cầu cấu hình mạng
- Chuẩn bị máy chủ và máy khách
IV. Cài đặt và cấu hình Lustre
1. Quy trình cài đặt Lustre
- Cài đặt các gói phần mềm Lustre
- Cấu hình kho phần mềm (repositories) và các phụ thuộc
- Chuẩn bị các nút máy chủ và máy khách
- Khởi tạo các dịch vụ Lustre
2. Tạo hệ thống tệp Lustre
- Định dạng các đích lưu trữ dữ liệu mô tả và đích lưu trữ đối tượng
- Cấu hình các tham số hệ thống tệp
- Đính kết (mount) các máy khách Lustre
- Đánh giá hiệu lực cài đặt
V. Quản lý mạng Lustre
1. Kiến trúc mạng Lustre
- Tổng quan về LNet (Lustre Networking)
- Các công nghệ mạng được hỗ trợ
- Cấu hình các giao diện mạng
- Quản lý nhiều đường dẫn mạng
2. Tối ưu hóa hiệu năng mạng
- Chiến lược điều chỉnh mạng
- Các yếu tố cân nhắc về băng thông và độ trễ
- Khắc phục sự cố truyền thông mạng
VI. Bố cục tệp, quản lý lưu trữ và quản trị dung lượng
1. Quản lý bố cục tệp
- Hiểu về khái niệm chia sọc (striping)
- Cấu hình số lượng sọc, kích thước sọc và vị trí đặt
- Tối ưu hóa bố cục cho các tác vụ
2. Quản lý dung lượng lưu trữ
- Giám sát mức sử dụng OST
- Cân bằng việc sử dụng lưu trữ
- Quản lý các cụm lưu trữ (storage pools)
- Mở rộng dung lượng Lustre
VII. Quản lý hiệu năng I/O của Lustre
1. Hiểu về các thao tác I/O của Lustre
- Khái niệm I/O song song
- Hiệu năng dữ liệu mô tả so với dữ liệu
- Bộ nhớ đệm phía máy khách (caching)
- Hoạt động I/O và đặc điểm tác vụ
2. Kỹ thuật tối ưu hóa hiệu năng
- Điều chỉnh cấu hình sọc
- Tối ưu hóa các tác vụ ứng dụng
- Cải thiện hiệu năng dữ liệu mô tả
- Giảm thiểu các nút thắt cổ chai I/O
VIII. Bảo mật và quản lý quyền truy cập Lustre
1. Bảo vệ môi trường Lustre
- Quản lý người dùng và nhóm
- Các khái niệm xác thực
- Các yếu tố cân nhắc về bảo mật mạng
- Bảo vệ quyền truy cập dữ liệu
2. Quản lý kiểm soát truy cập
- Quyền tệp
- Cấu hình ACL
- Các thực hành tốt nhất về bảo mật
IX. Quản lý hạn mức (quotas) và kiểm soát tài nguyên
1. Quản lý hạn mức Lustre
- Hiểu về hạn mức người dùng và nhóm
- Cấu hình cài đặt hạn mức
- Giám sát việc sử dụng hạn mức
- Xử lý các vi phạm hạn mức
2. Quản trị dung lượng
- Quản lý mức tiêu thụ lưu trữ
- Quy hoạch phân bổ tài nguyên
X. Khả dụng cao và độ tin cậy
1. Thiết kế hệ thống Lustre có khả dụng cao
- Các khái niệm về khả dụng cao
- Kiến trúc chuyển đổi lỗi (failover)
- Sự dư thừa của máy chủ dữ liệu mô tả
- Cơ chế phục hồi dịch vụ
2. Giám sát sức khỏe hệ thống
- Phát hiện các sự cố
- Quản lý các trạng thái suy giảm
- Quy trình phục hồi
XI. Giám sát, đo lường hiệu năng và phân tích
1. Các công cụ giám sát Lustre
- Giám sát hiệu năng hệ thống
- Kiểm tra sức khỏe máy chủ và máy khách
- Thu thập các thống kê vận hành
- Xác định các nút thắt cổ chai
2. Đo lường hiệu năng Lustre
- Các nguyên tắc kiểm tra hiệu năng
- Các công cụ và phương pháp luận đo lường
- Đo lường thông lượng và độ trễ
- Giải thích kết quả đo lường
XII. Sao lưu, khôi phục và bảo vệ dữ liệu
1. Chiến lược sao lưu cho Lustre
- Các yếu tố cân nhắc khi lập kế hoạch sao lưu
- Bảo vệ dữ liệu mô tả và dữ liệu người dùng
- Các khái niệm về snapshot và nhân bản (replication)
2. Các thao tác khôi phục
- Khôi phục các dịch vụ Lustre
- Khôi phục sau sự cố
- Đánh giá tính toàn vẹn dữ liệu
XIII. Nâng cấp và bảo trì Lustre
1. Quy hoạch nâng cấp Lustre
- Chuẩn bị môi trường nâng cấp
- Các yếu tố cân nhắc về tương thích
- Quy trình nâng cấp
2. Bảo trì hệ thống
- Áp dụng các bản vá (patches)
- Quản lý các thay đổi cấu hình
- Giảm thiểu thời gian ngừng hoạt động
XIV. Khắc phục sự cố Lustre trong môi trường sản xuất
1. Phương pháp luận khắc phục sự cố
- Hiểu về các nhật ký Lustre
- Xác định các mô hình lỗi phổ biến
- Các lệnh và công cụ chẩn đoán
2. Các sự cố Lustre thường gặp
- Sự cố truyền thông mạng
- Vấn đề hiệu năng dữ liệu mô tả
- Sự cố OST
- Vấn đề đính kết (mount) của máy khách
- Sự suy giảm hiệu năng
XV. Hội thảo tổng kết và tóm tắt khóa học
1. Bài tập quản trị Lustre từ đầu đến cuối
- Rà soát thiết kế kiến trúc
- Triển khai và cấu hình Lustre
- Giám sát hiệu năng hệ thống
- Khắc phục sự cố vận hành
2. Tóm tắt và các thực hành tốt nhất
- Các khái niệm quản trị chính
- Khuyến nghị triển khai trong môi trường sản xuất
- Danh sách kiểm tra tối ưu hóa hiệu năng
- Hỏi đáp và rà soát kiến thức
Yêu cầu
- Hiểu biết về các khái niệm lưu trữ
Đối tượng học viên
- Quản trị viên hệ thống
- Quản trị viên mạng
- Kỹ sư kiến trúc hệ thống
- Đội phát triển hệ thống
Đánh giá (3)
Tyler rất am hiểu và đã chia sẻ kinh nghiệm quý báu của mình về quản trị Lustre với chúng tôi.
Zhenping Liu
Khóa học - Lustre File System for Admins
Dịch thuật bằng máy
Kiến thức thực tế của Tyler thật ấn tượng. Chuyên môn của Tyler đã thể hiện rõ qua khóa đào tạo. Ông có thể chia sẻ nhiều phương pháp hay và lời khuyên dựa trên kinh nghiệm nhiều năm về chủ đề này. Rất hữu ích khi có một giảng viên đang tích cực quản lý những gì ông đang dạy cho chúng ta. Sự chân thành, cởi mở và khiêm tốn của ông đã tạo nên một buổi đào tạo hiệu quả.
Douglas Benjamin - Brookhaven National Laboratory
Khóa học - Lustre File System for Admins
Dịch thuật bằng máy
Thật tuyệt vời khi Richard có thể điều chỉnh và cá nhân hóa toàn bộ loạt khóa học. Tôi đã có một khoảng thời gian rất vui vẻ và đã thu thập được rất nhiều ghi chú về những thứ cần đọc trong tương lai.
Jon Marshall
Khóa học - Lustre File System for Admins
Dịch thuật bằng máy