Cảm ơn bạn đã gửi yêu cầu! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Cảm ơn bạn đã gửi đặt chỗ! Một thành viên trong đội ngũ của chúng tôi sẽ liên hệ với bạn ngay lập tức.
Đề cương khóa học
Triển khai EXO Ngoại tuyến
- Sử dụng EXO_OFFLINE để ngăn chặn truy cập internet của thời gian chạy
- Tải trước các mô hình vào EXO_MODELS_READ_ONLY_DIRS từ các máy chủ phản chiếu nội bộ đáng tin cậy
- Xác minh tính toàn vẹn trọng số mô hình bằng tổng kiểm tra SHA-256 và thẻ mô hình đã ký
- Chạy EXO trong mạng cách ly (air-gapped) mà không phụ thuộc vào HuggingFace
Kiểm soát truy cập Bảng điều khiển và API
- Cài đặt và định cấu hình các proxy ngược (nginx, Caddy) với kết thúc TLS
- Thực thi kiểm soát truy cập dựa trên vai trò (RBAC) cho bảng điều khiển và REST API của EXO
- Sử dụng chuỗi khóa macOS hoặc Linux pass để lưu trữ bí mật cho xác thực API
- Hạn chế các điểm cuối quản trị viên đối với các dải IP nguồn cụ thể
Phân tách Cụm và Bảo mật Mạng
- Phân đoạn các cụm EXO bằng EXO_LIBP2P_NAMESPACE và VLAN
- Định cấu hình tường lửa máy chủ (tường lửa ứng dụng macOS, iptables, nftables) cho các cổng EXO
- Ngăn chặn khám phá thiết bị trái phép và tiêm nút giả mạo
- Mã hóa lưu lượng libp2p giữa các nút khi RDMA không khả dụng
Quản trị và Nguồn gốc Mô hình
- Xây dựng kho lưu trữ mô hình nội bộ với danh sách mô hình đã phê duyệt và siêu dữ liệu
- Đánh dấu và phiên bản hóa trọng số lượng tử hóa (4-bit, 8-bit) cùng với các điểm kiểm tra nguồn
- Thực thi chỉ các kho lưu trữ HuggingFace cụ thể hoặc tài sản nội bộ mới có thể được tải
- Tài liệu hóa lịch sử mô hình, điều khoản giấy phép và chính sách sử dụng chấp nhận
Đăng ký Kiểm toán và Tuân thủ
- Định cấu hình chuyển tiếp nhật ký EXO đến các hồ sơ kiểm toán bất biến (SIEM, lưu trữ WORM)
- Liên kết nhật ký cuộc gọi API với danh tính người dùng và dấu thời gian
- Chụp các sự kiện tạo, xóa phiên bản mô hình và yêu cầu suy luận
- Tạo báo cáo tuân thủ định kỳ cho các bên kiểm toán nội bộ và bên ngoài
Mô hình hóa mối đe dọa và Ứng phó sự cố
- Xác định các mối đe dọa: trích xuất dữ liệu qua kết xuất mô hình, tiêm lệnh gợi ý, rò rỉ kênh bên
- Thực thi quy trình giám sát lệnh gợi ý và lọc nội dung
- Xây dựng sổ tay ứng phó sự cố cho các kịch bản xâm phạm cụm
- Không bị tách các nút bị ảnh hưởng, bảo tồn nhật ký pháp y và xây dựng lại môi trường sạch
Bảo mật Vật lý và Ranh giới Phần cứng
- Bảo vệ các cổng Thunderbolt chống lại kết nối cáp RDMA trái phép
- Sử dụng các khu vực trú ẩn an toàn và xác minh phần cứng Apple Silicon khi áp dụng
- Kiểm soát truy cập vật lý vào Mac được kết cụm và bộ lưu trữ chia sẻ
- Tài liệu hóa vòng đời phần cứng và thủ tục khai tử
Các Cân nhắc Pháp lý
- Ánh xạ các triển khai EXO với các yêu cầu GDPR, HIPAA và SOC 2
- Duy trì vị trí dữ liệu bằng cách giữ suy luận tại chỗ
- Tài liệu hóa các rủi ro chuỗi cung ứng nhà cung cấp (MLX, EXO, trọng số mô hình)
- Sẵn sàng cho các khung quản trị AI như Điều 53 của Đạo luật AI EU
Yêu cầu
- Kinh nghiệm với EXO hoặc môi trường runtime LLM cục bộ khác
- Hiểu biết về quyền tệp hệ thống Unix và ACL mạng
- Quen thuộc với quản lý chứng chỉ TLS/SSL và các nguyên lý mã hóa cơ bản
Đối tượng
- Kỹ sư bảo mật
- Sĩ quan tuân thủ
- Quản trị viên cơ sở hạ tầng AI xử lý dữ liệu nhạy cảm
14 Giờ
Đánh giá (1)
Giảng viên có kiến thức xuất sắc về FortiGate và đã trình bày nội dung rất tốt. Cảm ơn nhiều đến Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Khóa học - FortiGate 7.4 Administration
Dịch thuật bằng máy
