Mô hình và nền tảng AI
AWS bổ sung tiện ích mở rộng cụm được quản lý cho SageMaker HyperPod Slurm

Điểm chínhCác tiện ích mở rộng của cụm biến phần mềm nút thành trạng thái được khai báo mà…
Xem thêm
- Các tiện ích mở rộng của cụm biến phần mềm nút thành trạng thái được khai báo mà HyperPod liên tục xác thực và điều chỉnh.
- Quản trị viên có thể cập nhật cài đặt hoặc phiên bản tiện ích mở rộng mà không cần thay thế nút hoặc chạy lại các tập lệnh vòng đời.
- Việc di chuyển các cụm hiện có đòi hỏi phải gỡ bỏ thủ công các tác nhân được cài đặt bằng tập lệnh trong một cửa sổ bảo trì.
Amazon Web Services ra mắt các tiện ích mở rộng cụm được quản lý cho Amazon SageMaker HyperPod Slurm vào ngày 20 tháng 11 năm 2026, đưa cấu hình khai báo vào phần mềm trên các nút đang chạy thông qua API hoặc bảng điều khiển SageMaker AI. Hai tiện ích mở rộng đầu tiên phục vụ khả năng quan sát và quản lý người dùng, bao gồm tích hợp thư mục.
Đợt ra mắt này giải quyết phần của một cụm huấn luyện AI dùng chung có thay đổi sau khi được cấp phát. Trong năm 2026, HyperPod đã bổ sung cấu hình Slurm dựa trên API, thiết lập nút bằng AMI, cấp phát liên tục, quản lý cấu trúc liên kết tự động và kiểm tra tình trạng chuyên sâu. Những tính năng đó quản lý định nghĩa, dung lượng, bố cục mạng và tình trạng phần cứng của cụm; các tiện ích mở rộng cụm áp dụng cách tiếp cận tương tự cho phần mềm trên nút, vốn thay đổi theo sự phát triển của các nhóm nghiên cứu, yêu cầu giám sát và phiên bản gói phần mềm.
Trạng thái mong muốn cho phần mềm trên nút
Quản trị viên có thể cài đặt, cấu hình, cập nhật và gỡ bỏ các gói do AWS quản lý thông qua bảng điều khiển, AWS CLI hoặc SDK. Trước khi triển khai, HyperPod xác thực các thiết lập theo lược đồ của phiên bản tiện ích mở rộng đã chọn, đồng thời ghi lại phiên bản và thiết lập được yêu cầu làm trạng thái mong muốn. Sau đó, tác tử trên nút chỉ áp dụng những thành phần cần thiết cho vai trò của từng nút, kể cả các nút được thêm vào khi mở rộng quy mô hoặc thay thế.
Khi cập nhật, chỉ cần gửi những thiết lập có thay đổi. HyperPod hợp nhất chúng vào cấu hình đã lưu và chỉ khởi động lại các thành phần bị ảnh hưởng, không thay thế nút hoặc chạy lại tập lệnh vòng đời. Cũng có thể cài đặt phiên bản tiện ích mở rộng mới mà không cần cập nhật AMI. Trước khi triển khai, HyperPod kiểm tra các thiết lập đã lưu theo lược đồ của phiên bản mới; việc nâng cấp chỉ diễn ra theo chiều tiến lên.
Trong quá trình triển khai, mỗi tiện ích mở rộng báo trạng thái Creating hoặc Updating; trạng thái chuyển thành Active khi mọi nút chạy cấu hình được yêu cầu mà không có sự cố nào được báo cáo, và thành Degraded khi nút gặp lỗi hoặc báo sự cố. DescribeClusterExtension nhóm các vấn đề về tình trạng ở cấp nút theo nguyên nhân, kèm mã, thông báo và số nút bị ảnh hưởng. HyperPod thử lại khi xảy ra lỗi nội bộ; với các nguyên nhân khác, quản trị viên có thể khắc phục rồi thử lại trên các nút bị ảnh hưởng bằng một lệnh gọi cập nhật không chứa thay đổi cấu hình.
Khả năng quan sát và quản lý người dùng
Tiện ích mở rộng sagemaker-observability thu thập số liệu về nút, GPU, Elastic Fabric Adapter, tác vụ Slurm và cụm Slurm, rồi gửi đến Amazon CloudWatch hoặc Amazon Managed Service for Prometheus. Có thể cấu hình danh mục, cấp độ và khoảng thời gian thu thập số liệu; mỗi nút chỉ chạy các thành phần phù hợp với vai trò của mình, chẳng hạn như các trình xuất DCGM và EFA trên nút GPU, cùng số liệu cụm Slurm trên nút điều khiển.
Không gian làm việc Amazon Managed Grafana tùy chọn bổ sung các bảng thông tin Clusters và Jobs được tạo sẵn. Các bảng này kết nối tình trạng toàn cụm và trạng thái Slurm với số liệu hạ tầng theo từng nút và mức sử dụng tài nguyên của từng tác vụ, bao gồm CPU, bộ nhớ, mức sử dụng GPU, hoạt động vào/ra của ổ đĩa và dữ liệu NCCL.
Tiện ích mở rộng sagemaker-user-management tạo người dùng và nhóm Linux với ID nhất quán trên các nút, kiểm soát quyền truy cập SSH và sudo không cần mật khẩu theo loại nút, đồng thời đăng ký người dùng vào hệ thống kế toán Slurm. Có thể khai báo tài khoản cục bộ, lấy tài khoản từ Active Directory qua LDAPS hoặc kết hợp cả hai, bao gồm kết nối với AWS Directory Service for Microsoft Active Directory. Các nút mới và nút thay thế nhận cùng cấu hình; quản trị viên có thể kiểm tra quyền truy cập qua API thay vì đăng nhập vào từng nút.
Di chuyển, quyền hạn và chi phí
Để sử dụng tiện ích mở rộng cụm, cần có cụm HyperPod Slurm chạy HyperPod AMI ngày 2 tháng 11 năm 2026 trở lên và đã bật tính năng cấp phát liên tục. Vì các tiện ích mở rộng chạy phần mềm với quyền root, AWS xem quyền tạo, cập nhật và xóa là quyền quản trị viên, đồng thời khuyến nghị không cấp các quyền này cho vai trò thực thi cụm. Vai trò đó vẫn cần quyền truy cập vào các đích nhận số liệu và thông tin bí mật của Active Directory; trong khi đó, tính năng quản lý người dùng yêu cầu hệ thống tệp dùng chung để lưu thư mục chính. ARN riêng cho từng tiện ích mở rộng cho phép nhóm nền tảng và nhóm giám sát phụ trách các tiện ích mở rộng khác nhau.
Các cụm hiện có có thể chuyển đổi từng khả năng một, trong khi tập lệnh và tiện ích mở rộng cùng hoạt động. Quy trình này yêu cầu cập nhật phần mềm cụm, tắt khả năng đó trong tập lệnh vòng đời, gỡ thủ công các tác tử được cài đặt bằng tập lệnh trong thời gian bảo trì, rồi tạo tiện ích mở rộng trên cụm đã dọn sạch. Mỗi thành phần cần có một bên phụ trách: quản lý cùng một trình xuất, người dùng hoặc dịch vụ bằng cả hai cơ chế có thể gây xung đột khi cài đặt hoặc trong quá trình chạy. AMI tùy chỉnh và tập lệnh vòng đời vẫn có thể được dùng cho phần mềm dành riêng cho tổ chức; quản trị viên vẫn giữ quyền truy cập SSH và quyền cấu hình trực tiếp trên mọi nút, kể cả nút điều khiển.
Cả hai tiện ích mở rộng đều có mặt tại tất cả các Khu vực hỗ trợ SageMaker HyperPod. Không tính thêm phí cho tiện ích mở rộng cụm, nhưng khách hàng vẫn phải trả phí cho các tài nguyên nền tảng như CloudWatch, Amazon Managed Service for Prometheus và AWS Secrets Manager.
Đối với các cụm mô hình nền tảng dùng chung, hệ quả về vận hành là phần mềm dùng chung trên các nút trở thành một phần được khai báo và kiểm tra liên tục trong trạng thái cụm, thay vì chỉ là tập hợp các tập lệnh cấp phát. Việc gỡ bỏ các tác nhân được cài đặt bằng tập lệnh là bước di chuyển thủ công duy nhất áp dụng trên toàn bộ cụm; sau đó, các nút được bổ sung khi mở rộng quy mô và các nút thay thế sẽ kế thừa cùng cấu hình tiện ích mở rộng, trong khi các công cụ đặc thù của tổ chức vẫn do nhóm phụ trách cụm kiểm soát.












