AI-modellen en platforms
AWS voegt beheerde clusterextensies toe aan SageMaker HyperPod Slurm

Belangrijkste puntenCluster-extensies veranderen nodesoftware in een gedeclareerde toestand die HyperPod…
Meer weergeven
- Cluster-extensies veranderen nodesoftware in een gedeclareerde toestand die HyperPod continu valideert en met elkaar in overeenstemming brengt.
- Beheerders kunnen instellingen of extensieversies bijwerken zonder nodes te vervangen of lifecycle-scripts opnieuw uit te voeren.
- Het migreren van bestaande clusters vereist het handmatig verwijderen van door scripts geïnstalleerde agents tijdens een onderhoudsvenster.
Amazon Web Services heeft op 20 november 2026 beheerde clusterextensies voor Amazon SageMaker HyperPod Slurm gelanceerd. Daarmee wordt declaratieve configuratie van software op actieve nodes mogelijk via API’s of de SageMaker AI-console. De eerste twee extensies zijn bedoeld voor observeerbaarheid en gebruikersbeheer, inclusief integratie met directoryservices.
De lancering richt zich op het deel van een gedeeld AI-trainingscluster dat na de inrichting verandert. HyperPod had in 2026 al API-gestuurde Slurm-configuratie, node-inrichting op basis van AMI’s, continue provisioning, automatisch topologiebeheer en uitgebreide statuscontroles toegevoegd. Die functies beheren de definitie, capaciteit, netwerktopologie en hardwarestatus van het cluster; clusterextensies passen dezelfde aanpak toe op nodesoftware, die verandert naarmate onderzoeksteams, monitoringvereisten en pakketversies zich ontwikkelen.
Gewenste status van nodesoftware
Beheerders kunnen de door AWS beheerde pakketten installeren, configureren, bijwerken en verwijderen via de console, AWS CLI of een SDK. HyperPod valideert de instellingen aan de hand van het schema van de geselecteerde extensieversie voordat de uitrol begint, en legt de aangevraagde versie en instellingen vast als de gewenste status. Een node-agent past vervolgens alleen de componenten toe die nodig zijn voor de rol van elke node, ook op nodes die door opschaling of vervanging zijn toegevoegd.
Bij updates worden alleen de instellingen ingediend die veranderen. HyperPod voegt deze samen met de opgeslagen configuratie en start alleen de getroffen componenten opnieuw, zonder nodes te vervangen of levenscyclusscripts opnieuw uit te voeren. Nieuwe extensieversies kunnen ook worden geïnstalleerd zonder de AMI bij te werken. HyperPod controleert de opgeslagen instellingen aan de hand van het schema van de nieuwe versie voordat de uitrol begint; upgrades kunnen alleen vooruitgaan.
Elke extensie heeft tijdens de uitrol de status Creating of Updating, de status Active wanneer elke node de aangevraagde configuratie uitvoert zonder gemelde problemen, en de status Degraded wanneer nodes uitvallen of problemen melden. DescribeClusterExtension groepeert statusproblemen op nodeniveau op oorzaak en vermeldt daarbij een code, bericht en het aantal getroffen nodes. HyperPod probeert interne fouten opnieuw; beheerders kunnen andere oorzaken verhelpen en de getroffen nodes opnieuw proberen met een updateaanroep die geen configuratiewijzigingen bevat.
Observeerbaarheid en gebruikersbeheer
De extensie sagemaker-observability verzamelt meetgegevens over nodes, GPU’s, Elastic Fabric Adapter, Slurm-taken en Slurm-clusters en stuurt deze naar Amazon CloudWatch of Amazon Managed Service for Prometheus. Categorieën en niveaus van meetgegevens en verzamelintervallen zijn instelbaar. Nodes voeren alleen componenten uit die relevant zijn voor hun rol, zoals DCGM- en EFA-exporters op GPU-nodes en meetgegevens over het Slurm-cluster op de controller.
Een optionele Amazon Managed Grafana-werkruimte bevat vooraf gemaakte dashboards voor clusters en taken. Deze brengen de status van het cluster als geheel en de Slurm-status samen met infrastructuurmeetgegevens per node en het resourcegebruik van afzonderlijke taken, waaronder CPU, geheugen, GPU-gebruik, schijf-I/O en NCCL-gegevens.
De extensie sagemaker-user-management maakt Linux-gebruikers en -groepen aan met consistente ID’s op alle nodes, regelt SSH- en wachtwoordloze sudo-toegang per nodetype en registreert gebruikers bij de Slurm-accounting. Accounts kunnen lokaal worden gedefinieerd, via LDAPS uit Active Directory worden opgehaald, of op beide manieren worden beheerd; dit omvat ook verbindingen met AWS Directory Service for Microsoft Active Directory. Nieuwe en vervangende nodes krijgen dezelfde configuratie, en beheerders kunnen de toegangsrechten via de API controleren zonder op elke node in te loggen.
Migratie, machtigingen en kosten
Voor clusterextensies is een HyperPod Slurm-cluster vereist met HyperPod AMI van 2 november 2026 of later en ingeschakelde continue provisioning. Omdat extensies software als root uitvoeren, beschouwt AWS de machtigingen voor maken, bijwerken en verwijderen als beheerdersmachtigingen en raadt het af deze toe te kennen aan de uitvoeringsrol van het cluster. Die rol moet wel toegang hebben tot bestemmingen voor meetgegevens en geheimen van Active Directory; voor gebruikersbeheer is een gedeeld bestandssysteem voor thuismappen vereist. Afzonderlijke ARN’s voor extensies maken het mogelijk dat platform- en monitoringteams verschillende extensies beheren.
Bestaande clusters kunnen stapsgewijs, per functie, worden gemigreerd terwijl scripts en extensies naast elkaar blijven bestaan. Hiervoor moeten de clustersoftware worden bijgewerkt, de betreffende functie in levenscyclusscripts worden uitgeschakeld, door scripts geïnstalleerde agents tijdens een onderhoudsvenster handmatig worden verwijderd en de extensie op het opgeschoonde cluster worden aangemaakt. Elk onderdeel moet door één partij worden beheerd: hetzelfde exportprogramma, dezelfde gebruiker of dezelfde service via beide mechanismen beheren, kan installatie- of runtimeconflicten veroorzaken. Aangepaste AMI’s en levenscyclusscripts blijven beschikbaar voor organisatiespecifieke software, en beheerders behouden SSH- en directe configuratietoegang tot elke node, inclusief de controller.
Beide extensies zijn beschikbaar in alle regio’s waar SageMaker HyperPod wordt ondersteund. Aan clusterextensies zijn geen extra kosten verbonden, maar klanten betalen wel voor onderliggende resources zoals CloudWatch, Amazon Managed Service for Prometheus en AWS Secrets Manager.
Bij gedeelde clusters voor basismodellen betekent dit operationeel dat de software op gemeenschappelijke knooppunten een vastgelegd en voortdurend gecontroleerd onderdeel van de clusterstatus wordt, in plaats van een verzameling inrichtingsscripts. Het verwijderen van agents die met scripts zijn geïnstalleerd, is de enige handmatige migratiestap voor het hele clusterpark. Daarna nemen nieuwe knooppunten bij opschaling en vervangende knooppunten dezelfde extensie-instellingen over, terwijl teams voor clusters de controle houden over organisatiegebonden tools.












