KI-Modelle und Plattformen
AWS erweitert SageMaker HyperPod Slurm um verwaltete Cluster-Erweiterungen

Wichtige PunkteCluster-Erweiterungen verwandeln Knotensoftware in einen deklarierten Zustand, den…
Mehr anzeigen
- Cluster-Erweiterungen verwandeln Knotensoftware in einen deklarierten Zustand, den HyperPod kontinuierlich validiert und abgleicht.
- Administratoren können Einstellungen oder Erweiterungsversionen aktualisieren, ohne Knoten zu ersetzen oder Lifecycle-Skripte erneut auszuführen.
- Die Migration bestehender Cluster erfordert das manuelle Entfernen von skriptinstallierten Agenten während eines Wartungsfensters.
Amazon Web Services hat am 20. November 2026 verwaltete Cluster-Erweiterungen für Amazon SageMaker HyperPod Slurm eingeführt. Damit lässt sich Software auf laufenden Knoten über APIs oder die SageMaker-AI-Konsole deklarativ konfigurieren. Die ersten beiden Erweiterungen decken Beobachtbarkeit und Benutzerverwaltung einschließlich Verzeichnisintegration ab.
Die Einführung setzt bei dem Teil eines gemeinsam genutzten KI-Trainingsclusters an, der sich nach der Bereitstellung verändert. HyperPod hatte im Laufe des Jahres 2026 bereits eine API-gesteuerte Slurm-Konfiguration, eine AMI-basierte Knoteneinrichtung, kontinuierliche Bereitstellung, automatisches Topologiemanagement und umfassende Zustandsprüfungen ergänzt. Diese Funktionen verwalten die Definition, Kapazität, Netzwerktopologie und den Hardwarezustand des Clusters. Cluster-Erweiterungen übertragen denselben Ansatz auf die Knotensoftware, die sich mit den Anforderungen von Forschungsteams, den Überwachungsanforderungen und den Paketversionen verändert.
Sollzustand für Knotensoftware
Administratoren können die von AWS verwalteten Pakete über die Konsole, die AWS CLI oder ein SDK installieren, konfigurieren, aktualisieren und entfernen. HyperPod prüft die Einstellungen vor der Einführung anhand des Schemas der ausgewählten Erweiterungsversion und speichert die angeforderte Version und die Einstellungen als Sollzustand. Ein Agent auf dem Knoten wendet dann nur die Komponenten an, die für die jeweilige Knotenrolle erforderlich sind – auch auf Knoten, die durch Skalierung oder Austausch hinzugefügt werden.
Bei Aktualisierungen werden nur die geänderten Einstellungen übermittelt. HyperPod führt sie mit der gespeicherten Konfiguration zusammen und startet nur die betroffenen Komponenten neu, ohne Knoten auszutauschen oder Lifecycle-Skripte erneut auszuführen. Neue Erweiterungsversionen lassen sich auch ohne AMI-Aktualisierung installieren. Vor der Einführung prüft HyperPod die gespeicherten Einstellungen anhand des Schemas der neuen Version; Aktualisierungen sind nur auf eine neuere Version möglich.
Während der Einführung meldet jede Erweiterung den Status „Creating“ oder „Updating“. „Active“ wird angezeigt, wenn auf jedem Knoten die angeforderte Konfiguration ausgeführt wird und keine Probleme gemeldet wurden. „Degraded“ wird angezeigt, wenn Knoten ausfallen oder Probleme melden. DescribeClusterExtension fasst Probleme mit dem Zustand einzelner Knoten nach Ursache zusammen und gibt dazu einen Code, eine Meldung und die Anzahl der betroffenen Knoten an. HyperPod versucht, interne Fehler erneut zu beheben. Bei anderen Ursachen können Administratoren das Problem beheben und die betroffenen Knoten mit einem Aktualisierungsaufruf erneut bearbeiten lassen, der keine Konfigurationsänderungen enthält.
Beobachtbarkeit und Benutzerverwaltung
Die Erweiterung sagemaker-observability erfasst Metriken zu Knoten, GPUs, Elastic Fabric Adapter, Slurm-Aufträgen und Slurm-Clustern und sendet sie an Amazon CloudWatch oder Amazon Managed Service for Prometheus. Metrikkategorien, Erfassungsstufen und Erfassungsintervalle lassen sich konfigurieren. Auf den Knoten werden jeweils nur die für ihre Rolle relevanten Komponenten ausgeführt, etwa DCGM- und EFA-Exporter auf GPU-Knoten sowie Slurm-Cluster-Metriken auf dem Controller.
Ein optionaler Amazon-Managed-Grafana-Arbeitsbereich stellt vorgefertigte Dashboards für Cluster und Aufträge bereit. Diese verknüpfen den clusterweiten Zustand und den Slurm-Status mit Infrastrukturmetriken pro Knoten und der Ressourcennutzung einzelner Aufträge, darunter CPU, Arbeitsspeicher, GPU-Auslastung, Festplatten-E/A und NCCL-Daten.
Die Erweiterung sagemaker-user-management erstellt Linux-Benutzer und -Gruppen mit einheitlichen IDs auf allen Knoten, steuert den SSH-Zugriff und den passwortlosen sudo-Zugriff je nach Knotentyp und registriert Benutzer in der Slurm-Abrechnung. Konten können lokal definiert, über LDAPS aus Active Directory abgerufen oder auf beide Arten verwaltet werden; dazu zählen auch Verbindungen zu AWS Directory Service for Microsoft Active Directory. Neue und Ersatzknoten erhalten dieselbe Konfiguration. Administratoren können den Zugriff über die API überprüfen, statt sich bei jedem Knoten anzumelden.
Migration, Berechtigungen und Kosten
Cluster-Erweiterungen setzen einen HyperPod-Slurm-Cluster mit der HyperPod-AMI vom 2. November 2026 oder einer neueren Version voraus; außerdem muss die kontinuierliche Bereitstellung aktiviert sein. Da Erweiterungen Software mit Root-Rechten ausführen, stuft AWS Berechtigungen zum Erstellen, Aktualisieren und Löschen als Administratorberechtigungen ein und rät davon ab, sie der Cluster-Ausführungsrolle zu gewähren. Diese Rolle benötigt weiterhin Zugriff auf Metrikziele und Active-Directory-Geheimnisse. Für die Benutzerverwaltung ist ein gemeinsames Dateisystem für Home-Verzeichnisse erforderlich. Separate Erweiterungs-ARNs ermöglichen es Plattform- und Überwachungsteams, unterschiedliche Erweiterungen zu verwalten.
Bestehende Cluster können schrittweise migriert werden, wobei Skripte und Erweiterungen parallel genutzt werden. Dazu muss die Clustersoftware aktualisiert, die jeweilige Funktion in den Lifecycle-Skripten deaktiviert, während eines Wartungsfensters müssen die durch Skripte installierten Agenten manuell entfernt und die Erweiterung auf dem bereinigten Cluster erstellt werden. Jede Komponente sollte von genau einer Stelle verwaltet werden: Wird derselbe Exporter, Benutzer oder Dienst über beide Verfahren verwaltet, kann es zu Installations- oder Laufzeitkonflikten kommen. Benutzerdefinierte AMIs und Lifecycle-Skripte stehen weiterhin für organisationsspezifische Software zur Verfügung. Administratoren behalten den SSH-Zugriff und den direkten Konfigurationszugriff auf alle Knoten, einschließlich des Controllers.
Beide Erweiterungen sind in allen Regionen verfügbar, in denen SageMaker HyperPod unterstützt wird. Für Cluster-Erweiterungen fallen keine zusätzlichen Gebühren an; Kunden zahlen jedoch für die zugrunde liegenden Ressourcen wie CloudWatch, Amazon Managed Service for Prometheus und AWS Secrets Manager.
Für gemeinsam genutzte Foundation-Model-Cluster bedeutet das operativ, dass die gemeinsame Knotensoftware als deklarierter, kontinuierlich überprüfter Teil des Clusterzustands gilt und nicht länger aus einer Sammlung von Bereitstellungsskripten besteht. Das Entfernen der per Skript installierten Agenten ist der einzige manuelle, flottenweite Migrationsschritt; danach übernehmen neu hinzugefügte und als Ersatz bereitgestellte Knoten dieselben Erweiterungseinstellungen, während organisationsspezifische Tools weiterhin unter der Kontrolle des Clusterteams bleiben.












