Modelli e piattaforme di IA
AWS aggiunge estensioni gestite del cluster a SageMaker HyperPod Slurm

Punti chiaveLe estensioni del cluster trasformano il software dei nodi in uno stato dichiarato che…
Vedi di più
- Le estensioni del cluster trasformano il software dei nodi in uno stato dichiarato che HyperPod convalida e riconcilia continuamente.
- Gli amministratori possono aggiornare le impostazioni o le versioni delle estensioni senza sostituire i nodi o rieseguire gli script del ciclo di vita.
- La migrazione dei cluster esistenti richiede la rimozione manuale degli agenti installati tramite script durante una finestra di manutenzione.
Amazon Web Services ha lanciato le estensioni gestite del cluster per Amazon SageMaker HyperPod Slurm il 20 novembre 2026, introducendo la configurazione dichiarativa del software sui nodi in esecuzione tramite API o console SageMaker AI. Le prime due estensioni riguardano l’osservabilità e la gestione degli utenti, inclusa l’integrazione con le directory.
Il lancio interviene sulla parte di un cluster condiviso per l’addestramento dell’IA che cambia dopo il provisioning. Nel corso del 2026, HyperPod aveva già introdotto la configurazione di Slurm tramite API, la configurazione dei nodi basata su AMI, il provisioning continuo, la gestione automatica della topologia e controlli approfonditi dello stato di salute. Queste funzionalità gestiscono la definizione del cluster, la capacità, la disposizione della rete e lo stato di salute dell’hardware; le estensioni del cluster applicano lo stesso approccio al software dei nodi, che cambia con l’evolversi dei team di ricerca, dei requisiti di monitoraggio e delle versioni dei pacchetti.
Stato desiderato del software dei nodi
Gli amministratori possono installare, configurare, aggiornare e rimuovere i pacchetti gestiti da AWS tramite la console, AWS CLI o un SDK. Prima del rilascio, HyperPod convalida le impostazioni rispetto allo schema della versione selezionata dell’estensione e registra la versione richiesta e le relative impostazioni come stato desiderato. Un agente sui nodi applica quindi solo i componenti richiesti dal ruolo di ciascun nodo, anche ai nodi aggiunti tramite scalabilità o sostituzione.
Gli aggiornamenti inviano solo le impostazioni che si desidera modificare. HyperPod le integra nella configurazione salvata e riavvia solo i componenti interessati, senza sostituire i nodi né eseguire di nuovo gli script del ciclo di vita. È inoltre possibile installare nuove versioni delle estensioni senza aggiornare l’AMI. Prima del rilascio, HyperPod verifica le impostazioni salvate rispetto allo schema della nuova versione; gli aggiornamenti procedono solo verso versioni successive.
Durante il rilascio, ogni estensione indica «In creazione» o «In aggiornamento»; passa ad «Attiva» quando tutti i nodi eseguono la configurazione richiesta senza problemi segnalati e a «Degradata» quando i nodi non funzionano o segnalano problemi. DescribeClusterExtension raggruppa per causa i problemi di stato dei singoli nodi, indicando un codice, un messaggio e il numero di nodi interessati. HyperPod riprova in caso di errori interni; per le altre cause, gli amministratori possono intervenire e riprovare sui nodi interessati con una chiamata di aggiornamento che non contenga modifiche alla configurazione.
Osservabilità e gestione degli utenti
L’estensione sagemaker-observability raccoglie metriche relative ai nodi, alle GPU, a Elastic Fabric Adapter, ai processi Slurm e al cluster Slurm, inviandole ad Amazon CloudWatch o ad Amazon Managed Service for Prometheus. È possibile configurare le categorie e i livelli delle metriche, nonché gli intervalli di raccolta; i nodi eseguono solo i componenti pertinenti al proprio ruolo, come gli esportatori DCGM ed EFA sui nodi GPU e le metriche del cluster Slurm sul controller.
Uno spazio di lavoro opzionale di Amazon Managed Grafana aggiunge dashboard preconfigurate per cluster e processi. Queste correlano lo stato di salute dell’intero cluster e lo stato di Slurm con le metriche dell’infrastruttura per singolo nodo e l’utilizzo delle risorse dei singoli processi, inclusi CPU, memoria, utilizzo della GPU, I/O del disco e dati NCCL.
L’estensione sagemaker-user-management crea utenti e gruppi Linux con ID coerenti su tutti i nodi, controlla l’accesso SSH e sudo senza password in base al tipo di nodo e registra gli utenti nel sistema di accounting di Slurm. Gli account possono essere definiti localmente, recuperati da Active Directory tramite LDAPS o gestiti con entrambe le modalità, anche collegandosi ad AWS Directory Service for Microsoft Active Directory. I nodi nuovi e quelli sostitutivi ricevono la stessa configurazione e gli amministratori possono verificare gli accessi tramite l’API, senza dover accedere a ogni nodo.
Migrazione, autorizzazioni e costi
Le estensioni del cluster richiedono un cluster HyperPod Slurm che utilizzi l’AMI di HyperPod del 2 novembre 2026 o una versione successiva, con il provisioning continuo abilitato. Poiché le estensioni eseguono software con privilegi di root, AWS considera le autorizzazioni di creazione, aggiornamento ed eliminazione come autorizzazioni di amministratore e sconsiglia di concederle al ruolo di esecuzione del cluster. Tale ruolo deve comunque poter accedere alle destinazioni delle metriche e ai segreti di Active Directory; inoltre, la gestione degli utenti richiede un file system condiviso per le directory home. ARN distinti per ciascuna estensione consentono ai team della piattaforma e del monitoraggio di gestire estensioni diverse.
I cluster esistenti possono migrare una funzionalità alla volta, facendo coesistere script ed estensioni. La procedura richiede di aggiornare il software del cluster, disabilitare la funzionalità corrispondente negli script del ciclo di vita, rimuovere manualmente gli agenti installati dagli script durante una finestra di manutenzione e creare l’estensione sul cluster ripulito. Ogni componente deve avere un solo responsabile: gestire lo stesso esportatore, utente o servizio con entrambi i metodi può causare conflitti di installazione o di esecuzione. Le AMI personalizzate e gli script del ciclo di vita restano disponibili per il software specifico dell’organizzazione e gli amministratori mantengono l’accesso SSH e la possibilità di configurare direttamente ogni nodo, incluso il controller.
Entrambe le estensioni sono disponibili in tutte le regioni in cui è supportato SageMaker HyperPod. Le estensioni del cluster non comportano costi aggiuntivi, ma i clienti pagano le risorse sottostanti, come CloudWatch, Amazon Managed Service for Prometheus e AWS Secrets Manager.
Per i cluster condivisi di modelli di fondazione, la conseguenza operativa è che il software comune dei nodi diventa una componente dichiarata e sottoposta a verifiche continue dello stato del cluster, anziché essere gestito tramite una raccolta di script di provisioning. Rimuovere gli agenti installati tramite script è l’unico passaggio manuale della migrazione che interessa l’intero parco; in seguito, i nodi aggiunti per aumentare la capacità e quelli sostitutivi ereditano le stesse impostazioni delle estensioni, mentre gli strumenti specifici dell’organizzazione restano sotto il controllo del team responsabile del cluster.












