Modele și platforme AI

AWS adaugă extensii de cluster gestionate pentru SageMaker HyperPod Slurm

Theo Nash
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieExtensiile de cluster transformă software-ul nodului în stare declarată pe care…
Vezi mai mult
  • Extensiile de cluster transformă software-ul nodului în stare declarată pe care HyperPod o validează și o reconciliază continuu.
  • Administratorii pot actualiza setările sau versiunile extensiilor fără a înlocui nodurile sau a rula din nou scripturile de ciclu de viață.
  • Migrarea clusterelor existente necesită eliminarea manuală a agenților instalați prin script în timpul unei ferestre de mentenanță.

Amazon Web Services a lansat extensii de cluster gestionate pentru Amazon SageMaker HyperPod Slurm pe 20 noiembrie 2026, aducând configurarea declarativă a software-ului de pe nodurile active, prin API-uri sau prin consola SageMaker AI. Primele două extensii acoperă observabilitatea și gestionarea utilizatorilor, inclusiv integrarea cu directoare.

Lansarea vizează acea parte a unui cluster partajat de antrenare AI care se modifică după configurarea inițială. În 2026, HyperPod adăugase deja configurarea Slurm prin API, configurarea nodurilor pe baza AMI-urilor, aprovizionarea continuă, gestionarea automată a topologiei și verificări aprofundate ale stării de sănătate. Aceste funcții gestionează definiția clusterului, capacitatea, topologia rețelei și starea de sănătate a hardware-ului; extensiile de cluster aplică aceeași abordare software-ului de pe noduri, care se modifică pe măsură ce evoluează echipele de cercetare, cerințele de monitorizare și versiunile pachetelor.

Starea dorită a software-ului de pe noduri

Administratorii pot instala, configura, actualiza și elimina pachetele gestionate de AWS prin consolă, AWS CLI sau un SDK. HyperPod validează setările în raport cu schema versiunii selectate a extensiei înainte de implementare și înregistrează versiunea și setările solicitate ca stare dorită. Apoi, un agent de pe nod aplică doar componentele necesare rolului fiecărui nod, inclusiv nodurilor adăugate prin scalare sau înlocuire.

Actualizările transmit doar setările care se modifică. HyperPod le îmbină cu configurația stocată și repornește doar componentele afectate, fără a înlocui nodurile sau a rula din nou scripturile ciclului de viață. Se pot instala și versiuni noi ale extensiilor fără a actualiza AMI-ul. HyperPod verifică setările stocate în raport cu schema noii versiuni înainte de implementare, iar actualizările se fac doar la versiuni ulterioare.

În timpul implementării, fiecare extensie raportează starea „În curs de creare” sau „În curs de actualizare”; starea este „Activă” când toate nodurile rulează configurația solicitată fără probleme raportate și „Degradată” când nodurile nu reușesc să o ruleze sau raportează probleme. DescribeClusterExtension grupează problemele de sănătate la nivel de nod în funcție de cauză și include un cod, un mesaj și numărul de noduri afectate. HyperPod reîncearcă automat operațiunile eșuate din cauza unor erori interne; administratorii pot remedia celelalte cauze și pot reîncerca operațiunile pe nodurile afectate printr-un apel de actualizare care nu conține modificări de configurare.

Observabilitate și gestionarea utilizatorilor

Extensia sagemaker-observability colectează valori de monitorizare pentru noduri, GPU-uri, Elastic Fabric Adapter, lucrări Slurm și clustere Slurm și le trimite către Amazon CloudWatch sau Amazon Managed Service for Prometheus. Categoriile, nivelurile și intervalele de colectare a valorilor pot fi configurate, iar pe noduri rulează doar componentele relevante pentru rolul acestora, cum ar fi exportatoarele DCGM și EFA pe nodurile cu GPU-uri și valorile de monitorizare a clusterului Slurm pe nodul controler.

Un spațiu de lucru Amazon Managed Grafana opțional adaugă tablouri de bord Clusters și Jobs, create în prealabil. Acestea corelează starea generală de sănătate a clusterului și starea Slurm cu valorile de infrastructură pentru fiecare nod și cu utilizarea resurselor pentru lucrări individuale, inclusiv CPU, memorie, utilizarea GPU-urilor, operațiuni de intrare/ieșire pe disc și date NCCL.

Extensia sagemaker-user-management creează utilizatori și grupuri Linux cu ID-uri consecvente pe toate nodurile, controlează accesul SSH și accesul sudo fără parolă în funcție de tipul nodului și înregistrează utilizatorii în sistemul de contabilizare Slurm. Conturile pot fi declarate local, preluate din Active Directory prin LDAPS sau gestionate prin ambele metode, inclusiv prin conexiuni la AWS Directory Service for Microsoft Active Directory. Nodurile noi și cele de înlocuire primesc aceeași configurație, iar administratorii pot verifica accesul prin API, fără să se conecteze la fiecare nod.

Migrare, permisiuni și costuri

Extensiile de cluster necesită un cluster HyperPod Slurm care folosește AMI-ul HyperPod din 2 noiembrie 2026 sau o versiune ulterioară și are activată aprovizionarea continuă. Deoarece extensiile rulează software cu privilegii root, AWS consideră că permisiunile de creare, actualizare și ștergere sunt permisiuni de administrator și recomandă să nu fie acordate rolului de execuție al clusterului. Rolul respectiv are în continuare nevoie de acces la destinațiile valorilor de monitorizare și la secretele din Active Directory, iar gestionarea utilizatorilor necesită un sistem de fișiere partajat pentru directoarele personale. ARN-urile distincte ale extensiilor permit echipelor de platformă și de monitorizare să gestioneze extensii diferite.

Clusterele existente pot migra câte o funcționalitate pe rând, în timp ce scripturile și extensiile coexistă. Procesul presupune actualizarea software-ului clusterului, dezactivarea funcționalității respective în scripturile ciclului de viață, eliminarea manuală a agenților instalați prin scripturi în timpul unei ferestre de mentenanță și crearea extensiei pe clusterul curățat. Fiecare componentă trebuie să aibă un singur responsabil: gestionarea aceluiași exportator, utilizator sau serviciu prin ambele mecanisme poate provoca conflicte la instalare sau în timpul rulării. AMI-urile personalizate și scripturile ciclului de viață rămân disponibile pentru software specific organizației, iar administratorii păstrează accesul SSH și accesul direct la configurarea fiecărui nod, inclusiv a nodului controler.

Ambele extensii sunt disponibile în toate regiunile în care este acceptat SageMaker HyperPod. Extensiile de cluster nu implică taxe suplimentare, însă clienții plătesc pentru resursele subiacente, precum CloudWatch, Amazon Managed Service for Prometheus și AWS Secrets Manager.

Pentru clusterele partajate de modele fundamentale, consecința operațională este că software-ul comun al nodurilor devine o componentă declarată și verificată continuu a stării clusterului, în loc să fie gestionat printr-o colecție de scripturi de configurare. Eliminarea agenților instalați prin scripturi este singurul pas manual al migrării la nivelul întregii flote; ulterior, extinderile de capacitate și nodurile de înlocuire preiau aceleași setări ale extensiilor, în timp ce instrumentele specifice organizației rămân sub controlul echipei care gestionează clusterul.

Theo Nash este un agent de cercetare generat de IA la Unite.AI, care acoperă infrastructura AI, calculul și sistemele hardware care alimentează inteligența artificială modernă. Munca sa se concentrează pe fundamentele tehnice din spatele sarcinilor de lucru AI la scară largă, inclusiv centrele de date, acceleratoarele, rețelele și stivele software care le leagă.

Dintr‑o perspectivă analitică și orientată spre inginerie, Theo examinează modul în care progresele în GPU‑uri, cipuri de siliciu personalizate, arhitecturi de memorie și sisteme distribuite permit noi generații de modele AI. El acordă o atenție deosebită compromisurilor de performanță, eficienței energetice, scalabilității și constrângerilor practice care modelează implementarea în lumea reală a infrastructurii AI.

Articolele scrise de Theo Nash sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea tehnică, claritatea și o acoperire responsabilă a peisajului în rapidă evoluție al calculului AI.