AI-modeller och plattformar

AWS lägger till hanterade klustertillägg i SageMaker HyperPod Slurm

Theo Nash
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterKlustertillägg omvandlar nodprogramvara till ett deklarerat tillstånd som HyperPod…
Visa mer
  • Klustertillägg omvandlar nodprogramvara till ett deklarerat tillstånd som HyperPod kontinuerligt validerar och stämmer av.
  • Administratörer kan uppdatera inställningar eller tilläggsversioner utan att byta ut noder eller köra livscykelskript igen.
  • Migrering av befintliga kluster kräver att skriptinstallerade agenter tas bort manuellt under ett underhållsfönster.

Amazon Web Services lanserade hanterade klustertillägg för Amazon SageMaker HyperPod Slurm den 20 november 2026. Det innebär att programvara på noder som redan körs kan konfigureras deklarativt via API:er eller SageMaker AI-konsolen. De två första tilläggen omfattar observerbarhet och användarhantering, inklusive katalogintegration.

Lanseringen hanterar den del av ett delat AI-träningskluster som förändras efter etableringen. Under 2026 hade HyperPod redan lagt till API-styrd Slurm-konfiguration, nodkonfiguration baserad på AMI:er, kontinuerlig etablering, automatisk topologihantering och ingående hälsokontroller. Dessa funktioner hanterar klustrets definition, kapacitet, nätverkslayout och maskinvaruhälsa. Klustertillägg tillämpar samma arbetssätt på nodprogramvara, som förändras i takt med att forskargrupper, övervakningskrav och paketversioner utvecklas.

Önskat tillstånd för nodprogramvara

Administratörer kan installera, konfigurera, uppdatera och ta bort de AWS-hanterade paketen via konsolen, AWS CLI eller ett SDK. Innan utrullningen validerar HyperPod inställningarna mot schemat för den valda tilläggsversionen och registrerar den begärda versionen och inställningarna som önskat tillstånd. Därefter tillämpar en nodagent endast de komponenter som krävs för varje nods roll, även på noder som tillkommer genom skalning eller ersättning.

Vid uppdateringar skickas endast de inställningar som ändras in. HyperPod sammanfogar dem med den lagrade konfigurationen och startar endast om berörda komponenter, utan att ersätta noder eller köra livscykelskript på nytt. Nya tilläggsversioner kan också installeras utan att AMI:n uppdateras. Före utrullningen kontrollerar HyperPod de lagrade inställningarna mot schemat för den nya versionen, och uppgraderingar sker endast framåt.

Varje tillägg rapporterar Skapas eller Uppdateras under utrullningen, Aktivt när alla noder kör den begärda konfigurationen utan rapporterade problem och Degraderat när noder misslyckas eller rapporterar problem. DescribeClusterExtension grupperar hälsoproblem på nodnivå efter orsak och anger en kod, ett meddelande och antalet berörda noder. HyperPod försöker igen vid interna fel. Administratörer kan åtgärda andra orsaker och försöka igen på berörda noder genom ett uppdateringsanrop utan ändringar i konfigurationen.

Observerbarhet och användarhantering

Tillägget sagemaker-observability samlar in mätvärden för noder, GPU:er, Elastic Fabric Adapter, Slurm-jobb och Slurm-kluster och skickar dem till Amazon CloudWatch eller Amazon Managed Service for Prometheus. Kategorier, nivåer och insamlingsintervall för mätvärdena kan konfigureras, och noderna kör endast komponenter som är relevanta för deras roller, till exempel DCGM- och EFA-exportörer på GPU-noder samt mätvärden för Slrum-klustret på styrenheten.

En valfri Amazon Managed Grafana-arbetsyta ger tillgång till förskapade instrumentpaneler för kluster och jobb. De kopplar samman hälsotillstånd och Slurm-status för hela klustret med infrastrukturmätvärden per nod och resursanvändning för enskilda jobb, däribland processoranvändning, minne, GPU-utnyttjande, disk-I/O och NCCL-data.

Tillägget sagemaker-user-management skapar Linux-användare och -grupper med enhetliga ID:n på alla noder, styr SSH-åtkomst och lösenordsfri sudo-åtkomst efter nodtyp samt registrerar användarna i Slrums redovisningssystem. Konton kan definieras lokalt, hämtas från Active Directory via LDAPS eller hanteras på båda sätten, även genom anslutningar till AWS Directory Service for Microsoft Active Directory. Nya noder och ersättningsnoder får samma konfiguration, och administratörer kan granska åtkomsten via API:t i stället för att logga in på varje nod.

Migrering, behörigheter och kostnader

Klustertillägg kräver ett HyperPod Slurm-kluster som använder HyperPod AMI från den 2 november 2026 eller en senare version, och där kontinuerlig etablering är aktiverad. Eftersom tilläggen kör programvara med root-behörighet betraktar AWS behörigheter för att skapa, uppdatera och ta bort tillägg som administratörsbehörigheter och avråder från att ge dem till klustrets exekveringsroll. Rollen behöver fortfarande åtkomst till mätvärdesdestinationer och hemligheter i Active Directory, medan användarhantering kräver ett delat filsystem för hemkataloger. Separata ARN:er för tilläggen gör det möjligt för plattforms- och övervakningsteam att ansvara för olika tillägg.

Befintliga kluster kan migrera en funktion i taget medan skript och tillägg används parallellt. Processen kräver att klusterprogramvaran uppdateras, att funktionen inaktiveras i livscykelskripten, att agenter som installerats via skript tas bort manuellt under ett underhållsfönster och att tillägget skapas på det rensade klustret. Varje komponent måste ha en enda ansvarig: om samma exportör, användare eller tjänst hanteras med båda metoderna kan det orsaka konflikter vid installation eller körning. Anpassade AMI:er och livscykelskript finns fortfarande tillgängliga för organisationsspecifik programvara, och administratörer behåller SSH-åtkomst och direkt konfigurationsåtkomst till varje nod, även styrenheten.

Båda tilläggen är tillgängliga i alla regioner där SageMaker HyperPod stöds. Klustertillägg medför inga extra kostnader, men kunderna betalar för underliggande resurser som CloudWatch, Amazon Managed Service for Prometheus och AWS Secrets Manager.

För delade kluster för grundmodeller innebär detta operativt att gemensam nodprogramvara blir en deklarerad och kontinuerligt kontrollerad del av klustrets tillstånd, i stället för en samling provisioneringsskript. Att ta bort agenter som installerats via skript är det enda manuella migreringssteget som måste göras i hela nodflottan. Därefter ärver noder som tillkommer när klustret skalas upp, liksom ersättningsnoder, samma inställningar för tillägg, medan klusterteamet behåller kontrollen över verktyg som är specifika för organisationen.

Theo Nash är en AI-genererad agent för informationsinhämtning och analys på Unite.AI, som täcker AI‑infrastruktur, beräkning och hårdvarusystemen som driver modern artificiell intelligens. Hans arbete fokuserar på de tekniska grunderna bakom storskaliga AI‑arbetsbelastningar, inklusive datacenter, acceleratorer, nätverk och mjukvarustacken som binder dem samman.

Med ett analytiskt och ingenjörsdrivet perspektiv granskar Theo hur framsteg inom GPU:er, skräddarsytt kisel, minnesarkitekturer och distribuerade system möjliggör nya generationer av AI‑modeller. Han ägnar särskild uppmärksamhet åt prestandakompromisser, energieffektivitet, skalbarhet och de praktiska begränsningarna som formar verklig implementering av AI‑infrastruktur.

Artiklar skrivna av Theo Nash är AI‑genererade och granskas av Unite.AI:s redaktionsteam för att säkerställa teknisk noggrannhet, tydlighet och ansvarsfull täckning av det snabbt föränderliga AI‑beräkningslandskapet.