Utover GPU-en: Optimalisering av AI-fabrikken som et system

En AI-fabrikk er ikke et større datasenter. Den er spesialbygd for å produsere intelligente token, ikke for å levere nettsider og e-post. Når en hyperskaler eller en neoskyaktør investerer milliarder dollar og flere år i å bygge en AI-fabrikk, blir GPU-ene som står for det tyngste beregningsarbeidet, naturlig nok prioritert. Men det er ikke nok å optimalisere GPU-en alene for å optimalisere fabrikken rundt den. Strøm- og kjølesystemene må støtte beregningsarbeidet, og beslutninger i ett system kan få betydelige konsekvenser for de andre. AI skal bidra til å optimalisere komplekse systemer, men fabrikkene som bygger den, er ofte blitt optimalisert én komponent om gangen. Teknologi for virtuelle tvillinger gjør det mulig for ingeniører å bygge og effektivisere hele systemet før byggingen i det hele tatt begynner.

Hvorfor forsiktig utforming ble det tryggeste alternativet

Fordi konsekvensene av systemfeil eller flaskehalser i ytelsen kan bli så alvorlige, ble de første anleggene bygget med svært store sikkerhetsmarginer og mye ekstra maskinvare. Uten en veikart for denne nye generasjonen datasentre kunne det virke som det tryggeste å bygge med stor forsiktighet. Disse marginene bidro til å beskytte mot problemer som temperatursprang nær brikkene, som kan gi operatørene så lite som ett minutt til å reagere før maskinvaren svikter. I noen av de første anleggene ble så mye som 10 prosent av den tilgjengelige strømmen stående ubrukt som en sikkerhetsmargin.

AI-fabrikker er utsatt for temperatursvingninger, vær, utstyrssvikt, utilstrekkelig kapasitet, konstruksjonsfeil og vedlikeholdsproblemer. Når så mye står på spill, kan hver dag med forsinket kapasitet ved gigawatt-skala bety omtrent 100 millioner dollar i tapte inntekter fra generering av token. Forsiktighet føltes nødvendig når det ikke var mulig å forutsi utfallet av slike problemer.

Utfordringen blir enda større når risikoen omfatter flere uavhengige systemer. En AI-fabrikk er avhengig av tre tett sammenkoblede systemer: databehandling, strømforsyning og termisk styring. GPU-en trenger en omfattende strømforsyningskjede, og et like krevende kjølesystem må lede bort varmen den produserer. Når databehandling, strømforsyning og termisk styring behandles som separate trinn og hvert område optimaliseres for seg, kan teamene overse hvordan en beslutning i ett system påvirker de andre. Dette skaper blindsoner og ubalanser, særlig når strøm og kjøling behandles som infrastrukturkrav som først skal håndteres etter at beslutningene om databehandlingen er tatt.

Strømforsyning og kjøling kan ikke skilles fra databehandlingen. De er en del av systemet som avgjør hvor effektivt databehandlingen kan fungere. Skiftet går derfor ut på å optimalisere hele fabrikken i stedet for enkeltsystemer.

Argumentet for samoptimalisering

For å løse dette må man gå fra å optimalisere hvert system uavhengig av de andre til å samoptimalisere fabrikken som helhet. Fysisk bygging tvinger fram beslutninger i en bestemt rekkefølge: Ett system utformes, deretter bygges et annet rundt det, og så legges enda et system til for å støtte det. Det gjør det vanskelig å optimalisere fabrikken som helhet, fordi hver beslutning begrenser valgmulighetene for systemene som kommer etter. Samoptimalisering krever at prosessen flyttes til et virtuelt miljø, der hele systemet kan modelleres, endres og evalueres før noe låses fysisk. Slik skapes en dynamisk plan.

Modellering av fabrikken før den finnes

Det er her teknologi for virtuelle tvillinger på systemnivå blir avgjørende.

En virtuell tvilling bruker formell systemmodellering til å representere databehandling, strømforsyning og termisk infrastruktur samlet, og kan modellere AI-fabrikken før den eksisterer fysisk. I motsetning til en tradisjonell digital tvilling, som fokuserer på en eksisterende fysisk eiendel, kan en virtuell tvilling modellere et system før det eksisterer fysisk. Den gjør det mulig for ingeniører å teste ulike konfigurasjoner og forstå hvordan endringer i én del av systemet påvirker de andre, før valgene blir bindende i den fysiske verden.

Hvis GPU-tettheten økes, betyr det for eksempel ikke bare at man legger til mer beregningskapasitet. Det kan øke den elektriske belastningen, endre kravene til varmeavledning, påvirke plasseringen av utstyr og føre til nye hensyn ved idriftsettelse. Når disse sammenhengene modelleres samlet, kan ingeniørene vurdere avveiningene før byggingen begynner, i stedet for å oppdage dem etter hvert som prosjektet skrider fram.

Teknologi for virtuelle tvillinger gjør det mulig for ingeniører å gjøre en kostbar feil virtuelt før den blir kostbar i den fysiske verden. Den gir teamene en måte å identifisere mulige problemer og muligheter i det virtuelle miljøet på, slik at de kan løse problemer før de oppstår i den fysiske verden. Når konfigurasjoner testes før fysisk idriftsettelse, kan også unødvendige konstruksjonsmarginer, uutnyttet strømkapasitet og sløsing med sikkerhetsmarginer avdekkes og fjernes allerede i utformingsfasen. I stor skala kan selv små reduksjoner gi besparelser på millioner i kapitalutgifter og tidligere tilgang til inntekter.

 Gjør modellen prediktiv

Modellen kan også bruke fysikkbasert simulering til å forutsi systematferd. Når den underliggende fysikken eller kjemien er godt forstått, kan simuleringsverktøy forutsi hvordan systemet vil oppføre seg. Når store mengder driftsdata gir et bedre grunnlag, kan AI- og maskinlæringsmodeller supplere simuleringene.

Resultatet er et miljø der man kan utforske hvordan det koblede systemet oppfører seg, og samordne beslutninger på tvers av ingeniørfaglige områder. Modellen kan også videreutvikles etter hvert som driftsdata blir tilgjengelige, slik at erfaringer fra ett anlegg eller én driftssyklus kan bidra til framtidige utforminger og beslutninger.

En blåkopi for AI-fabrikken

Bransjen er allerede i ferd med å legge grunnlaget for denne tilnærmingen. NVIDIAs DSX-plan formaliserer en referansedesign for AI-fabrikker i gigawattklassen. NVIDIA har startet med å utarbeide beregningsdelen av denne planen ved hjelp av systemmodellering og simulering med virtuelle tvillinger, og inviterer partnere i økosystemet fra områdene strømforsyning, kjøling og bygging – blant annet selskaper som Eaton, Vertiv og Jacobs – til å bidra med sine respektive deler av utformingen. Samvirket mellom referansedesignene muliggjøres av SysML som støtter definisjon på systemnivå, mens OpenUSD gir et grunnlag for 3D-sentrerte data.

Målet er ikke at hvert selskap skal optimalisere sin egen komponent og deretter forvente at delene passer sammen. Kompetansen innen beregning, strømforsyning, kjøling og anlegg må samles, slik at hver teknologi i toppklasse bidrar til hele systemets ytelse.

Hver bransje kan optimalisere innenfor sitt eget fagområde, men for å skape et kraftfullt sluttprodukt må systemene optimaliseres samlet. Etter hvert som denne tilnærmingen modnes, gjør den det også mulig for AI-infrastruktur å gå fra isolerte enkeltstående pilotprosjekter til systemer i bedriftsskala som kan håndtere svært komplekse driftsmiljøer.

Optimalisering av hele fabrikken, ikke bare GPU-en

GPU-en vil fortsatt stå sentralt for AI-fabrikkens ytelse. Men det å kjøpe de beste GPU-ene optimaliserer ikke i seg selv fabrikken rundt dem. Neste generasjon AI-infrastruktur vil være avhengig av at beregningssystemer, strømforsyning og termiske systemer utvikles som ett integrert system, at disse sammenhengene modelleres før store fysiske investeringer gjøres, og at man fortløpende bruker det systemet lærer, til å forbedre det som kommer etterpå. Vi kan ikke forutsi framtiden eller forhindre alle feil, men teknologi med virtuelle tvillinger kan hjelpe team med å planlegge for usikkerhet og optimalisere AI-fabrikker som et system.