Bortom GPU:n: Optimera AI-fabriken som ett system

En AI-fabrik är inte ett större datacenter. Den är särskilt byggd för att producera intelligenta token, inte för att leverera webbsidor och e-post. När en hyperskalare eller ett neomoln satsar miljarder dollar och flera år på att bygga en AI-fabrik blir GPU:erna, som står för det tunga beräkningsarbetet, naturligtvis en prioritet. Men att optimera enbart GPU:n innebär inte att fabriken runt omkring den optimeras. Kraftförsörjnings- och kylsystemen måste stödja beräkningarna, och beslut i ett system kan få betydande konsekvenser för de andra. AI är till för att maximera komplexa system, men fabrikerna som bygger den har ofta optimerats en komponent i taget. Med hjälp av virtuell tvillingteknik kan ingenjörer bygga och effektivisera hela systemet redan innan bygget ens har inletts.

Varför försiktig utformning blev det säkraste alternativet

Eftersom konsekvenserna av ett systemfel eller en prestandaflaskhals kunde bli så allvarliga byggdes de första anläggningarna med alltför stora säkerhetsmarginaler och för mycket hårdvara. Utan en färdplan för den här nya generationens datacenter kunde försiktighet verka vara det säkraste sättet att bygga. Marginalerna bidrog till att skydda mot problem som temperaturtoppar nära kretsarna, vilka kan ge operatörerna så lite som en minut att agera innan hårdvaran går sönder. I vissa tidiga anläggningar blev så mycket som 10 procent av den tillgängliga strömmen outnyttjad som säkerhetsmarginal.

AI-fabriker påverkas av temperatur, väder, utrustningsfel, otillräcklig kapacitet, konstruktionsbrister och underhållsproblem. När så mycket står på spel kan varje dags försenade kapacitet i gigawattskala innebära omkring 100 miljoner dollar i förlorade intäkter från token-generering. Försiktighet kändes nödvändig när det inte gick att förutsäga följderna av dessa problem.

Utmaningen blir ännu större när riskerna omfattar flera fristående system. En AI-fabrik är beroende av tre tätt sammankopplade system: beräkning, kraftförsörjning och kylning. GPU:n kräver en avancerad kedja för kraftförsörjning och ett lika krävande kylsystem för att föra bort värmen den alstrar. När beräkning, kraftförsörjning och kylning behandlas som separata steg, där varje område optimeras för sig, kan teamen missa hur ett beslut i ett system påverkar de andra. Det skapar blinda fläckar och obalanser, särskilt när kraftförsörjning och kylning behandlas som infrastrukturkrav som ska hanteras först efter att besluten om beräkning har fattats.

Kraftförsörjning och kylning kan inte skiljas från beräkningarna. De är delar av det system som avgör hur effektivt beräkningskapaciteten kan utnyttjas. Skiftet handlar därför om att gå från att optimera enskilda system till att optimera hela fabriken.

Argumenten för samoptimering

För att lösa detta måste man gå från att optimera varje system separat till att samoptimera hela fabriken. När man bygger fysiskt tvingas besluten fattas i en viss ordning: ett system utformas, sedan byggs nästa runt det, och därefter läggs ytterligare ett till för att stödja det. Det gör det svårt att optimera fabriken som helhet, eftersom varje beslut begränsar alternativen för de system som tillkommer senare. Samoptimering kräver att processen flyttas till en virtuell miljö där hela systemet kan modelleras, ändras och utvärderas innan något har låsts fast fysiskt. På så sätt skapas en dynamisk ritning.

Modellera fabriken innan den finns

Det är här virtuell tvillingteknik på systemnivå blir avgörande.

En virtuell tvilling använder formell systemmodellering för att återge beräkning, kraftförsörjning och kylinfrastruktur tillsammans och kan modellera AI-fabriken innan den existerar fysiskt. Till skillnad från en traditionell digital tvilling, som fokuserar på en befintlig fysisk tillgång, kan en virtuell tvilling modellera ett system innan det existerar fysiskt. Den gör det möjligt för ingenjörer att testa olika konfigurationer och förstå hur förändringar i en del av systemet påverkar de andra, innan valen blir fysiska åtaganden.

Att öka GPU-densiteten innebär till exempel inte bara att lägga till mer beräkningskapacitet. Det kan öka den elektriska belastningen, förändra kraven på värmeavledning, påverka utrustningens placering och medföra nya aspekter att ta hänsyn till vid driftsättningen. Genom att modellera dessa samband tillsammans kan ingenjörer utvärdera avvägningarna före byggstart, i stället för att upptäcka dem allt eftersom projektet fortskrider.

Virtuell tvillingteknik gör det möjligt för ingenjörer att göra ett kostsamt misstag virtuellt innan det blir kostsamt i den fysiska världen. Tekniken ger ett sätt att identifiera potentiella problem och möjligheter i den virtuella miljön, så att team kan lösa problem innan de uppstår i den fysiska världen. Genom att testa konfigurationer före den fysiska driftsättningen kan man också upptäcka onödiga konstruktionsmarginaler, outnyttjad ström och slöseri med säkerhetsmarginaler och eliminera dem redan i designfasen. I stor skala kan även små minskningar ge besparingar på miljontals dollar i investeringar och tidigare intäkter.

 Göra modellen prediktiv

Modellen kan också använda fysikbaserad simulering för att förutsäga systemets beteende. När den underliggande fysiken eller kemin är väl förstådd kan simuleringsverktyg förutsäga systemets beteende. När rikligt med driftdata ger underlag för en bättre metod kan AI- och maskininlärningsmodeller komplettera simuleringarna.

Resultatet är en miljö där man kan undersöka hur det sammankopplade systemet beter sig och samordna beslut mellan olika teknikområden. Modellen kan också utvecklas i takt med att driftdata blir tillgängliga, så att erfarenheter från en anläggning eller driftcykel kan ligga till grund för framtida utformning och beslut.

En ritning för AI-fabriken

Branschen lägger redan grunden för det här arbetssättet. NVIDIAs DSX-ritning fastställer en referensdesign för AI-fabriker i gigawattskala. NVIDIA har börjat med att fastställa beräkningsdelen av ritningen med hjälp av systemmodellering och simulering med virtuella tvillingar. Företaget bjuder också in ekosystempartner inom elförsörjning, kylning och byggnation, däribland företag som Eaton, Vertiv och Jacobs, att bidra med sina respektive delar av designen. Referensdesignernas interoperabilitet möjliggörs av SysML som stöder definitioner på systemnivå, medan OpenUSD utgör en grund för 3D-centrerade data.

Målet är inte att varje företag ska optimera sin egen komponent och sedan förvänta sig att delarna passar ihop. Kompetens inom beräkning, elförsörjning, kylning och anläggningar måste samlas, så att varje teknik i toppklass bidrar till hela systemets prestanda.

Varje bransch kan optimera inom sitt eget område, men för att skapa en kraftfull slutprodukt måste systemen optimeras tillsammans. När det här arbetssättet utvecklas gör det också möjligt för AI-infrastruktur att gå från isolerade pilotprojekt som genomförs en gång till system på företagsnivå, kapabla att hantera mycket komplexa driftsmiljöer.

Optimera fabriken, inte bara GPU:n

GPU:n kommer även fortsättningsvis att vara central för AI-fabrikens prestanda. Men att köpa de bästa GPU:erna räcker inte i sig för att optimera fabriken runt dem. Nästa generation AI-infrastruktur kommer att vara beroende av att beräknings-, elförsörjnings- och värmesystem utformas som ett integrerat system, att sambanden mellan dem modelleras innan större fysiska åtaganden görs och att man kontinuerligt använder det systemet lär sig för att förbättra det som följer. Vi kan inte förutsäga framtiden eller förhindra alla misstag, men teknik med virtuella tvillingar kan hjälpa team att planera för osäkerhet och optimera AI-fabriker som system.