Voorbij de GPU: de AI-fabriek als systeem optimaliseren

Een AI-fabriek is niet zomaar een groter datacenter. Ze is specifiek gebouwd om intelligente tokens te produceren, niet om webpagina’s en e-mail te serveren. Wanneer een hyperscaler of neocloudaanbieder miljarden dollars en jaren investeert in de bouw van een AI-fabriek, krijgen de GPU’s die het zware rekenwerk verrichten vanzelf prioriteit. Maar alleen de GPU optimaliseren betekent niet dat ook de fabriek eromheen geoptimaliseerd is. De stroomvoorziening en de thermische systemen moeten die rekenkracht ondersteunen, en beslissingen binnen het ene systeem kunnen aanzienlijke gevolgen hebben voor de andere systemen. AI is erop gericht complexe systemen te optimaliseren, maar de fabrieken waarin AI wordt gemaakt, zijn vaak component voor component geoptimaliseerd. Met virtuele-tweelingtechnologie kunnen ingenieurs het volledige systeem modelleren en stroomlijnen, nog voordat de bouw begint.

Waarom een conservatief ontwerp de veiligste optie werd

Omdat de gevolgen van een systeemstoring of prestatieknelpunt zo groot kunnen zijn, werden de eerste faciliteiten gebouwd met overmatige veiligheidsmarges en extra hardware. Zonder een routekaart voor deze nieuwe generatie datacenters kon bouwen met de nodige voorzichtigheid de veiligste aanpak lijken. Deze marges boden bescherming tegen problemen zoals temperatuurpieken bij de chips, die operators soms slechts één minuut geven om in te grijpen voordat hardware uitvalt. In sommige vroege faciliteiten bleef wel 10 procent van het beschikbare vermogen ongebruikt als reserve.

AI-fabrieken zijn kwetsbaar voor temperatuur, weersomstandigheden, apparatuurstoringen, onvoldoende capaciteit, ontwerpfouten en onderhoudsproblemen. Met zulke hoge belangen kan op gigawattniveau elke dag vertraging bij de beschikbaarheid van capaciteit leiden tot ongeveer $100 miljoen aan gederfde inkomsten uit het genereren van tokens. Voorzichtigheid leek noodzakelijk zolang de uitkomsten van dergelijke problemen niet te voorspellen waren.

De uitdaging wordt nog groter wanneer deze risico’s zich over meerdere, onafhankelijke systemen uitstrekken. Een AI-fabriek is afhankelijk van drie nauw met elkaar verweven systemen: rekenkracht, stroomvoorziening en thermisch beheer. De GPU heeft een uitgebreide stroomvoorzieningsketen nodig en een even veeleisend thermisch systeem om de opgewekte warmte af te voeren. Wanneer rekenkracht, stroomvoorziening en thermisch beheer als afzonderlijke stappen worden behandeld en elk binnen het eigen domein worden geoptimaliseerd, kunnen teams over het hoofd zien hoe een beslissing binnen het ene systeem de andere beïnvloedt. Daardoor ontstaan blinde vlekken en onevenwichtigheden, vooral wanneer stroomvoorziening en koeling worden gezien als infrastructuureisen die pas aan bod komen nadat de beslissingen over rekenkracht zijn genomen.

Stroomvoorziening en koeling kunnen niet losstaan van rekenkracht. Ze maken deel uit van het systeem dat bepaalt hoe efficiënt de rekenkracht kan worden ingezet. De omslag bestaat daarom uit de overgang van het optimaliseren van afzonderlijke systemen naar het optimaliseren van de volledige fabriek.

Waarom gezamenlijke optimalisatie nodig is

Om dit op te lossen, moet de aanpak verschuiven van het afzonderlijk optimaliseren van elk systeem naar het gezamenlijk optimaliseren van de fabriek als geheel. Bij fysieke bouw moeten beslissingen na elkaar worden genomen: eerst wordt het ene systeem ontworpen, vervolgens wordt het volgende eromheen gebouwd en daarna wordt er nog een systeem toegevoegd om het te ondersteunen. Daardoor is het moeilijk om de fabriek als geheel te optimaliseren, omdat elke beslissing de mogelijkheden beperkt voor de systemen die daarna volgen. Gezamenlijke optimalisatie vereist dat dit proces naar een virtuele omgeving wordt verplaatst, waar het volledige systeem kan worden gemodelleerd, aangepast en geëvalueerd voordat er fysiek iets definitief wordt vastgelegd. Zo ontstaat een dynamische blauwdruk.

De fabriek modelleren voordat ze bestaat

Hier wordt virtuele-tweelingtechnologie op systeemniveau cruciaal.

Een virtuele tweeling gebruikt formele systeemmodellering om rekenkracht, stroomvoorziening en thermische infrastructuur gezamenlijk weer te geven, en kan de AI-fabriek modelleren voordat die fysiek bestaat. Anders dan een traditionele digitale tweeling, die zich richt op een bestaand fysiek bedrijfsmiddel, kan een virtuele tweeling een systeem modelleren voordat het fysiek bestaat. Ingenieurs kunnen er verschillende configuraties mee testen en nagaan hoe veranderingen in het ene deel van het systeem de andere delen beïnvloeden, voordat die keuzes in fysieke verplichtingen worden omgezet.

Een hogere GPU-dichtheid betekent bijvoorbeeld niet simpelweg dat er meer rekenkracht wordt toegevoegd. De elektrische belasting kan toenemen, de vereisten voor warmteafvoer kunnen veranderen, de plaatsing van apparatuur kan worden beïnvloed en er kunnen nieuwe aandachtspunten bij de inbedrijfstelling ontstaan. Door deze verbanden gezamenlijk te modelleren, kunnen ingenieurs de afwegingen evalueren voordat de bouw begint, in plaats van ze pas te ontdekken terwijl het project vordert.

Met virtuele-tweelingtechnologie kunnen ingenieurs virtueel een kostbare fout maken voordat die in de fysieke wereld kostbaar wordt. Zo kunnen teams mogelijke problemen en kansen in de virtuele omgeving identificeren en problemen oplossen voordat ze zich in de fysieke wereld voordoen. Configuraties testen voordat de fysieke inbedrijfstelling plaatsvindt, maakt het ook mogelijk onnodige ontwerpmarges, ongebruikte stroomcapaciteit en verspilling door veiligheidsmarges al in de ontwerpfase op te sporen en weg te nemen. Op grote schaal kunnen zelfs kleine besparingen miljoenen aan kapitaaluitgaven schelen en de toegang tot inkomsten vervroegen.

 Het model voorspellend maken

Het model kan ook natuurkundige simulaties gebruiken om het systeemgedrag te voorspellen. Wanneer de onderliggende natuurkunde of chemie goed wordt begrepen, kunnen simulatietools het systeemgedrag voorspellen. Wanneer een grote hoeveelheid operationele gegevens een betere aanpak mogelijk maakt, kunnen AI- en machinelearningmodellen die simulaties aanvullen.

Het resultaat is een omgeving waarin kan worden onderzocht hoe het gekoppelde systeem zich gedraagt en waarin beslissingen over verschillende engineeringdomeinen heen kunnen worden gecoördineerd. Het model kan zich ook verder ontwikkelen naarmate operationele gegevens beschikbaar komen, zodat lessen uit een faciliteit of operationele cyclus kunnen bijdragen aan toekomstige ontwerpen en beslissingen.

Een blauwdruk voor de AI-fabriek

De sector legt de basis voor deze aanpak al. NVIDIA’s DSX-blauwdruk legt een referentieontwerp vast voor AI-fabrieken op gigawattschaal. NVIDIA is begonnen met het vastleggen van het rekengedeelte van die blauwdruk, met behulp van systeemmodellering en een simulatieaanpak met virtuele tweelingen. Daarnaast nodigt het partners uit het ecosysteem uit om hun eigen onderdelen van het ontwerp bij te dragen. Het gaat daarbij om bedrijven op het gebied van energievoorziening, koeling en bouw, waaronder Eaton, Vertiv en Jacobs. De interoperabiliteit van referentieontwerpen wordt mogelijk gemaakt door SysML , dat systeemdefinities ondersteunt, terwijl OpenUSD de basis biedt voor 3D-gerichte gegevens.

Het doel is niet dat elk bedrijf zijn eigen component optimaliseert en vervolgens verwacht dat alle onderdelen op elkaar aansluiten. De expertise op het gebied van rekenkracht, energievoorziening, koeling en faciliteiten moet worden samengebracht, zodat elke technologie van topniveau bijdraagt aan de prestaties van het hele systeem.

Elke sector kan binnen het eigen domein optimaliseren, maar voor een krachtig eindproduct moeten die systemen gezamenlijk worden geoptimaliseerd. Naarmate deze aanpak verder wordt ontwikkeld, maakt die het ook mogelijk om AI-infrastructuur verder te brengen dan afzonderlijke, eenmalige proefprojecten en toe te werken naar systemen op ondernemingsschaal die zeer complexe operationele omgevingen aankunnen.

De fabriek optimaliseren, niet alleen de GPU

De GPU blijft centraal staan in de prestaties van AI-fabrieken. Maar door de beste GPU’s te kopen, wordt de fabriek eromheen niet vanzelf geoptimaliseerd. De volgende generatie AI-infrastructuur zal afhangen van het als één geïntegreerd systeem ontwerpen van rekenkracht, energievoorziening en thermische systemen, het modelleren van de onderlinge verbanden voordat grote fysieke investeringen worden gedaan, en het voortdurend benutten van wat het systeem leert om de volgende stappen te verbeteren. We kunnen de toekomst niet voorspellen en niet elke fout voorkomen, maar technologie met virtuele tweelingen kan teams helpen rekening te houden met onzekerheid en AI-fabrieken als één systeem te optimaliseren.