De echte AI-bottleneck: Energie, Koeling en de Fysica van Schaal

Kunstmatige intelligentie heeft de afgelopen decennium een buitengewone snelheid ontwikkeld. Snellere GPUs, grotere clusters en revolutionaire architectuur hebben doorbraken mogelijk gemaakt die eerder onmogelijk leken. Toch, terwijl de industrie zich richt op modellen met triljoenen parameters en hyperschaal-AI-fabrieken, heeft de volgende barrière niets te maken met algoritmes. De echte bottleneck van vandaag is fysiek: energie, koeling en de infrastructuur die nodig is om berekeningen op planetair niveau te ondersteunen.

De vraag is niet langer hoeveel chips je kunt produceren, maar of je de gigawatts, water en transmissielijnen kunt leveren die nodig zijn om ze te laten werken. Infrastructuur, niet silicium, is wat het tempo van AI in de komende jaren zal bepalen.

Gigawatts boven Gigaflops

OpenAI’s “Stargate”-project, dat wordt gebouwd met Oracle en SoftBank, heeft een capaciteit van bijna 7 gigawatt op Amerikaanse campussen — vergelijkbaar met meerdere kernreactoren. Op deze schaal is de belangrijkste uitdaging niet het produceren van GPUs, maar het veiligstellen van elektriciteitscentrales en transformatiestations om ze draaiende te houden.

Microsofts vraag is eveneens verbluffend. De AI-werklasten van het bedrijf zullen naar verwachting evenveel elektriciteit vereisen als de hele regio New England tegen 2030. Dit helpt te verklaren waarom het bedrijf tientallen miljarden heeft geïnvesteerd in hernieuwbare projecten en ook meer experimentele opties zoals kernfusie en geavanceerde kernreactoren nastreeft.

De dynamiek heeft een invloed op het energiebeleid. In de PJM Interconnection, de regionale transmissieorganisatie die het netwerk beheert voor meer dan 65 miljoen mensen in 13 staten en Washington, D.C., onderzoeken nutsbedrijven beperkingsmechanismen voor datacenters tijdens piekvraag. Grote technologiebedrijven lobbyen tegen dergelijke beperkingen, maar het feit dat regulators ze überhaupt overwegen, toont aan hoe centraal AI is geworden voor netwerkplanning.

De Koelingsuitdaging

Het leveren van elektriciteit is slechts de helft van het probleem. Zodra de stroom de racks bereikt, is de volgende uitdaging hitte. Elke high-end GPU verbruikt ongeveer 700 watt, en met racks die honderden GPUs herbergen, bereiken de dichtheden 100 tot 600 kilowatt per rack. Lucht koeling, de industrienorm voor decennia, wordt onwerkbaar bij een dichtheid van ongeveer 40 kilowatt per rack vanwege luchtstroominefficiënties en recirculatie.

Vloeistofkoeling is daarom verschoven van een niche naar mainstream. NVIDIA’s recente vloeistofgekoelde Blackwell-platforms zijn ontworpen voor hyperschaal-AI-clusters en bieden 25× betere energie-efficiëntie en 300× grotere water-efficiëntie dan luchtgekoelde racks. Het bedrijf heeft ook samengewerkt met Vertiv aan een referentiearchitectuur die meer dan 130 kilowatt per rack aankan, waardoor dichte GPU-implementaties haalbaar worden.

Startups innoveren ook. Corintis, een Zwitsers bedrijf dat microkanalen rechtstreeks in chipsubstraten integreert, heeft onlangs $24 miljoen aan financiering ontvangen en telt al Microsoft onder zijn klanten. Microsofts eigen onderzoeksafdeling heeft microfluïdische kanalen in chipverpakkingen gedemonstreerd, waardoor de maximale GPU-temperatuur met tot 65 procent kan worden verlaagd en de efficiëntie kan worden verdrievoudigd in vergelijking met traditionele koude platen. Deze technologieën maken het mogelijk om GPUs volledig te laten draaien zonder dat het datacenter oververhit raakt.

Water als Strategische Variabele

Vloeistofkoeling introduceert een andere variabele: waterverbruik. Evaporatieve en gekoelde watersystemen kunnen enorme volumes vereisen wanneer ze worden geschaald naar campussen van honderden megawatt. In Phoenix kunnen clusters van datacenters honderden miljoenen gallons water per dag vragen, waardoor zorgen ontstaan in droogtegetroffen regio’s.

Dit heeft de ontwikkeling van zero-water en gesloten koelsystemen gestimuleerd. IEEE Spectrum heeft strategieën gedocumenteerd zoals gesloten dielektrische baden, droge koelers en waterloze koelers die het gebruik van drinkwater terugbrengen tot bijna nul. Ondertussen experimenteren sommige operators met hergebruik van afvalwarmte. Projecten zoals Aquasar en iDataCool hebben laten zien hoe warmwaterkoelingslussen kunnen worden gebruikt voor gebouwverwarmingssystemen of absorptiekoelers, waardoor veel van de energie die anders verloren zou gaan, kan worden hergebruikt.

De afweging is vaak tussen water en elektriciteit: gesloten of droge systemen verbruiken meer energie, terwijl evaporatieve ontwerpen energie besparen maar veel water verbruiken. In regio’s met waterschaarste wordt het beleid steeds vaker gericht op waterbesparing, zelfs als dit meer energieverbruik met zich meebrengt.

Infrastructuur en het Netwerk

Zelfs met oplossingen voor energie en koeling op hun plaats, is de laatste bottleneck infrastructuur. Locatiebeslissingen bepalen nu de winnaars en verliezers in de AI-race.

Microsofts $80 miljard Fairwater-campus in Wisconsin illustreert hoe strategische locatie is geworden. De site beslaat 315 acre, herbergt honderdduizenden GPUs en is gekozen vanwege de toegang tot transformatiestations, glasvezelkabels en grondwater. Het ontwerp benadrukt ook gesloten koeling om het watergebruik te minimaliseren.

Om de groeiende vraag te ondersteunen, heeft Microsoft een baanbrekende overeenkomst gesloten met Brookfield om 10,5 gigawatt aan hernieuwbare capaciteit toe te voegen tegen 2030. Tegelijkertijd heeft het bedrijf meer experimentele projecten zoals een nucleaire fusiecentrale in aanbouw door Helion Energy gesteund, die tegen 2028 datacenters moet gaan verwarmen, en een 20-jarige overeenkomst om de Three Mile Island-nucleaire centrale in Pennsylvania opnieuw te openen.

Amazon en Google nemen soortgelijke stappen, waarbij ze locaties naast kerncentrales veiligstellen en hun eigen schone-energieportefeuilles ontwikkelen. In Ierland, waar datacenters al meer stroom verbruiken dan alle huishoudens samen, hebben regulators nieuwe goedkeuringen stopgezet tot ten minste 2028, waarmee wordt onderstreept hoe politiek en vergunningen zelfs de best gefinancierde projecten kunnen dwarsbomen.

Slimmere Bedrijfsvoering: AI die AI beheert

Interessant is dat AI zelf wordt gebruikt om de infrastructuurlast te beheren. Versterkingsleren is ingezet in productiedatacenters om koelsystemen te optimaliseren, waardoor 14 tot 21 procent energibesparing wordt behaald zonder de veiligheid in gevaar te brengen. Digitale tweelingen en voorspellende modellering worden ook gebruikt om warmtebronnen te voorspellen, apparatuur vooraf te koelen en werklasten te verplaatsen naar koelere uren of periodes van hernieuwbare overschotten.

Google heeft al aangetoond hoe machine learning de koelingsbehoeften van datacenters met 40 procent kan verminderen, en andere operators nemen soortgelijke systemen over. Naarmate de energiekosten stijgen, worden deze operationele besparingen een essentiële concurrentievoordeel.

De Strategische Visie

De richting is duidelijk. De vraag naar AI zal naar verwachting de wereldwijde energievraag van datacenters tegen 2030 verdubbelen, waarbij AI-werklasten alleen al een enkel cijferpercentage van het totale wereldwijde energieverbruik zullen vertegenwoordigen tegen 2050. Terwijl NVIDIA en andere chipfabrikanten de prestaties van silicium blijven verbeteren, zal de praktische grens van AI worden bepaald door hoe snel nutsbedrijven nieuwe generatie-, transmissie- en koelingsinfrastructuur kunnen bouwen.

Voor bedrijven die AI-producten ontwikkelen, betekent dit dat wegenkaarten steeds vaker worden gekoppeld aan de locaties waar capaciteit bestaat. Voor beleggers kunnen de meest waardevolle kansen nutsbedrijven, transmissieontwikkelaars en koelstartups zijn, en niet alleen GPU-leveranciers. En voor beleidsmakers verschuift de discussie over AI van vragen over ethiek en gegevensbeheer naar vragen over megawatts, water en netwerkmodernisering.

De toekomst van AI zal niet alleen worden bepaald in onderzoekscentra en chipfabrieken, maar op transformatiestations, koellussen en elektriciteitscentrales. De fysica van schaal — niet alleen de wiskunde van algoritmes — is wat de snelheid en omvang van kunstmatige intelligentie in de komende decennium zal bepalen.