De echte AI-bottleneck: stroom, koeling en de fysica van schaal

Kunstmatige intelligentie heeft de afgelopen decennium een buitengewone vlucht genomen. Snellere GPUs, grotere clusters en revolutionaire architectuur hebben doorbraken mogelijk gemaakt die eerder onmogelijk leken. Toch heeft de industrie, terwijl deze zich richt op modellen met triljoenen parameters en hyperschaal-AI-fabrieken, te maken met een nieuwe barrière die niets te maken heeft met algoritmes. De echte bottleneck van vandaag is fysiek: stroom, koeling en de infrastructuur die nodig is om compute op planetair niveau in stand te houden.

De vraag is niet langer hoeveel chips je kunt produceren, maar of je de gigawatts, water en transmissielijnen kunt leveren die nodig zijn om ze te laten werken. Infrastructuur, niet silicium, is wat de snelheid van AI in de komende jaren zal bepalen.

Gigawatts boven gigaflops

Het “Stargate”-project van OpenAI, dat wordt gebouwd met Oracle (ORCL ) en SoftBank, heeft bijna 7 gigawatt aan capaciteit over de Amerikaanse campussen — vergelijkbaar met meerdere kernreactoren. Op deze schaal is de belangrijkste uitdaging niet het produceren van GPUs, maar het veiligstellen van elektriciteitscentrales en transformatiestations om ze draaiende te houden.

De vraag van Microsoft (MSFT ) is eveneens verbluffend. De AI-werklasten van het bedrijf zullen naar verwachting evenveel elektriciteit vereisen als de hele regio New England tegen 2030. Dit helpt te verklaren waarom het bedrijf tientallen miljarden heeft geïnvesteerd in hernieuwbare projecten en ook experimentele opties zoals kernfusie en geavanceerde kernreactoren nastreeft.

De dynamiek werkt door in het energiebeleid. In de PJM Interconnection, de regionale transmissieorganisatie die het netwerk beheert voor meer dan 65 miljoen mensen in 13 staten en Washington D.C., onderzoeken nutsbedrijven mechanismen voor het beperken van datacenters tijdens piekvraag. Grote technologiebedrijven lobbyen tegen dergelijke beperkingen, maar het feit dat regulators ze überhaupt overwegen, toont aan hoe centraal AI is geworden in netwerkplanning.

De koelingsuitdaging

Het leveren van elektriciteit is slechts het halve probleem. Zodra de stroom de racks bereikt, is de volgende uitdaging hitte. Elke high-end GPU verbruikt ongeveer 700 watt, en met racks die honderden GPUs herbergen, bereiken dichtheden 100 tot 600 kilowatt per rack. Lucht koeling, de industrienorm voor decennia, wordt onwerkbaar bij meer dan ongeveer 40 kilowatt per rack vanwege luchtstroominefficiënties en recirculatie.

Vloeistofkoeling is daarom verschoven van niche naar mainstream. De nieuwste vloeistofgekoelde Blackwell-platforms van NVIDIA (NVDA ) zijn ontworpen voor hyperschaal-AI-clusters en bieden 25 keer betere energie-efficiëntie en 300 keer betere water-efficiëntie dan luchtgekoelde racks. Het bedrijf heeft ook een referentiearchitectuur ontwikkeld met Vertiv die meer dan 130 kilowatt per rack aankan, waardoor dichte GPU-inzet mogelijk wordt.

Startups zijn ook aan het innoveren. Corintis, een Zwitsers bedrijf dat microkanalen rechtstreeks in chipsubstraten integreert, heeft onlangs $24 miljoen aan financiering opgehaald en telt al Microsoft onder zijn klanten. Het onderzoeksteam van Microsoft heeft microfluidische kanalen in chipverpakkingen gedemonstreerd, waardoor de maximale GPU-temperatuur met tot 65 procent kan worden verlaagd en de efficiëntie kan worden verdrievoudigd in vergelijking met traditionele koude platen. Deze technologieën maken het mogelijk om GPUs volledig te laten draaien zonder dat het datacenter smelt.

Water als strategische variabele

Vloeistofkoeling introduceert een andere variabele: waterverbruik. Verdampte en gekoelde watersystemen kunnen enorme volumes vereisen wanneer ze worden geschaald naar campussen van honderden megawatt. In Phoenix kunnen clusters van datacenters honderden miljoenen gallons water per dag vragen, waardoor zorgen ontstaan in droogtegetroffen gebieden.

Dit heeft geleid tot de ontwikkeling van zero-water en gesloten koelsystemen. IEEE Spectrum heeft strategieën gedocumenteerd zoals afgesloten dielektrische baden, droge koelers en waterloze koelers die het verbruik van drinkwater terugbrengen tot bijna nul. Ondertussen experimenteren sommige operators met hergebruik van afvalwarmte. Projecten zoals Aquasar en iDataCool hebben laten zien hoe warmwaterkoelingscircuits kunnen worden gebruikt voor gebouwverwarmingssystemen of absorptiekoelers, waardoor veel van de energie die anders verloren zou gaan, kan worden hergebruikt.

De afweging is vaak tussen water en elektriciteit: gesloten of droge systemen verbruiken meer energie, terwijl verdampingsontwerpen energie besparen maar zwaar op water zijn. In waterarme regio’s begunstigt het beleid steeds vaker waterbesparing, zelfs als dat meer energieverbruik betekent.

Infrastructuur en het netwerk

Zelfs met oplossingen voor stroom en koeling op hun plaats, is de laatste bottleneck infrastructuur. Locatiebeslissingen bepalen nu de winnaars en verliezers in de AI-race.

De $80 miljard Fairwater-campus van Microsoft in Wisconsin illustreert hoe strategische locatie is geworden. De site beslaat 315 acres, herbergt honderdduizenden GPUs en werd gekozen vanwege de toegang tot transformatiestations, glasvezelkabels en grondwater. Het ontwerp benadrukt ook gesloten koeling om het watergebruik te minimaliseren.

Om de groeiende belasting te ondersteunen, heeft Microsoft een baanbrekende overeenkomst gesloten met Brookfield om 10,5 gigawatt aan hernieuwbare capaciteit toe te voegen tegen 2030. Tegelijkertijd heeft het bedrijf meer experimentele projecten gesteund, zoals een kernfusiecentrale die momenteel wordt gebouwd door Helion Energy en tegen 2028 datacenters van stroom moet voorzien, en een 20-jarige overeenkomst om de Three Mile Island-kerncentrale in Pennsylvania te heropenen.

Amazon (AMZN ) en Google (GOOGL ) nemen soortgelijke stappen, waarbij ze locaties naast kerncentrales veiligstellen en hun eigen schone-energieportefeuilles ontwikkelen. In Ierland, waar datacenters al meer stroom verbruiken dan alle huishoudens samen, hebben regulators nieuwe goedkeuringen stopgezet tot ten minste 2028, waarmee wordt aangetoond hoe politiek en vergunningen zelfs de best gefinancierde projecten kunnen dwarsbomen.

Slimmere bedrijfsvoering: AI die AI beheert

Interessant genoeg wordt AI zelf gebruikt om de infrastructuurlast te beheren. Versterkingsleren is ingezet in productiedatacenters om koelsystemen te optimaliseren, waardoor 14 tot 21 procent energibesparingen worden behaald zonder de veiligheid in gevaar te brengen. Digitale tweelingen en voorspellende modellering worden ook gebruikt om warmtebronnen te anticiperen, apparatuur vooraf te koelen en werklasten te verplaatsen naar koelere uren of perioden van overschot aan hernieuwbare energie.

Google heeft al aangetoond hoe machine learning de koelingsbehoeften van datacenters met 40 procent kan verminderen, en andere operators nemen soortgelijke systemen over. Naarmate de kosten van stroom en koeling stijgen, worden deze operationele besparingen een essentiële concurrentievoordeel.

De strategische vooruitzichten

De traject is duidelijk. De vraag naar AI zal naar verwachting de wereldwijde elektriciteitsverbruik van datacenters verdubbelen tegen 2030, waarbij AI-werklasten alleen al een enkelcijferig percentage van het totale wereldwijde energieverbruik zullen vertegenwoordigen tegen 2050. Terwijl NVIDIA en andere chipmakers de prestaties van silicium blijven verbeteren, zal de praktische grens van AI worden bepaald door hoe snel nutsbedrijven nieuwe generatie-, transmissie- en koelingsinfrastructuur kunnen bouwen.

Voor bedrijven die AI-producten bouwen, betekent dit dat hun roadmaps steeds vaker worden gekoppeld aan waar capaciteit bestaat. Voor beleggers kunnen de meest waardevolle kansen nutsbedrijven, transmissieontwikkelaars en koelstartups zijn, in plaats van alleen GPU-leveranciers. En voor beleidsmakers verschuift het debat over AI van vragen over ethiek en gegevensbeheer naar vragen over megawatt, water en netwerkmodernisering.

De toekomst van AI zal niet alleen worden bepaald in onderzoekscentra en chipfabrieken, maar op transformatiestations, koelingscircuits en elektriciteitscentrales. De fysica van schaal — niet alleen de wiskunde van algoritmes — is wat de snelheid en omvang van kunstmatige intelligentie in het decennium dat voor ons ligt zal bepalen.