AI-modeller og plattformer

Den virkelige AI-flaskehalen: Kraft, avkjøling og fysikken til skalaen

mm
Legg til Unite.AI blant dine foretrukne kilder på Google

Kunstig intelligens har utviklet seg i en ekstraordinær takt over det siste tiåret. Raskere GPU-er, større cluster og revolusjonære arkitekturer har låst opp gjennombrudd som en gang syntes umulige. Likevel, mens industrien presses mot trillion-parametermodeller og hyperskala AI-fabrikker, er den neste barrieren ikke relatert til algoritmer. Den virkelige flaskenhalen i dag er fysisk: kraft, avkjøling og infrastrukturen som kreves for å opprettholde beregning på planetær skala.

Spørsmålet er ikke lenger hvor mange chip du kan produsere, men om du kan levere gigawatt, vann og overføringslinjer som trengs for å drive dem. Infrastruktur, ikke silisium, er det som vil sette tempoet for AI i årene som kommer.

Gigawatt over gigaflops

OpenAI-prosjektet “Stargate”, som bygges med Oracle (ORCL ) og SoftBank, har som mål å nå nesten 7 gigawatt kapasitet på amerikanske campus – sammenlignbart med flere atomreaktorer. På denne skalaen er hovedutfordringen ikke å produsere GPU-er, men å sikre kraftverk og transformatorstasjoner for å holde dem i gang.

Microsofts etterspørsel er likeforbausende. Deres AI-arbeidsbyrde forventes å bruke like mye strøm som hele New England-regionen i 2030. Dette hjelper å forklare hvorfor selskapet har investert titall milliarder i fornybare prosjekter og også søker etter mer eksperimentelle alternativer som f.eks. fusjon og avanserte atomreaktorer.

Dynamikken utvider seg til energipolitikken. I PJM Interconnection, den regionale overføringsorganisasjonen som håndterer nettet for over 65 millioner mennesker over 13 stater og Washington, D.C., utforsker utilities begrensingsmekanismer for datacenter under toppetterspørsel. Store teknologiselskaper lobbyer mot slike restriksjoner, men det faktum at regulatorer overhodet vurdere dem, viser hvor sentral AI er blitt for nettplanlegging.

Avkjølingsutfordringen

Å levere strøm er kun halvparten av problemet. Når strømmen når hyllene, er den neste utfordringen varme. Hver høykvalitets-GPU forbruker rundt 700 watt, og med hyller som huset hundredvis av GPU-er, når tettheten opp til 100 til 600 kilowatt per hylle. Luftavkjøling, som har vært bransjestandard i årevis, blir ufunksjonell utover 40 kilowatt per hylle på grunn av luftstrømningsineffektivitet og resirkulering.

Væskeavkjøling har derfor skiftet fra nisje til hovedstrøm. NVIDIAs nyeste væskeavkjølte Blackwell-plattformer er designet for hyperskala AI-kluster og leverer 25 ganger bedre energi-effektivitet og 300 ganger større vann-effektivitet enn luftavkjølte hyller. Selskapet har også samarbeidet med Vertiv om en referansearkitektur som kan håndtere mer enn 130 kilowatt per hylle, og gjør det mulig å deployere tette GPU-er.

Startups innoverer også. Corintis, et sveitsisk selskap som integrerer mikrokanaler direkte i chip-underlag, har nylig samlet inn 24 millioner dollar i finansiering og teller allerede Microsoft (MSFT ) blant sine kunder. Microsofts eget forskningsteam har demonstrert mikrofluidiske kanaler etsa inn i chip-pakking, som reduserer topp-GPU-temperaturer med opptil 65 prosent og tredobler effektiviteten sammenlignet med tradisjonelle kjøleplater. Disse teknologiene gjør det mulig å holde GPU-er i fullt gang uten å smelte ned datacenteret.

Vann som en strategisk variabel

Væskeavkjøling introduserer en annen variabel: vannforbruk. Fordampnings- og kjølevannssystemer kan kreve enorme volumer når de skaleres opp til campus på hundredvis av megawatt. I Phoenix kan datacenter-kluster kreve hundre millioner gallon vann per dag, og vekker bekymring i tørketatte regioner.

Dette har utløst utviklingen av null-vann og lukkede kjølingssystemer. IEEE Spectrum har dokumentert strategier som forseglede dielektriske badekar, tørre kjølere og vannfrie kjølere som kutte potablet vannforbruk til nesten null. I mellomtiden eksperimenterer noen operatører med gjenbruk av varme. Prosjekter som Aquasar og iDataCool har vist hvordan varm-vannkjølingssystemer kan mata bygningens varmesystemer eller absorpsjonskjølere, og gjenbruke mye av energien som ellers ville gå tapt.

Kompromisset er ofte mellom vann og strøm: lukkede eller tørre systemer forbruker mer energi, mens fordampningsdesigner sparer strøm, men trekker tungt på vann. I vann-stressede regioner favoriserer politikk stadig vann-bevaring, selv om det betyr høyere energiforbruk.

Infrastruktur og nettet

Selv med kraft- og avkjølingsløsninger på plass, er den endelige flaskenhalen infrastrukturen. Valg av plassering bestemmer nå vinnerne og taperne i AI-kappløpet.

Microsofts 80 milliarder dollar Fairwater-campus i Wisconsin illustrerer hvordan strategisk plassering er blitt. Stedet dekker 315 dekar, huset hundredtusenvis av GPU-er, og ble valgt for sin tilgang til transformatorstasjoner, fiberlinjer og grunnvann. Designet legger også vekt på lukket avkjøling for å minimere vannpåvirkningen.

For å støtte den økende belastningen, har Microsoft inngått en banebrytende avtale med Brookfield for å legge til 10,5 gigawatt fornybar kapasitet innen 2030. Samtidig har de støttet mer eksperimentelle prosjekter som et fusjonskraftverk under bygging av Helion Energy, planlagt å drive datacenter i 2028, og en 20-års avtale om å gjenåpne Three Mile Island-kraftverket i Pennsylvania.

Amazon (AMZN ) og Google (GOOGL ) tar lignende skritt, sikrer seg steder nær kraftverk og utvikler sine egne rene energi-porteføljer. I Irland, hvor datacenter allerede forbruker mer strøm enn alle husholdninger til sammen, har regulatorer frosset nye godkjenninger til minst 2028, og understreker hvordan politikk og tillatelser kan avbryte selv de best finansiert prosjektene.

Smartere drift: AI som håndterer AI

Interessant nok brukes AI selv til å håndtere infrastrukturbyrden. Forsterkingslæring er blitt deployert i produksjonsdatacenter for å optimalisere avkjølingssystemer, og produserer 14 til 21 prosent energibesparelse uten å kompromittere sikkerheten. Digitale tvillinger og prediktiv modellering brukes også til å forutsi varmeområder, forhåndskjøle utstyr og flytte arbeidsbyrde til kaldere timer eller perioder med fornybar overskudd.

Google har allerede demonstrert hvordan maskinlæring kan kutte datacenters avkjølingsbehov med 40 prosent, og andre operatører adopterer lignende systemer. Mens kraft- og avkjølingskostnader stiger, blir disse operasjonelle besparingene et viktig konkurransefortrinn.

Den strategiske utsikten

Trajektoren er klar. AI-etterspørsel forventes å doble globalt datacenters strømforbruk innen 2030, med AI-arbeidsbyrder alene som står for en enkelt-sifret andel av total global kraftforbruk innen 2050. Mens NVIDIA (NVDA ) og andre chipprodusenter fortsatt driver silisium-ytelsen fremover, vil AI-grensen i praksis bli definert av hvor raskt utilities kan bygge ny generering, overføring og avkjølingsinfrastruktur.

For selskaper som bygger AI-produkter, betyr dette at veikartene stadig mer er knyttet til hvor kapasitet finnes. For investorer kan de mest verdifulle spillene være utilities, overføringsutviklere og avkjølingsstartups, snarere enn bare GPU-leverandører. Og for politikere skifter debatten om AI fra spørsmål om etikk og datastyring til spørsmål om megawatt, vann og nettmodernisering.

AIens fremtid vil ikke bare bli avgjort i forskningslaboratorier og chip-fabrikker, men på transformatorstasjoner, avkjølingsløkker og kraftverk. Fysikken til skalaen – ikke bare matematikken til algoritmene – er det som vil bestemme AIens hastighet og omfang i det kommende tiåret.

awatts, vann og nettmodernisering. AIens fremtid vil ikke bare bli avgjort i forskningslaboratorier og chip-fabrikker, men på transformatorstasjoner, avkjølingsløkker og kraftverk. Fysikken til skalaen — ikke bare matematikken til algoritmene — er det som vil bestemme AIens hastighet og omfang i det kommende tiåret.

Antoine er en visjonær leder og medgrunnlegger av Unite.AI, drevet av en urokkelig lidenskap for å forme og fremme fremtiden for AI og robotikk. En serial entrepreneur, han tror at AI vil være like disruptiv for samfunnet som elektrisitet, og blir ofte fanget i å prise potensialet for disruptive teknologier og AGI.

Som en futurist, er han dedikert til å utforske hvordan disse innovasjonene vil forme vår verden. I tillegg er han grunnlegger av Securities.io, en plattform som fokuserer på å investere i banebrytende teknologier som definerer fremtiden og omformer hele sektorer.