Het volgende AI-energiestroomknelpunt zal zich binnen steden bevinden

De afgelopen jaren, en nog steeds, heeft de AI-infrastructuurmarkt enorm veel tijd en geld besteed (bijna $7 biljoen aan datacenteraankopen tegen 2030, volgens schatting van McKinsey) aan het leren hoe grote datacenters te bouwen waar ook maar stroom beschikbaar is. “Waar ook” is het sleutelwoord omdat de locatie niet zo belangrijk was. Een trainingscluster heeft simpelweg toegang tot voldoende stroom nodig. Maar locatie wordt tegenwoordig steeds relevanter nu het gebruik van AI zich uitbreidt van chatinterfaces naar machines, spraaksystemen, video en toepassingen die met de fysieke wereld interageren. Dergelijke operaties vereisen rekenkracht die dichter bij de stedelijke centra waar die interacties plaatsvinden om de latentie laag te houden. Terwijl tools zoals chatbots een halve seconde vertraging kunnen tolereren, moeten geautomatiseerde service‑toepassingen zoals op afstand begeleide bezorgrobots, live‑spraakhulpmiddelen of geautomatiseerde fulfilmentsystemen mogelijk binnen milliseconden reageren.

Dit is de nieuwe uitdaging voor AI‑bedrijven. Hoe vind je kleinere blokken betrouwbare stroom in en rond grote stedelijke gebieden? En zelfs nadat locaties zijn opgespoord, hoe ga je om met de tegenreactie waar zelfs afgelegen datacenters mee te maken krijgen?

De vraag naar AI in stedelijke centra neemt toe

Er is een groeiende vraag binnen de stedelijke sfeer naar AI die verder gaat dan persoonlijk gebruik van chatbots of een obsessie met robots. Een IMF-werkdocument schat dat het elektriciteitsverbruik van datacenters en AI in 2023 al 400–500 TWh wereldwijd had bereikt, en dat AI‑gedreven verbruik tegen 2030 mogelijk 1.500 TWh kan bedragen. De automatisering die nodig is om eenvoudige processen efficiënter te maken — of het nu gaat om het verwerken van papierwerk of het archiveren van video’s — vereist veel stroom op grote schaal.

Steden staan hierin voorop, zoals blijkt uit een OECD‑review van 250 steden in 78 landen. Het bleek dat 56 % maakten al actief gebruik van AI, terwijl nog eens 35 % pilots uitvoerden of implementaties planden. Om één eenvoudig gebruiksvoorbeeld te illustreren, laten we surveillancamera’s in de stad beschouwen. IHS Markit schatte enkele jaren geleden dat het aantal surveillancamera’s wereldwijd de één‑miljard‑grens zou overschrijden. Hoewel ze voornamelijk voor opname worden gebruikt, worden ze nu ook ingezet voor andere, meer rekenintensieve taken, bijvoorbeeld het volgen van objecten over een netwerk, of het doorzoeken van grote video‑archieven met natuurlijke taal. Dergelijke processen kunnen niet in elke camera plaatsvinden met de huidige AI‑verwerking die we hebben. Moeten ze dan naar een verafgelegen datacenter buiten de stad worden gestuurd voor verwerking? Dat is onpraktisch vanwege dataverorden en ook de kosten van het verplaatsen van zulke grote hoeveelheden verkeer.

Een recent Gallup‑onderzoek toont aan dat ongeveer 30 % van werknemers in de private en publieke sector AI gebruiken in hun functie en dat het aantal stijgt. Deze sectoren — of het nu banken, ziekenhuizen of overheidsorganisaties zijn — lopen tegen dezelfde problemen aan. Ze willen AI‑infrastructuur binnen hun eigen jurisdictie en fysiek dicht genoeg bij zich om te kunnen controleren. Hun interactieve spraaksystemen en video‑toepassingen verslechteren naarmate de netwerklatentie stijgt. Zelfs als het probleem aanvankelijk kan worden omzeild door een menselijke operator te behouden voor de eerste generatie autonome systemen, is die supervisie zelf niet erg vergevingsgezind ten aanzien van latentie. Bijvoorbeeld, bezorgrobots en thuisrobots die onder toezicht staan via een video‑verbinding vereisen een volledige communicatielus die onder ongeveer 80 milliseconden moet blijven, gemeten in een remote robot‑teleoperatiestudie. Autonome auto’s vormen, paradoxaal, de uitzondering: het rijden blijft aan boord om veiligheidsredenen, en Waymo’s remote operators werken met een kwart seconde latentie, sommigen zelfs vanaf een ander continent. Wat de stad erft van autonome vloten is hun data, niet hun stuurwiel.

De datacentermarkt onderschat deze vraagstijging. De Wereldbank publiceerde een rapport dat laat zien hoe gemeenten in landen zoals Argentinië, India en Ethiopië, onder andere, AI hebben toegepast op gebieden als justitie, anticorruptie, douane, openbaar bestuur en serviceverbetering. Dit is geen lokaal verschijnsel. Het is een wereldwijde transformatie. Bij Teravolt schatten wij dat een stedelijk gebied van 10 tot 15 miljoen inwoners tegen 2030 ongeveer 6 tot 13 MW aan continue latentie‑gevoelige AI‑belasting zou kunnen ondersteunen, voordat algemene robots op grote schaal worden ingezet. Naar men zegt, is dat niet zo’n groot getal volgens hyperscale‑normen, maar het vinden op de juiste locatie is veel moeilijker dan het lijkt. Tegen 2036 stijgt dezelfde stedelijke omgeving naar 22 tot 50 MW aan latentie‑gevoelige belasting — en naar 60 tot 100 MW als de auto‑industrie robots op autoschaal begint te produceren. De economische vraag is onverbiddelijk in de beste zin: enkele honderden dollars per jaar aan serverkosten op een machine die $30.000 tot $60.000 aan arbeidskosten vervangt, is een vraag die niet over de prijs onderhandelt.

Een vierde laag toevoegen aan de computatie

Momenteel bestaat rekenkracht voor AI uit drie niveaus. De bovenste laag bestaat uit gigafactories die worden gebruikt om modellen te trainen. Hun locatie is voor ontwikkelaars alleen van belang voor zover het grote hoeveelheden stroom tegen een acceptabele prijs veiligstelt. Daarna volgen regionale AI‑faciliteiten, doorgaans tussen 20 en 200 MW, waar het grootste deel van de terugkerende inferentie‑vraag in grote cloud‑ en bedrijfsoperaties plaatsvindt. Ten slotte hebben we de rekenkracht die direct in het apparaat of de robot is ingebed.

Er lijkt een kloof te bestaan tussen de laatste twee lagen die ik de stedelijke laag noem – de kloof die verantwoordelijk is voor latentieproblemen. Deze zouden zich binnen of zeer dicht bij grote steden moeten bevinden. Ze zouden moeten worden gemeten in enkelcijferige of lage tweecijferige megawatt, terwijl ze gepositioneerd zijn binnen stedelijke gebieden en verbonden met hoogwaardige glasvezel. Het startpunt zou rond de 2 MW kunnen liggen als de locatie gegarandeerde stroom heeft. Om de haalbaarheid te illustreren, neem een bezorgrobot. Deze behandelt verschillende verzoeken en niet alles kan op het apparaat zelf worden verwerkt. Terwijl hij wordt getraind in de gigafabriek, zou meer geavanceerde real‑time ondersteuning moeten worden verwerkt door een nabijgelegen stedelijke faciliteit in plaats van elke keer naar een regionale faciliteit te sturen.

Het tweerichtingsverkeerprobleem

Stedelijke datacentra zullen niet alleen tussenstations zijn die gegevens van trainingscentra ontvangen, maar ze zullen ook grote hoeveelheden data produceren die terug de pijplijn op moeten worden gestuurd.

Elke autonome machine en sensorrijke systeem zal informatie verzamelen die moet worden verwerkt en teruggestuurd om in de training te worden geïntegreerd. Vloten van robots die na een dienst naar hun oplaadpunten terugkeren, zullen enorme bruikbare gegevens over randgevallen en dagelijkse operaties verzenden die datacentra nodig hebben om functies te verbeteren. Stel je voor dat al dit verkeer in één keer in dezelfde richting wordt gestuurd. Dat zal een knelpunt veroorzaken. Hier komt het stedelijke datacentrum van pas, omdat het een deel van de belasting kan verwerken voordat het de regionale rekencentrum overweldigt. Het kan foutieve gegevens identificeren en verwijderen, terwijl het de bruikbare delen comprimeert en verder verplaatst.

In wezen biedt het stedelijke datacentrum een extra filterlaag bovenop de twee voorgaande lagen, waardoor de datastroom nog beter georganiseerd wordt.

Is de toekomst een server op elk blok?

Hoewel ik stedelijke servers presenteer als een oplossing, is het simpelweg te duur om latentieproblemen op te lossen met ongebreidelde proliferatie. Hoe groot ook, een datacentrum heeft nog steeds een netaansluiting, transformatoren, koeling, beveiliging, netwerken en personeel nodig. Deze kosten krimpen niet evenredig met de IT‑belasting. Om het in perspectief te plaatsen, draagt een 0.5 MW faciliteit nog steeds veel van de zelfde vaste kosten als een veel grotere locatie.

In onze projecten hebben we gezien dat een zelfstandig stedelijk datacentrum economisch levensvatbaar wordt bij ongeveer 5 tot 8 MW. Zelfs als men ervan uitgaat dat meerdere locaties een netwerkoperationscentrum kunnen delen, daalt de drempel slechts tot 1.5 tot 3 MW. Daarom blijft de conclusie hetzelfde. Het splitsen van 20 MW over twintig locaties in plaats van twee of drie bespaart vrijwel geen latentie binnen een stedelijk gebied — de stedelijke glasvezelring is slechts enkele milliseconden breed — terwijl het kapitaal en operationele kosten vermenigvuldigt.

Daarom geloof ik dat de industrie kleiner moet gaan en moet bouwen wat ik “substations voor intelligentie” noem. Momenteel leren ontwikkelaars hoe ze regionale faciliteiten moeten bouwen in het bereik van 20 tot 100 MW. Het toekomstige doel is dit toe te passen op nog kleinere, stedelijke locaties om het niveau van 2 MW te bereiken dat geschikt is voor grote steden.

Het politieke obstakel

Het economische haalbaarheidsargument voorbij, blijft de politieke uitdaging bestaan. Datacentra zijn steeds meer gehaat in de media vanwege hun negatieve impact op het milieu. Volgens een Pew‑enquête gelooft meer dan de helft van de Amerikanen dat datacentra schadelijk zijn voor het milieu en hebben ze een negatieve houding ten opzichte ervan. Het argument van werkgelegenheid verbleekt in vergelijking met de hoeveelheid water, land en elektriciteit die wordt verbruikt; evenals het geluid en de emissies die worden gegenereerd. Het verkrijgen van vergunningen, zelfs voor kleinere stedelijke faciliteiten, zou moeilijk blijken te zijn.

We zien al voorbeelden van datacentrumontwikkelaars en stadsautoriteiten die tegenover elkaar staan. In de VS heeft xAI’s gebruik van gasturbines om de uitrol in Memphis te versnellen geleid tot vergunningsgeschillen, gemeenschapsverzet en rechtszaken. Europa is verder gegaan: Amsterdam legde een moratorium op voor faciliteiten boven 70 MW, Dublin staat nieuwe datacentra alleen toe als ze hun eigen opwek of opslag meebrengen, en de belangrijkste substation van de West‑London‑corridor zal niet worden versterkt vóór het begin van de jaren 2030. Zelfs buiten zulke spraakmakende gevallen, aangezien dit een nieuw twistpunt is, hebben veel stadsautoriteiten geen duidelijk goedkeuringsproces voor het goedkeuren van extra 10 MW AI‑infrastructuur binnen het stedelijke gebied. Zoals opgemerkt in een National League of Cities‑rapport, is een van de meest voorkomende uitdagingen voor steden dat oudere lokale bestemmingsplannen datacentra niet expliciet behandelen, wat leidt tot beoordeling per geval. Dergelijke juridische onzekerheden kunnen zelfs technisch haalbare projecten vertragen.

Infrastructuurbeslissingen van vandaag vormen onze capaciteit voor de toekomst

Dit alles betekent dat we proactief moeten plannen en de infrastructuur moeten bouwen die nodig is voor toekomstige ontwikkelingen in AI. Omdat modellen zich snel ontwikkelen, hangt de benodigde stroom om ze te laten draaien af van een type infrastructuur dat tijd kost om op te zetten. Netwerkaansluitingen kunnen jaren duren, en in sommige grote datacentermarkten staan de wachtrijen nu reiken tot zeven tot tien jaar. Dus als steden tegen 2030 de AI-rekenkracht opvoeren, moet die elektriciteitsinfrastructuur nu al worden gerealiseerd. Bij Teravolt schat ons werkmodel de wereldwijde stedelijke AI‑vraag op 9 tot 18 GW tegen 2036. Dat betekent ongeveer 1.000 tot 1.500 significante stedelijke en metropolitane locaties wereldwijd, afhankelijk van de gemiddelde faciliteitsgrootte, en samen zou dit een markt kunnen vertegenwoordigen ter waarde van ongeveer $500 miljard tot $1 triljoen.

Als de noodzakelijke planning niet wordt uitgevoerd, blijven we hangen met geavanceerde AI‑capaciteit die we niet kunnen benutten. Het mobiele tijdperk had de infrastructuur van zendmasten nodig voor radiodekking om mensen te volgen; anders zou de mobiele telefoon overbodig zijn geweest. Op dezelfde manier moeten we de kloof erkennen tussen de evolutie van AI en de aanleg van elektrische infrastructuur. Waar het mobiele tijdperk dekking meette in signaalbalken, zal het AI‑tijdperk dit meten in milliseconden en watt per inwoner — en het zal niet miljoenen torens nodig hebben, maar ongeveer duizend faciliteiten ter grootte van een onderstation. Glasvezel, milliseconden en megawatt zijn de valuta in dit veld, en degenen die dit tekort tijdig herkennen, zijn beter gepositioneerd om de toekomst vorm te geven.