Waarom de volgende fase van AI-infrastructuur meer dan hyperschaaldatacenters vereist

Kunstmatige intelligentie betreedt een periode waarin de infrastructuurstrategie niet langer te scheiden is van de modelcapaciteit. Gedurende jaren hebben hyperschaaldatacenters de opkomst van grootschalige training mogelijk gemaakt, waardoor frontiermodellen konden groeien van miljoenen tot triljoenen parameters. Maar naarmate de adoptie van AI versnelt in ondernemingen, industrieën en real-time systemen, inference vervangt training als de dominante workload, en inference heeft fundamenteel andere vereisten.

De volgende fase van AI kan niet worden ondersteund door hyperschaalfaciliteiten alleen. In plaats daarvan ontwikkelt zich een hybride model waarin gecentraliseerde campussen voor training worden aangevuld met gedistribueerde, krachtgeoriënteerde, commerciële schaaldatacenters voor inference. Deze verschuiving wordt gedreven door latentiebeperkingen, gegevenssoevereiniteitsbehoeften, energierealiteiten en de fysieke limieten van voortdurende hyperschaaluitbreiding.

De divergentie van training en inference

Training blijft een gecentraliseerde activiteit. Het vereist massive clusters, hoge-snelheidsgegevenspijpleidingen en lange duurjobs die profiteren van schaalvoordelen. Hyperschaalcampussen zijn hiervoor geoptimaliseerd met dichte compute, gespecialiseerde netwerkstructuren en wereldwijde beschikbaarheid. Maar inference gedraagt zich anders. Het is van korte duur, hoge volume, latentiegevoelig en vaak gekoppeld aan geografie of ondernemingsgrenzen. Analyses van Akamai’s recente werk over agentic systemen laten zien dat de meeste organisaties nu streven naar sub 500 milliseconde eind-tot-eindlatentie voor kritieke AI-use cases, en multi-agentworkflows overschrijden deze drempel vaak alleen al vanwege netwerktransit en CPU-kantuitvoering.

Latentie is geen abstracte metric. In robotica en autonome systemen lopen controleloops vaak op 100 tot 1.000 hertz elke 1 tot 10 milliseconden. Elke off-boardintelligentie moet deze tijdsbeperkingen respecteren. Een 50 milliseconde ronduit naar een ver datacenter breekt de controle-regime helemaal. In financiële handel en fraude detectie bepalen milliseconden economische resultaten. In industriële automatisering kan vertraagde inference processen destabiliseren of veiligheid compromitteren. En in interactieve ervaringen zoals gaming, AR/VR en real-time copilots, neemt responsiviteit scherp af boven 100 tot 150 milliseconden.

Moderne AI-systemen zijn steeds meer afhankelijk van multi-agentworkflows bestaande uit ketens van tientallen opeenvolgende oproepen. Akamai’s analyse toont aan dat CPU-kantuitvoering de meerderheid van de totale latentie kan verklaren, en elke netwerkronde vertraagt extra vertraging toevoegt. Een workflow met 50 opeenvolgende oproepen kan seconden transportlatentie veroorzaken wanneer deze wordt doorgestuurd naar een ver hyperschaalregio. Plaats diezelfde workflow in een hyperlokaal datacenter op dezelfde campus of metrogebied en de fysica verandert. Lokale inference kan 1 tot 5 milliseconde ronduitlatentie leveren. Een 50-stappenworkflow die in een ver regio seconden zou duren, kan lokaal worden voltooid in 50 tot 250 milliseconden, binnen ondernemingslatentiebudgetten.

Gegevenssoevereiniteit en gridrealiteiten die lokale implementaties aandrijven

Latentie is slechts een deel van het verhaal. Voor gereguleerde industrieën zoals gezondheidszorg, financiën en publieke sector is gegevenssoevereiniteit vaak de primaire driver voor lokale inference. Het uitvoeren van AI-workloads achter een ondernemingsfirewall behoudt bestaande beveiligingsperimeters, vermindert multitenantexposure, vereenvoudigt compliance en houdt gevoelige gegevens buiten gedeelde cloudinfrastructuur. Hyperschaalproviders bieden sterke beveiliging, maar de aanvalsoppervlakte en vertrouwensketen zijn inherent breder. Ondernemingen geven de voorkeur aan inference-architecturen die aansluiten bij hun bestaande beveiligingspostuur.

Naast zorgen over latentie en beveiliging wordt energiebeschikbaarheid een even belangrijke beperking. Grote hyperschaalcampussen hebben vaak te maken met meerdere jaren vertraging vanwege transmissiebeperkingen en interconnectiewachtrijen. Kleine commerciële schaalimplementaties, vooral die welke zijn gesitueerd nabij bestaande belastingen of gedistribueerde generatie, kunnen vaak veel sneller worden geënergiseerd. Dit is belangrijk omdat AI-vraag botst met een vreemde paradox.

Tegelijkertijd worstelen operators met het veiligstellen van nieuwe gridverbindingen, worden enorme hoeveelheden hernieuwbare energie teruggedraaid. Wereldwijd overschrijdt hernieuwbare energie-terugdraaiing 200 terawattuur per jaar. In de Verenigde Staten wordt de terugdraaiing geschat op ongeveer 20 terawattuur per jaar. ERCOT alleen al draaide meer dan 9 terawattuur wind- en zonne-energie terug in een recent jaar. Ondertussen draaide CAISO 3,4 terawattuur zonne- en windenergie terug in 2024, met zonne-energie die verantwoordelijk was voor 93% van alle afgeknipte output. Energie-systeemonderzoeken laten consistent zien dat zowel zonne- als windenergie aanzienlijke terugdraaiing ondervinden wanneer generatie de gridcapaciteit overschrijdt. Zonne-terugdraaiing is vooral gebruikelijk in regio’s met sterke middagpieken, terwijl wind-terugdraaiing vaak optreedt tijdens off-peakuren of in beperkte corridors. Gedistribueerde datacenters die zijn gesitueerd nabij generatie, vooral in zonne-rijke regio’s, kunnen gestrande energie omzetten in bruikbare inferentiecapaciteit.

Hyperschaalcampussen zullen essentieel blijven voor training, maar ze hebben te maken met groeiende fysieke en economische limieten. Aansluiting op het transmissienet kan een langdurig proces zijn, het vereist nieuwe transformatorstations, transmissie-upgrades, meerdere agentschappen, vergunningen en gemeentelijke beoordeling. Dit zijn processen die routinematig jaren duren. Hyperschaalfaciliteiten vereisen grote landoppervlakken, aanzienlijke waterallocaties en complexe milieukeuringen. Gemeenschappen zijn steeds meer weerstand bieden tegen nieuwe datacenterontwikkeling vanwege geluid, watergebruik en landimpact. En gecentraliseerde campussen concentreren risico’s zodanig dat weersgebeurtenissen, netstoringen of geopolitieke verstoringen grote delen van de wereldwijde rekenkracht kunnen beïnvloeden. Gedistribueerde architecturen bieden geografische redundantie en operationele veerkracht.

De toekomst is een multi-tier AI-architectuur

Wanneer het gaat om het waarborgen dat inferentieberekeningen soepel verlopen, kan efficiëntie even belangrijk worden als ruwe capaciteit. Inference verbruikt energie continu, en industrieanalisten suggereren dat inference uiteindelijk de meerderheid van de AI-gerelateerde energieverbruik kan vertegenwoordigen. Efficiëntiegewinnen van lokale hernieuwbare integratie, verminderde transmissieverliezen, rechtsgrootteimplementaties, verbeterde thermische profielen en hogere benuttingsgraden zullen essentieel worden om wereldwijd AI-vraag duurzaam te kunnen invullen. Gedistribueerde commerciële schaaldatacenters zijn goed gepositioneerd om deze gewinnen te leveren omdat ze kunnen worden gesitueerd waar energie overvloedig, goedkoop of onderbenut is.

De volgende fase van AI-infrastructuur zal een hybride mengsel zijn van hyperschaalcampussen die training domineren, gedistribueerde commerciële schaaldatacenters die inference ondersteunen, en edge-apparaten die ultralokale workloads bedienen. Deze multi-tierarchitectuur weerspiegelt de fysieke realiteiten van energie, latentie, beveiliging en schaal. Naarmate AI wordt geïntegreerd in real-time systemen in elke industrie, moet de infrastructuur dienovereenkomstig evolueren om inference dichter bij de wereld te brengen die het dient.