Další úzké místo v napájení AI bude uvnitř měst

V posledních několika letech, a to stále pokračuje, trh s AI infrastrukturou vynaložil obrovské množství času i peněz (téměř $7 trilionu investic do datových center do roku 2030, podle odhadu McKinsey) na to, jak postavit velká datová centra tam, kde je dostupná energie. „Kdekoliv“ je klíčové slovo, protože poloha nebyla příliš důležitá. Tréninkový klastr potřebuje jen přístup k dostatečnému napájení. Ale poloha se nyní stává čím dál relevantnější, protože využití AI roste mimo chatovací rozhraní k strojům, hlasovým systémům, videu a aplikacím, které interagují s fyzickým světem. Takové operace vyžadují výpočetní výkon blíže k městským centrům, kde se tyto interakce odehrávají, aby se snížila latence. Zatímco nástroje jako chatboti mohou tolerovat půlsekundové zpoždění, automatizované servisní aplikace jako dálkově řízené doručovací roboty, živé hlasové asistenty nebo automatizované plnící systémy mohou potřebovat reagovat během milisekund.

To je nová výzva pro společnosti zabývající se AI. Jak najít menší bloky spolehlivého napájení v a kolem velkých metropolitních oblastí? A i po vyhledání lokalit, jak se vypořádat s odporem, kterému čelí i vzdálená datová centra?

Poptávka po AI v městských centrech roste

V městské sféře roste poptávka po AI, která přesahuje osobní používání chatbotů nebo jakoukoli posedlost roboty. IMF working paper odhaduje, že spotřeba elektřiny datovými centry a AI již v roce 2023 dosáhla 400–500 TWh celosvětově a spotřeba poháněná AI by mohla potenciálně dosáhnout 1 500 TWh do roku 2030. Automatizace potřebná k tomu, aby se jednoduché operace staly efektivnějšími – ať už jde o zpracování papírování nebo archivaci videí – vyžaduje velké množství energie ve velkém měřítku.

Města jsou v čele, jak ukazuje přehled OECD zahrnující 250 měst ve 78 zemích. Zjistilo se, že 56 % již aktivně používá AI, zatímco dalších 35 % pilotuje nebo plánuje nasazení. Pro ilustraci jednoduchého příkladu si představme městské bezpečnostní kamery. IHS Markit estimated před několika lety, že počet bezpečnostních kamer po celém světě překročí jednu miliardu. Ačkoliv jsou převážně používány k nahrávání, nyní slouží i pro náročnější výpočty, např. sledování objektů v síti nebo vyhledávání ve velkých videoarchivech pomocí přirozeného jazyka. Takové procesy nemohou probíhat v každé kameře s aktuálním AI zpracováním, které máme. Měly by být odeslány mimo město do vzdáleného datového centra k zpracování? To je nepraktické kvůli předpisům o datech i nákladům na přenos tak velkého objemu provozu.

Nedávný průzkum Gallup ukazuje, že přibližně 30 % zaměstnanců soukromého i veřejného sektoru používá AI ve své roli a čísla rostou. Tyto sektory – ať už bankovnictví, nemocnice nebo veřejné organizace – čelí stejným problémům. Chtějí AI infrastrukturu ve své vlastní jurisdikci a fyzicky dostatečně blízko pro kontrolu. Jejich interaktivní hlasové systémy a videoaplikace se zhoršují se zvyšující se latencí sítě. I když lze problém zpočátku obejít zachováním lidského operátora pro první generaci autonomních systémů, tato dohledová role není vůči latenci příliš tolerantní. Například doručovací roboty a domácí roboty řízené přes video spojení vyžadují kompletní komunikační smyčku, která musí zůstat pod přibližně 80 milisekund, jak ukazuje studie dálkového robotického teleoperace. Autonomní auta jsou naopak výjimkou: řízení zůstává na palubě z bezpečnostních důvodů a dálkoví operátoři Waymo pracují s latencí čtvrtiny sekundy, někteří dokonce z jiného kontinentu. To, co město získá od autonomních flotil, jsou jejich data, nikoli volant.

Trh s datovými centry podceňuje tento nárůst poptávky. Světová banka zveřejnila studii ukazující, jak municipalities v zemích jako Argentina, India a Etiopie, mezi jinými, přijaly AI v oblastech justice, boje proti korupci, cel, veřejné správy a zlepšování služeb. Toto není lokální jev. Je to globální transformace. V Teravolt odhadujeme, že metropolitní oblast s 10 až 15 miliony obyvatel by mohla do roku 2030 podpořit přibližně 6 až 13 MW kontinuálního zatížení AI citlivého na latenci, ještě před masovým nasazením obecně zaměřených robotů. Argumentovaně to není takové číslo podle standardů hyperskálování, ale najít ho na správném místě je podstatně obtížnější, než se zdá. Do roku 2036 se stejná metropolitní oblast posune na 22 až 50 MW zatížení citlivého na latenci — a na 60 až 100 MW, pokud automobilový průmysl začne vyrábět roboty v automobilovém měřítku. Ekonomika poptávky je neúprosná v tom nejlepším smyslu: několik stovek dolarů ročně za server na stroji, který nahradí 30 000 až 60 000 dolarů práce, představuje poptávku, která nevyjednává o ceně.

Přidání čtvrté úrovně výpočtů

V současnosti existují tři úrovně výpočetního výkonu pro AI. Horní vrstva tvoří gigafactory, které se používají k trénování modelů. Jejich umístění zajímá vývojáře jen v tom smyslu, že zajišťuje velké množství energie za přijatelnou cenu. Dále následují regionální AI zařízení, typicky v rozmezí 20 až 200 MW, kde se odehrává většina pravidelné poptávky po inferenci v hlavních cloudových a podnikových operacích. Nakonec máme výpočetní výkon zabudovaný přímo do zařízení nebo robota.

Zdá se, že mezi posledními dvěma vrstvami existuje mezera, kterou označuji jako městní vrstvu – mezera zodpovědná za problémy s latencí. Tyto by měly být umístěny uvnitř nebo velmi blízko velkých měst. Měly by být dimenzovány v jednotkách jednociferných nebo nízkých dvouciferných megawattů a umístěny v metropolitních oblastech s připojením k vysoce kvalitnímu optickému vláknu. Výchozím bodem by mohlo být kolem 2 MW, pokud má místo garantované napájení. Pro ilustraci praktičnosti si představme doručovacího robota. Zpracovává různé požadavky a ne všechny lze vyřídit přímo na zařízení. Zatímco je trénován v gigafactory, pokročilejší asistence v reálném čase by musela být zpracována v blízkém městském zařízení místo každého odeslání do regionálního zařízení.

Problém obousměrného provozu

Městská datová centra nebudou jen mezičlánky přijímajícími data z výcvikových center, ale také budou generovat velké množství dat, která budou posílána zpět po řetězci.

Každý autonomní stroj a systém bohatý na senzory bude shromažďovat informace, které bude nutné zpracovat a odeslat zpět k integraci do tréninku. Flotily robotů vracející se po směně k nabíjecím stanicím budou posílat obrovské užitečné informace o okrajových případech a každodenním provozu, které datová centra potřebují ke zlepšení funkcí. Představte si, že celý tento provoz je odeslán najednou stejným směrem. Vytvoří to úzké hrdlo. Právě zde se městské datové centrum hodí, protože může část zátěže zpracovat dříve, než přetíží regionální výpočetní zařízení. Dokáže identifikovat a odfiltrovat některá chybná data a zároveň komprimovat a předávat užitečné části.

V podstatě městské datové centrum poskytuje další vrstvu filtrování k těm dvěma předchozím vrstvám, čímž činí tok dat ještě organizovanějším.

Je budoucnost server na každém bloku?

Ačkoliv představuji městské servery jako řešení, je to také prostě příliš drahé, aby se řešily problémy s latencí nekontrolovaným rozšířením. Bez ohledu na velikost datové centrum stále vyžaduje připojení k síti, transformátory, chlazení, zabezpečení, síťovou infrastrukturu a personál. Tyto náklady se nesnižují úměrně s IT zátěží. Pro srovnání, zařízení o výkonu 0,5 MW stále nese mnoho stejných fixních nákladů jako mnohem větší místo.

V našich projektech jsme zjistili, že samostatné městské datové centrum je ekonomicky životaschopné při výkonu přibližně 5 až 8 MW. I když předpokládáme, že několik míst může sdílet síťové operační centrum, hranice klesá jen na 1,5 až 3 MW. Proto je výsledek stále stejný. Rozdělením 20 MW mezi dvacet lokací místo dvou či tří se téměř žádná latence v rámci metropolitní oblasti nesníží – městský optický vláknový okruh má jen několik milisekund – a zároveň se násobí kapitálové a provozní náklady.

Proto věřím, že průmysl musí zmenšovat velikost a stavět to, co nazývám “substations pro inteligenci”. V současnosti se vývojáři učí budovat regionální zařízení v rozsahu 20 až 100 MW. Budoucím cílem je tuto úroveň aplikovat i na menší městské lokality, aby dosáhly úrovně 2 MW vhodné pro velká města.

Politická překážka

Přes ekonomickou životaschopnost politická výzva stále přetrvává. Datová centra se stala čím dál tím víc poškozována v médiích kvůli svému negativnímu dopadu na životní prostředí. Podle průzkumu Pew více než polovina Američanů považuje datová centra za škodlivá pro životní prostředí a má k nim negativní názory. Argument tvorby pracovních míst bledne ve srovnání s množstvím spotřebované vody, půdy a elektřiny; stejně tak s hlukem a emisemi, které vznikají. Získání povolení i pro menší městské zařízení by se ukázalo jako obtížné.

Již vidíme příklady, kdy vývojáři datových center a městské úřady stojí v rozporu. Ve Spojených státech použití plynových turbín společností xAI k urychlení výstavby v Memphisu vyvolalo spory o povolení, odpor komunity a soudní řízení. Evropa šla dál: Amsterdam uvalil moratorium na zařízení nad 70 MW, Dublin nyní povoluje nové datové centrum jen pokud přinese vlastní výrobu nebo úložiště, a klíčová podstanice západního londýnského koridoru nebude posílena před začátkem 2030‑let. I mimo takové vysoce profilové případy, protože se jedná o novou oblast sporu, mnoho městských úřadů nemá jasný schvalovací proces pro přidání dalších 10 MW AI infrastruktury do městské oblasti. Jak uvádí zpráva National League of Cities, jednou z nejčastějších výzev pro města je, že starší místní územní plány výslovně neřeší datová centra, což vede k posuzování případ od případu. Takové právní nejistoty mohou zpozdit i technicky životaschopné projekty.

Rozhodnutí o infrastruktuře dnes formují naši kapacitu pro budoucnost

To vše říká, že musíme předem naplánovat a vybudovat infrastrukturu potřebnou pro budoucí pokroky v AI. Protože zatímco se modely vyvíjejí rychle, energie potřebná k jejich provozu závisí na typu infrastruktury, která vyžaduje čas na výstavbu. Připojení k síti může trvat roky a v některých hlavních trzích datových center se fronty nyní protahují na sedm až deset let. Takže pokud města do roku 2030 zvyšují výpočetní kapacitu AI, musí být tato elektrická infrastruktura zřízena již nyní. Ve společnosti Teravolt náš pracovní model odhaduje globální poptávku po městské AI na 9 až 18 GW do roku 2036. To znamená přibližně 1 000 až 1 500 významných městských a metropolitních lokalit po celém světě, v závislosti na průměrné velikosti zařízení, a celkově by to mohlo představovat trh v hodnotě přibližně 500 miliard až 1 trilion dolarů.

Pokud nezbytné plánování neproběhne, zůstaneme uvězněni s pokročilou kapacitou AI, kterou nebudeme schopni využít. Mobilní éra potřebovala infrastrukturu věží pro rádiové pokrytí, aby mohla sledovat lidi; jinak by byl mobilní telefon zbytečný. Podobně musíme rozpoznat nesoulad mezi vývojem AI a instalací elektrické infrastruktury. Zatímco mobilní éra měřila pokrytí v signálových pruzích, AI éra bude měřit v milisekundách a wattech na obyvatele – a nebude potřebovat miliony věží, ale přibližně tisíc zařízení velikosti podstanice. Optické vlákno, milisekundy a megawatty jsou v tomto oboru měnou a ti, kteří tuto nedostatečnost rozpoznají včas, budou lépe připraveni formovat budoucnost.