Următorul blocaj de putere al AI-ului va fi în interiorul orașelor

În ultimii câțiva ani, și în continuare, piața infrastructurii AI a investit mult timp și bani (aproape de $7 trilioane de investiții în centre de date până în 2030, conform estimărilor McKinsey) pentru a învăța cum să construiască centre de date mari oriunde este disponibilă energie. „Oriunde” este cuvântul cheie, deoarece locația nu era foarte importantă. Un cluster de antrenament are nevoie doar de acces la energie suficientă. Dar locația începe să devină din ce în ce mai relevantă în prezent, pe măsură ce utilizarea AI se extinde dincolo de interfețele de chat către mașini, sisteme vocale, video și aplicații care interacționează cu lumea fizică. Astfel de operațiuni necesită putere de calcul mai aproape de centrele urbane unde se produc acele interacțiuni pentru a reduce latența. În timp ce instrumente precum chatboții pot tolera o întârziere de jumătate de secundă, aplicațiile de servicii automate, cum ar fi roboții de livrare supravegheați de la distanță, asistenții vocali în timp real sau sistemele automate de îndeplinire a comenzilor pot necesita reacții în milisecunde.

Aceasta este noua provocare pentru companiile AI. Cum să găsească blocuri mai mici de energie fiabilă în și în jurul marilor zone metropolitane? Și chiar și după ce locațiile au fost identificate, cum să facă față reacțiilor negative pe care le întâmpină chiar și centrele de date la distanță?

Cererea de AI în centrele urbane este în creștere

Există o cerere tot mai mare în sfera urbană pentru AI care depășește utilizarea personală a chatboturilor sau orice obsesie pentru roboți. Un document de lucru al FMI estimează că consumul de electricitate al centrelor de date și al AI a atins deja 400–500 TWh la nivel global în 2023, iar consumul generat de AI ar putea ajunge la 1.500 TWh până în 2030. Automatizarea necesară pentru a face operațiunile simple mai eficiente — fie în procesarea documentelor, fie în arhivarea videoclipurilor — necesită multă energie la scară.

Orasele sunt în fruntea acestui fenomen, așa cum arată un studiu OECD al 250 de orașe din 78 de țări. S-a constatat că 56 % utilizau deja AI în mod activ, în timp ce alte 35 % pilotau sau planificau implementări. Pentru a ilustra un caz simplu, să luăm în considerare camerele de supraveghere din oraș. IHS Markit a estimat în urmă cu câțiva ani că numărul camerelor de supraveghere la nivel mondial va depăși un miliard. Deși sunt folosite în principal pentru înregistrare, ele sunt acum utilizate și pentru alte sarcini mai solicitante din punct de vedere computațional, de ex., urmărirea obiectelor printr-o rețea sau căutarea în arhive video mari folosind limbaj natural. Astfel de procese nu pot avea loc în fiecare cameră cu procesarea AI actuală. Ar trebui să fie trimise în afara orașului către un centru de date îndepărtat pentru a fi procesate? Aceasta este impracticabilă din cauza reglementărilor privind datele și a costului mutării unor volume atât de mari de trafic.

Un sondaj recent Gallup arată că aproximativ 30 % dintre angajații din sectorul privat și public utilizează AI în rolul lor, iar cifrele sunt în creștere. Aceste sectoare — fie că este vorba de bănci, spitale sau organizații din sectorul public — se confruntă cu aceleași probleme. Ele doresc infrastructura AI în propria lor jurisdicție și suficient de apropiată fizic pentru a fi controlată. Sistemele lor interactive de voce și aplicațiile video se degradează pe măsură ce latența rețelei crește. Chiar dacă problema poate fi inițial ocolită prin menținerea unui operator uman pentru prima generație de sisteme autonome, acea supraveghere nu este foarte tolerantă la latență. De exemplu, roboții de livrare și roboții de casă supravegheați printr-o conexiune video necesită un ciclu complet de comunicare care trebuie să rămână sub aproximativ 80 de milisecunde, conform unui studiu de teleoperare robotică la distanță. Mașinile autonome, contrar așteptărilor, sunt excepția: conducerea rămâne la bord din motive de siguranță, iar operatorii la distanță ai Waymo lucrează cu o latență de un sfert de secundă, unii dintre ei fiind dintr-un alt continent. Ce moștenește orașul de la flotele autonome sunt datele, nu volanul.

Piața centrelor de date subestimează această creștere a cererii. Banca Mondială a publicat un document care arată cum municipalitățile din țări precum Argentina, India și Etiopia, printre altele, au adoptat AI în domenii precum justiția, combaterea corupției, vamă, administrație publică și îmbunătățirea serviciilor. Acesta nu este un fenomen local. Este o transformare globală. La Teravolt, estimăm că o zonă metropolitană cu 10‑15 milioane de locuitori ar putea susține aproximativ 6‑13 MW de sarcină AI sensibilă la latență continuă până în 2030, înainte ca roboții cu scop general să fie implementați în masă. Se poate argumenta că nu este un număr foarte mare conform standardelor hyperscale, dar găsirea lui în locul potrivit este mult mai dificilă decât pare. Până în 2036, aceeași zonă metropolitană va trece la 22‑50 MW de sarcină sensibilă la latență — și la 60‑100 MW dacă industria auto începe să producă roboți la scară auto. Economia cererii este neiertătoare în cel mai bun sens: câteva sute de dolari pe an pentru costul serverelor pe o mașină care înlocuiește $30.000‑$60.000 de muncă reprezintă o cerere care nu negociază prețul.

Adăugarea unui al patrulea nivel la calcul

În prezent, puterea de calcul pentru AI există la trei niveluri. Stratului superior îi aparțin gigafabricile utilizate pentru antrenarea modelelor. Locația lor contează pentru dezvoltatori doar în măsura în care asigură cantități mari de energie la un preț acceptabil. Urmează facilitățile regionale AI, de obicei între 20 și 200 MW, unde are loc cererea recurentă de inferență în operațiunile majore de cloud și enterprise. În final, există puterea de calcul integrată direct în dispozitiv sau robot.

Se pare că există o lacună între ultimele două niveluri pe care o identific ca stratul urban — lacuna responsabilă pentru problemele de latență. Acestea ar trebui să fie amplasate în interiorul sau foarte aproape de orașele mari. Ele ar trebui să fie măsurate în megawați cu o singură cifră sau cu două cifre mici, în timp ce sunt poziționate în zone metropolitane și conectate la fibră de înaltă calitate. Punctul de plecare ar putea fi în jur de 2 MW dacă site‑ul are energie garantată. Pentru a ilustra practicitatea, să luăm în considerare un robot de livrare. Acesta gestionează diferite cereri și nu toate pot fi procesate pe dispozitivul în cauză. Deși este antrenat la gigafabrică, ar fi necesară o asistență mai avansată în timp real, procesată de o facilitate urbană apropiată, în loc să fie trimisă la o facilitate regională de fiecare dată.

Problema traficului bidirecțional

Centrele de date urbane nu vor fi doar puncte intermediare de primire a datelor de la centrele de antrenament, ci vor produce și cantități mari de date care să fie trimise înapoi pe lanțul de procesare.

Fiecare mașină autonomă și sistem bogat în senzori va acumula informații care trebuie procesate și trimise înapoi pentru a fi integrate în antrenament. Flotele de roboți care se întorc la stațiile de încărcare după o tură vor transmite informații extrem de utile despre cazuri limită și operațiuni zilnice, de care centrele de date au nevoie pentru a îmbunătăți funcțiile. Imaginați-vă tot acest trafic trimis simultan în aceeași direcție. Va crea un blocaj. Aici intervine centrul de date urban, deoarece poate procesa o parte din sarcină înainte ca aceasta să copleșească facilitatea de calcul regională. Poate identifica și elimina unele date eronate, comprimând și transmitând părțile utile.

În esență, centrul de date urban oferă un alt strat de filtrare celor două niveluri anterioare, organizând fluxul de date într-un mod mult mai structurat.

Este viitorul un server pe fiecare bloc?

Deși prezint serverele urbane ca o soluție, este pur și simplu prea costisitor să rezolvăm problemele de latență prin proliferarea necontrolată. Indiferent de dimensiune, un centru de date necesită în continuare o conexiune la rețea, transformatoare, răcire, securitate, rețelistică și personal. Aceste costuri nu scad proporțional cu sarcina IT. Pentru a pune în perspectivă, o facilitate de 0,5 MW suportă în continuare multe dintre aceleași costuri fixe ca un site mult mai mare.

În proiectele noastre, am observat că un centru de date urban devine viabil din punct de vedere economic în jurul valorii de 5 până la 8 MW. Chiar și presupunând că mai multe site‑uri ar putea împărți un centru de operațiuni de rețea, pragul scade doar la 1,5‑3 MW. Prin urmare, concluzia rămâne aceeași. Împărțirea 20 MW pe douăzeci de locații în loc de două sau trei economisește practic zero latență în interiorul unei zone metropolitane — inelul de fibră al orașului are doar câteva milisecunde — în timp ce multiplică costurile de capital și de operare.

De aceea cred că industria trebuie să reducă dimensiunile și să construiască ceea ce numesc „stații de transformare pentru inteligență”. În prezent, dezvoltatorii învață să construiască facilități regionale în intervalul de 20 până la 100 MW. Scopul viitor este să aplice acest model la site‑uri urbane și mai mici, pentru a atinge nivelul de 2 MW adecvat marilor orașe.

Obstacolul politic

Depășind viabilitatea economică, provocarea politică rămâne. Centrele de date au devenit din ce în ce mai vilipiate în mass‑media pentru impactul lor negativ asupra mediului. Conform unui sondaj Pew, mai mult de jumătate dintre americani consideră centrele de date dăunătoare pentru mediu și au opinii negative în legătură cu acestea. Argumentul creării de locuri de muncă palidează în comparație cu cantitatea de apă, teren și electricitate consumate, precum și cu zgomotul și emisiile generate. Obținerea aprobărilor chiar și pentru facilități urbane mai mici se va dovedi dificilă.

Observăm deja exemple de dezvoltatori de centre de date și autorități locale în conflict. În SUA, utilizarea de turbine cu gaz de către xAI pentru a accelera construcția din Memphis a generat dispute de autorizare, opoziție comunitară și litigii. Europa a mers mai departe: Amsterdam a impus un moratoriu pentru facilități peste 70 MW, Dublin acceptă noi centre de date doar dacă aduc propria generație sau stocare, iar stația de transformare cheie a coridorului West London nu va fi consolidată înainte de începutul anilor 2030. Chiar și în afara unor cazuri de profil înalt, având în vedere că este o nouă zonă de dispută, multe autorități locale nu au un proces clar de aprobare pentru adăugarea a încă 10 MW de infrastructură AI în zona urbană. După cum notează un raport al National League of Cities, una dintre cele mai frecvente provocări pentru orașe este că codurile locale de zonare vechi nu abordează explicit centrele de date, ceea ce duce la revizuiri caz cu caz. Astfel de incertitudini juridice pot întârzia chiar și proiectele tehnic viabile.

Deciziile de infrastructură de astăzi modelează capacitatea noastră pentru viitor

Totul acesta înseamnă că trebuie să planificăm și să construim în mod anticipat infrastructura necesară pentru progresările viitoare ale inteligenței artificiale. Pentru că, deși modelele se dezvoltă rapid, energia necesară pentru a le rula depinde de un tip de infrastructură care necesită timp pentru a fi construită. Conexiunile la rețea pot dura ani, iar în unele piețe majore de centre de date cozile se se întind la șapte până la zece ani. Deci, dacă orașele își cresc puterea de calcul AI până în 2030, infrastructura electrică trebuie să fie pusă în funcțiune acum. La Teravolt, modelul nostru de lucru estimează că cererea globală urbană de AI va fi între 9 și 18 GW până în 2036. Aceasta implică aproximativ 1000 până la 1500 de site-uri urbane și metropolitane semnificative la nivel mondial, în funcție de dimensiunea medie a facilității, și, în total, ar putea reprezenta o piață în valoare de aproximativ $500 miliarde până la $1 trilion.

Dacă planificarea necesară nu este realizată, vom rămâne blocați cu o capacitate avansată de AI pe care nu o putem exploata. Era mobilă a necesitat existența unei infrastructuri de turnuri pentru acoperirea radio, altfel telefonul mobil ar fi fost inutil. În mod similar, trebuie să recunoaștem neconcordanța dintre evoluția AI și instalarea infrastructurii electrice. În timp ce era mobilă măsura acoperirea în bare de semnal, era AI o va măsura în milisecunde și wați per locuitor — și nu va avea nevoie de milioane de turnuri, ci de aproximativ o mie de facilități de dimensiunea unei stații de transformare. Fibra optică, milisecundele și megawații sunt moneda în acest domeniu, iar cei care recunosc această penurie din timp sunt mai bine poziționați să modeleze viitorul.