Google a publicat numere reale despre consumul de energie al inteligenței artificiale — Și nu sunt ceea ce credeți

Toată lumea vorbește despre amprenta energetică masivă a inteligenței artificiale. Ați văzut titlurile: “ChatGPT folosește atâta electricitate cât o țară mică” sau “Fiecare interogare AI bea o sticlă de apă.”

Google a publicat date reale din sistemele lor de producție, iar numerele spun o poveste complet diferită.

Costul real de energie al interogării dvs. AI

Iată ce a găsit Google: Promptul mediu Gemini text folosește 0,24 wați-ore de energie. Acesta este mai puțin electricitate decât urmărirea TV-ului timp de nouă secunde. Consumul de apă? Cinci picături. Nu cinci pahare. Cinci picături.

Diferența dintre percepția publică și realitate este masivă. Estimările anterioare au afirmat că prompturile AI consumă între 10 și 50 de mililitri de apă pe interogare. Unele studii au sugerat un consum de energie de 30 de ori mai mare decât ceea ce măsoară Google în producție.

De ce este această diferență enormă? Pentru că nimeni nu a măsurat sisteme reale la scară largă până acum. Studiile academice rulează teste izolate pe hardware subutilizat. Ei măsoară, în esență, eficiența combustibilului unei mașini în timp ce este oprită în garaj.

Îmbunătățirea de 44 de ori

Google a redus emisiile de carbon ale sistemelor AI cu 44 de ori într-un an. Nu 44 la sută — 44 de ori.

Aceasta nu este o îmbunătățire teoretică într-un laborator. Acest lucru se întâmplă chiar acum pe sistemele care servesc miliarde de interogări. Ei au realizat acest lucru prin combinarea optimizării software (îmbunătățire de 33 de ori) și a surselor de energie mai curate (îmbunătățire de 1,4 ori).

Majoritatea studiilor examinează doar cipurile AI care efectuează calculul. Acesta este similar cu măsurarea consumului de energie al unui restaurant prin numărarea doar a cuptoarelor, ignorând frigiderele, luminile și sistemele de încălzire și răcire.

Datele Google arată imaginea completă: Da, acceleratoarele AI folosesc 58% din energie. Dar aveți nevoie și de procesoare și memorie obișnuite (24%), de capacitate de rezervă pentru fiabilitate (10%) și de sisteme de răcire (8%). Omiterea oricăruia dintre acestea din măsurători face ca numerele dvs. să fie, în esență, lipsite de sens.

Când Google a aplicat metoda îngustă pe care o folosește toată lumea — doar măsurând cipurile AI pe mașini complet utilizate — cifra lor de energie a scăzut la 0,10 wați-ore. Sistemul real de producție folosește de 2,4 ori mai multă energie, deoarece sistemele reale au nevoie de redundanță, răcire și infrastructură de susținere.

Ce înseamnă acest lucru, de fapt, pentru viitorul inteligenței artificiale

Narativa din jurul consumului de energie al inteligenței artificiale are nevoie de o corectură a realității. Da, inteligența artificială folosește energie. Dar sistemele optimizate corespunzător sunt mult mai eficiente decât sugerează scenariile de dezastru.

Contextul contează aici. Acei 0,24 wați-ore pe interogare? Americanii folosesc aproximativ 30 de kilowați-ore de electricitate pe zi, în medie. Aveți nevoie de 125.000 de interogări AI pentru a egala o zi obișnuită de consum de energie casnic.

Povestea consumului de apă este și mai dramatică. Acele cinci picături de apă pe interogare? Folosiți mai multă apă în primul secund de spălare a mâinilor.

Stiva de optimizare

Google nu obține aceste numere prin vreo singură descoperire. Ei stivuiesc optimizări în fiecare strat al sistemului.

Ei rulează modele “schetch” mai mici care schițează răspunsuri, apoi verifică cu modele mai mari doar atunci când este nevoie. Ei grupează mii de interogări împreună pentru eficiență. Ei folosesc cipuri personalizate proiectate special pentru sarcini de inteligență artificială, care sunt de 30 de ori mai eficiente decât prima lor generație.

Centrele lor de date rulează la doar 9% supraîncărcare peste minimum teoretic — practic la fel de eficient cum este fizic posibil. Și ei sunt din ce în ce mai mult alimentați de energie curată, reducând emisiile chiar și atunci când consumul de electricitate crește.

Rezumat

Acest lucru funcționează doar atunci când companiile optimizează cu adevărat stiva lor completă și măsoară corespunzător. Companiile care tratează infrastructura de inteligență artificială ca pe o grijă secundară, rulează sisteme ineficiente pe rețele de energie murdară? Ei sunt cei care creează problemele despre care toată lumea se îngrijorează.

Diferența dintre sistemele eficiente și ineficiente de inteligență artificială este absolut uriașă. Și, în acest moment, cea mai mare parte a industriei rulează încă versiunea ineficientă.