Google har offentliggjort virkelige tall om AI-energibruken – og de er ikke det du tror

Alle snakker om AI sin massive energifotavtrykk. Du har sett overskriftene: “ChatGPT bruker like mye strøm som et lite land” eller “Hver AI-spørring drikker en flaske vann.”

Google har nettopp offentliggjort faktiske data fra deres produksjonssystemer, og tallene forteller en helt annen historie.

Den virkelige energikosten for din AI-spørring

Her er hva Google fant ut: Den mediane Gemini-tekstspørring bruker 0,24 watt-timer med energi. Det er mindre strøm enn å se på TV i ni sekunder. Vannforbruk? Fem dråper. Ikke fem glass. Fem dråper.

Gapet mellom offentlig oppfatning og virkeligheten er massive. Tidligere estimater hevdet at AI-spørringer forbrukte mellom 10 og 50 milliliter vann per spørring. Noen studier antydet energiforbruk 30 ganger høyere enn hva Google måler i produksjon.

Hvorfor er forskjellen så stor? Fordi ingen har målt virkelige systemer i stor skala før nå. Akademiske studier kjører isolerte tester på underutnyttet maskinvare. De måler i praksis en bil sitt bensinforbruk mens den står på parkeringsplassen.

44-gangers forbedring

Google reduserte sine AI-utslipp med 44 ganger på ett år. Ikke 44 prosent – 44 ganger.

Dette er ikke noen teoretisk forbedring i et laboratorium. Dette skjer nå på systemene som betjener milliarder av spørringer. De oppnådde dette gjennom en kombinasjon av programvareoptimering (33 ganger forbedring) og renere energikilder (1,4 ganger forbedring).

De fleste studier ser bare på AI-chipene som gjør beregningene. Det er som å måle en restaurants energiforbruk ved bare å telle ovnene, og ignorere kjøleskapene, lyset og klimaanlegget.

Googles data viser det komplette bildet: Ja, AI-akseleratorene bruker 58% av energien. Men du trenger også vanlige prosessorer og minne (24%), reservekapasitet for pålitelighet (10%) og kjølesystemer (8%). Hvis du hopper over noen av disse i målingene dine, er tallene dine i praksis meningsløse.

Når Google brukte den smale metoden som alle andre bruker – bare måling av AI-chipene på fullt utnyttede maskiner – falt deres energitall til 0,10 watt-timer. Det virkelige produksjonssystemet bruker 2,4 ganger mer energi fordi virkelige systemer trenger redundans, kjøling og støtteinfrastruktur.

Hva dette faktisk betyr for AI sin fremtid

Fortellingen om AI sitt energiforbruk trenger en realitetssjekk. Ja, AI bruker energi. Men riktig optimerede systemer er mye mer effektive enn de dystre scenariene antyder.

Konteksten her er viktig. Denne 0,24 watt-timeren per spørring? Amerikanerne bruker om lag 30 kilowatt-timer med strøm per dag i gjennomsnitt. Du ville trenger å kjøre 125 000 AI-spørringer for å matche en vanlig dag med husholdningsenergi.

Vannforbrukshistorien er enda mer dramatisk. Disse fem dråpene vann per spørring? Du bruker mer vann i det første sekundet du vasker hendene.

Optimeringsstaken

Google oppnår ikke disse tallene gjennom noen enkelt gjennombrudd. De stapler optimeringer over hver lag i systemet.

De kjører mindre “utkast”-modeller som skisserer ut svar, og verifiserer med større modeller bare når det er nødvendig. De batcher sammen tusenvis av spørringer for effisiens. De bruker tilpassede chip designet spesifikt for AI-arbeidsbelastninger som er 30 ganger mer effektive enn deres første generasjon.

Deres datacenter kjører på bare 9% overhodet over det teoretiske minimum – i praksis like effektivt som fysisk mulig. Og de er i økende grad drevet av ren energi, som kutte utslippene enda mer når strømforbruket øker.

Bunnlinjen

Dette fungerer bare når selskaper faktisk optimerer hele sin stak og måler riktig. Selskaper som behandler AI-infrastruktur som en ettertanke, kjører ineffektive systemer på skitne kraftnetter? De er de som skaper problemene alle er bekymret for.

Gapet mellom effektive og ineffektive AI-systemer er absolutt massive. Og nå er størsteparten av industrien fortsatt kjører den ineffektive versjonen.