Google har offentliggjort reelle tal for AI-energiforbrug – og de er ikke, hvad du tror

Alle taler om AI’s massive energifodaftryk. Du har set overskrifterne: “ChatGPT bruger så meget strøm som et lille land” eller “Hver AI-forespørgsel drikker en flaske vand.”

Google har netop offentliggjort faktiske data fra deres produktionsystemer, og tallene fortæller en helt anden historie.

Den reelle energiomkostning for din AI-forespørgsel

Her er, hvad Google fandt: Den mediane Gemini-tekstforespørgsel bruger 0,24 watt-timer af energi. Det er mindre strøm, end hvis du ser tv i ni sekunder. Vandforbrug? Fem dråber. Ikke fem glas. Fem dråber.

Afvigelsen mellem offentlig opfattelse og virkelighed er massive. Tidligere estimeringer hævdede, at AI-forespørgsler forbrugte mellem 10 og 50 milliliter vand pr. forespørgsel. Nogle studier foreslog energiforbrug 30 gange højere end det, Google måler i produktion.

Hvorfor den enorme afvigelse? Fordi ingen har målt reelle systemer i stor skala før nu. Akademiske studier kører isolerede tests på underudnyttet hardware. De måler grundlæggende en bil’s brændstofeffektivitet, mens den står og køler af i indkørslen.

Den 44-gange forbedring

Google reducerede deres AI-kulstofemissioner med 44 gange på ét år. Ikke 44 procent – 44 gange.

Dette er ikke nogen teoretisk forbedring i et laboratorium. Dette sker lige nu på systemerne, der betjener milliarder af forespørgsler. De opnåede dette gennem en kombination af softwareoptimering (33 gange forbedring) og renere energikilder (1,4 gange forbedring).

De fleste studier ser kun på AI-chipene, der udfører beregningerne. Det er ligesom at måle en restaurants energiforbrug ved kun at tælle ovnene, og ignorere køleskab, lys og klimaanlæg.

Googles data viser det komplette billede: Ja, AI-acceleratorerne bruger 58% af energien. Men du har også brug for almindelige processorer og hukommelse (24%), reservekapacitet til pålidelighed (10%) og kølesystemer (8%). Spring over noget af dette i din måling, og dine tal er grundlæggende meningsløse.

Når Google anvendte den snævre metode, som alle andre bruger – kun at måle AI-chipene på fuldt udnyttede maskiner – faldt deres energitall til 0,10 watt-timer. Det reelle produktionsystem bruger 2,4 gange mere energi, fordi reelle systemer har brug for redundant, køling og understøttende infrastruktur.

Hvad dette faktisk betyder for AI’s fremtid

Narrativen omkring AI-energiforbrug har brug for en virkelighedscheck. Ja, AI bruger energi. Men ordentligt optimerede systemer er langt mere effektive end de dommedags-scenarier, der foreslås.

Konteksten her er vigtig. Den 0,24 watt-timer pr. forespørgsel? Amerikanerne bruger omkring 30 kilowatt-timer af strøm om dagen i gennemsnit. Du ville neede at køre 125.000 AI-forespørgsler for at matche en dag med typisk husstandens energiforbrug.

Vandforbrugs-historien er endnu mere dramatisk. De fem dråber vand pr. forespørgsel? Du bruger mere vand i det første sekund, du vasker dine hænder.

Optimeringsstakken

Google opnår ikke disse tal gennem en enkelt gennembrud. De stakker optimeringer på tværs af alle lag i systemet.

De kører mindre “udkast”-modeller, der skitserer svar, og derefter verificerer med større modeller, når det er nødvendigt. De batcher tusinder af forespørgsler sammen for effektivitet. De bruger brugerdefinerede chip, der er designet specifikt til AI-arbejdsbyrder, og som er 30 gange mere effektive end deres første generation.

Deres datacentre kører med kun 9% overhead over det teoretiske minimum – grundlæggende så effektivt, som det er fysisk muligt. Og de er i stigende grad drevet af ren energi, hvilket reducerer emissioner, selv når strømforbruget stiger.

Bottom Line

Dette fungerer kun, når virksomheder faktisk optimerer deres fulde stak og måler korrekt. De virksomheder, der behandler AI-infrastruktur som en eftertanke, kører ineffektive systemer på beskidte strømnet? De er dem, der skaber problemerne, alle er bekymrede over.

Afvigelsen mellem effektive og ineffektive AI-systemer er absolut massive. Og lige nu kører størstedelen af industrien stadig den ineffektive version.