Google har släppt riktiga siffror på AI-energiförbrukning – och de är inte vad du tror

Alla pratar om AI:s enorma energifootprint. Du har sett rubrikerna: “ChatGPT använder lika mycket el som ett litet land” eller “Varje AI-fråga dricker en flaska vatten.”

Google (GOOGL ) har just publicerat faktiska data från deras produktionsystem, och siffrorna berättar en helt annan historia.

Den verkliga energikostnaden för din AI-fråga

Här är vad Google fann: Den mediana Gemini-textfråga använder 0,24 wattimmar av energi. Det är mindre el än att titta på TV i nio sekunder. Vattenförbrukning? Fem droppar. Inte fem glas. Fem droppar.

Klyftan mellan allmänhetens uppfattning och verkligheten är enorm. Tidigare uppskattningar hävdade att AI-frågor förbrukade allt från 10 till 50 milliliter vatten per fråga. Vissa studier föreslog energiförbrukning 30 gånger högre än vad Google mäter i produktion.

Varför den stora skillnaden? För att ingen har mätt riktiga system i stor skala förrän nu. Akademiska studier kör isolerade tester på underutnyttjad hårdvara. De mäter i princip en bils bränsleförbrukning medan den står och går på tomgång i uppfarten.

44-gånger förbättring

Google minskade sin AI-koldioxidutsläpp med 44 gånger på ett år. Inte 44 procent – 44 gånger.

Detta är inte någon teoretisk förbättring i ett laboratorium. Detta händer just nu på systemen som betjänar miljarder frågor. De uppnådde detta genom en kombination av programvaruoptimering (33 gånger förbättring) och renare energikällor (1,4 gånger förbättring).

De flesta studier tittar bara på AI-chippen som utför beräkningarna. Det är som att mäta en restaurangs energiförbrukning genom att bara räkna ugnarna, och ignorera kylskåpen, lamporna och ventilationssystemet.

Googles data visar den kompletta bilden: Ja, AI-accelleratorerna använder 58% av energin. Men du behöver också vanliga processorer och minne (24%), reservkapacitet för tillförlitlighet (10%) och kylsystem (8%). Hoppa över något av detta i din mätning, och dina siffror är i princip meningslösa.

När Google tillämpade den smala metoden som alla andra använder – bara mätning av AI-chippen på fullt utnyttjade maskiner – minskade deras energisiffra till 0,10 wattimmar. Det riktiga produktionsystemet använder 2,4 gånger mer energi eftersom riktiga system behöver redundans, kylning och stödinfrastruktur.

Vad detta faktiskt betyder för AI:s framtid

Berättelsen om AI-energiförbrukning behöver en verklighetscheck. Ja, AI använder energi. Men riktigt optimerade system är mycket mer effektiva än de katastrofscenarier som föreslås.

Sammanhanget är viktigt här. Den där 0,24 wattimmar per fråga? Amerikaner använder ungefär 30 kilowattimmar el per dag i genomsnitt. Du skulle behöva köra 125 000 AI-frågor för att matcha en vanlig dag av hushållsenergiförbrukning.

Vattenförbrukningshistorien är ännu mer dramatisk. De där fem dropparna vatten per fråga? Du använder mer vatten under de första sekunderna av att tvätta händerna.

Optimeringsstacken

Google uppnår inte dessa siffror genom någon enskild genombrott. De stackar optimeringar över alla lager i systemet.

De kör mindre “utkast”-modeller som skissar på svar, och sedan verifierar med större modeller endast när det behövs. De batchar tusentals frågor tillsammans för effektivitet. De använder anpassade chip som är speciellt utformade för AI-arbetsbelastningar och som är 30 gånger mer effektiva än deras första generation.

Deras datacenter körs med bara 9% överhuvud över den teoretiska minsta möjliga nivån – i princip så effektivt som fysiskt möjligt. Och de drivs alltmer av ren energi, vilket minskar utsläppen ännu mer när elanvändningen ökar.

Sammanfattning

Detta fungerar bara när företag faktiskt optimerar hela sin stack och mäter ordentligt. Företagen som behandlar AI-infrastruktur som en eftertanke, som kör ineffektiva system på smutsiga elnät? De är de som skapar problemen som alla är oroliga för.

Klyftan mellan effektiva och ineffektiva AI-system är absolut enorm. Och just nu kör de flesta av branschen fortfarande den ineffektiva versionen.