Google právě zveřejnil skutečná čísla o spotřebě energie AI — a nejsou to, co byste čekali

Všichni mluví o obrovské energetické stopě AI. Viděli jste titulky: “ChatGPT spotřebuje tolik elektřiny jako malá země” nebo “Každý dotaz AI spotřebuje láhev vody.”

Google právě zveřejnil skutečná data ze svých produkčních systémů, a čísla vyprávějí úplně jiný příběh.

Skutečná energetická cena vašeho dotazu AI

Zde je, co Google zjistil: Medián Gemini textový dotaz spotřebuje 0,24 watt-hodin energie. To je méně elektřiny, než když se díváte na televizi po dobu devíti sekund. Spotřeba vody? Pět kapek. Ne pět sklenic. Pět kapek.

Mezera mezi veřejným míněním a realitou je obrovská. Předchozí odhady tvrdily, že dotazy AI spotřebujíAnywhere od 10 do 50 mililitrů vody na dotaz. Některé studie naznačovaly spotřebu energie 30krát vyšší, než co Google měří ve svých produkčních systémech.

Proč je tak obrovská rozdílnost? Protože nikdo dosud neměřil skutečné systémy ve velkém měřítku. Akademické studie provádějí izolované testy na nevyužitých hardwarových zařízeních. Základní měřítko je podobné jako měření spotřeby paliva auta, zatímco stojí na parkovišti.

44násobné zlepšení

Google snížil své emise uhlíku z AI o 44krát za jeden rok. Ne o 44 procent, ale o 44krát.

To není žádný teoretický pokrok v laboratoři. To se děje právě teď na systémech, které zpracovávají miliardy dotazů. Dosáhli toho kombinací softwarové optimalizace (33násobné zlepšení) a čistějších zdrojů energie (1,4násobné zlepšení).

Většina studií se zaměřuje pouze na čipy AI, které provádějí výpočty. To je podobné jako měření spotřeby energie restaurace, zatímco se počítají pouze trouby, a ignorují se chladicí zařízení, osvětlení a systémy vytápění a klimatizace.

Googleova data ukazují kompletní obraz: Ano, urychlovače AI spotřebují 58 % energie. Ale také potřebujete běžné procesory a paměť (24 %), záložní kapacitu pro spolehlivost (10 %) a chladicí systémy (8 %). Pokud vynecháte některou z těchto položek ze svého měření, vaše čísla jsou prakticky bezvýznamná.

Když Google aplikoval úzkou metodiku, kterou používá většina ostatních — měření pouze čipů AI na plně využitých strojích — jejich číslo spotřeby energie kleslo na 0,10 watt-hodin. Skutečný produkční systém spotřebuje 2,4krát více energie, protože skutečné systémy potřebují redundanci, chlazení a podpůrnou infrastrukturu.

Co to vlastně znamená pro budoucnost AI

Narrativ kolem spotřeby energie AI potřebuje realistickou kontrolu. Ano, AI spotřebuje energii. Ale správně optimalizované systémy jsou mnohem účinnější, než naznačují katastrofické scénáře.

Kontext zde záleží. Ta 0,24 watt-hodiny na dotaz? Američané spotřebují průměrně asi 30 kilowatt-hodin elektřiny denně. Potřebujete spustit 125 000 dotazů AI, abyste dosáhli spotřeby energie za jeden den typické domácnosti.

Příběh o spotřebě vody je ještě dramatičtější. Tyto pět kapek vody na dotaz? Spotřebujete více vody v prvních sekundách mytí rukou.

Optimalizační zásobník

Google nedosahuje těchto čísel prostřednictvím jediného průlomu. Oni kumulují optimalizace napříč všemi vrstvami systému.

Běží menší “návrhové” modely, které načrtávají odpovědi, a poté ověřují většími modely pouze tehdy, když je to nutné. Shromažďují tisíce dotazů pro efektivitu. Používají vlastní čipy, které jsou speciálně navrženy pro zatížení AI a jsou 30krát účinnější než jejich první generace.

Jejich datové centra běží na pouhých 9 % režijních nákladů nad teoretickým minimem — prakticky tak účinně, jak je fyzicky možné. A jsou stále více poháněny čistou energií, což snižuje emise, i když se spotřeba elektřiny zvyšuje.

Podstatné

To funguje pouze tehdy, když společnosti skutečně optimalizují celý svůj zásobník a měří správně. Společnosti, které považují infrastrukturu AI za něco, co lze řešit později, a které běží neefektivní systémy na špinavých energetických sítích? Ty jsou těmi, kdo vytváří problémy, o kterých se všichni obávají.

Mezera mezi efektivními a neefektivními systémy AI je absolutně obrovská. A právě teď většina odvětví stále běží neefektivní verzi.