Google opublikował rzeczywiste liczby dotyczące zużycia energii przez AI — i nie są one tym, czego się spodziewasz

Wszyscy mówią o ogromnym śladzie energetycznym AI. Widzieliście nagłówki: “ChatGPT zużywa tyle energii, co mały kraj” lub “Każde zapytanie AI zużywa butelkę wody.”

Google (GOOGL ) opublikował rzeczywiste dane ze swoich systemów produkcyjnych, a liczby mówią zupełnie inną historię.

Rzeczywisty koszt energetyczny Twojego zapytania AI

Oto, co Google znalazł: Mediana Gemini zapytania tekstowego zużywa 0,24 watogodziny energii. To mniej energii niż oglądanie telewizji przez dziewięć sekund. Zużycie wody? Pięć kropli. Nie pięć szklanek. Pięć kropli.

Przerwa między postrzeganiem publicznym a rzeczywistością jest ogromna. Poprzednie szacunki twierdziły, że zapytania AI zużywały od 10 do 50 mililitrów wody na zapytanie. Niektóre studia sugerowały zużycie energii 30 razy większe niż to, co Google mierzy w produkcji.

Dlaczego tak ogromna różnica? Ponieważ nikt nie mierzył rzeczywistych systemów na dużą skalę do tej pory. Studia akademickie prowadzą izolowane testy na nie w pełni wykorzystanym sprzęcie. Podstawowo mierzą wydajność paliwa samochodu, gdy stoi na podjeździe.

44-krotna poprawa

Google zmniejszył emisję dwutlenku węgla przez 44 razy w ciągu jednego roku. Nie 44 procent — 44 razy.

To nie jest teoretyczna poprawa w laboratorium. To dzieje się teraz w systemach, które obsługują miliardy zapytań. Osiągnęli to dzięki połączeniu optymalizacji oprogramowania (poprawa 33-krotna) i czystszych źródeł energii (poprawa 1,4-krotna).

Większość badań patrzy tylko na chipy AI, które wykonują obliczenia. To jak mierzenie zużycia energii w restauracji, licząc tylko piece, ignorując lodówki, światła i systemy klimatyzacji.

Dane Google pokazują pełen obraz: Tak, przyspieszacze AI zużywają 58% energii. Ale potrzebne są również procesory i pamięć (24%), zapasowa pojemność dla niezawodności (10%) oraz systemy chłodzenia (8%). Pomiń którykolwiek z tych elementów w swoim pomiarze, a Twoje liczby są podstawowo bezsensowne.

Gdy Google zastosował wąską metodologię, którą wszyscy inni używają — mierząc tylko chipy AI na w pełni wykorzystanych maszynach — ich wskaźnik energii spadł do 0,10 watogodziny. Rzeczywisty system produkcyjny zużywa 2,4 razy więcej energii, ponieważ rzeczywiste systemy potrzebują redundancji, chłodzenia i infrastruktury wspierającej.

Co to tak naprawdę oznacza dla przyszłości AI

Narracja wokół zużycia energii przez AI wymaga rzeczywistego sprawdzenia. Tak, AI zużywa energię. Ale właściwie zoptymalizowane systemy są o wiele bardziej wydajne niż scenariusze katastroficzne.

Kontekst ma tu znaczenie. Te 0,24 watogodziny na zapytanie? Amerykanie używają około 30 kilowatogodzin energii elektrycznej dziennie w przeciętnym gospodarstwie domowym. Musiałbyś uruchomić 125 000 zapytań AI, aby dopasować się do jednego dnia typowego zużycia energii gospodarstwa domowego.

Historia zużycia wody jest jeszcze bardziej dramatyczna. Te pięć kropli wody na zapytanie? Używasz więcej wody w pierwszej sekundzie mycia rąk.

Stos optymalizacji

Google nie osiąga tych liczb dzięki jakiejś pojedynczej przełomowej innowacji. Oni stosują optymalizacje na każdym poziomie systemu.

Biegną mniejsze “szkicowe” modele, które szkicują odpowiedzi, a następnie weryfikują je większymi modelami tylko wtedy, gdy jest to potrzebne. Biegną tysiące zapytań razem dla wydajności. Używają niestandardowych chipów zaprojektowanych specjalnie dla obciążeń AI, które są 30 razy bardziej wydajne niż ich pierwsza generacja.

Ich centra danych działają przy zaledwie 9% nakładów powyżej minimalnego teoretycznego — podstawowo tak wydajnie, jak to tylko możliwe. I są coraz bardziej zasilane przez czystą energię, zmniejszając emisje nawet wtedy, gdy zużycie energii elektrycznej rośnie.

Podsumowanie

To działa tylko wtedy, gdy firmy naprawdę optymalizują swój pełny stos i mierzą właściwie. Firmy traktujące infrastrukturę AI jako rzecz poboczną, uruchamiające nieefektywne systemy na brudnych sieciach energetycznych? To one tworzą problemy, o które wszyscy się martwią.

Przerwa między efektywnymi a nieefektywnymi systemami AI jest absolutnie ogromna. I teraz większość branży nadal uruchamia wersję nieefektywną.