Google Опублікував Реальні Числа про Витрати Енергії AI — І Вони Не Ті, Про Які Ви Думаєте

Усі говорять про величезний енергетичний слід AI. Ви бачили заголовки: “ChatGPT використовує стільки ж електричної енергії, скільки мала країна” або “Кожен запит AI споживає пляшку води.”

Google (GOOGL ) опублікував фактичні дані з їхніх систем виробництва, і цифри розповідають зовсім іншу історію.

Реальна Енергетична Вартість Вашого Запиту AI

Ось що знайшло Google: Медіана Gemini текстового запиту використовує 0,24 ват-години енергії. Це менше електричної енергії, ніж дивитися телевізор протягом дев’яти секунд. Споживання води? П’ять крапель. Не п’ять склянок. П’ять крапель.

Пропуск між громадською думкою і реальністю величезний. Попередні оцінки стверджували, що запити AI споживають від 10 до 50 мілілітрів води на запит. Деякі дослідження припускали споживання енергії в 30 разів вищу, ніж те, що Google вимірює у виробництві.

Чому така велика різниця? Тому що ніхто не вимірював реальні системи у великому масштабі до цього часу. Академічні дослідження проводять ізольовані тести на недообладнаному обладнанні. Вони фактично вимірюють паливну ефективність автомобіля, коли він стоїть на під’їзді.

44-разове Покращення

Google зменшили свої викиди парникових газів AI у 44 рази за один рік. Не 44 відсотка — 44 рази.

Це не якийсь теоретичний прогрес у лабораторії. Це відбувається прямо зараз на системах, які обслуговують мільярди запитів. Вони досягли цього завдяки комбінації оптимізації програмного забезпечення (33-разове покращення) і чистіших джерел енергії (1,4-разове покращення).

Більшість досліджень розглядають лише чипи AI, які виконують обчислення. Це як вимірювання енергоспоживання ресторану, рахуючи лише печі, ігноруючи холодильники, світло та систему опалення.

Дані Google показують повну картину: Так, прискорювачі AI використовують 58% енергії. Але вам також потрібні звичайні процесори та пам’ять (24%), резервна потужність для надійності (10%) та системи охолодження (8%). Якщо ви пропустите будь-який з цих показників, ваші цифри будуть практично безглуздими.

Коли Google застосували вузький метод, який використовують усі інші — лише вимірюючи чипи AI на повністю використаних машинах — їхній показник енергоспоживання знизився до 0,10 ват-годин. Реальна система виробництва використовує у 2,4 рази більше енергії, оскільки реальні системи потребують резервної потужності, охолодження та інфраструктури.

Що Це Насправді Значить для Майбутнього AI

Наратив навколо споживання енергії AI потребує реального оновлення. Так, AI використовує енергію. Але правильно оптимізовані системи значно більш ефективні, ніж сценарії загибелі, які пропонуються.

Контекст тут важливий. Ці 0,24 ват-години на запит? Американці використовують близько 30 кіловат-годин електричної енергії на добу в середньому. Вам потрібно буде виконати 125 000 запитів AI, щоб дорівняти одному дню типового домашнього енергоспоживання.

Історія споживання води ще більш драматична. Ці п’ять крапель води на запит? Ви використовуєте більше води за першу секунду мивання рук.

Стек Оптимізації

Google не досягає цих цифр завдяки якійсь єдиній революційній технології. Вони накладають оптимізації на кожному рівні системи.

Вони виконують менші “чернові” моделі, які викреслюють відповіді, а потім верифікують більші моделі лише тоді, коли це потрібно. Вони використовують пакетні запити тисяч запитів для ефективності. Вони використовують спеціальні чипи, розроблені спеціально для завдань AI, які в 30 разів більш ефективні, ніж їхній перший покоління.

Їхні центри даних працюють при лише 9% перевитрат над теоретичним мінімумом — фактично так ефективно, як це фізично можливо. І вони все частіше живляться чистою енергією, знижуючи викиди навіть тоді, коли використання електричної енергії зростає.

Резюме

Це працює лише тоді, коли компанії фактично оптимізують свій повний стек і вимірюють правильно. Компанії, які вважають інфраструктуру AI післядумом, виконуючи неефективні системи на брудних енергетичних мережах? Вони створюють проблеми, про які всі турбуються.

Пропуск між ефективними та неефективними системами AI абсолютно величезний. І зараз більшість галузі все ще використовує неефективну версію.