Google Опубликовал Реальные Цифры о Потреблении Энергии ИИ — и Они Не То, Чего Вы Ожидаете

Все говорят о巨ом потреблении энергии ИИ. Вы видели заголовки: “ChatGPT использует столько же электричества, сколько небольшая страна” или “Каждый запрос ИИ потребляет бутылку воды.”

Google опубликовал фактические данные из своих производственных систем, и цифры рассказывают совершенно другую историю.

Реальная Энергетическая Стоимость Вашего Запроса ИИ

Вот что нашла Google: медианная Gemini текстовый запрос использует 0,24 ватт-часа энергии. Это меньше электричества, чем при просмотре телевизора в течение девяти секунд. Потребление воды? Пять капель. Не пять стаканов. Пять капель.

Разрыв между общественным восприятием и реальностью огромен. Предыдущие оценки утверждали, что запросы ИИ потребляют от 10 до 50 миллилитров воды на запрос. Некоторые исследования предполагали потребление энергии в 30 раз выше, чем то, что измеряет Google в производстве.

Почему такой огромный разрыв? Потому что никто не измерял реальные системы в масштабе до сих пор. Академические исследования проводят изолированные тесты на неиспользуемом оборудовании. Они по сути измеряют расход топлива автомобиля, когда он стоит на подъездной дороге.

Улучшение в 44 Раза

Google снизила выбросы парниковых газов от ИИ в 44 раза за один год. Не на 44 процента — в 44 раза.

Это не некоторое теоретическое улучшение в лаборатории. Это происходит прямо сейчас на системах, обслуживающих миллиарды запросов. Они достигли этого за счет комбинации оптимизации программного обеспечения (улучшение в 33 раза) и более чистых источников энергии (улучшение в 1,4 раза).

Большинство исследований рассматривают только чипы ИИ, выполняющие вычисления. Это похоже на измерение потребления энергии ресторана, учитывая только печи, игнорируя холодильники, свет и систему отопления, вентиляции и кондиционирования воздуха.

Данные Google показывают полную картину: да, ускорители ИИ используют 58% энергии. Но вам также нужны обычные процессоры и память (24%), резервная емкость для надежности (10%) и системы охлаждения (8%). Если вы пропустите любой из этих элементов в своих измерениях, ваши цифры по сути бессмысленны.

Когда Google применила узкий метод, который использует все остальные — измерение только чипов ИИ на полностью загруженных машинах — их показатель энергопотребления снизился до 0,10 ватт-часов. Реальная производственная система использует в 2,4 раза больше энергии, потому что реальные системы нуждаются в резервных, охлаждающих и поддерживающих инфраструктурах.

Что Это На Самом Деле Значит для Будущего ИИ

Нарратив вокруг потребления энергии ИИ нуждается в реальности. Да, ИИ потребляет энергию. Но правильно оптимизированные системы намного более эффективны, чем сценарии катастрофы, которые предлагают.

Контекст имеет значение здесь. Те 0,24 ватт-часа на запрос? Американцы используют примерно 30 киловатт-часов электричества в день в среднем. Вам нужно выполнить 125 000 запросов ИИ, чтобы сравниться с одним днем типичного потребления энергии домохозяйствами.

История потребления воды еще более драматична. Те пять капель воды на запрос? Вы используете больше воды в первые секунды мытья рук.

Стек Оптимизации

Google не достигает этих цифр за счет какого-то одного прорыва. Они накапливают оптимизации на каждом уровне системы.

Они запускают меньшие “черновые” модели, которые набрасывают ответы, а затем проверяют их с помощью более крупных моделей, когда это необходимо. Они объединяют тысячи запросов вместе для эффективности. Они используют специальные чипы, разработанные специально для рабочих нагрузок ИИ, которые в 30 раз более эффективны, чем их первое поколение.

Их центры обработки данных работают с запасом всего 9% выше теоретического минимума — практически так же эффективно, как физически возможно. И они все чаще используют чистую энергию, снижая выбросы даже при росте потребления электричества.

Резюме

Это работает только тогда, когда компании действительно оптимизируют свой полный стек и измеряют правильно. Компании, которые относятся к инфраструктуре ИИ как к после мысли, запускающие неэффективные системы на загрязненных энергосетях? Они создают проблемы, о которых все беспокоятся.

Разрыв между эффективными и неэффективными системами ИИ абсолютно огромен. И сейчас большая часть отрасли все еще запускает неэффективную версию.