Штучний Інтелект
Google щойно оприлюднив реальні цифри щодо використання енергії штучним інтелектом — і вони не такі, як ви думаєте
Усі говорять про величезний енергетичний слід штучного інтелекту. Ви бачили заголовки: «ChatGPT використовує стільки ж електроенергії, скільки й невелика країна» або «Кожен запит до ШІ випиває пляшку води».
Google щойно опубліковані актуальні дані з їхніх виробничих систем, а цифри розповідають зовсім іншу історію.
Реальна вартість енергії для вашого запиту на основі штучного інтелекту
Ось що знайшов Google: медіана Gemini Текстова підказка використовує 0.24 ват-години енергії. Це менше електроенергії, ніж дивитися телевізор протягом дев'яти секунд. Споживання води? П'ять крапель. Не п'ять склянок. П'ять крапель.
Розрив між сприйняттям громадськістю та реальністю величезний. Попередні оцінки стверджували, що запити штучного інтелекту споживають від 10 до 50 мілілітрів води на запит. Деякі дослідження показали, що споживання енергії в 30 разів перевищує те, що вимірює Google у виробництві.
Чому така величезна різниця? Тому що досі ніхто не вимірював реальні системи в такому масштабі. Академічні дослідження проводять ізольовані тести на недостатньо використовуваному обладнанні. Вони, по суті, вимірюють паливну ефективність автомобіля, коли він працює на холостому ходу на під'їзній доріжці.
44-кратне покращення
Google скоротив викиди вуглецю від штучного інтелекту в 44 рази за один рік. Не на 44 відсотки, а на 44 рази.
Це не якесь теоретичне вдосконалення в лабораторії. Це відбувається просто зараз у системах, що обслуговують мільярди запитів. Вони досягли цього завдяки поєднанню оптимізації програмного забезпечення (покращення в 33 рази) та чистіших джерел енергії (покращення в 1.4 раза).
Більшість досліджень розглядають лише чіпи штучного інтелекту, які виконують обчислення. Це як вимірювати споживання енергії рестораном, враховуючи лише духовки, ігноруючи холодильники, освітлення та систему опалення, вентиляції та кондиціонування повітря.
Дані Google показують повну картину: так, прискорювачі штучного інтелекту використовують 58% енергії. Але вам також потрібні звичайні процесори та пам'ять (24%), резервна ємність для надійності (10%) та системи охолодження (8%). Якщо пропустити будь-що з цього у своїх вимірюваннях, ваші цифри фактично втратять сенс.
Коли Google застосував вузьку методологію, яку використовують усі інші — просто вимірювання чипів штучного інтелекту на повністю завантажених машинах — їхній показник споживання енергії знизився до 0.10 ват-годин. Реальна виробнича система використовує в 2.4 рази більше енергії, оскільки реальні системи потребують резервування, охолодження та допоміжної інфраструктури.
Що це насправді означає для майбутнього ШІ
Наратив про споживання енергії штучним інтелектом потребує перевірки реальності. Так, штучний інтелект використовує енергію. Але належним чином оптимізовані системи набагато ефективніші, ніж припускають сценарії загибелі.
Тут важливий контекст. Ці 0.24 ват-години на запит? Американці в середньому використовують близько 30 кіловат-годин електроенергії на день. Вам потрібно буде виконати 125,000 XNUMX запитів штучного інтелекту, щоб зрівнятися з типовим споживанням енергії домогосподарством за один день.
Історія зі споживанням води ще драматичніша. Ці п'ять крапель води на запит? Ви використовуєте більше води в першу секунду миття рук.
Стек оптимізації
Google не досягає цих показників завдяки якомусь одному прориву. Вони оптимізація стекування на кожному рівні системи.
Вони використовують менші «чернетки» моделей, які накидають відповіді, а потім перевіряють їх за допомогою більших моделей лише за потреби. Вони об’єднують тисячі запитів разом для підвищення ефективності. Вони використовують спеціальні чіпи, розроблені спеціально для робочих навантажень штучного інтелекту, які в 30 разів ефективніші за перше покоління.
Їхні центри обробки даних працюють лише з накладними витратами, що перевищують теоретичний мінімум на 9% — фактично настільки ефективно, наскільки це фізично можливо. І вони все частіше працюють на чистій енергії, що скорочує викиди навіть за зростання споживання електроенергії.
Bottom Line
Справжня історія полягає в тому, що ефективні системи штучного інтелекту можуть бути значно стійкішими, ніж зазвичай вважають, але це вимагає комплексної оптимізації, якої більшість галузей ще не досягли.
Це працює лише тоді, коли компанії дійсно оптимізують весь свій стек та належним чином вимірюють ситуацію. Компанії, які ставляться до інфраструктури штучного інтелекту як до другорядної думки, запускаючи неефективні системи на брудних енергомережах? Саме вони створюють проблеми, про які всі хвилюються.
Розрив між ефективними та неефективними системами штучного інтелекту просто величезний. І зараз більшість галузі все ще використовує неефективну версію.
