Нова цифрова пропасть у штучному інтелекті: чому моделі, готові до краю та орієнтовані на ЦП, виграють війну за вартість

Глобальний ринок штучного інтелекту (ШІ) розширюється за приголомшливою швидкістю. У 2024 році він був оцінений у 257,68 мільярда доларів, а прогнози передбачають, що до кінця 2025 року він зросте до 371,71 мільярда доларів і стрімко зросте до 2,4 трильйона доларів до 2032 року. Це майже десятикратне збільшення менш ніж за десятиліття, темп, який конкурує з деякими з найбільш трансформаційних технологічних бумів сучасної історії.

За останні десять років близько 1 500 нових компаній ШІ кожна отримала інвестиції понад 1,5 мільйона доларів, що свідчить не лише про хвилю інновацій, але й про сильну присутність жорсткої конкуренції. Установлені компанії також не сидять на стороні. За даними січня звітів McKinsey, вражаючі 92% організацій планують збільшити свої витрати на ШІ протягом наступних трьох років.

Але коли прийняття ШІ прискорюється, інфраструктура, яка його підтримує, починає показувати тріщини. За останні два роки ШІ перейшов від привабливих демонстрацій до постійних, реальних робочих навантажень.

Справжня瓶шея не лише у якості моделі, а й у тому, де та як ці моделі працюють. Організації стоять перед важливим роздоріжжям: продовжувати покладатися на системи, орієнтовані на графічний процесор (ГП), з великою кількістю ГП у хмарі, або прийняти більш економічні, готові до краю, архітектури, орієнтовані на центральний процесор (ЦП), які дешевші у використанні у великих масштабах, легше розгортаються у різноманітних середовищах і краще відповідають потребам у приватності та затримці.

Ці архітектурні рішення мають значення, оскільки справжня напруга не у створенні моделей, а у їхньому запуску день за днем. Саме тут витрати на висновок швидко перевершують витрати на навчання і визначають економіку ШІ у великих масштабах.

Висновок з’їдає бюджети ШІ

Хоча заголовки часто підкреслюють величезні витрати на навчання передових моделей, висновок – це рахунок, який ніколи не зупиняється. Звіт про індекс ШІ Стенфорда за 2025 рік відзначає, що швидкі досягнення у сфері малих моделей знизили вартість досягнення рівня “GPT-3.5” більш ніж у 280 разів між кінцем 2022 року та кінцем 2024 року. Однак той самий звіт підкреслює одержимість галузі оптимізацією ефективності висновку.

Ціни на ГП у хмарі лише посилили тиск. Оренда висококласних екземплярів ГП може протягом трьох-п’ятирічного горизонту коштувати майже вдвічі більше, ніж купівля того самого обладнання. Еластичність корисна для пікових робочих навантажень, але тривалі “оренди” висновку тихо виснажують бюджети. Навіть NVIDIA, чий бізнес залежить від прискорювачів, протягом останнього року агресивно оптимізував висновок по всьому своєму стеку. Це свідчить про те, що справжня битва переміщається від продуктивності навчання до економіки обслуговування.

Ця нова криза витрат означає, що організації, які не бажають або не можуть переосмислити свою стратегію обчислень, ризикують бути залишені позаду.

Чому край (та ЦП) змінюють криву витрат

Жорстка реальність полягає в тому, що висновок, орієнтований на ГП, створює неефективну економіку. Запуск великих, реальних робочих навантажень ШІ на дорогих ГП не лише збільшує витрати, але й прискорює застарівання обладнання. Цикли інновацій рухаються дуже швидко, часто менше 18 місяців між новими поколіннями чіпів, тому інвестиції в інфраструктуру швидко втрачають вартість. Це призвело до попереджень аналітиків про витрати на амортизацію, пов’язані з покупкою чіпів ШІ, оскільки вони вже скорочують оцінки прибутку. Наприклад, Alphabet очікується використати 28 мільярдів доларів на витрати на амортизацію до 2026 року.

Фабрики, клініки, магазини роздрібної торгівлі та мобільні пристрої – це місця, де ШІ все частіше буде потрібно. Відправлення кожного запиту до централізованого кластера ГП часто є неправильним інструментом для виконання завдання, оскільки це дорого, енергозатратно та схильне до затримок і проблем з приватністю.

Середовища краю не є однорідними фермами ГП. Вони складаються з різноманітних флотів ЦП: серверів, укріплених ПК, ноутбуків та ручних пристроїв. Ця різноманітність робить ЦП природною основою для економічного розгортання ШІ.

У цьому новому ландшафті ЦП не лише запасний варіант, а й економічно розумний шлях до масштабованого, доступного ШІ.

ГП як “приватний літак” ШІ

Когда моделі стають більшими та складнішими, вони вимагають більше потужності ГП, що не лише збільшує витрати на інфраструктуру та енергію, але й концентрує передові можливості ШІ в руках тих, хто може їх собі дозволити.

Дослідження показують, що великі, загальні генеративні моделі часто використовують значно більше енергії та генерують значно більше викидів парникових газів на 1 000 висновків порівняно з меншими, спеціалізованими системами. Навіть коли кількість параметрів контролюється, архітектури, орієнтовані на ГП, посилюють як фінансові, так і операційні бар’єри. З часом це створює瓶шею, роблячи нерівномірно важким для стартапів, дослідників та недофінансованих спільнот доступ до передових інструментів ШІ.

Це проблема ексклюзивності: ГП схожі на приватні літаки ШІ, вони швидкі та потужні, але доступні лише для обмеженого кола добре фінансованих організацій.

Але визнання цих обмежень не означає повне відкидання ГП. Вони залишаються винятковими для певних класів моделей та шаблонів пропускної здатності. Стратегія, орієнтована на ЦП, не є анти-ГП. Це економічно розумне рішення.

Цей підхід розширює доступ та забезпечує, що розгортання ШІ керується ефективністю, а не престижем. Замість майбутнього, визначеного ексклюзивністю ГП, ЦП відкривають двері до масштабованого, сталого та інклюзивного розгортання ШІ.

Необхідний перехід на моделі, орієнтовані на ЦП

Якщо економіка ШІ має масштабуватися сталого, рішення полягає у переосмисленні того, як моделі тренуються та розгортаються. Одним із підходів є пріоритет високої ентропії даних та країв випадків під час тренування. Ці входи забезпечують значний прогрес та можуть знизити потребу у величезних наборах даних, дозволяючи моделям працювати з меншою кількістю параметрів, залишаючись високоефективними.

Будучи компактними достатньо, щоб працювати на звичайних ЦП, незалежно від того, чи це ноутбуки, смартфони, сервери чи пристрої Інтернету речей (IoT), ці моделі значно знижують витрати на висновок та енергоспоживання. Вони також дозволяють обробку в реальному часі безпосередньо на пристрої, скорочуючи затримку та підвищуючи приватність шляхом збереження конфіденційних даних локально.

Цей перехід не лише про витрати, а й про справедливість. У галузях, таких як охорона здоров’я, де вже існують “пустелі” доступу, розгортання ШІ, готового до краю та орієнтованого на ЦП, може звузити розриви, доставляючи передові інструменти ШІ безпосередньо до клінік, центрів прийому дзвінків або польових пристроїв без залежності від рідкісних, централізованих обчислень. Результатом є ширше прийняття, покращена стійкість та більш інклюзивне розподілення вигод ШІ.

Від потужності до доступу: ЦП як великий рівнівач у ШІ

Наступні роки не лише перевірять, хто може створити найпотужніші моделі ШІ, а й хто зможе доставити їх ефективно, сталого та у великих масштабах. Моделі, оптимізовані для ЦП та готові до краю, пропонують шлях вперед. Дозволяючи ШІ працювати ефективно на звичайному обладнанні, вони знижують бар’єри для стартапів та дослідників, знижують залежність від хитких ланцюжків поставок та доставляють передові застосування у середовища, де централізовані кластери ГП недоцільні.

Оцінка інфраструктури ШІ за допомогою метрик, таких як загальна вартість на транскрибований годину, оцінки розгортання та готовність до краю, забезпечує, що рішення оцінюються не лише за точністю бенчмарків, але й за їх здатністю масштабуватися доступно та інклюзивно у реальному світі.

Ставки високі. Якщо галузь продовжить вважати ГП за замовчуванням, доступ залишиться ексклюзивним, інновації будуть концентровані, а дифузія у публічні послуги, охорону здоров’я та недофінансовані сектори буде відставати. Але якщо стратегії, орієнтовані на ЦП та готові до краю, здобудуть популярність, ШІ може стати більш стійким, приватним та сталим. Це не лише рівніє поле гри, а й переозначає його.