Інфраструктура штучного інтелекту розбита. Жетони стають новою мірою цінності.

Індустрія штучного інтелекту має проблему з вимірюванням.

Тривалий час успіх визначався доступом до обчислювальних ресурсів, таких як кількість GPU, найбільші кластери або найшвидші тренувальні запуски. Більярди були вкладені в інфраструктуру для перемоги в цій гонці.

Але коли штучний інтелект переходить від експериментів до виробництва, ця модель починає ламатися.

Корпорації не купують GPU. Вони навіть не купують інференційні можливості. Вони купують результати, такі як підсумки, рекомендації, рішення, вміст. Інакше кажучи, вони купують жетони.

Але більшість інфраструктури штучного інтелекту все ще спроєктована так, якби обчислювальні ресурси були кінцевою метою. Це не так.

Фактична одиниця цінності в штучному інтелекті – жетон. І компанії, які визнають цю зміну раніше, визначать наступну епоху ринку.

Поява фабрики жетонів штучного інтелекту

Якщо жетони є продуктом, то інфраструктура штучного інтелекту повинна поводитися як виробнича система, а не науковий проєкт. Саме тут з’являється концепція фабрики жетонів штучного інтелекту.

Фабрика жетонів штучного інтелекту – це не просто ще один програмний шар у стеку. Це переосмислення самого стеку. Замість оптимізації для ізольованої моделі виконання або сировинної апаратної реалізації, вона зосереджується на одному результаті: ефективному виробництві жетонів у масштабі.

Це означає абстрагування складності інфраструктури, динамічне розподілення робочих навантажень по гетерогенним середовищам та безперервну оптимізацію для пропускної здатності, затримки, використовування та вартості жетона.

Сьогоднішня модель по суті є орендою GPU з додатковими кроками. Організації виділяють дороге обладнання, зшивають уламки інструментів та сподіваються, що використання в кінцевому підсумку виправдає інвестиції.

Фабрика жетонів повністю змінює цю рівність. Вона забезпечує вивід, а не інфраструктуру, і розглядає ефективність як основний принцип проєкту з першого дня. Це не інкрементний прогрес. Це зміна інфраструктури з можливостей до виробництва.

Чому стара модель не може триматися

Поточна інфраструктура штучного інтелекту не тільки неефективна. Вона стає дедалі більш нестійкою.

Дефіцит GPU викрив перший тріщину. Попит продовжує перевищувати пропозицію, змушуючи організації до фрагментованих, багатовендорних розгортань. Що почалося як тимчасове рішення швидко стало нормою: гетерогенні середовища, зшиті без уніфікованого оперативного шару.

Проблема полягає в тому, що більшість існуючих стеків ніколи не будувалися для цієї реальності. Вони не оптимізуються ефективно по архітектурах, не адаптуються в реальному часі та не забезпечують чіткої видимості виконання та вартості.

В результаті складність зростає швидше, ніж масштаб.

Кожна нова модель, каркас, прискорювач або хмарна платформа вводить ще один шар операційної складності. Команди витрачають величезну кількість часу на управління оркестрацією, сумісністю, маршрутизацією, плануванням та спостереженням за проблемами, а не поліпшенням результатів.

Що повинно бути масштабною перевагою, швидко стає проблемою координації.

Водночас економіка стає все важче ігнорувати. Ранні розгортання штучного інтелекту могли маскувати неефективність за зростанням та експериментами. Це вікно закривається.

Вищі керівники зараз ставлять складніші питання: Чому витрати на інференцію так непередбачувані? Чому використовування GPU все ще так низьке? Чому організації платять преміум-ціни за обладнання, яке часто простоює? Чому так складно зв’язати витрати на інфраструктуру з бізнес-результатами?

Відповідь проста: Система була спроєктована для доступу, а не для ефективності.

Від обчислювально-орієнтованої до жетон-орієнтованої архітектури

Перехід до фабрик жетонів є як філософським, так і архітектурним.

По-перше, ринок переходить від GPU як послуги до результату як послуги. Клієнти не хочуть керувати інфраструктурою; їм потрібні гарантовані результати. Логічний кінцевий стан – споживання на основі виводу, а не ресурсів.

По-друге, фрагментовані стеки поступаються місцем уніфікованим контрольним площинам. У гетерогенному середовищі видимість та контроль – це все. Фабрики жетонів забезпечують реальний час видимості використання, вартості та виконання, а також можливість діяти на основі цього. Організації повинні зрозуміти: Хто генерує жетони? За яку вартість? На якому обладнанні? Під яким навантаженням? І з яким рівнем ефективності? Без цих відповідей оптимізація стає здогадкою.

Нарешті, галузева увага зміщується від виконання до безперервної оптимізації. Викликом вже не є просто запуск моделей, а їх інтелектуальний запуск, оскільки організації визначають: Які навантаження належать на яке обладнання? Як максимізувати пропускну здатність, контролюючи вартість? Як запобігти неконтрольованому використанню жетонів?

Фабрики жетонів розглядають ці питання як перші проблеми, а не післядуми.

Чому сьогоднішня модель доставки штучного інтелекту не виправдана

Традиційний стек штучного інтелекту (що охоплює виробників обладнання, хмарні платформи, інференційні служби) був побудований в першу чергу для швидкого зростання, а не системної ефективності.

Кожен шар додає вартість, але також вартість, абстракцію та операційну фрагментацію. Результатом є система зі стековими маржами, обмеженою прозорістю та збільшенням залежності від виробників. Організації оптимізують всередині сіл, а не по всій системі.

Фабрики жетонів фундаментально викликають цей модель.

Відокремлюючи обладнання від доставки цінності, вони забезпечують оптимізацію з кінця в кінець. Навантаження можуть рухатися вільно по середовищам. Архітектури можуть еволюціонувати без потреби в масових переписах. Ефективність стає вимірюваною, керованою та безперервно поліпшуваною.

Це те, як підприємства та нові хмарні платформи можуть конкурувати більш ефективно з гіперскалерами. Не тим, що вони відповідають їхньому масштабу, а тим, що вони перевершують їх за ефективністю.

Хто переможе

Можливо, найбільш деструктивним аспектом цього переходу є те, кого він емпаверить. Вам не потрібно володіти центром даних або навіть GPU, щоб експлуатувати фабрику жетонів.

Що важливо, це контроль над оркестрацією, оптимізацією та доставкою. Це відкриває двері для набагато ширшого кола гравців:

• Підприємства з великими, постійними навантаженнями штучного інтелекту.
• Нові хмарні платформи, оптимізовані для конкретних вертикальних або випадків використання.
• Виробники інфраструктури, які рухаються вгору по стеку.

У цій моделі конкурентна перевага не виникає з накопичення обчислювальних ресурсів. Вона виникає з виробництва жетонів краще, швидше та дешевше, ніж будь-хто інший.

Нова битва: Вартість за жетон

Наступна фаза конкуренції штучного інтелекту не буде виграна лише за якістю моделі. Вона буде виграна за ефективністю. Конкретніше, вартість за жетон.

Хто може доставити еквівалентні або кращі виводи за частину вартості? Хто може масштабуватися без неконтрольованої інфраструктурної витрати? Хто може перетворити штучний інтелект на передбачуваний, прибутковий бізнес?

Це не питання інфраструктури. Це питання виробництва, яке вимагає виробництва мислення.

Майбутнє не будується на GPU

GPU не зникають, але вони вже не є історією. Жетони – це те, що важливо.

Організації, які залишаються зосередженими на обчислювальних ресурсах, стикаються з зростаючими витратами та зменшенням доходів. Ті, хто перейде до систем, орієнтованих на жетони, розблокують фундаментально іншу модель, яка співвідносить інфраструктуру з результатами та вартість з цінністю.

Фабрики жетонів штучного інтелекту не є далеким поняттям. Вони є невідворотним еволюційним кроком ринку. Єдине справжнє питання – хто їх побудує першим і хто залишиється позаду.