Кріс Мільїно, генеральний директор Axe Compute — цикл інтерв’ю

Кріс Мільїно — генеральний директор Axe Compute, він має понад два десятиліття досвіду створення й масштабування технологічних компаній та інвестування в них. Він став співзасновником Social Reality і співпрацював із DNA Fund, поєднуючи підприємницький досвід із досвідом роботи на ринках капіталу та інвестування в інфраструктуру. В Axe Compute він зосереджується на операційних і фінансових викликах, пов’язаних із масштабуванням виділених обчислювальних потужностей для ШІ для корпоративних клієнтів.

Axe Compute надає виділену інфраструктуру GPU на фізичних серверах без віртуалізації для корпоративних завдань із використанням ШІ. Пропозиція Axe Access дає доступ до наявних потужностей GPU, а Axe Build розробляє інфраструктуру з урахуванням довгострокових потреб клієнтів. У цьому інтерв’ю Мільїно розповідає про економіку GPU, обмеження, пов’язані з електропостачанням, продуктивність кластерів, партнерства для розгортання інфраструктури та те, як перехід до інференсу й ШІ-агентів може змінити попит на корпоративну інфраструктуру.

Ваша підприємницька кар’єра охоплює понад два десятиліття: від співзаснування Social Reality до керівництва DNA Fund і нинішньої посади генерального директора Axe Compute. Що спочатку привернуло вашу увагу до ринку інфраструктури для ШІ та яку можливість ви побачили — ту, на яку традиційні хмарні провайдери не реагували належним чином?

Можливість, яку я побачив, була очевидною: розвиток ШІ випереджає розвиток інфраструктури, створеної для його підтримки. Понад два десятиліття я створював і масштабував компанії та інвестував у них, і саме в цій прогалині я знаходив найбільші можливості. Від співзаснування Social Reality до роботи в DNA Fund мене завжди приваблювали фундаментальні проблеми, для яких існує чіткий шлях від нової технології до реальної комерційної цінності. Компанії вкладали мільярди в ШІ, але багато з них не могли отримати надійні обчислювальні потужності за ціною, що мала б комерційний сенс. Традиційні хмарні провайдери створили надзвичайно успішний бізнес, але їхню інфраструктуру спроєктували для гнучких спільних середовищ, а не для інтенсивних обчислювальних завдань із використанням ШІ, які виконуються безперервно. Я сам створював компанії, тож знаю, що потрібно бізнесу: передбачувані витрати, надійний доступ і можливість масштабування. Я побачив нагоду створити виділену інфраструктуру, що відповідала б реальним потребам корпоративного ШІ й давала компаніям контроль над обчислювальними ресурсами, не змушуючи їх ставати операторами центрів обробки даних. Саме тому я працюю в Axe Compute. Компанії, які створюють інфраструктуру для ШІ, визначатимуть, наскільки далеко й швидко зможе масштабуватися ця технологія.

У міру того як компанії прискорюють упровадження ШІ, доступ до високопродуктивних обчислювальних потужностей GPU стає критично важливим. Які найбільші хибні уявлення мають компанії щодо своїх обчислювальних потреб і як їм слід порівнювати виділену інфраструктуру GPU з традиційними хмарними сервісами?

Найбільше хибне уявлення полягає в тому, що більше GPU автоматично означає кращу продуктивність ШІ. Архітектура, побудована навколо цих GPU, стабільність доступу до них і витрати на їхню роботу мають не менше значення. Друге хибне уявлення — що хмарна модель, створена для корпоративного програмного забезпечення, підходить і для ШІ. Публічна хмара чудово підходить для експериментів, непередбачуваного попиту й завдань, які потрібно швидко масштабувати вгору або вниз. Але коли ви переходите до промислової експлуатації й цілодобово виконуєте ресурсоємні завдання, економіка змінюється. Ви вже не платите за обчислення від часу до часу. Ви фінансуєте безперервну промислову операцію за моделлю оплати за споживання. Я раджу компаніям оцінювати завантаженість ресурсів, тривалість виконання завдань, потреби в мережевих ресурсах і загальну вартість за кілька років, а не погодинну ціну GPU. Виділена інфраструктура дає змогу передбачати витрати й контролювати ресурси для тривалих обчислювальних завдань, але правильне рішення залежить від того, як саме ви плануєте використовувати ШІ.

Axe Compute пропонує дві різні моделі — Axe Access і Axe Build, що забезпечують як негайний доступ до GPU, так і спеціально спроєктовану інфраструктуру для ШІ. Розкажіть, як працюють ці моделі, яким клієнтам вони призначені та як організаціям визначити, який підхід найкраще відповідає їхнім завданням із використанням ШІ?

Ми створили Axe Access і Axe Build, оскільки компанії перебувають на різних етапах розвитку й не повинні бути змушені користуватися однаковою моделлю інфраструктури. Axe Access призначено організаціям, яким уже зараз потрібні виділені потужності GPU — для масштабування наявної діяльності, запуску нової моделі чи переходу від провайдера, можливостей якого вже недостатньо. Axe Build призначено клієнтам, яким потрібна виділена інфраструктура, спроєктована з урахуванням їхніх довгострокових потреб: від потужностей до архітектури й експлуатації. Різниця полягає в термінах, масштабі та можливостях налаштування. Якщо потрібно негайно запускати обчислювальні завдання, почніть із доступних потужностей. Якщо ви плануєте багаторічну діяльність у сфері ШІ, створюйте інфраструктуру для неї. Для мене важливо надати клієнтам практичний шлях від потреби до готових до роботи потужностей, адже технологія має цінність лише тоді, коли її можна застосовувати.

Axe Compute оголосила про контракти на проєкти у сфері інфраструктури для ШІ загальною вартістю понад 3,45 мільярда доларів, що свідчить про значний попит на виділені обчислювальні потужності. Які найбільші труднощі виникали під час перетворення цих зобов’язань на діючі кластери GPU та які уроки ви засвоїли, масштабуючи інфраструктуру такими темпами?

Найважливіший висновок полягає в тому, що залучення попиту й розгортання інфраструктури — це дві зовсім різні дисципліни, і в обох потрібно досягти виняткової майстерності. Коли вартість проєктів, за якими укладено контракти, перевищує 3,45 млрд доларів, важливий кожен етап: об’єкти, електропостачання, закупівлі, фінансування, мережеве обладнання та технічні роботи, необхідні для запуску кластерів. У кожного етапу свій графік, і будь-яка затримка може загальмувати весь процес розгортання. Найважливіше тут — електропостачання. Можна мати домовленості, капітал і обладнання, але без електроенергії ніщо з цього не принесе віддачі. Ми зрозуміли, що масштабуватися потрібно дисципліновано: ретельно планувати послідовність проєктів, обирати партнерів і розподіляти капітал. І ми ніколи не забуваємо, що вартість проєктів, за якими укладено контракти, — це не те саме, що вже розгорнута інфраструктура, яка приносить дохід. Переможцями стануть компанії, які послідовно перетворюють зобов’язання на надійні дієві потужності. Реалізація — це і є бізнес-модель.

Наявність GPU часто стає головною темою обговорень інфраструктури для ШІ, але електроенергія, охолодження, мережеве обладнання та потужності центрів обробки даних можуть бути не менш істотними обмеженнями. Яке з цих вузьких місць, на вашу думку, становить найбільшу довгострокову загрозу для масштабування ШІ та як Axe Compute розв’язує ці проблеми?

Електроенергія. Майже всі інші складові інфраструктури для ШІ можна розширити або модернізувати швидше, ніж енергосистеми, від яких вони залежать. Технології GPU швидко розвиваються, капітал можна залучити, а об’єкти — побудувати, але прокладання ліній електропередачі, підключення до мереж енергокомпаній і масштабне виробництво електроенергії потребують часу, який часто набагато перевищує цикли планування компаній у сфері ШІ. Ми просимо створити електромережу, здатну враховувати передбачуваний попит і витримувати різке збільшення концентрації обчислювальних потужностей. Витратами на обладнання цю проблему не розв’язати. В Axe Compute ми узгоджуємо розвиток інфраструктури з реальними можливостями електропостачання та співпрацюємо з партнерами, які розуміють вимоги до розгортання систем ШІ з високою щільністю обчислень. Охолодження й мережеве обладнання мають вирішальне значення, особливо зі зростанням щільності розміщення серверів у стійках, але саме надійне й доступне електропостачання визначатиме, де будуватимуть інфраструктуру для ШІ та які оператори зможуть прибутково масштабуватися.

Створення високопродуктивного кластера для ШІ — це значно більше, ніж просто зібрати тисячі GPU. Як такі чинники, як архітектура мережі, пропускна здатність систем зберігання даних, оркестрація робочих навантажень і рівень використання GPU, впливають на фактичну продуктивність? У чому компанії найчастіше недооцінюють технічну складність?

Уся увага прикута до GPU, але його продуктивність залежить від усього, що його оточує, — і саме тут компанії недооцінюють складність. Можна розгорнути надзвичайно потужні процесори, але якщо мережа не здатна ефективно передавати між ними дані або система зберігання не може подавати їх достатньо швидко, ви платите за потужності, якими не користуєтеся. Це особливо важливо під час масштабного навчання моделей, коли обмін даними між GPU може суттєво впливати на швидкість навчання моделі. Оркестрація додає ще один рівень складності: потрібно керувати плануванням завдань, розподілом ресурсів, збоями та змінами попиту, не залишаючи потужності незадіяними. Я оцінюю продуктивність за корисним результатом, а не за теоретичними характеристиками, адже добре завантажений кластер може бути набагато економічно ефективнішим за більший кластер, який працює неефективно. Інфраструктура для ШІ потребує постійної оптимізації апаратного й програмного забезпечення та операційних процесів. Це не одноразова закупівля обладнання.

Нещодавно Axe Compute оголосила про стратегічне партнерство з Penguin Solutions, щоб прискорити розгортання масштабної інфраструктури для ШІ. Які саме технічні й операційні можливості забезпечує це партнерство та як воно допоможе скоротити строки розгортання, зберігаючи надійність і продуктивність?

Penguin забезпечує три складові: послуги з розгортання та експлуатації кластерів GPU на визначених майданчиках під керівництвом експертів, програмне забезпечення ClusterWareAI для масштабного керування роботою кластерів і цілодобову (24×7) підтримку центру мережевих операцій від команди Penguin, яка працює разом із нашою командою. Це важливо, адже наступний етап зростання інфраструктури для ШІ залежить від того, наскільки ефективно компанії можуть розгортати й експлуатувати складні середовища у великому масштабі. Розгортання кластера для ШІ передбачає інтеграцію обчислювальних ресурсів, мережевого обладнання, систем зберігання та керування в середовище, яке надійно працює під значним навантаженням. Фахівці Penguin збільшують наші можливості з реалізації проєктів, тож ми можемо швидше розгортати інфраструктуру, братися за більше проєктів і знижувати ризики реалізації. Мета — зробити розгортання більш стандартизованим і передбачуваним, не жертвуючи продуктивністю, адже прискорення проєкту створює цінність лише тоді, коли після запуску інфраструктура працює надійно.

ШІ розвивається й виходить за межі масштабного навчання моделей — до інференсу, автономних агентів і застосунків реального часу. Як, на вашу думку, змінюватимуться потреби підприємств в обчислювальних ресурсах? Чи змінить цей перехід принципи проєктування та розгортання кластерів GPU і їх географічного розміщення?

Інференс зрештою стане величезною частиною комерційного ринку інфраструктури ШІ, особливо коли компанії перейдуть від створення моделей до інтеграції ШІ у продукти, операційну діяльність і сервіси для клієнтів. Навчання відбувається інтенсивними сплесками. Для інференсу важливі доступність, затримка, пропускна здатність і безперервне обслуговування мільйонів запитів. Агенти додають ще один рівень: вони виконують кілька завдань і багаторазово звертаються до моделей у межах робочого процесу. Кожен запит може бути невеликим, але загальний попит швидко зростає. На мою думку, великі централізовані кластери й надалі оброблятимуть складні завдання, а потужності, розподілені в різних регіонах, обслуговуватимуть застосунки, для яких важливі час відгуку та локалізація даних. Компанії також краще навчаться добирати апаратне забезпечення відповідно до завдань, замість того щоб вважати, ніби для всього потрібен найпотужніший графічний процесор. Мене надихає те, що попит ставатиме набагато різноманітнішим, а це грає на руку постачальникам, які можуть запропонувати потрібні потужності в потрібних місцях і на вигідних економічних умовах.

Створення інфраструктури ШІ потребує значного початкового капіталу, тоді як технології графічних процесорів і далі швидко розвиваються. Як Axe Compute підходить до економічних аспектів фінансування й експлуатації виділених кластерів графічних процесорів і як компаніям уникнути прив’язки до дорогого обладнання, яке може застаріти ще до завершення строку його корисного використання?

Починати потрібно з попиту клієнтів, а не з обладнання. Купувати дороге устаткування й сподіватися, що воно буде завантажене, — хибний підхід. Це не програмний бізнес: тут ідеться про великі фізичні активи, тривалі строки будівництва й технології, які за короткий час суттєво вдосконалюються. У Axe Compute наш підхід ґрунтується на попиті, підтвердженому контрактами, виваженому розгортанні та інфраструктурі, створеній для клієнтів, яким потрібні стабільні потужності. Застарівання — реальна проблема, але графічний процесор, який уже не є найновішим, не обов’язково втрачає комерційну цінність. Не кожному застосунку для інференсу чи корпоративній системі ШІ потрібне обладнання останнього покоління, а продовжити строк продуктивного використання наявної інфраструктури можна завдяки раціональному розподілу завдань. Клієнтам варто оцінювати економічні аспекти протягом усього строку дії контракту: завантаженість, вимоги до продуктивності та гнучкість у міру розвитку технологій. Мета — забезпечити, щоб строк економічно доцільного використання інфраструктури відповідав вкладеному в неї капіталу, а не будувати бізнес-модель, яка залежить від того, що обладнання вічно зберігатиме свою початкову вартість.

Які, на вашу думку, найбільші можливості для інновацій та інвестицій в інфраструктуру ШІ відкриються впродовж наступних трьох-п’яти років? Як ви гадаєте, ринок і надалі залишатиметься зосередженим навколо гіперскейлерів і великих постачальників графічних процесорів чи спеціалізовані інфраструктурні компанії зможуть докорінно змінити доступ підприємств до обчислювальних потужностей для ШІ?

Ринок такого масштабу й складності не зможе ефективно обслуговуватися кількома постачальниками, які використовують однакову модель інфраструктури. Гіперскейлери й надалі матимуть величезне значення, але я з великим оптимізмом оцінюю перспективи спеціалізованих операторів упродовж наступних трьох-п’яти років. Ми лише починаємо перетворювати інвестиції в ШІ на інфраструктуру, якої бізнес потребує щодня. У підприємств різні вимоги до продуктивності, суверенітету даних, вартості, строків і географічного розташування, тож для таких операторів, як ми, є чимало можливостей. Найцікавішими для мене є інвестиції в енергетичну інфраструктуру, ефективніші системи охолодження, передові мережі та програмне забезпечення, яке підвищує завантаженість графічних процесорів, адже все це безпосередньо впливає на економіку ШІ. Фінансування також змінюватиметься, оскільки інвестори краще розумітимуть ці активи й грошові потоки від потужностей, наданих за контрактами. Для Axe Compute можливість полягає в тому, щоб допомогти розбудувати цей ринок, зробивши виділені потужності для ШІ доступнішими, передбачуванішими й масштабованішими для організацій, які серйозно налаштовані впроваджувати ШІ у виробництво. Саме це ми маємо на увазі, кажучи про обчислення без компромісів.

Дякуємо за чудове інтерв’ю, а читачам, які хочуть дізнатися більше про виділені потужності графічних процесорів і корпоративну інфраструктуру ШІ, радимо відвідати Axe Compute.