Чому наступна фаза інфраструктури штучного інтелекту буде вимагати більше, ніж гіпермасштабні дата-центри

Штучний інтелект вступає в період, коли стратегія інфраструктури стає нерозривною від можливостей моделі. Протягом років гіпермасштабні дата-центри забезпечували розвиток великомасштабної підготовки, дозволяючи передовим моделям зростати з мільйонів до трильйонів параметрів. Але оскільки采用 штучного інтелекту прискорюється в підприємств, галузях та реальних системах, інференція замінює підготовку як домінуючу робочу завантаження, а інференція має фундаментально різні вимоги.

Наступна епоха штучного інтелекту не може бути підтримана лише гіпермасштабними об’єктами. Натомість, з’являється гібридна модель, в якій централізовані кампуси для підготовки доповнюються розподіленими, потужними, комерційними дата-центрами для інференції. Ця зміна викликана обмеженнями затримки, потребами суверенітету даних, енергетичними реаліями та фізичними обмеженнями подальшого гіпермасштабного розширення.

Розходження підготовки та інференції

Підготовка залишається централізованою діяльністю. Вона вимагає масивних кластерів, високошвидкісних трубопроводів даних та тривалих завдань, які виграють від економії масштабу. Гіпермасштабні кампуси оптимізовані для цього з густою обчислювальною потужністю, спеціалізованими мережевими тканинами та глобальною доступністю. Але інференція поводиться інакше. Вона є короткочасною, високовольтною, чутливою до затримки та часто пов’язаною з географією або підприємством. Аналізи Akamai’s recent work on agentic systems показують, що більшість організацій тепер націлюються на кінцеву затримку менше 500 мілісекунд для критичних випадків використання штучного інтелекту, а багаторобочі потоки часто перевищують цей поріг просто через мережевий транзит та виконання на стороні процесора.

Затримка не є абстрактним показником. У робототехніці та автономних системах контрольні цикли часто працюють на частоті 100-1000 Гц кожні 1-10 мілісекунд. Будь-яка зовнішня інтелект повинна поважати ці часові обмеження. Затримка у 50 мілісекунд до віддаленого дата-центру повністю порушує режим контролю. У фінансовій торгівлі та виявленні шахрайства мілісекунди визначають економічні результати. У промисловій автоматизації затримка інференції може дестабілізувати процеси або поставити під загрозу безпеку. А в інтерактивних досвідах, таких як ігри, AR/VR та реальні співпілоти, реакція погіршується різко вище 100-150 мілісекунд.

Сучасні системи штучного інтелекту все частіше залежать від багаторобочих потоків, що складаються з ланцюгів десятків послідовних викликів. Аналіз Akamai показує, що виконання на стороні процесора може становити більшу частину загальної затримки, а кожен мережевий обхід додає додаткову затримку. Потік з 50 послідовними викликами може понести секунди транспортування затримки, коли маршрутизується до віддаленого гіпермасштабного регіону. Розмістіть той самий потік в гіперлокальному дата-центрі, розташованому на тому ж кампусі або в метро-області, і фізика змінюється. Місцева інференція може забезпечити кругову затримку у 1-5 мілісекунд. Потік з 50 кроками, який би зайняв секунди в віддаленому регіоні, може завершитися за 50-250 мілісекунд локально, залишаючись у межах бюджетів підприємства на затримку.

Суверенітет даних та реалії мережі, що спонукають до локальних розгортань

Затримка становить лише одну частину історії. Для регульованих галузей, таких як охорона здоров’я, фінанси та державний сектор, суверенітет даних часто є основним драйвером для локальної інференції. Виконання робочих завантажень штучного інтелекту за підприємством зберігає існуючі периметри безпеки, зменшує багатозадачність, спрощує дотримання вимог та зберігає чутливі дані поза спільною інфраструктурою хмари. Гіпермасштабні постачальники пропонують сильну безпеку, але атакувальна поверхня та ланцюжок довіри є суттєво ширшими. Підприємства все частіше віддають перевагу архітектурам інференції, які відповідають їхньому існуючому безпеці.

Крім проблем із затримкою та безпекою, наявність енергії стає рівнозначною обмеженням. Великі гіпермасштабні кампуси часто зустрічають багаторічні затримки через обмеження передачі та черги на підключення. Менші комерційні дата-центри, особливо ті, що розташовані біля існуючих навантажень або розподіленої генерації, можуть часто бути енергізованими значно швидше. Це має значення, оскільки попит на штучний інтелект зіштовхується з дивним парадоксом.

В той же час, коли оператори борються за забезпечення нових мережевих підключень, величезні кількості відновлюваної енергії відключаються. Глобально, відновлювана енергія відключається більше 200 терават-годин на рік. У Сполучених Штатах відключення оцінюється приблизно у 20 терават-годин на рік. ERCOT тільки відключив понад 9 терават-годин вітрової та сонячної генерації за останній рік. Тим часом CAISO відключив 3,4 терават-години сонячної та вітрової енергії у 2024 році, причому сонячна енергія становила 93% усіх обрізаних виходів. Опитування енергетичних систем постійно показують, що сонячна та вітрова енергія зіштовхуються із суттєвим відключенням, коли генерація перевищує потужність мережі. Відключення сонячної енергії особливо поширене в регіонах з сильними середині дня піками, тоді як відключення вітрової енергії часто відбувається під час поза пікових годин або в обмежених коридорах. Розподільні дата-центри, розташовані біля генерації, особливо сонячних регіонів, можуть перетворити ізольовану енергію на корисну інференційну потужність.

Гіпермасштабні кампуси залишаються життєво важливими для підготовки, але вони зіштовхуються із зростаючими фізичними та економічними обмеженнями. Підключення до мережі передачі може бути тривалим процесом, воно вимагає нових підстанцій, оновлення мережі, багаторазового дозволу та громадського огляду. Це процеси, які звичайно займають роки. Гіпермасштабні об’єкти вимагають великих площ, значних водних виділень та складних екологічних погоджень. Спільноти все частіше опираються новому розвитку дата-центрів через шум, використання води та вплив на землю. А централізовані кампуси концентрують ризик таким чином, що погодні події, відключення мережі або геополітичні порушення можуть вплинути на великі частини глобальної обчислювальної потужності. Розподільні архітектури забезпечують географічну надійність та оперативну стійкість.

Майбутнє – це багаторівнева архітектура штучного інтелекту

Коли мова йде про забезпечення безперебійного виконання інференції, ефективність може стати такою ж важливою, як і сурова потужність. Інференція споживає енергію безперервно, а експерти галузі вважають, що інференція може врешті-решт становити більшу частину енергоспоживання, пов’язаного зі штучним інтелектом. Ефективність від місцевої інтеграції відновлюваної енергії, зменшення втрат під час передачі, розміщення правильного розміру, покращення термічних профілів та підвищення рівня використання стануть суттєвими для задоволення глобального попиту на штучний інтелект у стійкому ключі. Розподільні комерційні дата-центри добре підходять для забезпечення цих вигод, оскільки вони можуть бути розташовані там, де енергія є достатньою, дешевою або недооціненою.

Наступна фаза інфраструктури штучного інтелекту буде гібридною сумішшю гіпермасштабних кампусів, що домінують у підготовці, розподільних комерційних дата-центрів, що обслуговують інференцію, та пристроїв краю, що обслуговують ультралокальні робочі завантаження. Ця багаторівнева архітектура відображає фізичні реалії енергії, затримки, безпеки та масштабу. Коли штучний інтелект стає частиною реальних систем у всіх галузях, інфраструктура повинна розвиватися відповідно, щоб привести інференцію ближче до світу, яку вона обслуговує.