Niv-AI збирає $12 млн для вирішення прихованого обмеження потужності в інфраструктурі штучного інтелекту

Нова компанія вступає на ринок інфраструктури штучного інтелекту, зосереджуючись на обмеженні, яке рідко потрапляє в заголовки, але швидко стає однією з найбільш насущних проблем галузі: потужність.

Niv-AI вийшла зі стартапу з $12 млн фінансування від Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward та Aurora. Тель-Авівська компанія позиціонує себе на перетині енергосистем та високопродуктивних обчислень, націлюючись на те, що вона описує як “кризис миттєвої потужності” всередині сучасних центрів обробки даних.

Проблема: зростаючий апетит штучного інтелекту до потужності

Як навантаження штучного інтелекту зростають, особливо з прийняттям усе більш потужних графічних процесорів, центри обробки даних зустрічають фізичне обмеження, яке програмне забезпечення оптимізації не може вирішити самостійно. Хоча обчислювальна потужність продовжує зростати, здатність доставляти стабільну потужність на рівні мілісекунд відстає.

Традиційні системи моніторингу не були розроблені для швидких, пікових моделей споживання потужності сучасних навантажень штучного інтелекту. Щоб уникнути пошкодження обладнання або нестабільності мережі, оператори часто перебільшують, обмежуючи використання. Результатом є суттєве недовикористання існуючої інфраструктури, при цьому до 30% домовленої потужності фактично залишається без діла.

Ця неефективність має фінансові наслідки. Оператори центрів обробки даних платять за потужність, яку вони не можуть повністю використати, тоді як компанії штучного інтелекту зустрічають обмеження, які сповільнюють розгортання та збільшують витрати.

Новий шар між потужністю та обчисленнями

Підхід Niv-AI вводить новий контрольний шар, який розташовується між поставкою енергії та обчислювальними навантаженнями. У центрі його платформи знаходиться те, що компанія називає “електричним відбитком” — високороздільний вигляд того, як навантаження штучного інтелекту споживають потужність в реальному часі.

За допомогою спеціалізованих датчиків система захоплює детальні сигнали потужності, яких не вистачає традиційним приладам обліку. Ці сигнали потім обробляються моделями штучного інтелекту, розробленими для передбачення короткострокових коливань попиту. Замість реакції після сплеску платформа проактивно регулює час навантаження, тонко зміщуючи операції обчислень, щоб згладити використання потужності.

На практиці це функціонує як система управління рухом для електрики всередині центру обробки даних, дозволяючи операторам наблизити інфраструктуру до її справжніх меж без спровокування нестабільності.

Перехід за межі апаратних рішень

Більшість поточних спроб вирішити обмеження потужності покладаються на фізичні рішення, такі як батареї, конденсатори або консервативне обмеження навантажень. Хоча ці підходи є ефективними до певної міри, вони додають вартість, складність або знижують продуктивність.

Niv-AI робить ставку на те, що програмно-керований оркестраційний шар може розблокувати подібні або більші вигоди без необхідності додаткового апаратного забезпечення. Покращуючи видимість та контроль на гранульованому рівні, компанія намагається дозволити операторам витягувати більше цінності з існуючої інфраструктури.

Цей зрушення віддзеркалює ширші тенденції в оптимізації центрів обробки даних, де програмно-визначені підходи все частіше використовуються для управління фізичними обмеженнями.

Ширші наслідки для інфраструктури штучного інтелекту

Якщо ця категорія технологій доведе свою ефективність, вона могла б змінити спосіб проектування та експлуатації центрів обробки даних протягом наступного десятиліття. Замість того, щоб розглядати обмеження потужності як фіксовані обмеження, оператори можуть почати розглядати їх як динамічні змінні, які можна активно керувати в реальному часі.

Це має наслідки, які виходять за рамки ефективності. Це могло б відстрочити або зменшити потребу у дорогих модернізаціях мережі та будівництві нових об’єктів, особливо в регіонах, де доступність енергії вже є瓶шею. Це також могло б вплинути на те, як навантаження штучного інтелекту плануються, цінуються та пріоритезуються, вводячи новий вимір оптимізації, який поєднує оркестрацію обчислень з енергетичним управлінням.

На рівні систем конвергенція контролю потужності та обчислень свідчить про майбутнє, в якому інфраструктура все частіше координується через шари, які історично були ізольовані. Коли штучний інтелект продовжує зростати, здатність гармонізувати ці шари могла б стати такою ж важливою, як удосконалення архітектури моделей або проектування мікросхем.