Niv-AI získává 12 milionů dolarů na řešení skrytého problému s výkonem v infrastruktuře AI

Nová startup společnost vstoupila na stále více přeplněný trh infrastruktury AI se zaměřením na omezení, které se zřídka dostává do titulů, ale rychle se stává jednou z nejnaléhavějších výzev odvětví: výkon.

Niv-AI vyšla ze stealth módu s 12 miliony dolarů financování od Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward a Aurora. Společnost se sídlem v Tel Avivu se позиcionuje na průsečíku energetických systémů a high-performance computing, zaměřuje se na to, co popisuje jako „krizi okamžité kapacity výkonu“ uvnitř moderních datových center.

Problém: Růst výkonu AI

Jak se zvyšují AI úkoly, zejména s přijetím stále více energeticky náročných GPU, datová centra narazila na fyzické omezení, které nelze vyřešit pouze optimalizací softwaru. Zatímco kapacita výpočtu pokračuje ve růstu, schopnost dodávat stabilní výkon na úrovni milisekund zůstává pozadu.

Tradiční monitorovací systémy nebyly navrženy pro rychlé, špičaté vzorce spotřeby výkonu moderních AI úloh. Aby se zabránilo poškození zařízení nebo nestability sítě, operátoři často nadměrně kompenzují omezením využití. Výsledkem je významné nevyužití stávající infrastruktury, přičemž až 30 % smluvené kapacity výkonu efektivně zůstává nečinné.

Tato neefektivita má finanční důsledky. Operátoři datových center platí za kapacitu, kterou nemohou plně využít, zatímco společnosti AI čelí omezením, které zpomalují nasazení a zvyšují náklady.

Nová vrstva mezi výkonem a výpočtem

Přístup Niv-AI zahrnuje novou kontrolní vrstvu, která se nachází mezi dodávkou energie a výpočetními úkoly. V jádru své platformy je to, co společnost nazývá „elektrickým otiskem“ — vysoce rozlišená pohled na to, jak AI úkoly spotřebovávají výkon v reálném čase.

Pomocí specializovaných senzorů systém zachycuje podrobné signály výkonu, které tradiční měřiče přehlížejí. Tyto signály jsou poté zpracovány AI modely navržené pro předpověď krátkodobých fluktuací poptávky. Místo reakce po výskytu špičky platforma proaktivně upravuje timing úloh, jemně stupňuje výpočetní operace, aby vyhladila spotřebu výkonu.

V praxi to funguje jako systém řízení dopravy pro elektřinu uvnitř datového centra, což umožňuje operátorům tlačit infrastrukturu blíže k jejím skutečným limitům bez spouštění nestability.

Přesáhnutí hardwarových oprav

Většina současných pokusů o řešení omezení výkonu spoléhá na fyzické řešení, jako jsou baterie, kondenzátory nebo konzervativní omezení úloh. Zatímco jsou tyto přístupy účinné do určité míry, přidávají náklady, složitost nebo snižují výkon.

Niv-AI sází na to, že software-driven orchestrace může odemknout podobné nebo větší zisky bez nutnosti dalšího hardwaru. Zlepšením viditelnosti a kontroly na jemné úrovni společnost cílí na to, aby umožnila operátorům získat více hodnoty z existující infrastruktury.

Tento posun odráží širší trendy v optimalizaci datových center, kde se software-definované přístupy stále více používají pro řízení fyzických omezení.

Širší důsledky pro infrastrukturu AI

Pokud se tato kategorie technologií ukáže jako účinná, mohla by přetvořit, jak jsou datová centra navrhována a provozována v průběhu příštích deseti let. Místo toho, aby se na omezení výkonu pohlíželo jako na pevné omezující podmínky, operátoři je mohou začít považovat za dynamické proměnné, které lze aktivně řídit v reálném čase.

To má důsledky, které přesahují účinnost. Může oddálit nebo snížit potřebu drahých upgrade sítě a nové výstavby zařízení, zejména v regionech, kde je dostupnost energie již úzkým místem. Může také ovlivnit, jak jsou AI úkoly naplánovány, ceněny a prioritizovány, a to zavedením nové dimenze optimalizace, která kombinuje orchestraci výpočtu s řízením energie.

Na úrovni systémů konvergence výkonu a kontroly výpočtu naznačuje budoucnost, ve které je infrastruktura stále více koordinována napříč vrstvami, které byly historicky izolovány. Jak AI pokračuje ve škálování, schopnost harmonizovat tyto vrstvy by mohla být stejně důležitá jako pokroky v architektuře modelu nebo návrhu čipu.