Niv-AI atrage 12 milioane de dolari pentru a aborda blocajul ascuns de putere din infrastructura IA

O nouă companie intră pe piața tot mai aglomerată a infrastructurii IA, cu accent pe o constrângere care rareori face titluri, dar care devine rapid una dintre cele mai presante provocări ale industriei: puterea.

Niv-AI a ieșit din stealth cu 12 milioane de dolari în finanțare de la Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward și Aurora. Compania cu sediul în Tel Aviv se poziționează la intersecția sistemelor de energie și a calculului de înaltă performanță, țintind ceea ce descrie ca o “criză de capacitate de putere instantanee” în interiorul centrelor de date moderne.

Problema: Apetitul tot mai mare al IA pentru putere

Pe măsură ce sarcinile de lucru ale IA se extind, în special cu adoptarea tot mai puternică a GPU-urilor, centrele de date se confruntă cu o limitare fizică pe care optimizarea software nu o poate rezolva. În timp ce capacitatea de calcul continuă să crească, capacitatea de a furniza putere stabilă la nivel de milisecundă rămâne în urmă.

Sistemele de monitorizare tradiționale nu au fost proiectate pentru modelele de consum de putere rapide și cu vârfuri ale sarcinilor de lucru moderne ale IA. Pentru a evita deteriorarea echipamentelor sau instabilitatea rețelei, operatorii limitează adesea utilizarea. Rezultatul este o subutilizare semnificativă a infrastructurii existente, cu până la 30% din capacitatea de putere contractată fiind în mod efectiv inactivă.

Această ineficiență are implicații financiare. Operatorii de centre de date plătesc pentru capacitatea pe care nu o pot utiliza pe deplin, în timp ce companiile de IA se confruntă cu constrângeri care încetinesc implementarea și cresc costurile.

Un nou strat între putere și calcul

Abordarea Niv-AI introduce un nou strat de control care se află între furnizarea de energie și sarcinile de lucru de calcul. La nucleul platformei se află ceea ce compania numește “amprentă electrică” – o vedere de înaltă rezoluție a modului în care sarcinile de lucru ale IA consumă putere în timp real.

Utilizând senzori specializați, sistemul captează semnale de putere detaliate pe care traductoarele tradiționale le ratează. Aceste semnale sunt apoi procesate de modele de IA proiectate pentru a prevedea fluctuațiile pe termen scurt ale cererii. În loc de a reacționa după ce apare un vârf, platforma ajustează proactiv momentul sarcinilor de lucru, decalând subtil operațiunile de calcul pentru a netezi consumul de putere.

În practică, acest lucru funcționează ca un sistem de management al traficului pentru electricitate în interiorul centrelor de date, permițând operatorilor să împingă infrastructura mai aproape de limitele sale reale fără a declanșa instabilitate.

Depășirea soluțiilor de hardware

Majoritatea încercărilor actuale de a aborda constrângerile de putere se bazează pe soluții fizice, cum ar fi bateriile, condensatoarele sau limitarea conservatoare a sarcinilor de lucru. Deși sunt eficiente până la un anumit punct, aceste abordări adaugă cost, complexitate sau reduc performanța.

Niv-AI pariază că un strat de orchestrare condus de software poate debloca câștiguri similare sau mai mari fără a necesita hardware suplimentar. Prin îmbunătățirea vizibilității și controlului la nivel granular, compania își propune să permită operatorilor să extragă mai multă valoare din infrastructura existentă.

Acestă schimbare reflectă tendințe mai largi în optimizarea centrelor de date, unde abordările definite de software sunt din ce în ce mai utilizate pentru a gestiona constrângerile fizice.

Implicațiile mai largi pentru infrastructura IA

Dacă această categorie de tehnologie se dovedește a fi eficientă, ar putea remodela modul în care centrele de date sunt proiectate și operate în următorul deceniu. În loc de a trata limitele de putere ca constrângeri fixe, operatorii ar putea începe să le vadă ca variabile dinamice care pot fi gestionate în timp real.

Acest lucru are implicații dincolo de eficiență. Ar putea întârzia sau reduce nevoia de actualizări costisitoare ale rețelei și construcția de noi facilități, în special în regiunile în care disponibilitatea energiei este deja un blocaj. De asemenea, ar putea influența modul în care sunt programate, tarifate și prioritizate sarcinile de lucru ale IA, introducând o nouă dimensiune de optimizare care combină orchestrarea calculului cu gestionarea energiei.

La nivel de sistem, convergența controlului puterii și calculului sugerează un viitor în care infrastructura va fi din ce în ce mai coordonată pe straturi care au fost istoric separate. Pe măsură ce IA continuă să se extindă, capacitatea de a armoniza aceste straturi ar putea deveni la fel de importantă ca progresele în arhitectura modelului sau proiectarea cipului.