Niv-AI raccoglie 12 milioni di dollari per affrontare il collo di bottiglia energetico nascosto nelle infrastrutture di intelligenza artificiale.

Una nuova startup sta entrando nel settore sempre più affollato delle infrastrutture per l'intelligenza artificiale, concentrandosi su un limite che raramente fa notizia, ma che sta rapidamente diventando una delle sfide più urgenti del settore: l'alimentazione.

Niv-AI è uscito dalla modalità furtiva con 12 milioni di dollari di finanziamenti da Capitale di Glilot, Grove Ventures, Arc VC, VC codificato, Salto avantie Aurora. L'azienda con sede a Tel Aviv si sta posizionando all'incrocio tra sistemi energetici e calcolo ad alte prestazioni, puntando a quella che definisce una crisi di "capacità di alimentazione istantanea" all'interno dei moderni data center.

Il problema: la crescente sete di potere dell'intelligenza artificiale

Con l'aumento dei carichi di lavoro di intelligenza artificiale, in particolare con l'adozione di GPU a densità energetica sempre maggiore, i data center si trovano ad affrontare una limitazione fisica che la sola ottimizzazione software non può risolvere. Mentre la capacità di calcolo continua a crescere, la capacità di fornire energia stabile a livello di millisecondi è in ritardo.

I sistemi di monitoraggio tradizionali non sono stati progettati per i rapidi e irregolari modelli di consumo energetico dei moderni carichi di lavoro di intelligenza artificiale. Per evitare danni alle apparecchiature o instabilità della rete, gli operatori spesso compensano eccessivamente limitando l'utilizzo. Il risultato è una significativa sottoutilizzazione delle infrastrutture esistenti, con fino al 30% della capacità di alimentazione contrattualizzata che rimane effettivamente inutilizzata.

Questa inefficienza ha implicazioni finanziarie. Gli operatori dei data center pagano per una capacità che non possono utilizzare appieno, mentre le aziende che si occupano di intelligenza artificiale si trovano ad affrontare vincoli che rallentano l'implementazione e aumentano i costi.

Un nuovo livello tra potenza e calcolo

L'approccio di Niv-AI introduce un nuovo livello di controllo che si interpone tra l'erogazione di energia e i carichi di lavoro computazionali. Al centro della sua piattaforma c'è quella che l'azienda definisce un'"impronta elettrica": una visione ad alta risoluzione di come i carichi di lavoro di intelligenza artificiale consumano energia in tempo reale.

Utilizzando sensori specializzati, il sistema cattura segnali di potenza dettagliati che i contatori tradizionali non riescono a rilevare. Questi segnali vengono poi elaborati da modelli di intelligenza artificiale progettati per prevedere le fluttuazioni a breve termine della domanda. Invece di reagire solo dopo un picco, la piattaforma regola in modo proattivo la tempistica dei carichi di lavoro, scaglionando gradualmente le operazioni di elaborazione per uniformare il consumo energetico.

In pratica, questo sistema funziona come un sistema di gestione del traffico elettrico all'interno del data center, consentendo agli operatori di spingere l'infrastruttura più vicino ai suoi limiti reali senza innescare instabilità.

Andare oltre le soluzioni hardware

La maggior parte dei tentativi attuali di affrontare i problemi di alimentazione si basa su soluzioni fisiche come batterie, condensatori o una limitazione conservativa dei carichi di lavoro. Sebbene efficaci in una certa misura, questi approcci aumentano i costi, la complessità o riducono le prestazioni.

Niv-AI scommette che un livello di orchestrazione basato su software possa sbloccare vantaggi simili o superiori senza richiedere hardware aggiuntivo. Migliorando la visibilità e il controllo a livello granulare, l'azienda mira a consentire agli operatori di estrarre più valore dalle infrastrutture esistenti.

Questo cambiamento rispecchia tendenze più ampie nell'ottimizzazione dei data center, dove gli approcci basati su software vengono sempre più utilizzati per gestire i vincoli fisici.

Le implicazioni più ampie per l'infrastruttura dell'intelligenza artificiale

Se questa categoria di tecnologie si dimostrerà efficace, potrebbe rivoluzionare la progettazione e la gestione dei data center nel prossimo decennio. Anziché considerare i limiti di potenza come vincoli fissi, gli operatori potrebbero iniziare a vederli come variabili dinamiche, gestibili attivamente in tempo reale.

Ciò ha implicazioni che vanno oltre l'efficienza. Potrebbe ritardare o ridurre la necessità di costosi aggiornamenti della rete e di nuove costruzioni di infrastrutture, soprattutto nelle regioni in cui la disponibilità di energia rappresenta già un collo di bottiglia. Potrebbe anche influenzare la pianificazione, la determinazione dei prezzi e la definizione delle priorità dei carichi di lavoro di intelligenza artificiale, introducendo una nuova dimensione di ottimizzazione che unisce l'orchestrazione computazionale alla gestione energetica.

A livello di sistema, la convergenza tra controllo di potenza e di calcolo prefigura un futuro in cui l'infrastruttura sarà sempre più coordinata tra livelli che storicamente erano isolati. Con la continua espansione dell'IA, la capacità di armonizzare questi livelli potrebbe diventare importante quanto i progressi nell'architettura dei modelli o nella progettazione dei chip.