Niv-AI lève 12 millions de dollars pour remédier au goulot d'étranglement énergétique caché dans l'infrastructure de l'IA

Une nouvelle start-up fait son entrée dans le secteur de plus en plus concurrentiel des infrastructures d'IA en se concentrant sur une contrainte qui fait rarement la une des journaux, mais qui devient rapidement l'un des défis les plus urgents du secteur : l'énergie.

Niv-IA a émergé de l'ombre avec un financement de 12 millions de dollars de la part de Glilot Capital, Grove Ventures, Arc VC, VC encodé, Bond en avant, and Aurora. The Tel Aviv–based company is positioning itself at the intersection of energy systems and high-performance computing, targeting what it describes as an “instantaneous power capacity” crisis inside modern data centers.

Le problème : l’appétit croissant de l’IA pour le pouvoir

Avec l'augmentation des charges de travail liées à l'IA, notamment due à l'adoption de GPU toujours plus puissants, les centres de données se heurtent à une limitation physique que l'optimisation logicielle seule ne peut résoudre. Si la capacité de calcul continue de croître, la capacité à fournir une alimentation stable à la milliseconde près reste insuffisante.

Les systèmes de surveillance traditionnels n'ont pas été conçus pour les pics de consommation électrique rapides des charges de travail d'IA modernes. Afin d'éviter d'endommager les équipements ou de déstabiliser le réseau, les opérateurs ont souvent tendance à surcompenser en limitant la consommation. Il en résulte une sous-utilisation importante des infrastructures existantes, jusqu'à 30 % de la capacité électrique souscrite restant inutilisée.

Cette inefficacité a des conséquences financières. Les opérateurs de centres de données paient pour une capacité qu'ils n'utilisent pas pleinement, tandis que les entreprises spécialisées en IA sont confrontées à des contraintes qui ralentissent le déploiement et augmentent les coûts.

Une nouvelle couche entre puissance et calcul

L'approche de Niv-AI introduit une nouvelle couche de contrôle entre la distribution d'énergie et les charges de travail informatiques. Au cœur de sa plateforme se trouve ce que l'entreprise appelle une « empreinte électrique » : une représentation haute résolution de la consommation énergétique en temps réel des charges de travail d'IA.

Grâce à des capteurs spécialisés, le système capte des signaux de consommation électrique précis, imperceptibles pour les compteurs traditionnels. Ces signaux sont ensuite traités par des modèles d'IA conçus pour prédire les fluctuations de la demande à court terme. Au lieu de réagir après un pic de consommation, la plateforme ajuste proactivement la répartition des charges de travail, en décalant subtilement les opérations de calcul afin de lisser la consommation électrique.

En pratique, cela fonctionne comme un système de gestion du trafic électrique au sein du centre de données, permettant aux opérateurs de pousser l'infrastructure au plus près de ses véritables limites sans provoquer d'instabilité.

Au-delà des solutions matérielles

La plupart des solutions actuelles pour pallier les limitations de consommation énergétique reposent sur des méthodes physiques telles que les batteries, les condensateurs ou la limitation de la charge de travail. Bien qu'efficaces dans une certaine mesure, ces approches engendrent des coûts supplémentaires, une complexité accrue ou une baisse des performances.

Niv-AI mise sur le fait qu'une couche d'orchestration logicielle peut générer des gains similaires, voire supérieurs, sans nécessiter de matériel supplémentaire. En améliorant la visibilité et le contrôle de manière granulaire, l'entreprise vise à permettre aux opérateurs de tirer davantage de valeur de leur infrastructure existante.

Cette évolution reflète des tendances plus générales en matière d'optimisation des centres de données, où les approches logicielles sont de plus en plus utilisées pour gérer les contraintes physiques.

Les implications plus larges pour l'infrastructure de l'IA

Si cette technologie s'avère efficace, elle pourrait transformer la conception et l'exploitation des centres de données au cours de la prochaine décennie. Au lieu de considérer les limites de puissance comme des contraintes fixes, les opérateurs pourraient les percevoir comme des variables dynamiques, gérables en temps réel.

Cela a des implications qui dépassent le simple cadre de l'efficacité. Cela pourrait retarder, voire réduire, le besoin de coûteuses mises à niveau du réseau électrique et de la construction de nouvelles installations, notamment dans les régions où l'approvisionnement en énergie constitue déjà un goulot d'étranglement. Cela pourrait également influencer la planification, la tarification et la priorisation des charges de travail d'IA, introduisant ainsi une nouvelle dimension d'optimisation qui combine l'orchestration des calculs et la gestion de l'énergie.

Au niveau systémique, la convergence du contrôle de la puissance et de la puissance de calcul laisse entrevoir un avenir où l'infrastructure sera de plus en plus coordonnée entre des couches autrefois cloisonnées. À mesure que l'IA se développe, la capacité d'harmoniser ces couches pourrait devenir aussi importante que les progrès réalisés dans l'architecture des modèles ou la conception des puces.