Niv-AI lève 12 millions de dollars pour résoudre le goulet d’étranglement caché de l’infrastructure d’IA en matière de puissance

Une nouvelle startup entre sur le marché de l’infrastructure d’IA de plus en plus encombré, avec un accent sur une contrainte qui fait rarement les gros titres, mais qui devient rapidement l’un des défis les plus pressants de l’industrie : la puissance.

Niv-AI émerge de la clandestinité avec 12 millions de dollars de financement de la part de Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward et Aurora. L’entreprise basée à Tel Aviv se positionne à l’intersection des systèmes énergétiques et de l’informatique haute performance, ciblant ce qu’elle décrit comme une crise de « capacité de puissance instantanée » à l’intérieur des centres de données modernes.

Le problème : l’appétit croissant de l’IA pour la puissance

À mesure que les charges de travail d’IA augmentent, en particulier avec l’adoption de GPU de plus en plus denses en puissance, les centres de données rencontrent une limitation physique que l’optimisation logicielle seule ne peut pas résoudre. Alors que la capacité de calcul continue de croître, la capacité à fournir une puissance stable au niveau de la milliseconde est en retard.

Les systèmes de surveillance traditionnels n’ont pas été conçus pour les modèles de consommation de puissance rapides et pointus des charges de travail d’IA modernes. Pour éviter les dommages aux équipements ou l’instabilité du réseau, les opérateurs limitent souvent l’utilisation. Le résultat est une sous-utilisation significative de l’infrastructure existante, avec jusqu’à 30 % de la capacité de puissance contractuelle qui reste effectivement inutilisée.

Cette inefficacité a des implications financières. Les opérateurs de centres de données paient pour une capacité qu’ils ne peuvent pas utiliser pleinement, tandis que les entreprises d’IA font face à des contraintes qui ralentissent le déploiement et augmentent les coûts.

Un nouveau niveau entre la puissance et le calcul

L’approche de Niv-AI introduit un nouveau niveau de contrôle qui se situe entre la livraison d’énergie et les charges de travail de calcul. Au cœur de sa plate-forme se trouve ce que l’entreprise appelle une « empreinte électrique » — une vue haute résolution de la façon dont les charges de travail d’IA consomment de la puissance en temps réel.

En utilisant des capteurs spécialisés, le système capture des signaux de puissance détaillés que les compteurs traditionnels manquent. Ces signaux sont ensuite traités par des modèles d’IA conçus pour prédire les fluctuations à court terme de la demande. Au lieu de réagir après qu’un pic se produit, la plate-forme ajuste proactivement le timing des charges de travail, en décalant subtilement les opérations de calcul pour lisser l’utilisation de la puissance.

Dans la pratique, cela fonctionne comme un système de gestion du trafic pour l’électricité à l’intérieur du centre de données, permettant aux opérateurs de pousser l’infrastructure plus près de ses limites réelles sans déclencher d’instabilité.

Dépasser les solutions matérielles

La plupart des tentatives actuelles pour résoudre les contraintes de puissance reposent sur des solutions physiques telles que des batteries, des condensateurs ou une réduction conservatrice des charges de travail. Même si ces approches sont efficaces dans une certaine mesure, elles ajoutent des coûts, de la complexité ou réduisent les performances.

Niv-AI mise sur le fait qu’une couche d’orchestration logicielle peut débloquer des gains similaires ou supérieurs sans nécessiter de matériel supplémentaire. En améliorant la visibilité et le contrôle à un niveau granulaire, l’entreprise vise à permettre aux opérateurs de tirer plus de valeur de l’infrastructure existante.

Ce changement reflète les tendances plus larges dans l’optimisation des centres de données, où les approches logicielles sont de plus en plus utilisées pour gérer les contraintes physiques.

Les implications plus larges pour l’infrastructure d’IA

Si cette catégorie de technologie s’avère efficace, elle pourrait redéfinir la façon dont les centres de données sont conçus et exploités au cours de la prochaine décennie. Plutôt que de considérer les limites de puissance comme des contraintes fixes, les opérateurs pourraient commencer à les voir comme des variables dynamiques qui peuvent être gérées en temps réel.

Cela a des implications au-delà de l’efficacité. Cela pourrait retarder ou réduire le besoin de mises à niveau coûteuses du réseau et de la construction de nouvelles installations, en particulier dans les régions où la disponibilité de l’énergie est déjà un goulet d’étranglement. Cela pourrait également influencer la façon dont les charges de travail d’IA sont planifiées, tarifiées et priorisées, en introduisant une nouvelle dimension d’optimisation qui combine l’orchestration du calcul avec la gestion de l’énergie.

À un niveau système, la convergence du contrôle de la puissance et du calcul suggère un avenir où l’infrastructure est de plus en plus coordonnée à travers des couches qui étaient historiquement cloisonnées. À mesure que l’IA continue de croître, la capacité à harmoniser ces couches pourrait devenir aussi importante que les progrès de l’architecture de modèle ou de la conception de puces.