Niv-AI recauda $12M para abordar el cuello de botella oculto de energía en la infraestructura de IA

Una nueva startup está ingresando al espacio de infraestructura de IA cada vez más concurrido, centrándose en una restricción que rara vez hace titulares, pero que se está convirtiendo rápidamente en uno de los desafíos más apremiantes de la industria: la energía.

Niv-AI ha salido de la clandestinidad con $12 millones en financiamiento de Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward y Aurora. La empresa con sede en Tel Aviv se está posicionando en la intersección de los sistemas de energía y la informática de alto rendimiento, apuntando a lo que describe como una crisis de “capacidad de energía instantánea” dentro de los centros de datos modernos.

El problema: El apetito creciente de energía de la IA

A medida que las cargas de trabajo de IA se escalan, particularmente con la adopción de GPUs cada vez más densas en términos de energía, los centros de datos están encontrando una limitación física que la optimización del software sola no puede resolver. Mientras que la capacidad de cómputo continúa creciendo, la capacidad de entregar energía estable a nivel de milisegundo está quedando atrás.

Los sistemas de monitoreo tradicionales no fueron diseñados para los patrones de consumo de energía rápidos y picados de las cargas de trabajo de IA modernas. Para evitar daños en el equipo o inestabilidad en la red, los operadores a menudo sobrecompensan limitando el uso. El resultado es una subutilización significativa de la infraestructura existente, con hasta un 30% de la capacidad de energía contratada sentada efectivamente inactiva.

Esta ineficiencia tiene implicaciones financieras. Los operadores de centros de datos pagan por la capacidad que no pueden utilizar completamente, mientras que las empresas de IA enfrentan restricciones que ralentizan la implementación y aumentan los costos.

Una nueva capa entre la energía y el cómputo

El enfoque de Niv-AI introduce una nueva capa de control que se sitúa entre la entrega de energía y las cargas de trabajo de cómputo. En el núcleo de su plataforma se encuentra lo que la empresa llama una “huella eléctrica” — una vista de alta resolución de cómo las cargas de trabajo de IA consumen energía en tiempo real.

Usando sensores especializados, el sistema captura señales de energía detalladas que los medidores tradicionales pasan por alto. Estas señales se procesan luego mediante modelos de IA diseñados para predecir fluctuaciones a corto plazo en la demanda. En lugar de reaccionar después de que ocurre un pico, la plataforma ajusta proactivamente el momento de la carga de trabajo, estudiando sutilmente las operaciones de cómputo para suavizar el uso de energía.

En la práctica, esto funciona como un sistema de gestión de tráfico para la electricidad dentro del centro de datos, lo que permite a los operadores empujar la infraestructura más cerca de sus límites reales sin desencadenar inestabilidad.

Más allá de las soluciones de hardware

La mayoría de los intentos actuales para abordar las restricciones de energía dependen de soluciones físicas como baterías, condensadores o reducción conservadora de las cargas de trabajo. Si bien son efectivos hasta cierto punto, estos enfoques agregan costo, complejidad o reducen el rendimiento.

Niv-AI está apostando por que una capa de orquestación impulsada por software puede desbloquear ganancias similares o mayores sin requerir hardware adicional. Al mejorar la visibilidad y el control a un nivel granular, la empresa pretende permitir que los operadores extraigan más valor de la infraestructura existente.

Este cambio refleja tendencias más amplias en la optimización de centros de datos, donde los enfoques definidos por software se utilizan cada vez más para gestionar las limitaciones físicas.

Las implicaciones más amplias para la infraestructura de IA

Si esta categoría de tecnología resulta efectiva, podría cambiar la forma en que se diseñan y operan los centros de datos en la próxima década. En lugar de tratar los límites de energía como restricciones fijas, los operadores pueden comenzar a verlos como variables dinámicas que se pueden gestionar activamente en tiempo real.

Esto tiene implicaciones más allá de la eficiencia. Podría retrasar o reducir la necesidad de costosas actualizaciones de la red y la construcción de nuevas instalaciones, particularmente en regiones donde la disponibilidad de energía ya es un cuello de botella. También puede influir en cómo se programan, se prician y se priorizan las cargas de trabajo de IA, introduciendo una nueva dimensión de optimización que combina la orquestación de cómputo con la gestión de energía.

A nivel de sistemas, la convergencia del control de energía y cómputo sugiere un futuro en el que la infraestructura se coordina cada vez más a través de capas que históricamente estaban aisladas. A medida que la IA continúa escalando, la capacidad de armonizar estas capas podría convertirse en tan importante como los avances en la arquitectura de modelos o el diseño de chips.