Líderes de opinión

Protegiendo su inversión en IA: Por qué la estrategia de enfriamiento es más importante que nunca

mm
Añade Unite.AI a tus fuentes preferidas en Google

Los operadores de centros de datos están apostando millones a tecnologías de enfriamiento obsoletas. La conversación sobre el enfriamiento de los centros de datos no solo está cambiando, sino que está siendo completamente redefinida por la economía de la IA. Las apuestas nunca han sido más altas.

El rápido avance de la IA ha transformado la economía de los centros de datos de maneras que pocos predijeron. Cuando un solo rack de servidores de IA cuesta alrededor de $3 millones, tanto como una casa de lujo, el cálculo de riesgo cambia fundamentalmente. Como recientemente advirtió Ben Horowitz, co-fundador de Andreessen Horowitz, los centros de datos que financian estas enormes inversiones en hardware “pueden quedar muy rápido” si no gestionan cuidadosamente su estrategia de infraestructura.

Esta nueva realidad demanda un replanteamiento fundamental de los enfoques de enfriamiento. Mientras que las métricas tradicionales como el PUE y los costos de operación siguen siendo importantes, son secundarias para proteger estas inversiones de hardware de varios millones de dólares. La verdadera pregunta que los operadores de centros de datos deberían hacer es: ¿Cómo podemos proteger mejor nuestra inversión en infraestructura de IA?

Los riesgos ocultos del enfriamiento tradicional

La histórica dependencia de la industria en soluciones de enfriamiento basadas en agua y de una sola fase conlleva riesgos cada vez más inaceptables en la era de la IA. Aunque ha servido bien a los centros de datos durante años, las cargas térmicas de los trabajos de IA han empujado esta tecnología más allá de sus límites prácticos. La razón es simple física: los sistemas de una sola fase requieren tasas de flujo más altas para gestionar las cargas térmicas de hoy, lo que aumenta el riesgo de fugas y fallos catastróficos.

Este no es un riesgo hipotético. Una sola fuga de agua puede destruir instantáneamente millones de dólares en hardware de IA, hardware que a menudo tiene tiempos de entrega de meses en el mercado actual con restricciones de suministro. El costo de incluso un solo fallo catastrófico puede exceder el presupuesto de infraestructura de enfriamiento de un centro de datos para todo un año. Sin embargo, muchos operadores siguen confiando en estos sistemas, apostando efectivamente su inversión en IA a tecnología envejecida.

En el Data Center World 2024, el Dr. Mohammad Tradat, gerente de ingeniería mecánica de centros de datos de NVIDIA, preguntó, “¿Cuánto tiempo vivirá el enfriamiento de una sola fase? Pronto será eliminado… y luego habrá una necesidad de enfriamiento de dos fases, basado en refrigerantes”. Esto no es solo una opinión en crecimiento, sino que se está convirtiendo en un consenso de la industria respaldado por la física y la realidad financiera.

Un nuevo enfoque para la protección de inversiones

La tecnología de enfriamiento de dos fases, que utiliza refrigerantes dieléctricos en lugar de agua, cambia fundamentalmente esta ecuación de riesgo. El costo de implementar un sistema de enfriamiento de dos fases, que suele ser de alrededor de $200,000 por rack, debería considerarse como un seguro para proteger una inversión de hardware de IA de $5 millones. Para poner esto en perspectiva, eso es un premio del 4% para proteger su activo, considerablemente más bajo que las tasas de seguro para otras inversiones comerciales de varios millones de dólares. El caso de negocio se vuelve aún más claro cuando se consideran los posibles costos de la interrupción del entrenamiento de IA y la infraestructura inactiva durante el tiempo de inactividad no planificado.

Para los operadores de centros de datos y los partes interesados financieros, la decisión de invertir en enfriamiento de dos fases debería evaluarse a través de la lente de la gestión de riesgos y la protección de inversiones. Las métricas relevantes deberían incluir no solo los costos de operación o la eficiencia energética, sino también el valor total del hardware que se protege, el costo de los posibles escenarios de fallo, el valor de futuro para el hardware de próxima generación y el rendimiento ajustado por riesgo de la inversión en enfriamiento.

A medida que la IA sigue aumentando la densidad y el valor de la infraestructura de los centros de datos, la industria debe evolucionar su enfoque de estrategia de enfriamiento. La pregunta no es si moverse hacia el enfriamiento de dos fases, sino cuándo y cómo hacer la transición mientras se minimiza el riesgo para las operaciones y las inversiones existentes.

Los operadores inteligentes ya están haciendo este cambio, mientras que otros arriesgan aprender una lección costosa. En una era en la que un solo rack cuesta más que el presupuesto anual de operación de muchos centros de datos, apostar a tecnologías de enfriamiento obsoletas no solo es arriesgado, sino potencialmente catastrófico. Es hora de actuar, antes de que ese riesgo se convierta en realidad.

Josh Claman es el Presidente Ejecutivo y CEO Fundador de Accelsius, un líder global en tecnología de enfriamiento líquido directo a chip de dos fases para centros de datos de inteligencia artificial. Co-fundó Accelsius en 2022 para abordar uno de los desafíos más apremiantes del sector: las enormes demandas de energía y agua que la infraestructura de inteligencia artificial impone a las comunidades. Bajo su liderazgo, la empresa desarrolló NeuCool, una plataforma de enfriamiento cerrada y sin agua diseñada para las demandas térmicas de los chips de inteligencia artificial de próxima generación, lo que proporciona hasta un 50% de ahorro de energía en comparación con el enfriamiento por aire tradicional, al mismo tiempo que elimina la dependencia de las instalaciones en los suministros de agua locales.

Claman aporta más de 30 años de liderazgo tecnológico global al cargo. Anteriormente, se desempeñó como Vicepresidente de Empresas Públicas y Grandes Empresas para las Américas en Dell Technologies, supervisando unidades de negocio de miles de millones de dólares en América del Norte y del Sur, y como Gerente General de Dell Reino Unido, como parte de una carrera que abarcó cinco continentes e incluyó puestos ejecutivos en AT&T y NCR. Más tarde, se desempeñó como Presidente de ReachLocal, Oficial de Negocios Jefe en Stratasys, pionera en impresión 3D, y Director Ejecutivo de la empresa de salud digital Rimidi.

Claman obtuvo una licenciatura con alta distinción en Historia y Gobierno de la Universidad de Illinois en Urbana-Champaign y un MBA de la Escuela de Negocios Darla Moore de la Universidad de Carolina del Sur. Escribe y habla con frecuencia sobre la intersección de la tecnología, la energía y la política pública, y ha abordado la sostenibilidad de los centros de datos en foros de toda América del Norte y Europa. Cree que la licencia a largo plazo de la industria para operar depende tanto de la confianza de la comunidad como del rendimiento técnico.