Más allá de la GPU: optimizar la fábrica de IA como sistema

Una fábrica de IA no es un centro de datos más grande. Está diseñada específicamente para producir tokens inteligentes, no para alojar páginas web y correo electrónico. Cuando un hiperescalador o una neonube invierte miles de millones de dólares y años en construir una fábrica de IA, las GPU que realizan el grueso del trabajo computacional se convierten naturalmente en una prioridad. Pero optimizar solo la GPU no significa optimizar la fábrica que la rodea. Los sistemas de energía y térmicos deben dar soporte a ese cómputo, y las decisiones que se toman en un sistema pueden tener consecuencias importantes para los demás. La IA busca maximizar sistemas complejos; sin embargo, las fábricas que la producen suelen optimizarse componente por componente. La tecnología de gemelos virtuales permite a los ingenieros construir y optimizar todo el sistema antes incluso de que comience la construcción.

Por qué el diseño conservador se convirtió en la opción más segura

Con las elevadas consecuencias inminentes de un fallo del sistema o un cuello de botella en el rendimiento, las primeras instalaciones se construyeron con márgenes de seguridad y hardware excesivos. Sin una hoja de ruta para esta nueva generación de centros de datos, construir con precaución podría parecer el enfoque más seguro. Estos márgenes ayudaron a proteger contra problemas como picos térmicos cerca de los chips, que pueden dejar a los operadores con tan solo un minuto para responder antes de que el hardware falle. En algunas de las primeras instalaciones, hasta el 10 por ciento de la potencia disponible quedó varada como margen no utilizado.

Las fábricas de IA están expuestas a variaciones de temperatura, condiciones meteorológicas, fallos de equipos, capacidad insuficiente, deficiencias de diseño y problemas de mantenimiento. Dado lo mucho que está en juego, a escala de gigavatios, cada día de retraso en la disponibilidad de capacidad puede representar aproximadamente 100 millones de dólares en ingresos perdidos por la generación de tokens. La cautela parecía necesaria cuando no había forma de predecir las consecuencias de esos problemas.

El desafío es aún mayor cuando estos riesgos abarcan varios sistemas independientes. Una fábrica de IA depende de tres sistemas estrechamente interconectados: cómputo, energía y gestión térmica. La GPU requiere una compleja cadena de suministro eléctrico que la alimente y un sistema térmico igualmente exigente que elimine el calor que genera. Cuando el cómputo, la energía y la gestión térmica se tratan como etapas separadas y cada una se optimiza dentro de su propio ámbito, los equipos pueden pasar por alto cómo una decisión en un sistema afecta a los demás. Esto crea puntos ciegos y desequilibrios, sobre todo cuando la energía y la refrigeración se consideran requisitos de infraestructura que deben abordarse después de tomar las decisiones sobre el cómputo.

La energía y la refrigeración no pueden estar separadas del cómputo. Forman parte del sistema que determina la eficacia con la que puede funcionar el cómputo. Por tanto, el cambio consiste en pasar de optimizar sistemas individuales a optimizar toda la fábrica.

La importancia de la cooptimización

Para resolver este problema, hay que pasar de optimizar cada sistema por separado a cooptimizar la fábrica en su conjunto. La construcción física obliga a tomar decisiones en secuencia: se diseña un sistema, luego se construye otro a su alrededor y se añade otro más para darle soporte. Esto dificulta la optimización de toda la fábrica, porque cada decisión reduce las opciones disponibles para los sistemas que vienen después. La cooptimización exige trasladar ese proceso a un entorno virtual, donde se pueda modelar, modificar y evaluar todo el sistema antes de que nada quede fijado físicamente, creando así un diseño dinámico.

Modelar la fábrica antes de que exista

Aquí es donde la tecnología de gemelos virtuales a nivel de sistema se vuelve esencial.

Un gemelo virtual utiliza el modelado formal de sistemas para representar conjuntamente la infraestructura de cómputo, energía y gestión térmica, y puede modelar la fábrica de IA antes de que exista físicamente. A diferencia de un gemelo digital tradicional, centrado en un activo físico existente, un gemelo virtual puede modelar un sistema antes de que exista físicamente. Permite a los ingenieros probar distintas configuraciones y comprender cómo afectan a los demás los cambios en una parte del sistema antes de que esas decisiones se conviertan en compromisos físicos.

Por ejemplo, aumentar la densidad de GPU no consiste simplemente en añadir más capacidad de cómputo. Puede incrementar la carga eléctrica, cambiar los requisitos de disipación del calor, afectar a la ubicación de los equipos y plantear nuevas consideraciones para la puesta en servicio. Modelar conjuntamente esas relaciones permite a los ingenieros evaluar las compensaciones antes de la construcción, en lugar de descubrirlas a medida que avanza el proyecto.

La tecnología de gemelos virtuales permite a los ingenieros cometer virtualmente un error costoso antes de que se convierta en uno costoso en el mundo físico. Ofrece una forma de identificar posibles problemas y oportunidades en el entorno virtual, lo que permite a los equipos resolver los problemas antes de que se presenten en el mundo físico. Probar las configuraciones antes de la puesta en servicio física también permite detectar y eliminar en la fase de diseño los márgenes de diseño innecesarios, la energía desaprovechada y el desperdicio asociado a los márgenes de seguridad. A gran escala, incluso pequeñas reducciones pueden traducirse en millones de ahorro de capital y en un acceso más temprano a los ingresos.

 Hacer que el modelo sea predictivo

El modelo también puede utilizar simulaciones basadas en la física para predecir el comportamiento del sistema. Cuando se conocen bien los fundamentos físicos o químicos, las herramientas de simulación pueden predecir ese comportamiento. Cuando los abundantes datos operativos ofrecen una alternativa mejor, los modelos de IA y aprendizaje automático pueden complementar esas simulaciones.

El resultado es un entorno para explorar cómo se comporta el sistema acoplado y coordinar decisiones entre distintas disciplinas de ingeniería. El modelo también puede evolucionar a medida que se dispone de datos operativos, lo que permite que las lecciones de una instalación o un ciclo operativo orienten futuros diseños y decisiones.

Un plano para la fábrica de IA

La industria ya está sentando las bases de este enfoque. El plano DSX de NVIDIA está estableciendo un diseño de referencia para fábricas de IA a escala de gigavatios. NVIDIA ha comenzado por definir la parte de computación de ese plano mediante el modelado de sistemas y un enfoque de simulación con gemelos virtuales, e invita a socios del ecosistema de los sectores de la energía, la refrigeración y la construcción —entre ellos, empresas como Eaton, Vertiv y Jacobs— a aportar sus propias partes del diseño. La interoperabilidad de los diseños de referencia se hace posible gracias a SysML, que permite definir los sistemas en su conjunto, mientras que OpenUSD proporciona una base para los datos con un enfoque 3D.

El objetivo no es que cada empresa optimice su propio componente y luego espere que esas piezas encajen. Es necesario reunir los conocimientos especializados en computación, energía, refrigeración e instalaciones para que cada tecnología de primer nivel contribuya al rendimiento de todo el sistema.

Cada sector puede optimizar sus propias áreas, pero para crear un producto final potente es necesario optimizar esos sistemas en conjunto. A medida que este enfoque madura, también permite que la infraestructura de IA supere los proyectos piloto aislados y puntuales, y avance hacia sistemas a escala empresarial capaces de gestionar entornos operativos muy complejos.

Optimizar la fábrica, no solo la GPU

La GPU seguirá siendo fundamental para el rendimiento de las fábricas de IA. Sin embargo, comprar las mejores GPU no basta, por sí solo, para optimizar la fábrica en torno a ellas. La próxima generación de infraestructura de IA dependerá de diseñar los sistemas de computación, energía y gestión térmica como un único sistema integrado, modelar esas interrelaciones antes de asumir compromisos físicos importantes y aprovechar continuamente lo que el sistema aprende para mejorar lo que viene después. No podemos predecir el futuro ni evitar todos los errores, pero la tecnología de gemelos virtuales puede ayudar a los equipos a planificar ante la incertidumbre y optimizar las fábricas de IA como un sistema.