Hans Hasselby-Andersen, director ejecutivo de Lotus Microsystems: serie de entrevistas

Hans Hasselby-Andersen es director ejecutivo de Lotus Microsystems y cuenta con más de 20 años de experiencia en la industria de los semiconductores como fundador, ejecutivo, miembro de consejos de administración e inversionista. Fundó Merus Audio y dirigió la empresa hasta su adquisición por Infineon en 2018. También ha ocupado puestos directivos en Texas Instruments, Infineon, Toccata Technology y Nokia. Su trabajo se ha centrado en llevar al mercado tecnologías de semiconductores de alta eficiencia energética.

Lotus Microsystems es una empresa de semiconductores sin fábrica propia, con sede en Copenhague, que desarrolla convertidores de potencia integrados y soluciones de suministro de energía para sistemas electrónicos avanzados. Su tecnología de silicio Power Interposer combina la conversión de potencia con la gestión térmica, entre otras aplicaciones mediante su plataforma de suministro vertical de energía vStrata para inteligencia artificial y computación de alto rendimiento. En esta entrevista, Hasselby-Andersen habla de las pérdidas de energía en los servidores, los límites de las arquitecturas de alimentación convencionales y por qué cada vez es más necesario diseñar conjuntamente el suministro de energía, la refrigeración y el encapsulado de semiconductores.

Su carrera abarca desde los sistemas inalámbricos en Nokia y el desarrollo de semiconductores en Texas Instruments hasta la fundación de Merus Audio y su dirección durante el proceso de adquisición por Infineon, y ahora la dirección de Lotus Microsystems. ¿Cómo ha influido esa experiencia en su manera de abordar los desafíos de potencia y térmicos que surgen en la infraestructura de inteligencia artificial actual?

Llegué al mundo de los semiconductores casi por casualidad. Texas Instruments adquirió una empresa emergente en la que trabajaba, y esa fue mi introducción al diseño, la fabricación y la comercialización de chips. Yo no era diseñador de chips, pero aprendí muchísimo sobre la industria.

Más adelante, cuando fundé Merus Audio, el impulso inicial fue detectar una clara necesidad del mercado: reducir las pérdidas de energía y prolongar la duración de la batería de los altavoces inalámbricos. A partir de ahí, me centré en reunir a las personas y la tecnología adecuadas para responder a esa necesidad.

Después de que Infineon adquiriera Merus, pasé un tiempo fuera de la industria de los semiconductores, pero finalmente me di cuenta de que era donde quería estar. Lo que me atrajo de Lotus Microsystems fue que el equipo fundador se centraba en tres aspectos fundamentales de su tecnología avanzada de suministro de energía: la eficiencia energética, el tamaño físico y el rendimiento térmico. Estos desafíos nunca desaparecen del todo en el suministro de energía, sea cual sea la aplicación, pero la inteligencia artificial los ha vuelto particularmente urgentes.

Estamos viendo avances extraordinarios en la tecnología de procesadores, pero toda esa capacidad de cálculo está sujeta a limitaciones físicas muy reales. Mi experiencia me ha enseñado que resolver esos problemas menos visibles puede ser tan valioso como desarrollar la tecnología que acapara toda la atención.

En los debates sobre infraestructura de inteligencia artificial se suele prestar mucha atención al rendimiento de las GPU, las redes y la refrigeración. ¿Por qué cree que el suministro de energía en sí se está convirtiendo en uno de los principales límites para seguir ampliando los sistemas de inteligencia artificial?

Dedicamos mucho tiempo a hablar de la capacidad de cálculo que puede ofrecer una GPU, pero mucho menos a cómo suministrarle suficiente electricidad de manera eficiente. Los aceleradores modernos de inteligencia artificial requieren miles de amperios con voltajes muy bajos, y sus necesidades de energía pueden cambiar casi instantáneamente según la carga de trabajo. Los sistemas tradicionales de suministro de energía no se diseñaron para semejante intensidad. Se puede tener el procesador más avanzado del mundo, pero, si no se le suministra una alimentación estable cuando la necesita, no se aprovechará todo su potencial. Por eso, el suministro de energía se está convirtiendo en un aspecto tan importante del desafío de ampliar la inteligencia artificial.

Cuando los operadores de centros de datos hablan de eficiencia energética, buena parte de la atención se centra en los sistemas de refrigeración y los indicadores de las instalaciones. ¿Cuánta energía se pierde realmente dentro del servidor antes de llegar al procesador y por qué se le ha prestado relativamente poca atención a este problema?

No hay una cifra única que se aplique a todos los servidores, pero las pérdidas pueden ser considerables. Según nuestras estimaciones, en ciertas arquitecturas de alta corriente se puede perder aproximadamente entre el 7 y el 10 % de la energía en las etapas finales del suministro al procesador. Esa energía no se aprovecha para realizar ningún cálculo útil: se convierte en calor, que luego hay que disipar. Cuando se utilizan miles de procesadores sin interrupción, incluso las ineficiencias relativamente pequeñas resultan muy costosas.

Una de las razones por las que se ha pasado por alto este problema es la forma en que tradicionalmente hemos medido la eficiencia de los centros de datos. La eficacia del uso de la energía, o PUE, se ha convertido en el estándar del sector y resulta útil para entender los gastos generales de las instalaciones, incluidos la refrigeración y la distribución de energía. Sin embargo, no muestra con qué eficiencia se convierte y suministra la electricidad dentro del propio servidor.

No estoy diciendo que la eficiencia de la refrigeración no sea importante; lo es, sin duda. Pero resulta un poco absurdo gastar enormes cantidades de dinero en eliminar el calor sin prestar suficiente atención a dónde se origina parte de ese calor innecesario. Deberíamos intentar evitar esas pérdidas desde el principio.

A medida que las GPU y otros aceleradores de inteligencia artificial consumen cada vez más energía, ¿qué limitaciones están apareciendo en las arquitecturas tradicionales de suministro de energía a nivel de placa?

El problema se entiende mejor al observar cómo llega realmente la energía a una GPU. En un diseño tradicional, los convertidores de potencia están junto al procesador y la electricidad recorre horizontalmente la placa de circuito para llegar hasta él. Esa distancia puede parecer insignificante, pero, cuando se manejan miles de amperios, incluso una pequeña resistencia importa. Las pérdidas resistivas aumentan con el cuadrado de la corriente, lo que significa que duplicar la corriente a través de la misma resistencia puede cuadruplicar esas pérdidas.

También existe el desafío de responder a los rápidos cambios en la demanda de energía y, al mismo tiempo, mantener estable el voltaje. Los ingenieros pueden compensarlos añadiendo condensadores y otros componentes, pero esas soluciones ocupan un espacio valioso. A la larga, tiene más sentido replantear la arquitectura que seguir añadiendo componentes al diseño existente.

¿Qué cambios deben producirse en la forma de suministrar energía desde el rack de servidores hasta el procesador para que la industria pueda seguir aumentando la densidad de cómputo sin generar problemas térmicos o de eficiencia insostenibles?

Ya se está innovando mucho a nivel de rack, por ejemplo, con la transición hacia la distribución de energía a voltajes más altos. Esto es importante porque los voltajes más altos permiten transmitir electricidad con menos corriente, lo que reduce las pérdidas en distancias mayores. Sin embargo, tarde o temprano esa electricidad debe convertirse a los voltajes muy bajos que requieren los procesadores, y ahí persisten algunos de los desafíos más difíciles.

Uno de los avances más prometedores es el suministro vertical de energía, que sitúa la conversión de potencia directamente debajo del procesador, en lugar de colocarla a su lado. Acortar el recorrido eléctrico ayuda a reducir las pérdidas y a mejorar los tiempos de respuesta. Sin embargo, esto también plantea un desafío propio: acerca mucho más entre sí los componentes que generan calor. Para que estas arquitecturas funcionen a gran escala, debemos dejar de tratar el suministro de energía, la gestión térmica y el empaquetado como ejercicios de ingeniería independientes. Deben diseñarse conjuntamente desde el principio.

Lotus Microsystems presentó recientemente su plataforma de suministro vertical de energía vStrata. ¿Qué problema busca resolver el suministro vertical de energía y en qué se diferencia este enfoque de las arquitecturas de potencia convencionales que se usan hoy en los servidores de IA?

La idea básica del suministro vertical de energía es bastante sencilla. En lugar de hacer circular enormes cantidades de corriente horizontalmente por una placa de circuito, se coloca la fuente de energía directamente debajo del procesador. Esto acorta considerablemente el recorrido eléctrico, reduce las pérdidas y ayuda al sistema a responder con mayor rapidez cuando cambian sus necesidades de energía.

Pero hay una diferencia importante entre acercar la energía al procesador y resolver realmente todo el problema. También se concentra el calor en un espacio más reducido, justo al lado de componentes que ya funcionan bajo una presión térmica considerable. Si no se aborda este aspecto, se corre el riesgo de crear un nuevo cuello de botella al resolver el problema original.

Eso es lo que nos propusimos abordar con vStrata. Nuestra tecnología propia Power Interposer Technology de silicio nos permite suministrar energía verticalmente e integrar la gestión térmica en la misma arquitectura. Nuestro primer módulo, el LSC0580, está diseñado para alcanzar una eficiencia de hasta el 96 % en el punto de carga, con reducciones de temperatura de hasta 25 °C en configuraciones optimizadas. El objetivo no es simplemente hacer circular más corriente, sino ayudar a los centros de datos a obtener más capacidad de cómputo útil con la misma superficie física, reduciendo al mismo tiempo la energía y la refrigeración necesarias para mantenerla.

La industria de la IA suele dar por hecho que las futuras mejoras de rendimiento provendrán de mejores chips o de procesos de fabricación de semiconductores más avanzados. ¿Podrían las mejoras en la arquitectura de potencia llegar a ser tan importantes para el rendimiento de la IA como los avances en los propios procesadores?

Sin duda. El rendimiento teórico de un procesador solo sirve de algo si el sistema que lo rodea le permite alcanzar ese nivel. Si el suministro de energía no puede satisfacer la demanda o el exceso de calor obliga al sistema a reducir el rendimiento, no se está aprovechando todo lo que se pagó. Lo interesante es que una mejor arquitectura de potencia puede ayudar a obtener un rendimiento sostenido mayor del hardware existente, sin necesidad de cambiar el procesador. No lo plantearía como una elección entre mejores chips y una mejor infraestructura. Necesitamos ambas cosas, y espero que la relación entre ellas cobre cada vez más importancia.

Los centros de datos de IA ya ejercen una presión considerable sobre las redes eléctricas de todo el mundo. ¿Cuánto podrían reducir las mejoras en la conversión y el suministro de energía a nivel de servidor la huella energética total de la infraestructura de IA a gran escala?

El potencial es considerable, aunque es difícil dar una cifra única porque el impacto depende de la arquitectura y la escala de las instalaciones. Una mejora de un punto porcentual en una etapa de conversión no se traduce automáticamente en la misma reducción del consumo total de electricidad del centro de datos.

Pero pensemos en lo que ocurre cuando se multiplican incluso las mejoras más modestas de eficiencia entre miles de procesadores que funcionan continuamente. Esto podría traducirse en reducciones significativas del desperdicio de energía, los costos operativos, los gastos de capital y la cantidad de calor que deben gestionar los sistemas de refrigeración. Esto resulta especialmente valioso cuando la capacidad de la red eléctrica ya limita dónde y con qué rapidez pueden construirse nuevos centros de datos.

Dicho de otro modo, la energía más ecológica es la que nunca se consume. Se ha puesto un enorme empeño en conseguir más energía para impulsar la expansión de la IA, lo cual es comprensible, pero deberíamos estar igual de interesados en aprovechar mejor la electricidad que ya está disponible.

A medida que el hardware de IA avanza hacia GPU de mayor potencia, aceleradores personalizados y sistemas informáticos cada vez más densos, ¿qué cuellos de botella técnicos prevé que enfrentarán los ingenieros de sistemas de alimentación durante los próximos años?

Las necesidades de corriente seguirán aumentando, y ya estamos viendo los desafíos que esto plantea. Algunos procesadores de IA requieren varios miles de amperios, y es posible que los diseños futuros lleguen a 6.000 u 8.000 amperios. Suministrar esa corriente de forma eficiente ya es bastante difícil, pero mantener estable el voltaje cuando las cargas de trabajo cambian rápidamente añade otra capa de complejidad.

La industria también suele centrarse en la densidad de corriente como principal indicador de progreso. Es impresionante suministrar más corriente con un convertidor de potencia más pequeño, pero si se genera la misma cantidad de calor en menos espacio, no necesariamente se ha mejorado el sistema en su conjunto. De hecho, es posible que el problema térmico haya empeorado. Creo que los ingenieros capaces de equilibrar la eficiencia, el rendimiento térmico, la respuesta dinámica y la fiabilidad serán quienes logren los mayores avances.

De cara a la próxima generación de infraestructura de IA, ¿qué cambios serán necesarios en el suministro de energía, la refrigeración, el encapsulado de semiconductores y la arquitectura de los sistemas para respaldar otro gran aumento de la capacidad de cómputo de IA?

Espero que veamos una integración mucho más estrecha entre el suministro de energía y el propio procesador. La alimentación vertical es un paso importante, pero no creo que la evolución se detenga ahí. Ya estamos estudiando módulos de alimentación más delgados que puedan integrarse en las placas de circuito y, con el tiempo, arquitecturas en las que una mayor parte de las funciones de suministro de energía se integre directamente en los encapsulados de xPU. Cada paso acerca la energía al lugar donde realmente se consume.

La refrigeración también tendrá que evolucionar al mismo tiempo que estos cambios. La refrigeración líquida es cada vez más importante para la computación de alta densidad, pero mejorar la extracción del calor es solo una parte de la ecuación. También debemos reducir la cantidad de calor innecesario que generamos y encontrar mejores formas de gestionarlo cerca de su origen.

Quizá el mayor cambio tenga que ver con la forma en que se desarrollan estos sistemas. Tradicionalmente, las distintas partes de la pila de hardware a menudo se han optimizado de manera más o menos independiente. Con los niveles de potencia hacia los que avanzamos, esto resulta cada vez más difícil. Los fabricantes de chips, los especialistas en electrónica de potencia, los ingenieros de encapsulado y los diseñadores de sistemas tendrán que colaborar mucho más estrechamente. Durante años hemos llevado al límite las capacidades de cada procesador, pero la próxima etapa de la infraestructura de IA consistirá en garantizar que todo el sistema pueda aprovechar lo que esos procesadores son capaces de hacer.

Muchas gracias por esta excelente entrevista. Los lectores que deseen conocer más sobre la alimentación vertical y la gestión térmica para la infraestructura de IA pueden visitar Lotus Microsystems.