Hans Hasselby-Andersen, CEO da Lotus Microsystems – Série de entrevistas

Hans Hasselby-Andersen é CEO da Lotus Microsystems e tem mais de 20 anos de experiência no setor de semicondutores como fundador, executivo, membro de conselho e investidor. Fundou a Merus Audio e conduziu a empresa até sua aquisição pela Infineon, em 2018. Também ocupou cargos de liderança na Texas Instruments, na Infineon, na Toccata Technology e na Nokia. Seu trabalho tem se concentrado em levar ao mercado tecnologias de semicondutores energeticamente eficientes.

Lotus Microsystems é uma empresa de semicondutores sem fábrica própria, sediada em Copenhague, que desenvolve conversores de potência integrados e soluções de fornecimento de energia para eletrônicos avançados. Sua tecnologia Power Interposer Technology, baseada em silício, combina conversão de potência e gestão térmica, inclusive por meio da plataforma vStrata de fornecimento vertical de energia para IA e computação de alto desempenho. Nesta entrevista, Hasselby-Andersen fala sobre as perdas de energia nos servidores, os limites das arquiteturas de potência convencionais e por que o fornecimento de energia, o resfriamento e o encapsulamento de semicondutores precisam cada vez mais ser projetados em conjunto.

Sua carreira abrangeu sistemas sem fio na Nokia, desenvolvimento de semicondutores na Texas Instruments, a fundação da Merus Audio e sua condução até a aquisição pela Infineon, e agora a liderança da Lotus Microsystems. Como essa experiência moldou sua maneira de pensar sobre os desafios de energia e térmicos que estão surgindo na infraestrutura de IA atual?

Entrei no setor de semicondutores quase por acaso. Uma startup em que eu trabalhava foi adquirida pela Texas Instruments, e foi assim que conheci o processo de projetar, fabricar e levar chips ao mercado. Eu mesmo não era projetista de chips, mas aprendi muito sobre o setor.

Mais tarde, quando fundei a Merus Audio, o impulso inicial veio da identificação de uma lacuna clara no mercado: a necessidade de reduzir as perdas de energia e prolongar a duração da bateria em alto-falantes sem fio. A partir daí, concentrei-me em reunir as pessoas e a tecnologia certas para resolver esse problema.

Depois que a Merus foi adquirida pela Infineon, passei algum tempo fora do setor de semicondutores, mas acabei percebendo que era ali que queria estar. O que me atraiu na Lotus Microsystems foi o foco da equipe fundadora em três aspectos fundamentais de sua tecnologia avançada de fornecimento de energia: eficiência energética, dimensões físicas e desempenho térmico. Esses desafios nunca desaparecem de verdade no fornecimento de energia, seja qual for a aplicação, mas a IA os tornou particularmente urgentes.

Estamos vendo avanços extraordinários na tecnologia de processadores, mas todo esse poder computacional está sujeito a limitações físicas muito concretas. Minha experiência me ensinou que resolver esses problemas menos visíveis pode ser tão valioso quanto desenvolver a tecnologia que está no centro das atenções.

As discussões sobre infraestrutura de IA tendem a se concentrar bastante no desempenho das GPUs, nas redes e no resfriamento. Por que você acredita que o próprio fornecimento de energia está se tornando uma das principais limitações para a expansão contínua dos sistemas de IA?

Passamos muito tempo falando sobre a capacidade computacional que uma GPU pode oferecer, mas muito menos sobre como fornecer eletricidade suficiente para ela de maneira eficiente. Os aceleradores modernos de IA exigem milhares de amperes de corrente em tensões muito baixas, e sua demanda de energia pode mudar quase instantaneamente, conforme a carga de trabalho. Os sistemas tradicionais de fornecimento de energia não foram projetados para esse nível de intensidade. É possível ter o processador mais avançado do mundo, mas, se não for possível fornecer energia estável quando necessário, não se conseguirá aproveitar todo o seu potencial. Por isso, o fornecimento de energia está se tornando uma parte tão importante do desafio de ampliar a IA.

Quando os operadores de data centers falam sobre eficiência energética, grande parte da atenção se volta para os sistemas de resfriamento e os indicadores da infraestrutura como um todo. Quanta energia se perde, de fato, dentro do servidor antes de chegar ao processador, e por que esse problema recebeu comparativamente tão pouca atenção?

Não existe um único número que se aplique a todos os servidores, mas as perdas podem ser substanciais. Em certas arquiteturas de alta corrente, estimamos que cerca de 7–10% da energia pode se perder nas etapas finais do fornecimento ao processador. Essa energia não é usada para computação; ela se transforma em calor, que depois precisa ser removido. Quando milhares de processadores funcionam continuamente, até ineficiências relativamente pequenas se tornam muito dispendiosas.

Uma das razões para esse problema ter passado despercebido é a forma como tradicionalmente medimos a eficiência dos data centers. A Eficácia do Uso de Energia (Power Usage Effectiveness, ou PUE) tornou-se o padrão do setor e é útil para compreender os custos indiretos da infraestrutura, incluindo o resfriamento e a distribuição de energia. No entanto, ela não mostra a eficiência com que a eletricidade é convertida e fornecida dentro do próprio servidor.

Não estou sugerindo que a eficiência do resfriamento não seja importante; ela é, sem dúvida. Mas há algo um pouco contraditório em gastar quantias enormes para remover calor sem prestar atenção suficiente à origem de parte desse calor desnecessário. Deveríamos tentar evitar essas perdas desde o início.

À medida que GPUs e outros aceleradores de IA consomem quantidades cada vez maiores de energia, quais limitações estão surgindo nas arquiteturas tradicionais de fornecimento de energia no nível da placa?

O problema fica mais claro quando observamos como a energia chega de fato a uma GPU. Em um projeto tradicional, os conversores de energia ficam ao lado do processador, e a eletricidade percorre horizontalmente a placa de circuito para chegar até ele. Essa distância pode parecer insignificante, mas, quando se transportam milhares de ampères, até pequenas quantidades de resistência são relevantes. As perdas resistivas aumentam com o quadrado da corrente; isso significa que dobrar a corrente através da mesma resistência pode quadruplicar essas perdas.

Outro desafio é responder a mudanças rápidas na demanda de energia sem deixar de manter a tensão estável. Os engenheiros podem compensar isso adicionando capacitores e outros componentes, mas essas soluções ocupam um espaço valioso. Em algum momento, faz mais sentido repensar a arquitetura do que continuar acrescentando elementos ao projeto existente.

Que mudanças precisam ocorrer na forma como a energia é fornecida do rack de servidores ao processador para que o setor continue aumentando a densidade computacional sem criar problemas insustentáveis de temperatura ou eficiência?

Já há muita inovação no nível do rack, incluindo a adoção de distribuição de energia em tensões mais altas. Isso é importante porque tensões mais altas permitem transmitir eletricidade com menos corrente, reduzindo as perdas em distâncias maiores. Mas, em algum momento, essa eletricidade ainda precisa ser convertida para as tensões muito baixas exigidas pelos processadores, e é aí que permanecem alguns dos desafios mais difíceis.

Uma das iniciativas mais promissoras é o fornecimento vertical de energia, que leva a conversão de energia diretamente para baixo do processador, em vez de posicioná-la ao lado dele. Encurtar esse percurso elétrico ajuda a reduzir as perdas e melhorar os tempos de resposta. Mas isso também traz um desafio próprio: os componentes que geram calor ficam muito mais próximos uns dos outros. Para que essas arquiteturas funcionem em grande escala, precisamos deixar de tratar o fornecimento de energia, o gerenciamento térmico e o encapsulamento como atividades de engenharia separadas. Eles precisam ser projetados em conjunto desde o início.

A Lotus Microsystems apresentou recentemente sua plataforma de fornecimento vertical de energia vStrata. Que problema essa abordagem pretende resolver e em que ela difere das arquiteturas de energia convencionais usadas atualmente em servidores de IA?

A ideia básica por trás do fornecimento vertical de energia é relativamente simples. Em vez de transportar enormes quantidades de corrente horizontalmente por uma placa de circuito, levamos a fonte de energia diretamente para baixo do processador. Isso encurta muito o percurso elétrico, reduzindo as perdas e ajudando o sistema a responder mais rapidamente quando as necessidades de energia mudam.

Mas há uma diferença importante entre aproximar a energia do processador e resolver de fato o problema por completo. O calor também fica concentrado em um espaço menor, bem ao lado de componentes que já operam sob uma pressão térmica significativa. Se isso não for resolvido, corre-se o risco de criar um novo gargalo enquanto se soluciona o original.

Foi isso que buscamos resolver com a vStrata. Nossa tecnologia proprietária Power Interposer Technology, baseada em silício, permite fornecer energia verticalmente e incorporar o gerenciamento térmico à mesma arquitetura. Nosso primeiro módulo, o LSC0580, foi projetado para atingir até 96% de eficiência no ponto de carga, com reduções de temperatura de até 25 °C em configurações otimizadas. O objetivo não é simplesmente transportar mais corrente, mas ajudar os data centers a obter mais capacidade computacional útil do mesmo espaço físico, reduzindo ao mesmo tempo a energia e a capacidade de refrigeração necessárias para sustentá-la.

O setor de IA costuma presumir que os ganhos de desempenho futuros virão de chips melhores ou de processos de fabricação de semicondutores mais avançados. As melhorias na arquitetura de energia poderiam, em última análise, ser tão importantes para o desempenho da IA quanto os avanços nos próprios processadores?

Sem dúvida. O desempenho teórico de um processador só é útil se o sistema ao redor permitir que ele opere nesse nível. Se o fornecimento de energia não conseguir acompanhar a demanda ou se o calor excessivo obrigar o sistema a reduzir o desempenho, você não estará aproveitando tudo pelo que pagou. O interessante é que uma arquitetura de energia melhor pode ajudar a liberar mais desempenho sustentado do hardware existente, sem necessariamente alterar o próprio processador. Eu não apresentaria isso como uma escolha entre chips melhores e uma infraestrutura melhor. Precisamos dos dois, e espero que a relação entre eles se torne cada vez mais importante.

Os data centers de IA já estão exercendo uma pressão significativa sobre as redes elétricas de todo o mundo. Quanto as melhorias na conversão e no fornecimento de energia no nível do servidor poderiam reduzir a pegada energética geral da infraestrutura de IA em grande escala?

O potencial é considerável, embora seja difícil indicar um único valor, pois o impacto depende da arquitetura e da escala da instalação. Uma melhoria de um ponto percentual em uma etapa de conversão não se traduz automaticamente na mesma redução do consumo total de eletricidade do data center.

Mas considere o que acontece quando se multiplicam até mesmo ganhos modestos de eficiência por milhares de processadores em funcionamento contínuo. Isso pode resultar em reduções significativas no desperdício de energia, nos custos operacionais e de capital, e na quantidade de calor que os sistemas de refrigeração precisam dissipar. Isso é particularmente valioso quando a capacidade da rede elétrica já limita onde e com que rapidez novos centros de dados podem ser construídos.

Em outras palavras, a energia mais sustentável é aquela que nunca se consome. Tem havido um enorme foco em garantir mais energia para viabilizar a expansão da IA, o que é compreensível, mas deveríamos nos empenhar igualmente em aproveitar melhor a eletricidade que já está disponível.

À medida que o hardware de IA avança para GPUs de maior potência, aceleradores personalizados e sistemas computacionais cada vez mais densos, que gargalos técnicos você espera que os engenheiros de sistemas de alimentação enfrentem nos próximos anos?

A demanda de corrente continuará aumentando, e já estamos observando os desafios que isso acarreta. Alguns processadores de IA exigem vários milhares de amperes, e projetos futuros podem chegar a 6.000 ou até 8.000 amperes. Fornecer essa corrente com eficiência já é bastante difícil, mas manter a tensão estável enquanto as cargas de trabalho mudam rapidamente acrescenta outra camada de complexidade.

O setor também tende a usar a densidade de corrente como principal medida de progresso. É impressionante fornecer mais corrente com um conversor de potência menor, mas, se a mesma quantidade de calor é gerada em um espaço menor, isso não significa necessariamente que o sistema como um todo tenha melhorado. Na verdade, o problema térmico pode até ter piorado. Acredito que os engenheiros capazes de equilibrar eficiência, desempenho térmico, resposta dinâmica e confiabilidade serão os que farão os maiores avanços.

Pensando na próxima geração de infraestrutura de IA, que mudanças na distribuição de energia, na refrigeração, no encapsulamento de semicondutores e na arquitetura dos sistemas serão necessárias para viabilizar outro grande aumento da capacidade computacional de IA?

Espero que haja uma integração muito mais estreita entre o fornecimento de energia e o próprio processador. A alimentação vertical é um passo importante, mas não acredito que a evolução pare por aí. Já estamos trabalhando em módulos de potência mais finos, que possam ser incorporados às placas de circuito, e, mais adiante, em arquiteturas nas quais uma parcela maior das funções de fornecimento de energia seja integrada diretamente aos encapsulamentos de xPU. Cada etapa aproxima a energia do ponto em que ela é efetivamente consumida.

A refrigeração também terá de evoluir junto com essas mudanças. A refrigeração líquida está se tornando cada vez mais importante para a computação de alta densidade, mas melhorar a remoção de calor é apenas parte da solução. Também precisamos reduzir a geração de calor desnecessário e encontrar maneiras melhores de controlá-lo perto da fonte.

Talvez a maior mudança esteja na forma como esses sistemas são desenvolvidos. Tradicionalmente, diferentes partes da plataforma de hardware costumam ser otimizadas de maneira relativamente independente. Nos níveis de potência para os quais estamos avançando, isso se torna cada vez mais difícil. Fabricantes de chips, especialistas em eletrônica de potência, engenheiros de encapsulamento e projetistas de sistemas precisarão trabalhar muito mais em conjunto. Passamos anos ampliando os limites de processadores individuais, mas a próxima etapa da infraestrutura de IA consistirá em garantir que todo o sistema consiga dar suporte ao que esses processadores são capazes de fazer.

Obrigado pela excelente entrevista. Os leitores que quiserem conhecer melhor a alimentação vertical e o gerenciamento térmico para infraestrutura de IA devem visitar Lotus Microsystems.