Além da GPU: otimizando a fábrica de IA como um sistema

Uma fábrica de IA não é um data center maior. Ela é projetada especificamente para produzir tokens inteligentes, não para disponibilizar páginas da web e e-mails. Quando um provedor de nuvem em hiperescala ou uma neocloud investe bilhões de dólares e anos na construção de uma fábrica de IA, as GPUs, responsáveis pelo trabalho computacional mais pesado, naturalmente se tornam uma prioridade. Mas otimizar apenas a GPU não significa otimizar a fábrica ao seu redor. Os sistemas de energia e de gestão térmica precisam dar suporte a essa capacidade computacional, e as decisões tomadas em um sistema podem ter consequências significativas para os demais. A IA existe para otimizar sistemas complexos, mas as fábricas que a produzem muitas vezes foram otimizadas componente por componente. A tecnologia de gêmeos virtuais permite que os engenheiros construam e aperfeiçoem todo o sistema antes mesmo do início da construção.

Por que o projeto conservador se tornou a opção mais segura

Diante das graves consequências de uma falha no sistema ou de um gargalo de desempenho, as primeiras instalações foram construídas com margens de segurança e equipamentos em excesso. Sem um roteiro para essa nova geração de data centers, adotar uma abordagem cautelosa na construção podia parecer a opção mais segura. Essas margens ajudavam a proteger contra problemas como picos de temperatura perto dos chips, que podem deixar os operadores com apenas um minuto para agir antes que o equipamento falhe. Em algumas das primeiras instalações, até 10 por cento da energia disponível ficava ociosa, como margem não utilizada.

As fábricas de IA estão expostas a variações de temperatura, condições climáticas, falhas de equipamentos, capacidade insuficiente, deficiências de projeto e problemas de manutenção. Com riscos tão elevados, em escala de gigawatts, cada dia de atraso na disponibilização de capacidade pode representar cerca de US$ 100 milhões em receita perdida com a geração de tokens. A cautela parecia necessária quando não havia como prever o resultado desses problemas.

O desafio se torna ainda maior quando esses riscos abrangem vários sistemas independentes. Uma fábrica de IA depende de três sistemas estreitamente interligados: computação, energia e gestão térmica. A GPU requer uma complexa cadeia de fornecimento de energia e um sistema térmico igualmente exigente para remover o calor que gera. Quando computação, energia e gestão térmica são tratadas como etapas separadas, cada uma otimizada em seu próprio domínio, as equipes podem deixar de perceber como uma decisão em um sistema afeta os demais. Isso cria pontos cegos e desequilíbrios, especialmente quando energia e refrigeração são tratadas como requisitos de infraestrutura a serem considerados depois das decisões sobre computação.

Energia e refrigeração não podem ser separadas da computação. Elas fazem parte do sistema que determina a eficiência com que a capacidade computacional pode operar. A mudança, portanto, consiste em deixar de otimizar sistemas individuais e passar a otimizar a fábrica inteira.

Por que cootimizar

Para resolver esse problema, é preciso deixar de otimizar cada sistema de forma independente e passar a cootimizar a fábrica como um todo. A construção física impõe uma sequência às decisões: um sistema é projetado, depois outro é construído ao redor dele e, em seguida, outro é acrescentado para dar suporte. Isso dificulta a otimização da fábrica como um todo, pois cada decisão reduz as opções disponíveis para os sistemas que vêm depois. A cootimização exige transferir esse processo para um ambiente virtual, onde todo o sistema possa ser modelado, alterado e avaliado antes que qualquer elemento seja definido fisicamente, criando um projeto dinâmico.

Modelar a fábrica antes de ela existir

É nesse ponto que a tecnologia de gêmeos virtuais em nível de sistema se torna essencial.

Um gêmeo virtual usa a modelagem formal de sistemas para representar em conjunto a infraestrutura de computação, energia e gestão térmica, permitindo modelar a fábrica de IA antes que ela exista fisicamente. Ao contrário de um gêmeo digital tradicional, que se concentra em um ativo físico existente, um gêmeo virtual pode modelar um sistema antes de sua existência física. Ele permite que os engenheiros testem diferentes configurações e compreendam como as mudanças em uma parte do sistema afetam as demais antes que essas escolhas se tornem compromissos físicos.

Por exemplo, aumentar a densidade de GPUs não significa simplesmente acrescentar mais capacidade computacional. Isso pode aumentar a carga elétrica, alterar os requisitos de dissipação de calor, afetar a disposição dos equipamentos e trazer novas considerações para o comissionamento. Modelar essas relações em conjunto permite que os engenheiros avaliem as compensações antes da construção, em vez de descobri-las à medida que o projeto avança.

A tecnologia de gêmeos virtuais permite que os engenheiros cometam virtualmente um erro caro antes que ele se torne um erro caro no mundo físico. Ela oferece uma maneira de identificar problemas e oportunidades potenciais no ambiente virtual, permitindo que as equipes resolvam problemas antes que eles surjam no mundo físico. Testar configurações antes do comissionamento físico também permite detectar e eliminar, ainda na fase de projeto, margens desnecessárias, energia ociosa e desperdícios decorrentes das margens de segurança. Em grande escala, até mesmo pequenas reduções podem resultar em economias de capital de milhões e antecipar o acesso à receita.

 Tornando o modelo preditivo

O modelo também pode usar simulações baseadas em princípios físicos para prever o comportamento do sistema. Quando os princípios físicos ou químicos subjacentes são bem compreendidos, as ferramentas de simulação podem prever o comportamento do sistema. Quando uma grande quantidade de dados operacionais oferece uma abordagem melhor, modelos de IA e aprendizado de máquina podem complementar essas simulações.

O resultado é um ambiente para explorar como o sistema acoplado se comporta e coordenar decisões entre domínios da engenharia. O modelo também pode evoluir à medida que dados operacionais se tornam disponíveis, permitindo que os aprendizados de uma instalação ou ciclo operacional orientem projetos e decisões futuros.

Um projeto de referência para a fábrica de IA

O setor já está construindo as bases para essa abordagem. O plano diretor DSX da NVIDIA está formalizando um projeto de referência para fábricas de IA na escala de gigawatts. A NVIDIA começou a formalizar a parte de computação desse plano usando modelagem de sistemas e uma abordagem de simulação com gêmeos virtuais, e está convidando parceiros do ecossistema dos setores de energia, refrigeração e construção — incluindo empresas como Eaton, Vertiv e Jacobs — a contribuir com suas próprias partes do projeto. A interoperabilidade dos projetos de referência é viabilizada por meio de SysML , que oferece suporte à definição em nível de sistema, enquanto OpenUSD fornece uma base para dados centrados em 3D.

O objetivo não é que cada empresa otimize seu próprio componente e depois espere que essas partes se encaixem. É preciso reunir a expertise em computação, energia, refrigeração e instalações, para que cada tecnologia de ponta contribua para o desempenho de todo o sistema.

Cada setor pode otimizar dentro de seu próprio domínio, mas criar um produto final poderoso exige que esses sistemas sejam otimizados em conjunto. À medida que essa abordagem amadurece, ela também permite que a infraestrutura de IA deixe para trás projetos-piloto isolados e pontuais e avance para sistemas em escala empresarial, capazes de gerenciar ambientes operacionais altamente complexos.

Otimizando a fábrica, não apenas a GPU

A GPU continuará sendo central para o desempenho das fábricas de IA. Mas comprar as melhores GPUs, por si só, não otimiza a fábrica em torno delas. A próxima geração de infraestrutura de IA dependerá da engenharia dos sistemas de computação, energia e gestão térmica como um único sistema integrado, da modelagem dessas relações antes de assumir grandes compromissos físicos e do uso contínuo do que o sistema aprende para aprimorar o que vem a seguir. Não podemos prever o futuro nem evitar todos os erros, mas a tecnologia de gêmeos virtuais pode ajudar as equipes a se planejar diante das incertezas e a otimizar as fábricas de IA como um sistema.