A Supermicro vai construir e vender sistemas de inferência de IA com tecnologia SambaNova

A SambaNova e a Supermicro anunciaram em 3 de novembro de 2026 que a Supermicro vai construir, vender e oferecer suporte a sistemas de inferência de IA que dividem o trabalho entre GPUs NVIDIA e as unidades de fluxo de dados reconfigurável SN50 da SambaNova. A colaboração prevê, inicialmente, 10.000 chips SN50.

Os sistemas serão incluídos no portfólio Data Center Building Block Solutions da Supermicro. A Supermicro vai integrá-los, testá-los, entregá-los e oferecer suporte, inclusive com atendimento no local, enquanto os engenheiros da SambaNova colocarão os modelos em funcionamento e os ajustarão para o SN50, além de ajudar nas implantações para os clientes. O acordo combina, portanto, um canal de fabricação e assistência técnica de servidores com o trabalho de engenharia de modelos necessário para implantar aceleradores heterogêneos.

Por que a inferência é dividida entre GPUs e RDUs

A arquitetura divide a inferência em duas fases. Durante o pré-preenchimento, as GPUs NVIDIA processam o prompt recebido, uma tarefa limitada pela capacidade de processamento. As RDUs SN50 ficam encarregadas da decodificação, que gera a resposta um token de cada vez e é limitada pela memória. Segundo a SambaNova, atribuir cada fase ao hardware mais adequado proporciona uma inferência mais rápida e eficiente do que usar apenas um dos tipos de hardware.

O comunicado que acompanha o anúncio da SambaNova destaca a IA agêntica como principal caso de uso: os agentes podem fazer milhares de chamadas a modelos de linguagem de grande porte, cada chamada pode levar minutos, e as cargas de trabalho agênticas passam a maior parte do tempo na fase de decodificação. Assim, a geração de tokens se torna essencial para que um agente execute sua próxima ação. Por isso, as empresas tratam a decodificação como um problema distinto de infraestrutura e pretendem usar RDUs adicionais para acelerar as respostas, enquanto as GPUs continuam processando os prompts.

Por dentro do design do SN50

O SN50 é a RDU de quinta geração da SambaNova. Sua ficha técnica oficial informa que o chip é fabricado com o processo de 5 nanômetros da TSMC e conta com 432 MB de SRAM integrada e 64 GB de HBM2E, enquanto a DDR5 oferece o terceiro nível de memória. O chip usa a Reconfigurable Dataflow Architecture da SambaNova e foi projetado para a fase de decodificação, limitada pela memória, e não para cargas de trabalho gerais de aceleradores.

A documentação do produto da SambaNova atribui ao design inferência mais rápida, maior taxa de transferência e melhor eficiência energética. As operações são encadeadas em um fluxo de dados contínuo, reduzindo as transferências repetidas de memória e a sobrecarga de reiniciar o processamento em cada etapa. Os níveis de memória também têm funções distintas: a SRAM mantém os dados locais mais acessados perto do processamento; a HBM2E armazena os pesos ativos dos modelos e o cache KV mais acessado; e a DDR5 comporta caches de prompt, conjuntos maiores de modelos e o cache KV menos acessado.

Segundo a SambaNova, o SN50 pode ser escalado para até 256 RDUs distribuídas por vários racks e foi projetado para agentes interativos, assistentes de programação e outras cargas de trabalho de inferência com várias etapas, inclusive aplicações que alternam entre vários modelos. O design para vários racks está alinhado ao plano da colaboração de implantar soluções no nível do rack: a Supermicro integrará RDUs e GPUs aos sistemas, que serão validados e receberão suporte da empresa.

Expansão pelo canal e limitações dos data centers

Os clientes poderão comprar RDUs SN50 junto com GPUs pela Supermicro, usando o mesmo canal que utilizam para o restante da infraestrutura de IA. A implantação começará com NeoClouds e nuvens soberanas, antes de se expandir para empresas que executam IA em seus próprios data centers. Essa abordagem em etapas começa pelos operadores de nuvem e, posteriormente, leva a mesma arquitetura combinada de GPU e RDU às instalações empresariais.

O consumo de energia e o resfriamento são aspectos centrais para a implantação. Segundo as empresas, o SN50 pode executar modelos de grande porte com alta velocidade e taxa de transferência sem exigir uma densidade de potência extrema nos racks, o que facilita a implantação dos sistemas em data centers existentes. Esse perfil de consumo de energia reforça a possibilidade de modernizar instalações existentes: as RDUs foram projetadas para ampliar a capacidade em instalações que os operadores já utilizam.

As empresas também afirmam que adicionar RDUs para a decodificação pode aumentar a capacidade de inferência sem esperar por novas construções, limitadas pela disponibilidade de energia e resfriamento, além de prolongar a vida útil das GPUs já instaladas. A proposta, portanto, vincula o aumento da capacidade às instalações e às GPUs que os operadores já possuem.

A SambaNova e a Supermicro esperam que a colaboração permita disponibilizar, em 2027, uma capacidade de inferência de alto desempenho substancialmente maior do que seria possível de outra forma. A importância do plano está na combinação de hardware específico para a decodificação com o canal de implantação da Supermicro. Para os operadores que enfrentam limitações de energia e resfriamento, resta saber se as instalações planejadas de RDUs poderão ampliar a capacidade de inferência útil nas instalações existentes, na escala projetada pelas empresas.