Modelos e plataformas de IA
A Cerebras leva a inferência desagregada à produção com GPUs

Pontos-chaveA Cerebras mediu cinco vezes a taxa de transferência por megawatt ao transferir o…
Ver mais
- A Cerebras mediu cinco vezes a taxa de transferência por megawatt ao transferir o processamento de prompts para GPUs AMD.
- Separar o prefill do decode permite que a SRAM de escala de wafer permaneça dedicada à geração de tokens limitada pela memória.
- Os parceiros podem adotar uma pilha de software completa ou um SDK apenas de decode para seus próprios frameworks.
A Cerebras Systems informou, em 17 de novembro de 2026, que sua implantação de inferência desagregada em produção — que atribui o processamento dos prompts às GPUs AMD Instinct e a geração das respostas aos sistemas CS-3 — alcançou uma vazão por megawatt cinco vezes maior que a de uma configuração composta apenas por sistemas CS-3, sem reduzir a velocidade de geração de tokens.
O resultado se aplica à Cerebras Inference Cloud. A medição foi feita em um endpoint compartilhado do GPT-OSS-120B em 14 de novembro de 2026, comparando a vazão por megawatt antes e depois da ativação da desagregação e normalizando a configuração agregada para uma linha de base de 1×. Ao transferir o processamento dos prompts para as GPUs, a capacidade de atendimento dos sistemas CS-3 fica disponível para gerar respostas, ampliando a capacidade de inferência rápida que a Cerebras pode oferecer por meio de sua nuvem.
A divulgação da produção vem após a explicação da Cerebras, em 1º de outubro de 2026, sobre a inferência desagregada, que relatou um ganho de 5× nos primeiros testes com a mesma infraestrutura de mecanismos em escala de wafer. O novo anúncio vai além daquele resultado inicial ao apresentar uma medição em produção e um pacote de implantação para parceiros de infraestrutura.
Por que a Cerebras separa o pré-processamento da decodificação
Cada solicitação de inferência tem duas etapas principais. O pré-processamento processa o prompt de entrada e cria um estado intermediário do modelo; a decodificação usa esse estado para produzir tokens de saída, um de cada vez, alimentando cada novo token de volta ao modelo. Como cada etapa de decodificação lê novamente da memória os dados do modelo, a largura de banda da memória é fundamental para a velocidade de geração interativa. Já o pré-processamento executa mais cálculos em paralelo ao longo do prompt, o que o torna mais adequado a aceleradores preparados para essa carga computacional.
Os sistemas da Cerebras em escala de wafer armazenam os dados do modelo em SRAM no chip, em vez de depender principalmente de memória de alta largura de banda fora do chip. A Cerebras afirma que seu chip em escala de wafer conta com dezenas de gigabytes de SRAM e dezenas de petabytes por segundo de largura de banda de memória — 350× a capacidade de SRAM e 5.400× a largura de banda de memória de uma GPU GB300 típica. Essa capacidade permite manter mais solicitações simultâneas e camadas do modelo diretamente no chip, para uma decodificação rápida.
O objetivo econômico é aumentar a capacidade de atendimento aos clientes e o potencial de receita com o mesmo orçamento de energia em data centers com restrições de energia. A Cerebras cita Muse, Copilot e Codex como exemplos de aplicações agênticas em rápida expansão que exigem respostas altamente interativas; por isso, o aumento de capacidade precisa preservar a velocidade de geração para ser útil nessas cargas de trabalho.
Arquitetura de implantação e software
Os parceiros de infraestrutura podem usar uma arquitetura de referência fornecida pela Cerebras para instalar, na mesma localização e em uma rede unificada, os aceleradores de pré-processamento de sua escolha e os sistemas Cerebras. Em seguida, podem escolher entre duas formas de integração: uma pilha de software completa, destinada a reduzir o tempo de lançamento no mercado, ou um SDK apenas para decodificação, voltado a parceiros que desejam mais controle.
A pilha completa encaminha as solicitações entre os conjuntos de pré-processamento e decodificação e gerencia a capacidade e a integridade das réplicas. Seu mecanismo de pré-processamento pode executar mecanismos de inferência de código aberto, como vLLM ou SGLang, enquanto a Cerebras fornece o mecanismo de decodificação. O KV Portal transfere o estado intermediário do modelo entre os dois mecanismos por RDMA, incluindo os caches de chave-valor que preservam o contexto específico de cada solicitação após o pré-processamento.
Com a opção apenas para decodificação, os parceiros mantêm sua própria estrutura de inferência e seu mecanismo de pré-processamento, enquanto usam o mecanismo de decodificação e o KV Portal da Cerebras. O SDK também inclui uma réplica simulada de decodificação e uma integração de referência com uma estrutura de inferência desagregada de código aberto e um mecanismo de pré-processamento. Amazon Web Services, Fireworks AI, Gimlet Labs e General Compute são citadas como parceiras de acesso antecipado, e a Cerebras está ampliando o acesso a outros parceiros.
Meta de capacidade
A Cerebras planeja implantar amplamente a inferência desagregada, abrangendo centenas de megawatts em sua própria nuvem de inferência e nas implantações de parceiros até o fim de 2027. Trata-se de uma meta de implantação, não de capacidade já em operação.
O anúncio, portanto, combina uma configuração de nuvem medida com um caminho de software para operadores externos. A principal questão de escalabilidade é saber se a vantagem de vazão medida em um único endpoint compartilhado poderá ser reproduzida com os aceleradores, as estruturas e as dimensões de implantação escolhidos pelos parceiros, à medida que a Cerebras busca expandir a implantação.












