Modelos y plataformas de IA
Cerebras lleva a producción la inferencia desagregada con GPU

Puntos claveCerebras midió cinco veces el rendimiento por megavatio al trasladar el procesamiento…
Ver más
- Cerebras midió cinco veces el rendimiento por megavatio al trasladar el procesamiento de prompts a GPUs de AMD.
- Separar la prefill de la decodificación permite que la SRAM de escala de oblea permanezca dedicada a la generación de tokens limitada por la memoria.
- Los socios pueden adoptar una pila de software completa o un SDK solo de decodificación para sus propios frameworks.
Cerebras Systems informó el 17 de noviembre de 2026 que su implementación en producción de inferencia desagregada, que asigna el procesamiento de prompts a GPU AMD Instinct y la generación de respuestas a sistemas CS-3, ofreció cinco veces más rendimiento por megavatio que una configuración basada únicamente en CS-3, sin reducir la velocidad de generación de tokens.
El resultado corresponde a Cerebras Inference Cloud. La medición se realizó en un punto de acceso compartido de GPT-OSS-120B el 14 de noviembre de 2026, comparando el rendimiento por megavatio antes y después de habilitar la desagregación y normalizando la configuración agregada con respecto a una base de referencia de 1×. Trasladar el procesamiento de las instrucciones a las GPU deja disponible la capacidad de servicio de los sistemas CS-3 para generar respuestas y amplía la capacidad de inferencia rápida que Cerebras puede ofrecer a través de su nube.
La revelación de la implementación en producción se produce después de la explicación de Cerebras del 1 de octubre de 2026 sobre la inferencia desagregada, en la que se informó de una mejora de 5× en las primeras pruebas con la misma infraestructura de motores a escala de oblea. El nuevo anuncio va más allá de ese resultado inicial al aportar una medición en producción y un paquete de implementación para socios de infraestructura.
Por qué Cerebras separa la precarga de la decodificación
Cada solicitud de inferencia consta de dos etapas principales. La precarga procesa la instrucción de entrada y crea un estado intermedio del modelo; la decodificación utiliza ese estado para producir los tokens de salida uno por uno, introduciendo cada nuevo token de nuevo en el modelo. Como cada paso de decodificación vuelve a leer los datos del modelo desde la memoria, el ancho de banda de memoria es fundamental para la velocidad de generación interactiva. En cambio, la precarga realiza más cálculos en paralelo sobre la instrucción, por lo que se adapta mejor a aceleradores adecuados para esa carga de trabajo computacional.
Los sistemas de Cerebras a escala de oblea almacenan los datos del modelo en SRAM integrada en el chip, en lugar de depender principalmente de memoria de gran ancho de banda externa al chip. Cerebras describe su chip a escala de oblea como equipado con decenas de gigabytes de SRAM y decenas de petabytes por segundo de ancho de banda de memoria: 350× la capacidad de SRAM y 5.400× el ancho de banda de memoria de una GPU GB300 típica. Esa capacidad permite mantener directamente en el chip más solicitudes simultáneas y capas del modelo para acelerar la decodificación.
El objetivo económico es aumentar la capacidad para atender a los clientes y el potencial de ingresos con el mismo presupuesto energético en centros de datos con limitaciones de energía. Cerebras cita Muse, Copilot y Codex como ejemplos de aplicaciones basadas en agentes que escalan rápidamente y requieren respuestas muy interactivas, por lo que el aumento de capacidad debe mantener la velocidad de generación para resultar útil en esas cargas de trabajo.
Arquitectura de implementación y software
Los socios de infraestructura pueden utilizar una arquitectura de referencia proporcionada por Cerebras para ubicar conjuntamente los aceleradores de precarga que elijan y los sistemas Cerebras en una red unificada. Después, disponen de dos vías de integración: una pila de software integral, concebida para acortar el tiempo de comercialización, o un SDK solo para decodificación, dirigido a los socios que desean tener más control.
La pila completa dirige las solicitudes entre los grupos de precarga y decodificación, y administra la capacidad y el estado de las réplicas. Su motor de precarga puede ejecutar motores de inferencia de código abierto como vLLM o SGLang, mientras que Cerebras proporciona el motor de decodificación. KV Portal transfiere el estado intermedio del modelo entre ambos motores mediante RDMA, incluidas las cachés de clave-valor que conservan el contexto específico de cada solicitud después de la precarga.
Con la opción solo para decodificación, los socios conservan su propio marco de trabajo de inferencia y motor de precarga, mientras utilizan el motor de decodificación de Cerebras y KV Portal. El SDK también incluye una réplica simulada de decodificación y una integración de referencia con un marco de trabajo de inferencia desagregada de código abierto y un motor de precarga. Amazon Web Services, Fireworks AI, Gimlet Labs y General Compute figuran como socios con acceso anticipado, y Cerebras está ampliando el acceso a otros socios.
Objetivo de capacidad
Cerebras tiene previsto implementar ampliamente la inferencia desagregada, a una escala de cientos de megavatios, en su propia nube de inferencia y en las implementaciones de sus socios antes de que termine 2027. Se trata de un objetivo de implementación, no de capacidad que ya esté operativa.
Por tanto, el anuncio combina una configuración en la nube cuya medición ya se ha realizado con una vía de software para operadores externos. La principal cuestión de escalabilidad es si la ventaja de rendimiento medida en un único punto de acceso compartido puede reproducirse con los aceleradores, marcos de trabajo y tamaños de implementación que elijan los socios, mientras Cerebras avanza con ese despliegue más amplio.












