Modèles et plateformes d’IA
Cerebras passe à la production l’inférence désagrégée avec des GPU

Points clésCerebras a mesuré cinq fois le débit par mégawatt en transférant le traitement des…
Voir plus
- Cerebras a mesuré cinq fois le débit par mégawatt en transférant le traitement des invites vers des GPU AMD.
- Séparer le préremplissage du décodage permet à la SRAM à l'échelle du wafer de rester dédiée à la génération de jetons limitée par la mémoire.
- Les partenaires peuvent adopter une pile logicielle complète ou un SDK de décodage uniquement pour leurs propres frameworks.
Cerebras Systems a indiqué le 17 novembre 2026 que son déploiement en production de l’inférence désagrégée, qui confie le traitement des requêtes aux GPU AMD Instinct et la génération des réponses aux systèmes CS-3, a multiplié par cinq le débit par mégawatt par rapport à une configuration reposant uniquement sur des CS-3, sans réduire la vitesse de génération des jetons.
Ce résultat concerne Cerebras Inference Cloud. La mesure a été réalisée sur un point de terminaison GPT-OSS-120B partagé, le 14 novembre 2026, en comparant le débit par mégawatt avant et après l’activation de la désagrégation et en ramenant la configuration agrégée à une valeur de référence de 1×. Le transfert du traitement des requêtes vers les GPU laisse la capacité de service des systèmes CS-3 disponible pour générer les réponses, ce qui accroît la capacité d’inférence rapide que Cerebras peut proposer dans son offre cloud.
Cette annonce de mise en production fait suite à l’explication de l’inférence désagrégée publiée par Cerebras le 1er octobre 2026, qui faisait état d’un gain de 5× lors des premiers tests, avec une empreinte identique en systèmes à l’échelle d’une tranche. La nouvelle annonce va au-delà de ce premier résultat en fournissant une mesure en production et un ensemble de solutions de déploiement destiné aux partenaires d’infrastructure.
Pourquoi Cerebras sépare le préremplissage du décodage
Chaque requête d’inférence comporte deux étapes principales. Le préremplissage traite la requête d’entrée et crée un état intermédiaire du modèle ; le décodage utilise cet état pour produire les jetons de sortie un par un, en réinjectant chaque nouveau jeton dans le modèle. Comme chaque étape de décodage relit les données du modèle en mémoire, la bande passante mémoire joue un rôle essentiel dans la vitesse de génération interactive. Le préremplissage effectue plutôt davantage de calculs en parallèle sur l’ensemble de la requête, ce qui le rend mieux adapté aux accélérateurs conçus pour cette charge de calcul.
Les systèmes de Cerebras à l’échelle d’une tranche stockent les données du modèle dans la mémoire SRAM intégrée à la puce, au lieu de s’appuyer principalement sur une mémoire à haute bande passante hors puce. Cerebras indique que sa puce à l’échelle d’une tranche embarque des dizaines de gigaoctets de SRAM et offre une bande passante mémoire de plusieurs dizaines de pétaoctets par seconde, soit une capacité SRAM 350 fois supérieure et une bande passante mémoire 5 400 fois supérieure à celles d’un GPU GB300 standard. Cette capacité permet de conserver directement sur la puce un plus grand nombre de requêtes simultanées et de couches du modèle, pour accélérer le décodage.
L’objectif économique est d’accroître la capacité de service des clients et le potentiel de revenus avec le même budget énergétique dans les centres de données soumis à des contraintes d’alimentation. Cerebras cite Muse, Copilot et Codex comme exemples d’applications agentiques en forte croissance qui exigent des réponses très interactives ; l’augmentation de capacité doit donc préserver la vitesse de génération pour être utile à ces charges de travail.
Architecture de déploiement et logiciels
Les partenaires d’infrastructure peuvent s’appuyer sur une architecture de référence fournie par Cerebras pour installer sur un réseau unifié les accélérateurs de préremplissage de leur choix et les systèmes Cerebras. Ils disposent ensuite de deux options d’intégration : une pile logicielle de bout en bout destinée à réduire le délai de mise sur le marché, ou un SDK limité au décodage pour les partenaires qui souhaitent davantage de contrôle.
La pile complète achemine les requêtes entre les groupes de préremplissage et de décodage et gère la capacité et l’état de santé des répliques. Son moteur de préremplissage peut exécuter des moteurs d’inférence open source tels que vLLM ou SGLang, tandis que Cerebras fournit le moteur de décodage. KV Portal transfère l’état intermédiaire du modèle entre les deux moteurs via RDMA, y compris les caches clé-valeur qui préservent le contexte propre à chaque requête après le préremplissage.
Avec l’option limitée au décodage, les partenaires conservent leur propre environnement d’inférence et leur moteur de préremplissage, tout en utilisant le moteur de décodage de Cerebras et KV Portal. Le SDK comprend également une réplique de décodage simulée et une intégration de référence avec un environnement d’inférence désagrégée open source et un moteur de préremplissage. Amazon Web Services, Fireworks AI, Gimlet Labs et General Compute sont cités parmi les partenaires ayant bénéficié d’un accès anticipé, et Cerebras élargit l’accès à d’autres partenaires.
Objectif de capacité
Cerebras prévoit de déployer largement l’inférence désagrégée, sur plusieurs centaines de mégawatts, dans son propre cloud d’inférence et chez ses partenaires d’ici à la fin de 2027. Il s’agit d’un objectif de déploiement, et non d’une capacité déjà opérationnelle.
L’annonce associe donc une configuration cloud mesurée à une solution logicielle destinée aux opérateurs externes. La principale question liée au passage à l’échelle est de savoir si l’avantage en matière de débit mesuré sur un point de terminaison partagé peut être reproduit avec les accélérateurs, les environnements logiciels et les tailles de déploiement choisis par les partenaires, alors que Cerebras poursuit son déploiement à plus grande échelle.












