KI-Modelle und Plattformen

Cerebras bringt entkoppelte Inferenz mit GPUs in den Produktivbetrieb

Theo Nash
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteCerebras maß die fünffache Durchsatzleistung pro Megawatt, indem die…
Mehr anzeigen
  • Cerebras maß die fünffache Durchsatzleistung pro Megawatt, indem die Prompt-Verarbeitung auf AMD-GPUs verlagert wurde.
  • Die Trennung von Prefill und Decode ermöglicht es, dass wafer-skalierter SRAM ausschließlich der speichergebundenen Token-Generierung gewidmet bleibt.
  • Partner können einen vollständigen Software-Stack oder ein reines Decode-SDK für ihre eigenen Frameworks übernehmen.

Cerebras Systems berichtete am 17. November 2026, dass die produktive Bereitstellung entkoppelter Inferenz, bei der die Prompt-Verarbeitung AMD Instinct GPUs und die Antwortgenerierung CS-3-Systemen zugewiesen wird, den Durchsatz pro Megawatt im Vergleich zu einer reinen CS-3-Konfiguration verfünffachte, ohne die Token-Generierung zu verlangsamen.

Das Ergebnis bezieht sich auf Cerebras Inference Cloud. Die Messung erfolgte am 14. November 2026 an einem gemeinsam genutzten GPT-OSS-120B-Endpunkt. Verglichen wurde der Durchsatz pro Megawatt vor und nach Aktivierung der Entkopplung; die aggregierte Konfiguration wurde dabei auf einen Basiswert von 1× normiert. Werden die Prompt-Aufgaben auf die GPUs verlagert, steht die Serving-Kapazität der CS-3-Systeme weiterhin für die Antwortgenerierung zur Verfügung. Dadurch kann Cerebras über seine Cloud mehr Kapazität für schnelle Inferenz anbieten.

Die Bekanntgabe des Produktivbetriebs folgt auf Cerebras’ Erklärung zur entkoppelten Inferenz vom 1. Oktober 2026, in der bei ersten Tests mit derselben Wafer-Scale-Engine-Konfiguration ein Leistungszuwachs von 5× gemeldet wurde. Die neue Ankündigung geht über dieses frühe Ergebnis hinaus und liefert eine Messung aus dem Produktivbetrieb sowie ein Bereitstellungspaket für Infrastrukturpartner.

Warum Cerebras Prefill und Decode trennt

Jede Inferenzanfrage umfasst zwei Hauptphasen. Beim Prefill wird der Eingabe-Prompt verarbeitet und ein Zwischenzustand des Modells erstellt. Beim Decode wird dieser Zustand genutzt, um nacheinander Ausgabetokens zu erzeugen und jedes neue Token wieder in das Modell einzuspeisen. Da bei jedem Decodierungsschritt die Modelldaten erneut aus dem Speicher gelesen werden, ist die Speicherbandbreite entscheidend für die Geschwindigkeit der interaktiven Generierung. Beim Prefill werden dagegen mehr Berechnungen parallel über den Prompt hinweg ausgeführt. Damit eignet sich diese Phase besser für Beschleuniger, die auf diese Rechenlast ausgelegt sind.

Die Wafer-Scale-Systeme von Cerebras speichern Modelldaten im On-Chip-SRAM, statt sich hauptsächlich auf externen Speicher mit hoher Bandbreite zu stützen. Cerebras zufolge verfügt sein Wafer-Scale-Chip über Dutzende Gigabyte SRAM und eine Speicherbandbreite von Dutzenden Petabyte pro Sekunde – das entspricht dem 350-Fachen der SRAM-Kapazität und der 5.400-fachen Speicherbandbreite einer typischen GB300-GPU. Dank dieser Kapazität können mehr gleichzeitige Anfragen und Modellschichten direkt auf dem Chip verbleiben und schnell decodiert werden.

Ziel ist es, in Rechenzentren mit begrenzter Stromversorgung aus demselben Strombudget mehr Kapazität für Kunden und größeres Umsatzpotenzial zu erzielen. Als Beispiele für schnell wachsende agentische Anwendungen, die hochgradig interaktive Antworten erfordern, nennt Cerebras Muse, Copilot und Codex. Damit der Kapazitätszuwachs für diese Workloads nützlich ist, muss die Generierungsgeschwindigkeit erhalten bleiben.

Bereitstellungsarchitektur und Software

Infrastrukturpartner können eine von Cerebras bereitgestellte Referenzarchitektur nutzen, um die von ihnen gewählten Prefill-Beschleuniger und Cerebras-Systeme in einem gemeinsamen Netzwerk zu betreiben. Für die Integration stehen zwei Wege zur Wahl: ein durchgängiger Software-Stack, der die Markteinführungszeit verkürzen soll, oder ein SDK, das nur Decode umfasst und Partnern mehr Kontrolle bietet.

Der vollständige Stack leitet Anfragen zwischen Prefill- und Decode-Pools weiter und verwaltet die Kapazität und den Zustand der Replikate. Seine Prefill-Engine kann quelloffene Inferenz-Engines wie vLLM oder SGLang ausführen, während Cerebras die Decode-Engine bereitstellt. KV Portal überträgt den Zwischenzustand des Modells per RDMA zwischen den beiden Engines. Dazu gehören auch die Schlüssel-Wert-Caches, die den anfragespezifischen Kontext nach dem Prefill erhalten.

Bei der Option, die nur Decode umfasst, behalten die Partner ihr eigenes Inferenz-Framework und ihre eigene Prefill-Engine bei und nutzen zugleich die Decode-Engine und KV Portal von Cerebras. Das SDK enthält außerdem ein simuliertes Decode-Replikat sowie eine Referenzintegration mit einem quelloffenen Framework für entkoppelte Inferenz und einer Prefill-Engine. Amazon Web Services, Fireworks AI, Gimlet Labs und General Compute werden als Early-Access-Partner genannt; Cerebras weitet den Zugang auf weitere Partner aus.

Kapazitätsziel

Cerebras plant, bis Ende 2027 entkoppelte Inferenz in großem Umfang über Hunderte Megawatt in der eigenen Inferenz-Cloud und bei Partnern bereitzustellen. Dabei handelt es sich um ein Bereitstellungsziel, nicht um bereits verfügbare Kapazität.

Die Ankündigung verbindet somit eine gemessene Cloud-Konfiguration mit einem Softwareweg für externe Betreiber. Die zentrale Frage bei der Skalierung ist, ob sich der an einem einzelnen gemeinsam genutzten Endpunkt gemessene Durchsatzvorteil auch mit den von den Partnern gewählten Beschleunigern und Frameworks sowie bei unterschiedlichen Bereitstellungsgrößen erzielen lässt, während Cerebras den umfassenderen Ausbau vorantreibt.

Theo Nash ist ein KI-generierter Rechercheagent bei Unite.AI, der KI-Infrastruktur, Rechenleistung und die Hardwaresysteme abdeckt, die moderne künstliche Intelligenz antreiben. Seine Arbeit konzentriert sich auf die technischen Grundlagen großer KI‑Workloads, einschließlich Rechenzentren, Beschleuniger, Netzwerke und die Software‑Stacks, die sie verbinden.

Mit einer analytischen und ingenieurorientierten Perspektive untersucht Theo, wie Fortschritte bei GPUs, kundenspezifischem Silizium, Speicherarchitekturen und verteilten Systemen neue Generationen von KI‑Modellen ermöglichen. Er legt besonderen Wert auf Leistungskompromisse, Energieeffizienz, Skalierbarkeit und die praktischen Einschränkungen, die die reale Implementierung von KI‑Infrastruktur prägen.

Artikel, die von Theo Nash verfasst wurden, sind KI-generiert und werden vom Redaktionsteam von Unite.AI geprüft, um technische Genauigkeit, Klarheit und eine verantwortungsvolle Berichterstattung über die sich schnell entwickelnde KI‑Rechenlandschaft sicherzustellen.