SambaNova bringt GLM-5.3 mit über 200 Token pro Sekunde auf SambaCloud

SambaNova Systems teilte am 11. November 2026 mit, dass das Open-Weight-Modell GLM-5.3 von Z.ai über den Inferenzdienst SambaCloud mit mehr als 200 Token pro Sekunde verfügbar ist. Entwickler können über die SambaCloud-Playground-Umgebung, eine API und Integrationen für Programmieragenten auf das Modell zugreifen.

Z.ai stellte GLM-5.3 am 14. August 2026 vor. Dabei kam dasselbe Basismodell wie bei GLM-5.2 zum Einsatz. Die Verbesserungen des neueren Systems führte das Unternehmen auf zusätzliches Post-Training in mehr Umgebungen, mit vielfältigeren Aufgaben und höherem Rechenaufwand zurück. Die Ankündigung von SambaNova ergänzt das bestehende Modell um eine gehostete Bereitstellung. Es ist für komplexe Softwareentwicklung und langfristige Aufgaben von Agenten ausgelegt, bei denen mehrere voneinander abhängige Schritte aufeinanderfolgen.

Was der Agenten-Trace zeigt

SambaNova legte einen Trace eines beispielhaften Agentenlaufs auf SambaCloud vor, um diese Anforderungen zu veranschaulichen. Der Lauf umfasste 41 Modellaufrufe über einen Zeitraum von 17 Minuten und 30 Sekunden. Dabei wurden 5,4 Millionen Eingabe-Token verarbeitet und knapp 42.000 Ausgabe-Token generiert. Da bei jeder Runde der bis dahin angesammelte Kontext erneut gesendet wurde, wuchs die Eingabe von 38.000 Token beim ersten Aufruf auf mehr als 114.000 beim achten. Die Ausgaben blieben klein: Sie umfassten jeweils einige hundert Token mit Schlussfolgerungen und einem Werkzeugaufruf. Mehr als 91 % der Eingabe wurden aus dem Cache bereitgestellt.

Dieses Muster erklärt, warum die Geschwindigkeit der Inferenzbereitstellung im Mittelpunkt steht. Agentenschleifen senden wiederholt lange Kontexte an das Modell zurück und fordern jeweils nur eine kurze nächste Aktion an. Dadurch summieren sich die Latenzen der einzelnen Aufrufe über die gesamte Abfolge. SambaNova stellt den gemeldeten Durchsatz als Möglichkeit dar, diese Schritte kurz zu halten. Der Cache-Anteil zeigt zugleich, wie intensiv der Arbeitsablauf bereits vorhandenen Kontext wiederverwendet.

Post-Training und gemeldete Ergebnisse

Z.ai zufolge wurden die Umgebungen für das Post-Training so gestaltet, dass sie professioneller Arbeit ähneln. Dazu gehörten auch Aufgaben, die eine erfahrene Ingenieurin oder ein erfahrener Ingenieur mehrere Tage beschäftigen könnten. In einem Szenario zur Infrastruktur für maschinelles Lernen erhält das Modell Zugriff auf Rechencluster, Speichersysteme, interne Dokumentation, Codebasen und Versuchsergebnisse. Es muss Engpässe im gesamten Trainingsstack ermitteln, Optimierungen umsetzen, Experimente durchführen und eine messbare Beschleunigung des gesamten Ablaufs erzielen, ohne die Korrektheit zu beeinträchtigen.

Z.ai zufolge verbesserte sich GLM-5.3 bei Terminal-Bench 3.0 von 4,6 auf 28,3, bei DeepSWE v1.1 von 46,2 auf 66,9 und bei Agents’ Last Exam von 23,8 auf 28,5. Die Vergleiche ordnen die Fortschritte den Bereichen Terminalarbeit, Softwareentwicklung und allgemeinen Agentenaufgaben zu – also denselben Kategorien, auf die SambaNova mit dieser Bereitstellung abzielt.

Auf dem internen Code Bench von Z.ai erzielte GLM-5.3 laut Unternehmensangaben bei hohem Aufwand 31,4 % und benötigte dabei etwa 50.000 Ausgabe-Token pro Aufgabe. Zum Vergleich: Claude Opus 4.8 erreichte 29,5 % bei 120.000 Token. GLM-5.3 lag weiterhin hinter Claude Fable 5, das bei maximalem Aufwand 39,5 % erzielte. Das ist ein konkretes Effizienzergebnis: GLM-5.3 generierte in diesem Test weniger Token als Opus 4.8 und erzielte eine höhere Punktzahl. Im Vergleich von Z.ai liegt Fable 5 jedoch weiterhin vorn.

Zugriff über API und Programmieragenten

Auf SambaCloud wird das Modell mit der Modellzeichenfolge GLM-5.3. Das Python-Beispiel von SambaNova sendet Chat-Completion-Anfragen an https://api.sambanova.ai/v1 und setzt reasoning_effort auf max, die von Z.ai für das Programmieren empfohlene Stufe. Entwickler können einen API-Schlüssel verwenden oder das Modell in der SambaCloud-Playground-Umgebung testen.

ZCode kann über mit OpenAI oder Anthropic kompatible Anbietereinstellungen auf SambaCloud zugreifen. Dazu werden eine Basis-URL und ein API-Schlüssel benötigt; GLM-5.3 wird im Modellmenü ausgewählt. Laut SambaNova funktioniert dieselbe Änderung der Basis-URL mit Claude Code, OpenCode und Codex CLI. Für Codex sollen Entwickler den Endpunkt der Responses API verwenden und die unterstützten Schlussfolgerungsstufen des Modells im Modellkatalog angeben.

GLM-5.3 unterstützt niedrigen, hohen und maximalen Schlussfolgerungsaufwand; der Denkmodus lässt sich nicht deaktivieren. Z.ai zufolge müssen Anwendungen, die weiterhin thinking.type: "disabled" verwenden, den Denkmodus aktivieren und den Schlussfolgerungsaufwand vor der Aktualisierung der Modell-ID auf niedrig setzen. Andernfalls schlagen Anfragen fehl.

Für Teams, die gehostete Inferenz für Agenten bewerten, ist dieser Unterschied entscheidend: Benchmark-Ergebnisse zeigen, welche Aufgaben ein Modell bewältigen kann, während der Trace den wiederholten Bereitstellungsaufwand sichtbar macht, der dafür erforderlich ist. Die Bereitstellung von SambaNova zielt auf diesen zweiten Teil der Herausforderung ab. Damit sind die Geschwindigkeit einzelner Aufrufe und die Wiederverwendung des Caches für die Nutzererfahrung ebenso relevant wie die gemeldeten Aufgabenergebnisse von GLM-5.3.