SambaNova brengt GLM-5.3 naar SambaCloud met meer dan 200 tokens per seconde

SambaNova Systems maakte op 11 november 2026 bekend dat het GLM-5.3-model van Z.ai met open gewichten beschikbaar is via zijn SambaCloud-inferentieservice, met een snelheid van meer dan 200 tokens per seconde. Ontwikkelaars kunnen het model gebruiken via de SambaCloud-playground, een API en integraties voor codeeragents.

Z.ai introduceerde GLM-5.3 op 14 augustus 2026. Het model gebruikt hetzelfde basismodel als GLM-5.2 en Z.ai schrijft de verbeteringen van het nieuwere systeem toe aan aanvullende post-training in meer omgevingen, met meer uiteenlopende taken en meer rekenkracht. De aankondiging van SambaNova voegt voor dit bestaande model een gehoste implementatie toe. Het model is bedoeld voor onder meer complexe softwareontwikkeling en langdurige agenttaken met reeksen van onderling afhankelijke stappen.

Wat de trace van de agent laat zien

SambaNova deelde een trace van een voorbeeldrun van een agent op SambaCloud om te laten zien wat deze taken vereisen. Tijdens de run werden in 17 minuten en 30 seconden 41 modelaanroepen gedaan. Daarbij werden 5,4 miljoen invoertokens verwerkt en iets minder dan 42.000 uitvoertokens gegenereerd. Omdat bij elke beurt de opgebouwde context opnieuw werd meegestuurd, liep het aantal invoertokens op van 38.000 bij de eerste aanroep tot meer dan 114.000 bij de achtste. De uitvoer bleef beperkt: enkele honderden tokens met redeneringen en een toolaanroep. Meer dan 91% van de invoer werd uit de cache geleverd.

Dat patroon verklaart waarom de nadruk ligt op de snelheid waarmee antwoorden worden geleverd. Agentlussen sturen herhaaldelijk lange contexten terug naar het model en vragen telkens slechts om een korte volgende actie. Daardoor loopt de latentie per aanroep gedurende de hele reeks op. SambaNova presenteert de gerapporteerde verwerkingscapaciteit als een manier om die stappen kort te houden. Het cachepercentage laat zien hoe sterk de werklast eerdere context hergebruikt.

Post-training en gerapporteerde resultaten

Z.ai zegt dat de omgevingen voor post-training zijn ontworpen om professioneel werk na te bootsen, met taken die een ervaren engineer meerdere dagen kunnen bezighouden. In een scenario rond infrastructuur voor machine learning krijgt het model toegang tot rekenclusters, opslagsystemen, interne documentatie, codebases en experimentele resultaten. Het moet knelpunten in de volledige trainingsstack opsporen, optimalisaties doorvoeren, experimenten uitvoeren en een meetbare versnelling van begin tot eind realiseren, zonder dat dit ten koste gaat van de correctheid.

Z.ai meldt dat GLM-5.3 op Terminal-Bench 3.0 verbeterde van 4,6 naar 28,3, op DeepSWE v1.1 van 46,2 naar 66,9 en op Agents’ Last Exam van 23,8 naar 28,5. Deze vergelijkingen laten verbeteringen zien bij terminaltaken, softwareontwikkeling en algemene agenttaken: dezelfde categorieën waarop SambaNova zich met deze implementatie richt.

Op zijn eigen Code Bench meldt Z.ai dat GLM-5.3 bij hoge redeneerinspanning een score van 31,4% behaalde met ongeveer 50.000 uitvoertokens per taak. Claude Opus 4.8 behaalde daar een score van 29,5% met 120.000 tokens. GLM-5.3 bleef achter bij Claude Fable 5, dat bij maximale redeneerinspanning een score van 39,5% behaalde. Dit is een specifiek efficiëntieresultaat: in deze test genereerde GLM-5.3 minder tokens en behaalde het een hogere score dan Opus 4.8, maar in Z.ai’s eigen vergelijking staat Fable 5 nog steeds hoger.

Toegang via API en codeeragents

Op SambaCloud wordt het model aangeroepen met de modelstring GLM-5.3. Het Python-voorbeeld van SambaNova verstuurt chatcompletionverzoeken naar https://api.sambanova.ai/v1 en stelt reasoning_effort in op max, het niveau dat Z.ai aanbeveelt voor coderen. Ontwikkelaars kunnen een API-sleutel gebruiken of het model testen in de SambaCloud-playground.

ZCode kan SambaCloud gebruiken via providerinstellingen die compatibel zijn met OpenAI of Anthropic, met een basis-URL en API-sleutel en GLM-5.3 geselecteerd in het modelmenu. SambaNova zegt dat dezelfde wijziging van de basis-URL werkt met Claude Code, OpenCode en Codex CLI. Voor Codex krijgen ontwikkelaars de instructie om het endpoint van de Responses API te gebruiken en in hun modelcatalogus de ondersteunde redeneerniveaus van het model op te geven.

GLM-5.3 ondersteunt een lage, hoge en maximale redeneerinspanning; de denkmodus kan niet worden uitgeschakeld. Z.ai zegt dat toepassingen die nog gebruikmaken van thinking.type: "disabled" de denkmodus moeten inschakelen en de redeneerinspanning op laag moeten zetten voordat ze de model-ID bijwerken; anders mislukken verzoeken.

Voor teams die gehoste inferentie voor agents beoordelen, is dat onderscheid belangrijk: benchmarkscores geven aan wat een model kan voltooien, terwijl de trace laat zien hoeveel herhaald werk nodig is om dat resultaat te behalen. De implementatie van SambaNova richt zich op dat tweede deel van het probleem. Daardoor zijn de snelheid per aanroep en het hergebruik van de cache voor de gebruikerservaring net zo relevant als de gerapporteerde taakscores van GLM-5.3.