SambaNova bringer GLM-5.3 til SambaCloud med over 200 tokener per sekund

SambaNova Systems opplyste 11. november 2026 at Z.ai-modellen GLM-5.3 med åpne vekter er tilgjengelig på inferenstjenesten SambaCloud med en hastighet på over 200 tokener per sekund. Utviklere får tilgang til modellen via SambaCloud-lekeplassen, et API og integrasjoner for kodeagenter.

Z.ai lanserte GLM-5.3 14. august 2026 med samme grunnmodell som GLM-5.2, og tilskrev forbedringene i det nyere systemet ytterligere ettertrening på tvers av flere miljøer, mer varierte oppgaver og større datakraft. SambaNovas kunngjøring legger til en driftet utrulling av den eksisterende modellen. Den er ment for blant annet kompleks programvareutvikling og agentoppgaver med lang tidshorisont, som innebærer sekvenser av gjensidig avhengige trinn.

Dette viser agentsporingen

SambaNova la fram et spor fra en eksempelkjøring av en agent på SambaCloud for å illustrere disse kravene. Kjøringen omfattet 41 modellkall over 17 minutter og 30 sekunder. Den behandlet 5,4 millioner inndatatokener og genererte like under 42 000 utdata-tokener. Fordi den akkumulerte konteksten ble sendt på nytt for hver runde, økte inndataene fra 38 000 tokener i det første kallet til over 114 000 innen det åttende. Utdataene forble små: noen hundre tokener med resonnering og et verktøykall. Over 91 % av inndataene ble levert fra hurtigbufferen.

Dette mønsteret forklarer hvorfor leveringstempoet står sentralt. Agentløkker sender gjentatte ganger lange kontekster tilbake til modellen, samtidig som de bare ber om en kort neste handling. Dermed akkumuleres forsinkelsen fra hvert kall gjennom sekvensen. SambaNova framstiller den rapporterte gjennomstrømningen som en måte å holde disse trinnene korte på, mens hurtigbufferandelen viser hvor mye arbeidsbelastningen gjenbruker tidligere kontekst.

Ettertrening og rapporterte resultater

Z.ai sier at miljøene for ettertrening ble utformet for å ligne profesjonelt arbeid, blant annet oppgaver som kunne ta en erfaren ingeniør flere dager å fullføre. I ett scenario innen maskinlæringsinfrastruktur får modellen tilgang til dataklynger, lagringssystemer, intern dokumentasjon, kodebaser og eksperimentresultater. Den må diagnostisere flaskehalser på tvers av en treningsstakk, implementere optimaliseringer, gjennomføre eksperimenter og oppnå en målbar hastighetsøkning fra ende til ende, samtidig som korrektheten opprettholdes.

Z.ai rapporterer at GLM-5.3 forbedret resultatet sitt fra 4,6 til 28,3 på Terminal-Bench 3.0, fra 46,2 til 66,9 på DeepSWE v1.1 og fra 23,8 til 28,5 på Agents’ Last Exam. Sammenligningene viser forbedringer innen terminalarbeid, programvareutvikling og generelle agentoppgaver – de samme kategoriene SambaNova retter seg mot med denne utrullingen.

På sin private Code Bench rapporterer Z.ai at GLM-5.3 oppnådde 31,4 % med høy innsats og rundt 50 000 utdata-tokener per oppgave, sammenlignet med Claude Opus 4.8, som oppnådde 29,5 % med 120 000 tokener. GLM-5.3 lå fortsatt bak Claude Fable 5, som oppnådde 39,5 % med maksimal innsats. Dette er et konkret effektivitetsresultat: GLM-5.3 genererte færre tokener og fikk høyere poengsum enn Opus 4.8 i denne testen, men Z.ais egen sammenligning viser fortsatt at Fable 5 ligger foran.

Tilgang via API og kodeagenter

På SambaCloud kalles modellen med modellstrengen GLM-5.3. SambaNovas Python-eksempel sender forespørsler om chat fullføring til https://api.sambanova.ai/v1 og setter reasoning_effort til max, nivået Z.ai anbefaler for koding. Utviklere kan bruke en API-nøkkel eller prøve modellen på SambaCloud-lekeplassen.

ZCode kan bruke SambaCloud gjennom leverandørinnstillinger som er kompatible med OpenAI eller Anthropic, med en basis-URL, en API-nøkkel og GLM-5.3 valgt i modellmenyen. SambaNova sier at den samme endringen av basis-URL fungerer med Claude Code, OpenCode og Codex CLI. For Codex får utviklere beskjed om å bruke endepunktet for Responses API og oppgi modellens støttede resonneringsnivåer i modellkatalogen.

GLM-5.3 støtter lav, høy og maksimal resonneringsinnsats, og tenking kan ikke slås av. Z.ai sier at applikasjoner som fortsatt bruker thinking.type: "disabled" må aktivere tenking og sette resonneringsinnsatsen til lav før modell-ID-en oppdateres. Hvis ikke vil forespørslene mislykkes.

For team som vurderer driftet inferens for agenter, er skillet viktig: Referanseresultater beskriver hva en modell kan fullføre, mens sporet viser det gjentatte arbeidet som kreves for å levere dette. SambaNovas utrulling retter seg mot den siste delen av problemet, slik at hastigheten per kall og gjenbruk av hurtigbufferen er like relevant for brukeropplevelsen som de rapporterte oppgaveresultatene for GLM-5.3.