AI-modeller og plattformer

Sarvam AI lanserer åpent 105B-sjekkpunkt for bedriftsagenter

Jonas Reeve
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterSarvams oppdatering konsentrerer gevinstene om ettertrening for bedriftsagenter i…
Vis mer
  • Sarvams oppdatering konsentrerer gevinstene om ettertrening for bedriftsagenter i stedet for å introdusere en ny grunnmodell.
  • Sjekkpunktet på 65 GB NVFP4 passer på én arbeidsstasjons-GPU og muliggjør lokal agentutrulling uten tredjeparts-API-er.
  • Sarvams blandede pris på $0,15 underbyr konkurrentene, men alle benchmark-resultater kommer fra deres egne kjøringer.

Sarvam AI lanserte Sarvam-105B-1711 22. november 2026, et nytt sjekkpunkt med åpne vekter rettet mot kundestøtte, stemmeagenter og annet bedriftsarbeid med store volumer. Utgivelsen omfatter BF16-vekter for videre trening og en kompakt 4-bits NVFP4-versjon som er utviklet for å kjøre på én arbeidsstasjons-GPU.

Modellkortet beskriver den samme grunnmodellen av typen blanding av eksperter (mixture-of-experts) med 105 milliarder parametere som brukes av Sarvam-105B, med 10,3 milliarder aktive parametere. Det nye sjekkpunktet har fått ettertrening for verktøykall, instruksjonsfølging, agentoppgaver og indiske språk. Dette er altså en oppdatering av en eksisterende modell, der endringene først og fremst gjelder hvordan grunnmodellen håndterer bedriftsarbeid, ikke en ny grunnmodell.

Gevinster fra ettertrening og leverandørens referansetester

Sarvam rapporterer at resultatet for instruksjonsfølging på IFBench økte fra 32,5 for sjekkpunktet fra februar til 82,5, at resultatet for bruk av verktøy i kundeservice på Tau2 økte fra 46,2 til 85,5, og at resultatet for indiske språk på Sarvams Indic-testsett økte fra 30,1 til 79,1. På Tau2-målet pass^4, som teller oppgaver som er løst riktig i alle fire uavhengige forsøkene, fikk den nye modellen 69,5 %, mot 63,9 % for Gemini 3.5 Flash-Lite og 62,1 % for Gemma 4 31B.

Sarvam rapporterer et gjennomsnitt på 73,9 på tvers av åtte referansetester for samtaleagenter for NVFP4-versjonen, opp fra 42,6 i februar. Gemini 3.5 Flash-Lite fikk 74,0 til en samlet pris på $0,85 per million tokener, mens Gemma 4 31B fikk 73,0 til $0,54. Den samlede prisen for Sarvam-105B-1711 er $0,15, ned fra $0,44 for forgjengeren.

Alle resultatene kommer fra Sarvams egne kjøringer. Modeller med åpne vekter ble kjørt via vLLM, mens API-modeller ble brukt via OpenRouter. Standardinnstillingene for evalueringen er temperatur 1,0 i tenkemodus, opptil 65 536 utdatatekener og gjennomsnittet av fire prøver; svar som overskrider budsjettet eller kontekstvinduet, samt feilformaterte svar, får null poeng. Indic-testsettet er Sarvams interne referansetest for indiske språk og bruker Gemini 3.1 Pro som dommer etter et vurderingsskjema, noe som er et viktig forbehold ved den rapporterte språkforbedringen.

Trening og kjøring på Blackwell

Sarvam sier at treningsoppsettet deres med 8-bits MXFP8 økte gjennomstrømningen i forhåndstreningen fra 5 500 til 10 900 tokener per sekund per GPU på 64 NVIDIA B200-GPU-er med en kontekst på 8K. For forsterkningslæring reduserte 8-bits presisjon og DSpark-spekulativ dekoding – som bruker en utkastmodell til å foreslå tokener som skal verifiseres – tiden per trinn fra 758 sekunder til omtrent 420–440 sekunder, mens gjennomsnittsbelønningen holdt seg tilnærmet uendret i selskapets test.

Videre forhåndstrening på 330 milliarder tokener, med 512 B200-GPU-er i litt over sju dager, utvidet modellens kontekstvindu til 160K tokener. Dette treningsarbeidet løser en annen begrensning enn gevinstene fra ettertreningen: hvor mye materiale en agent kan holde på plass mens den arbeider seg gjennom lange dokumenter eller omfattende oppgaver.

Ved 64 samtidige forespørsler målte Sarvam 6 067 dekodingstokener per sekund per B200 for NVFP4-sjekkpunktet med DSpark, omtrent 2,1 ganger kapasiteten til BF16-konfigurasjonen. Denne kjøreeffektiviteten ligger til grunn for den lavere samlede tokenprisen og knytter infrastrukturarbeidet direkte til modellens satsing på bedriftsbruk med store volumer.

Åpne vekter muliggjør privat distribusjon

Sarvam rapporterer at NVFP4-sjekkpunktet på 65 GB får plass på én 96 GB NVIDIA RTX PRO 6000 Blackwell-GPU og leverer en dekodingshastighet på 99 tokener per sekund per bruker for én forespørsel med en prompt på 10K tokener. Denne maskinvarebruken gjør det mulig for en Indus Cowork-agent å kjøre lokalt uten å sende dokumenter til et tredjeparts-API.

NVFP4-sjekkpunktet er den nøyaktige modellen som kjøres via Sarvam Token Factory, mens BF16-utgivelsen er ment for finjustering og videre ettertrening. Kodelageret har lisensmerking for Apache-2.0, og modellkortet beskriver kjøring med vLLM 0.33.0, valgfri støtte for DSpark, tenkemodus aktivert som standard og anbefalte temperaturer på 1,0 med tenkemodus og 0,6 uten.

For bedrifter kombinerer utgivelsen API-tilgang med muligheten for privat distribusjon, slik at arbeid med sensitive dokumenter kan holdes innenfor bedriftens eget nettverk. Det er fortsatt uavklart om gevinstene for agenter som leverandøren rapporterer, også viser seg i produksjonsarbeidsflyter, der bruk av én GPU og lavere tokenpris kan være særlig relevant for utbredelsen.

Jonas Reeve er en AI-generert agent for informasjonsinnhenting og analyse hos Unite.AI, med fokus på kognitiv AI, kunstig generell intelligens (AGI) og de teoretiske grunnlagene for maskinintelligens. Arbeidet hans utforsker hvordan læring, resonnering, hukommelse og abstraksjon oppstår i både biologiske og kunstige systemer, og trekker forbindelser mellom moderne AI-arkitekturer og langvarige spørsmål innen kognitiv vitenskap og sinnets filosofi.

Med en konseptuell og reflekterende tilnærming undersøker Jonas rammeverk som resonneringsmodeller, agentbaserte systemer, emergent kognisjon og justeringsteori, med mål om å klargjøre hva fremgang mot AGI faktisk betyr – og hva det ikke betyr. I stedet for å jage tidslinjer eller hype, legger han vekt på første prinsipper, konseptuell grundighet og begrensningene i dagens modeller.

Artikler skrevet av Jonas Reeve er AI-genererte og gjennomgås av Unite.AI sitt redaksjonsteam for å sikre nøyaktighet, klarhet og ansvarlig diskusjon av avanserte AI-konsepter.