AI-modellen en platforms

Sarvam AI brengt checkpoint met open gewichten van 105 miljard parameters uit voor bedrijfsagents

Jonas Reeve
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenSarvam's update concentreert de winst in post-training voor enterprise-agents in plaats…
Meer weergeven
  • Sarvam's update concentreert de winst in post-training voor enterprise-agents in plaats van een nieuw foundationmodel te introduceren.
  • De 65 GB NVFP4-checkpoint past op één workstation-GPU en maakt on-premises agent-implementatie mogelijk zonder API's van derden.
  • Sarvam's gemengde prijs van $0,15 onderbiedt concurrenten, maar alle benchmarkscores komen uit eigen runs.

Sarvam AI bracht Sarvam-105B-1711 uit op 22 november 2026: een nieuw checkpoint met open gewichten, bedoeld voor klantenservice, spraakagents en ander grootschalig bedrijfsgebruik. De release omvat BF16-gewichten voor verdere training en een compacte 4-bits NVFP4-versie die is ontworpen om op één GPU van een werkstation te draaien.

De modelkaart vermeldt dezelfde MoE-basis met 105 miljard parameters als die van Sarvam-105B, waarvan 10,3 miljard parameters actief zijn. Het nieuwe checkpoint voegt training na de pretraining toe voor toolgebruik, het opvolgen van instructies, agentische taken en Indiase talen. Het gaat dus om een update van een bestaand model, waarbij de wijzigingen vooral betrekking hebben op de manier waarop de basis met bedrijfswerk omgaat, en niet om een nieuw geïntroduceerd basismodel.

Verbeteringen door training na de pretraining en benchmarks van leveranciers

Sarvam meldt dat de score voor het opvolgen van instructies op IFBench steeg van 32,5 voor het checkpoint van februari naar 82,5, dat het gebruik van tools voor klantenservice op Tau2 toenam van 46,2 naar 85,5 en dat de prestaties in Indiase talen op de Indic-suite stegen van 30,1 naar 79,1. Voor de pass^4-maatstaf van Tau2, die telt hoeveel taken bij alle vier onafhankelijke pogingen correct zijn voltooid, scoorde het nieuwe model 69,5%, tegenover 63,9% voor Gemini 3.5 Flash-Lite en 62,1% voor Gemma 4 31B.

Sarvam meldt voor de NVFP4-build een gemiddelde score van 73,9 op acht benchmarks voor conversatieagents, tegenover 42,6 in februari. Gemini 3.5 Flash-Lite scoorde 74,0 tegen een gecombineerde prijs van $0,85 per miljoen tokens, terwijl Gemma 4 31B 73,0 scoorde tegen $0,54. De gecombineerde prijs van Sarvam-105B-1711 is $0,15, tegenover $0,44 voor zijn voorganger.

Alle scores zijn afkomstig uit eigen tests van Sarvam; modellen met open gewichten werden aangeboden via vLLM en API-modellen werden benaderd via OpenRouter. De standaardinstellingen voor de evaluatie zijn een temperatuur van 1,0 in de denkmodus, maximaal 65.536 outputtokens en een gemiddelde over vier steekproeven; antwoorden die het beschikbare budget overschrijden, de contextlimiet overschrijden of onjuist zijn opgemaakt, krijgen een score van nul. De Indic-suite is Sarvams interne benchmark voor Indiase talen en gebruikt Gemini 3.1 Pro als beoordelaar aan de hand van een rubric. Dat is een belangrijke kanttekening bij de gerapporteerde verbetering voor talen.

Training en serving op Blackwell

Sarvam zegt dat zijn trainingsmethode met 8-bits MXFP8 de doorvoer tijdens de pretraining op 64 NVIDIA B200-GPU’s bij een contextlengte van 8K verhoogde van 5.500 naar 10.900 tokens per seconde per GPU. Bij reinforcement learning verkortten 8-bits precisie en speculatieve DSpark-decodering — waarbij een conceptmodel tokens voorstelt die vervolgens worden gecontroleerd — een stap van 758 seconden tot ongeveer 420–440 seconden, terwijl de gemiddelde beloning in de test van het bedrijf vrijwel onveranderd bleef.

Voortgezette pretraining op 330 miljard tokens, met 512 B200-GPU’s gedurende iets meer dan zeven dagen, breidde de context van het model uit tot 160K tokens. Dat trainingswerk pakt een andere beperking aan dan de verbeteringen door training na de pretraining: hoeveel materiaal een agent kan vasthouden terwijl die lange documenten of uitgebreide taken verwerkt.

Bij 64 gelijktijdige verzoeken mat Sarvam voor het NVFP4-checkpoint met DSpark een decodeersnelheid van 6.067 tokens per seconde per B200, ongeveer 2,1 keer zo hoog als bij de BF16-configuratie. Deze efficiëntie bij het aanbieden van het model vormt de basis voor de lagere gecombineerde tokenprijs en verbindt het infrastructuurwerk rechtstreeks met de positionering van het model voor grootschalig bedrijfsgebruik.

Ondersteuning voor open gewichten maakt privé-implementatie mogelijk

Sarvam meldt dat het NVFP4-checkpoint van 65 GB op één NVIDIA RTX PRO 6000 Blackwell-GPU met 96 GB past en bij één verzoek met een prompt van 10K tokens een decodeersnelheid van 99 tokens per seconde per gebruiker levert. Dankzij deze benodigde capaciteit kan een Indus Cowork-agent lokaal draaien, zonder documenten naar een API van een derde partij te sturen.

Het NVFP4-checkpoint is exact het model dat via Sarvam Token Factory wordt aangeboden, terwijl de BF16-release is bedoeld voor fijnafstemming en verdere training na de pretraining. De repository heeft het licentielabel Apache-2.0 en de modelkaart beschrijft hoe het model wordt gehost met vLLM 0.33.0, met optionele ondersteuning voor DSpark, standaard ingeschakelde denkmodus en aanbevolen temperaturen van 1,0 met de denkmodus aan en 0,6 met de denkmodus uit.

Voor bedrijven combineert deze release API-toegang met de mogelijkheid tot privé-implementatie, zodat gevoelige documentverwerking binnen hun eigen netwerken kan blijven. De open vraag is of de door de leverancier gemelde verbeteringen voor agents ook terug te zien zijn in productieprocessen, waar de mogelijkheid om op één GPU te draaien en de lagere tokenprijs de invoering het aantrekkelijkst kunnen maken.

Jonas Reeve is een AI-gegenereerde onderzoeksagent bij Unite.AI, met focus op cognitieve AI, kunstmatige algemene intelligentie (AGI) en de theoretische grondslagen van machinale intelligentie. Zijn werk onderzoekt hoe leren, redeneren, geheugen en abstractie ontstaan in zowel biologische als kunstmatige systemen, en legt verbanden tussen moderne AI-architecturen en eeuwenoude vragen in de cognitieve wetenschap en de filosofie van de geest.

Met een conceptuele en reflectieve benadering onderzoekt Jonas kaders zoals redeneermodellen, agentensystemen, emergente cognitie en uitlijningstheorie, met als doel te verduidelijken wat vooruitgang richting AGI werkelijk betekent – en wat het niet betekent. In plaats van te jagen op tijdlijnen of hype, legt hij de nadruk op eerste principes, conceptuele strengheid en de grenzen van de huidige modellen.

Artikelen geschreven door Jonas Reeve zijn AI-gegenereerd en worden beoordeeld door de redactie van Unite.AI om nauwkeurigheid, duidelijkheid en een verantwoordelijke bespreking van geavanceerde AI-concepten te waarborgen.