AI-modeller och plattformar
Sarvam AI släpper kontrollpunkt med öppna vikter på 105B för företagsagenter

Viktiga punkterSarvams uppdatering koncentrerar vinsterna till efterträning för företagsagenter i…
Visa mer
- Sarvams uppdatering koncentrerar vinsterna till efterträning för företagsagenter i stället för att introducera en ny grundmodell.
- Den 65 GB stora NVFP4-kontrollpunkten får plats på en arbetsstations-GPU och möjliggör lokal agentdistribution utan tredjeparts-API:er.
- Sarvams blandade pris på 0,15 USD underbjuder konkurrenterna, men alla benchmarkresultat kommer från deras egna körningar.
Sarvam AI släppte Sarvam-105B-1711 den 22 november 2026, en ny kontrollpunkt med öppna vikter avsedd för kundsupport, röstbaserade agenter och annat företagsarbete med stora volymer. I lanseringen ingår BF16-vikter för vidare träning och en kompakt NVFP4-version på 4 bitar, utformad för att köras på en enda GPU i en arbetsstation.
Modellkortet anger att modellen använder samma basmodell med 105 miljarder parametrar och en blandning-av-experter-arkitektur som Sarvam-105B, med 10,3 miljarder aktiva parametrar. Den nya kontrollpunkten har eftertränats för verktygsanrop, instruktionsföljning, agentiska uppgifter och indiska språk. Det handlar alltså om en uppdatering av en befintlig modell, där förändringarna främst gäller hur basmodellen hanterar företagsarbete, snarare än om en helt ny grundmodell.
Förbättringar efter träning och leverantörens jämförelser
Sarvam uppger att resultatet för instruktionsföljning på IFBench steg från 32,5 för kontrollpunkten från februari till 82,5, att användningen av verktyg för kundservice på Tau2 ökade från 46,2 till 85,5 och att resultaten för indiska språk på företagets Indic-testsvit steg från 30,1 till 79,1. På Tau2:s mått pass^4, som räknar uppgifter som slutförts korrekt i alla fyra oberoende försök, fick den nya modellen 69,5 %, jämfört med 63,9 % för Gemini 3.5 Flash-Lite och 62,1 % för Gemma 4 31B.
Sarvam uppger att NVFP4-versionen i genomsnitt fick 73,9 poäng på åtta riktmärken för konversationsagenter, en ökning från 42,6 i februari. Gemini 3.5 Flash-Lite fick 74,0 poäng till ett sammanvägt pris på 0,85 dollar per miljon token, medan Gemma 4 31B fick 73,0 poäng till priset 0,54 dollar. Det sammanvägda priset för Sarvam-105B-1711 är 0,15 dollar, en sänkning från 0,44 dollar för föregångaren.
Alla poäng kommer från Sarvams egna körningar. Modeller med öppna vikter kördes via vLLM och API-modeller användes via OpenRouter. Standardinställningarna för utvärderingen är temperatur 1,0 i tänkandeläge, högst 65 536 utdata-token och ett medelvärde av fyra stickprov; svar som överskrider budgeten, leder till kontextöverflöde eller är felaktigt formaterade får noll poäng. Indic-testsviten är Sarvams interna riktmärke för indiska språk och använder Gemini 3.1 Pro som bedömare enligt en bedömningsmatris, vilket är en viktig reservation när de rapporterade språkförbättringarna ska tolkas.
Träning och inferens på Blackwell
Sarvam uppger att företagets träningsmetod med 8-bitars MXFP8 ökade genomströmningen under förträningen från 5 500 till 10 900 token per sekund och GPU, på 64 NVIDIA B200-GPU:er med en kontext på 8K. För förstärkningsinlärning minskade 8-bitars precision och spekulativ avkodning med DSpark, där en utkastmodell föreslår token som sedan verifieras, tiden per steg från 758 sekunder till ungefär 420–440 sekunder, samtidigt som den genomsnittliga belöningen i företagets test i stort sett var oförändrad.
Fortsatt förträning på 330 miljarder token, med 512 B200-GPU:er under drygt sju dagar, utökade modellens kontext till 160K token. Träningsarbetet hanterar en annan begränsning än förbättringarna efter träningen: hur mycket material en agent kan behålla medan den arbetar sig igenom långa dokument eller omfattande uppgifter.
Vid 64 samtidiga förfrågningar uppmätte Sarvam 6 067 avkodade token per sekund och B200 för NVFP4-kontrollpunkten med DSpark, ungefär 2,1 gånger hastigheten för BF16-konfigurationen. Den effektivare inferenskörningen ligger till grund för det lägre sammanvägda tokenpriset och knyter därmed infrastrukturarbetet direkt till modellens inriktning på företagsanvändning med stora volymer.
Öppna vikter möjliggör privat driftsättning
Sarvam uppger att NVFP4-kontrollpunkten på 65 GB ryms på en enda NVIDIA RTX PRO 6000 Blackwell-GPU med 96 GB minne och ger en avkodningshastighet på 99 token per sekund och användare vid en enskild förfrågan med en prompt på 10K token. Det gör att en Indus Cowork-agent kan köras lokalt i företagets egen miljö utan att dokument skickas till ett tredjeparts-API.
NVFP4-kontrollpunkten är exakt den modell som körs via Sarvam Token Factory, medan BF16-versionen är avsedd för finjustering och ytterligare efterträning. Kodförrådet har en Apache-2.0-licensmärkning, och modellkortet beskriver drift med vLLM 0.33.0, valfritt stöd för DSpark, tänkande aktiverat som standard samt rekommenderade temperaturer på 1,0 med tänkande och 0,6 utan.
För företag kombinerar lanseringen API-åtkomst med möjligheten till privat driftsättning, så att känsligt dokumentarbete kan hållas inom de egna nätverken. Den öppna frågan är om de agentförbättringar som leverantören rapporterar också märks i produktionsflöden, där den kompakta lösningen för en enda GPU och det lägre tokenpriset kan ha störst betydelse för användningen.












