KI-Modelle und Plattformen
Sarvam AI veröffentlicht offenen 105B-Checkpoint für Unternehmensagenten

Wichtige PunkteSarvams Update konzentriert die Verbesserungen auf das Post-Training für…
Mehr anzeigen
- Sarvams Update konzentriert die Verbesserungen auf das Post-Training für Unternehmensagenten, statt ein neues Grundmodell einzuführen.
- Der 65 GB große NVFP4-Checkpoint passt auf eine Workstation-GPU und ermöglicht den Einsatz von Agenten vor Ort ohne APIs von Drittanbietern.
- Sarvams Mischpreis von 0,15 US-Dollar unterbietet die Konkurrenz, aber alle Benchmark-Ergebnisse stammen aus eigenen Läufen.
Sarvam AI veröffentlichte Sarvam-105B-1711 am 22. November 2026. Der neue Checkpoint mit offenen Gewichten richtet sich an den Kundensupport, Sprachagenten und andere Unternehmensanwendungen mit hohem Anfragevolumen. Die Veröffentlichung umfasst BF16-Gewichte für weiteres Training sowie eine kompakte 4-Bit-NVFP4-Version, die für den Betrieb auf einer einzelnen Workstation-GPU ausgelegt ist.
Die Modellkarte weist dasselbe Mixture-of-Experts-Basismodell mit 105 Milliarden Parametern aus, das auch Sarvam-105B zugrunde liegt; davon sind 10,3 Milliarden Parameter aktiv. Der neue Checkpoint ergänzt ein nachgelagertes Training für Tool-Aufrufe, das Befolgen von Anweisungen, agentische Aufgaben und indische Sprachen. Es handelt sich also um eine Aktualisierung eines bestehenden Modells. Die Änderungen konzentrieren sich darauf, wie das Basismodell Aufgaben in Unternehmen bewältigt, und nicht auf die Einführung eines neuen Basismodells.
Verbesserungen durch nachgelagertes Training und Benchmarks des Anbieters
Sarvam zufolge stieg die Leistung beim Befolgen von Anweisungen im IFBench von 32,5 beim Februar-Checkpoint auf 82,5, die Nutzung von Tools im Kundenservice auf Tau2 von 46,2 auf 85,5 und die Leistung in indischen Sprachen im hauseigenen Indic-Benchmark von 30,1 auf 79,1. Beim Tau2-Maß pass^4, das Aufgaben zählt, die in allen vier unabhängigen Versuchen korrekt abgeschlossen wurden, erreichte das neue Modell 69,5 %; Gemini 3.5 Flash-Lite kam auf 63,9 % und Gemma 4 31B auf 62,1 %.
Sarvam gibt für die NVFP4-Version einen Durchschnittswert von 73,9 über acht Benchmarks für dialogorientierte Agenten an, gegenüber 42,6 im Februar. Gemini 3.5 Flash-Lite erreichte 74,0 bei einem gemischten Preis von 0,85 $ pro Million Token, während Gemma 4 31B bei 0,54 $ einen Wert von 73,0 erzielte. Der gemischte Preis von Sarvam-105B-1711 beträgt 0,15 $, gegenüber 0,44 $ beim Vorgängermodell.
Alle Ergebnisse stammen aus Sarvams eigenen Tests. Modelle mit offenen Gewichten wurden über vLLM bereitgestellt, während auf API-Modelle über OpenRouter zugegriffen wurde. Als Standardeinstellungen für die Auswertung dienen eine Temperatur von 1.0 im Denkmodus, bis zu 65.536 Ausgabetoken und der Mittelwert aus vier Stichproben; Ergebnisse außerhalb des Tokenbudgets, mit überlaufendem Kontext oder fehlerhaftem Format erhalten null Punkte. Der Indic-Benchmark ist Sarvams interner Test für indische Sprachen und verwendet Gemini 3.1 Pro als Bewertungsinstanz anhand eines Kriterienrasters – ein wichtiger Vorbehalt bei der angegebenen Leistungssteigerung für Sprachen.
Training und Bereitstellung auf Blackwell
Sarvam zufolge erhöhte die 8-Bit-MXFP8-Trainingsmethode den Durchsatz beim Vortraining auf 64 NVIDIA-B200-GPUs bei einem Kontext von 8K von 5.500 auf 10.900 Token pro Sekunde und GPU. Beim bestärkenden Lernen verkürzten 8-Bit-Präzision und die spekulative Dekodierung mit DSpark, bei der ein Entwurfsmodell Token zur Überprüfung vorschlägt, einen Schritt von 758 Sekunden auf etwa 420–440 Sekunden. Die durchschnittliche Belohnung blieb im Test des Unternehmens dabei im Wesentlichen unverändert.
Ein fortgesetztes Vortraining mit 330 Milliarden Token über etwas mehr als sieben Tage auf 512 B200-GPUs erweiterte den Kontext des Modells auf 160K Token. Diese Trainingsarbeit geht auf eine andere Einschränkung ein als die Verbesserungen durch das nachgelagerte Training: darauf, wie viele Inhalte ein Agent während der Bearbeitung langer Dokumente oder umfangreicher Aufgaben im Blick behalten kann.
Bei 64 gleichzeitigen Anfragen maß Sarvam für den NVFP4-Checkpoint mit DSpark auf einer B200 eine Dekodiergeschwindigkeit von 6.067 Token pro Sekunde; das entspricht etwa dem 2,1-Fachen der BF16-Konfiguration. Diese Effizienz bei der Bereitstellung bildet die Grundlage für den niedrigeren gemischten Tokenpreis und verknüpft die Infrastrukturarbeit unmittelbar mit dem Angebot des Modells für Unternehmensanwendungen mit hohem Anfragevolumen.
Offene Gewichte ermöglichen die private Bereitstellung
Sarvam zufolge passt der 65 GB große NVFP4-Checkpoint auf eine einzelne NVIDIA RTX PRO 6000 Blackwell GPU mit 96 GB und erreicht bei einer einzelnen Anfrage mit einem Prompt von 10K Token eine Dekodiergeschwindigkeit von 99 Token pro Sekunde und Nutzer. Dank dieses geringen Speicherbedarfs kann ein Indus-Cowork-Agent lokal vor Ort ausgeführt werden, ohne Dokumente an eine API eines Drittanbieters zu senden.
Der NVFP4-Checkpoint ist genau das Modell, das über Sarvam Token Factory bereitgestellt wird. Die BF16-Version ist für die Feinabstimmung und weiteres nachgelagertes Training vorgesehen. Das Repository ist mit einer Apache-2.0-Lizenz gekennzeichnet. Die Modellkarte beschreibt das Hosting mit vLLM 0.33.0, die optionale Unterstützung für DSpark, den standardmäßig aktivierten Denkmodus sowie empfohlene Temperatureinstellungen von 1.0 mit aktiviertem und 0.6 mit deaktiviertem Denkmodus.
Für Unternehmen verbindet die Veröffentlichung den API-Zugriff mit einer Möglichkeit zur privaten Bereitstellung, bei der sensible Dokumente innerhalb des eigenen Netzwerks verarbeitet werden können. Offen bleibt, ob sich die vom Anbieter gemeldeten Verbesserungen bei Agenten auch in produktiven Arbeitsabläufen zeigen – dort könnten die Möglichkeit zum Betrieb auf einer einzelnen GPU und der niedrigere Tokenpreis für die Einführung besonders relevant sein.












