KI-Modelle und Plattformen
Sarvam AI veröffentlicht Entscheidungsmodell Prism mit offenen Gewichten
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Sarvam AI veröffentlichte Sarvam Prism am 3. November 2026. Das Modell mit offenen Gewichten ist für Entscheidungen in Unternehmen konzipiert, basiert auf Sarvam 105B und bewertet vordefinierte Optionen, ohne Token für Token zu generieren. Das Unternehmen gibt eine mediane Antwortzeit von 44 Millisekunden auf einer NVIDIA B200 GPU und den höchsten Durchschnittswert unter den Modellen an, die in seiner Bewertung von 25 Modellen innerhalb von weniger als 100 Millisekunden antworteten.
Die Gewichte sind auf Hugging Face unter der Apache-2.0-Lizenz verfügbar; gehosteter Zugriff ist über die Sarvam API auf Sarvam Indus möglich. Für den Einsatz ist eine GPU mit mindestens 120 GB Arbeitsspeicher erforderlich; Prism läuft dabei mit FP8. Das Modell kann bis zu 131.072 Tokens pro Frage verarbeiten, sodass sich lange Eingaben wie Agentenprotokolle in einem Durchlauf auswerten lassen.
Ein Entscheidungsmodell mit einem einzigen Durchlauf
Jede Anfrage enthält einen Zustand, eine Frage und beliebig viele Optionen, sofern sie in das Kontextfenster passen. Prism verarbeitet diese Eingabe in einem einzigen Vorwärtsdurchlauf, und ein kleiner Bewertungs-Kopf weist jeder Option eine Wahrscheinlichkeit zu. Sarvam entwickelte das Modell, indem das unternehmenseigene 105B-System mit LoRA feinabgestimmt und so für Entscheidungen in Unternehmen statt für die freie Textgenerierung angepasst wurde. Zu den getesteten Anwendungen gehören die Weiterleitung von Kundenserviceanfragen nach ihrer Absicht, das Routing an Modelle, die Dokumentenintelligenz und die Überprüfung von Agentenläufen.
Zwei gleich gewichtete Trainingsziele formen diese Wahrscheinlichkeiten. Beim einen kommt Kreuzentropie mit einer Label-Glättung von 5 % zum Einsatz, um völlige Gewissheit zu verhindern; beim anderen wird der Brier-Verlust verwendet, der den quadrierten Wahrscheinlichkeitsfehler misst und selbstsichere Fehlentscheidungen kostspielig macht. Sarvam führt die Kalibrierung von Prism auf diese Kombination zurück. Eine speziell entwickelte Aufmerksamkeitsmaske sorgt außerdem dafür, dass die Optionen während der Bewertung voneinander getrennt bleiben. Zustand und Frage werden bidirektional gelesen, während nur das Antwort-Token alle Optionen sieht und miteinander vergleicht.
Messungen zu Genauigkeit und Latenz
Der angegebene Durchschnittswert vereint drei Indizes: den Jev Decision Index mit 37 öffentlichen Benchmarks; Sarvams Nachbildung des Artificial Analysis Decision Index, bei der ausgewählte schwierige Fragen mit einer Option „Ich weiß es nicht“ an die Stelle des ursprünglichen privaten Wissenstests treten; sowie einen internen Benchmark für indische Sprachen. Die Antwortzeiten sind Medianwerte aus 1.000 nacheinander gesendeten Anfragen. Dabei kam, sofern Sarvam das Modell auf der eigenen B200-Hardware ausführen konnte, der jeweilige Inferenzcode des Modellentwicklers zum Einsatz.
Prism erzielte in Sarvams Tests einen Durchschnittswert von 71,8; die Ergebnisse der einzelnen Komponenten betrugen 67,0 bei Jev, 65,9 bei der Nachbildung von Artificial Analysis und 82,5 bei den indischen Sprachen. Das höher bewertete mammoth-1 erreichte 75,2, seine mediane Antwortzeit lag jedoch bei 284 Millisekunden. Zwei ausschließlich über eine API verfügbare Systeme, Jev 1.14 und Microsoft-Decision-1, sind mit öffentlich gemeldeten Antwortzeiten statt vergleichbarer lokaler Messwerte im Vergleich enthalten. Daher beruht das Diagramm nicht für jedes Modell auf derselben Messmethode.
Die Ausgangskonfiguration erreichte bei 16-Bit-Präzision auf zwei B200-GPUs eine mediane Latenz von 664 Millisekunden. Durch die Umwandlung der Gewichte in FP8 ließ sich Prism auf einer einzelnen GPU ausführen. Sarvam fasste außerdem alle 128 Experten in einem Kernel zusammen, zeichnete den Vorwärtsdurchlauf als CUDA Graph auf, integrierte die FP8-Umwandlung in die Experten-Kernel und führte den Feinabstimmungsadapter mit den Modellgewichten zusammen. Zusammengenommen ermöglichten diese Änderungen die veröffentlichte Latenz auf einer einzelnen GPU; laut Sarvam ging damit kein Genauigkeitsverlust einher.
Kalibrierung und Bewertung von Agenten
Die Kalibrierungstests untersuchen, ob sich ein Arbeitsablauf bei der Automatisierung von Entscheidungen auf Konfidenzschwellen stützen kann. Bei einer Konfidenz von mindestens 90 % auf Englisch erwartete Prism laut Sarvam eine Fehlerquote von 3,3 % und erreichte tatsächlich 2,2 %; Grundlage waren 226.088 Fragen aus 37 öffentlichen Benchmarks. Bei 20.108 Fragen in 10 indischen Sprachen und Hinglish erwartete das Modell eine Fehlerquote von 5,4 % und erreichte tatsächlich 4,4 %. In beiden Sprachgruppen lag die tatsächliche Fehlerquote bei jeder getesteten Schwelle von 50 % bis 95 % unter der vorhergesagten.
Die Reihenfolge der Optionen stellt ein eigenes Konsistenzproblem dar. In Sarvams Test mit 2.000 Fragen änderte Prism 4,0 % der Antworten, wenn die Optionen in vier verschiedene Reihenfolgen gebracht und in der jeweiligen Reihenfolge bewertet wurden. Wurden die Optionen vor der Bewertung in eine feste interne Reihenfolge gebracht und anschließend jede Wahrscheinlichkeit wieder ihrer ursprünglichen Bezeichnung zugeordnet, traten diese Änderungen nicht mehr auf. Dieser Schritt erforderte keine zusätzliche Berechnung und führte in der Auswertung zu keinem Genauigkeitsverlust.
Zur Überwachung von Agenten bewertete Sarvam fünf Modelle anhand derselben 700 aufgezeichneten Durchläufe und 1.770 Fragen. Die angegebene Gesamtgenauigkeit von Prism betrug 78,5 %. Im Einzelnen lag sie bei 75,0 % für die Beurteilung des Aufgabenerfolgs, bei 86,4 % für die Entscheidung, ob eine menschliche Überprüfung erforderlich war, und bei 69,6 % für die Identifizierung des für einen Fehler verantwortlichen Agenten. Die Antworten wurden anhand von Expertenannotationen oder automatischen Ergebnissen aus der Umgebung überprüft, niemals anhand des Urteils eines anderen KI-Modells. Prism liest ein Protokoll einmal ein und bewertet gleichzeitig fünf Evaluierungsfragen; pro Durchlauf dauert dies auf einer GPU etwa eine halbe Sekunde.
Sarvam gibt für Prism eine Genauigkeit von 89,0 % bei einem internen Cybersicherheits-Benchmark mit 5.517 Fragen aus neun Aufgaben an und plant, diesen Evaluierungssatz zu erweitern und öffentlich bereitzustellen. In derselben Auswertung erzielte Clef 84,5 %, Jev 1.14 78,6 % und Microsoft-Decision-1 76,1 %. Die Aufgaben basieren auf seit Juli 2026 veröffentlichten Schwachstellen und umfassen das Erkennen von Phishing-Kampagnen und Jailbreak-Versuchen sowie die Klassifizierung von Angriffsarten innerhalb der MITRE-Frameworks.
Prisms zentrale Aussage ist, dass Unternehmen eine Entscheidungsebene auf ihrer eigenen Infrastruktur trainieren und betreiben können, deren Konfidenzschätzungen für automatisierte Schwellenwerte ausgelegt sind. Dank der offenen Gewichte lässt sich diese Aussage anhand privater Arbeitsabläufe überprüfen. Die geplante Veröffentlichung der Sicherheitsbewertung würde außerdem einen der internen Tests aus der Ankündigung einer öffentlichen Prüfung zugänglich machen.
