Sarvam AI lanserar beslutsmodellen Prism med öppna vikter

Sarvam AI lanserade Sarvam Prism den 3 november 2026, en modell med öppna vikter för företagsbeslut som bygger på Sarvam 105B och poängsätter fördefinierade alternativ utan att generera text token för token. Företaget uppger en mediantid för svar på 44 millisekunder med en enda NVIDIA B200-GPU och det högsta genomsnittliga resultatet bland modeller som svarar på under 100 millisekunder i företagets utvärdering av 25 modeller.

Vikterna finns tillgängliga på Hugging Face under licensen Apache 2.0, och modellen kan användas via Sarvam API på Sarvam Indus. En driftsättning kräver en GPU med minst 120 GB minne, där Prism körs i FP8. Modellen kan bearbeta upp till 131 072 token per fråga, vilket gör det möjligt att utvärdera långa indata, till exempel agenters körningsspår, i ett enda genomlopp.

En beslutsmodell med ett enda genomlopp

Varje förfrågan innehåller ett tillstånd, en fråga och valfritt antal alternativ som ryms i kontextfönstret. Prism bearbetar indata i ett enda framåtpass och ett litet poängsättningshuvud tilldelar varje alternativ en sannolikhet. Sarvam skapade modellen genom att finjustera sitt 105B-system med LoRA och anpassa det för företagsbeslut i stället för fri textgenerering. Bland de användningsområden som testats finns dirigering av kundsupportärenden utifrån avsikt, modellroutning, dokumentintelligens och kontroller av agentkörningar.

Två jämnt viktade träningsmål formar sannolikheterna. Det ena använder korsentropi med 5 % utjämning av etiketter för att motverka fullständig säkerhet; det andra använder Brier-förlust, som mäter kvadratiska sannolikhetsfel och gör självsäkra misstag kostsamma. Sarvam tillskriver Prism-modellens kalibrering denna kombination. En anpassad uppmärksamhetsmask ser också till att alternativen hålls åtskilda från varandra vid poängsättningen. Tillståndet och frågan läses dubbelriktat, medan endast svarstokenen ser och jämför alla alternativ.

Mätningar av träffsäkerhet och svarstid

Det rapporterade genomsnittet kombinerar tre index: Jev Decision Index, som omfattar 37 offentliga riktmärken; Sarvams återskapande av Artificial Analysis Decision Index, där utvalda svåra frågor med alternativet ”Jag vet inte” ersätter det ursprungliga privata kunskapstestet; samt ett internt riktmärke för indiska språk. Svarstiderna var medianvärden för 1 000 förfrågningar som skickades sekventiellt. Sarvam använde varje modellutvecklares egen inferenskod när företaget kunde köra modellen på sin B200-hårdvara.

Prism fick ett genomsnitt på 71,8 i Sarvams tester, med delresultat på 67,0 för Jev, 65,9 för återskapandet av Artificial Analysis och 82,5 för indiska språk. Modellen mammoth-1 fick ett högre resultat, 75,2, men hade en mediantid för svar på 284 millisekunder. Två system som endast är tillgängliga via API, Jev 1.14 och Microsoft-Decision-1, ingår i jämförelsen med offentligt rapporterade svarstider i stället för motsvarande lokala mätningar. Diagrammet använder därför inte samma mätmetod för alla modeller.

Den ursprungliga konfigurationen hade en mediantid på 664 millisekunder med 16-bitars precision på två B200-GPU:er. Genom att konvertera vikterna till FP8 kunde Prism köras på en enda GPU. Sarvam samlade också alla 128 experter i en enda kernel, registrerade framåtpasset som en CUDA Graph, integrerade FP8-konverteringen i expertkernlarna och slog samman finjusteringsadaptern med modellvikterna. Tillsammans ledde dessa ändringar till den svarstid som modellen har vid lanseringen på en enda GPU, och Sarvam uppger att träffsäkerheten inte försämrades.

Kalibrering och utvärdering av agenter

Kalibreringstesterna undersöker om ett arbetsflöde kan förlita sig på konfidensgränser när beslut automatiseras. Vid en konfidens på minst 90 % på engelska uppger Sarvam att Prism förväntade sig en felfrekvens på 3,3 % och hade en faktisk felfrekvens på 2,2 %, baserat på 226 088 frågor från 37 offentliga riktmärken. För 20 108 frågor på 10 indiska språk och hinglish förväntade sig modellen en felfrekvens på 5,4 % och hade en faktisk felfrekvens på 4,4 %. I båda språkgrupperna låg den faktiska felfrekvensen under den förväntade vid varje testad konfidensgräns från 50 % till 95 %.

Alternativens ordningsföljd utgör ett separat konsistensproblem. I Sarvams test med 2 000 frågor ändrade Prism 4,0 % av svaren när alternativen blandades i fyra olika ordningar och poängsattes i den ordning de presenterades. När alternativen först placerades i en fast intern ordning för poängsättningen och varje sannolikhet sedan angavs under sin ursprungliga etikett försvann dessa ändringar. Steget krävde ingen ytterligare beräkning och försämrade inte träffsäkerheten i utvärderingen.

För tillsyn av agenter utvärderade Sarvam fem modeller på samma 700 inspelade körningar och 1 770 frågor. Prism hade en rapporterad total träffsäkerhet på 78,5 %, med 75,0 % för att bedöma om en uppgift lyckats, 86,4 % för att avgöra om mänsklig granskning behövdes och 69,6 % för att identifiera vilken agent som låg bakom ett fel. Svaren kontrollerades mot expertannoteringar eller automatiska resultat från miljön, aldrig mot en annan AI-modells bedömning. Prism läser ett körningsspår en gång och poängsätter fem utvärderingsfrågor samtidigt, vilket tar ungefär en halv sekund per körning på en GPU.

Sarvam uppger att Prism har en träffsäkerhet på 89,0 % på ett internt riktmärke för cybersäkerhet, bestående av 5 517 frågor inom nio uppgifter, och planerar att utöka och offentliggöra utvärderingsmaterialet. Clef fick 84,5 %, Jev 1.14 fick 78,6 % och Microsoft-Decision-1 fick 76,1 % i samma resultat. Uppgifterna bygger på sårbarheter som publicerats sedan juli 2026 och omfattar identifiering av nätfiskekampanjer och jailbreakförsök samt klassificering av attacktyper inom MITRE:s ramverk.

Prisms huvudpåstående är att det är ett beslutsstödslager som företag kan träna och köra på sin egen infrastruktur, med konfidensvärden utformade för automatiserade tröskelvärden. De öppna vikterna gör det möjligt att testa detta på privata arbetsflöden. Den planerade publiceringen av säkerhetsutvärderingen skulle också göra ett av tillkännagivandets interna tester till föremål för offentlig granskning.