Sarvam AI lancerer Prism, en beslutningsmodel med åbne vægte

Sarvam AI lancerede Sarvam Prism den 3. november 2026, en model med åbne vægte til virksomheders beslutninger, der bygger på Sarvam 105B og scorer foruddefinerede valgmuligheder uden at generere tekst token for token. Virksomheden rapporterer en median svartid på 44 millisekunder på én NVIDIA B200-GPU og den højeste gennemsnitlige score blandt modeller, der besvarer spørgsmål på under 100 millisekunder, i virksomhedens evaluering af 25 modeller.

Vægtene er tilgængelige på Hugging Face under Apache 2.0-licensen, og der er adgang via Sarvam API på Sarvam Indus. En installation kræver én GPU med mindst 120 GB hukommelse, hvor Prism kører i FP8. Modellen kan behandle op til 131.072 tokens pr. spørgsmål, så lange input som agentforløb kan evalueres i ét gennemløb.

En beslutningsmodel, der arbejder i ét gennemløb

Hver forespørgsel indeholder en tilstand, et spørgsmål og et vilkårligt antal valgmuligheder, der kan være inden for kontekstvinduet. Prism behandler inputtet i ét fremadrettet gennemløb, hvorefter et lille scoringslag tildeler hver valgmulighed en sandsynlighed. Sarvam skabte modellen ved at finjustere sit 105B-system med LoRA og tilpasse det til virksomheders beslutninger frem for fri tekstgenerering. De afprøvede anvendelser omfatter styring af kundehenvendelser efter hensigt, valg af model, dokumentforståelse og kontrol af agentforløb.

To træningsmål med samme vægt former disse sandsynligheder. Det ene anvender krydsentropi med 5 % udjævning af etiketterne for at modvirke fuldstændig sikkerhed; det andet anvender Brier-tab, som måler den kvadrerede sandsynlighedsfejl og gør det dyrt at være overbevist og tage fejl. Sarvam tilskriver Prism-modellens kalibrering denne kombination. En tilpasset opmærksomhedsmaske sørger også for, at valgmulighederne holdes adskilt under scoringen. Tilstanden og spørgsmålet læses i begge retninger, mens det kun er svartokenet, der ser alle valgmulighederne og sammenligner dem.

Målinger af nøjagtighed og latenstid

Det rapporterede gennemsnit sammenfatter tre indeks: Jev Decision Index, der dækker 37 offentlige benchmarks; Sarvams genskabelse af Artificial Analysis Decision Index, hvor kuraterede vanskelige spørgsmål med en »Det ved jeg ikke«-mulighed erstatter den oprindelige private vidensprøve; og et internt benchmark for indiske sprog. Svartiderne var medianer beregnet på 1.000 forespørgsler sendt sekventielt, og Sarvam brugte hver modeludviklers egen inferenskode, når virksomheden kunne køre modellen på sin B200-hardware.

Prism opnåede en gennemsnitlig score på 71,8 i Sarvams test med delresultater på 67,0 for Jev, 65,9 for genskabelsen af Artificial Analysis og 82,5 for indiske sprog. Den højere scorende mammoth-1 opnåede 75,2, men havde en median svartid på 284 millisekunder. To systemer, Jev 1.14 og Microsoft-Decision-1, som kun er tilgængelige via API, indgår i sammenligningen med offentligt rapporterede svartider i stedet for tilsvarende lokale målinger. Diagrammet bygger derfor ikke på én og samme målemetode for alle modeller.

Startkonfigurationen havde en median svartid på 664 millisekunder med 16-bit-præcision fordelt på to B200-GPU’er. Ved at konvertere vægtene til FP8 kunne Prism køre på én GPU. Sarvam samlede også alle 128 eksperter i én kerne, indfangede det fremadrettede gennemløb som en CUDA Graph, integrerede FP8-konvertering i ekspertkernerne og flettede finjusteringsadapteren ind i modellens vægte. Tilsammen resulterede ændringerne i den offentliggjorte svartid på én GPU, og Sarvam rapporterer intet tab af nøjagtighed.

Kalibrering og evaluering af agenter

Kalibreringstestene undersøger, om en arbejdsgang kan basere automatiserede beslutninger på sikkerhedstærskler. Ved en sikkerhed på mindst 90 % på engelsk rapporterer Sarvam, at Prism forventede 3,3 % fejl og begik 2,2 % fejl på tværs af 226.088 spørgsmål fra 37 offentlige benchmarks. For 20.108 spørgsmål på 10 indiske sprog og hinglish forventede modellen 5,4 % fejl og begik 4,4 % fejl. I begge sproggrupper lå de faktiske fejl under de forudsagte fejl ved alle afprøvede tærskler fra 50 % til 95 %.

Valgmulighedernes rækkefølge giver et særskilt problem med konsistensen. I Sarvams test med 2.000 spørgsmål ændrede Prism 4,0 % af svarene, når valgmulighederne blev blandet i fire rækkefølger og scoret, som de blev modtaget. Når valgmulighederne først blev placeret i en fast intern rækkefølge inden scoringen, og hver sandsynlighed derefter blev knyttet til sin oprindelige etiket, forsvandt ændringerne. Dette trin krævede ingen ekstra beregninger og medførte ikke noget tab af nøjagtighed i evalueringen.

Til overvågning af agenter evaluerede Sarvam fem modeller på de samme 700 registrerede kørsler og 1.770 spørgsmål. Prism havde ifølge rapporten en samlet nøjagtighed på 78,5 %, herunder 75,0 % for vurdering af, om en opgave var løst, 86,4 % for afgørelse af, om menneskelig gennemgang var nødvendig, og 69,6 % for identifikation af den agent, der var ansvarlig for en fejl. Svarene blev kontrolleret i forhold til ekspertannoteringer eller automatiske resultater fra miljøet, aldrig en anden AI-models vurdering. Prism gennemgår et forløb én gang og scorer fem evalueringsspørgsmål samlet, hvilket tager omkring et halvt sekund pr. forløb på én GPU.

Sarvam rapporterer, at Prism opnåede 89,0 % nøjagtighed på et internt cybersikkerhedsbenchmark med 5.517 spørgsmål fordelt på ni opgaver, og planlægger at udvide og offentliggøre dette evalueringssæt. Clef scorede 84,5 %, Jev 1.14 scorede 78,6 %, og Microsoft-Decision-1 scorede 76,1 % i de samme resultater. Opgaverne bygger på sårbarheder offentliggjort siden juli 2026 og omfatter identifikation af phishingkampagner og jailbreakforsøg samt klassificering af angrebstyper inden for MITRE-rammer.

Prisms centrale påstand er, at virksomheder kan træne og køre et beslutningslag på deres egen infrastruktur med konfidensestimater, der er beregnet til automatiseret tærskelstyring. De åbne vægte gør det muligt at afprøve denne påstand på private arbejdsgange. Den planlagte offentliggørelse af sikkerhedsevalueringen ville også bringe en af annonceringens interne tests tættere på offentlig granskning.