Sarvam AI julkaisee avoimilla mallipainoilla varustetun Prism-päätösmallin

Sarvam AI julkaisi Sarvam Prism -mallin 3. marraskuuta 2026. Yritysten päätöksentekoon tarkoitettu avoimilla mallipainoilla varustettu malli pohjautuu Sarvam 105B -malliin, ja se pisteyttää ennalta määritetyt vaihtoehdot tuottamatta tekstiä token kerrallaan. Yhtiön mukaan mallin vasteajan mediaani on 44 millisekuntia yhdellä NVIDIA B200 -grafiikkasuorittimella. Sen 25 mallia kattavassa arvioinnissa Prism sai korkeimman keskimääräisen pistemäärän malleista, joiden vasteaika oli alle 100 millisekuntia.

Mallipainot ovat saatavilla Hugging Facessa Apache 2.0 -lisenssillä, ja mallia voi käyttää isännöitynä Sarvam API:n kautta Sarvam Indus -alustalla. Käyttöönottoon tarvitaan yksi grafiikkasuoritin, jossa on vähintään 120 Gt muistia; Prism toimii FP8-tarkkuudella. Se pystyy käsittelemään enintään 131 072 tokenia kysymystä kohden, joten pitkätkin syötteet, kuten agenttien suoritusjäljet, voidaan arvioida yhdellä kertaa.

Yhdellä laskentakierroksella toimiva päätösmalli

Jokainen pyyntö sisältää tilan, kysymyksen ja rajattoman määrän vaihtoehtoja, kunhan ne mahtuvat konteksti-ikkunaan. Prism käsittelee syötteen yhdellä eteenpäinlaskentakierroksella, ja pieni pisteytysosa määrittää jokaiselle vaihtoehdolle todennäköisyyden. Sarvam loi mallin hienosäätämällä 105B-järjestelmäänsä LoRA-menetelmällä ja mukauttamalla sen yritysten päätöksentekoon vapaamuotoisen tekstin tuottamisen sijaan. Testattuihin käyttötarkoituksiin kuuluvat asiakastuen yhteydenottojen reititys aikomuksen perusteella, mallien reititys, asiakirjaäly ja agenttien suorituskertojen tarkistaminen.

Näitä todennäköisyyksiä muovaa kaksi yhtä painotettua koulutustavoitetta. Toisessa käytetään ristientropiaa ja 5 prosentin tasoitusta luokkamerkinnöissä, mikä hillitsee täydellistä varmuutta. Toisessa käytetään Brier-häviötä, joka mittaa todennäköisyyksien neliövirhettä ja tekee itsevarmoista virheistä kalliita. Sarvam selittää Prisman kalibroinnin tällä yhdistelmällä. Mukautettu huomiointimaski pitää myös vaihtoehdot erillään toisistaan pisteytyksen aikana. Tila ja kysymys käsitellään kaksisuuntaisesti, mutta vain vastaustoken näkee kaikki vaihtoehdot ja vertaa niitä keskenään.

Tarkkuuden ja vasteajan mittaaminen

Raportoitu keskiarvo koostuu kolmesta indeksistä: Jev Decision Indexistä, joka kattaa 37 julkista vertailutestiä; Sarvamin uudelleenluomasta Artificial Analysis Decision Indexistä, jossa alkuperäinen yksityinen tietotesti korvataan kuratoiduilla vaikeilla kysymyksillä ja ”En tiedä” -vaihtoehdolla; sekä sisäisestä intialaiskielten vertailutestistä. Vasteajat olivat 1 000 peräkkäin lähetetyn pyynnön mediaaneja. Sarvam käytti kunkin mallin kehittäjän omaa päättelykoodia aina, kun se pystyi ajamaan mallin B200-laitteistollaan.

Prism sai Sarvamin testeissä keskimäärin 71,8 pistettä: Jev-testissä 67,0, Artificial Analysis -testin uudelleenluomassa versiossa 65,9 ja intialaiskielisessä testissä 82,5. Korkeamman pistemäärän saanut mammoth-1 saavutti tuloksen 75,2, mutta sen vasteajan mediaani oli 284 millisekuntia. Vertailussa on mukana kaksi vain API:n kautta käytettävää järjestelmää, Jev 1.14 ja Microsoft-Decision-1. Niiden ajat perustuvat julkisesti ilmoitettuihin lukuihin eivätkä vastaaviin paikallisiin mittauksiin, joten kaaviossa ei käytetä kaikille malleille samaa mittausmenetelmää.

Alkuperäisen kokoonpanon vasteajan mediaani oli 664 millisekuntia, kun mallia ajettiin 16-bittisellä tarkkuudella kahdella B200-grafiikkasuorittimella. Painojen muuntaminen FP8-muotoon mahdollisti Prisman ajamisen yhdellä grafiikkasuorittimella. Sarvam myös ryhmitteli kaikki 128 asiantuntijaa yhteen ytimeen, tallensi eteenpäinlaskennan CUDA Graphiksi, yhdisti FP8-muunnoksen asiantuntijaytimiin ja yhdisti hienosäätösovittimen mallin painoihin. Näillä muutoksilla saavutettiin julkaistun version yhden grafiikkasuorittimen vasteaika, eikä Sarvamin mukaan tarkkuus heikentynyt.

Kalibrointi ja agenttien arviointi

Kalibrointitesteissä selvitetään, voiko työnkulku luottaa varmuuskynnyksiin päätöksenteon automatisoinnissa. Kun varmuus oli englanninkielisessä aineistossa vähintään 90 %, Prism arvioi virheiden osuudeksi 3,3 % ja teki virheitä 2,2 %:ssa tapauksista. Aineisto sisälsi 226 088 kysymystä 37 julkisesta vertailutestistä. Kymmenellä intialaisella kielellä ja hinglishillä esitetyistä 20 108 kysymyksestä Prism arvioi virheiden osuudeksi 5,4 % ja teki virheitä 4,4 %:ssa tapauksista. Molemmissa kieliryhmissä todellinen virheiden määrä jäi ennustettua pienemmäksi kaikilla testatuilla varmuuskynnyksillä 50 prosentista 95 prosenttiin.

Vaihtoehtojen järjestys aiheuttaa erillisen johdonmukaisuusongelman. Sarvamin 2 000 kysymyksen testissä Prism muutti 4,0 % vastauksistaan, kun vaihtoehdot sekoitettiin neljään eri järjestykseen ja malli pisteytti ne saapumisjärjestyksessä. Kun vaihtoehdot järjestettiin ennen pisteytystä kiinteään sisäiseen järjestykseen ja kunkin todennäköisyys palautettiin sen alkuperäisellä tunnisteella, muutokset poistuivat. Tämä vaihe ei lisännyt laskentaa eikä heikentänyt arvioinnissa tarkkuutta.

Agenttien valvontaa varten Sarvam arvioi viittä mallia samoilla 700 tallennetulla suorituskerralla ja 1 770 kysymyksellä. Prisman raportoitu kokonaistarkkuus oli 78,5 %. Se arvioi tehtävien onnistumista 75,0 prosentin tarkkuudella, päätti 86,4 prosentin tarkkuudella, milloin tarvittiin ihmisen tekemää tarkistusta, ja tunnisti epäonnistumisesta vastuussa olevan agentin 69,6 prosentin tarkkuudella. Vastauksia verrattiin asiantuntijoiden merkintöihin tai ympäristön automaattisiin tuloksiin, ei koskaan toisen tekoälymallin arvioon. Prism lukee suoritusjäljen kerran ja pisteyttää samalla viisi arviointikysymystä. Yhden suorituskerran käsittely kestää yhdellä grafiikkasuorittimella noin puoli sekuntia.

Sarvamin mukaan Prisman tarkkuus oli 89,0 % yhtiön sisäisessä kyberturvallisuuden vertailutestissä, joka sisälsi 5 517 kysymystä yhdeksästä tehtävästä. Yhtiö aikoo laajentaa arviointia ja julkaista testiaineiston julkisesti. Samassa arvioinnissa Clef sai 84,5 pistettä, Jev 1.14 78,6 pistettä ja Microsoft-Decision-1 76,1 pistettä. Heinäkuun 2026 jälkeen julkaistuihin haavoittuvuuksiin perustuvissa tehtävissä tunnistettiin tietojenkalastelukampanjoita ja jailbreak-yrityksiä sekä luokiteltiin hyökkäystyyppejä MITRE-kehysten mukaisesti.

Prismin keskeinen ajatus on päätöksentekokerros, jota yritykset voivat kouluttaa ja käyttää omassa infrastruktuurissaan ja johon sisältyy automaattisia kynnysarvoja varten suunniteltuja luottamusarvioita. Avoimet painot mahdollistavat tämän ajatuksen testaamisen yksityisissä työnkuluissa. Tietoturva-arvioinnin suunniteltu julkaiseminen toisi myös yhden ilmoituksessa mainituista sisäisistä testeistä julkisen tarkastelun piiriin.