Sarvam AI uvádí model Prism pro rozhodování s otevřenými vahami

Společnost Sarvam AI uvedla model Sarvam Prism 3. listopadu 2026. Jde o model s otevřenými vahami pro podnikové rozhodování, který vychází z modelu Sarvam 105B a vyhodnocuje předem stanovené možnosti bez generování token po tokenu. Společnost uvádí mediánovou dobu odezvy 44 milisekund při provozu na jediném GPU NVIDIA B200 a nejvyšší průměrné skóre mezi modely, které odpovídají za méně než 100 milisekund, v hodnocení zahrnujícím 25 modelů.

Váhy jsou dostupné na Hugging Face pod licencí Apache 2.0; hostovaný přístup je k dispozici prostřednictvím rozhraní Sarvam API na platformě Sarvam Indus. Nasazení vyžaduje jeden GPU s pamětí alespoň 120 GB; Prism při tom běží ve formátu FP8. Na jednu otázku dokáže zpracovat až 131 072 tokenů, takže lze dlouhé vstupy, například záznamy průběhu práce agentů, vyhodnotit v jediném průchodu.

Model pro rozhodování v jediném průchodu

Každý požadavek obsahuje stav, otázku a libovolný počet možností, které se vejdou do kontextového okna. Prism zpracuje vstup v jediném dopředném průchodu a malá skórovací vrstva přiřadí každé možnosti pravděpodobnost. Sarvam vytvořila model doladěním systému 105B pomocí LoRA a přizpůsobila jej podnikovému rozhodování namísto generování volného textu. Mezi jeho testovaná použití patří směrování záměrů v zákaznické podpoře, směrování mezi modely, práce s dokumenty a kontroly běhů agentů.

Tyto pravděpodobnosti utvářejí dva stejně vážené tréninkové cíle. Jeden využívá křížovou entropii s 5% vyhlazováním štítků, které má omezovat absolutní jistotu; druhý používá Brierovu ztrátu, jež měří druhou mocninu chyby pravděpodobnosti a penalizuje příliš sebejisté chyby. Sarvam připisuje kalibraci modelu Prism právě této kombinaci. Vlastní maska pozornosti navíc při skórování zajišťuje, aby možnosti zůstaly vzájemně oddělené. Stav a otázka se čtou obousměrně, zatímco pouze token odpovědi vidí všechny možnosti a porovnává je.

Měření přesnosti a latence

Uváděný průměr kombinuje tři indexy: Jev Decision Index, který zahrnuje 37 veřejných benchmarků; vlastní verzi Artificial Analysis Decision Index od společnosti Sarvam, v níž jsou původní soukromý znalostní test nahrazen kurátorsky sestavenými obtížnými otázkami s možností odpovědět „Nevím“; a interní benchmark pro indické jazyky. Doby odezvy představují medián z 1 000 požadavků odeslaných postupně za sebou. Tam, kde Sarvam mohla model spustit na svém hardwaru B200, použila vlastní inferenční kód vývojáře daného modelu.

Model Prism dosáhl v testování společnosti Sarvam průměrného skóre 71,8; dílčí výsledky činily 67,0 v Jev, 65,9 ve verzi Artificial Analysis a 82,5 v testu indických jazyků. Vyššího skóre dosáhl model mammoth-1, a to 75,2, jeho mediánová doba odezvy však byla 284 milisekund. Ve srovnání jsou uvedeny také dva systémy dostupné pouze přes API, Jev 1.14 a Microsoft-Decision-1, u nichž byly použity veřejně vykázané časy, nikoli srovnatelná měření na místním hardwaru. Graf proto nepoužívá pro všechny modely jednotnou metodu měření.

Výchozí konfigurace dosahovala při 16bitové přesnosti a použití dvou GPU B200 mediánové latence 664 milisekund. Převod vah do formátu FP8 umožnil provozovat Prism na jediném GPU. Sarvam také sloučila všech 128 expertů do jediného kernelu, zachytila dopředný průchod jako CUDA Graph, sloučila převod do FP8 s expertními kernely a začlenila adaptér pro doladění přímo do vah modelu. Tyto změny dohromady vedly k latenci zveřejněné verze při běhu na jediném GPU; Sarvam uvádí, že nedošlo k žádné ztrátě přesnosti.

Kalibrace a vyhodnocování agentů

Kalibrační testy zkoumají, zda se pracovní postup může při automatizaci rozhodování spolehnout na prahové hodnoty míry jistoty. Pro angličtinu při míře jistoty alespoň 90 % Sarvam uvádí, že Prism očekával chybovost 3,3 % a dosáhl skutečné chybovosti 2,2 %; test zahrnoval 226 088 otázek ze 37 veřejných benchmarků. U 20 108 otázek v 10 indických jazycích a hinglištině očekával chybovost 5,4 % a dosáhl skutečné chybovosti 4,4 %. V obou jazykových skupinách zůstala skutečná chybovost pod předpokládanou při každé testované prahové hodnotě od 50 % do 95 %.

Pořadí možností představuje samostatný problém z hlediska konzistence. V testu společnosti Sarvam zahrnujícím 2 000 otázek změnil Prism 4,0 % odpovědí, když byly možnosti náhodně seřazeny do čtyř různých pořadí a model je vyhodnotil v přijatém pořadí. Pokud se možnosti před skórováním seřadily do pevného interního pořadí a poté se každá pravděpodobnost přiřadila k původnímu označení, tyto změny se odstranily. Tento krok nevyžadoval žádné další výpočty a při vyhodnocení nesnížil přesnost.

Pro dohled nad agenty vyhodnotila společnost Sarvam pět modelů na stejných 700 zaznamenaných bězích a 1 770 otázkách. U modelu Prism uvádí celkovou přesnost 78,5 %, z toho 75,0 % při posuzování úspěšnosti úkolu, 86,4 % při rozhodování, zda je nutná kontrola člověkem, a 69,6 % při určování agenta odpovědného za selhání. Odpovědi se porovnávaly s anotacemi odborníků nebo automaticky zaznamenanými výsledky prostředí, nikdy s úsudkem jiného modelu AI. Prism přečte záznam průběhu jednou a současně vyhodnotí pět otázek, přičemž zpracování jednoho běhu na jediném GPU trvá přibližně půl sekundy.

Sarvam uvádí, že Prism dosáhl 89,0% přesnosti v interním benchmarku kybernetické bezpečnosti, který zahrnoval 5 517 otázek v devíti úlohách, a plánuje tuto vyhodnocovací sadu rozšířit a zveřejnit. Ve stejném hodnocení dosáhl Clef skóre 84,5 %, Jev 1.14 skóre 78,6 % a Microsoft-Decision-1 skóre 76,1 %. Úlohy vycházejí ze zranitelností zveřejněných od července 2026 a zahrnují identifikaci phishingových kampaní a pokusů o jailbreak i klasifikaci typů útoků podle rámců MITRE.

Základní myšlenkou modelu Prism je rozhodovací vrstva, kterou si podniky mohou trénovat a provozovat na vlastní infrastruktuře a která poskytuje odhady míry jistoty určené pro automatické nastavování prahových hodnot. Otevřené váhy umožňují tuto myšlenku ověřit na soukromých pracovních postupech. Plánované zveřejnění bezpečnostního hodnocení by také posunulo jednu z interních zkoušek uvedených v oznámení směrem k veřejnému přezkumu.