Sarvam AI lansează modelul de decizie Prism cu ponderi deschise

Sarvam AI a lansat Sarvam Prism pe 3 noiembrie 2026, un model cu ponderi deschise pentru decizii în mediul enterprise, care folosește Sarvam 105B ca model de bază și evaluează opțiuni prestabilite fără generare token cu token. Compania raportează un timp median de răspuns de 44 de milisecunde pe un singur GPU NVIDIA B200 și cel mai mare scor mediu dintre modelele care răspund în mai puțin de 100 de milisecunde, în evaluarea sa cu 25 de modele.

Ponderile sunt disponibile pe Hugging Face în baza licenței Apache 2.0, iar accesul găzduit este oferit prin API-ul Sarvam pe Sarvam Indus. Pentru implementare este necesar un GPU cu cel puțin 120 GB de memorie, iar Prism trebuie să ruleze în FP8. Modelul poate procesa până la 131.072 de tokeni pentru fiecare întrebare, ceea ce permite evaluarea dintr-o singură trecere a unor intrări lungi, precum traseele agenților.

Un model de decizie cu o singură trecere

Fiecare solicitare conține o stare, o întrebare și oricâte opțiuni încap în fereastra de context. Prism procesează intrarea dintr-o singură trecere înainte, iar un mic modul de evaluare atribuie o probabilitate fiecărei opțiuni. Sarvam a creat modelul aplicând reglarea fină LoRA sistemului său 105B, adaptându-l pentru decizii în mediul enterprise, nu pentru generarea de text liber. Printre utilizările testate se numără direcționarea solicitărilor de asistență pentru clienți în funcție de intenție, direcționarea către modele, analiza inteligentă a documentelor și verificarea rulărilor agenților.

Două obiective de antrenare, ponderate în mod egal, determină aceste probabilități. Unul folosește entropia încrucișată cu o netezire a etichetelor de 5% pentru a descuraja certitudinea absolută; celălalt folosește pierderea Brier, care măsoară eroarea pătratică a probabilității și penalizează greșelile făcute cu încredere. Sarvam atribuie calibrarea lui Prism acestei combinații. O mască de atenție personalizată menține, de asemenea, opțiunile separate unele de altele în timpul evaluării. Starea și întrebarea sunt citite bidirecțional, în timp ce numai tokenul răspunsului vede și compară toate opțiunile.

Măsurători de acuratețe și latență

Media raportată combină trei indici: Jev Decision Index, care acoperă 37 de teste de referință publice; versiunea reprodusă de Sarvam a Artificial Analysis Decision Index, în care întrebările dificile selectate înlocuiesc testul original de cunoștințe private și includ opțiunea „Nu știu”; și un test de referință intern pentru limbile indiene. Timpii de răspuns reprezintă medianele pentru 1.000 de solicitări trimise secvențial, folosind codul de inferență propriu fiecărui dezvoltator de modele, acolo unde Sarvam a putut rula modelul pe hardware-ul său B200.

În testele Sarvam, Prism a obținut un scor mediu de 71,8, cu rezultate de 67,0 la Jev, 65,9 la versiunea reprodusă a Artificial Analysis și 82,5 la testul pentru limbile indiene. Modelul mammoth-1, cu un scor mai mare, a obținut 75,2, dar timpul său median de răspuns a fost de 284 de milisecunde. Două sisteme disponibile doar prin API, Jev 1.14 și Microsoft-Decision-1, apar în comparație cu timpi raportați public, nu cu măsurători locale echivalente; prin urmare, graficul nu folosește aceeași metodă de măsurare pentru toate modelele.

Configurația inițială a avut un timp median de 664 de milisecunde, la precizie pe 16 biți și folosind două GPU-uri B200. Conversia ponderilor în FP8 a permis rularea lui Prism pe un singur GPU. Sarvam a grupat, de asemenea, toți cei 128 de experți într-un singur nucleu, a capturat trecerea înainte ca un graf CUDA, a integrat conversia FP8 în nucleele experților și a comasat adaptorul de reglare fină cu ponderile modelului. Împreună, aceste schimbări au dus la latența versiunii lansate, care rulează pe un singur GPU, iar Sarvam nu raportează nicio pierdere de acuratețe.

Calibrare și evaluarea agenților

Testele de calibrare evaluează dacă un flux de lucru se poate baza pe praguri de încredere pentru automatizarea deciziilor. Pentru limba engleză, la un nivel de încredere de cel puțin 90%, Sarvam raportează că Prism a estimat o rată a erorilor de 3,3% și a obținut o rată efectivă de 2,2%, în cazul a 226.088 de întrebări din 37 de teste de referință publice. Pentru 20.108 întrebări în 10 limbi indiene și hinglish, a estimat o rată a erorilor de 5,4%, iar rata efectivă a fost de 4,4%. În ambele grupuri lingvistice, rata efectivă a erorilor a rămas sub cea estimată la fiecare prag testat, de la 50% la 95%.

Ordinea opțiunilor ridică o problemă distinctă de consecvență. În testul Sarvam cu 2.000 de întrebări, Prism și-a schimbat 4,0% dintre răspunsuri când opțiunile au fost reordonate în patru variante și evaluate în ordinea primită. Așezarea opțiunilor într-o ordine internă fixă înainte de evaluare, urmată de returnarea fiecărei probabilități sub eticheta inițială, a eliminat aceste schimbări. Această etapă nu a adăugat calcule și nu a redus acuratețea în cadrul evaluării.

Pentru supravegherea agenților, Sarvam a evaluat cinci modele pe aceleași 700 de rulări înregistrate și 1.770 de întrebări. Acuratețea generală raportată pentru Prism a fost de 78,5%, inclusiv 75,0% la evaluarea reușitei sarcinii, 86,4% la stabilirea necesității unei verificări umane și 69,6% la identificarea agentului responsabil pentru o defecțiune. Răspunsurile au fost verificate în raport cu adnotări realizate de experți sau cu rezultatele automate ale mediului, niciodată cu evaluările unui alt model de inteligență artificială. Prism citește o singură dată traseul și evaluează împreună cinci întrebări de evaluare, procesând fiecare rulare în aproximativ jumătate de secundă pe un singur GPU.

Sarvam raportează o acuratețe de 89,0% pentru Prism la un test de referință intern de securitate cibernetică, alcătuit din 5.517 întrebări din nouă sarcini, și intenționează să extindă setul de evaluare și să-l facă public. În aceleași rezultate, Clef a obținut 84,5%, Jev 1.14 a obținut 78,6%, iar Microsoft-Decision-1 a obținut 76,1%. Bazate pe vulnerabilități publicate începând din iulie 2026, sarcinile includ identificarea campaniilor de phishing și a tentativelor de jailbreak, precum și clasificarea tipurilor de atac în cadrul structurilor MITRE.

Ideea centrală din spatele Prism este un strat decizional pe care companiile îl pot antrena și rula pe propria infrastructură, cu estimări ale nivelului de încredere concepute pentru praguri automatizate. Ponderile cu acces deschis permit testarea acestei idei în fluxuri de lucru private. Publicarea planificată a evaluării de securitate ar aduce, de asemenea, unul dintre testele interne menționate în anunț în atenția publicului.