Sarvam AI udostępnia model decyzyjny Prism z otwartymi wagami

Sarvam AI udostępniła Sarvam Prism 3 listopada 2026 r. To model z otwartymi wagami przeznaczony do podejmowania decyzji w przedsiębiorstwach. Jego podstawą jest Sarvam 105B, a oceny predefiniowanych opcji nie wymagają generowania tekstu token po tokenie. Firma podaje, że mediana czasu odpowiedzi na jednym układzie NVIDIA B200 wynosi 44 milisekundy, a model uzyskał najwyższy średni wynik spośród modeli odpowiadających w czasie krótszym niż 100 milisekund w przeprowadzonym przez nią teście obejmującym 25 modeli.

Wagi są dostępne w serwisie Hugging Face na licencji Apache 2.0. Dostęp hostowany zapewnia Sarvam API w ramach Sarvam Indus. Wdrożenie wymaga jednego układu GPU z co najmniej 120 GB pamięci; Prism działa w formacie FP8. Model może przetworzyć do 131 072 tokenów w jednym pytaniu, dzięki czemu długie dane wejściowe, takie jak ślady działania agentów, można ocenić w jednym przebiegu.

Model decyzyjny działający w jednym przebiegu

Każde żądanie zawiera stan, pytanie i dowolną liczbę opcji mieszczących się w oknie kontekstu. Prism przetwarza te dane wejściowe w jednym przebiegu w przód, a niewielka głowica oceniająca przypisuje prawdopodobieństwo każdej opcji. Sarvam stworzyła model, dostrajając metodą LoRA swój system 105B, aby przystosować go do podejmowania decyzji w przedsiębiorstwach, a nie do swobodnego generowania tekstu. Testowane zastosowania obejmują kierowanie zgłoszeń do obsługi klienta na podstawie intencji, kierowanie zapytań do modeli, inteligentne przetwarzanie dokumentów oraz kontrolę przebiegów działania agentów.

Na przypisywane prawdopodobieństwa wpływają dwa równoważne pod względem wagi cele treningowe. Pierwszy wykorzystuje entropię krzyżową z wygładzaniem etykiet na poziomie 5%, aby ograniczyć całkowitą pewność; drugi stosuje funkcję straty Briera, która mierzy kwadrat błędu prawdopodobieństwa i sprawia, że błędy popełnione z dużą pewnością są kosztowne. Sarvam przypisuje kalibrację Prism połączeniu tych metod. Specjalna maska uwagi dodatkowo odseparowuje od siebie opcje podczas ich oceniania. Stan i pytanie są analizowane dwukierunkowo, natomiast tylko token odpowiedzi widzi wszystkie opcje i porównuje je ze sobą.

Pomiary trafności i opóźnień

Podawana średnia łączy wyniki trzech indeksów: Jev Decision Index, obejmującego 37 publicznych testów porównawczych; odtworzonego przez Sarvam indeksu Artificial Analysis Decision Index, w którym wyselekcjonowane trudne pytania z opcją „Nie wiem” zastępują oryginalny, prywatny test wiedzy; oraz wewnętrznego testu porównawczego dla języków indyjskich. Czasy odpowiedzi to mediany z 1 000 żądań wysyłanych sekwencyjnie. W przypadku modeli, które Sarvam mogła uruchomić na swoim sprzęcie B200, wykorzystano własny kod inferencyjny twórców poszczególnych modeli.

W testach Sarvam Prism uzyskał średni wynik 71,8: 67,0 w Jev, 65,9 w odtworzonym teście Artificial Analysis oraz 82,5 dla języków indyjskich. Model mammoth-1 osiągnął wyższy wynik — 75,2 — ale mediana jego czasu odpowiedzi wyniosła 284 milisekundy. W porównaniu uwzględniono dwa systemy dostępne wyłącznie przez API: Jev 1.14 i Microsoft-Decision-1. Dla nich podano publicznie raportowane czasy, a nie równoważne pomiary lokalne, dlatego na wykresie nie zastosowano jednej metody pomiaru dla wszystkich modeli.

Początkowa konfiguracja, działająca z precyzją 16-bitową na dwóch układach B200, osiągała medianę czasu odpowiedzi wynoszącą 664 milisekundy. Konwersja wag do formatu FP8 pozwoliła uruchomić Prism na jednym układzie GPU. Sarvam połączyła też wszystkie 128 ekspertów w jednym jądrze, przechwyciła przebieg w przód jako graf CUDA, zintegrowała konwersję FP8 z jądrami ekspertów i połączyła adapter dostrajania z wagami modelu. Łącznie te zmiany zapewniły opublikowany czas odpowiedzi przy użyciu jednego układu GPU. Sarvam podaje, że nie spowodowały one utraty trafności.

Kalibracja i ocena agentów

Testy kalibracji sprawdzają, czy przepływ pracy może opierać automatyzację decyzji na progach pewności. Dla języka angielskiego, przy pewności wynoszącej co najmniej 90%, Sarvam podaje, że wśród 226 088 pytań z 37 publicznych testów porównawczych Prism przewidywał 3,3% błędów, a popełnił ich 2,2%. W przypadku 20 108 pytań w 10 językach indyjskich i języku hinglish przewidywał 5,4% błędów, a popełnił ich 4,4%. W obu grupach językowych na każdym testowanym progu — od 50% do 95% — rzeczywista liczba błędów była niższa od przewidywanej.

Kolejność opcji stanowi odrębny problem związany ze spójnością. W teście Sarvam obejmującym 2 000 pytań Prism zmienił 4,0% odpowiedzi, gdy opcje przestawiono na cztery sposoby i oceniano w otrzymanej kolejności. Umieszczenie opcji w ustalonej kolejności wewnętrznej przed oceną, a następnie przypisanie każdemu prawdopodobieństwu pierwotnej etykiety, wyeliminowało te zmiany. Ten krok nie wymagał dodatkowych obliczeń ani nie obniżył trafności w teście.

Na potrzeby nadzoru nad agentami Sarvam oceniła pięć modeli na tych samych 700 zarejestrowanych przebiegach i 1 770 pytaniach. Podana ogólna trafność Prism wyniosła 78,5%. Model osiągnął 75,0% przy ocenie powodzenia zadania, 86,4% przy ustalaniu, czy potrzebna była kontrola człowieka, oraz 69,6% przy wskazywaniu agenta odpowiedzialnego za niepowodzenie. Odpowiedzi weryfikowano na podstawie adnotacji ekspertów lub automatycznych wyników środowiska, nigdy zaś ocen innego modelu AI. Prism odczytuje ślad działania raz i jednocześnie ocenia pięć pytań, co zajmuje około pół sekundy na przebieg przy użyciu jednego układu GPU.

Sarvam podaje, że Prism osiągnął 89,0% trafności w wewnętrznym teście porównawczym z zakresu cyberbezpieczeństwa, obejmującym 5 517 pytań i dziewięć zadań. Firma planuje rozszerzyć ten zestaw ewaluacyjny i udostępnić go publicznie. W tych samych wynikach Clef uzyskał 84,5%, Jev 1.14 — 78,6%, a Microsoft-Decision-1 — 76,1%. Zadania, opracowane na podstawie luk w zabezpieczeniach opublikowanych od lipca 2026 r., obejmują identyfikowanie kampanii phishingowych i prób jailbreaku oraz klasyfikowanie typów ataków w ramach systemów MITRE.

Główna teza dotycząca Prism zakłada stworzenie warstwy decyzyjnej, którą przedsiębiorstwa mogą trenować i uruchamiać we własnej infrastrukturze, z szacunkami poziomu pewności przeznaczonymi do automatycznego wyznaczania progów. Otwarte wagi umożliwiają sprawdzenie tej tezy w prywatnych przepływach pracy. Planowane upublicznienie ewaluacji bezpieczeństwa pozwoliłoby również poddać publicznej ocenie jeden z wewnętrznych testów opisanych w ogłoszeniu.