Sarvam AI випускає модель ухвалення рішень Prism із відкритими вагами

3 листопада 2026 року Sarvam AI випустила Sarvam Prism — модель із відкритими вагами для ухвалення корпоративних рішень, побудовану на базі Sarvam 105B. Вона оцінює заздалегідь визначені варіанти, не генеруючи текст токен за токеном. За даними компанії, медіанний час відповіді на одному графічному процесорі NVIDIA B200 становить 44 мілісекунди, а середній бал — найвищий серед моделей, що відповідають менш ніж за 100 мілісекунд, у межах оцінювання 25 моделей.

Ваги доступні на Hugging Face за ліцензією Apache 2.0, а розміщений доступ надається через API Sarvam на Sarvam Indus. Для розгортання потрібен один графічний процесор із щонайменше 120 ГБ пам’яті; Prism має працювати у форматі FP8. Модель може обробляти до 131 072 токенів на одне запитання, тож довгі вхідні дані, наприклад журнали роботи агентів, можна оцінити за один прохід.

Модель ухвалення рішень за один прохід

Кожен запит містить стан, запитання та будь-яку кількість варіантів, що вміщуються у вікно контексту. Prism обробляє ці дані за один прямий прохід, а невеликий модуль оцінювання призначає ймовірність кожному варіанту. Sarvam створила модель, застосувавши тонке налаштування LoRA до своєї системи 105B і адаптувавши її для ухвалення корпоративних рішень, а не для генерації довільного тексту. Серед перевірених сценаріїв використання — маршрутизація намірів у зверненнях до служби підтримки, маршрутизація між моделями, інтелектуальний аналіз документів і перевірка роботи агентів.

На формування цих імовірностей впливають дві однаково зважені цілі навчання. В одній використовується перехресна ентропія зі згладжуванням міток на 5%, щоб не допускати цілковитої впевненості; в іншій — функція втрат Брієра, яка вимірює квадрат похибки ймовірності та робить упевнені помилки дорогими. Sarvam пояснює калібрування Prism поєднанням цих підходів. Спеціальна маска уваги також ізолює варіанти один від одного під час оцінювання. Стан і запитання обробляються двонапрямно, тоді як лише токен відповіді бачить усі варіанти й порівнює їх.

Вимірювання точності та затримки

Заявлений середній показник об’єднує результати за трьома індексами: Jev Decision Index, що охоплює 37 відкритих тестів; відтворення Sarvam індексу Artificial Analysis Decision Index, у якому замість оригінального закритого тесту на знання використано добірку складних запитань із варіантом «Не знаю»; а також внутрішній тест індійськими мовами. Час відповіді розраховували як медіану за 1 000 послідовно надісланих запитів, використовуючи власний код інференсу розробника кожної моделі, якщо Sarvam могла запустити цю модель на своїх графічних процесорах B200.

За результатами тестування Sarvam Prism отримала середній бал 71,8: 67,0 за Jev, 65,9 за відтворенням тесту Artificial Analysis і 82,5 за індійськими мовами. Модель mammoth-1 показала вищий результат — 75,2 бала, але її медіанний час відповіді становив 284 мілісекунди. У порівнянні також наведено дві системи, доступні лише через API, — Jev 1.14 і Microsoft-Decision-1. Для них указано оприлюднені результати вимірювання часу, а не зіставні вимірювання під час локального запуску, тому на діаграмі використано не єдиний метод вимірювання для всіх моделей.

Початкова конфігурація працювала із 16-бітною точністю на двох графічних процесорах B200, а медіанний час відповіді становив 664 мілісекунди. Перетворення ваг у формат FP8 дало змогу розмістити Prism на одному графічному процесорі. Sarvam також об’єднала всі 128 експертів в одному ядрі, захопила прямий прохід як CUDA Graph, об’єднала перетворення FP8 з ядрами експертів і злила адаптер тонкого налаштування з вагами моделі. У сукупності ці зміни забезпечили затримку випущеної версії на одному графічному процесорі; за даними Sarvam, точність не знизилася.

Калібрування та оцінювання агентів

Тести калібрування мають з’ясувати, чи може робочий процес покладатися на порогові значення впевненості під час автоматизації рішень. Для англійської мови за рівня впевненості щонайменше 90% Prism, за даними Sarvam, прогнозувала 3,3% помилок, а фактично припустилася 2,2% помилок у 226 088 запитаннях із 37 відкритих тестів. Для 20 108 запитань десятьма індійськими мовами та хінглішем модель прогнозувала 5,4% помилок, а фактично припустилася 4,4%. В обох мовних групах фактична кількість помилок залишалася нижчою за прогнозовану на кожному перевіреному пороговому рівні від 50% до 95%.

Порядок варіантів створює окрему проблему узгодженості. У тесті Sarvam на 2 000 запитаннях Prism змінювала 4,0% відповідей, коли варіанти перемішували в чотирьох різних порядках і оцінювали в отриманому порядку. Якщо перед оцінюванням розташувати варіанти у фіксованому внутрішньому порядку, а потім повернути кожну ймовірність під її початковою міткою, ці зміни зникають. Цей крок не потребував додаткових обчислень і не знизив точності під час оцінювання.

Для нагляду за агентами Sarvam оцінила п’ять моделей на тих самих 700 записах роботи та 1 770 запитаннях. Заявлена загальна точність Prism становила 78,5%: 75,0% — під час оцінювання успішності виконання завдання, 86,4% — під час визначення потреби в перевірці людиною та 69,6% — під час ідентифікації агента, відповідального за помилку. Відповіді звіряли з оцінками експертів або автоматичними результатами середовища, а не з судженнями іншої моделі ШІ. Prism за один раз зчитує журнал роботи й оцінює п’ять запитань для перевірки, витрачаючи приблизно пів секунди на один запуск на одному графічному процесорі.

За даними Sarvam, точність Prism на внутрішньому тесті з кібербезпеки, що охоплював 5 517 запитань і дев’ять завдань, становить 89,0%. Компанія планує розширити цей набір для оцінювання та оприлюднити його. У межах тих самих тестів Clef набрала 84,5%, Jev 1.14 — 78,6%, а Microsoft-Decision-1 — 76,1%. Завдання охоплюють уразливості, опубліковані починаючи з липня 2026 року, зокрема виявлення фішингових кампаній і спроб зламу обмежень моделі, а також класифікацію типів атак у межах систем MITRE.

Ключова ідея Prism полягає в тому, що це рівень ухвалення рішень, який компанії можуть навчати й запускати на власній інфраструктурі, використовуючи оцінки впевненості, призначені для встановлення автоматизованих порогових значень. Відкриті ваги дають змогу перевірити цю ідею на приватних робочих процесах. Запланована публікація оцінювання безпеки також дасть змогу винести один із внутрішніх тестів, згаданих в анонсі, на публічний розгляд.