Модель принятия решений Prism с открытыми весами от Sarvam AI

3 ноября 2026 года Sarvam AI выпустила Sarvam Prism — модель с открытыми весами для принятия корпоративных решений, основанную на Sarvam 105B. Она оценивает заранее заданные варианты, не генерируя текст токен за токеном. По данным компании, медианное время отклика на одном графическом процессоре NVIDIA B200 составляет 44 миллисекунды, а в оценке 25 моделей Sarvam Prism показала самый высокий средний балл среди моделей, отвечающих менее чем за 100 миллисекунд.

Веса доступны на Hugging Face по лицензии Apache 2.0; hosted-доступ предоставляется через API Sarvam на Sarvam Indus. Для развертывания требуется один графический процессор с объемом памяти не менее 120 ГБ; Prism работает в формате FP8. Модель может обрабатывать до 131 072 токенов на вопрос, благодаря чему длинные входные данные, например трассировки работы агентов, можно оценить за один проход.

Модель принятия решений за один проход

Каждый запрос содержит состояние, вопрос и любое количество вариантов, помещающихся в контекстное окно. Prism обрабатывает входные данные за один прямой проход, а небольшой блок оценки присваивает каждому варианту вероятность. Sarvam создала модель, применив тонкую настройку LoRA к своей системе 105B и адаптировав ее для принятия корпоративных решений, а не для генерации текста в свободной форме. Среди проверенных сценариев применения — маршрутизация запросов в службу поддержки по намерениям пользователей, маршрутизация моделей, анализ документов и проверка работы агентов.

На эти вероятности влияют две равнозначные цели обучения. Одна из них использует перекрестную энтропию со сглаживанием меток на 5%, чтобы не допускать полной уверенности; другая использует функцию потерь Брайера, которая измеряет квадрат ошибки вероятности и делает уверенные ошибки дорогостоящими. По словам Sarvam, калибровка Prism обеспечивается сочетанием этих методов. Специальная маска внимания также не позволяет вариантам влиять друг на друга при оценке. Состояние и вопрос обрабатываются с двунаправленным вниманием, тогда как только токен ответа видит все варианты и сравнивает их.

Измерения точности и задержки

Заявленный средний показатель объединяет три индекса: индекс принятия решений Jev, охватывающий 37 общедоступных тестов; воспроизведенный Sarvam индекс принятия решений Artificial Analysis, в котором оригинальный закрытый тест на знания заменен тщательно отобранными сложными вопросами с вариантом ответа «Не знаю»; а также внутренний тест на индийских языках. Время отклика рассчитывали как медиану по 1 000 запросам, отправленным последовательно. Использовался собственный код для инференса разработчика каждой модели, если Sarvam удавалось запустить ее на своем оборудовании B200.

В тестировании Sarvam Prism набрала в среднем 71,8 балла: 67,0 по Jev, 65,9 по воспроизведенному тесту Artificial Analysis и 82,5 по тесту на индийских языках. Модель mammoth-1 показала более высокий результат — 75,2 балла, однако ее медианное время отклика составило 284 миллисекунды. В сравнении также представлены две системы, доступные только через API, — Jev 1.14 и Microsoft-Decision-1. Для них указано опубликованное время отклика, а не сопоставимые измерения на локальном оборудовании, поэтому для всех моделей на диаграмме использован не единый метод измерения.

Исходная конфигурация работала с медианной задержкой 664 миллисекунды при 16-битной точности на двух графических процессорах B200. Преобразование весов в FP8 позволило разместить Prism на одном графическом процессоре. Sarvam также объединила все 128 экспертов в одном ядре, записала прямой проход в виде CUDA Graph, встроила преобразование FP8 в ядра экспертов и объединила адаптер тонкой настройки с весами модели. В совокупности эти изменения обеспечили заявленную задержку при работе на одном графическом процессоре; по данным Sarvam, точность при этом не снизилась.

Калибровка и оценка работы агентов

Тесты калибровки показывают, можно ли полагаться на пороговые значения уверенности при автоматизации решений в рабочем процессе. Для английского языка при уверенности не менее 90% Prism, по данным Sarvam, прогнозировала 3,3% ошибок и допустила 2,2% ошибок на выборке из 226 088 вопросов по 37 общедоступным тестам. Для 20 108 вопросов на 10 индийских языках и хинглише модель прогнозировала 5,4% ошибок и допустила 4,4%. В обеих языковых группах фактическое число ошибок оставалось ниже прогнозируемого при каждом проверенном пороге от 50% до 95%.

Порядок вариантов создает отдельную проблему согласованности. В тесте Sarvam на 2 000 вопросах Prism меняла 4,0% ответов, когда варианты перемешивали в четырех разных порядках и передавали модели в полученном виде. Если перед оценкой располагать варианты в фиксированном внутреннем порядке, а затем возвращать каждой вероятности исходную метку, эти расхождения исчезали. Этот шаг не требовал дополнительных вычислений и не снижал точность в ходе оценки.

Для контроля работы агентов Sarvam оценила пять моделей на одном и том же наборе из 700 записанных запусков и 1 770 вопросов. Заявленная общая точность Prism составила 78,5%: 75,0% при оценке успешности выполнения задачи, 86,4% при определении необходимости проверки человеком и 69,6% при выявлении агента, ответственного за сбой. Ответы сверяли с экспертной разметкой или автоматическими результатами, полученными в среде, — но не с оценками другой модели ИИ. Prism обрабатывает трассировку за один проход и одновременно оценивает пять вопросов; обработка одного запуска занимает около половины секунды на одном графическом процессоре.

По данным Sarvam, точность Prism на внутреннем тесте по кибербезопасности из 5 517 вопросов по девяти задачам составила 89,0%. Компания планирует расширить этот набор для оценки и опубликовать его. В тех же результатах Clef набрала 84,5%, Jev 1.14 — 78,6%, а Microsoft-Decision-1 — 76,1%. Задачи, составленные на основе уязвимостей, опубликованных начиная с июля 2026 года, включают выявление фишинговых кампаний и попыток обхода защитных механизмов, а также классификацию типов атак в рамках систем MITRE.

Главная идея Prism — это уровень принятия решений, который компании могут обучать и запускать на собственной инфраструктуре; его оценки уверенности предназначены для использования при автоматической настройке пороговых значений. Открытые веса позволяют проверить эту идею на частных рабочих процессах. Планируемая публикация оценки безопасности также позволит подвергнуть одну из внутренних проверок, упомянутых в анонсе, общественному обсуждению.