A Sarvam AI lança o modelo de decisão Prism com pesos abertos

A Sarvam AI lançou o Sarvam Prism em 3 de novembro de 2026, um modelo de pesos abertos para decisões empresariais que usa o Sarvam 105B como base e pontua opções predefinidas sem gerar texto token por token. A empresa informa um tempo de resposta mediano de 44 milissegundos em uma única GPU NVIDIA B200 e a maior pontuação média entre os modelos que respondem em menos de 100 milissegundos na avaliação de 25 modelos.

Os pesos estão disponíveis no Hugging Face sob a licença Apache 2.0, e o acesso hospedado é oferecido pela API Sarvam no Sarvam Indus. A implantação requer uma GPU com pelo menos 120 GB de memória, com o Prism executado em FP8. O modelo pode processar até 131.072 tokens por pergunta, permitindo avaliar em uma única passagem entradas longas, como rastros de agentes.

Um modelo de decisão de passagem única

Cada solicitação contém um estado, uma pergunta e qualquer quantidade de opções que caiba na janela de contexto. O Prism processa essa entrada em uma única passagem direta, e uma pequena camada de pontuação atribui uma probabilidade a cada opção. A Sarvam criou o modelo aplicando ajuste fino LoRA ao seu sistema 105B, adaptando-o para decisões empresariais em vez de geração de texto livre. Entre os usos testados estão o encaminhamento de intenções no atendimento ao cliente, o encaminhamento entre modelos, a inteligência documental e a verificação de execuções de agentes.

Dois objetivos de treinamento com o mesmo peso moldam essas probabilidades. Um usa entropia cruzada com suavização de rótulos de 5% para evitar certeza absoluta; o outro usa a perda de Brier, que mede o erro quadrático das probabilidades e torna custosos os erros cometidos com confiança. A Sarvam atribui a calibração do Prism a essa combinação. Uma máscara de atenção personalizada também mantém as opções isoladas umas das outras durante a pontuação. O estado e a pergunta são lidos bidirecionalmente, enquanto apenas o token da resposta vê e compara todas as opções.

Medições de precisão e latência

A média informada combina três índices: o Jev Decision Index, que abrange 37 benchmarks públicos; a reprodução, pela Sarvam, do Artificial Analysis Decision Index, que substitui o teste original de conhecimento privado por perguntas difíceis selecionadas, com uma opção “Não sei”; e um benchmark interno em idiomas indianos. Os tempos de resposta correspondem às medianas de 1.000 solicitações enviadas sequencialmente, usando o código de inferência de cada desenvolvedor de modelo, nos casos em que a Sarvam conseguiu executar o modelo em seu hardware B200.

Nos testes da Sarvam, o Prism obteve uma pontuação média de 71.8, com resultados individuais de 67.0 no Jev, 65.9 na reprodução do Artificial Analysis e 82.5 em idiomas indianos. O mammoth-1, que teve pontuação mais alta, alcançou 75.2, mas seu tempo de resposta mediano foi de 284 milissegundos. Dois sistemas disponíveis apenas por API, Jev 1.14 e Microsoft-Decision-1, aparecem na comparação com tempos divulgados publicamente, e não com medições locais equivalentes; por isso, o gráfico não usa um único método de medição para todos os modelos.

A configuração inicial apresentou latência mediana de 664 milissegundos em precisão de 16 bits, usando duas GPUs B200. A conversão dos pesos para FP8 permitiu executar o Prism em uma única GPU. A Sarvam também agrupou os 128 especialistas em um único kernel, capturou a passagem direta como um CUDA Graph, integrou a conversão para FP8 aos kernels dos especialistas e incorporou o adaptador de ajuste fino aos pesos do modelo. Em conjunto, essas mudanças resultaram na latência divulgada para a execução em uma única GPU, sem perda de precisão, segundo a Sarvam.

Calibração e avaliação de agentes

Os testes de calibração avaliam se um fluxo de trabalho pode confiar em limiares de confiança para automatizar decisões. Para um nível de confiança de pelo menos 90% em inglês, a Sarvam informa que o Prism previa 3.3% de erros e cometeu 2.2%, em 226,088 perguntas de 37 benchmarks públicos. Em 20,108 perguntas feitas em 10 idiomas indianos e em hinglish, previa 5.4% de erros e cometeu 4.4%. Em ambos os grupos linguísticos, os erros reais ficaram abaixo dos previstos em todos os limiares testados, de 50% a 95%.

A ordem das opções apresenta outro problema de consistência. No teste da Sarvam com 2,000 perguntas, o Prism alterou 4.0% das respostas quando as opções foram embaralhadas em quatro ordens e pontuadas na sequência recebida. Organizar as opções em uma ordem interna fixa antes da pontuação e, em seguida, devolver cada probabilidade sob seu rótulo original eliminou essas alterações. Essa etapa não acrescentou computação nem causou perda de precisão na avaliação.

Para supervisionar agentes, a Sarvam avaliou cinco modelos com base nas mesmas 700 execuções registradas e 1,770 perguntas. A precisão geral informada para o Prism foi de 78.5%, incluindo 75.0% na avaliação do sucesso das tarefas, 86.4% na decisão sobre a necessidade de revisão humana e 69.6% na identificação do agente responsável por uma falha. As respostas foram verificadas com base em anotações de especialistas ou nos resultados automáticos do ambiente, nunca no julgamento de outro modelo de IA. O Prism lê um rastro uma única vez e pontua cinco perguntas de avaliação em conjunto, levando cerca de meio segundo por execução em uma GPU.

A Sarvam informa uma precisão de 89.0% para o Prism em um benchmark interno de cibersegurança com 5,517 perguntas distribuídas por nove tarefas e planeja ampliar e divulgar publicamente esse conjunto de avaliação. Nos mesmos resultados, o Clef obteve 84.5%, o Jev 1.14 alcançou 78.6% e o Microsoft-Decision-1, 76.1%. Criadas com base em vulnerabilidades publicadas desde julho de 2026, as tarefas incluem identificar campanhas de phishing e tentativas de jailbreak, além de classificar tipos de ataque segundo os frameworks MITRE.

A principal proposta do Prism é oferecer uma camada de decisão que as empresas podem treinar e executar em sua própria infraestrutura, com estimativas de confiança concebidas para limiares automatizados. Os pesos abertos permitem testar essa proposta em fluxos de trabalho privados. A divulgação planejada da avaliação de segurança também submeteria um dos testes internos mencionados no anúncio ao escrutínio público.