Sarvam AI lanza el modelo de decisión Prism de pesos abiertos

Sarvam AI lanzó Sarvam Prism el 3 de noviembre de 2026: un modelo de pesos abiertos para la toma de decisiones empresariales que utiliza Sarvam 105B como base y puntúa opciones predefinidas sin generar texto token a token. La empresa informa de un tiempo de respuesta mediano de 44 milisegundos con una GPU NVIDIA B200 y de la puntuación media más alta entre los modelos que responden en menos de 100 milisegundos, según su evaluación de 25 modelos.

Los pesos están disponibles en Hugging Face con licencia Apache 2.0, y se puede acceder al modelo alojado a través de la API de Sarvam en Sarvam Indus. Para implementar el modelo se necesita una GPU con al menos 120 GB de memoria; Prism se ejecuta en FP8. Puede procesar hasta 131.072 tokens por pregunta, lo que permite evaluar de una sola vez entradas extensas, como los registros de actividad de agentes.

Un modelo de decisión de una sola pasada

Cada solicitud contiene un estado, una pregunta y cualquier número de opciones que quepan en la ventana de contexto. Prism procesa esa entrada en una sola pasada hacia delante y una pequeña capa de puntuación asigna una probabilidad a cada opción. Sarvam creó el modelo mediante un ajuste fino con LoRA de su sistema 105B, adaptándolo a la toma de decisiones empresariales en lugar de a la generación de texto libre. Entre los usos probados se incluyen el enrutamiento de intenciones en la atención al cliente, el enrutamiento de modelos, la inteligencia documental y la supervisión de ejecuciones de agentes.

Dos objetivos de entrenamiento, con la misma ponderación, determinan esas probabilidades. Uno utiliza entropía cruzada con un suavizado de etiquetas del 5% para evitar una certeza absoluta; el otro emplea la pérdida de Brier, que mide el error cuadrático de las probabilidades y penaliza los errores cometidos con seguridad. Sarvam atribuye la calibración de Prism a esa combinación. Además, una máscara de atención personalizada mantiene las opciones aisladas entre sí durante la puntuación. El estado y la pregunta se leen de forma bidireccional, mientras que solo el token de respuesta ve y compara todas las opciones.

Mediciones de precisión y latencia

El promedio informado combina tres índices: el Jev Decision Index, que abarca 37 pruebas de referencia públicas; la recreación de Sarvam del Artificial Analysis Decision Index, que reemplaza la prueba privada de conocimientos original por preguntas difíciles seleccionadas y una opción «No lo sé»; y una prueba de referencia interna en idiomas de la India. Los tiempos de respuesta corresponden a las medianas de 1.000 solicitudes enviadas secuencialmente. Se utilizó el código de inferencia de cada desarrollador de modelos, siempre que Sarvam pudiera ejecutar el modelo en su hardware B200.

En las pruebas de Sarvam, Prism obtuvo una puntuación media de 71,8, con resultados parciales de 67,0 en Jev, 65,9 en la recreación de Artificial Analysis y 82,5 en idiomas de la India. mammoth-1 obtuvo una puntuación más alta, de 75,2, pero su tiempo de respuesta mediano fue de 284 milisegundos. En la comparación aparecen dos sistemas disponibles solo mediante API, Jev 1.14 y Microsoft-Decision-1, con tiempos publicados en lugar de mediciones locales equivalentes; por tanto, el gráfico no aplica un único método de medición a todos los modelos.

La configuración inicial registró una latencia mediana de 664 milisegundos con precisión de 16 bits y dos GPU B200. Al convertir los pesos a FP8, Prism pudo ejecutarse en una sola GPU. Sarvam también agrupó los 128 expertos en un único kernel, capturó la pasada hacia delante como un CUDA Graph, integró la conversión a FP8 en los kernels de expertos y fusionó el adaptador de ajuste fino con los pesos del modelo. En conjunto, estos cambios permitieron alcanzar la latencia publicada para una sola GPU, y Sarvam informa que no hubo pérdida de precisión.

Calibración y evaluación de agentes

Las pruebas de calibración analizan si un flujo de trabajo puede basarse en umbrales de confianza para automatizar decisiones. Para una confianza de al menos el 90% en inglés, Sarvam informa que Prism esperaba un 3,3% de errores y cometió un 2,2%, en un total de 226.088 preguntas de 37 pruebas de referencia públicas. En 20.108 preguntas en 10 idiomas de la India y en hinglish, esperaba un 5,4% de errores y cometió un 4,4%. En ambos grupos lingüísticos, los errores reales se mantuvieron por debajo de los previstos en todos los umbrales evaluados, del 50% al 95%.

El orden de las opciones plantea otro problema de consistencia. En la prueba de Sarvam con 2.000 preguntas, Prism cambió el 4,0% de las respuestas cuando las opciones se presentaron en cuatro órdenes distintos y se puntuaron tal como se recibieron. Colocar las opciones en un orden interno fijo antes de puntuarlas y devolver después cada probabilidad con su etiqueta original eliminó esos cambios. Este paso no añadió cálculos ni redujo la precisión en la evaluación.

Para supervisar agentes, Sarvam evaluó cinco modelos con las mismas 700 ejecuciones registradas y las mismas 1.770 preguntas. La precisión general informada para Prism fue del 78,5%, con un 75,0% al juzgar el éxito de las tareas, un 86,4% al decidir si se necesitaba una revisión humana y un 69,6% al identificar al agente responsable de un fallo. Las respuestas se contrastaron con anotaciones de expertos o con los resultados automáticos del entorno, nunca con el juicio de otro modelo de IA. Prism lee un registro de actividad una sola vez y puntúa conjuntamente cinco preguntas de evaluación; el proceso tarda aproximadamente medio segundo por ejecución en una GPU.

Sarvam informa de una precisión del 89,0% de Prism en una prueba interna de ciberseguridad con 5.517 preguntas distribuidas en nueve tareas, y tiene previsto ampliar y publicar abiertamente ese conjunto de evaluación. En los mismos resultados, Clef obtuvo un 84,5%, Jev 1.14 un 78,6% y Microsoft-Decision-1 un 76,1%. Basadas en vulnerabilidades publicadas desde julio de 2026, las tareas incluyen identificar campañas de suplantación de identidad y ataques de jailbreak, así como clasificar tipos de ataque dentro de los marcos de MITRE.

La propuesta central de Prism es una capa de decisión que las empresas pueden entrenar y ejecutar en su propia infraestructura, con estimaciones de confianza diseñadas para umbrales automatizados. Los pesos abiertos permiten poner a prueba esa propuesta en flujos de trabajo privados. La publicación prevista de la evaluación de seguridad también acercaría una de las pruebas internas del anuncio al escrutinio público.