Sarvam AI lance le modèle de décision à poids ouverts Prism

Le 3 novembre 2026, Sarvam AI a lancé Sarvam Prism, un modèle à poids ouverts destiné aux décisions en entreprise, qui repose sur Sarvam 105B et évalue des options prédéfinies sans générer de texte token par token. L’entreprise indique un temps de réponse médian de 44 millisecondes sur un seul GPU NVIDIA B200 et le score moyen le plus élevé parmi les modèles répondant en moins de 100 millisecondes lors de son évaluation portant sur 25 modèles.

Les poids sont disponibles sur Hugging Face sous licence Apache 2.0, et le modèle est accessible en hébergement via l’API Sarvam sur Sarvam Indus. Le déploiement nécessite un GPU doté d’au moins 120 Go de mémoire, Prism fonctionnant en FP8. Le modèle peut traiter jusqu’à 131 072 jetons par question, ce qui permet d’évaluer en une seule passe de longs contenus, tels que des traces d’agents.

Un modèle de décision en une seule passe

Chaque requête comprend un état, une question et un nombre quelconque d’options, dans la limite de la fenêtre de contexte. Prism traite ces données en une seule passe avant, puis une petite tête de score attribue une probabilité à chaque option. Sarvam a créé le modèle en appliquant un ajustement fin LoRA à son système 105B, afin de l’adapter aux décisions en entreprise plutôt qu’à la génération de texte libre. Parmi les usages testés figurent le routage des intentions du service client, le routage des modèles, l’analyse documentaire et le contrôle des exécutions d’agents.

Deux objectifs d’entraînement de même pondération façonnent ces probabilités. L’un utilise l’entropie croisée avec un lissage des étiquettes de 5 % pour éviter une certitude absolue ; l’autre utilise la perte de Brier, qui mesure l’erreur quadratique des probabilités et pénalise les erreurs commises avec une forte confiance. Sarvam attribue le bon calibrage de Prism à cette combinaison. Un masque d’attention personnalisé maintient également les options isolées les unes des autres pendant le calcul des scores. L’état et la question sont traités dans les deux sens, tandis que seul le jeton de réponse prend en compte toutes les options et les compare.

Mesures de précision et de latence

La moyenne publiée combine trois indices : le Jev Decision Index, qui couvre 37 bancs d’essai publics ; la reproduction par Sarvam de l’Artificial Analysis Decision Index, qui remplace le test initial de connaissances privées par des questions difficiles sélectionnées et une option « Je ne sais pas » ; et un banc d’essai interne en langues indiennes. Les temps de réponse correspondent aux médianes de 1 000 requêtes envoyées de manière séquentielle. Sarvam a utilisé le code d’inférence propre à chaque développeur de modèle lorsqu’elle pouvait exécuter le modèle sur son matériel B200.

Lors des tests de Sarvam, Prism a obtenu un score moyen de 71,8, avec des résultats de 67,0 sur Jev, de 65,9 sur la reproduction d’Artificial Analysis et de 82,5 pour les langues indiennes. Le modèle mammoth-1, qui a obtenu un score supérieur, a atteint 75,2, mais sa réponse médiane était de 284 millisecondes. Deux systèmes accessibles uniquement par API, Jev 1.14 et Microsoft-Decision-1, figurent dans la comparaison avec des temps publiés plutôt qu’avec des mesures locales équivalentes ; le graphique ne repose donc pas sur une méthode de mesure uniforme pour tous les modèles.

La configuration initiale affichait une latence médiane de 664 millisecondes en précision 16 bits sur deux GPU B200. La conversion des poids en FP8 a permis à Prism de tenir sur un seul GPU. Sarvam a également regroupé les 128 experts dans un noyau unique, capturé la passe avant sous forme de graphe CUDA, fusionné la conversion FP8 dans les noyaux experts et intégré l’adaptateur d’ajustement fin aux poids du modèle. Ensemble, ces changements ont permis d’atteindre la latence publiée pour la version fonctionnant sur un seul GPU, et Sarvam ne signale aucune perte de précision.

Calibrage et évaluation des agents

Les tests de calibrage visent à déterminer si un flux de travail peut s’appuyer sur des seuils de confiance pour automatiser des décisions. Pour les questions en anglais auxquelles Prism répond avec un niveau de confiance d’au moins 90 %, Sarvam indique que le modèle prévoyait 3,3 % d’erreurs et en a commis 2,2 %, sur 226 088 questions issues de 37 bancs d’essai publics. Pour 20 108 questions en 10 langues indiennes et en hinglish, il prévoyait 5,4 % d’erreurs et en a commis 4,4 %. Dans les deux groupes linguistiques, le taux d’erreurs réel est resté inférieur au taux prévu à chaque seuil testé, de 50 % à 95 %.

L’ordre des options pose un problème distinct de cohérence. Lors d’un test portant sur 2 000 questions, Prism a modifié 4,0 % de ses réponses lorsque les options étaient présentées dans quatre ordres différents et évaluées telles quelles. Placer les options dans un ordre interne fixe avant le calcul des scores, puis renvoyer chaque probabilité sous son étiquette d’origine, a éliminé ces modifications. Cette étape n’a nécessité aucun calcul supplémentaire et n’a entraîné aucune perte de précision lors de l’évaluation.

Pour évaluer la supervision des agents, Sarvam a soumis cinq modèles aux mêmes 700 exécutions enregistrées et aux mêmes 1 770 questions. La précision globale publiée de Prism était de 78,5 %, avec 75,0 % pour déterminer si une tâche avait été menée à bien, 86,4 % pour décider si une vérification humaine était nécessaire et 69,6 % pour identifier l’agent responsable d’un échec. Les réponses ont été vérifiées à l’aide d’annotations d’experts ou des résultats automatiques de l’environnement, jamais à l’aide du jugement d’un autre modèle d’IA. Prism lit une trace une seule fois et évalue simultanément cinq questions d’évaluation, en environ une demi-seconde par exécution sur un seul GPU.

Sarvam indique que Prism a atteint une précision de 89,0 % sur un banc d’essai interne de cybersécurité comprenant 5 517 questions réparties en neuf tâches, et prévoit d’élargir ce jeu d’évaluation puis de le rendre public. Dans les mêmes résultats, Clef a obtenu 84,5 %, Jev 1.14, 78,6 %, et Microsoft-Decision-1, 76,1 %. Élaborées à partir de vulnérabilités publiées depuis juillet 2026, les tâches consistent notamment à repérer des campagnes d’hameçonnage et des tentatives de jailbreak, ainsi qu’à classer des types d’attaques selon les cadres MITRE.

La proposition centrale de Prism est de fournir une couche décisionnelle que les entreprises peuvent entraîner et exécuter sur leur propre infrastructure, avec des estimations de confiance conçues pour définir des seuils automatisés. La publication des poids du modèle permet de tester cette proposition dans des flux de travail privés. La publication prévue de l’évaluation de sécurité soumettrait également l’un des tests internes annoncés à l’examen du public.