Η Sarvam AI κυκλοφορεί το μοντέλο λήψης αποφάσεων ανοιχτών βαρών Prism

Η Sarvam AI κυκλοφόρησε το Sarvam Prism στις 3 Νοεμβρίου 2026, ένα μοντέλο ανοιχτών βαρών για τη λήψη επιχειρηματικών αποφάσεων, το οποίο βασίζεται στο Sarvam 105B και βαθμολογεί προκαθορισμένες επιλογές χωρίς να παράγει κείμενο διακριτικό προς διακριτικό. Η εταιρεία αναφέρει διάμεσο χρόνο απόκρισης 44 χιλιοστών του δευτερολέπτου σε μία GPU NVIDIA B200 και την υψηλότερη μέση βαθμολογία μεταξύ των μοντέλων που απαντούν σε λιγότερο από 100 χιλιοστά του δευτερολέπτου, στην αξιολόγησή της με 25 μοντέλα.

Τα βάρη διατίθενται στο Hugging Face με άδεια Apache 2.0, ενώ η φιλοξενούμενη πρόσβαση παρέχεται μέσω του Sarvam API στο Sarvam Indus. Για την ανάπτυξή του απαιτείται μία GPU με μνήμη τουλάχιστον 120 GB, ενώ το Prism εκτελείται σε FP8. Μπορεί να επεξεργαστεί έως και 131.072 διακριτικά ανά ερώτηση, επιτρέποντας την αξιολόγηση μεγάλων εισόδων, όπως τα ίχνη εκτέλεσης agent, σε ένα πέρασμα.

Ένα μοντέλο αποφάσεων σε ένα μόνο πέρασμα

Κάθε αίτημα περιλαμβάνει μια κατάσταση, μια ερώτηση και οποιονδήποτε αριθμό επιλογών χωρά στο παράθυρο συμφραζομένων. Το Prism επεξεργάζεται αυτή την είσοδο σε ένα πέρασμα προς τα εμπρός, ενώ μια μικρή κεφαλή βαθμολόγησης αποδίδει πιθανότητα σε κάθε επιλογή. Η Sarvam δημιούργησε το μοντέλο εφαρμόζοντας προσαρμογή LoRA στο σύστημά της 105B, προσαρμόζοντάς το για τη λήψη επιχειρηματικών αποφάσεων αντί για τη δημιουργία κειμένου ελεύθερης μορφής. Οι χρήσεις του που έχουν δοκιμαστεί περιλαμβάνουν τη δρομολόγηση αιτημάτων υποστήριξης πελατών βάσει πρόθεσης, τη δρομολόγηση σε μοντέλα, την ευφυή επεξεργασία εγγράφων και τον έλεγχο εκτελέσεων agent.

Δύο στόχοι εκπαίδευσης με ίση βαρύτητα διαμορφώνουν αυτές τις πιθανότητες. Ο ένας χρησιμοποιεί διασταυρούμενη εντροπία με εξομάλυνση ετικετών 5%, ώστε να αποθαρρύνει την απόλυτη βεβαιότητα· ο άλλος χρησιμοποιεί την απώλεια Brier, η οποία μετρά το τετραγωνικό σφάλμα πιθανότητας και καθιστά δαπανηρά τα σφάλματα που γίνονται με μεγάλη βεβαιότητα. Η Sarvam αποδίδει τη βαθμονόμηση του Prism σε αυτόν τον συνδυασμό. Μια προσαρμοσμένη μάσκα προσοχής διατηρεί επίσης τις επιλογές απομονωμένες μεταξύ τους κατά τη βαθμολόγηση. Η κατάσταση και η ερώτηση διαβάζονται αμφίδρομα, ενώ μόνο το διακριτικό της απάντησης βλέπει και συγκρίνει όλες τις επιλογές.

Μετρήσεις ακρίβειας και καθυστέρησης

Ο αναφερόμενος μέσος όρος συνδυάζει τρεις δείκτες: τον Δείκτη Αποφάσεων Jev, ο οποίος καλύπτει 37 δημόσια σημεία αναφοράς· την αναπαραγωγή από τη Sarvam του Δείκτη Αποφάσεων Artificial Analysis, η οποία χρησιμοποιεί επιμελημένες δύσκολες ερωτήσεις με επιλογή «Δεν γνωρίζω» αντί για το αρχικό ιδιωτικό τεστ γνώσεων· και ένα εσωτερικό σημείο αναφοράς για ινδικές γλώσσες. Οι χρόνοι απόκρισης ήταν διάμεσοι 1.000 αιτημάτων που υποβλήθηκαν διαδοχικά, με τον κώδικα συναγωγής κάθε προγραμματιστή μοντέλου, όπου η Sarvam μπορούσε να εκτελέσει το μοντέλο στο υλικό B200 της.

Στις δοκιμές της Sarvam, το Prism σημείωσε μέσο όρο 71,8, με επιμέρους αποτελέσματα 67,0 στο Jev, 65,9 στην αναπαραγωγή του Artificial Analysis και 82,5 στις ινδικές γλώσσες. Το mammoth-1, που σημείωσε υψηλότερη βαθμολογία, πέτυχε 75,2, αλλά ο διάμεσος χρόνος απόκρισής του ήταν 284 χιλιοστά του δευτερολέπτου. Δύο συστήματα διαθέσιμα μόνο μέσω API, τα Jev 1.14 και Microsoft-Decision-1, περιλαμβάνονται στη σύγκριση με χρόνους που έχουν αναφερθεί δημόσια και όχι με ισοδύναμες τοπικές μετρήσεις· επομένως, το διάγραμμα δεν χρησιμοποιεί την ίδια μέθοδο μέτρησης για όλα τα μοντέλα.

Η αρχική διαμόρφωση εκτελούνταν με ακρίβεια 16 bit σε δύο GPU B200 και είχε διάμεση καθυστέρηση 664 χιλιοστών του δευτερολέπτου. Η μετατροπή των βαρών σε FP8 επέτρεψε στο Prism να χωρέσει σε μία GPU. Η Sarvam ομαδοποίησε επίσης και τους 128 ειδικούς σε έναν πυρήνα, κατέγραψε το πέρασμα προς τα εμπρός ως γράφο CUDA, ενσωμάτωσε τη μετατροπή FP8 στους πυρήνες των ειδικών και συγχώνευσε τον προσαρμογέα προσαρμογής με λεπτομερή ρύθμιση στα βάρη του μοντέλου. Όλες αυτές οι αλλαγές μαζί οδήγησαν στην καθυστέρηση της έκδοσης που κυκλοφόρησε για μία GPU, χωρίς απώλεια ακρίβειας, σύμφωνα με τη Sarvam.

Βαθμονόμηση και αξιολόγηση agent

Οι δοκιμές βαθμονόμησης εξετάζουν κατά πόσο μια ροή εργασίας μπορεί να βασίζεται σε όρια εμπιστοσύνης για την αυτοματοποίηση αποφάσεων. Για επίπεδο εμπιστοσύνης τουλάχιστον 90% στα αγγλικά, η Sarvam αναφέρει ότι το Prism προέβλεψε σφάλματα 3,3% και έκανε σφάλματα 2,2%, σε σύνολο 226.088 ερωτήσεων από 37 δημόσια σημεία αναφοράς. Για 20.108 ερωτήσεις σε 10 ινδικές γλώσσες και στα Χίνγκλις, προέβλεψε σφάλματα 5,4% και έκανε σφάλματα 4,4%. Και στις δύο γλωσσικές ομάδες, τα πραγματικά σφάλματα παρέμειναν κάτω από τα προβλεπόμενα σε κάθε όριο που δοκιμάστηκε, από 50% έως 95%.

Η σειρά των επιλογών δημιουργεί ένα ξεχωριστό πρόβλημα συνέπειας. Στη δοκιμή της Sarvam με 2.000 ερωτήσεις, το Prism άλλαξε το 4,0% των απαντήσεών του όταν οι επιλογές ανακατεύτηκαν σε τέσσερις διαφορετικές σειρές και βαθμολογήθηκαν όπως δόθηκαν. Η τοποθέτηση των επιλογών σε μια σταθερή εσωτερική σειρά πριν από τη βαθμολόγηση, με την επιστροφή κάθε πιθανότητας στην αρχική της ετικέτα, εξάλειψε αυτές τις αλλαγές. Αυτό το βήμα δεν πρόσθεσε υπολογισμούς και δεν προκάλεσε απώλεια ακρίβειας στην αξιολόγηση.

Για την εποπτεία agent, η Sarvam αξιολόγησε πέντε μοντέλα στις ίδιες 700 καταγεγραμμένες εκτελέσεις και 1.770 ερωτήσεις. Η αναφερόμενη συνολική ακρίβεια του Prism ήταν 78,5%: 75,0% στην κρίση για την επιτυχία της εργασίας, 86,4% στην απόφαση για το αν χρειαζόταν ανθρώπινος έλεγχος και 69,6% στον εντοπισμό του agent που ευθυνόταν για μια αποτυχία. Οι απαντήσεις ελέγχθηκαν με βάση επισημειώσεις ειδικών ή αυτόματα αποτελέσματα του περιβάλλοντος, ποτέ με βάση την κρίση άλλου μοντέλου AI. Το Prism διαβάζει ένα ίχνος μία φορά και βαθμολογεί ταυτόχρονα πέντε ερωτήσεις αξιολόγησης, χρειάζεται δε περίπου μισό δευτερόλεπτο ανά εκτέλεση σε μία GPU.

Η Sarvam αναφέρει ακρίβεια 89,0% για το Prism σε εσωτερικό σημείο αναφοράς κυβερνοασφάλειας με 5.517 ερωτήσεις σε εννέα εργασίες και σχεδιάζει να επεκτείνει και να διαθέσει δημόσια το σύνολο αξιολόγησης. Στα ίδια αποτελέσματα, το Clef σημείωσε 84,5%, το Jev 1.14 σημείωσε 78,6% και το Microsoft-Decision-1 σημείωσε 76,1%. Οι εργασίες, που βασίζονται σε ευπάθειες οι οποίες δημοσιεύτηκαν από τον Ιούλιο του 2026 και μετά, περιλαμβάνουν τον εντοπισμό εκστρατειών ηλεκτρονικού ψαρέματος και απόπειρων παράκαμψης περιορισμών, καθώς και την ταξινόμηση τύπων επιθέσεων στα πλαίσια MITRE.

Η κεντρική πρόταση του Prism είναι ένα επίπεδο λήψης αποφάσεων που οι επιχειρήσεις μπορούν να εκπαιδεύουν και να εκτελούν στη δική τους υποδομή, με εκτιμήσεις εμπιστοσύνης σχεδιασμένες για αυτοματοποιημένα κατώφλια. Τα ανοιχτά βάρη καθιστούν δυνατή τη δοκιμή αυτής της πρότασης σε ιδιωτικές ροές εργασίας. Η προγραμματισμένη δημοσίευση της αξιολόγησης ασφάλειας θα έθετε επίσης μία από τις εσωτερικές δοκιμές της ανακοίνωσης σε δημόσιο έλεγχο.