Sarvam AI ra mắt mô hình ra quyết định Prism với trọng số mở

Ngày 3 tháng 11 năm 2026, Sarvam AI ra mắt Sarvam Prism, một mô hình có trọng số mở phục vụ việc ra quyết định trong doanh nghiệp, lấy Sarvam 105B làm nền tảng và chấm điểm các phương án định sẵn mà không cần tạo văn bản từng token một. Công ty cho biết mô hình có thời gian phản hồi trung vị 44 mili giây khi chạy trên một GPU NVIDIA B200, đồng thời đạt điểm trung bình cao nhất trong số các mô hình trả lời trong chưa đầy 100 mili giây ở đợt đánh giá gồm 25 mô hình.

Các trọng số có trên Hugging Face theo giấy phép Apache 2.0; người dùng cũng có thể truy cập mô hình qua dịch vụ lưu trữ trên Sarvam Indus thông qua Sarvam API. Để triển khai, cần một GPU có bộ nhớ tối thiểu 120 GB; Prism chạy ở định dạng FP8. Mô hình có thể xử lý tối đa 131.072 token cho mỗi câu hỏi, nhờ đó đánh giá được các đầu vào dài như dấu vết hoạt động của tác tử chỉ trong một lượt.

Mô hình ra quyết định chỉ qua một lượt

Mỗi yêu cầu gồm một trạng thái, một câu hỏi và số lượng phương án bất kỳ, miễn là các phương án đó nằm trong giới hạn của cửa sổ ngữ cảnh. Prism xử lý đầu vào này trong một lượt truyền xuôi, sau đó một đầu tính điểm nhỏ gán xác suất cho từng phương án. Sarvam tạo mô hình bằng cách tinh chỉnh LoRA hệ thống 105B của mình, điều chỉnh mô hình để đưa ra quyết định trong doanh nghiệp thay vì tạo văn bản tự do. Các ứng dụng đã được thử nghiệm gồm định tuyến ý định trong hỗ trợ khách hàng, định tuyến mô hình, xử lý thông tin trong tài liệu và kiểm tra các lượt chạy của tác tử.

Hai mục tiêu huấn luyện có trọng số ngang nhau định hình các xác suất này. Một mục tiêu sử dụng entropy chéo với kỹ thuật làm trơn nhãn 5% để hạn chế mức độ chắc chắn tuyệt đối; mục tiêu còn lại dùng hàm mất mát Brier, đo sai số bình phương của xác suất và khiến những lỗi được đưa ra với độ tin cậy cao phải chịu mức phạt lớn. Sarvam cho rằng sự kết hợp này giúp Prism được hiệu chuẩn tốt. Mặt nạ chú ý tùy chỉnh cũng giữ các phương án tách biệt với nhau trong quá trình chấm điểm. Trạng thái và câu hỏi được đọc theo cả hai chiều, trong khi chỉ token câu trả lời mới có thể xem và so sánh tất cả các phương án.

Đo lường độ chính xác và độ trễ

Điểm trung bình được báo cáo là tổng hợp từ ba chỉ số: Jev Decision Index, gồm 37 bộ chuẩn công khai; phiên bản Sarvam tái tạo từ Artificial Analysis Decision Index, thay bài kiểm tra kiến thức riêng tư ban đầu bằng các câu hỏi khó được tuyển chọn, kèm lựa chọn “Tôi không biết”; và một bộ chuẩn nội bộ về ngôn ngữ Ấn Độ. Thời gian phản hồi được tính bằng trung vị của 1.000 yêu cầu gửi lần lượt, sử dụng mã suy luận riêng của nhà phát triển từng mô hình trong những trường hợp Sarvam có thể chạy mô hình đó trên phần cứng B200 của mình.

Trong các thử nghiệm của Sarvam, Prism đạt điểm trung bình 71,8; điểm thành phần lần lượt là 67,0 trên Jev, 65,9 trên phiên bản tái tạo của Artificial Analysis và 82,5 trên các ngôn ngữ Ấn Độ. Mô hình mammoth-1 đạt điểm cao hơn, ở mức 75,2, nhưng thời gian phản hồi trung vị của mô hình này là 284 mili giây. Hai hệ thống chỉ có thể dùng qua API là Jev 1.14 và Microsoft-Decision-1 xuất hiện trong phần so sánh với thời gian được công bố rộng rãi, thay vì số đo tương đương thu thập tại chỗ; do đó, biểu đồ không sử dụng cùng một phương pháp đo cho tất cả các mô hình.

Cấu hình ban đầu chạy với độ trễ trung vị 664 mili giây ở độ chính xác 16 bit trên hai GPU B200. Việc chuyển trọng số sang FP8 giúp Prism chạy vừa trên một GPU. Sarvam cũng gom cả 128 chuyên gia vào một kernel, ghi lại lượt truyền xuôi dưới dạng CUDA Graph, tích hợp chuyển đổi FP8 vào các kernel chuyên gia và hợp nhất bộ điều hợp tinh chỉnh vào trọng số mô hình. Những thay đổi này kết hợp lại tạo ra độ trễ trên một GPU của phiên bản được phát hành; Sarvam cho biết độ chính xác không suy giảm.

Hiệu chuẩn và đánh giá tác tử

Các thử nghiệm hiệu chuẩn xem xét liệu quy trình làm việc có thể dựa vào các ngưỡng độ tin cậy để tự động hóa quyết định hay không. Với độ tin cậy từ 90% trở lên bằng tiếng Anh, Sarvam cho biết Prism dự kiến tỷ lệ lỗi là 3,3% nhưng thực tế mắc lỗi 2,2%, trên 226.088 câu hỏi thuộc 37 bộ chuẩn công khai. Với 20.108 câu hỏi bằng 10 ngôn ngữ Ấn Độ và Hinglish, mô hình dự kiến tỷ lệ lỗi là 5,4% nhưng thực tế mắc lỗi 4,4%. Ở cả hai nhóm ngôn ngữ, tỷ lệ lỗi thực tế đều thấp hơn tỷ lệ dự đoán tại mọi ngưỡng được thử nghiệm, từ 50% đến 95%.

Thứ tự phương án đặt ra một vấn đề riêng về tính nhất quán. Trong thử nghiệm với 2.000 câu hỏi của Sarvam, Prism thay đổi 4,0% câu trả lời khi các phương án được xáo trộn thành bốn thứ tự và chấm điểm theo thứ tự nhận được. Việc sắp xếp các phương án theo một thứ tự nội bộ cố định trước khi chấm điểm, rồi trả lại xác suất tương ứng với nhãn ban đầu của từng phương án, đã loại bỏ những thay đổi này. Bước đó không làm tăng lượng tính toán và không khiến độ chính xác trong thử nghiệm suy giảm.

Để giám sát tác tử, Sarvam đánh giá năm mô hình trên cùng 700 lượt chạy được ghi lại và 1.770 câu hỏi. Độ chính xác tổng thể được báo cáo của Prism là 78,5%, trong đó đạt 75,0% khi đánh giá mức độ hoàn thành nhiệm vụ, 86,4% khi quyết định có cần con người xem xét hay không và 69,6% khi xác định tác tử chịu trách nhiệm cho một lỗi. Các câu trả lời được đối chiếu với chú giải của chuyên gia hoặc kết quả tự động từ môi trường, chứ không bao giờ với đánh giá của một mô hình AI khác. Prism đọc dấu vết hoạt động một lần rồi chấm điểm đồng thời năm câu hỏi đánh giá, mất khoảng nửa giây cho mỗi lượt chạy trên một GPU.

Sarvam báo cáo Prism đạt độ chính xác 89,0% trên bộ chuẩn an ninh mạng nội bộ gồm 5.517 câu hỏi thuộc chín nhiệm vụ, đồng thời dự định mở rộng và công bố công khai bộ đánh giá này. Trong cùng kết quả, Clef đạt 84,5%, Jev 1.14 đạt 78,6% và Microsoft-Decision-1 đạt 76,1%. Được xây dựng dựa trên các lỗ hổng được công bố từ tháng 7 năm 2026, các nhiệm vụ này gồm nhận diện chiến dịch lừa đảo qua email và nỗ lực bẻ khóa hàng rào an toàn, cũng như phân loại kiểu tấn công theo các khung của MITRE.

Luận điểm cốt lõi của Prism là cung cấp một lớp ra quyết định mà doanh nghiệp có thể huấn luyện và vận hành trên hạ tầng của riêng mình, với các ước tính độ tin cậy được thiết kế để dùng làm ngưỡng tự động. Trọng số mở cho phép kiểm chứng luận điểm đó trên các quy trình làm việc riêng tư. Kế hoạch công bố bộ đánh giá bảo mật cũng sẽ đưa một trong những bài kiểm thử nội bộ được nhắc đến trong thông báo ra trước sự giám sát của công chúng.