Sarvam AI, Açık Ağırlıklı Prism Karar Modelini Piyasaya Sürüyor

Sarvam AI, kurumsal kararlar için tasarlanan ve temelinde Sarvam 105B’yi kullanan, belirlenmiş seçenekleri her bir token’ı tek tek üretmeden puanlayan açık ağırlıklı Sarvam Prism’i 3 Kasım 2026’da piyasaya sürdü. Şirket, tek bir NVIDIA B200 GPU’da ortanca yanıt süresinin 44 milisaniye olduğunu ve 25 modelin değerlendirildiği testte 100 milisaniyenin altında yanıt veren modeller arasında en yüksek ortalama puanı aldığını bildiriyor.

Ağırlıklar, Apache 2.0 lisansı kapsamında Hugging Face’te sunuluyor; barındırılan erişim ise Sarvam Indus üzerindeki Sarvam API aracılığıyla sağlanıyor. Modeli devreye almak için en az 120 GB belleğe sahip tek bir GPU gerekiyor ve Prism’in FP8 biçiminde çalıştırılması gerekiyor. Model, her soru için 131.072 tokene kadar işleyebiliyor; böylece ajan izleri gibi uzun girdiler tek geçişte değerlendirilebiliyor.

Tek Geçişte Karar Veren Model

Her istek; bir durum, bir soru ve bağlam penceresine sığan sayıda seçenek içeriyor. Prism, bu girdiyi tek bir ileri geçişte işliyor ve küçük bir puanlama katmanı her seçeneğe bir olasılık atıyor. Sarvam, 105B sistemine LoRA ince ayarı uygulayarak modeli serbest biçimli metin üretmek yerine kurumsal kararlar alacak şekilde uyarladı. Test edilen kullanım alanları arasında müşteri desteği taleplerinin amaca göre yönlendirilmesi, model yönlendirme, belge zekâsı ve ajan çalıştırmalarının denetlenmesi bulunuyor.

Bu olasılıkları şekillendiren iki eğitim hedefi eşit ağırlık taşıyor. Bunlardan biri, mutlak kesinliği caydırmak için %5 etiket yumuşatma uygulanan çapraz entropi yöntemini kullanıyor; diğeri ise olasılık hatasının karesini ölçen ve kendinden emin biçimde yapılan hataları maliyetli hâle getiren Brier kaybını kullanıyor. Sarvam, Prism’in kalibrasyonunu bu iki yöntemin birleşimine bağlıyor. Özel bir dikkat maskesi de puanlama sırasında seçeneklerin birbirinden yalıtılmasını sağlıyor. Durum ve soru çift yönlü okunurken yalnızca yanıt token’ı tüm seçenekleri görüyor ve karşılaştırıyor.

Doğruluk ve Gecikme Ölçümleri

Bildirilen ortalama üç endeksin sonuçlarını bir araya getiriyor: 37 herkese açık kıyaslama testini kapsayan Jev Decision Index; özgün, özel bilgi testindeki sorular yerine özenle seçilmiş zor sorular ve “Bilmiyorum” seçeneği kullanan Sarvam’ın Artificial Analysis Decision Index yeniden oluşturması; ve kurum içi bir Hint dilleri kıyaslama testi. Yanıt süreleri, model geliştiricilerinin kendi çıkarım kodları kullanılarak, Sarvam’ın B200 donanımında çalıştırabildiği modeller için art arda gönderilen 1.000 isteğin ortanca değerleri olarak hesaplandı.

Sarvam’ın testlerinde Prism’in ortalama puanı 71,8 oldu; alt testlerde Jev’de 67,0, Artificial Analysis yeniden oluşturmasında 65,9 ve Hint dillerinde 82,5 puan aldı. Daha yüksek puan alan mammoth-1’in sonucu 75,2 oldu, ancak ortanca yanıt süresi 284 milisaniyeydi. Yalnızca API üzerinden kullanılabilen Jev 1.14 ve Microsoft-Decision-1 sistemleri karşılaştırmada yer alıyor; ancak eşdeğer yerel ölçümler yerine kamuya açık süreleri kullanılıyor. Bu nedenle grafikteki her model için aynı ölçüm yöntemi kullanılmıyor.

Başlangıç yapılandırması, iki B200 GPU üzerinde 16 bit hassasiyette 664 milisaniyelik ortanca yanıt süresiyle çalışıyordu. Ağırlıkların FP8 biçimine dönüştürülmesi Prism’in tek GPU’ya sığmasını sağladı. Sarvam ayrıca 128 uzmanın tümünü tek bir çekirdekte topladı, ileri geçişi CUDA Graph olarak kaydetti, FP8 dönüşümünü uzman çekirdekleriyle birleştirdi ve ince ayar bağdaştırıcısını model ağırlıklarına entegre etti. Bu değişiklikler birlikte, piyasaya sunulan tek GPU’lu sürümün gecikme süresini sağladı; Sarvam herhangi bir doğruluk kaybı olmadığını bildiriyor.

Kalibrasyon ve Ajan Değerlendirmesi

Kalibrasyon testleri, iş akışlarının kararları otomatikleştirirken güven eşiklerine dayanıp dayanamayacağını inceliyor. Sarvam’ın bildirdiğine göre Prism, İngilizce için güven düzeyi en az %90 olduğunda, 37 herkese açık kıyaslama testinden 226.088 soruda %3,3 hata bekledi ve %2,2 hata yaptı. 10 Hint dili ve Hinglish’teki 20.108 soru içinse %5,4 hata bekledi ve %4,4 hata yaptı. Her iki dil grubunda da gerçek hata oranları, test edilen %50 ile %95 arasındaki tüm eşiklerde tahmin edilen hata oranlarının altında kaldı.

Seçeneklerin sıralanması ayrı bir tutarlılık sorunu yaratıyor. Sarvam’ın 2.000 soruluk testinde, seçenekler dört farklı sıraya karıştırılıp geldikleri sırayla puanlandığında Prism yanıtların %4,0’ını değiştirdi. Puanlama öncesinde seçenekleri belirlenmiş bir iç sıraya koyup her olasılığı özgün etiketiyle geri sunmak bu değişiklikleri ortadan kaldırdı. Bu adım ek hesaplama gerektirmedi ve değerlendirmede doğruluk kaybına yol açmadı.

Sarvam, ajan gözetimi kapsamında beş modeli aynı 700 kayıtlı çalıştırma ve 1.770 soru üzerinde değerlendirdi. Prism’in bildirilen genel doğruluk oranı %78,5 oldu; görev başarısını değerlendirmede %75,0, insan incelemesinin gerekip gerekmediğine karar vermede %86,4 ve bir hatadan sorumlu ajanı belirlemede %69,6 doğruluk sağladı. Yanıtlar, uzman açıklamalarıyla veya otomatik ortam sonuçlarıyla karşılaştırılarak denetlendi; başka bir yapay zekâ modelinin yargısı hiçbir zaman kullanılmadı. Prism bir izi tek seferde okuyup beş değerlendirme sorusunu birlikte puanlıyor ve tek GPU’da her çalıştırma için yaklaşık yarım saniye sürüyor.

Sarvam, dokuz görevdeki 5.517 sorudan oluşan kurum içi bir siber güvenlik kıyaslama testinde Prism’in doğruluk oranının %89,0 olduğunu bildiriyor ve bu değerlendirme kümesini genişletip kamuya açık hâle getirmeyi planlıyor. Aynı sonuçlarda Clef %84,5, Jev 1.14 %78,6 ve Microsoft-Decision-1 %76,1 puan aldı. Temmuz 2026’dan bu yana yayımlanan güvenlik açıkları temel alınarak hazırlanan görevler arasında kimlik avı kampanyalarını ve jailbreak girişimlerini belirleme ile MITRE çerçevelerindeki saldırı türlerini sınıflandırma yer alıyor.

Prism’in temel iddiası, kuruluşların kendi altyapılarında eğitip çalıştırabileceği ve otomatik eşiklerde kullanılmak üzere tasarlanmış güven düzeyi tahminleri sunan bir karar katmanı olmasıdır. Açık ağırlıklar, bu iddianın özel iş akışlarında sınanmasını mümkün kılıyor. Güvenlik değerlendirmesinin yayımlanmasının planlanması, duyurudaki dahili testlerden birini de kamuoyunun incelemesine açacaktır.