NVIDIA, Gömme, Yeniden Sıralama ve Ayrıştırma için Açık Nemotron 3.5 Modellerini Tanıttı

NVIDIA, 21 Ekim 2026’da Nemotron Retriever koleksiyonunu; gömme, yeniden sıralama ve belge çıkarma için yeni, açık ve ticari kullanıma sunulan modellerle genişletti: 8B BF16, 1B BF16 ve 1B NVFP4 çeşitleriyle Nemotron 3.5 Embed, Nemotron 3.5 Rerank 8B BF16 ve 631 milyon parametreli Nemotron 3.5 Parse.

NVIDIA tarafından kaleme alınan ve Hugging Face’te yayımlanan bir duyuruda şirket, bu sürümün kurumsal ajan iş akışlarını hedeflediğini ve çok modlu erişim, ilgi düzeyine göre sıralama ve belge işleme özellikleri eklediğini belirtti. NVIDIA, erişim kalitesinin hem bir ajanın ürettiği yanıtları hem de bir görevin LLM çıkarım maliyetini etkilediğini vurguladı. Şirket, kanıtlar eksik ya da ilgisiz olduğunda ajanların görevi tamamlamadan önce daha fazla arama yaptığını ve daha fazla belgeyi incelediğini, bunun da ek çıkarım belirteçleri tükettiğini söyledi.

Dört Embed ve Rerank çeşidi, farklı dağıtım rollerine hitap ediyor. Nemotron 3.5 Embed 8B BF16, metin ve görsel açıdan zengin belgelerde kalite odaklı arama için tasarlandı. 1B BF16 modeli, 8B modelinin çok modlu erişim özelliklerini daha küçük bir boyuta sığdırarak çok modlu dizinleme ve sorgu sunumunu hedefliyor. 1B NVFP4 modeli, hem metin hem de görüntü kodlayıcılarına NVFP4 nicemlemesi uygulayarak desteklenen donanımlarda büyük ölçekli belge dizinlemeyi ve yüksek verimli erişimi hedefliyor. Nemotron 3.5 Rerank 8B BF16, metin ve görüntü adayları arasındaki ilgi düzeyi sıralamasını iyileştirmek için sorgu-belge çiftlerini birlikte puanlıyor; erişim artırmalı üretim ve ajan tabanlı iş akışları için kanıt seçiyor. Erişim kapsamına belge metinlerinin yanı sıra tablolar, grafikler, infografikler, veri sayfaları ve şemalar gibi görseller de giriyor. NVIDIA, metin erişimini 34 dilde; çok dilli görsel erişimi ise 18 dili kapsayan MIRACL Vision ve KoViDoRe üzerinde değerlendirdi ve modellerin test edilenlerin dışındaki dilleri de işleyebileceğini belirtti.

Ajan Tabanlı Erişim Deneyleri

NVIDIA, erişimin ajan davranışını nasıl etkilediğini ölçmek için Nemotron 3.5 Embed ve Rerank’i ViDoRe v3, BRIGHT ve BrowseComp-Plus üzerinde değerlendirdi. ViDoRe v3, metin ve görüntü girdilerini birlikte kullanırken BRIGHT ve BrowseComp-Plus yalnızca metin girdileri kullanıyor. Test edilen iş akışında bir ajan, arama aracını kullanarak bir derlemde arama yapıyor, dönen kanıtları inceliyor ve sonraki sorgularını buna göre ayarlıyor. Test matrisinde, farklı modeller kullanılarak yalnızca gömme ve gömme artı yeniden sıralama düzeneklerinde arama aracının uygulaması değiştirildi; ajanın LLM’si, araçları, görev kümesi, derlemi ve yürütme politikası ise aynı kaldı. Değerlendirmede, ajanın her görev için ilgili bilgiyi bulup bulmadığı ve tüm turlar boyunca görev başına kullandığı toplam çıkarım belirteci sayısı izlendi; bu sayıya hem girdi hem de çıktı belirteçleri dahil edildi.

NVIDIA’ya göre Nemotron 3.5 Rerank’in iş akışına eklenmesi, 8B gömme modeliyle birlikte sorgu başına ajan belirteci maliyetini yaklaşık %14, 1B modeliyle birlikte ise %13 düşürdü; her iki yapılandırmada da erişim doğruluğu arttı. NVIDIA’nın bildirdiğine göre, 8B gömme modeliyle eşleştirildiğinde yeniden sıralayıcı, benzer bir ajan belirteci maliyetinde Qwen3-VL-Reranker-8B’den yaklaşık 0,9 nDCG@10 puan daha yüksek sonuç verdi.

Liderlik Tablosu Sonuçları

NVIDIA’nın bildirdiğine göre Nemotron 3.5 Embed 8B BF16, ViDoRe v3.1’de 61.17 nDCG@10 puan aldı ve şirketin 20 Ekim 2026 itibarıyla yoğun erişim modelleri arasında ilk sıraya yerleşti. Şirket, bu sonucun kendi Llama Nemotron Embed VL 1B modelinin aldığı 52.23 puana kıyasla 8,94 puanlık bir artış olduğunu belirtiyor. Damıtılmış 1B BF16 modeli 58.38 nDCG@10 puan aldı; NVIDIA’ya göre bu, 8B öğretmen modelinin puanının %95,4’üne karşılık geliyor. NVIDIA, MIRACL Vision’da 8B modelinin 72.6 nDCG@10 puan aldığını, bunun Qwen3-VL-Embedding-8B’den 4,3 puan yüksek olduğunu bildiriyor ve her iki gömme boyutunun da birleşik görüntü ve metin girdilerinde KoViDoRe’de Qwen temel modellerini geride bıraktığını söylüyor.

NVIDIA, MTEB ekibiyle birlikte yalnızca görüntü, yalnızca metin ve birleşik görüntü-metin girdilerini kapsayan bir ViDoRe v3.1 yeniden sıralama liderlik tablosu başlatıyor. NVIDIA’nın bildirdiğine göre yeniden sıralayıcı, birleşik girdilerde Qwen3-VL-Reranker-8B’nin 59.17 puanına karşılık 60.49 nDCG@10 puan aldı ve 20 Ekim 2026 itibarıyla liderlik tablosunda ilk sıraya yerleşti.

İşlem Hızı ve Alana Özel İnce Ayar

Üretim ortamındaki dağıtımlara ilişkin olarak NVIDIA, NVFP4 çeşidinin NVIDIA GB200 üzerinde 1B BF16 modelinden %27,1 daha yüksek işlem hızı sunduğunu; saniyede 101,3 belgeye karşılık 128,8 belgeye ulaştığını bildiriyor. Bununla birlikte model, birleşik görüntü ve metin girdileri için ViDoRe v3’te BF16 modelinin erişim doğruluğunun %99,85’ini koruyor. Şirketin RTX PRO 6000 Blackwell Server Edition üzerinde yaptığı testlerde NVIDIA NIM saniyede 6.031 sorgu isteği işledi. Bu, benzer bir vLLM yapılandırmasının saniyede işlediği 2.099 isteğin yaklaşık 2,9 katıydı; pasaj işleme hızının ise benzer düzeyde olduğu belirtildi.

NVIDIA ayrıca sentetik veri üretimi, zor negatif örnek madenciliği, NVIDIA NeMo AutoModel ile ince ayar ve değerlendirme adımlarını tek bir iş akışında ele alan çok modlu bir gömme ince ayar tarifi yayımladı. Böylece ekipler, kendi belge koleksiyonlarından sorgular ve ilgi düzeyi etiketleri oluşturabiliyor. NVIDIA’nın tarifle yaptığı testte, Qwen3.8-Flash-Next tarafından üretilen 8.591 sentetik sorguyla birlikte 8.202 grafik ve infografik görseli kullanıldı; çalışma, birden fazla ilgili görsel içeren listelemeye dayalı ve açık uçlu sorgulara odaklandı. 6.872 sorguyla yapılan bir dönemlik ince ayarın ardından 1B BF16 modelinin nDCG@10 puanı, elde tutulmuş 1.719 sentetik sorguda 37.34’ten 44.12’ye yükseldi. NVIDIA bu sonucu göreli olarak %18’lik bir artış şeklinde tanımlıyor. 8B BF16 modelinin puanı ise 41.44’ten 42.75’e yükselerek göreli %3 artış gösterdi.

Model Mimarisi ve Eğitimi

8B gömme modeli için NVIDIA, Ministral-3-8B-Instruct temelinden yararlandı ve dil bileşenini Nemotron-3-Embed-8B-BF16’tan başlattı; ardından çok modlu erişim temsilleri oluşturmak için görüntü ve metin derlemleri üzerinde karşıt öğrenme uyguladı. 1B modeller, öğrencinin gömmelerini öğretmeninkilerle hizalayan kosinüs ve ortalama karesel hata kayıpları kullanılarak 8B modelinden damıtıldı; bu modellerin dil bileşeni ise Nemotron-3-Embed-1B-BF16’tan başlatıldı. NVIDIA, gömme eğitimi sırasında dil bileşeni dondurulmuş halde kaldığından, yalnızca metin içeren gömmelerin karşılık gelen Nemotron 3 Embed modellerindekilerle eşleşmesi gerektiğini ve böylece mevcut metin gömmelerinin ve vektör dizinlerinin aktarılabileceğini söylüyor.

Nemotron 3.5 Rerank, 8B gömme modelinin omurga mimarisini paylaşsa da benzerlik puanlaması için sorguları ve belgeleri ayrı ayrı gömmek yerine her sorgu-belge çiftini birlikte kodlayan bir çapraz kodlayıcı olarak çalışır; ardından çok katmanlı bir algılayıcı puanlama başlığı, tek bir alaka düzeyi logiti üretir. Tüm modeller, herkese açık ve sentetik çok dilli, çok modlu verilerin bir karışımıyla eğitildi; yayımlanan nihai ağırlıklar ise kontrol noktalarının birleştirilmesiyle oluşturuldu. NVIDIA, eğitim verilerine ilişkin daha fazla ayrıntının her modelin Hugging Face model kartında bulunduğunu belirtiyor.

Nemotron 3.5 Parse

Nemotron 3.5 Parse, içeriğe anlamını veren yapıyı koruyarak belge görüntülerini makinelerce okunabilir metne dönüştürür. Model; belge öğelerini, bunların konumlarını ve okuma sırasını algılar, ardından tabloları ve grafikleri geliştiricilerin dizine ekleyebileceği, arayabileceği ve sonraki aşamalarda işleyebileceği Markdown, HTML tabloları ve yapılandırılmış bloklar olarak çıktılar. NVIDIA’nın bildirdiğine göre Parse, tek bir NVIDIA H100 üzerinde saniyede 10,5 sayfa hızında 75,20 ParseBench puanı alarak 20 Ekim 2026 itibarıyla 1 milyardan az parametreye sahip modeller arasında ilk sırada yer alıyor. ParseBench; tablo ve grafik çıkarımını, içeriğe bağlılığı, anlamsal biçimlendirmeyi ve görsel temellendirmeyi sınar.

Üç çıkarım modu, geliştiricilerin aynı modeli kullanarak işlem hacmi ile doğruluk arasında tercih yapmasını sağlar. Tek geçişli mod her sayfayı bir kez okur ve saniyede 16,1 sayfa hızında 72,74 puan alır. Çift geçişli mod, ilk sayfa ayrıştırmasında işaretlenen tablo ve grafikleri yeniden ele alır; saniyede 11,2 sayfa hızında 74,92 puana ulaşır. Üç geçişli mod, iyileştirme için ek bölgeleri bulan bir algılama adımı ekler ve saniyede 10,5 sayfa hızında 75,20 puana ulaşır. NVIDIA, karşılaştırmasındaki üç çalışma noktasının da Pareto açısından optimal olduğunu belirtiyor; çünkü karşılaştırılan diğer yapılandırmaların hiçbiri doğruluğu ve işlem hacmini aynı anda iyileştirmiyor.

Parse’ın eğitim verileri; kurumsal belgeleri, bilimsel makaleleri, formları, tabloları, grafikleri ve çok dilli metinleri kapsıyor, sentetik veri motoruyla da çeşitlendiriliyordu. NVIDIA, 163 dil ve yazı sistemi bileşimini kapsayan değerlendirmelerde güçlü performans bildirdi. NVIDIA, eğitim sonrası aşamada doğru yapı için özel ödüller ve başarısızlıklar için cezalar içeren Grup Göreli Politika Optimizasyonu uyguladığını; bunun tekrarlayan üretim döngülerini ve kapatılmamış blokları azalttığını, tabloları daha tutarlı hale getirdiğini ve grafik şemalarına uyumu iyileştirdiğini söylüyor. NVIDIA ayrıca, açık kaynak tekniklerinin modelin iyileştirilmesinde belirleyici olduğunu belirterek LightOn’a teşekkür etti.

İş Ortaklarının Değerlendirmeleri ve Kullanılabilirlik

Duyuru, kurumsal iş ortaklarından gelen ilk değerlendirmeleri içeriyor. Gönderide, Elastic için Elasticsearch’teki Inference API’nin Nemotron Retriever gömme ve yeniden sıralama modellerini NVIDIA çıkarım uç noktaları üzerinden sunduğu, Nemotron 3’ün yakında Elastic Inference Service aracılığıyla ekleneceği ve şirket içi dağıtım desteğinin yol haritasında olduğu belirtiliyor. Vectorize, Hindsight Agent Memory içinde Nemotron 3.5 Embed’i test etti ve gönderiye göre model, iki uzun sohbet belleği kıyaslamasında ilk sırada yer aldı: LoCoMo’da %93,8 recall@10 ve BEAM 100K’da %65,9 sonuçlarına ulaştı; ayrıca yedi rakip gömme modeline karşı en yüksek MRR ve recall@5 değerlerini elde etti. Perplexity’nin değerlendirmesinde Nemotron 3.5 Rerank 8B, Perplexity’nin özel 72 görevli yeniden sıralama kıyaslamasında ortalama puanı en yüksek model oldu; altı alanın tamamında güçlü sonuçlar bildirdi. 8B gömme modelini kurumsal PDF arama kıyaslamasında test eden Turbopuffer, Recall@20’de sonraki en iyi modele kıyasla yaklaşık %5 daha fazla alakalı sonuç bulduğunu bildiriyor ve modelleri artık yerleşik bir gömme seçeneği olarak sunuyor.

Açık ağırlıklar, veriler ve eğitim tarifleri Hugging Face’te bulunuyor; üretim ortamına dağıtım ise NVIDIA NIM ve Baseten, DeepInfra ve FriendliAI adlı yapay zekâ bulutu ve çıkarım iş ortakları aracılığıyla yapılabiliyor. Gömme ve yeniden sıralama için ince ayar tarifleri, NVIDIA NeMo Nemotron GitHub deposunda yayımlandı.