NVIDIA Memperkenalkan Model Nemotron 3.5 Terbuka untuk Embedding, Pemeringkatan Ulang, dan Penguraian

Pada 21 Oktober 2026, NVIDIA memperluas koleksi Nemotron Retriever dengan model-model baru yang terbuka dan tersedia secara komersial untuk embedding, pemeringkatan ulang, dan ekstraksi dokumen: Nemotron 3.5 Embed dalam varian 8B BF16, 1B BF16, dan 1B NVFP4, Nemotron 3.5 Rerank 8B BF16, serta Nemotron 3.5 Parse dengan 631 juta parameter.

Dalam pengumuman yang ditulis NVIDIA dan diterbitkan di Hugging Face, perusahaan itu menyatakan bahwa rilis ini ditujukan untuk alur kerja agen perusahaan, dengan menambahkan kemampuan penelusuran multimodal, pemeringkatan relevansi, dan pemrosesan dokumen. NVIDIA menyebut kualitas penelusuran sebagai faktor yang memengaruhi jawaban yang dihasilkan agen sekaligus biaya inferensi LLM untuk suatu tugas. NVIDIA menyatakan bahwa ketika bukti yang ditemukan tidak lengkap atau tidak relevan, agen melakukan lebih banyak penelusuran dan meninjau lebih banyak dokumen, sehingga menghabiskan token inferensi tambahan sebelum menyelesaikan tugas.

Keempat varian Embed dan Rerank dirancang untuk kebutuhan penerapan yang berbeda. Nemotron 3.5 Embed 8B BF16 ditujukan untuk penelusuran yang mengutamakan kualitas pada teks dan dokumen yang kaya akan konten visual. Model 1B BF16 memadatkan kemampuan penelusuran multimodal model 8B ke dalam ukuran yang lebih kecil untuk pengindeksan multimodal dan penyajian kueri. Model 1B NVFP4 menerapkan kuantisasi NVFP4 pada encoder teks maupun gambar, dengan sasaran pengindeksan dokumen skala besar dan penelusuran berthroughput tinggi pada perangkat keras yang didukung. Nemotron 3.5 Rerank 8B BF16 memberi skor secara bersamaan pada pasangan kueri-dokumen untuk mempertajam urutan relevansi kandidat teks dan gambar, serta memilih bukti bagi generasi yang ditingkatkan dengan retrieval dan alur kerja berbasis agen. Penelusuran mencakup teks dokumen maupun gambar seperti tabel, bagan, infografik, lembar data, dan diagram skematik. NVIDIA mengevaluasi penelusuran teks dalam 34 bahasa dan penelusuran visual multibahasa pada MIRACL Vision, yang mencakup 18 bahasa, serta KoViDoRe. NVIDIA menyatakan bahwa model-model ini mungkin mampu menangani bahasa lain di luar bahasa yang diuji.

Eksperimen Penelusuran Berbasis Agen

Untuk mengukur pengaruh penelusuran terhadap perilaku agen, NVIDIA mengevaluasi Nemotron 3.5 Embed dan Rerank pada ViDoRe v3, BRIGHT, dan BrowseComp-Plus. ViDoRe v3 menggunakan masukan gabungan teks dan gambar, sedangkan BRIGHT dan BrowseComp-Plus hanya menggunakan masukan teks. Dalam alur kerja yang diuji, agen menelusuri korpus dengan alat penelusuran, meninjau bukti yang dikembalikan, lalu menyesuaikan kueri berikutnya. Matriks pengujian mengganti implementasi alat penelusuran pada berbagai konfigurasi yang hanya menggunakan embedding maupun embedding dengan pemeringkatan ulang, menggunakan model yang berbeda-beda. Sementara itu, LLM agen, alat, kumpulan tugas, korpus, dan kebijakan eksekusinya tetap sama. Evaluasi mengukur apakah agen menemukan informasi yang relevan untuk setiap tugas, serta jumlah total token inferensi agen per tugas di semua giliran, termasuk token masukan dan keluaran.

Menurut NVIDIA, penyertaan Nemotron 3.5 Rerank dalam alur kerja memangkas biaya token agen per kueri sekitar 14% jika dipasangkan dengan model embed 8B dan 13% jika dipasangkan dengan model 1B, sekaligus meningkatkan akurasi penelusuran pada kedua konfigurasi. NVIDIA melaporkan bahwa saat dipasangkan dengan model embed 8B, pemeringkat ulang ini memperoleh skor sekitar 0.9 poin nDCG@10 lebih tinggi daripada Qwen3-VL-Reranker-8B dengan biaya token agen yang sebanding.

Hasil Papan Peringkat

Pada ViDoRe v3.1, NVIDIA melaporkan skor 61.17 nDCG@10 untuk Nemotron 3.5 Embed 8B BF16, menempatkannya di posisi pertama di antara model penelusuran vektor padat per 20 Oktober 2026. Perusahaan itu menyebut skor tersebut meningkat 8.94 poin dibandingkan skor 52.23 yang diraih model Llama Nemotron Embed VL 1B miliknya. Menurut NVIDIA, model 1B BF16 hasil distilasi memperoleh skor 58.38 nDCG@10, atau 95.4% dari skor model 8B yang menjadi gurunya. Pada MIRACL Vision, NVIDIA melaporkan skor 72.6 nDCG@10 untuk model 8B, unggul 4.3 poin dari Qwen3-VL-Embedding-8B. NVIDIA juga menyatakan bahwa kedua ukuran model embed mengungguli model dasar Qwen pada KoViDoRe untuk masukan gabungan gambar dan teks.

NVIDIA bersama tim MTEB meluncurkan papan peringkat pemeringkatan ulang ViDoRe v3.1 yang mencakup masukan gambar saja, teks saja, serta gabungan gambar dan teks. NVIDIA melaporkan bahwa pemeringkat ulang tersebut memperoleh skor 60.49 nDCG@10 pada masukan gabungan, dibandingkan 59.17 untuk Qwen3-VL-Reranker-8B, sehingga menduduki posisi teratas di papan peringkat itu per 20 Oktober 2026.

Throughput dan Penyetelan Halus Domain

Untuk penerapan produksi, NVIDIA melaporkan bahwa varian NVFP4 menghasilkan throughput 27.1% lebih tinggi daripada model 1B BF16 pada NVIDIA GB200, yakni 128.8 dokumen per detik dibandingkan 101.3, sembari mempertahankan 99.85% akurasi penelusuran model BF16 pada ViDoRe v3 untuk masukan gabungan gambar dan teks. Dalam pengujian perusahaan pada RTX PRO 6000 Blackwell Server Edition, NVIDIA NIM melayani 6,031 permintaan kueri per detik, sekitar 2.9 kali lipat dari 2,099 permintaan per detik pada konfigurasi vLLM yang sebanding, sementara throughput pemrosesan bagian teks disebut sebanding.

NVIDIA juga menerbitkan panduan penyetelan halus embedding multimodal yang menjelaskan pembuatan data sintetis, penambangan contoh negatif sulit, penyetelan halus dengan NVIDIA NeMo AutoModel, dan evaluasi sebagai satu alur kerja. Dengan panduan ini, tim dapat menyusun kueri dan label relevansi dari koleksi dokumen mereka sendiri. Dalam pengujiannya terhadap panduan tersebut, NVIDIA menggunakan 8,202 gambar bagan dan infografik serta 8,591 kueri sintetis yang dihasilkan oleh Qwen3.8-Flash-Next, dengan fokus pada kueri enumeratif dan terbuka yang memiliki beberapa gambar relevan. Setelah satu epoch penyetelan halus menggunakan 6,872 kueri, skor nDCG@10 model 1B BF16 naik dari 37.34 menjadi 44.12 pada 1,719 kueri sintetis yang disisihkan untuk pengujian. NVIDIA menyebutnya sebagai peningkatan relatif sebesar 18%; model 8B BF16 naik dari 41.44 menjadi 42.75, atau peningkatan relatif sebesar 3%.

Arsitektur dan Pelatihan Model

Untuk model embedding 8B, NVIDIA mengembangkan model tersebut berdasarkan Ministral-3-8B-Instruct dan menginisialisasi komponen bahasanya dari Nemotron-3-Embed-8B-BF16, lalu menerapkan pembelajaran kontrastif pada korpus gambar dan teks untuk menghasilkan representasi temu kembali multimodal. Model 1B didistilasi dari model 8B dengan menggunakan fungsi loss kosinus dan galat kuadrat rata-rata untuk menyelaraskan embedding model siswa dengan embedding model guru, sementara komponen bahasanya diinisialisasi dari Nemotron-3-Embed-1B-BF16. Karena komponen bahasa tetap dibekukan selama pelatihan embedding, NVIDIA menyatakan bahwa embedding khusus teks seharusnya cocok dengan embedding model Nemotron 3 Embed yang bersesuaian, sehingga embedding teks dan indeks vektor yang sudah ada dapat digunakan kembali.

Nemotron 3.5 Rerank menggunakan arsitektur tulang punggung yang sama dengan model embedding 8B, tetapi beroperasi sebagai encoder silang yang mengodekan setiap pasangan kueri-dokumen secara bersamaan, alih-alih meng-embed kueri dan dokumen secara terpisah untuk menghitung kemiripan; kemudian, kepala penskoran perceptron multilapis menghasilkan logit relevansi skalar. Semua model dilatih menggunakan campuran data multibahasa dan multimodal yang tersedia untuk publik serta data sintetis, sementara bobot akhir yang dirilis dihasilkan melalui penggabungan ensemble checkpoint. NVIDIA menyatakan bahwa detail lebih lanjut tentang data pelatihan tersedia di kartu model masing-masing di Hugging Face.

Nemotron 3.5 Parse

Nemotron 3.5 Parse mengubah gambar dokumen menjadi teks yang dapat dibaca mesin sekaligus mempertahankan struktur yang memberi makna pada konten. Model ini mendeteksi elemen dokumen, posisi, dan urutan bacaannya, lalu menghasilkan tabel dan bagan dalam format Markdown, tabel HTML, serta blok terstruktur yang dapat diindeks, ditelusuri, dan diproses lebih lanjut oleh pengembang. NVIDIA melaporkan bahwa Parse memperoleh skor ParseBench 75.20 dengan kecepatan 10.5 halaman per detik pada satu NVIDIA H100, menempatkannya di peringkat pertama di antara model dengan kurang dari 1 miliar parameter per 20 Oktober 2026. ParseBench menguji ekstraksi tabel dan bagan, kesetiaan konten, pemformatan semantik, serta penautan visual.

Tiga mode inferensi memungkinkan pengembang menukar kecepatan pemrosesan dengan akurasi menggunakan model yang sama. Mode satu lintasan membaca setiap halaman satu kali dan mencatat skor 72.74 dengan kecepatan 16.1 halaman per detik. Mode dua lintasan memeriksa kembali tabel dan bagan yang ditandai dalam penguraian halaman awal, sehingga mencapai skor 74.92 dengan kecepatan 11.2 halaman per detik. Mode tiga lintasan menambahkan tahap deteksi untuk menemukan wilayah tambahan yang perlu disempurnakan, sehingga mencapai skor 75.20 dengan kecepatan 10.5 halaman per detik. NVIDIA menyebut ketiga titik operasi ini optimal Pareto dalam perbandingannya, karena tidak ada konfigurasi lain yang dibandingkan yang dapat meningkatkan akurasi dan kecepatan pemrosesan secara bersamaan.

Data pelatihan Parse mencakup dokumen perusahaan, makalah ilmiah, formulir, tabel, bagan, dan teks multibahasa, yang diperluas dengan mesin data sintetis. NVIDIA melaporkan kinerja yang kuat dalam berbagai evaluasi yang mencakup 163 kombinasi bahasa dan aksara. Untuk pelatihan lanjutan, NVIDIA menerapkan Group Relative Policy Optimization dengan imbalan khusus untuk struktur yang benar dan penalti untuk kegagalan. Menurut NVIDIA, pendekatan ini mengurangi perulangan generasi yang repetitif dan blok yang tidak tertutup, membuat tabel lebih konsisten, serta meningkatkan kepatuhan terhadap skema bagan. NVIDIA juga menyampaikan terima kasih kepada LightOn, seraya menyebut teknik sumber terbuka yang dibagikan sebagai hal yang sangat penting dalam meningkatkan model tersebut.

Evaluasi Mitra dan Ketersediaan

Pengumuman tersebut mencakup evaluasi awal dari mitra perusahaan. Menurut unggahan itu, bagi Elastic, Inference API di Elasticsearch menyediakan model embedding dan pemeringkatan Nemotron Retriever melalui titik akhir inferensi NVIDIA. Nemotron 3 akan segera ditambahkan melalui Elastic Inference Service, sementara dukungan penerapan di lokasi sendiri masih tercantum dalam peta jalan. Vectorize menguji Nemotron 3.5 Embed di dalam Hindsight Agent Memory miliknya dan, menurut unggahan tersebut, model ini menempati peringkat pertama dalam dua tolok ukur memori percakapan panjang, dengan recall@10 sebesar 93.8% pada LoCoMo dan 65.9% pada BEAM 100K, mengungguli tujuh model embedding pesaing, serta mencatat MRR dan recall@5 tertinggi. Evaluasi Perplexity menempatkan Nemotron 3.5 Rerank 8B pada skor rata-rata tertinggi dalam tolok ukur pemeringkatan privat Perplexity yang mencakup 72 tugas, dengan hasil kuat yang dilaporkan di keenam domain. Turbopuffer, yang menguji model embedding 8B pada tolok ukur pencarian PDF perusahaan, melaporkan sekitar 5% lebih banyak hasil relevan pada Recall@20 dibandingkan model terbaik berikutnya, dan kini menawarkan model-model tersebut sebagai opsi embedding bawaan.

Bobot terbuka, data, dan resep pelatihan tersedia di Hugging Face, dengan penerapan produksi melalui NVIDIA NIM serta mitra cloud AI dan inferensi Baseten, DeepInfra, dan FriendliAI. Resep penyempurnaan embedding dan pemeringkatan diterbitkan di repositori GitHub NVIDIA NeMo Nemotron.