NVIDIA Merilis Model Terbuka Nemotron 3.5 Super VL dan Bolt untuk Perangkat Edge

NVIDIA merilis Nemotron 3.5 Super VL pada 15 Oktober 2026, sebuah model multimodal terbuka dengan 120 miliar parameter yang ditujukan untuk agen khusus yang selalu aktif, bersama dua model Bolt yang lebih kecil untuk perangkat edge dan perangkat lokal. Super VL dan Nemotron 3.5 Bolt 74B-A9B 24GB tersedia sekarang, sedangkan Nemotron 3.5 Bolt E4B 4GB dijadwalkan hadir pada 23 Oktober 2026.

Rilis ini memperluas keluarga Nemotron, yang oleh NVIDIA dikelompokkan berdasarkan tingkatan penerapan. Lightning, yang dirilis pada Agustus, menangani beban kerja berthroughput tinggi; Ultra menangani tugas penalaran tersulit; sedangkan Bolt ditujukan untuk perangkat edge. NVIDIA mengatakan bahwa ketiga model terbuka baru ini secara bersama-sama mencakup seluruh kebutuhan penerapan agen, mulai dari server perusahaan berskala besar hingga perangkat edge dan perangkat keras lokal, serta bahwa Super VL dikembangkan bersama Nemotron Coalition.

Arsitektur dan Kinerja yang Dilaporkan

Super VL menggunakan arsitektur campuran pakar dengan 120 miliar parameter, yang mengaktifkan 12 miliar parameter untuk setiap token. NVIDIA mengatakan bahwa model ini memberikan akurasi yang sebanding dengan model penalaran terbesarnya pada tugas agentik multimodal, termasuk mengikuti instruksi, menggunakan alat, menjalankan alur kerja bisnis bertahap, dan memahami visual, meski jumlah parameternya hanya sekitar seperlima. NVIDIA juga menyebutnya sebagai model agentik terbuka tercepat di kelasnya, dengan throughput hingga 5x lebih tinggi daripada model terbuka lain dalam kategori ukuran yang sama saat dijalankan pada satu GPU.

Model ini menggabungkan penalaran, kemampuan mengikuti instruksi dan menggunakan alat dengan pemahaman teks, gambar, dokumen, dan video dalam satu sistem. Menurut blog teknis NVIDIA, integrasi tersebut memungkinkan tim menangani tugas berbasis teks dan visual tanpa menerapkan model teks dan model bahasa-visual secara terpisah atau meneruskan konteks tugas di antara keduanya. NVIDIA mengatakan bahwa pelatihan bahasa-visual model ini menargetkan hal-hal yang ditemui agen dalam praktik: pengenalan karakter optik, tabel, bagan, dan informasi terstruktur dalam dokumen visual seperti halaman web dan PDF.

Hasil evaluasi yang dilaporkan NVIDIA menunjukkan bahwa Super VL meraih skor 63.44% pada Hermes Bench dan 87.05% pada evaluasi perilaku LangChain, dibandingkan dengan 56.33% dan 84.3% untuk Nemotron 3 Ultra. Pada CharXiv, tolok ukur penalaran bagan, NVIDIA melaporkan skor 80.8% untuk Super VL, dibandingkan dengan 63% untuk Nemotron 3 Nano Omni; skornya naik menjadi 84% ketika model menggunakan interpretasi kode Python. NVIDIA juga menyebut Super VL sebagai salah satu model terbuka dengan peringkat tertinggi di papan peringkat OCRBench v2, sementara blog teknisnya menyatakan bahwa evaluasi independen oleh EXO Labs menempatkan model tersebut pada frontier Pareto untuk akurasi dan waktu penyelesaian tugas di DGX Spark.

Desain Pelatihan dan Inferensi

Super VL disuling dari Nemotron 3 Ultra. Blog teknis tersebut menyebut kemampuan pemrograman Ultra dan loss SkewReverse yang digunakan selama proses distilasi sebagai faktor yang meningkatkan akurasi pemrograman. Dalam tahap pascapelatihan, distilasi on-policy multi-guru menggabungkan panduan dari guru-guru khusus di bidang teks dan visi, yang menilai respons model untuk penalaran dan pelacakan video, penggunaan alat visual, serta penyelarasan. Blog teknis itu juga mencatat kontribusi organisasi anggota Nemotron Coalition: kumpulan data dari Perplexity mendukung pelatihan tahap menengah model ini, sedangkan lingkungan dari Prime Intellect digunakan untuk membangun model guru.

Nemotron 3.5 Super VL dilatih dengan sekitar 26 triliun token melalui prapelatihan dan prapelatihan lanjutan, kemudian menjalani pascapelatihan menggunakan sekitar 3,8 juta sampel dan pembelajaran penguatan di puluhan lingkungan. Prapelatihan lanjutan menambahkan 10 miliar token bahasa-bahasa Indic, dan NVIDIA merilis kumpulan data sekitar 2,8 triliun token dalam 22 bahasa India yang dikembangkan bersama IIT Madras dan laboratorium AI4Bharat miliknya.

Rilis ini mencakup checkpoint dasar, checkpoint pascapelatihan, dan checkpoint yang dikuantisasi dengan NVFP4. Resep NVFP4 menggunakan bobot dan aktivasi 4-bit pada arsitektur Blackwell NVIDIA, dipadukan dengan distilasi yang mempertimbangkan kuantisasi untuk menutup kesenjangan akurasi yang ditimbulkan oleh kuantisasi. Teknik speculative decoding terbuka bernama LiLiCorr menghasilkan pembuatan token hingga 2.3x lebih cepat dibandingkan decoding tanpa spekulasi di DGX Spark, menurut NVIDIA. Prediksi multi-token memberi model ini draf internal yang mengusulkan beberapa token untuk diverifikasi dalam satu lintasan maju, sedangkan pengoptimalan penyajian dengan penggunaan ulang konteks mempertahankan cache atensi dan status rekuren Mamba selama pemanggilan agen berulang.

Model Bolt untuk Perangkat Edge

Bolt 74B-A9B 24GB menggunakan kuantisasi native 2-bit agar muat dalam memori 24GB dan dapat dijalankan secara lokal di NVIDIA RTX dan DGX Spark bersama aplikasi lain. NVIDIA menyebutnya sebagai model terbuka teratas di kelasnya pada PinchBench dan model terbuka peringkat kedua di BrowseComp. Model ini tersedia di Hugging Face dengan dukungan untuk llama.cpp, Ollama, LM Studio, Unsloth, dan vLLM. Model ini dirancang untuk laptop NVIDIA RTX Spark yang akan hadir pada 16 Oktober 2026, dan juga dapat dijalankan di PC GeForce RTX, DGX Spark, DGX Station, serta stasiun kerja RTX PRO.

Bolt E4B 4GB ditujukan untuk agen fisik dan percakapan pada GeForce RTX, Jetson, dan RTX/DGX Spark. Model ini memadukan percakapan alami dengan kemampuan agentik multi-giliran untuk asisten suara lokal, karakter interaktif, dan antarmuka tertanam.

Kustomisasi, Pengguna Awal, dan Penerapan

Model ini hadir dengan bobot terbuka, dataset terbuka, dan resep pelatihan. Kustomisasi didukung melalui NVIDIA NeMo, pipeline berbasis Python, dan dataset terbuka. NVIDIA merilis dataset terbuka di Hugging Face yang mencakup penggunaan alat secara agentik, keuangan, mengikuti instruksi, konteks panjang, keadilan, serta 45 dataset visi-bahasa, bersama lingkungan pembelajaran penguatan di NeMo Gym.

Menurut NVIDIA, puluhan organisasi sedang melakukan pelatihan lanjutan pada Super VL menggunakan data, alat, kebijakan, dan alur kerja mereka sendiri. Scale AI melatih model lebih lanjut untuk agen keuangan kredit vendor milik Skydance dan agen uji tuntas M&A milik EY; blog teknis menyebutkan bahwa biaya inferensi untuk beban kerja Skydance akan turun 40x dan latensi 5x. AfterQuery menyesuaikan model untuk Hebbia guna menganalisis perjanjian kredit, sedangkan AI21 dan Alice melatihnya lebih lanjut untuk meningkatkan ketahanan terhadap serangan siber. NVIDIA melaporkan akurasi 40% lebih tinggi untuk analisis intelijen ancaman dan kerentanan oleh Alice. Mercor melatih model lebih lanjut dengan tolok ukur pengodean APEX-SWE untuk agen pengodean yang merencanakan, menulis, dan men-debug kode. Ramp mengubah gambar kuitansi menjadi JSON terstruktur yang berisi informasi pedagang, tanggal, dan data pembayaran, serta memperkirakan throughput hingga 50% lebih tinggi dan latensi 10x lebih rendah, menurut blog teknis.

Perusahaan platform perangkat lunak yang mengintegrasikan Super VL mencakup Atlassian untuk pencarian berbasis agen di berbagai aplikasi seperti Jira dan Confluence, CrowdStrike untuk operasi blue team berbasis agen dalam keamanan perusahaan, Dassault Systèmes untuk desain dan simulasi rekayasa, serta Perplexity untuk pencarian dan tugas berbasis agen. Salesforce menyesuaikan Nemotron untuk mendukung agen AI yang mendigitalkan dan mengotomatiskan alur kerja pemerintahan melalui Missionforce Operations, sementara perangkat lunak Synopsys untuk verifikasi desain semikonduktor dapat beroperasi bersama model tersebut.

Untuk penerapan, NVIDIA NIM mengemas model ini sebagai layanan mikro siap produksi yang diperbarui setiap dua minggu dengan tambalan keamanan dan peningkatan kinerja. NVIDIA melaporkan bahwa pada 16 GPU B200 dengan kecepatan 50 token per detik per pengguna, layanan Dynamo dengan perutean yang mempertimbangkan cache KV dapat melayani hingga 8x lebih banyak pengguna sekaligus mengurangi latensi token pertama sebesar 85%. Super VL kini tersedia di Hugging Face, OpenRouter, dan ModelScope, serta sebagai NVIDIA NIM, dan dapat dijalankan di DGX Spark, DGX Station, sistem RTX PRO dan RTX, Jetson, serta lingkungan pusat data dan cloud.