NVIDIA veröffentlicht offene Nemotron-3.5-Super-VL- und Bolt-Edge-Modelle

NVIDIA veröffentlichte am 15. Oktober 2026 Nemotron 3.5 Super VL, ein offenes multimodales Modell mit 120 Milliarden Parametern für spezialisierte, dauerhaft aktive Agenten. Gleichzeitig stellte das Unternehmen zwei kleinere Bolt-Modelle für Edge- und lokale Hardware vor. Super VL und Nemotron 3.5 Bolt 74B-A9B 24GB sind ab sofort verfügbar. Nemotron 3.5 Bolt E4B 4GB soll am 23. Oktober 2026 erscheinen.

Mit den Neuerscheinungen wird die Nemotron-Modellfamilie erweitert, die NVIDIA nach Bereitstellungsklassen gliedert. Lightning, das im August veröffentlicht wurde, bewältigt Workloads mit hohem Durchsatz; Ultra übernimmt die anspruchsvollsten Schlussfolgerungsaufgaben und Bolt ist für den Edge-Bereich ausgelegt. NVIDIA zufolge decken die drei neuen offenen Modelle gemeinsam das gesamte Spektrum der Agentenbereitstellung ab – von großen Unternehmensservern bis hin zu Edge-Geräten und lokaler Hardware. Super VL wurde in Zusammenarbeit mit der Nemotron Coalition entwickelt.

Architektur und gemeldete Leistung

Super VL verwendet eine Mixture-of-Experts-Architektur mit 120 Milliarden Parametern, von denen pro Token 12 Milliarden aktiviert werden. NVIDIA zufolge erzielt das Modell bei multimodalen agentischen Aufgaben – darunter das Befolgen von Anweisungen, die Verwendung von Tools, mehrstufige Geschäftsabläufe und visuelles Verständnis – eine Genauigkeit, die mit der des größten Schlussfolgerungsmodells des Unternehmens vergleichbar ist, obwohl es nur etwa ein Fünftel so viele Parameter hat. NVIDIA bezeichnet es außerdem als das schnellste offene agentische Modell seiner Klasse und gibt an, dass sein Durchsatz auf einer einzelnen GPU bis zu fünfmal höher ist als der anderer offener Modelle derselben Größenklasse.

Das Modell vereint Schlussfolgerungsfähigkeit, das Befolgen von Anweisungen und die Verwendung von Tools mit dem Verständnis von Texten, Bildern, Dokumenten und Videos in einem einzigen System. Laut technischem Blogbeitrag von NVIDIA ermöglicht diese Integration Teams, Text- und visuelle Aufgaben zu bearbeiten, ohne separate Text- und Vision-Language-Modelle einzusetzen oder den Aufgabenkontext zwischen ihnen weiterzugeben. NVIDIA zufolge ist das Vision-Language-Training des Modells auf Inhalte ausgerichtet, denen Agenten in der Praxis begegnen: optische Zeichenerkennung, Tabellen, Diagramme und strukturierte Informationen in visuellen Dokumenten wie Webseiten und PDFs.

Die von NVIDIA gemeldeten Evaluationsergebnisse weisen für Super VL 63,44 % auf Hermes Bench und 87,05 % bei den verhaltensbezogenen LangChain-Evaluationen aus. Nemotron 3 Ultra erreichte im Vergleich dazu 56,33 % beziehungsweise 84,3 %. Auf CharXiv, einem Benchmark für Schlussfolgerungen aus Diagrammen, kommt Super VL laut NVIDIA auf 80,8 %, gegenüber 63 % für Nemotron 3 Nano Omni. Bei Verwendung von Python-Code-Interpretation steigt der Wert auf 84 %. NVIDIA bezeichnet Super VL außerdem als eines der führenden offenen Modelle auf der OCRBench-v2-Rangliste. Im technischen Blogbeitrag heißt es zudem, dass eine unabhängige Evaluation durch EXO Labs das Modell beim Verhältnis von Genauigkeit zu Aufgabenerledigungszeit auf DGX Spark an der Pareto-Frontier einordnete.

Training und Inferenzdesign

Super VL wurde aus Nemotron 3 Ultra destilliert. Dem technischen Blogbeitrag zufolge trugen die Programmierfähigkeiten von Ultra und der bei der Destillation verwendete SkewReverse-Loss zu einer höheren Genauigkeit beim Programmieren bei. Beim Post-Training kombiniert eine On-Policy-Destillation mit mehreren Lehrermodellen die Anleitung spezialisierter Modelle aus den Bereichen Text und Bildverarbeitung. Diese bewerten die Antworten des Modells in den Bereichen Videoverständnis und -verfolgung, Verwendung visueller Tools und Ausrichtung. Der technische Blogbeitrag nennt auch Beiträge von Organisationen der Nemotron Coalition: Datensätze von Perplexity unterstützten das Mid-Training des Modells, und Umgebungen von Prime Intellect dienten zum Aufbau der Lehrermodelle.

Nemotron 3.5 Super VL wurde im Vortraining und im fortgesetzten Vortraining mit insgesamt rund 26 Billionen Token trainiert. Anschließend wurde es mit etwa 3,8 Millionen Beispielen und durch bestärkendes Lernen in Dutzenden Umgebungen weitertrainiert. Beim fortgesetzten Vortraining kamen 10 Milliarden indische Sprach-Token hinzu. NVIDIA veröffentlicht außerdem einen Datensatz mit rund 2,8 Billionen Token in 22 indischen Sprachen, der gemeinsam mit dem IIT Madras und dessen KI-Labor AI4Bharat entwickelt wurde.

Die Veröffentlichung umfasst Checkpoints des Basismodells, des nachtrainierten Modells und der NVFP4-quantisierten Version. Die NVFP4-Rezeptur verwendet auf der Blackwell-Architektur von NVIDIA 4-Bit-Gewichte und -Aktivierungen und kombiniert sie mit quantisierungsbewusster Destillation, die den durch die Quantisierung entstehenden Genauigkeitsverlust ausgleichen soll. Die offene spekulative Decoding-Technik LiLiCorr ermöglicht laut NVIDIA auf DGX Spark eine bis zu 2,3-mal schnellere Token-Generierung als Decoding ohne Spekulation. Bei der Multi-Token-Vorhersage schlägt ein dem Modell internes Entwurfsmodul mehrere Token vor, die in einem einzigen Vorwärtsdurchlauf überprüft werden. Optimierungen für die Wiederverwendung des Kontexts beim Serving erhalten bei wiederholten Agentenaufrufen sowohl Attention-Caches als auch rekurrente Mamba-Zustände.

Bolt-Modelle für den Edge-Bereich

Bolt 74B-A9B 24GB nutzt eine native 2-Bit-Quantisierung, sodass es in 24 GB Speicher passt und lokal auf NVIDIA RTX und DGX Spark parallel zu anderen Anwendungen ausgeführt werden kann. NVIDIA bezeichnet es als das führende offene Modell seiner Klasse auf PinchBench und als das zweitrangige offene Modell auf BrowseComp. Das Modell ist auf Hugging Face verfügbar und unterstützt llama.cpp, Ollama, LM Studio, Unsloth und vLLM. Es wurde für NVIDIA RTX Spark-Laptops entwickelt, die am 16. Oktober 2026 auf den Markt kommen, und läuft auch auf GeForce-RTX-PCs, DGX Spark, DGX Station und RTX-PRO-Workstations.

Bolt E4B 4GB ist für physische und dialogfähige Agenten auf GeForce RTX, Jetson und RTX/DGX Spark vorgesehen. Das Modell verbindet natürliche Gespräche mit agentischen Fähigkeiten über mehrere Gesprächsrunden hinweg und eignet sich für lokale Sprachassistenten, interaktive Figuren und eingebettete Schnittstellen.

Anpassung, frühe Anwender und Bereitstellung

Das Modell wird mit offenen Gewichten, offenen Datensätzen und Trainingsrezepten bereitgestellt. Die Anpassung wird durch NVIDIA NeMo, Python-basierte Pipelines und offene Datensätze unterstützt. NVIDIA veröffentlicht auf Hugging Face offene Datensätze zu agentenbasierter Tool-Nutzung, Finanzen, Befolgen von Anweisungen, langen Kontexten, Fairness und 45 Vision-Language-Datensätzen sowie Umgebungen für Reinforcement Learning in NeMo Gym.

Laut NVIDIA trainieren Dutzende Organisationen Super VL mit eigenen Daten, Tools, Richtlinien und Arbeitsabläufen nach. Scale AI trainierte das Modell für Skydances Finanzagenten für Lieferantenkredite und den M&A-Due-Diligence-Agenten von EY nach. Im technischen Blog heißt es, dass die Inferenzkosten für den Skydance-Workload um den Faktor 40 und die Latenz um den Faktor 5 sinken werden. AfterQuery passte das Modell für Hebbia zur Analyse von Kreditverträgen an, während AI21 und Alice es für mehr Widerstandsfähigkeit gegen Cyberangriffe nachtrainierten. NVIDIA zufolge erzielte Alice bei der Bedrohungsanalyse und der Analyse von Sicherheitslücken eine um 40 % höhere Genauigkeit. Mercor trainierte das Modell anhand des Coding-Benchmarks APEX-SWE für Coding-Agenten nach, die Code planen, schreiben und debuggen. Ramp wandelt Belegbilder in strukturiertes JSON mit Angaben zu Händlern, Daten und Zahlungsinformationen um und erwartet laut technischem Blog einen bis zu 50 % höheren Durchsatz und eine um den Faktor 10 geringere Latenz.

Zu den Softwareplattform-Unternehmen, die Super VL integrieren, gehören Atlassian für agentenbasierte Suche in Apps wie Jira und Confluence, CrowdStrike für agentenbasiertes Blue Teaming in der Unternehmenssicherheit, Dassault Systèmes für Konstruktionsdesign und Simulation sowie Perplexity für Suche und agentenbasierte Aufgaben. Salesforce passt Nemotron an, um KI-Agenten zu betreiben, die staatliche Arbeitsabläufe über Missionforce Operations digitalisieren und automatisieren. Die Software von Synopsys zur Verifizierung von Halbleiterdesigns ist ebenfalls mit dem Modell interoperabel.

Für die Bereitstellung bündelt NVIDIA NIM das Modell als produktionsreifen Microservice, der alle zwei Wochen mit Sicherheitspatches und Leistungsverbesserungen aktualisiert wird. NVIDIA zufolge bedient Dynamo Serving mit KV-Cache-bewusstem Routing auf 16 B200-GPUs bei 50 Tokens pro Sekunde und Nutzer bis zu achtmal so viele Nutzer und senkt dabei die Latenz bis zum ersten Token um 85 %. Super VL ist ab sofort auf Hugging Face, OpenRouter und ModelScope sowie als NVIDIA NIM verfügbar und läuft auf DGX Spark, DGX Station, RTX PRO- und RTX-Systemen, Jetson sowie in Rechenzentren und Cloud-Umgebungen.