NVIDIA, 오픈 Nemotron 3.5 Super VL 및 Bolt 엣지 모델 출시

NVIDIA는 2026년 10월 15일, 특화된 상시 가동 에이전트를 겨냥한 1,200억 매개변수 규모의 오픈 멀티모달 모델 Nemotron 3.5 Super VL을 출시했으며, 엣지 및 로컬 하드웨어용 소형 Bolt 모델 2종도 함께 선보였다. Super VL과 Nemotron 3.5 Bolt 74B-A9B 24GB는 현재 이용할 수 있으며, Nemotron 3.5 Bolt E4B 4GB는 2026년 10월 23일 출시될 예정이다.

이번 출시는 NVIDIA가 배포 단계별로 구성한 Nemotron 제품군을 확장한다. 8월에 출시된 Lightning은 높은 처리량이 필요한 작업을 처리하고, Ultra는 가장 까다로운 추론 작업을 맡으며, Bolt는 엣지 환경을 겨냥한다. NVIDIA는 새 오픈 모델 3종이 대규모 엔터프라이즈 서버부터 엣지 기기와 로컬 하드웨어까지 에이전트 배포 전 범위를 아우른다고 밝혔으며, Super VL은 Nemotron Coalition과 협력해 개발했다고 덧붙였다.

아키텍처와 공개된 성능

Super VL은 토큰당 120억 개의 매개변수를 활성화하는 1,200억 매개변수 규모의 전문가 혼합 아키텍처를 사용한다. NVIDIA는 이 모델이 지시 따르기, 도구 사용, 다단계 비즈니스 워크플로, 시각적 이해를 비롯한 멀티모달 에이전트 작업에서 가장 큰 추론 모델과 대등한 정확도를 제공하면서도 매개변수 수는 약 5분의 1이라고 밝혔다. NVIDIA는 또한 Super VL을 동급에서 가장 빠른 오픈 에이전트 모델이라고 설명하며, 단일 GPU에서 같은 규모 범주의 다른 오픈 모델보다 처리량이 최대 5배 높다고 보고했다.

이 모델은 추론, 지시 따르기, 도구 사용을 텍스트, 이미지, 문서, 동영상 이해와 하나의 시스템에 결합한다. NVIDIA의 기술 블로그에 따르면, 이러한 통합 덕분에 팀은 별도의 텍스트 모델과 비전 언어 모델을 배포하거나 두 모델 사이에 작업 맥락을 전달하지 않고도 텍스트 및 시각 작업을 처리할 수 있다. NVIDIA는 이 모델의 비전 언어 학습이 에이전트가 실제로 마주하는 광학 문자 인식, 표, 차트, 웹 페이지와 PDF 같은 시각 문서의 구조화된 정보를 대상으로 한다고 밝혔다.

NVIDIA가 공개한 평가 결과에 따르면 Super VL은 Hermes Bench에서 63.44%, LangChain 행동 평가에서 87.05%를 기록했다. Nemotron 3 Ultra의 점수는 각각 56.33%와 84.3%였다. 차트 추론 벤치마크인 CharXiv에서 NVIDIA가 보고한 Super VL의 점수는 80.8%로, Nemotron 3 Nano Omni의 63%보다 높았으며 모델이 Python 코드를 사용해 해석할 경우 84%까지 상승했다. NVIDIA는 또한 Super VL이 OCRBench v2 순위표에서 최상위 오픈 모델 중 하나라고 설명했다. 기술 블로그에 따르면 EXO Labs의 독립 평가에서는 DGX Spark에서 정확도와 작업 완료 시간 기준 파레토 프런티어에 올랐다.

학습 및 추론 설계

Super VL은 Nemotron 3 Ultra를 증류해 개발됐다. 기술 블로그는 증류 과정에서 Ultra의 코딩 역량과 SkewReverse 손실 함수가 코딩 정확도를 높이는 데 기여했다고 밝혔다. 후속 학습 단계에서는 텍스트와 비전 분야의 특화된 교사 모델들이 제공하는 지침을 다중 교사 온폴리시 증류 방식으로 결합하며, 교사 모델은 동영상 추론과 추적, 비전 도구 사용, 정렬에 관한 모델의 응답을 평가한다. 기술 블로그는 Nemotron Coalition 소속 조직들의 기여도 소개했다. Perplexity의 데이터 세트는 모델의 중간 학습을 지원했고, Prime Intellect의 환경은 교사 모델을 구축하는 데 사용됐다.

Nemotron 3.5 Super VL은 사전 학습과 연속 사전 학습에 걸쳐 약 26조 개의 토큰으로 학습됐으며, 이후 약 380만 개의 샘플과 수십 가지 환경을 활용한 강화 학습을 거쳤다. 연속 사전 학습에는 인도어 토큰 100억 개가 추가됐다. NVIDIA는 IIT Madras 및 산하 AI4Bharat 연구소와 함께 개발한, 인도 언어 22개로 구성된 약 2조 8천억 개 토큰 규모의 데이터 세트도 공개하고 있다.

이번 출시에는 기본 체크포인트, 후속 학습 체크포인트, NVFP4 양자화 체크포인트가 포함된다. NVFP4 레시피는 NVIDIA Blackwell 아키텍처에서 4비트 가중치와 활성값을 사용하며, 양자화로 발생하는 정확도 차이를 줄이기 위한 양자화 인식 증류를 함께 적용한다. NVIDIA에 따르면 LiLiCorr라는 오픈 추측 디코딩 기법은 DGX Spark에서 추측 디코딩을 사용하지 않을 때보다 토큰을 최대 2.3배 빠르게 생성한다. 다중 토큰 예측은 모델 내부에 초안 생성기를 두어 한 번의 순전파로 여러 토큰을 제안하고 검증하게 한다. 또한 컨텍스트 재사용 서빙 최적화는 에이전트가 반복 호출될 때 어텐션 캐시와 Mamba 순환 상태를 모두 유지한다.

엣지 환경을 위한 Bolt 모델

Bolt 74B-A9B 24GB는 기본 2비트 양자화를 사용해 24GB 메모리에 들어가며, 다른 애플리케이션과 함께 NVIDIA RTX 및 DGX Spark에서 로컬로 실행된다. NVIDIA는 이 모델이 PinchBench에서 동급 오픈 모델 중 1위, BrowseComp에서 오픈 모델 중 2위를 기록했다고 설명한다. 이 모델은 Hugging Face에서 이용할 수 있으며 llama.cpp, Ollama, LM Studio, Unsloth, vLLM을 지원한다. 2026년 10월 16일 출시 예정인 NVIDIA RTX Spark 노트북용으로 제작됐으며, GeForce RTX PC, DGX Spark, DGX Station, RTX PRO 워크스테이션에서도 실행된다.

Bolt E4B 4GB는 GeForce RTX, Jetson, RTX/DGX Spark에서 작동하는 물리적 에이전트와 대화형 에이전트를 겨냥한다. 자연스러운 대화와 다중 턴 에이전트 기능을 결합해 로컬 음성 비서, 상호작용형 캐릭터, 임베디드 인터페이스에 활용할 수 있다.

맞춤화, 초기 도입 사례 및 배포

이 모델은 공개 가중치, 공개 데이터세트, 학습 레시피와 함께 제공되며, NVIDIA NeMo, Python 기반 파이프라인, 공개 데이터세트를 통해 맞춤화할 수 있습니다. NVIDIA는 에이전트 도구 사용, 금융, 지시 따르기, 장문 컨텍스트, 공정성을 아우르는 공개 데이터세트와 45개의 비전-언어 데이터세트를 Hugging Face에서 공개하고 있으며, NeMo Gym의 강화 학습 환경도 함께 제공합니다.

NVIDIA에 따르면 수십 개 조직이 자체 데이터, 도구, 정책, 워크플로를 활용해 Super VL을 후속 학습하고 있습니다. Scale AI는 Skydance의 공급업체 신용 금융 에이전트와 EY의 인수·합병(M&A) 실사 에이전트를 위해 모델을 후속 학습했습니다. 기술 블로그에 따르면 Skydance 워크로드의 추론 비용은 40배, 지연 시간은 5배 줄어들 전망입니다. AfterQuery는 신용 계약 분석을 위해 Hebbia에 맞춰 모델을 조정했으며, AI21과 Alice는 사이버 보안 공격에 대한 복원력을 높이기 위해 모델을 후속 학습했습니다. NVIDIA는 Alice의 위협 인텔리전스 및 취약점 분석 정확도가 40% 향상됐다고 밝혔습니다. Mercor는 코드를 계획하고 작성하며 디버깅하는 코딩 에이전트를 위해 APEX-SWE 코딩 벤치마크를 사용해 모델을 후속 학습했습니다. Ramp는 영수증 이미지를 판매자 정보, 날짜, 결제 데이터가 담긴 구조화된 JSON으로 변환하고 있으며, 기술 블로그에 따르면 처리량은 최대 50% 늘고 지연 시간은 10배 줄어들 것으로 예상합니다.

Super VL을 통합하는 소프트웨어 플랫폼 기업으로는 Jira와 Confluence 같은 앱 전반에서 에이전트 기반 검색을 지원하는 Atlassian, 엔터프라이즈 보안에서 에이전트 기반 블루팀 운영을 지원하는 CrowdStrike, 엔지니어링 설계 및 시뮬레이션을 지원하는 Dassault Systèmes, 검색과 에이전트 기반 작업을 지원하는 Perplexity가 있습니다. Salesforce는 Missionforce Operations를 통해 정부 워크플로를 디지털화하고 자동화하는 AI 에이전트를 구동하도록 Nemotron을 맞춤화하고 있으며, 반도체 설계 검증을 위한 Synopsys 소프트웨어는 이 모델과 상호 운용됩니다.

배포를 위해 NVIDIA NIM은 이 모델을 프로덕션 환경에 바로 사용할 수 있는 마이크로서비스로 패키징하며, 보안 패치와 성능 개선 사항을 2주마다 반영합니다. NVIDIA에 따르면 사용자당 초당 50토큰을 처리하는 16개의 B200 GPU 환경에서 KV 캐시 인식 라우팅을 적용한 Dynamo 서빙은 첫 토큰 지연 시간을 85% 줄이면서 최대 8배 많은 사용자를 지원합니다. Super VL은 현재 Hugging Face, OpenRouter, ModelScope에서, 그리고 NVIDIA NIM으로 제공되며 DGX Spark, DGX Station, RTX PRO 및 RTX 시스템, Jetson, 데이터센터와 클라우드 환경에서 실행됩니다.