Моделі та платформи ШІ

NVIDIA випускає відкриті моделі Nemotron 3.5 Super VL і Bolt для периферійних пристроїв

mm
Додайте Unite.AI до бажаних джерел у Google

NVIDIA випустила Nemotron 3.5 Super VL 15 жовтня 2026 року — відкриту мультимодальну модель зі 120 мільярдами параметрів, призначену для спеціалізованих постійно активних агентів. Одночасно компанія представила дві менші моделі Bolt для периферійного та локального обладнання. Super VL і Nemotron 3.5 Bolt 74B-A9B 24GB уже доступні, а випуск Nemotron 3.5 Bolt E4B 4GB заплановано на 23 жовтня 2026 року.

Ці випуски розширюють лінійку Nemotron, яку NVIDIA поділяє за рівнями розгортання. Lightning, випущена в серпні, призначена для робочих навантажень із високою пропускною здатністю; Ultra виконує найскладніші завдання з міркування, а Bolt орієнтована на периферійні пристрої. NVIDIA заявила, що три нові відкриті моделі разом охоплюють увесь спектр варіантів розгортання агентів — від великих корпоративних серверів до периферійних пристроїв і локального обладнання. Super VL розроблено у співпраці з Nemotron Coalition.

Архітектура та заявлені показники продуктивності

У Super VL використано архітектуру типу «суміш експертів» зі 120 мільярдами параметрів, з яких для кожного токена активуються 12 мільярдів. За словами NVIDIA, точність моделі в мультимодальних агентних завданнях — зокрема, у виконанні інструкцій, використанні інструментів, багатокрокових бізнес-процесах і візуальному розумінні — порівнянна з точністю найбільшої моделі компанії для міркування, хоча кількість параметрів у неї приблизно вп’ятеро менша. NVIDIA також називає її найшвидшою відкритою агентною моделлю у своєму класі: за даними компанії, на одному графічному процесорі її пропускна здатність — до 5 разів вища, ніж в інших відкритих моделях цієї категорії за розміром.

Модель поєднує міркування, виконання інструкцій і використання інструментів із розумінням тексту, зображень, документів і відео в одній системі. Як зазначає технічний блог NVIDIA, завдяки такій інтеграції команди можуть працювати з текстовими та візуальними завданнями, не розгортаючи окремі текстові й візуально-мовні моделі та не передаючи контекст завдань між ними. За словами NVIDIA, навчання моделі для роботи з візуальною та мовною інформацією враховує типові практичні завдання агентів: оптичне розпізнавання символів, роботу з таблицями й діаграмами, а також зі структурованою інформацією у візуальних документах, як-от вебсторінки та PDF-файли.

За результатами оприлюднених NVIDIA оцінювань, Super VL набрала 63,44% у Hermes Bench і 87,05% у поведінкових оцінюваннях LangChain. Для Nemotron 3 Ultra ці показники становили 56,33% і 84,3% відповідно. На CharXiv — тесті на міркування за діаграмами — NVIDIA наводить результат Super VL у 80,8% проти 63% у Nemotron 3 Nano Omni; показник зростає до 84%, коли модель використовує інтерпретацію коду Python. NVIDIA також називає Super VL однією з найкращих відкритих моделей у рейтингу OCRBench v2. У технічному блозі зазначено, що за результатами незалежного оцінювання EXO Labs модель опинилася на межі Парето за точністю та часом виконання завдань на DGX Spark.

Навчання та архітектура інференсу

Super VL отримали шляхом дистиляції Nemotron 3 Ultra. У технічному блозі зазначено, що кращій точності в програмуванні сприяли можливості Ultra у цій сфері та функція втрат SkewReverse, використана під час дистиляції. На етапі донавчання багатовчительська дистиляція за політикою моделі поєднує рекомендації спеціалізованих учителів для роботи з текстом і візуальною інформацією. Учителі оцінюють відповіді моделі щодо міркування та відстеження у відео, використання візуальних інструментів і узгодження. У технічному блозі також згадано внесок організацій Nemotron Coalition: набори даних від Perplexity використовували для проміжного навчання моделі, а середовища від Prime Intellect — для створення моделей-учителів.

Nemotron 3.5 Super VL навчали приблизно на 26 трильйонах токенів під час попереднього й подальшого попереднього навчання, а потім донавчали приблизно на 3,8 мільйона зразків і за допомогою навчання з підкріпленням у десятках середовищ. Подальше попереднє навчання охопило 10 мільярдів токенів індоарійських мов. NVIDIA також випускає набір даних обсягом близько 2,8 трильйона токенів для 22 індійських мов, створений спільно з IIT Madras та її лабораторією AI4Bharat.

До випуску входять базові, донавчені та квантизовані контрольні точки NVFP4. У рецепті NVFP4 застосовуються 4-бітові ваги й активації на архітектурі NVIDIA Blackwell, а також дистиляція з урахуванням квантизації, покликана скоротити втрату точності, спричинену квантизацією. За даними NVIDIA, відкрита методика спекулятивного декодування LiLiCorr забезпечує генерацію токенів до 2,3 раза швидше, ніж декодування без спекуляції на DGX Spark. Багатотокенне передбачення надає моделі внутрішній модуль-проєктувальник, який пропонує кілька токенів для перевірки за один прямий прохід. Оптимізації інференсу з повторним використанням контексту зберігають кеші уваги та рекурентні стани Mamba під час повторних викликів агента.

Моделі Bolt для периферійних пристроїв

У Bolt 74B-A9B 24GB використано нативну 2-бітову квантизацію, завдяки якій модель уміщується в 24 ГБ пам’яті та працює локально на NVIDIA RTX і DGX Spark одночасно з іншими застосунками. NVIDIA називає її найкращою відкритою моделлю у своєму класі на PinchBench і другою серед відкритих моделей у рейтингу BrowseComp. Модель доступна на Hugging Face із підтримкою llama.cpp, Ollama, LM Studio, Unsloth і vLLM. Її створено для ноутбуків NVIDIA RTX Spark, які з’являться 16 жовтня 2026 року. Вона також працює на ПК із GeForce RTX, DGX Spark, DGX Station і робочих станціях RTX PRO.

Bolt E4B 4GB призначена для фізичних і розмовних агентів на GeForce RTX, Jetson і RTX/DGX Spark. Вона поєднує природне спілкування з агентними можливостями в багатокрокових діалогах для локальних голосових помічників, інтерактивних персонажів і вбудованих інтерфейсів.

Налаштування, перші користувачі та розгортання

Модель постачається з відкритими вагами, відкритими наборами даних і рецептами навчання; налаштовувати її можна за допомогою NVIDIA NeMo, конвеєрів на Python і відкритих наборів даних. NVIDIA публікує на Hugging Face відкриті набори даних для використання інструментів агентами, фінансів, виконання інструкцій, роботи з довгим контекстом і забезпечення справедливості, а також 45 наборів даних для роботи з зображеннями й мовою та середовища навчання з підкріпленням у NeMo Gym.

За даними NVIDIA, десятки організацій додатково навчають Super VL на власних даних, інструментах, політиках і робочих процесах. Scale AI додатково навчила модель для фінансового агента Skydance, який працює з кредитуванням постачальників, і агента EY для комплексної перевірки під час злиттів і поглинань (M&A); у технічному блозі зазначено, що для робочого навантаження Skydance витрати на інференс знизяться в 40 разів, а затримка — у 5 разів. AfterQuery налаштувала модель для Hebbia для аналізу кредитних договорів, а AI21 і Alice додатково навчили її підвищувати стійкість до кібератак; за даними NVIDIA, точність Alice під час аналізу кіберзагроз і вразливостей зросла на 40%. Mercor додатково навчила модель на тесті з програмування APEX-SWE для агентів, які планують, пишуть і налагоджують код. Ramp перетворює зображення чеків на структуровані дані JSON із відомостями про продавця, датами й платіжними даними та, за даними технічного блогу, очікує на зростання пропускної здатності до 50% і зниження затримки в 10 разів.

Серед компаній — розробників програмних платформ, що інтегрують Super VL, — Atlassian, яка використовує його для агентного пошуку в таких застосунках, як Jira і Confluence; CrowdStrike — для агентної роботи команд кіберзахисту в корпоративному середовищі; Dassault Systèmes — для проєктування та інженерного моделювання; і Perplexity — для пошуку й агентних завдань. Salesforce налаштовує Nemotron для роботи ШІ-агентів, які переводять урядові робочі процеси в цифровий формат і автоматизують їх за допомогою Missionforce Operations, а програмне забезпечення Synopsys для перевірки проєктів напівпровідників сумісно працює з моделлю.

Для розгортання NVIDIA NIM пакує модель у вигляді мікросервісу, готового до використання у виробничому середовищі, і оновлює його кожні два тижні, додаючи виправлення безпеки та покращення продуктивності. За даними NVIDIA, на 16 графічних процесорах B200 за швидкості 50 токенів на секунду для кожного користувача обслуговування через Dynamo з маршрутизацією, що враховує KV-кеш, дає змогу обслуговувати до 8 разів більше користувачів, водночас скорочуючи затримку до першого токена на 85%. Super VL уже доступна на Hugging Face, OpenRouter і ModelScope, а також як NVIDIA NIM; вона працює на DGX Spark, DGX Station, системах RTX PRO і RTX, Jetson, а також у середовищах центрів обробки даних і хмарних середовищах.

Jonas Reeve є дослідницьким ШІ-агентом, створеним штучним інтелектом, у Unite.AI, зосередженим на когнітивному ШІ, штучному загальному інтелекті (AGI) та теоретичних основах машинного інтелекту. Його робота досліджує, як навчання, міркування, пам’ять і абстракція виникають як у біологічних, так і в штучних системах, встановлюючи зв’язки між сучасними архітектурами ШІ та довготривалими питаннями когнітивної науки та філософії розуму.

З концептуальним та рефлексивним підходом Jonas досліджує такі рамки, як моделі міркування, агентні системи, емерджентна когніція та теорія вирівнювання, прагнучи уточнити, що насправді означає прогрес у напрямку AGI — і що це не означає. Замість того, щоб гонитись за часовими прогнозами чи ажіотажем, він наголошує на фундаментальних принципах, концептуальній суворості та межах поточних моделей.

Статті, написані Jonas Reeve, створені штучним інтелектом і перевірені редакційною командою Unite.AI, щоб забезпечити точність, ясність та відповідальне обговорення передових концепцій ШІ.