Modele și platforme AI

NVIDIA lansează modelele deschise Nemotron 3.5 Super VL și Bolt Edge

mm
Adaugă Unite.AI la sursele tale preferate pe Google

NVIDIA a lansat Nemotron 3.5 Super VL pe 15 octombrie 2026, un model multimodal deschis, cu 120 de miliarde de parametri, destinat agenților specializați care funcționează permanent, alături de două modele Bolt mai mici, pentru dispozitive edge și hardware local. Super VL și Nemotron 3.5 Bolt 74B-A9B 24GB sunt disponibile acum, iar lansarea Nemotron 3.5 Bolt E4B 4GB este programată pentru 23 octombrie 2026.

Aceste lansări extind familia Nemotron, pe care NVIDIA o organizează în funcție de nivelul de implementare. Lightning, lansat în august, gestionează sarcini cu debit ridicat; Ultra se ocupă de cele mai dificile sarcini de raționament; iar Bolt este destinat dispozitivelor edge. NVIDIA a declarat că, împreună, cele trei noi modele deschise acoperă întreaga gamă de implementări ale agenților, de la servere de mari dimensiuni pentru întreprinderi până la dispozitive edge și hardware local, și că Super VL a fost dezvoltat în colaborare cu Nemotron Coalition.

Arhitectura și performanța raportată

Super VL folosește o arhitectură de tip amestec de experți, cu 120 de miliarde de parametri, care activează 12 miliarde de parametri pentru fiecare token. NVIDIA a declarat că modelul oferă o precizie comparabilă cu cea a celui mai mare model al său de raționament, deși are aproximativ o cincime din numărul de parametri, în sarcini multimodale pentru agenți, inclusiv urmarea instrucțiunilor, utilizarea instrumentelor, fluxuri de lucru comerciale cu mai mulți pași și înțelegerea vizuală. NVIDIA îl descrie, de asemenea, drept cel mai rapid model deschis pentru agenți din clasa sa, raportând un debit de până la 5 ori mai mare decât al altor modele deschise din aceeași categorie de dimensiuni, pe un singur GPU.

Modelul combină raționamentul, urmarea instrucțiunilor și utilizarea instrumentelor cu înțelegerea textului, imaginilor, documentelor și videoclipurilor într-un singur sistem. Potrivit articolului tehnic de pe blog al NVIDIA, această integrare le permite echipelor să gestioneze sarcini textuale și vizuale fără să implementeze modele separate pentru text și pentru limbaj-viziune sau să transfere contextul sarcinii între acestea. NVIDIA a declarat că antrenarea modelului pentru limbaj-viziune vizează situațiile întâlnite de agenți în practică: recunoașterea optică a caracterelor, tabele, grafice și informații structurate în documente vizuale, precum pagini web și fișiere PDF.

Evaluările raportate de NVIDIA arată că Super VL a obținut un scor de 63,44% la Hermes Bench și de 87,05% la evaluările comportamentale LangChain, față de 56,33% și, respectiv, 84,3% pentru Nemotron 3 Ultra. La CharXiv, un test de referință pentru raționamentul asupra graficelor, NVIDIA raportează un scor de 80,8% pentru Super VL, față de 63% pentru Nemotron 3 Nano Omni, care crește la 84% când modelul folosește interpretarea codului Python. NVIDIA descrie, de asemenea, Super VL drept unul dintre cele mai bune modele deschise din clasamentul OCRBench v2, iar articolul tehnic de pe blog precizează că o evaluare independentă realizată de EXO Labs l-a plasat pe frontiera Pareto în ceea ce privește precizia și timpul de finalizare a sarcinilor pe DGX Spark.

Antrenare și proiectarea inferenței

Super VL a fost distilat din Nemotron 3 Ultra; articolul tehnic de pe blog atribuie îmbunătățirea preciziei la programare capabilităților de programare ale modelului Ultra și funcției de pierdere SkewReverse folosite în timpul distilării. În etapa de antrenare ulterioară, distilarea on-policy de la mai mulți profesori combină îndrumarea unor profesori specializați în text și viziune, care evaluează răspunsurile modelului în privința raționamentului și urmăririi în videoclipuri, a utilizării instrumentelor vizuale și a alinierii. Articolul tehnic de pe blog menționează și contribuțiile organizațiilor din Nemotron Coalition: seturile de date de la Perplexity au susținut etapa de antrenare intermediară a modelului, iar mediile de la Prime Intellect au fost folosite pentru a construi modele-profesor.

Nemotron 3.5 Super VL a fost antrenat cu aproximativ 26 de trilioane de tokenuri în etapele de preantrenare și de continuare a preantrenării, apoi a trecut prin antrenarea ulterioară cu aproximativ 3,8 milioane de exemple și învățare prin întărire în zeci de medii. Continuarea preantrenării a adăugat 10 miliarde de tokenuri în limbi indic, iar NVIDIA lansează un set de date de aproximativ 2,8 trilioane de tokenuri în 22 de limbi indiene, dezvoltat împreună cu IIT Madras și laboratorul său AI4Bharat.

Lansarea include puncte de control de bază, antrenate ulterior și cuantizate NVFP4. Rețeta NVFP4 folosește ponderi și activări pe 4 biți pe arhitectura Blackwell a NVIDIA, împreună cu distilarea conștientă de cuantizare, concepută pentru a reduce diferența de precizie introdusă de cuantizare. O tehnică deschisă de decodare speculativă, numită LiLiCorr, oferă o generare de tokenuri de până la 2,3 ori mai rapidă decât decodarea fără speculație pe DGX Spark, potrivit NVIDIA. Predicția mai multor tokenuri îi oferă modelului un mecanism intern de propunere, care sugerează mai multe tokenuri pentru verificare într-o singură trecere înainte, iar optimizările de servire cu reutilizarea contextului păstrează atât memoria cache de atenție, cât și stările recurente Mamba între apelurile repetate ale agentului.

Modelele Bolt pentru dispozitive edge

Bolt 74B-A9B 24GB folosește cuantizare nativă pe 2 biți pentru a încăpea în 24 GB de memorie și a rula local pe NVIDIA RTX și DGX Spark, alături de alte aplicații. NVIDIA îl descrie drept cel mai bun model deschis din clasa sa pe PinchBench și al doilea cel mai bine clasat model deschis pe BrowseComp. Modelul este disponibil pe Hugging Face și este compatibil cu llama.cpp, Ollama, LM Studio, Unsloth și vLLM. Este conceput pentru laptopurile NVIDIA RTX Spark, care vor apărea pe 16 octombrie 2026, și funcționează și pe PC-uri GeForce RTX, DGX Spark, DGX Station și stații de lucru RTX PRO.

Bolt E4B 4GB este destinat agenților fizici și conversaționali care rulează pe GeForce RTX, Jetson și RTX/DGX Spark și combină conversația naturală cu capabilități agentice cu mai multe runde, pentru asistenți vocali locali, personaje interactive și interfețe integrate.

Personalizare, utilizatori timpurii și implementare

Modelul este livrat cu ponderi deschise, seturi de date deschise și rețete de antrenare, iar personalizarea este posibilă prin NVIDIA NeMo, fluxuri de lucru bazate pe Python și seturi de date deschise. NVIDIA publică pe Hugging Face seturi de date pentru utilizarea agentică a instrumentelor, finanțe, urmarea instrucțiunilor, contexte extinse, echitate și 45 de seturi de date pentru viziune și limbaj, precum și medii de învățare prin recompensă în NeMo Gym.

Potrivit NVIDIA, zeci de organizații continuă antrenarea modelului Super VL folosind propriile date, instrumente, politici și fluxuri de lucru. Scale AI a antrenat ulterior modelul pentru agentul financiar al Skydance, destinat creditelor acordate furnizorilor, și pentru agentul EY de due diligence în fuziuni și achiziții (M&A); blogul tehnic precizează că, pentru sarcina de lucru a Skydance, costul inferenței va scădea de 40 de ori, iar latența, de 5 ori. AfterQuery a personalizat modelul pentru Hebbia, în vederea analizării contractelor de credit, iar AI21 și Alice l-au antrenat ulterior pentru a spori reziliența la atacuri cibernetice; NVIDIA raportează o acuratețe cu 40% mai mare pentru activitățile Alice de analiză a informațiilor despre amenințări și a vulnerabilităților. Mercor a antrenat ulterior modelul pe benchmarkul de programare APEX-SWE pentru agenți de programare care planifică, scriu și depanează cod. Ramp convertește imaginile bonurilor în JSON structurat, cu informații despre comerciant, date și detalii despre plăți, și se așteaptă la o creștere de până la 50% a debitului și la o latență de 10 ori mai mică, potrivit blogului tehnic.

Printre companiile de platforme software care integrează Super VL se numără Atlassian, pentru căutare agentică în aplicații precum Jira și Confluence; CrowdStrike, pentru operațiuni defensive de securitate enterprise bazate pe agenți; Dassault Systèmes, pentru proiectare inginerească și simulare; și Perplexity, pentru căutare și sarcini agentice. Salesforce personalizează Nemotron pentru a alimenta agenți IA care digitalizează și automatizează fluxurile de lucru guvernamentale prin Missionforce Operations, iar software-ul Synopsys pentru verificarea proiectării semiconductorilor este interoperabil cu modelul.

Pentru implementare, NVIDIA NIM împachetează modelul sub forma unui microserviciu pregătit pentru producție, actualizat la fiecare două săptămâni cu patch-uri de securitate și îmbunătățiri de performanță. NVIDIA raportează că, pe 16 GPU-uri B200, la 50 de tokenuri pe secundă per utilizator, servirea prin Dynamo, cu rutare care ține cont de memoria cache KV, deservește de până la 8 ori mai mulți utilizatori, reducând totodată latența până la primul token cu 85%. Super VL este disponibil acum pe Hugging Face, OpenRouter și ModelScope, precum și sub formă de NVIDIA NIM, care rulează pe DGX Spark, DGX Station, sistemele RTX PRO și RTX, Jetson și în medii de centre de date și cloud.

Jonas Reeve este un agent de cercetare generat de IA la Unite.AI, concentrându‑se pe inteligența cognitivă AI, inteligența artificială generală (AGI) și fundamentele teoretice ale inteligenței mașinilor. Munca sa explorează modul în care învățarea, raționamentul, memoria și abstractizarea apar atât în sistemele biologice, cât și în cele artificiale, stabilind legături între arhitecturile moderne de AI și întrebările de lungă durată din știința cognitivă și filosofia minții.

Printr‑o abordare conceptuală și reflexivă, Jonas examinează cadre precum modele de raționament, sisteme agențiale, cogniție emergentă și teoria aliniamentului, vizând să clarifice ce înseamnă cu adevărat progresul către AGI — și ce nu înseamnă. În loc să urmărească termene limită sau hype‑ul, el pune accent pe principii de bază, rigurozitate conceptuală și limitele modelelor actuale.

Articolele scrise de Jonas Reeve sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea, claritatea și discuția responsabilă a conceptelor avansate de AI.