Baseten přináší do koalice NVIDIA Nemotron odborné znalosti v oblasti inference

Společnost Baseten oznámila 5. listopadu 2026, že se připojila ke koalici NVIDIA Nemotron. Do vývoje otevřených modelů přispívá poznatky z podnikových úloh a odbornými znalostmi v oblasti následného tréninku a inference. Členství rozšiřuje spolupráci s NVIDIA na uvádění modelů, posilované učení, přizpůsobování a dedikovanou inferenci.

Společnost NVIDIA zahájila činnost koalice 16. března 2026 s cílem sdílet výzkum, odborné znalosti, data a výpočetní kapacity při vývoji otevřených špičkových modelů. Podle oznámení NVIDIA o jejím vzniku měl být prvním projektem základní model vyvinutý společně společnostmi Mistral AI a NVIDIA, natrénovaný na NVIDIA DGX Cloud, vydaný jako open source, aby si jej vývojáři a organizace mohli specializovat, a použitý jako základ připravované řady Nemotron 4.

Baseten byl partnerem od prvního dne při uvedení Nemotron 3.5 Super VL a Nemotron 3 Ultra. Jeho role v koalici přesahuje provozování hotových modelů a zahrnuje také trénovací prostředí a provozní know-how utvářené zkušenostmi s podnikovým nasazením. V praxi se zaměřuje na přizpůsobení konkrétním obchodním požadavkům a na propojení kvality nasazení, nákladů a flexibility.

Trénování pro produkční úlohy

Společnost vyvinula prostředí pro posilované učení, která si poradí se složitými hierarchiemi instrukcí, ignorují nepodstatné informace a dodržují podrobné stylistické požadavky. Další prostředí se zaměřují na dlouhodobé uvažování a plánování prostřednictvím statistické analýzy složitých biologických datových souborů, dokazování matematických vět a soutěžního hraní her. Tyto úlohy odrážejí, jak se instrukce v produkčním prostředí předávají prostřednictvím systémových promptů, definic nástrojů, následných zpráv uživatelů, odpovědí nástrojů a chybových hlášení.

Multimodální práce společnosti zahrnuje úlohy vyžadující vizuální a prostorové uvažování i vícekroková volání nástrojů, která předpokládají porozumění obrazu. Baseten uvádí, že následný trénink zlepšil výsledky v benchmarku MMMU-Pro, který hodnotí multimodální uvažování na expertní úrovni. Související studie zaslaná 5. října 2026 popisuje projekční modul s 50 miliony parametrů, který propojuje vizuální enkodér modelu Kimi K2.6 s modely GLM 5.2 a GLM 5.3, přičemž předtrénované váhy zůstávají neměnné; jeho výkonnost se hodnotila pomocí benchmarků MMMU-Pro a BLINK.

Výsledky přizpůsobení v číslech

Výzkumná zpráva CodeRabbit z 11. srpna 2026 popisuje projekt se společnostmi NVIDIA a Baseten, v jehož rámci byl model Nemotron 3.5 Lightning přizpůsoben pro směrování úloh kontroly kódu, nejprve pomocí supervizovaného dolaďování a poté posilovaného učení s ověřitelnými odměnami. V neměnném testu s 1 000 úlohami se přesná shoda ve směrování zvýšila ze 75,8 % u výchozího modelu na 80,4 % po supervizovaném dolaďování a na 80,7 % po trénování s odměnami. Cohenovo kappa, které měří shodu nad rámec náhodné shody, vzrostlo z 0,429 na 0,461 a následně na 0,544.

CodeRabbit označil konečnou změnu shody ve směrování o 0,3 procentního bodu za výsledek bez zhoršení, nikoli za statisticky průkazné zlepšení, protože párový interval spolehlivosti zahrnoval nulu. Podle odhadu společnosti by při plně vytížené propustnosti nasazení snížilo náklady o 50,4 %: stejné vyhodnocení stálo u výchozího modelu 2,34 USD a na jednom A100 u Baseten 1,16 USD. Ověření při trvalém zatížení a na produkčním provozu zůstalo na pozdější fázi.

Harvey představuje jiný příklad přizpůsobení. Baseten uvádí, že tato platforma právní umělé inteligence provádí na Baseten následný trénink modelu Nemotron pro specializované pracovní postupy, které denně využívají desítky tisíc právníků. Samostatný výzkum, který Harvey a Baseten zveřejnily 8. září 2026, načetl datovou místnost pro fúze a akvizice do prostředí Pythonu a umožnil hlavnímu agentovi delegovat vymezené úkoly kontroly na podřízené agenty. Harvey uvedl, že při testování sedmi modelů na 50 vyhrazených datových místnostech zvýšil tento systém průměrnou míru splnění kritérií hodnoticí rubriky z 23,3 % na 62,4 %.

Zpráva společnosti Harvey také uvádí, že posilované učení u hlavního modelu Qwen3.5-122B-A10B zvýšilo míru splnění kritérií z 29,9 % na 63,0 % v těchto 50 datových místnostech. Společnost přitom označila experimenty za počáteční průzkum a zbývající rozdíl oproti téměř stoprocentní úspěšnosti za značný.

Nasazení a hlasová umělá inteligence

Baseten Loops propojuje spravované pracovní postupy posilovaného učení se službou dedikované inference, přičemž zákazníci si ponechávají vlastnictví natrénovaných vah svých modelů. Loops podporuje Nemotron 3.5 Super VL a Nemotron 3 Ultra; Super VL je k dispozici pro trénování v režimech BF16 a NVFP4.

Společnosti také vyhodnocují hlasové agenty poháněné modelem Nemotron v rámci kompletních aplikací, včetně kvality modelu a jeho rychlosti odezvy. Benchmark rozpoznávání řeči společnosti Baseten ze 4. srpna 2026 uvádí, že jeden NVIDIA H100 zvládl až 100 souběžných zvukových streamů v reálném čase přes WebSocket. Latence finalizace, tedy doba od chvíle, kdy mluvčí domluví, do okamžiku, kdy je připraven konečný přepis, vzrostla z 98 milisekund při osmi streamech na 138 milisekund při 100 streamech.

Členství Baseten v koalici propojuje přizpůsobování modelů s infrastrukturou používanou k jejich následnému provozu. Výsledky zákazníků přinášejí konkrétní důkazy ve prospěch tohoto přístupu, zatímco odhad CodeRabbitu při plně vytížené propustnosti a dosud neprovedená produkční ověření spolu s ranými experimenty společnosti Harvey vymezují jeho limity. Zásadní otázkou je, nakolik naměřená zlepšení obstojí při dlouhodobém produkčním provozu.