Baseten tuo inferenssiosaamista NVIDIA:n Nemotron-koalitioon

Baseten ilmoitti 5. marraskuuta 2026 liittyneensä NVIDIA Nemotron -koalitioon ja tuovansa avoimien mallien kehitykseen näkemyksiä yrityskäyttöön liittyvistä työkuormista sekä osaamista mallien jälkikoulutuksesta ja inferenssistä. Jäsenyys laajentaa yhtiön NVIDIA-yhteistyötä mallien julkaisuihin, vahvistusoppimiseen, mukauttamiseen ja dedikoituun inferenssiin.

NVIDIA perusti koalition 16. maaliskuuta 2026 yhdistämään tutkimusta, osaamista, dataa ja laskentakapasiteettia avoimien huipputason mallien kehittämiseksi. NVIDIA:n julkistuksen mukaan ensimmäinen hanke olisi Mistral AI:n ja NVIDIA:n yhdessä kehittämä perusmalli, joka koulutetaan NVIDIA DGX Cloudissa, julkaistaan avoimena lähdekoodina kehittäjien ja organisaatioiden erikoistettavaksi ja toimii tulevan Nemotron 4 -malliperheen perustana.

Baseten oli Nemotron 3.5 Super VL:n ja Nemotron 3 Ultran julkaisukumppani heti ensimmäisestä päivästä lähtien. Sen rooli koalitiossa ulottuu valmiiden mallien tarjoamista pidemmälle: siihen kuuluvat myös koulutusympäristöt ja yrityskäytön muovaama operatiivinen osaaminen. Käytännössä painopiste on ratkaisujen mukauttamisessa yritysten erityisvaatimuksiin, ja käyttöönoton laatu, kustannukset ja joustavuus nähdään toisiinsa liittyvinä tekijöinä.

Tuotantokäyttöön tarkoitettujen työkuormien koulutus

Yhtiö kehitti vahvistusoppimiseen ympäristöjä, joissa käsitellään monimutkaisia ohjehierarkioita, sivuutetaan epäolennainen tieto ja noudatetaan yksityiskohtaisia tyylitoiveita. Muissa ympäristöissä harjoitellaan pitkän aikavälin päättelyä ja suunnittelua analysoimalla tilastollisesti monimutkaisia biologisia aineistoja, todistamalla matemaattisia lauseita ja pelaamalla kilpailullisia pelejä. Tehtävissä huomioidaan, miten tuotantokäytön ohjeet välittyvät järjestelmäkehotteiden, työkalumäärittelyjen, käyttäjän jatkoviestien, työkalujen vastausten ja virheilmoitusten kautta.

Yhtiön multimodaaliseen työhön kuuluu visuaalisen ja spatiaalisen päättelyn tehtäviä sekä useita vuorovaikutuskierroksia sisältäviä työkalukutsuja, jotka edellyttävät visuaalista ymmärrystä. Baseten kertoo, että jälkikoulutus paransi tuloksia MMMU-Prossa, asiantuntijatason multimodaalisen päättelyn vertailutestissä. Eräässä aiheeseen liittyvässä tutkimuksessa, joka toimitettiin julkaistavaksi 5. lokakuuta 2026, kuvataan 50 miljoonan parametrin projektori, joka yhdistää Kimi K2.6:n näköenkooderin GLM 5.2:een ja GLM 5.3:een pitäen samalla esikoulutettujen mallien painot muuttumattomina. Mallia arvioitiin MMMU-Prolla ja BLINKillä.

Mukauttamisen mitattuja tuloksia

CodeRabbitin 11. elokuuta 2026 julkaistussa tutkimuskatsauksessa kuvataan NVIDIA:n ja Basetenin kanssa toteutettua hanketta, jossa Nemotron 3.5 Lightning mukautettiin koodikatselmusten reitittämiseen. Mukautuksessa käytettiin ensin ohjattua hienosäätöä ja sen jälkeen vahvistusoppimista, jossa hyödynnettiin todennettavissa olevia palkkioita. Lukitussa, 1 000 tehtävän arvioinnissa reitityksen täsmällinen vastaavuus nousi lähtötason mallin 75,8 prosentista 80,4 prosenttiin ohjatun hienosäädön jälkeen ja edelleen 80,7 prosenttiin palkkiopohjaisen koulutuksen jälkeen. Cohenin kappa, joka mittaa sattuman ylittävää yhtäpitävyyttä, nousi ensin 0,429:stä 0,461:een ja sitten 0,544:ään.

CodeRabbit tulkitsi lopullisen reitityksen yhtäpitävyyden 0,3 prosenttiyksikön muutoksen tulokseksi, joka ei merkinnyt heikkenemistä, eikä tilastollisesti ratkaisevaksi parannukseksi, koska parittaisen luottamusvälin alaraja oli nollan alapuolella ja yläraja sen yläpuolella. Palvelukustannusten vertailussa kustannusten arvioitiin alenevan 50,4 prosenttia kyllästetyllä läpimenolla: sama arviointi maksoi lähtötason mallilla 2,34 dollaria ja yhdellä Basetenin A100:lla 1,16 dollaria. Jatkuvan kuormituksen ja tuotantoliikenteen tarkistukset jäivät myöhempään vaiheeseen.

Harvey tarjoaa toisenlaisen esimerkin mukauttamisesta. Baseten kertoo, että oikeudellisiin sovelluksiin keskittyvä tekoälyalusta jälkikouluttaa Nemotronia Basetenissä erityisiin työnkulkuihin, joita käyttää päivittäin kymmeniätuhansia lakimiehiä. Harveyn ja Basetenin 8. syyskuuta 2026 julkaisemassa tutkimuksessa M&A-aineistohuone ladattiin Python-ympäristöön, jossa pääagentti jakoi rajattuja tarkastustehtäviä aliagenteille. Harvey kertoi, että seitsemän mallin ja 50 erillään pidetyn aineistohuoneen testissä agenttikehikko nosti arviointikriteerien keskimääräisen läpäisyasteen 23,3 prosentista 62,4 prosenttiin.

Harveyn katsauksen mukaan vahvistusoppiminen Qwen3.5-122B-A10B-päämallilla nosti sen läpäisyasteen näissä 50 aineistohuoneessa 29,9 prosentista 63,0 prosenttiin. Harvey kuvaa kokeita kuitenkin alustaviksi ja toteaa, että matkaa lähes täydelliseen läpäisyasteeseen on edelleen huomattavasti.

Käyttöönotto ja puhekäyttöinen tekoäly

Baseten Loops yhdistää hallitut vahvistusoppimisen työnkulut dedikoituun inferenssiin, mutta asiakkaat säilyttävät koulutettujen malliensa painojen omistajuuden. Loops tukee Nemotron 3.5 Super VL:ää ja Nemotron 3 Ultraa, ja Super VL:ää voi kouluttaa BF16- ja NVFP4-muodoissa.

Yhtiöt arvioivat myös Nemotron-pohjaisia puheagentteja kokonaisissa sovelluksissa, mukaan lukien mallien laatu ja reagointinopeus. Basetenin 4. elokuuta 2026 julkaistussa puheentunnistuksen vertailutestissä raportoitiin, että yksi NVIDIA H100 pystyi ylläpitämään jopa 100 samanaikaista reaaliaikaista WebSocket-äänivirtaa. Viimeistelyviive eli aika siitä, kun puhuja lopettaa puhumisen, siihen, kun lopullinen litterointi on valmis, kasvoi 98 millisekunnista kahdeksalla virralla 138 millisekuntiin sadalla virralla.

Basetenin jäsenyys koalitiossa yhdistää mallien mukauttamisen infrastruktuuriin, jolla niitä käytetään. Asiakastulokset tarjoavat konkreettista näyttöä tästä lähestymistavasta, mutta CodeRabbitin arvio kyllästetyn läpimenon kustannuksista ja keskeneräiset tuotantotarkistukset sekä Harveyn varhaisen vaiheen kokeet tuovat esiin sen rajat. Keskeinen kysymys on, kuinka hyvin mitatut hyödyt säilyvät jatkuvassa tuotantokäytössä.