NVIDIA julkaisee avoimen Kumo Tabular -mallin taulukkoennusteisiin

NVIDIA julkaisi 29. syyskuuta 2026 Kumo Tabular -mallin, avoimen perustamallin taulukko‑luokitteluun ja regressioon, joka ennustaa uusien rivien tunnisteet yhdellä eteenpäin suorituksella ilman koulutusta, viritys‑ tai ominaisuuksien suunnittelua. Malli on esikoulutettu kokonaan keinotekoista dataa käyttäen, ja se on saatavilla kolmessa koossa, jotka vaihtelevat 28 miljoonasta 215 miljoonaan parametriin.

Kumo Tabular kuuluu NVIDIA Kumo Structured -mallikokoelmaan, Hugging Face -blogin ilmoituksen mukaan. Painot ovat saatavilla mallin Hugging Face -listauksesta OpenMDW 1.1 -lisenssin alla, jonka NVIDIA mukaan sallii kaupallisen käytön, ja inferenssi tapahtuu avoimen lähdekoodin structured-data-models -kirjaston kautta, joka lataa painot ensimmäisellä käyttökerralla ja tarjoaa esikäsittelyn, yhdistämisen ja moniluokkakäsittelyn, joita NVIDIA:n arvioinneissa käytetään.

NVIDIA asettaa julkaisun kahden vuosikymmenen aikajaksolle, jonka aikana yritysten taulukko‑tehtävät, kuten asiakaspoistuma, maksukyvyttömyys, kysyntä‑ ja hintojen ennustaminen, ovat tukeutuneet gradienttitehostettuihin puuhun, ja jokainen uusi kysymys on vaatinut oman merkintä‑, ominaisuuksien suunnittelu‑, viritys‑, validointi‑ ja käyttöönottojakson. Yritys kertoo, että malli soveltaa suurten kielimallien kontekstissa oppimisen mallia taulukoihin, lukien merkityn taulukon kontekstina ennustaakseen suoraan uusien rivien tunnisteet.

Arkkitehtuuri ja kontekstissa tapahtuva ennustus

Kumo Tabular on taulukon rakenteen ympärille rakennettu Transformer, joka käyttää sarake‑, rivi‑ ja kontekstissa tapahtuvaa huomiointia kuten TabICL:ssä ja TabPFN:ssä esiteltiin. Ennustettaessa tunnistetta malli määrittää, mitä kukin arvo tarkoittaa sarakkeessaan, miten rivin sarakkeet vuorovaikuttavat, ja miten merkityt kontekstirivit liittyvät kyselyriveihin, joiden tunnisteet ovat tuntemattomia.

Solujen upotusvaiheessa soluryhmästä muodostuu token. Numeraaliset ja kategoriset arvot kulkevat Fourier‑ominaisuuksien, oppien taajuuksien sini‑ ja kosinifunktioiden läpi, kullekin tyypille omilla painoilla. Puuttuvat arvot käsitellään erityisesti eikä niitä tarvitse imputoida, ja jokainen kontekstin token saa tunnisteupotuksen. Jokainen rivi pakataan sitten upotukseksi vuorottelevan sarakehuomion avulla, joka on indusoitu itsehuomio, jonka kustannus kasvaa lineaarisesti rivien määrän kanssa, ja rivi‑huomio oppii, miten rivin ominaisuudet vuorovaikuttavat käyttäen pyöriviä sijainteja sarakkeiden erottamiseen. Neljä opittavaa CLS‑tokenia liitetään jokaiseen riviin ja toimivat sen lopullisena luentana.

Lopullinen Transformer toimii rivien upotuksilla. Kontekstirivit huomioivat toisiaan, kun taas kyselyrivit huomioivat vain kontekstirivit, joten jokainen ennustus riippuu vain kontekstista ja itse rivistä, ja kontekstin avaimet ja arvot lasketaan kerran ja niitä käytetään uudelleen myöhemmissä ennusteissa. Kyselyrivit käyttävät Test‑GQA:ta, joka kutistaa välimuistia jokaisessa luetussa ennusteessa. Pituusherkkä huomiointilämpötila skaalaa jokaisen kyselyn tekijällä, joka kasvaa avainten lukumäärän logaritmin mukaan, ja kunkin päähän oppiva kerroin on opittu erikseen, mikä pitää huomion terävänä, kun inferenssitaulukko on paljon pidempi kuin tyypillinen koulutustaulukko. Päät tuottavat luokkatodennäköisyydet luokitteluun tai 999 kvantiilia regressioon, mikä antaa pisteennusteen ja epävarmuusarvion.

Esikoulutus keinotekoisten taulukoiden avulla

Jokainen koulutustaulukko otetaan otokseksi rakenteellisesta kausaalimallista kuudessa vaiheessa. Generaattori luo kokonaistaulukon konfiguraation, jonka jälkeen se yhdistää piilotetut muuttujat satunnaiseen kausaaliseen verkkoon, joka arvioidaan juuresta lehtiin käyttäen satunnaisesti valittuja funktioita jokaisessa solmussa, mukaan lukien lineaarikartat, pienet neuroverkot, puut ja Gaussian‑prosessit. Jotkut solmut muuttuvat numeerisiksi tai kategorisiksi sarakkeiksi, yksi tulee kohteeksi, ja loput pysyvät piilossa, kuten mittaamattomat syyt todellisessa datassa. Jälkikäsittely korreloi sarjaryhmiä, leikkaa poikkeamat ja lisää puuttuvat arvot, ja puupohjainen ensemble‑tarkistus hylkää kaikki taulukot, joissa ei ole opittavaa signaalia.

NVIDIA kertoi rakentaneensa todellisten taulukoiden epätäydellisyyksiä generaattoriin: arvot puuttuvat useissa malleissa, jotkut ominaisuudet karkeistetaan niin, että kaksoisrivit voivat erota tunnisteessaan, joissakin kategorisissa sarakkeissa on paljon tasoja, ja regressiokohteet voivat olla raskaasti häntäviä. Koulutus käyttää ristiinentropian menetelmää luokitteluun ja kvantiilimenetelmää regressioon, ja kaksi tehtävää koulutetaan erillisinä malleina, kolmessa vaiheessa: taulukot, joissa on 1 024 riviä ja enintään 100 saraketta, kontekstit, jotka vaihtelevat 400–10 240 riviin, ja lopuksi kontekstit, joissa on enintään 60 000 riviä. Pienet, keskisuuret ja suuret variantit sisälsivät noin 35 miljoonaa, 71 miljoonaa ja 137 miljoonaa keinotekoista taulukkoa.

NVIDIAn ilmoittamat vertailutulokset

NVIDIA raportoi, että se suoritti kaikki kolme kokoa oletusasetuksilla täyttä TabArena‑pistetaulua vastaan, joka kattaa viritetyt gradienttitehostetut puut, AutoGluonin ja viimeisimmät taulukko‑perustamallit, ja että Kumo Tabular sijoittuu ensimmäiseksi kokonaisuutena ELO‑arvolla 1950, samalla kun se toimii 26‑kertaisesti nopeammin kuin LimiX‑2 yhdenmukaisessa RTX 6000 Pro‑yksittäisen arviointiasetuksen alla. Yritys totesi, että kolme kokoa asettavat uuden huipputason tarkkuus‑tehokkuus‑Pareto‑rajalle.

BeyondArena‑ssa NVIDIA raportoi ELO‑pisteen 1418 ja parannettavuusasteen 7,78 %, sijoittuen ensimmäiseksi kyseisellä tulostaululla. TALENT‑ssa yhtiö ilmoittaa saavuttaneensa parhaan kokonaisrankingin luokittelutarkkuudessa, luokittelun log‑häviössä ja regressio‑RMSE:ssä, keskiarvoisten sijoitusten ollessa vastaavasti 6,67, 3,98 ja 4,22. ScoringBench‑ssa, ennustevälitteisyyden vertailussa, NVIDIA kertoi, että Kumo Tabular‑Large ja Kumo Tabular‑Medium sijoittuvat keskiarvosijoituksella ensimmäiseksi ja toiseksi.

Rajoitukset ja saatavuus

Kumo Tabular toimii vain numeerisilla ja kategorisilla sarakkeilla; teksti, kuvat tai aikaleimat voidaan muuntaa ominaisuuksiksi sisäänrakennettujen esikäsittelyreseptien avulla. Yksi eteenpäin suuntautuva läpikäynti kattaa enintään 10 luokkaa, ja kirjasto laajentaa mallin mihin tahansa luokkamäärään virhekorjaavien lähtökoodien avulla. NVIDIA varoittaa, että tarkkuus voi heikentyä taulukoissa, jotka poikkeavat merkittävästi koulutusalueista, tai kun kyselyrivit tulevat eri jakaumasta kuin kontekstirivit, ja se kehottaa varmistamaan tarkkuuden ja kalibroinnin erillisellä testidatalla ennen käyttöönottoa.

structured-data-models‑paketti on GPU‑natiivi, vaatii Pythonin version 3.11 tai uudemman sekä PyTorchin version 2.7 tai uudemman, ja suosittelee cudf:ää CUDA‑työkuormiin, jotta data‑kehyksen toiminnot pysyvät GPU:ssa. Paketti sisältää viitemalleja taulukkomallien perustamismalleista TabICLv2, KumoTabular ja TabFM sekä relaatiomallista KumoRelational, ja NVIDIA:n kirjoittama koodi repositoriossa on lisensoitu Apache 2.0 -lisenssillä.

NVIDIA kertoi, että Kumo Tabularin koulutusresepti ja sen taustalla olevat keinotekoiset datageneraattorit julkaistaan pian.