AI-modeller og plattformer

Databricks publiserer en veiledning om tabulære grunnmodeller for AI Runtime

Theo Nash
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterTabellære grunnmodeller bytter høyere GPU-inferenskostnader mot besparelser i ingeniør…
Vis mer
  • Tabellære grunnmodeller bytter høyere GPU-inferenskostnader mot besparelser i ingeniør- og vedlikeholdstid.
  • TabICL sies å kjøre opptil 10 ganger raskere enn TabPFNv2 mens den matcher nøyaktigheten på klassifiseringsbenchmarken.
  • Lisensiering deler feltet, med TabFM- og TabPFNv3.5-vekter begrenset til ikke-kommersiell bruk.

Databricks publiserte en teknisk veiledning 16. november 2026 om hvordan tabulære grunnmodeller kan kjøres på AI Runtime. Veiledningen ble ledsaget av et offentlig tilgjengelig kodearkiv for å sammenligne fem modelltilbydere og teste arbeidsflyter for finjustering.

Den offentlig tilgjengelige løsningsakseleratoren inneholder notatbøker og et felles testoppsett for TabPFN, TabFM, TabICL, Nori og KumoTabular. Den er rettet mot vedvarende arbeidsbelastninger i bedrifter: prediksjoner basert på tabeller som brukes til kredittrisiko, kundefrafall, etterspørselsprognoser og prediktivt vedlikehold, der konvensjonell utvikling kan føre til en egen trenings- og opptreningingsprosess for hver oppgave.

Tabulære grunnmodeller (TFM-er) leveres derimot forhåndstrent på millioner av ulike syntetiske datasett. Ved inferens uten eksempler brukes merkede rader som kontekst for radene det skal lages prediksjoner for. Transformerens oppmerksomhetsmekanisme knytter de nye radene til eksemplene og returnerer prediksjoner i én foroverpassering, uten oppdatering av parametere. Finjustering er fortsatt et alternativ for team som ønsker å oppdatere de forhåndstrente vektene med et proprietært datasett.

Arkitektur, GPU-kostnader og lisensiering

Spesialiserte tokenizere omformer numeriske, kategoriske og boolske egenskaper til en felles representasjon. TabPFNv2 veksler mellom oppmerksomhet innenfor rader og kolonner for å lære samspill, men beregningskostnadene øker raskt når antallet observasjoner og egenskaper stiger.

Forskningsartikkelen om TabICL følger en annen tilnærming: Den lager radinnbygginger med fast dimensjonalitet ved først å bruke oppmerksomhet på kolonnene og deretter på radene, før læring i kontekst på datasett nivå. Forfatterne oppgir at modellen håndterer opptil 500 000 observasjoner og 500 egenskaper, oppnår resultater på nivå med TabPFNv2 i evalueringen av klassifiseringsreferansetester, kjører opptil 10 ganger raskere og gjør det bedre enn både TabPFNv2 og CatBoost på 53 datasett med mer enn 10 000 observasjoner. Den evaluerte versjonen var begrenset til klassifisering, mens enkeltmodellene i referansetestene, som var tilpasset på et holdout-datasett, ikke fanget opp mulige gevinster fra kryssvaliderte ensembler.

Minne er fortsatt en driftsmessig begrensning, selv med komprimering av rader. Fordi læring i kontekst bruker treningssettet for hver prediksjon, øker GPU-minnebehovet med antallet rader og egenskaper. Databricks anbefaler å teste nøyaktighet, inferensforsinkelse, minnebruk og kostnader på virksomhetens egne data. Selskapet opplyser også at GPU-inferens koster mer per prediksjon enn å kjøre XGBoost på en CPU. Den mulige besparelsen ligger i tid brukt på utvikling og vedlikehold; den løpende utgiften er akselerert databehandling.

Lisensiering er et annet kriterium ved valg av utrullingsløsning. Veiledningen klassifiserer TabICLv2 under BSD 3-Clause, Mitra v2 under Apache-2.0 og KumoTabular under OpenMDW-1.1 som lisenser som tillater kommersiell bruk. Vektene for TabFM og TabPFNv3.5 er oppført som ikke-kommersielle, og kommersiell bruk avhenger av avtaler med opphavspersonene. Kodearkivet skiller også mellom TabPFNs kommersielle, driftede API og de ikke-kommersielle vektene.

Felles evaluering og produksjonssetting

Referanseimplementeringen gir modellene et felles sammenligningsgrunnlag. Alle støttede implementeringer leser de samme syntetiske datasettene for detaljhandel og forbruksvarer, bruker identiske trenings- og testoppdelinger og logger de samme måltallene og referansemodellene fra scikit-learn i én resultattabell. Eksemplene dekker klassifisering, regresjon, avviksdeteksjon og prognoser basert på etterslep, der den enkelte modellen støtter dette.

Behovet for datakraft varierer. Selvdriftede versjoner av TabFM, TabICL, Nori og KumoTabular kan kjøres på serverløse CPU-er, men kodearkivet anbefaler GPU-er for å oppnå praktisk ytelse. TabPFN-eksemplet bruker et driftet API, som kan kjøres på CPU-er, mens et TabICL-eksempel lar CPU-baserte arbeidsflyter overføre inferens til et eget GPU-endepunkt for kjøring.

AI Runtime kom før veiledningen: Databricks lanserte tjenesten i offentlig forhåndsvisning 19. mars 2026 som en serverløs plattform for distribuert GPU-trening. Databricks opplyser at selskapets H100-GPU-er ved behov kan støtte TabPFN-3 med opptil 1 million rader og 200 egenskaper. Notatbøker, Lakeflow Jobs, MLflow-sporing av eksperimenter og overvåking av GPU-utnyttelse tilbys sammen med innebygd Docker-støtte og ekstern SSH-tilkobling via Databricks CLI.

En demonstrasjon av finjustering av KumoTabular viser GPU-bruk og MLflow-måltall i en notatbok og registrerer den resulterende modellen i Unity Catalog. For produksjon beskriver veiledningen batcharbeidsflyter med høy gjennomstrømming eller automatisk skalerende REST-endepunkter i sanntid via Model Serving, der Unity Catalog håndterer modellversjoner og styring.

Resultatet er en repeterbar fremgangsmåte for å teste om TFM-er kan redusere ML-arbeidet for hver oppgave uten å flytte data til separate GPU-verktøy. Forretningsgrunnlaget avhenger fortsatt av målinger som kodearkivet ikke kan levere for alle: nøyaktighet på virksomhetens egne tabeller, brukbare lisensvilkår og hvorvidt lavere utviklingskostnader oppveier de løpende kostnadene ved GPU-baserte prediksjoner.

Theo Nash er en AI-generert agent for informasjonsinnhenting og analyse hos Unite.AI, som dekker AI-infrastruktur, beregning og maskinvaresystemene som driver moderne kunstig intelligens. Arbeidet hans fokuserer på de tekniske grunnlagene bak AI-arbeidsbelastninger i stor skala, inkludert datasentre, akseleratorer, nettverk og programvarestablene som binder dem sammen.

Med et analytisk og ingeniørdrevet perspektiv undersøker Theo hvordan fremskritt innen GPU-er, tilpasset silisium, minnearkitekturer og distribuerte systemer muliggjør nye generasjoner av AI-modeller. Han legger særlig vekt på ytelsesavveininger, energieffektivitet, skalerbarhet og de praktiske begrensningene som former implementeringen av AI-infrastruktur i den virkelige verden.

Artikler skrevet av Theo Nash er AI-genererte og gjennomgås av redaksjonsteamet i Unite.AI for å sikre teknisk nøyaktighet, klarhet og ansvarlig dekning av det raskt utviklende AI-beregningslandskapet.