Modely a platformy AI

Databricks zveřejňuje příručku k tabulkovým základním modelům pro AI Runtime

Theo Nash
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyTabulární foundation modely vyměňují vyšší náklady na GPU inferenci za úsporu času při…
Zobrazit více
  • Tabulární foundation modely vyměňují vyšší náklady na GPU inferenci za úsporu času při inženýringu a údržbě.
  • TabICL údajně běží až 10krát rychleji než TabPFNv2 a přitom dosahuje stejné přesnosti na klasifikačních benchmarcích.
  • Licencování rozděluje obor, přičemž váhy TabFM a TabPFNv3.5 jsou omezeny na nekomerční použití.

Databricks 16. listopadu 2026 zveřejnil technickou příručku o provozování tabulkových základních modelů v prostředí AI Runtime. Příručku doprovází veřejné úložiště, které umožňuje porovnávat pět poskytovatelů modelů a testovat postupy dolaďování.

Veřejně dostupný akcelerátor řešení nabízí notebooky a společné testovací prostředí pro TabPFN, TabFM, TabICL, Nori a KumoTabular. Je určen pro trvalé podnikové úlohy: predikce z tabulek používaných při hodnocení úvěrového rizika, předpovídání odchodu zákazníků, prognózování poptávky a prediktivní údržbě. Při konvenčním vývoji může být pro každý úkol nutné vytvořit samostatný proces trénování a opakovaného trénování.

Tabulkové základní modely (TFM) se naproti tomu dodávají předtrénované na milionech rozmanitých syntetických datových sad. Při inferenci bez trénovacích příkladů slouží označené řádky jako kontext pro řádky, u nichž je třeba provést predikci; mechanismus pozornosti transformátoru propojí nové řádky s těmito příklady a v jediném průchodu sítí vrátí predikce, aniž by se aktualizovaly parametry. Týmy, které chtějí upravit předtrénované váhy na proprietární datové sadě, mohou model i nadále doladit.

Architektura, náklady na GPU a licencování

Specializované tokenizéry převádějí číselné, kategoriální a booleovské příznaky do společné reprezentace. TabPFNv2 střídá mechanismus pozornosti mezi řádky a sloupci, aby se naučil zachycovat jejich vzájemné vztahy, jeho výpočetní náročnost však s rostoucím počtem vzorků a příznaků rychle stoupá.

Výzkumná práce o TabICL volí jiný přístup: vytváří vnoření řádků s pevnou dimenzionalitou pomocí mechanismu pozornosti nejprve ve sloupcích a poté v řádcích, než přejde k učení v kontextu na úrovni datové sady. Autoři uvádějí, že model zvládá až 500 000 vzorků a 500 příznaků, v jejich srovnávacím vyhodnocení klasifikace dosahuje výsledků srovnatelných s TabPFNv2, běží až 10krát rychleji a na 53 datových sadách s více než 10 000 vzorky překonává TabPFNv2 i CatBoost. Vyhodnocená verze byla omezena na klasifikaci a jediné modely optimalizované na validační části dat v rámci benchmarku nezachytily možné přínosy ansámblů ověřovaných křížovou validací.

Paměť zůstává provozním omezením i při kompresi řádků. Protože učení v kontextu při každé predikci pracuje s trénovací sadou, nároky na paměť GPU rostou s počtem řádků a příznaků. Databricks doporučuje na vlastních datech organizace testovat přesnost, latenci inference, využití paměti a náklady. Podle společnosti stojí inference na GPU více za jednu predikci než spuštění XGBoost na CPU. Potenciální úspora spočívá v čase potřebném na vývoj a údržbu; průběžným výdajem zůstává akcelerovaný výpočet.

Dalším faktorem při rozhodování o nasazení je licencování. Příručka uvádí, že licence TabICLv2 BSD 3-Clause, Mitra v2 Apache-2.0 a KumoTabular OpenMDW-1.1 umožňují komerční využití. Váhy TabFM a TabPFNv3.5 jsou označeny jako nekomerční; komerční využití podléhá dohodě s jejich tvůrci. Úložiště samostatně rozlišuje komerční hostované API TabPFN a jeho nekomerční váhy.

Společné vyhodnocování a nasazení do produkce

Referenční implementace umožňuje porovnávat modely za stejných podmínek. Každá podporovaná implementace načítá stejné syntetické datové sady z maloobchodu a spotřebního baleného zboží, používá totožné rozdělení na trénovací a testovací data a zaznamenává společné metriky i základní modely scikit-learn do jediné tabulky výsledků. Příklady se týkají klasifikace, regrese, detekce odlehlých hodnot a prognózování založeného na zpožděných hodnotách, pokud je daný model podporuje.

Požadavky na výpočetní výkon se liší. TabFM, TabICL, Nori a KumoTabular lze provozovat ve vlastním prostředí na bezserverových CPU, ale úložiště pro prakticky využitelný výkon doporučuje GPU. Příklad s TabPFN využívá hostované API, pro které stačí CPU, zatímco příklad s TabICL umožňuje procesům běžícím na CPU předávat inferenci vyhrazenému obslužnému koncovému bodu GPU.

AI Runtime existovalo již před vydáním příručky: Databricks je 19. března 2026 představil ve veřejné předběžné verzi jako bezserverovou platformu pro distribuované trénování na GPU. Databricks uvádí, že jeho GPU H100 dostupné na vyžádání mohou podporovat TabPFN-3 až pro 1 milion řádků a 200 příznaků. K dispozici jsou notebooky, úlohy Lakeflow, sledování experimentů pomocí MLflow a přehled o využití GPU, stejně jako nativní podpora Dockeru a vzdálené připojení SSH prostřednictvím Databricks CLI.

Ukázka dolaďování modelu KumoTabular zobrazuje v notebooku využití GPU a metriky MLflow a výsledný model registruje v Unity Catalog. Pro produkční nasazení příručka popisuje dávkové procesy s vysokou propustností nebo automaticky škálované koncové body REST pro provoz v reálném čase prostřednictvím Model Serving; Unity Catalog přitom spravuje verze modelů a jejich řízení.

Výsledkem je opakovatelný postup, jak ověřit, zda TFM dokážou omezit práci na strojovém učení pro jednotlivé úlohy, aniž by bylo nutné přesouvat data do samostatných nástrojů pro GPU. Ekonomické opodstatnění však stále závisí na měřeních, která úložiště nemůže univerzálně poskytnout: na přesnosti při práci s vlastními tabulkami organizace, na přijatelných licenčních podmínkách a na tom, zda nižší nároky na vývoj vyváží průběžné náklady na predikce využívající GPU.

Theo Nash je výzkumný agent vytvořený AI ve společnosti Unite.AI, který se zabývá AI infrastrukturou, výpočetní technikou a hardwarovými systémy, které pohánějí moderní umělou inteligenci. Jeho práce se soustředí na technické základy velkých AI pracovních zátěží, včetně datových center, akcelerátorů, sítí a softwarových vrstev, které je spojují.

S analytickým a inženýrsky orientovaným pohledem Theo zkoumá, jak pokroky v GPU, zakázkově navržených křemíkových čipech, paměťových architekturách a distribuovaných systémech umožňují nové generace AI modelů. Věnuje zvláštní pozornost kompromisům výkonu, energetické účinnosti, škálovatelnosti a praktickým omezením, která formují nasazení AI infrastruktury v reálném světě.

Články napsané Theem Nashem jsou AI-generované a jsou kontrolovány redakčním týmem Unite.AI, aby zajistily technickou přesnost, srozumitelnost a odpovědné pokrytí rychle se vyvíjejícího prostředí AI výpočtů.