NVIDIA, Tablo Tahmini için Açık Kumo Tabular Modelini Yayınladı

NVIDIA, 29 Eylül 2026 tarihinde Kumo Tabular’ı yayınladı; bu, tablo sınıflandırması ve regresyonu için açık bir temel model olup, yeni satırların etiketlerini tek bir ileri geçişte, eğitim, ayarlama veya özellik mühendisliği olmaksızın tahmin eder. Model tamamen yapay verilerle önceden eğitildi ve 28 milyon ile 215 milyon parametre arasında değişen üç boyutta sunulmaktadır.

Kumo Tabular, NVIDIA Kumo Structured model koleksiyonunun bir parçasıdır, Hugging Face blogundaki duyuruna göre. Ağırlıklar, OpenMDW 1.1 lisansı altında modelin Hugging Face listesinden temin edilebilir; NVIDIA bu lisansın ticari kullanımına izin verdiğini belirtti ve çıkarım, açık kaynak structured-data-models kütüphanesi aracılığıyla çalışıyor; bu kütüphane ağırlıkları ilk kullanımda indirir ve NVIDIA’nın değerlendirmelerinde kullanılan ön işleme, toplama ve çok sınıflı işleme işlevlerini sağlar.

NVIDIA, bu yayını iki on yıl boyunca kurumsal tablo görevlerinin (müşteri kaybı, temerrüt, talep ve fiyat tahmini gibi) gradient artırmalı ağaçlara dayandığı bir döneme karşı konumlandırıyor; her yeni soru, etiketleme, özellik mühendisliği, ayarlama, doğrulama ve dağıtım döngüsünü gerektiriyordu. Şirket, modelin büyük dil modellerinin bağlam içi öğrenme desenini tablolara uyguladığını, etiketli bir tabloyu bağlam olarak okuyarak yeni satırların etiketlerini doğrudan tahmin ettiğini belirtiyor.

Mimari ve Bağlam İçinde Tahmin

Kumo Tabular, tablo yapısı etrafında inşa edilmiş bir Transformer olup, TabICL ve TabPFN’de tanıtılan sütun, satır ve bağlam içi dikkat mekanizmalarını kullanır. Bir etiketi tahmin etmek için model, her değerin sütun içindeki anlamını, bir satırın sütunlarının nasıl etkileşime girdiğini ve etiketli bağlam satırlarının etiketleri bilinmeyen sorgu satırlarıyla ilişkisini belirler.

Hücre gömme aşamasında, bir hücre grubu bir token haline gelir. Sayısal ve kategorik değerler, öğrenilen frekansların Fourier özellikleri, sinüs ve kosinüsleri aracılığıyla, her tip için ayrı ağırlıklarla işlenir. Eksik değerler özel olarak ele alınır ve herhangi bir doldurma (imputation) gerektirmez; bağlamdaki her token bir etiket gömme alır. Her satır daha sonra, satır sayısıyla lineer artan maliyete sahip, sütun dikkatini değiştirerek uygulanan bir öz-dikkat (self-attention) ile sıkıştırılarak bir gömme elde edilir; bu satır dikkati, bir satırın özelliklerinin nasıl etkileştiğini öğrenir ve sütunları ayırt etmek için döner konumları (rotary positions) kullanır. Dört öğrenilebilir CLS token’ı her satıra eklenir ve onun nihai okuması olarak görev yapar.

Son bir Transformer, satır gömmeleri üzerinde çalışır. Bağlam satırları birbirine dikkat ederken, sorgu satırları yalnızca bağlam satırlarına dikkat eder; böylece her tahmin yalnızca bağlam ve satırın kendisine bağlıdır ve bağlamın anahtarları ve değerleri bir kez hesaplanıp sonraki tahminlerde yeniden kullanılır. Sorgu satırları, her tahminin okuduğu önbelleği küçülten Test-GQA’yı kullanır. Uzunluk‑duyarlı bir dikkat sıcaklığı, her sorguyu anahtar sayısının logaritmasıyla artan bir faktörle ölçeklendirir; bu faktör, her başlık için ayrı ayrı öğrenilen bir katsayıdır ve çıkarım tablosu tipik bir eğitim tablosundan çok daha uzun olduğunda dikkatin keskin kalmasını sağlar. Bir başlık, sınıflandırma için sınıf olasılıklarını veya regresyon için 999 kuantilini üretir; bu da bir nokta tahmini ve bir belirsizlik tahmini sağlar.

Yapay Tablolar Üzerinde Ön Eğitim

Her eğitim tablosu, altı adımda bir Yapısal Nedensel Modelden örneklenir. Üreteç, tüm tablo için bir yapılandırma çeker, ardından gizli değişkenleri kökten yaprağa doğru değerlendirilen rastgele bir nedensel grafikle bağlar; bu grafikte her düğümde rastgele seçilen fonksiyonlar (lineer haritalar, küçük sinir ağları, ağaçlar ve Gaussian süreçleri) kullanılır. Bazı düğümler sayısal veya kategorik sütunlara dönüşür, bir tanesi hedef olur ve geri kalanlar gizli kalır; bu, gerçek verilerin arkasındaki ölçülmemiş nedenlere benzer. Son işlem, sütun gruplarını ilişkilendirir, aykırı değerleri kırpar ve eksik değerleri ekler; ayrıca bir ağaç‑ensemble kontrolü, öğrenilebilir bir sinyal olmayan tabloları eler.

NVIDIA, gerçek tabloların kusurlarını üreteceğe dahil ettiğini belirtti: değerler çeşitli desenlerde eksik olur, bazı özellikler kabalaştırılarak aynı satırların etiketlerinde tutarsızlık yaratabilir, bazı kategorik sütunlar çok sayıda seviyeye sahiptir ve regresyon hedefleri ağır kuyruklu olabilir. Eğitim, sınıflandırma için çapraz entropi kaybı ve regresyon için kuantil kaybı kullanır; iki görev ayrı modeller olarak eğitilir ve üç aşamada çalışır: 1.024 satır ve en fazla 100 sütunlu tablolar, 400 ile 10.240 satır arasında değişen bağlamlar ve nihayetinde en fazla 60.000 satırlık bağlamlar. Küçük, Orta ve Büyük varyantlar sırasıyla yaklaşık 35 milyon, 71 milyon ve 137 milyon yapay tablo gördü.

NVIDIA’nın Bildirdiği Kıyaslama Sonuçları

NVIDIA, tüm üç boyutu varsayılan ayarlarla tam TabArena lider tablosuna karşı çalıştırdığını, bu tablonun ayarlanmış gradient‑boosted ağaçları, AutoGluon ve son tabular temel modelleri kapsadığını ve Kumo Tabular’ın tek bir RTX 6000 Pro ile yapılan tutarlı bir değerlendirme ortamında LimiX‑2’ye göre 26 kat daha hızlı çalışırken 1950 ELO puanıyla genel olarak birinci sırada yer aldığını bildirdi. Şirket, üç boyutun doğruluk‑verimlilik Pareto ön yüzünde yeni bir en iyi teknoloji oluşturduğunu söyledi.

BeyondArena’da, NVIDIA 1418 ELO ve %7.78 İyileştirilebilirlik puanı raporlayarak o lider tablosunda birinci sırayı elde etti. TALENT’te, şirket sınıflandırma doğruluğu, sınıflandırma log-loss ve regresyon RMSE açısından en yüksek genel sıralamayı, sırasıyla ortalama 6.67, 3.98 ve 4.22 puanlarla bildirdi. ScoringBench’te, tahmini dağılımlar için bir ölçüt, NVIDIA Kumo Tabular-Large ve Kumo Tabular-Medium’ın ortalama sıralamada birinci ve ikinci sırada yer aldığını söyledi.

Sınırlamalar ve Kullanılabilirlik

Kumo Tabular yalnızca sayısal ve kategorik sütunlarda çalışır; metin, görüntü veya zaman damgaları, yerleşik ön işleme tarifleri aracılığıyla özelliklere dönüştürülebilir. Tek bir ileri geçiş en fazla 10 sınıfı kapsar ve kütüphane, modelin hata düzeltmeli çıktı kodlarıyla herhangi bir sınıf sayısına genişletilmesini sağlar. NVIDIA, doğruluğun eğitim aralıklarının çok ötesindeki tablolar veya sorgu satırları bağlam satırlarından farklı bir dağılımdan geldiğinde azalabileceği konusunda uyarıda bulunur ve dağıtıma almadan önce tutulan veri üzerinde doğruluk ve kalibrasyonun doğrulanmasını önerir.

structured-data-models paketi GPU‑yerel olup, Python 3.11 veya daha yeni bir sürüm ve PyTorch 2.7 veya daha yeni bir sürüm gerektirir ve veri çerçevesi işlemlerinin GPU’da kalması için CUDA iş yüklerinde cudf kullanılmasını önerir. Bu paket, TabICLv2, KumoTabular ve TabFM tabular temel modellerinin yanı sıra ilişkisel model KumoRelational için referans uygulamalarını barındırır ve depodaki NVIDIA tarafından yazılmış kod Apache 2.0 lisansı altında lisanslanmıştır.

NVIDIA, Kumo Tabular’ın arkasındaki eğitim tarifinin ve yapay veri üreteçlerinin yakında yayınlanacağını söyledi.