NVIDIA ने टेबलर प्रेडिक्शन के लिए Open Kumo Tabular Model जारी किया

NVIDIA ने 29 सितंबर, 2026 को Kumo Tabular जारी किया, जो टेबलर वर्गीकरण और प्रतिगमन के लिए एक ओपन फाउंडेशन मॉडल है और यह नई पंक्तियों के लेबल को एक ही फॉरवर्ड पास में, बिना प्रशिक्षण, ट्यूनिंग या फीचर इंजीनियरिंग के, पूर्वानुमानित करता है। यह मॉडल पूरी तरह से कृत्रिम डेटा पर प्री‑ट्रेन किया गया था और यह 28 मिलियन से 215 मिलियन पैरामीटर तक के तीन आकारों में उपलब्ध है।

Kumo Tabular, NVIDIA Kumo Structured मॉडल संग्रह का हिस्सा है, Hugging Face के ब्लॉग पर घोषणा के अनुसार। वज़न मॉडल की Hugging Face लिस्टिंग से OpenMDW 1.1 लाइसेंस के तहत उपलब्ध हैं, जिसे NVIDIA ने व्यावसायिक उपयोग की अनुमति बताई है, और इनफ़रेंस ओपन‑सोर्स structured-data-models लाइब्रेरी के माध्यम से चलता है, जो पहली बार उपयोग पर वज़न डाउनलोड करती है और प्री‑प्रोसेसिंग, एन्सेम्बलिंग और कई‑क्लास हैंडलिंग प्रदान करती है जो NVIDIA के मूल्यांकन में उपयोग हुई।

NVIDIA इस रिलीज़ को दो दशकों के संदर्भ में रखता है, जिन दो दशकों में एंटरप्राइज़ टेबलर कार्य जैसे चर्न, डिफॉल्ट, डिमांड और प्राइस प्रेडिक्शन ग्रेडिएंट‑बूस्टेड ट्रीज़ पर निर्भर रहे हैं, और प्रत्येक नया प्रश्न लेबलिंग, फीचर इंजीनियरिंग, ट्यूनिंग, वैलिडेशन और डिप्लॉयमेंट के अपने चक्र की मांग करता है। कंपनी कहती है कि मॉडल बड़े भाषा मॉडलों के इन‑कंटेक्स्ट लर्निंग पैटर्न को टेबल्स पर लागू करता है, लेबल किए हुए टेबल को संदर्भ के रूप में पढ़कर नई पंक्तियों के लेबल को सीधे पूर्वानुमानित करता है।

आर्किटेक्चर और इन‑कंटेक्स्ट प्रेडिक्शन

Kumo Tabular एक ट्रांसफ़ॉर्मर है जो टेबल की संरचना के चारों ओर निर्मित है, और कॉलम, रो, तथा इन‑कंटेक्स्ट अटेंशन का उपयोग करता है जैसा कि TabICL और TabPFN में प्रस्तुत किया गया है। लेबल का पूर्वानुमान करने के लिए, मॉडल निर्धारित करता है कि प्रत्येक मान उसके कॉलम में क्या अर्थ रखता है, रो के कॉलम कैसे परस्पर क्रिया करते हैं, और लेबल किए हुए संदर्भ रो क्वेरी रो से कैसे संबंधित हैं जिनके लेबल अज्ञात हैं।

सेल‑एंबेडिंग चरण में, कोशिकाओं का एक समूह एक टोकन बन जाता है। संख्यात्मक और श्रेणीबद्ध मान फ़ूरियर फ़ीचर्स, सीखे गए आवृत्तियों के साइन और कोसाइन के माध्यम से जाते हैं, प्रत्येक प्रकार के लिए अलग-अलग वज़न के साथ। लापता मानों को विशेष रूप से संभाला जाता है और उन्हें इम्प्यूटेशन की आवश्यकता नहीं होती, और संदर्भ में प्रत्येक टोकन को एक लेबल एंबेडिंग मिलती है। प्रत्येक रो को फिर वैकल्पिक कॉलम अटेंशन द्वारा एंबेडिंग में संकुचित किया जाता है, जो पंक्तियों की संख्या के साथ रैखिक रूप से बढ़ने वाला प्रेरित सेल‑अटेंशन है, जिसमें रो अटेंशन सीखता है कि रो की विशेषताएँ कैसे परस्पर क्रिया करती हैं, और कॉलम को अलग करने के लिए रोटरी पोज़िशन का उपयोग करता है। चार सीखने योग्य CLS टोकन प्रत्येक रो में जुड़ते हैं और इसे अंतिम रीडआउट के रूप में कार्य करते हैं।

एक अंतिम ट्रांसफ़ॉर्मर रो एंबेडिंग्स पर कार्य करता है। संदर्भ रो एक-दूसरे पर अटेंड करते हैं जबकि क्वेरी रो केवल संदर्भ रो पर अटेंड करते हैं, इसलिए प्रत्येक पूर्वानुमान केवल संदर्भ और स्वयं रो पर निर्भर करता है, और संदर्भ की कुंजियों और मानों की गणना एक बार की जाती है और बाद के पूर्वानुमानों के लिए पुनः उपयोग होती है। क्वेरी रो Test-GQA का उपयोग करते हैं, जो प्रत्येक पूर्वानुमान द्वारा पढ़े जाने वाले कैश को घटाता है। लंबाई‑सचेत अटेंशन तापमान प्रत्येक क्वेरी को एक कारक से स्केल करता है जो कुंजियों की संख्या के लघुगणक के साथ बढ़ता है, प्रत्येक हेड के लिए अलग से सीखा गया गुणांक के साथ, जिससे जब इनफ़रेंस टेबल सामान्य प्रशिक्षण टेबल से बहुत लंबी हो तो अटेंशन तेज़ बना रहता है। एक हेड वर्गीकरण के लिए क्लास संभावनाएँ या प्रतिगमन के लिए 999 क्वांटाइल्स आउटपुट करता है, जिससे एक बिंदु पूर्वानुमान और अनिश्चितता अनुमान मिलता है।

कृत्रिम टेबल्स पर प्री‑ट्रेनिंग

प्रत्येक प्रशिक्षण टेबल को छह चरणों में एक स्ट्रक्चरल कारणात्मक मॉडल से सैंपल किया जाता है। जेनरेटर पूरे टेबल के लिए एक कॉन्फ़िगरेशन बनाता है, फिर छिपे हुए वेरिएबल्स को एक रैंडम कारणात्मक ग्राफ़ से जोड़ता है जो जड़ से पत्ती तक मूल्यांकन किया जाता है, प्रत्येक नोड पर रैंडम रूप से चुनी गई फ़ंक्शन्स का उपयोग करके, जिसमें रैखिक मैप, छोटे न्यूरल नेटवर्क, ट्री और गॉसियन प्रोसेस शामिल हैं। कुछ नोड संख्यात्मक या श्रेणीबद्ध कॉलम बनते हैं, एक लक्ष्य बनता है, और बाकी छिपे रहते हैं, जैसे वास्तविक डेटा के पीछे अनमापित कारण। पोस्ट‑प्रोसेसिंग कॉलम समूहों को सहसंबंधित करती है, आउट्लायर को क्लिप करती है, और लापता मानों को इंजेक्ट करती है, और एक ट्री‑एन्सेम्बल जांच किसी भी टेबल को त्याग देती है जिसमें सीखने योग्य संकेत नहीं होता।

NVIDIA ने कहा कि उसने वास्तविक टेबल्स की अपूर्णताओं को जेनरेटर में शामिल किया है: मान कई पैटर्न में गायब हो जाते हैं, कुछ फीचर को मोटा किया जाता है ताकि डुप्लिकेट रो अपने लेबल पर असहमत हो सकें, कुछ श्रेणीबद्ध कॉलम में कई स्तर होते हैं, और प्रतिगमन लक्ष्य भारी‑टेल्ड हो सकते हैं। प्रशिक्षण वर्गीकरण के लिए क्रॉस‑एंट्रॉपी लॉस और प्रतिगमन के लिए क्वांटाइल लॉस का उपयोग करता है, दोनों कार्य अलग-अलग मॉडलों के रूप में प्रशिक्षित होते हैं, और यह तीन चरणों में चलता है: 1,024 पंक्तियों और अधिकतम 100 कॉलम वाली टेबल्स, 400 से 10,240 पंक्तियों तक के संदर्भ, और अंत में अधिकतम 60,000 पंक्तियों तक के संदर्भ। छोटे, मध्यम और बड़े संस्करण क्रमशः लगभग 35 मिलियन, 71 मिलियन और 137 मिलियन कृत्रिम टेबल्स देखे गए।

NVIDIA द्वारा रिपोर्ट किए गए बेंचमार्क परिणाम

NVIDIA रिपोर्ट करता है कि उसने सभी तीन आकारों को डिफ़ॉल्ट सेटिंग्स के साथ पूर्ण TabArena लीडरबोर्ड के विरुद्ध चलाया, जिसमें ट्यून किए हुए ग्रेडिएंट‑बूस्टेड ट्रीज़, AutoGluon, और नवीनतम टेबलर फाउंडेशन मॉडल शामिल हैं, और Kumo Tabular कुल मिलाकर पहला स्थान 1950 ELO के साथ प्राप्त करता है, जबकि एक समान एकल RTX 6000 Pro मूल्यांकन सेटअप में LimiX-2 से 26 गुना तेज़ चलता है। कंपनी ने कहा कि ये तीन आकार सटीकता‑कुशलता पैरिटो फ्रंट पर नई स्टेट‑ऑफ़‑द‑आर्ट स्थापित करते हैं।

BeyondArena पर, NVIDIA ने 1418 का ELO और 7.78% का Improvability स्कोर रिपोर्ट किया, जिससे वह उस लीडरबोर्ड में प्रथम स्थान पर आया। TALENT पर, कंपनी ने वर्गीकरण सटीकता, वर्गीकरण लॉग-लॉस, और प्रतिगमन RMSE में कुल मिलाकर शीर्ष रैंकिंग की रिपोर्ट की, जिनकी औसत रैंक क्रमशः 6.67, 3.98 और 4.22 थीं। ScoringBench, जो भविष्यवाणी वितरणों के लिए एक बेंचमार्क है, पर NVIDIA ने कहा कि Kumo Tabular-Large और Kumo Tabular-Medium क्रमशः औसत रैंक में प्रथम और द्वितीय स्थान पर हैं।

सीमाएँ और उपलब्धता

Kumo Tabular केवल संख्यात्मक और श्रेणीबद्ध कॉलम पर काम करता है; पाठ, छवियां, या टाइमस्टैम्प को अंतर्निहित प्रीप्रोसेसिंग रेसिपीज़ के माध्यम से फीचर में बदला जा सकता है। एकल फॉरवर्ड पास अधिकतम 10 वर्गों को कवर करता है, और लाइब्रेरी त्रुटि-सुधार आउटपुट कोड के साथ मॉडल को किसी भी संख्या में वर्गों तक विस्तारित करती है। NVIDIA चेतावनी देता है कि प्रशिक्षण रेंज से बहुत आगे की तालिकाओं पर या जब क्वेरी पंक्तियां संदर्भ पंक्तियों से अलग वितरण से आती हैं, तो सटीकता घट सकती है, और यह तैनाती से पहले रखे गए डेटा पर सटीकता और कैलिब्रेशन को सत्यापित करने की सलाह देता है।

structured-data-models पैकेज GPU-नेटिव है, इसे Python 3.11 या उसके बाद के संस्करण और PyTorch 2.7 या उसके बाद के संस्करण की आवश्यकता होती है, और CUDA कार्यभार के लिए cudf की सिफारिश करता है ताकि डेटा फ्रेम संचालन GPU पर ही रहे। यह TabICLv2, KumoTabular, और TabFM जैसे टेबलर फाउंडेशन मॉडल के रेफ़रेंस इम्प्लीमेंटेशन को रिलेशनल मॉडल KumoRelational के साथ होस्ट करता है, और रिपॉज़िटरी में NVIDIA द्वारा लिखित कोड Apache 2.0 के तहत लाइसेंस किया गया है।

NVIDIA ने कहा कि Kumo Tabular के पीछे का प्रशिक्षण रेसिपी और कृत्रिम डेटा जेनरेटर जल्द ही जारी किए जाएंगे।