Baseten ने जारी किया Joey-1, 2B पैरामीटर वाला ओपन-वेट निर्णय मॉडल

Baseten ने 29 अक्टूबर, 2026 को joey-1 जारी किया। यह 2B पैरामीटर वाला निर्णय मॉडल है, जिसे कंपनी की इन-हाउस शोध प्रयोगशाला Base Labs ने विकसित किया है। इसकी कीमत $0.01 प्रति मिलियन टोकन है और यह Baseten Model APIs के ज़रिए तथा Hugging Face पर ओपन वेट्स के रूप में उपलब्ध है।

joey-1 के साथ Base Labs के निर्णय मॉडल परिवार में अब तीन आकार शामिल हैं। घोषणा में नए मॉडल को 21 अक्टूबर को जारी किए गए परिवार के मॉडलों—mammoth-1 (27B) और elephant-1 (9B)—के साथ पेश किया गया है। उस पहले की रिलीज़ में Baseten ने mammoth-1 को Jev Decision Index पर शामिल 208 निर्णय मॉडलों में शीर्ष स्थान वाला मॉडल और elephant-1 को अग्रणी 9B निर्णय मॉडल बताया था। तीनों मॉडलों को डेटा के एक ही मिश्रण पर प्रशिक्षित किया गया है और वे एक ही API साझा करते हैं। कंपनी के अनुसार, इससे इनके बीच स्विच करने के लिए कोड की केवल एक पंक्ति बदलनी पड़ती है। Baseten ने mammoth-1 को उन निर्णयों के लिए उपयुक्त बताया है जहाँ सटीकता सबसे अधिक मायने रखती है, elephant-1 को संतुलित डिफ़ॉल्ट विकल्प और joey-1 को अधिक मात्रा वाले, विलंबता-संवेदनशील कार्यभारों के लिए।

जनरेटिव एलएलएम के विपरीत, निर्णय मॉडल टेक्स्ट जनरेट नहीं करता। यह एक ही फॉरवर्ड पास में एक लेबल और उस लेबल के लिए भरोसे का स्कोर देता है; सभी संभावित जवाबों के स्कोर का कुल योग 1 होता है। टेक्स्ट और वैकल्पिक रूप से छवियों वाली किसी स्थिति तथा प्रश्नों के एक समूह के आधार पर, joey-1 एक साझा-प्रीफ़िक्स प्रीफ़िल से हर विकल्प के लिए कैलिब्रेटेड प्रायिकता देता है। मॉडल तीन तरह के प्रश्नों को समर्थन देता है: हाँ/नहीं, दिए गए नामित विकल्पों में से चयन और क्रमबद्ध स्कोरिंग स्तर। Baseten की परिवार पर पहले प्रकाशित पोस्ट में निर्णय मॉडलों के उपयोगों में टिकटों की छँटाई और उन्हें सही जगह भेजना, स्पैम और फ़िशिंग का पता लगाना, प्रॉम्प्ट के लिए सुरक्षा-सीमाएँ और जेलब्रेक का पता लगाना, तथा छोटे और अग्रणी एलएलएम के बीच अनुरोधों को भेजना शामिल है।

Baseten ने कहा कि किसी एलएलएम कार्यभार को joey-1 पर ले जाना तब लाभदायक है, जब निर्णयों की मात्रा इतनी अधिक हो कि प्रति कॉल लागत से परियोजना का अर्थशास्त्र तय हो, या जब कोई निर्णय अगले चरण के लिए ज़रूरी हो और उसकी विलंबता हर जवाब में जुड़ जाए। उदाहरण के तौर पर, हर महीने 10 मिलियन सहायता टिकटों का वर्गीकरण करना—प्रति टिकट लगभग 500 टोकन के हिसाब से—कुल 5 बिलियन टोकन होता है। कंपनी के अनुसार, joey-1 पर इसकी लागत लगभग $50 प्रति माह, जबकि mammoth-1 पर $500 होगी। Baseten ने joey-1 को शुरुआती स्तर का मॉडल बताया है; joey-1 को अपने जवाब पर भरोसा न होने की स्थिति में elephant-1 या mammoth-1 जैसे बड़े मॉडल को अगले चरण में इस्तेमाल किया जा सकता है।

रिपोर्ट की गई विलंबता और बेंचमार्क के नतीजे

Baseten ने बताया कि उत्पादन स्तर पर joey-1, 2,000 टोकन वाले अनुरोध को औसतन 20 ms की P50 एंड-टू-एंड विलंबता में पूरा करता है—यह elephant-1 के 49 ms की तुलना में लगभग 2.5 गुना तेज़ है। कंपनी ने इस मॉडल को तुलनीय निर्णय मॉडलों से 5 गुना तेज़ भी बताया। कंपनी के मुताबिक, उसके आंतरिक परीक्षणों में—जिनका विवरण बाद में जारी किया जाएगा—3B या उससे कम पैरामीटर वाला कोई भी निर्णय मॉडल joey-1 से बेहतर नहीं है।

मॉडल कार्ड के अनुसार, Jev Decision Index 0.4 के सार्वजनिक विभाजन पर joey-1 का स्कोर 63.30 था। इसने 230 मॉडलों में 37वाँ स्थान हासिल किया और उस विभाजन में 4B से कम पैरामीटर वाले मॉडलों के बीच सबसे ऊँचा स्कोर दर्ज किया। कार्ड की सार्वजनिक-विभाजन वाली तालिका में elephant-1 का स्कोर 72.24, Cloudflare Clef का 61.71, Jev 1.14 का 60.70 और Perplexity Decider Flash v1.2 का 60.06 दिया गया है। कार्ड के मुताबिक, मूल्यांकन किए गए हर क्षेत्र में joey-1 का स्कोर elephant-1 से कम है और पाँच में से चार क्षेत्रों—भाषा, टूल और स्वचालन, सूचना पुनर्प्राप्ति और वर्गीकरण, तथा कला और मानवीय अभिरुचि—में Jev 1.14 से अधिक है।

Artificial Analysis Decision Index की Base Labs की आंतरिक प्रतिकृति पर मॉडल कार्ड के अनुसार, joey-1 का स्कोर 62.9 रहा; mammoth-1 का 65.9, elephant-1 का 65.2 और d1-ultra का 65 था। Baseten के मॉडल लाइब्रेरी पेज के मुताबिक, अक्टूबर 2026 में जारी होने के समय joey-1, Jev Decision Index 0.4 पर शीर्ष 2B मॉडल था।

प्रशिक्षण डेटा और प्रक्रिया

मॉडल कार्ड के अनुसार, joey-1 को Qwen3.5-2B से आगे प्रशिक्षित किया गया। इसमें elephant-1 और mammoth-1 वाला ही डेटा मिश्रण और प्रशिक्षण प्रक्रिया इस्तेमाल की गई तथा Baseten Training Jobs के ज़रिए इसे चलाया गया। इस प्रक्रिया में टेक्स्ट और छवियों पर आधारित निर्णयों के लिए भाषा मॉडल को पूरी तरह फ़ाइन-ट्यून किया गया, जबकि विज़न एनकोडर को स्थिर रखा गया। इसमें पूर्ण-अटेंशन लेयर पर ब्लॉक-बाइडायरेक्शनल अटेंशन मास्क और 16,384 टोकन की अधिकतम अनुक्रम लंबाई का इस्तेमाल हुआ।

प्रशिक्षण डेटासेट में 6.21 मिलियन निर्णय उदाहरण थे। प्रयोगशाला ने इनके मिश्रण को Mix 8 नाम दिया है: 58.3% मूल निर्णय कौशल, 16.1% सुरक्षा और जवाब देने से विरत रहना, 16.1% मूल्यांकन और विशेषज्ञता वाले क्षेत्र, तथा 9.5% सार्वजनिक निर्णय डेटा। प्रशिक्षण उद्देश्य में क्रॉस-एंट्रॉपी के साथ Brier कैलिब्रेशन पद शामिल था, जिसमें lambda का मान 1 रखा गया। इसमें उन स्थितियों के लिए “मुझे नहीं पता” विकल्प का भी प्रशिक्षण दिया गया, जब मॉडल को अपने जवाब पर भरोसा न हो। प्रशिक्षण प्रक्रिया में 43,390 चरणों का एक युग, 1e-5 की अधिकतम लर्निंग रेट, 0.9 और 0.95 के beta मानों वाला AdamW ऑप्टिमाइज़र तथा कोई वेट डिके नहीं शामिल था। साथ ही 3% वॉर्म-अप, कोसाइन डिके और bf16 प्रिसिज़न का इस्तेमाल किया गया। प्रशिक्षण दो नोड पर चला, जिनमें से हर एक में आठ H100 GPU थे—कुल 16 GPU।

उपलब्धता, कीमत और तैनाती

joey-1, Baseten Model APIs पर /v1/systemone एंडपॉइंट के ज़रिए model ID decision-models/baseten-joey-2b-latest के तहत उपलब्ध है। डेटा को बनाए न रखने की सुविधा डिफ़ॉल्ट रूप से चालू रहती है। सूचीबद्ध कीमत प्रति मिलियन इनपुट टोकन $0.01 है; कैश किए गए इनपुट और आउटपुट की कीमत $0.00 दी गई है। परिवार की मूल्य-सूची में elephant-1 की कीमत $0.035 और mammoth-1 की कीमत $0.1 प्रति मिलियन टोकन दी गई है। घोषणा में joey-1 की कीमत को mammoth-1 की कीमत का दसवाँ हिस्सा बताया गया है।

Model APIs पर, निर्णय मॉडल 16k की कॉन्टेक्स्ट विंडो का समर्थन करते हैं और कम विलंबता वाले कार्यभार के लिए अनुकूलित हैं। समर्पित डिप्लॉयमेंट से पूरी 262k कॉन्टेक्स्ट विंडो उपलब्ध होती है और फाइन-ट्यून किए गए वेट का समर्थन मिलता है; Baseten ने कहा कि कार्यभार-विशिष्ट अनुकूलन और LLM कार्यभार के साथ सह-स्थिति के ज़रिए ये तेज़ TTFT और TPS (पहला टोकन मिलने का समय और प्रति सेकंड टोकन) भी दे सकते हैं। elephant-1 और joey-1, Baseten Training Jobs पर पोस्ट-ट्रेनिंग के लिए उपलब्ध हैं, और कंपनी ने GitHub पर फाइन-ट्यूनिंग कुकबुक प्रकाशित की है।

वेट MIT लाइसेंस के तहत खुले हैं। खुद होस्ट करने के लिए, मॉडल कार्ड की सेटअप स्क्रिप्ट एक निश्चित संस्करण वाला सर्विंग रनटाइम इंस्टॉल करती है—जिसमें सर्विंग पैच के साथ OneJev शामिल है—और इसके लिए एक CUDA GPU आवश्यक है। कार्ड में बताया गया है कि प्रशिक्षित लंबाई की सीमाओं से लंबे अनुरोधों को छोटा करने के बजाय अस्वीकार कर दिया जाता है।