IBM ने 8B और 30B आकारों में मॉड्यूलर Granite Switch 4.1 मॉडल जारी किए

IBM ने 15 अक्टूबर, 2026 को Granite Switch 4.1 की घोषणा की और 8 अरब तथा 30 अरब पैरामीटर वाले दो मॉड्यूलर भाषा मॉडल जारी किए। इनमें एक बेस मॉडल, सामान्य प्रयोजन वाला निर्णय एडाप्टर, सुरक्षा एडाप्टर और अंतर्निहित वाक्-से-पाठ एन्कोडर को मिलाकर एक ही होस्टेड एंडपॉइंट बनाया गया है। इस रिलीज़ की घोषणा करने वाली IBM Granite ब्लॉग पोस्ट Kate Soule, Subhajit Chaudhury, Hendrik Strobelt और Luis A Lastras ने लिखी थी।

4.1 कॉन्फ़िगरेशन

इस रिलीज़ में Granite-Switch-4.1-8B और Granite-Switch-4.1-30B शामिल हैं। ये granite-4.1-8b और granite-4.1-30b बेस मॉडल पर बने हैं, जिनमें क्रमशः 8 अरब और 30 अरब पैरामीटर तथा 128K की संदर्भ विंडो है। 8B मॉडल कार्ड और 30B मॉडल कार्ड में रिलीज़ की तारीख 14 अक्टूबर, 2026, Apache 2.0 लाइसेंस और Hugging Face Transformers तथा vLLM बैकएंड का उल्लेख है।

हर चेकपॉइंट में बेस मॉडल के साथ तीन घटक शामिल हैं: सामान्य प्रयोजन के निर्णय लेने के लिए एक निर्णय Activated LoRA (aLoRA); guardian-core, IBM की Guardian लाइब्रेरी का एक aLoRA, जो नुकसान, जेलब्रेकिंग, गाली-गलौज, हिंसा, यौन सामग्री, सामाजिक पूर्वाग्रह और अनैतिक व्यवहार से जुड़े सुरक्षा जोखिमों का पता लगाता है; और Granite Speech 5.0 TurboCTC, ट्रांसक्रिप्शन के लिए अंतर्निहित 470-मिलियन-पैरामीटर वाला अंग्रेज़ी, गैर-ऑटोरेग्रेसिव conformer CTC एन्कोडर। IBM इसे OpenASR Leaderboard पर सबसे तेज़ ASR मॉडल बताता है। IBM के अनुसार, बेस मॉडल समेत इन तीनों तकनीकों के लिए लगभग उतनी ही GPU मेमोरी चाहिए, जितनी अकेले बेस मॉडल के लिए।

कार्ड में ऑडियो-रहित पूर्वावलोकन संस्करणों (granite-switch-4.1-8b-preview, granite-switch-4.1-30b-preview और granite-switch-4.1-3b-preview) का भी उल्लेख है, जिनमें Granite Libraries का पूरा एडाप्टर बंडल शामिल है। IBM ने 2026 के वसंत में मॉडल विकास के मॉड्यूलर तरीके के रूप में Granite Switch परियोजना शुरू की थी। इससे पहले जारी Granite Libraries में विशेषीकृत निर्णय और कार्य एडाप्टरों का ऐसा रिपॉज़िटरी उपलब्ध कराया गया था, जिन्हें मिलाकर कस्टम Switch मॉडल बनाए जा सकते हैं।

स्विचिंग कैसे काम करती है

Granite Switch में वह स्विचिंग पद्धति इस्तेमाल होती है, जिसे मॉडल कार्ड मोटे स्तर पर विशेषज्ञ स्विचिंग कहते हैं। इसमें एक ही एडाप्टर, टोकनों के लगातार क्रम वाले खंड की सभी डिकोडर परतों में सक्रिय रहता है। अनुरोधकर्ता चैट टेम्पलेट को एडाप्टर का नाम देकर उसे सक्रिय करते हैं; टेम्पलेट अपने-आप संबंधित कंट्रोल टोकन जोड़ देता है। मानक attention पर बनी एक हल्की स्विच परत इन टोकनों का पता लगाती है और हर स्थान के लिए एडाप्टर इंडेक्स तैयार करती है। इनके आधार पर हर डिकोडर परत उस खंड के लिए मेल खाते LoRA वेट लागू करती है।

कार्ड में डिज़ाइन की चार विशेषताएँ दी गई हैं: हर एडाप्टर केवल बेस मॉडल के KV कैश को पढ़ता है और किसी दूसरे एडाप्टर की आंतरिक स्थिति को कभी नहीं पढ़ता; एडाप्टरों का विकास, परीक्षण और प्रकाशन स्वतंत्र रूप से होता है तथा उन्हें साथ मिलकर प्रशिक्षित नहीं किया जाता; एक ही चेकपॉइंट Transformers और vLLM, दोनों के साथ काम करता है; और एडाप्टर चुनने के लिए कोड में बदलाव की ज़रूरत नहीं होती। IBM के अनुसार, कैश-कुशल Activated LoRA डिज़ाइन से बेस मॉडल द्वारा जनरेट किए गए पाठ का KV कैश बाद के एडाप्टर-आधारित निर्णयों के लिए फिर इस्तेमाल किया जा सकता है। कंपनी चैट, निर्णय और बोलकर दिए गए अनुरोधों के बीच तेज़ी से स्विच करने का श्रेय vLLM कर्नेल में उसके हालिया योगदानों और साथ में स्थित ASR एन्कोडर को देती है।

निर्णय एडाप्टर को एक स्थिति और लेबल वाले विकल्पों सहित एक प्रश्न दिया जाता है। इसके बाद यह एक ही फ़ॉरवर्ड पास में उन लेबलों के लिए सॉफ़्टमैक्स प्रायिकता वितरण तैयार करता है। आने वाले ऑडियो का ट्रांसक्रिप्शन अंतर्निहित वाक् एन्कोडर करता है और तैयार प्रतिलेख चैट संदर्भ में ऑडियो की जगह ले लेता है। इसलिए ट्रांसक्रिप्शन, चैट और निर्णयों वाले उसी एंडपॉइंट पर चलता है; अलग वाक् सर्वर की ज़रूरत नहीं पड़ती और मॉडल को कॉल करने का तरीका भी नहीं बदलता। IBM एक Speech-to-Decisions डेमो स्पेस भी होस्ट कर रहा है, जिसमें 8B मॉडल आने वाले ऑडियो का ट्रांसक्रिप्शन करता है, सारांश तैयार करता है, हानिकारक सामग्री की जाँच करता है और उपयोगकर्ता द्वारा तय किए गए 15 अतिरिक्त फ़्लैग का मूल्यांकन करता है—ये सभी काम एक ही एंडपॉइंट पर रियल टाइम में होते हैं।

IBM द्वारा बताए गए बेंचमार्क और तुलनाएँ

IBM अपने तरीके की तुलना Jev जैसे बंद निर्णय मॉडलों से करता है, जिनके बारे में उसका कहना है कि वे सामान्यीकरण पर ध्यान देते हैं। कंपनी का यह भी कहना है कि सुरक्षा से जुड़े निर्णय कार्यों में guardian-core एडाप्टर औसतन Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions और Clef-Flash से बेहतर प्रदर्शन करता है। विशेषीकृत Granite Libraries एडाप्टरों और सामान्य प्रयोजन वाले निर्णय मॉडलों की IBM की प्रकाशित तुलना में, सबसे बेहतर Granite एडाप्टर OOD Safety में 2.3 अंक, IFEval में 17.0 अंक, BIO F1 में 11.0 अंक और RAGTruth में 11.8 अंक आगे रहा। वहीं, LM-AggreFact में वह 2.6 अंक, InfoBench-GPT4 में 3.2 अंक और InfoBench-Human में 0.8 अंक पीछे रहा।

मॉडल कार्ड में निर्णय एडाप्टर के Decision Index स्कोर दिए गए हैं। इन्हें बेंचमार्क के 1,068 पंक्तियों वाले सार्वजनिक तेज़ उपसमुच्चय पर, edition-v0.3 स्कोरिंग के तहत और एडाप्टर को होस्टेड vLLM एंडपॉइंट के ज़रिए सर्व करके मापा गया था। 8B एडाप्टर का कुल स्कोर 42.9 था; Knowledge में 29.1, Language में 48.9, Retrieval में 49.8, Tools में 59.8 और Arts में 18.0 था। 30B एडाप्टर का कुल स्कोर 50.1 था; Knowledge में 32.4, Language में 58.6, Retrieval में 49.8, Tools में 76.5 और Arts में 26.4 था। कार्ड के अनुसार, एक ही एडाप्टर को स्थानीय और होस्टेड रूप में चलाने पर मिले स्कोर में लगभग 0.6 अंक के भीतर अंतर था।

IBM एक ऐसी प्रतिस्पर्धा की भी जानकारी देता है जिसमें Granite-Switch-4.1-30B—चार विशेषज्ञता-प्राप्त aLoRA वाला एक फ़्रीज़ किया गया Granite बेस—ने वास्तविक दुनिया का पाँच-चरणीय RAG वर्कफ़्लो, Jev-27B—एक सामान्य निर्णय LoRA वाला फ़्रीज़ किया गया Qwen बेस—से कहीं तेज़ी से पूरा किया। दूसरे प्रदर्शन में, IBM के अनुसार, Doom गेम खेलते हुए एक कस्टम 3-बिलियन-पैरामीटर वाले Granite Switch मॉडल ने प्रति सेकंड 60 से 100 निर्णय लिए। इसकी तुलना में, Jev के लिए प्रति सेकंड 10 निर्णयों की जानकारी दी गई थी। IBM का कहना है कि Jev के विपरीत, उसका मॉडल खेलते समय वर्णन कर सकता है और सवालों के जवाब दे सकता है।

उपलब्धता, आवश्यकताएँ और सीमाएँ

दोनों चेकपॉइंट Apache 2.0 लाइसेंस के तहत उपलब्ध हैं। इनके लिए Python 3.9 या उसके बाद का संस्करण, PyTorch 2.11.0 या उसके बाद का संस्करण, Transformers 5.16 से 5.17.0 तक का संस्करण और, वैकल्पिक रूप से, vLLM 0.26.0 से लेकर 0.28.0 से कम संस्करण आवश्यक है। डेंस, केवल-डिकोडर वाली बेस आर्किटेक्चर में ग्रुप्ड-क्वेरी अटेंशन (GQA), RoPE, SwiGLU और RMSNorm का उपयोग होता है; यह 131,072 टोकन तक के संदर्भ को सपोर्ट करती है; और इसमें सपोर्ट की जाने वाली भाषाओं के रूप में अंग्रेज़ी, जर्मन, स्पेनिश, फ़्रेंच, जापानी, पुर्तगाली, अरबी, चेक, इतालवी, कोरियाई, डच और चीनी सूचीबद्ध हैं।

कोई भी व्यक्ति प्रोजेक्ट के अडैप्टर कैटलॉग के अडैप्टर को उसके कंपोज़र टूलिंग के साथ मिलाकर एक कस्टम Granite Switch मॉडल बना सकता है। IBM, Granite Switch अडैप्टर चलाने के लिए Mellea को पसंदीदा एप्लिकेशन लेयर के रूप में प्रस्तुत करता है। Mellea में पहले से ही Granite Libraries के अडैप्टर परिवार शामिल हैं, लेकिन फ़िलहाल डिसीज़न अडैप्टर के लिए Mellea इंट्रिंसिक उपलब्ध नहीं है; इसके लिए सपोर्ट की योजना है। IBM की योजना Mellea में कस्टम और तृतीय-पक्ष अडैप्टर को प्रशिक्षित करने के लिए Adapter SDK जारी करने की भी है। इसके साथ ट्यूटोरियल और Granite Switch सपोर्ट भी दिए जाएंगे। कंपनी का कहना है कि वह घोषणा के बाद के हफ़्तों में Granite Switch से जुड़ी और जानकारी तथा डेटा जारी करेगी।

मॉडल कार्ड में कई सीमाएँ बताई गई हैं। स्पीच कैस्केड केवल अंग्रेज़ी में काम करता है और ऐसे ट्रांसक्रिप्ट देता है जिनमें सभी अक्षर छोटे होते हैं, विराम-चिह्न नहीं होते और डिकोडिंग के समय निर्देशन नहीं किया जा सकता। चूँकि ASR एनकोडर को भाषा मॉडल या अडैप्टर के साथ संयुक्त रूप से प्रशिक्षित नहीं किया गया है, इसलिए गलत ट्रांसक्रिप्शन से मॉडल या अडैप्टर की प्रतिक्रिया अनजाने में बदल सकती है। vLLM में निर्णय-विकल्प लेबल के लॉग-प्रॉब अनुरोधों की सीमा 128 टोकन आईडी है, इसलिए इससे अधिक विकल्पों वाले सवालों को कई खंडों में बाँटकर अनुरोध करना होगा। मॉडल कार्ड यह भी बताते हैं कि guardian-core, एप्लिकेशन-स्तर पर सुरक्षा परीक्षण का विकल्प नहीं है; चेकपॉइंट में Guardian Library के तथ्यात्मकता-पहचान, तथ्यात्मकता-सुधार और नीति-सुरक्षा उपायों वाले अडैप्टर शामिल नहीं हैं; और निर्णय अडैप्टर की प्रायिकताओं को प्रमाणित वर्गीकरण के बजाय निर्णय को दिशा देने वाले पूर्वानुमान के रूप में समझना चाहिए—खासकर उन क्षेत्रों के लिए जो इसके प्रशिक्षण में शामिल नहीं थे।