एआई मॉडल और प्लेटफ़ॉर्म
IBM ने प्रॉम्प्ट इंजेक्शन का प्रतिरोध करने के लिए डिज़ाइन किए गए Granite मॉडल जारी किए
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
IBM की Granite टीम ने 12 नवंबर, 2026 को दो प्रयोगात्मक भाषा मॉडल जारी किए, जिन्हें विश्वसनीय निर्देशों और अविश्वसनीय डेटा के बीच अंतर करने के लिए प्रशिक्षित किया गया है। IBM के अनुसार, 3B और 8B प्रीव्यू संस्करणों ने OPI बेंचमार्क पर उसके द्वारा जाँचे गए सर्वश्रेष्ठ अग्रणी मॉडल की तुलना में 47% अधिक हमलों से बचाव किया।
दोनों मॉडल—Granite-4.1-3B-LLMON-preview और Granite-4.1-8B-LLMON-preview—जारी किए गए इंस्ट्रक्ट मॉडल के बजाय Granite 4.1 के बेस चेकपॉइंट से फ़ाइन-ट्यून किए गए थे। दोनों Apache 2.0 लाइसेंस के तहत उपलब्ध हैं और उत्पादन में इस्तेमाल के लिए नहीं, बल्कि खोजपरक अध्ययन और मूल्यांकन के लिए बनाए गए हैं। यह काम LLMON भाषा-पत्र पर आगे बढ़ता है, जिसे पहली बार 23 मार्च, 2026 को प्रस्तुत किया गया था।
निर्देशों के स्पष्ट संदर्भ दिए जाते हैं
LLMON, जिसका पूरा नाम LLM Object Notation है और जिसका उच्चारण “लेमन” होता है, XML जैसी मार्कअप भाषा है, जो मॉडल के लिए प्रॉम्प्ट की संरचना बताती है। निर्देश, दस्तावेज़, टूल की परिभाषाएँ, आवश्यकताएँ और जवाब अलग-अलग संबोधित किए जा सकने वाले ब्लॉक में रखे जाते हैं। निष्पादन ब्लॉक बताता है कि कौन-सा निर्देश चलाना है, कौन-से इनपुट और आवश्यकताएँ लागू होती हैं और जवाब कहाँ जाना चाहिए; उससे न जोड़ी गई सामग्री संदर्भ में बनी रहती है, लेकिन उस ब्लॉक के ज़रिए नहीं बुलाई जाती।
सुरक्षा का लक्ष्य अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन है, जिसमें कोई दुर्भावनापूर्ण निर्देश प्राप्त किए गए दस्तावेज़, टूल के जवाब या उपयोगकर्ता द्वारा दिए गए डेटा के भीतर छिपा होता है। मॉडल को इस तरह प्रशिक्षित किया जाता है कि निष्पादन ब्लॉक के ज़रिए पहुँचे निर्देशों को प्रामाणिक मानें, जबकि इनपुट के रूप में पहुँची सामग्री को पढ़ें, उसका पालन न करें। संरचनात्मक सीमाचिह्न विशेष टोकन के लिए आरक्षित होते हैं और हर दो-अक्षरीय ब्लॉक आईडी एक निश्चित, एकल-टोकन समूह से ली जाती है; इसलिए किसी पते की लागत हमेशा दो टोकन होती है।
डेवलपर आम तौर पर यह मार्कअप खुद नहीं लिखते। वे किसी सामान्य messages सूची का नाम दे सकते हैं और कॉल apply_chat_template; साथ में दिया गया टेम्पलेट परिचित सिस्टम, उपयोगकर्ता और असिस्टेंट भूमिकाओं को बरकरार रखते हुए LLMON तैयार करता है। साथ दिया गया LLMON रिपॉज़िटरी बिना किसी डेटा-हानि के JSON रूपांतरण, चैट रेंडर करने की उपयोगिताएँ और उदाहरण उपलब्ध कराता है; वहीं, इससे जुड़ा अटेंशन प्रदर्शन दिखाता है कि निर्देश, इनपुट और बिना किसी ब्लॉक से जुड़ी सामग्री में अटेंशन किस तरह वितरित होता है।
प्रशिक्षण का लक्ष्य अप्रत्यक्ष हमलों का प्रतिरोध करना है
28 अक्टूबर, 2026 को प्रस्तुत एक प्रशिक्षणोत्तर शोधपत्र में 4.6 अरब टोकन वाले संरचित कॉर्पस का वर्णन है, जिसमें सामान्य डेटा, पुनर्प्राप्ति-संवर्धित जनरेशन और टूल-कॉलिंग डेटा शामिल हैं। भटकाने वाले उदाहरणों में प्रतिस्पर्धी निर्देश और अप्रासंगिक डेटा जोड़े जाते हैं, जिनका कोई संदर्भ नहीं दिया जाता, जबकि लक्षित जवाब अपरिवर्तित रहता है। इस तरीके में मॉडल की संरचना बदले बिना पर्यवेक्षित फ़ाइन-ट्यूनिंग और रीइन्फोर्समेंट लर्निंग का इस्तेमाल किया जाता है।
इसके बाद प्रशिक्षण की प्रक्रिया में रीइन्फोर्समेंट लर्निंग के पाँच क्रमिक चरण शामिल हैं, जो बहु-क्षेत्रीय तर्क, मानवीय प्रतिक्रिया के अनुरूप ढालने, ज्ञान के अंशांकन और गणित को कवर करते हैं। इसके बाद इंजेक्शन के प्रयासों पर मॉडल के अपने जवाबों से तैयार किए गए 1,000 प्राथमिकता-युग्मों पर प्रत्यक्ष प्राथमिकता अनुकूलन किया जाता है। इस तरह प्राप्त विशेषाधिकार नियम, अलग से जोड़ी गई सुरक्षा-व्यवस्था से नहीं, बल्कि सीखी गई संरचना से आता है।
OPI में क्लासिक NLP कार्यों के डेटा के भीतर इंजेक्शन रखा जाता है। IBM मज़बूती को हमले की सफलता-दर में से एक घटाकर मापता है: यानी उन हमलों का अनुपात जिनमें मॉडल इंजेक्ट किए गए निर्देश को पूरा नहीं करता।
प्रशिक्षणोत्तर शोधपत्र में अप्रत्यक्ष इंजेक्शन के मूल्यांकनों में हमले की सफलता-दर अलग से दी गई है: यह 53%–100% से घटकर 0.02%–5.6% रह गई, जबकि सामान्य क्षमताएँ बरकरार रहीं। घोषित बेंचमार्क तुलनाएँ स्थिर अप्रत्यक्ष इंजेक्शन से संबंधित हैं, न कि कई चैट चरणों में विकसित होने वाले अनुकूली हमलों से; अनुकूली हमले अब भी सक्रिय शोध का क्षेत्र हैं।
सामान्य क्षमताओं के परिणाम
8B मॉडल कार्ड में सामान्य कार्यों के लिए Granite 4.1 Instruct के बराबर प्रदर्शन को लक्ष्य बताया गया है, लेकिन इसके परिणाम मिले-जुले हैं: GPQA में प्रीव्यू का स्कोर 35.05 है, जबकि इंस्ट्रक्ट मॉडल का 41.96; DeepMind Math में क्रमशः 70.86 और 80.07; BigCodeBench में 44.04 और 35.00; और MMLU में 74.20 और 73.84। यह नतीजा इस रिलीज़ को क्षमताओं में एकसमान सुधार के बजाय संरचित प्रॉम्प्टिंग और इंजेक्शन-प्रतिरोध की जाँच के रूप में रखता है।
LLMON को विशिष्ट क्षेत्रों की शब्दावली के अनुसार भी ढाला जा सकता है। IBM ने ScienceWorld के संदर्भ-प्रक्षेपपथों पर कस्टम टैग और अडैप्टर फ़ाइन-ट्यूनिंग का प्रदर्शन किया है; इसमें प्रशिक्षित मॉडल ऐसे खेल खेलता है जिन्हें प्रशिक्षण में शामिल नहीं किया गया था और नई शब्दावली में अपनी अगली कार्रवाई लिखता है। उच्च-स्तरीय लाइब्रेरी Mellea अपने मॉडल कॉल को अपने-आप LLMON में बदल देती है, इसलिए ऐप्लिकेशन के उपयोगकर्ताओं को अंतर्निहित मार्कअप देखने की ज़रूरत नहीं पड़ती।
यह रिलीज़ डेवलपर को यह मापने का एक ठोस तरीका देती है कि पुनर्प्राप्ति और टूल इस्तेमाल करने वाले वर्कफ़्लो में स्पष्ट निष्पादन-बाइंडिंग कैसा व्यवहार करती है। संवेदनशील परिनियोजनों के लिए यह सवाल खुला है कि सीखा गया विशेषाधिकार नियम बताए गए परीक्षणों से आगे भी कायम रहता है या नहीं; मॉडल कार्ड आगाह करते हैं कि यह लागू की गई गारंटी नहीं है और इसे किसी एजेंट की सुरक्षा का एकमात्र उपाय नहीं होना चाहिए।
