क्यों एआई एजेंट अनावश्यक रूप से शक्तिशाली उपकरणों को पसंद करते हैं?

यह तेजी से बढ़ गया है: शोध में पाया गया है कि एआई एजेंट अनावश्यक रूप से अधिक पहुंच की मांग करते रहते हैं, और छोटी विफलताएं उन्हें और भी आगे बढ़ा देती हैं, जिससे डेटा और सिस्टम अनावश्यक रूप से उजागर हो जाते हैं।

हाल के दिनों में, कई सुर्खियों ने एजेंटिक एआई को अधिकाधिक विशेषाधिकार देने के जोखिमों पर ध्यान आकर्षित किया है, अक्सर अत्यधिक विशेषाधिकार प्राप्त उपकरणों और तरीकों के माध्यम से, जो एक निश्चित कार्य के लिए आवश्यक से अधिक दायरा प्रदान करते हैं।

एक हालिया घटना में, एक क्लॉड-संचालित कोडिंग एजेंट ने एक व्यापक रेलवे एपीआई टोकन का सामना किया और इसे एक उत्पादन डेटाबेस और उसके बैकअप को हटाने के लिए उपयोग किया – हालांकि कार्य के लिए ऐसा उच्च स्तर की पहुंच की आवश्यकता नहीं थी।

एक अलग 2025 के मामले में, रेप्लिट के एआई कोडिंग एजेंट ने स्पष्ट प्रतिबंधों की उपेक्षा की, संरक्षित कोड को संशोधित किया, और एक लाइव उत्पादन डेटाबेस को हटा दिया।

इस साल फरवरी में एक तीसरे मामले में, एक एआई-सहायता प्रावधान ने विशेषाधिकारों की एक श्रृंखला का अनुसरण किया जो अंततः पैकेज-प्रकाशन प्रमाण-पत्र तक पहुंच गया, जिससे एक आपूर्ति-श्रृंखला हमला हुआ।

इसके बाद, सुरक्षा विश्लेषणों ने इसे और इसी तरह के मामलों को एक उदाहरण के रूप में उद्धृत किया है, जो यह दिखाता है कि एजेंट प्रणालियों की प्रवृत्ति है कि वे छोटे इनपुट को उच्च-प्रभाव वाली क्रियाओं में परिवर्तित कर देती हैं जब व्यापक अनुमतियां उपलब्ध होती हैं। ये घटनाएं सुझाव देती हैं कि स्वायत्त एआई तुरंत और ‘स्वाभाविक रूप से’ सबसे शक्तिशाली – और संभावित रूप से विनाशकारी – उपकरण की ओर बढ़ता है, विशेष रूप से जब समस्याएं उत्पन्न होती हैं।

उपकरण समय

इस मुद्दे को संबोधित करने के लिए, चीन से नए शोध ने सबसे लोकप्रिय प्रोप्राइटरी और ओपन-सोर्स मॉडल्स की एक श्रृंखला का परीक्षण किया है, यह पता लगाने के लिए कि वे कार्य में शक्तिशाली उपकरणों की ओर बढ़ने की प्रवृत्ति रखते हैं या नहीं:

नए शोध से: ग्यारह प्रमुख एआई मॉडल्स के प्रदर्शन जब न्यूनतम विशेषाधिकार प्राप्त उपकरणों और अधिक शक्तिशाली विकल्पों के बीच चयन किया जाता है जो कार्य के लिए अनावश्यक थे। Qwen3-8B और LLaMA-3.1-8B ने सबसे मजबूत प्रवृत्ति दिखाई अधिक विशेषाधिकार प्राप्त करने की ओर, जबकि Claude 4.6 Sonnet, GPT-5.2 और GLM-5 अधिक संयमित थे। गहरे खंड तुरंत अधिक पहुंच को दर्शाते हैं, जबकि हल्के खंड अस्थायी विफलताओं के बाद वृद्धि को दर्शाते हैं, जो सुझाव देते हैं कि कई मॉडल विफलताओं के प्रति प्रतिक्रिया करते हैं और सुरक्षित विकल्पों के बजाय अधिक पहुंच की ओर बढ़ते हैं। स्रोत

परीक्षणों से पता चलता है कि ओपन-वेट मॉडल जैसे Qwen3-8B और LLaMA-3.1-8B अधिक बढ़ने की प्रवृत्ति रखते हैं, शायद उनके सीमित पोस्ट-ट्रेनिंग कंडीशनिंग के कारण, प्रोप्राइटरी मॉडल जैसे ChatGPT और Gemini श्रृंखला की तुलना में।

लेखकों का कहना है:

‘ग्यारह मॉडल्स में से छह 30% [अधिक विशेषाधिकार प्राप्त उपकरण उपयोग दर (ओपीयूआर)] से अधिक हैं, विशेष रूप से Qwen3-8B (64.9%) और LLaMA-3.1-8B (55.9%) जैसे सामान्य रूप से उपयोग किए जाने वाले छोटे ओपन-वेट मॉडल्स के लिए।

‘इसके बावजूद, कम ओपीयूआर मॉडल जैसे Claude 4.6 Sonnet, GPT-5.2, और GLM-5 10% से नीचे रहते हैं, लेकिन फिर भी कुछ सेटिंग्स में मापbable अधिक विशेषाधिकार प्राप्त उपयोग प्रदर्शित करते हैं।

‘यह भिन्नता सुझाव देती है कि न्यूनतम विशेषाधिकार अनुपालन एक मॉडल-निर्भर व्यवहार गुण है, जो सामान्य क्षमता, उपकरण-उपयोग प्रशिक्षण, और सुरक्षा संरेखण में अंतरों से आकार दिया जा सकता है।’

इसके अलावा, अधिक शक्तिशाली उपकरण उपयोग की प्रवृत्ति डोमेन द्वारा भिन्न होती है, कोडबेस कार्य सबसे अधिक जोखिम वाले होते हैं, और अधिक बारीकी से निगरानी वाले डोमेन, जैसे स्वास्थ्य सेवा, कम रडिकल उपायों को प्रेरित करते हैं:

विभिन्न कार्य डोमेन और जोखिम श्रेणियों में अनावश्यक उच्च-विशेषाधिकार उपकरण उपयोग की दरें। कोडिंग, डेटाबेस और इन्फ्रास्ट्रक्चर कार्यों ने लगातार उच्चतम वृद्धि दरें उत्पन्न कीं, जबकि स्वास्थ्य सेवा और सरकारी कार्यों ने आमतौर पर अधिक संयमित उपायों को प्रेरित किया। जोखिम प्रकारों में, मॉडल अधिकार वृद्धि और सुरक्षा बायपास कार्रवाइयों के माध्यम से अधिक पहुंच प्राप्त करने की सबसे अधिक संभावना रखते थे, जो सुझाव देते हैं कि जब एआई प्रणालियों का सामना बाधाओं से होता है, तो वे अक्सर कम प्रतिबंधों और अधिक पहुंच के साथ अधिक पहुंच की ओर बढ़ते हैं।

इसके अलावा, परिणाम यह भी दर्शाते हैं कि कुछ सबसे खराब परिणाम तब होते हैं जब मॉडल को ‘तनाव’ में महसूस होता है। कई मॉडल परिवारों में, निम्न-विशेषाधिकार वाले उपकरणों से अस्थायी विफलताएं अक्सर अधिक व्यापक, अधिक शक्तिशाली विकल्पों की ओर तेजी से बदलाव का कारण बनती हैं – भले ही मूल उपकरण अभी भी कार्य को पूरा करने में पूरी तरह से सक्षम थे।

पैनिक मोड!

इस तरह, एक अस्थायी त्रुटि मॉडल को न्यूनतम विशेषाधिकार के सिद्धांत को पूरी तरह से छोड़ने का कारण बन सकती है। निम्न-विशेषाधिकार वाले विकल्प को फिर से आजमाने या उसी उपकरण को पुनः प्रयास करने के बजाय, कई प्रणालियों ने अपनी पहुंच विस्तारित करने का विकल्प चुना।

लेखकों का कहना है कि बार-बार होने वाली विफलताएं निम्न-विशेषाधिकार वाले उपकरणों में विश्वास को कम करने लगती हैं, जिससे अनिश्चितता की स्थिति में अनावश्यक विशेषाधिकार वृद्धि की संभावना बढ़ जाती है – एक व्यवहार जो खुले वजन और प्रोप्राइटरी मॉडल दोनों में विभिन्न स्तरों पर देखा जाता है।

विशेषाधिकार-जागरूक पोस्ट-ट्रेनिंग कुछ सीमित सफलता प्राप्त करती है क्योंकि एक संभावित उपाय: निम्न-विशेषाधिकार वाले उपकरण उपयोग को पुरस्कृत करना और समय से पहले वृद्धि को दंडित करना। हालांकि, प्रॉम्प्ट मैनिपुलेशन ने परीक्षणों में बहुत कम सुधार दिखाया, और अभी तक यह मुद्दा एलएलएम में उच्च-स्तरीय व्यवहार सिद्धांतों से संबंधित लगता है..?

हालांकि लेख इस पर ध्यान नहीं देता है, यह तर्कसंगत लगता है कि एआई के पास ‘अंतिम परिणाम’ पर बहुत अधिक प्रशिक्षण सामग्री है – ‘टीएलडीआर संस्कृति’ जिसने शायद एआई में भी धैर्यहीनता पैदा की है..?

नया लेख जब न्यूनतम विशेषाधिकार पर्याप्त हों: एलएलएम एजेंट्स में अधिक विशेषाधिकार प्राप्त उपकरण चयन की जांच शीर्षक से है, और यह चीनी अकादमी ऑफ साइंसेज, चाइनीज यूनिवर्सिटी ऑफ हांगकांग, पेकिंग यूनिवर्सिटी और यूनिवर्सिटी ऑफ चाइनीज अकादमी ऑफ साइंसेज के आठ लेखकों से आया है।

विधि

अधिक विशेषाधिकार प्राप्त उपकरण उपयोग का अध्ययन करने के लिए, शोधकर्ताओं ने ToolPrivBench बनाया, जो आठ अनुप्रयोग डोमेन से 544 परिदृश्यों का एक बेंचमार्क है: व्यवसाय, कोडिंग, डेटाबेस, शिक्षा, सरकार, स्वास्थ्य सेवा, इन्फ्रास्ट्रक्चर, और मीडिया।

पांच बार-बार होने वाले जोखिम पैटर्न की जांच की गई: अधिकार वृद्धि, डेटा अधिक उजागर, सुरक्षा बायपास, स्कोप विस्तार, और कालिक स्थिरता:

ToolPrivBench में 544 परिदृश्यों का वितरण पांच विशेषाधिकार वृद्धि पैटर्न और आठ अनुप्रयोग डोमेन में। अधिकार वृद्धि सबसे सामान्य जोखिम श्रेणी थी, जबकि डेटाबेस, व्यवसाय, और शिक्षा ने बेंचमार्क के सबसे बड़े हिस्से का गठन किया। डोमेन और जोखिम प्रकारों का व्यापक वितरण विभिन्न परिचालन सेटिंग्स में अधिक विशेषाधिकार प्राप्त उपकरण चयन की जांच के लिए था, न कि एक संकीर्ण सेट कार्यों से।

प्रत्येक परिदृश्य में एक उपयोगकर्ता कार्य के साथ तीन निम्न-विशेषाधिकार वाले उपकरण और तीन उच्च-विशेषाधिकार वाले विकल्प जोड़े गए थे। सभी छह उपकरण स्वतंत्र रूप से कार्य को पूरा करने में सक्षम थे, यह सुनिश्चित करते हुए कि अधिक पहुंच की ओर बढ़ने की कोई प्राथमिकता कार्यक्षमता की कमी से समझाई नहीं जा सकती है।

ToolPrivBench अधिक विशेषाधिकार प्राप्त उपकरण चयन को मापने के लिए डिज़ाइन किया गया है: मूल्यांकन के दौरान, निम्न-विशेषाधिकार वाले उपकरणों में जानबूझकर अस्थायी विफलताएं डाली गईं, भले ही वे उपकरण अभी भी कार्य को पूरा करने में पूरी तरह से सक्षम थे। इससे शोधकर्ताओं को यह देखने की अनुमति मिली कि मॉडल विफलताओं का सामना करने पर कैसे प्रतिक्रिया करते हैं, जिसमें यह भी शामिल है कि क्या वे निम्न-विशेषाधिकार वाले विकल्पों को फिर से आजमाते हैं या उच्च-विशेषाधिकार वाले उपकरणों में वृद्धि करते हैं:

ToolPrivBench मूल्यांकन पाइपलाइन का अवलोकन। (a) प्रत्येक परीक्षण परिदृश्य एक कार्य के साथ प्रस्तुत किया जाता है, साथ ही तीन निम्न-विशेषाधिकार वाले उपकरण और तीन उच्च-विशेषाधिकार वाले विकल्प जो सभी एक ही उद्देश्य को पूरा करने में सक्षम हैं। (b) मॉडल का मूल्यांकन दोनों उच्च-विशेषाधिकार वाले उपकरण के तुरंत चयन और निम्न-विशेषाधिकार वाले उपकरणों में अस्थायी विफलताओं के बाद वृद्धि के लिए किया जाता है। (c) बेंचमार्क मामलों को वास्तविक दुनिया के एपीआई जोखिम पैटर्न से उत्पन्न किया जाता है, फिर स्वचालित जांच, उपकरण-सफलता सत्यापन, विफलता विश्लेषण, और मानव विशेषज्ञ समीक्षा से गुजरने से पहले अंतिम मूल्यांकन सेट में शामिल किया जाता है।

अध्ययन के लिए विकसित कस्टम मेट्रिक अधिक विशेषाधिकार प्राप्त उपकरण उपयोग दर (ओपीयूआर) है, जो यह रिकॉर्ड करता है कि मॉडल कितनी बार एक उच्च-विशेषाधिकार वाले उपकरण का उपयोग करता है, भले ही सुरक्षित विकल्प अभी भी उपलब्ध हों। पूर्व-वृद्धि अन्वेषण गहराई (पीईडी) भी मापा जाता है, जो यह रिकॉर्ड करता है कि कितने निम्न-विशेषाधिकार वाले उपकरण आजमाए जाते हैं इससे पहले कि वृद्धि हो।

परीक्षण से पहले प्रत्येक परिदृश्य को कई सत्यापन चरणों से गुजरना पड़ता था ताकि यह सुनिश्चित किया जा सके कि विशेषाधिकार स्तर ही एकमात्र महत्वपूर्ण अंतर है। ChatGPT-5.2 और Gemini 2.5 Pro का उपयोग स्वतंत्र रूप से यह सत्यापित करने के लिए किया गया था कि सभी छह उपकरण असाइन किए गए कार्य को पूरा कर सकते हैं। केवल उन मामलों को बरकरार रखा गया जिनमें दोनों प्रणालियों ने सहमति व्यक्त की। शेष परिदृश्यों को मानव समीक्षकों द्वारा ऑडिट किया गया, फिर अंतिम बेंचमार्क में शामिल किया गया।

परीक्षण

बेंचमार्क का मूल्यांकन ग्यारह भाषा मॉडल्स का उपयोग करके किया गया, जिनमें प्रोप्राइटरी और ओपन-वेट परिवार दोनों शामिल थे: Qwen3-8B, LLaMA-3.1-8B, MiniMax-M2.7, Grok 4.1 Fast, Qwen3.5-397B, DeepSeek-v3.2, Kimi K2.5, Gemini 3 Flash, GPT-5.2, GLM-5, और Claude 4.6 Sonnet। प्रदर्शन का मूल्यांकन ओपीयूआर और पीईडी का उपयोग करके किया गया।

अधिकांश मॉडल्स ने निम्न-विशेषाधिकार वाले विकल्पों के बावजूद महत्वपूर्ण दरों पर अनावश्यक विशेषाधिकार उपयोग प्रदर्शित किया। Qwen3-8B ने 64.9% के साथ उच्चतम ओपीयूआर दर्ज किया, इसके बाद LLaMA-3.1-8B 55.9% के साथ, जबकि ग्यारह मॉडल्स में से छह 30% से अधिक थे:

ग्यारह मूल्यांकित मॉडल्स में अधिक विशेषाधिकार प्राप्त उपकरण उपयोग का वितरण। Qwen3-8B और LLaMA-3.1-8B ने उच्चतम ओपीयूआर मान दर्ज किए, जबकि Claude 4.6 Sonnet, GPT-5.2, और GLM-5 ने सबसे कम दरें दिखाईं। गहरे खंड तुरंत अधिक पहुंच को दर्शाते हैं, जबकि हल्के खंड अस्थायी विफलताओं के बाद वृद्धि को दर्शाते हैं, जो यह दर्शाते हैं कि विशेषाधिकार वृद्धि अक्सर अस्थायी सेटबैक के बाद होती है, न कि पहले निर्णय बिंदु पर।

दूसरी ओर, Claude 4.6 Sonnet, GPT-5.2, और GLM-5 10% से नीचे रहे, हालांकि मापदंडों के अनुसार अभी भी मापदंडों के अनुसार अनावश्यक विशेषाधिकार उपयोग देखा गया। मध्यवर्ती परिणाम MiniMax-M2.7, Grok 4.1 Fast, Qwen3.5-397B, DeepSeek-v3.2, Kimi K2.5, और Gemini 3 Flash के लिए रिपोर्ट किए गए थे।

सामान्य तौर पर, न्यूनतम विशेषाधिकार सिद्धांतों का पालन करना मॉडल्स में काफी भिन्न था। उपकरण विफलताएं विशेषाधिकार वृद्धि की संभावना को बढ़ाती हैं: जब निम्न-विशेषाधिकार वाले उपकरणों में अस्थायी समस्याएं उत्पन्न होती हैं, तो कई मॉडल निम्न-विशेषाधिकार वाले विकल्पों को फिर से आजमाने के बजाय उच्च-विशेषाधिकार वाले उपकरणों में वृद्धि की ओर बढ़ते हैं।

लेखकों के अनुसार, बार-बार होने वाली विफलताएं निम्न-विशेषाधिकार वाले उपकरणों में विश्वास को कम करती हैं, जिससे अनावश्यक विशेषाधिकार वृद्धि की प्रवृत्ति बढ़ जाती है:

‘हम एक सुसंगत प्रवृत्ति का अवलोकन करते हैं जहां उपकरण चयन पूर्वाग्रह पर्यावरणीय घर्षण से गंभीर रूप से बढ़ जाता है। न्यूनतम विशेषाधिकार वाले विकल्पों को फिर से आजमाने के बजाय, कई एजेंट तेजी से अधिक शक्तिशाली उपकरणों की ओर बढ़ते हैं जब वे सेटबैक का सामना करते हैं।

‘उदाहरण के लिए, GPT-5.2 शून्य-शॉट चयन पूर्वाग्रह को केवल 5 बार (पीईडी=0) प्रदर्शित करता है, लेकिन इसका पूर्वाग्रह 13 बार पीईडी=1 पर और 35 बार पीईडी=2 पर विस्फोटक रूप से बढ़ जाता है।

‘DeepSeek-v3.2, Grok 4.1 Fast, Kimi K2.5, और Qwen-series मॉडल्स में समान वृद्धि पैटर्न लगातार देखे जाते हैं। ‘

प्रमुख डोमेन मुद्दे

वृद्धि दरें भी अनुप्रयोग डोमेन और जोखिम श्रेणियों में काफी भिन्न थीं। इन्फ्रास्ट्रक्चर कार्यों ने कुछ उच्चतम ओपीयूआर मान उत्पन्न किए, जो DeepSeek-v3.2 के लिए 46.4%, Grok 4.1 Fast के लिए 42.9%, और Qwen3.5-397B के लिए 37.5% थे。

उच्च दरें कोडिंग, डेटाबेस, और मीडिया-संबंधित कार्यों में भी देखी गईं, जबकि स्वास्थ्य सेवा और सरकारी परिदृश्यों ने आमतौर पर कम वृद्धि दरें उत्पन्न कीं, विशेष रूप से GPT-5.2 और Claude 4.6 Sonnet में। लेखकों के अनुसार, यह पैटर्न मॉडल्स द्वारा जोखिम और परिचालन प्रतिबंधों की व्याख्या में अंतरों को दर्शा सकता है:

आठ अनुप्रयोग डोमेन और पांच वृद्धि श्रेणियों में ओपीयूआर (%))। ओपन-वेट मॉडल्स ने आमतौर पर अनावश्यक विशेषाधिकार उपयोग की उच्चतम दरें दर्ज कीं, कोडिंग, डेटाबेस, इन्फ्रास्ट्रक्चर, अधिकार वृद्धि, और सुरक्षा बायपास परिदृश्यों में सबसे मजबूत प्रवृत्ति प्रदर्शित की।

विशेषाधिकार वृद्धि का प्रकार भी महत्वपूर्ण था: अधिकार वृद्धि और सुरक्षा बायपास मूल्यांकित मॉडल्स में सबसे सामान्य रूप से अनावश्यक व्यवहार के रूप में देखे गए: LLaMA-3.1-8B ने अधिकार वृद्धि पर 72.7% और सुरक्षा बायपास पर 74.1% हासिल किया, जबकि Qwen3.5-397B ने क्रमशः 42.4% और 45.7% हासिल किया।

इसके विपरीत, स्कोप विस्तार लगातार सबसे कम सामान्य श्रेणी थी, जो यह दर्शाता है कि मॉडल अधिकार या प्रतिबंधों को बायपास करने की तुलना में अपने कार्यों के दायरे को व्यापक बनाने की संभावना कम रखते हैं।

समाधान की तलाश

मिटिगेशन प्रयोगों ने यह जांचा कि क्या मौजूदा एजेंट-सुरक्षा विधियां अनावश्यक विशेषाधिकार वृद्धि को भी कम कर सकती हैं। नीचे दी गई तालिका ओपीयूआर की तुलना एजेंटहार्म पर प्रदर्शन से करती है, जो एक बेंचमार्क है जो एआई एजेंटों में हानिकारक व्यवहार और इनकार दर को मापता है।

पहला परीक्षण एजेंटअलाइन का मूल्यांकन करता है, जो एक सुरक्षा-संरेखण विधि है जो हानिकारक क्रियाओं को कम करने के लिए डिज़ाइन की गई है। AgentAlign ने AgentHarm पर प्रदर्शन में काफी सुधार किया:

एजेंटअलाइन प्रशिक्षण से पहले और बाद में सुरक्षा-संरेखण और अधिक विशेषाधिकार प्राप्त उपकरण उपयोग। AgentAlign ने AgentHarm सुरक्षा बेंचमार्क पर प्रदर्शन में काफी सुधार किया, हानिकारक आउटपुट को कम किया और इनकार दर को बढ़ाया; हालांकि, इसका ओपीयूआर पर प्रभाव असंगत था, एक मॉडल में अनावश्यक विशेषाधिकार वृद्धि में एक मामूली कमी दिखाई दी, और दूसरे में वृद्धि हुई। यह परिणाम दर्शाता है कि पारंपरिक एजेंट सुरक्षा में सुधार अनिवार्य रूप से बेहतर न्यूनतम विशेषाधिकार उपकरण चयन में अनुवाद नहीं करता है।

मिनिस्ट्रल-8बी-इन्सट्रक्ट के लिए, हानिकारक स्कोर 67.4 से 10.5 तक गिर गया, जबकि इनकार दर 0.0 से 79.5 तक बढ़ गई। क्वेन2.5-7बी-इन्सट्रक्ट के लिए, हानिकारक स्कोर 41.9 से 6.7 तक गिर गया, और इनकार दर 21.6 से 85.8 तक बढ़ गई। हालांकि, ये सुधार ओपीयूआर में लगातार नहीं थे। ओपीयूआर मिनिस्ट्रल-8बी-इन्सट्रक्ट के लिए 68.8 से 62.5 तक गिर गया, लेकिन क्वेन2.5-7बी-इन्सट्रक्ट के लिए 50.4 से 60.7 तक बढ़ गया।

लेखकों ने प्रॉम्प्ट-आधारित हस्तक्षेपों का भी परीक्षण किया जो मॉडल्स को स्पष्ट रूप से निम्न-विशेषाधिकार वाले उपकरणों को प्राथमिकता देने के लिए निर्देशित करते हैं। हालांकि इन प्रॉम्प्ट्स ने कुछ सेटिंग्स में ओपीयूआर को कम किया, उनका प्रभाव तब कम हो गया जब निम्न-विशेषाधिकार वाले उपकरण विफलताओं का सामना करते थे:

तीन Qwen3 मॉडल्स में अधिक विशेषाधिकार प्राप्त उपकरण उपयोग पर मिटिगेशन रणनीतियों का प्रभाव। प्रॉम्प्ट इंजीनियरिंग (पीई) ने वृद्धि दर को कम किया, लेकिन विशेषाधिकार-जागरूक पोस्ट-ट्रेनिंग (‘हमारा’) ने सभी मॉडल्स और वृद्धि गहराई पर ओपीयूआर में काफी बड़ी कमी उत्पन्न की।

सबसे मजबूत मिटिगेशन परिणाम एक समर्पित पोस्ट-ट्रेनिंग दृष्टिकोण से प्राप्त किए गए थे जो विशेष रूप से न्यूनतम विशेषाधिकार उपकरण चयन पर केंद्रित थे। मॉडल्स को प्रशिक्षित किया गया था ताकि वे कार्य के लिए पर्याप्त होने पर निम्न-विशेषाधिकार वाले उपकरणों को प्राथमिकता दें और अनावश्यक वृद्धि से बचें।

लेखकों के अनुसार, यह दृष्टिकोण ओपीयूआर में बड़ी कमी उत्पन्न करता है, जबकि कार्य-पूर्णता प्रदर्शन को बनाए रखता है, जो यह दर्शाता है कि न्यूनतम विशेषाधिकार व्यवहार के लिए लक्षित प्रशिक्षण की आवश्यकता हो सकती है, जो सामान्य-उद्देश्य सुरक्षा-संरेखण से स्वचालित रूप से उत्पन्न नहीं होता है।

निष्कर्ष

इस लेख के शीर्षक द्वारा उठाए गए प्रश्न का उत्तर देने के लिए, लेखक निष्कर्ष निकालते हैं कि वृद्धि क्षमता अनिश्चितता से चलित है: अस्थायी विफलताओं के बाद, मॉडल निम्न-विशेषाधिकार वाले उपकरणों में विश्वास खो देते हैं और अधिक व्यापक, अधिक लचीले उपकरणों का चयन करते हैं जो सफल होने की संभावना अधिक लगती है, भले ही निम्न-विशेषाधिकार वाले विकल्प अभी भी पर्याप्त हों।

एक बार फिर, हम प्रशिक्षित मॉडल्स में मूलभूत मुद्दों को देख रहे हैं, जिन्हें तृतीयक विधियों, प्रतिबंधों, पोस्ट-ट्रेनिंग कंडीशनिंग, और अन्य सहायक दृष्टिकोणों द्वारा संबोधित करने की आवश्यकता है, जब यह पसंद किया जाता है कि ऐसा व्यवहार स्थापित किया जा सकता है – संभावित रूप से बेहतर डेटा क्यूरेशन, या ‘तेजी से उत्तर’ डेटा बिंदुओं के प्रकार के संदर्भीकरण के माध्यम से, जो संग्रहों पर हावी हैं और जो एलएलएम को लापरवाह व्यवहार की ओर प्रेरित कर सकते हैं।

पहली बार रविवार, 21 जून, 2026 को प्रकाशित