एक नीति, हज़ारों एजेंट: बड़े पैमाने पर एंटरप्राइज़ एआई का शासन क्यों चरमरा जाता है

स्वायत्त एआई एजेंटों को अपनाने की चर्चा में शासन को एक निर्णायक चुनौती के रूप में देखा गया है, और यह उचित भी है। Gartner ने हाल ही में अनुमान जताया कि 40% एंटरप्राइज़ 2027 तक अपने स्वायत्त एआई एजेंटों का दर्जा घटा देंगे या उन्हें बंद कर देंगे—इसलिए नहीं कि तकनीक विफल रही, बल्कि इसलिए कि उनका शासन विफल रहा। Gartner के वरिष्ठ निदेशक और विश्लेषक Shiva Varma के अनुसार, इसकी वजह है “द्विआधारी शासन”: एजेंटों को या तो पूरी तरह प्रतिबंधित मानना या उन पर पूरा भरोसा करना—इन दोनों के बीच कोई रास्ता न रखना।

अभी कई संगठन या तो एआई टूल पर पूरी तरह प्रतिबंध लगाने की ओर झुकते हैं या अपर्याप्त सुरक्षा उपायों के साथ एजेंट तैनात करते हैं। दोनों में से कोई भी तरीका बड़े पैमाने पर कारगर नहीं होता। आईटी विभाग बाहरी एआई टूल पर प्रतिबंध लगा दे, तब भी छिपे तौर पर एआई का इस्तेमाल जारी रहता है। डेवलपर स्वाभाविक रूप से चीज़ें बनाना और समस्याएँ सुलझाना चाहते हैं; अगर शासन की प्रक्रिया अत्यधिक नौकरशाही वाली लगे, तो वे नियंत्रणों को दरकिनार करके काम जारी रखने के लिए ऐसे टूल इस्तेमाल करेंगे जिनकी जाँच नहीं हुई है। इसके विपरीत, अपर्याप्त सुरक्षा उपाय संगठनों को सुरक्षा, अनुपालन और परिचालन संबंधी ऐसे जोखिमों के सामने ला देते हैं, जो समय के साथ बढ़ते जाते हैं। 

चुनौती यह है कि एआई एजेंटों का एकसमान नियमन संभव नहीं हैकिसी स्थिर, सबके लिए एक जैसे दृष्टिकोण से। सबके लिए एक जैसे शासन का दौर समाप्त हो रहा है, क्योंकि इन प्रणालियों के जोखिम समान नहीं हैं: इनके अंतर्निहित सॉफ़्टवेयर, क्षमताएँ, पहुँच के स्तर और स्वायत्तता की मात्रा अलग-अलग होती है। मशीन की गति से चलने वाले सॉफ़्टवेयर पर औद्योगिक युग के स्थिर नियंत्रण लागू करना कारगर नहीं होगा। प्रभावी शासन इस बात पर निर्भर करेगा कि संगठन हर एजेंट के पीछे मौजूद सॉफ़्टवेयर आपूर्ति शृंखला को समझें और उससे पैदा होने वाले जोखिमों के अनुरूप नियंत्रण लागू करें।  

एजेंट-आधारित सॉफ़्टवेयर विकास परिवेशों का शासन

वास्तविक नियंत्रण का अर्थ है एजेंट में शामिल सभी सॉफ़्टवेयर घटकों का प्रभावी ढंग से प्रबंधन करना। कई टीमें गलती से इन एजेंटों को “विश्वसनीय और भरोसेमंद” मान लेती हैं और उन मानक घटकों को नज़रअंदाज़ कर देती हैं, जो उनकी कार्यक्षमता और सुरक्षा को प्रभावित करते हैं। 

हर स्वायत्त एआई एजेंट एक पहचानी जा सकने वाली संरचना से बना होता है: एक फ़ाउंडेशन मॉडल, MCP सर्वर (Model Context Protocol), जो उसे कंपनी के डेटा और बाहरी प्रणालियों से जोड़ते हैं, उसकी क्षमताएँ बढ़ाने वाले प्लगइन और उसके व्यवहार के निर्देश देने वाली स्किल फ़ाइलें। आईटी नेतृत्वकर्ताओं को इन बातों का ध्यान रखना चाहिए: 

• एआई एजेंट सॉफ़्टवेयर पारितंत्र हैं: वे एक मानक व्यवस्था पर निर्भर करते हैं, जिसमें मॉडल, MCP, टूल, प्लगइन, स्किल और ओपन-सोर्स सॉफ़्टवेयर शामिल हैं।
• MCP सर्वर जोखिम भरे हो सकते हैं: वे एजेंटों को कंपनी के डेटा से जोड़ते हैं और किसी भी अन्य सॉफ़्टवेयर की तरह डाउनलोड किए जा सकते हैं। अगर उनकी जाँच न की जाए, तो वे हैकरों को आपके सिस्टम में घुसने का रास्ता दे सकते हैं। उदाहरण के लिए, JFrog Security Research के हालिया शोध में इन विशिष्ट सॉफ़्टवेयर आपूर्ति शृंखला जोखिमों को mcp-run-python में उजागर किया गया है, जिनमें एक सर्वर-साइड अनुरोध जालसाजी (SSRF) दोष (CVE-2026-25904) और पृथक्करण के अभाव की एक कमजोरी (CVE-2026-25905) शामिल हैं, जिनसे MCP पर पूरी तरह कब्ज़ा किया जा सकता है।
• प्लगइन जोखिम बढ़ा सकते हैं: अलग-अलग एजेंटों को अलग-अलग प्लगइन चाहिए (उदाहरण के लिए, OpenAI का प्लगइन Microsoft Copilot में काम नहीं करेगा)। इसका मतलब है कि कंपनियों को अक्सर कई तरह के प्लगइन सँभालने पड़ते हैं, जिनमें से कोई एक ख़राब प्लगइन संवेदनशील जानकारी चुरा सकता है।
• स्किल एजेंट का व्यवहार तय करती हैं: ये निर्देश फ़ाइलें एजेंट को बताती हैं कि उसे कैसे काम करना है। डेवलपर इन्हें सामुदायिक स्रोतों से लेते हैं, इसलिए किसी दूषित स्किल से एजेंट के काम करने का तरीका चुपचाप बदल सकता है।
• ओपन-सोर्स सॉफ़्टवेयर के जोखिम: एजेंट-आधारित कोडिंग से बने समाधानों की सभी कार्यक्षमताओं के आधार में, उन्हें उपलब्ध कराने के लिए ओपन-सोर्स बाइनरी का इस्तेमाल होता है। कोडिंग एजेंट जोखिम को पहचाने बिना सुरक्षित पैकेज के बजाय दुर्भावनापूर्ण पैकेज का भी उतनी ही आसानी से इस्तेमाल कर सकते हैं।
• हर चीज़ की जानकारी होना अहम है: कई टीमों को इन समस्याओं के अस्तित्व का पता ही नहीं होता, जिससे उनके एजेंट गंभीर रूप से असुरक्षित रह जाते हैं। संगठन अब भी सॉफ़्टवेयर निर्भरताओं का प्रबंधन गहन जाँच के बजाय भरोसे के आधार पर कर रहे हैं।

प्रभावी एआई शासन में अभिलेख की प्रामाणिक प्रणाली की भूमिका

एंटरप्राइज़ एआई एजेंट तैनात करने की होड़ पुराने ज़माने की सोच के साथ नहीं जीती जा सकती। हर कार्यप्रवाह में एक ही तरह की, बोझिल और अत्यधिक हस्तचालित अनुमोदन प्रक्रियाएँ थोपने से नवाचार बाधित होता है, जबकि एजेंटों की निगरानी न करने से अनावश्यक जोखिम पैदा होते हैं।

एआई को सुरक्षित रूप से बड़े पैमाने पर लागू करने के लिए संगठनों को सॉफ़्टवेयर घटकों—जैसे पैकेज, बाइनरी, MCP, स्किल और निर्भरताओं—के शासन और सुरक्षा के लिए बहुस्तरीय दृष्टिकोण अपनाना होगा। अभिलेख की एक प्रामाणिक प्रणाली स्थापित करके, एंटरप्राइज़ इस्तेमाल किए जाने वाले सभी घटकों का चयन और प्रबंधन कर सकते हैं, उपयोग से पहले हर चीज़ की जाँच कर सकते हैं, विकास जीवनचक्र में सही समय परनीतियाँ लागू कर सकते हैं और तुरंत पुराने संस्करण पर लौटने की क्षमता बनाए रख सकते हैं। इसलिए, जब अगली सुरक्षा-कमज़ोरी का खुलासा होगा, तो “क्या हम इसकी चपेट में हैं?” का जवाब दिनों में नहीं, मिनटों में मिल जाएगा।

हालाँकि, AI एजेंट हमले की ऐसी सतह पैदा करते हैं जो अधिक व्यापक है और कहीं तेज़ी से बदलती है। अधिक स्वायत्तता वाले एजेंट प्रति मिनट सैकड़ों फैसले ले सकते हैं, टूल का इस्तेमाल करके एक के बाद एक निर्देश चला सकते हैं, डेटा तक पहुँच सकते हैं और कोड निष्पादित कर सकते हैं—वह भी इतनी तेज़ी से कि पारंपरिक प्रारंभिक नियंत्रण उनकी गति का साथ नहीं दे सकते। शुरुआती समीक्षा और अनुमोदन प्रक्रियाएँ अब भी अहम भूमिका निभाती हैं, लेकिन वे अकेले मशीन की गति से काम करने वाली प्रणालियों को सुरक्षित नहीं रख सकतीं।

इन एजेंटों के लिए रनटाइम पर सक्रिय रूप से नियंत्रण लागू करना ज़रूरी है, ताकि असामान्य व्यवहार होते ही उसका पता लगाया जा सके और नुकसान फैलने से पहले हस्तक्षेप किया जा सके। इसे सर्किट ब्रेकर की तरह समझें: किसी प्रभावित स्किल की पहुँच रद्द करना, अविश्वसनीय डेटा संदर्भ से कनेक्शन तोड़ना, या गड़बड़ी होते ही किसी खास टूल कॉल को रोक देना।

“सबके लिए एक ही तरीका” से आगे बढ़ना

कठोर और एकसमान गवर्नेंस नाकामी का तय रास्ता है। इस स्थिति से निपटने के लिए पहले से तैयारी करने का अवसर लगातार कम हो रहा है, और एजेंटों की तैनाती तेज़ होने के साथ गवर्नेंस की देनदारी भी बढ़ती जा रही है। इसलिए, सुरक्षा और इंजीनियरिंग से जुड़े नेता अपने उद्यम की प्रणालियों को मज़बूत करने के लिए अभी ये चार कदम उठा सकते हैं:

1. पहले से चल रही चीज़ों की सूची बनाएँ। ज़्यादातर उद्यम अपने संगठन में मौजूद AI एजेंटों का पूरा हिसाब नहीं रख पाते; उन्हें चलाने वाले MCP सर्वरों, प्लगइनों और स्किल फ़ाइलों का तो कहना ही क्या। जोखिम का आकलन करने या किसी चीज़ पर गवर्नेंस लागू करने से पहले यह जानना ज़रूरी है कि वहाँ क्या-क्या मौजूद है।
2. AI घटकों को सॉफ़्टवेयर आर्टिफ़ैक्ट मानें। MCP सर्वर, स्किल फ़ाइलें और प्लगइन केवल कॉन्फ़िगरेशन नहीं हैं—वे कोड हैं और उनसे जुड़े आपूर्ति-श्रृंखला जोखिम भी किसी ओपन-सोर्स निर्भरता जैसे ही हैं। उनकी जाँच-परख करें, उन्हें स्कैन करें और उनके स्रोत का पता रखने की वही प्रक्रिया अपनाएँ जो किसी भी तृतीय-पक्ष लाइब्रेरी के लिए अपनाते हैं।
3. एजेंटों को उनकी स्वायत्तता के स्तर के अनुसार वर्गीकृत करें और उसी हिसाब से नियंत्रण तय करें। अपने संगठन के लिए “अधिक स्वायत्तता” का अर्थ तय करें और उसके आधार पर नीतियों का एक श्रेणीबद्ध ढाँचा बनाएँ। अधिक स्वायत्तता वाले एजेंटों के लिए केवल शुरुआती जाँच नहीं, बल्कि रनटाइम पर नियंत्रण लागू करना ज़रूरी है। सबसे संवेदनशील प्रणालियों से शुरुआत करें और फिर धीरे-धीरे दायरा बढ़ाएँ।
4. गवर्नेंस की प्रक्रिया इतनी तेज़ बनाएँ कि डेवलपर—चाहे वे मानव हों या एजेंट-आधारित—उससे बचकर निकलने की कोशिश न करें। शैडो AI की समस्या दरअसल प्रक्रिया में आने वाली रुकावटों की समस्या है। अगर नए MCP सर्वर को मंज़ूरी देने में दो हफ़्ते लगते हैं, तो डेवलपर कोई दूसरा रास्ता खोज लेंगे। स्वचालित स्कैनिंग और नीतियों को स्पष्ट रूप से लागू करना ही ऐसा एकमात्र मॉडल है जो AI विकास की वास्तविक गति के साथ कदम मिला सकता है।

जब गवर्नेंस सभी एजेंटों को एक जैसा मानने के बजाय हर एजेंट से जुड़े वास्तविक जोखिमों के अनुरूप होती है, तो वह कहीं अधिक प्रभावी बन जाती है। दूसरे उद्यमों से आगे निकलने वाले वे होंगे जो गवर्नेंस को हर एजेंट की वास्तविकताओं के अनुरूप ढालेंगे और ऐसी केंद्रीय रिकॉर्ड प्रणाली का सहारा लेंगे जो हर सीमा पर नीतियाँ लागू करे, हर घटक की दृश्यता दे और कुछ गड़बड़ होते ही टीमों को जवाब देने में सक्षम बनाए।