विचार नेता
इरादे से स्वायत्त कार्रवाई तक: उद्यमों में AI एजेंटों का संचालन-शासन

मुख्य बिंदुशासन को उत्पाद के भीतर होना चाहिए क्योंकि यह परिभाषित करता है कि कोई संगठन किन…
और देखें
- शासन को उत्पाद के भीतर होना चाहिए क्योंकि यह परिभाषित करता है कि कोई संगठन किन जिम्मेदारियों को सुरक्षित रूप से सौंप सकता है।
- एक एजेंटिक कंट्रोल प्लेन एजेंट की पहचान और स्वीकृत क्षमताओं को नीति प्रवर्तन और निष्पादन निगरानी से जोड़ता है।
- संगठनों को एक संकीर्ण वर्कफ़्लो से शुरुआत करनी चाहिए और एजेंट के अधिकार का विस्तार केवल तब करना चाहिए जब परिचालन संबंधी प्रमाण इसका समर्थन करें।
“सेवा बहाल करो” जैसा निर्देश सुनने में सीधा-सादा लगता है, लेकिन जब किसी AI एजेंट को तय करना हो कि इससे उसे किस काम की अनुमति मिलती है, तब मामला इतना सरल नहीं रहता। किसी ऐप्लिकेशन को फिर से शुरू करना, कॉन्फ़िगरेशन बदलना और बुनियादी ढाँचे की व्यवस्था करना—ये सभी उस उद्देश्य को पूरा करने में मदद कर सकते हैं, लेकिन इनके परिणाम अलग-अलग होते हैं। जैसे-जैसे एजेंट कार्रवाई सुझाने से आगे बढ़कर उन्हें अंजाम देने लगते हैं, संगठनों को व्यावसायिक इरादे और परिचालन अधिकार के बीच स्पष्ट संबंध स्थापित करना होगा।
संचालन-शासन उत्पाद का ही हिस्सा होना चाहिए, क्योंकि इसी से तय होता है कि संगठन किन ज़िम्मेदारियों को विश्वास के साथ सौंप सकता है। जो एजेंट किसी काम को भरोसेमंद ढंग से, तय सीमाओं के भीतर और अपनी कार्रवाइयों के प्रमाण के साथ पूरा कर सकता है, वह उस एजेंट की तुलना में उद्यमों में अपनाए जाने का कहीं मज़बूत आधार देता है जिसके अधिकार अस्पष्ट हों। वास्तुशिल्पीय चुनौती यह है कि इन सीमाओं को सिस्टम के काम करने के तरीके का हिस्सा बनाया जाए।
इन सीमाओं को व्यवहार में लागू करने के लिए एजेंटों की कार्रवाइयों के संचालन-शासन का एक सुसंगत तरीका चाहिए। एजेंटिक नियंत्रण-पटल, एजेंट की पहचान, स्वीकृत क्षमताओं, नीतियों के प्रवर्तन, स्मृति-नियंत्रण और निष्पादन की निगरानी को मौजूदा उद्यम प्रणालियों में जोड़कर यह आधार प्रदान कर सकता है। यह स्पष्ट करता है कि कार्रवाई का अनुरोध किसने किया, उसे किस अधिकार का आधार मिला, वह किन संसाधनों को प्रभावित कर सकती है और उसके परिणाम की पुष्टि कैसे होगी।
उद्यमों में AI एजेंटों के संचालन-शासन के लिए हम तीन व्यावहारिक दिशानिर्देश सुझाते हैं:
क्षमता को स्पष्ट अधिकार से जोड़ें
हर एजेंट का एक स्पष्ट रूप से पहचाना जा सकने वाला ज़िम्मेदार व्यक्ति, एक तय उद्देश्य और उसके काम के अनुरूप अनुमतियाँ होनी चाहिए। यह NIST का AI जोखिम प्रबंधन ढाँचा के अनुरूप है, जो AI के पूरे जीवनचक्र में संचालन-शासन को एक सतत कार्य मानता है। एजेंटों के मामले में यह सिद्धांत उस क्षण तक लागू होना चाहिए जब कोई कार्रवाई उद्यम की प्रणाली में बदलाव करे। जब एक एजेंट दूसरे एजेंट को काम सौंपे, तब भी ये सीमाएँ बरकरार रहनी चाहिए।
क्षमताओं की खोज में भी ऐसा ही अनुशासन ज़रूरी है: स्वीकृत सूची में हर टूल का उद्देश्य, इनपुट, आउटपुट, अनुमत परिवेश और संभावित दुष्प्रभाव बताए जाने चाहिए। किसी टूल का पता चल जाने से उसे चलाने की अनुमति नहीं मिलती, इसलिए कार्रवाई का प्रयास किए जाने पर प्राधिकरण की जाँच होनी चाहिए। OWASP की अत्यधिक एजेंसी संबंधी मार्गदर्शिका भी कार्यक्षमता और अनुमतियाँ सीमित करने तथा बाद की प्रणालियों में प्राधिकरण लागू करने की सिफ़ारिशों के ज़रिए इस अंतर पर ज़ोर देती है।
सेवा बहाली की एक उदाहरणात्मक कार्यप्रणाली पर विचार करें, जिसमें एजेंट किसी ऐप्लिकेशन की धीमी गति की जाँच करता है और एक घटक को फिर से शुरू करने का प्रस्ताव देता है। नीति स्वीकृत टेलीमेट्री तक पहुँच की अनुमति देती है, जबकि उत्पादन परिवेश में रीस्टार्ट करने के लिए यह प्रमाण ज़रूरी है कि अतिरिक्त व्यवस्था ठीक से काम कर रही है, साथ ही सेवा के ज़िम्मेदार व्यक्ति की मंज़ूरी भी चाहिए। ये शर्तें एक व्यापक निर्देश को सीमाबद्ध परिचालन निर्णय में बदल देती हैं।
परिचालन इरादे को नियंत्रित टूलों में बदलें
यदि बहाली के लिए कोई स्वीकृत टूल मौजूद है, तो एजेंट उस क्षमता का उपयोग करके अनुरोध तैयार कर सकता है। ऐसा टूल न होने पर, वह स्क्रिप्ट, रनबुक, इनपुट स्कीमा और टूल विवरण बनाने में मदद कर सकता है; इस तरह परिचालन इरादा एक प्रस्तावित क्षमता में बदल जाता है, जिसकी दूसरे लोग समीक्षा कर सकते हैं। एजेंटिक टूल कोडिंग का यही व्यावहारिक लाभ है: एजेंट परिचालन व्यवस्था का इस्तेमाल करने के साथ-साथ उसे बनाने में भी योगदान दे सकते हैं।
हालाँकि, ऐसी व्यवस्था तैयार कर देने से उसे उत्पादन परिवेश में अपने-आप चलाने योग्य नहीं मान लेना चाहिए। किसी प्रस्तावित क्षमता के लिए जवाबदेह स्वामित्व, सुरक्षा जाँच, संस्करण नियंत्रण और अमान्य इनपुट, अत्यधिक दायरा, आंशिक विफलताएँ तथा बार-बार निष्पादन शामिल करने वाली परीक्षाओं की एक स्वतंत्र जारीकरण प्रक्रिया होनी चाहिए। एजेंट द्वारा तैयार की गई परीक्षाएँ प्रमाण जुटाने में योगदान दे सकती हैं, लेकिन क्षमता को स्वीकृत सूची में शामिल करने से पहले स्वतंत्र सत्यापन से यह तय होना चाहिए कि वह परिचालन आवश्यकताओं को पूरा करती है या नहीं।
इसके बाद निष्पादन की सीमाओं में संसाधनों का दायरा, नेटवर्क तक पहुँच, अवधि और ख़र्च शामिल होने चाहिए। कोई मंज़ूरी आवश्यक हो, तो उसे विशिष्ट कार्रवाई, लक्ष्य और संस्करण से जोड़ा जाना चाहिए। बहाली की व्यवस्थाओं पर भी उतना ही ध्यान देना चाहिए, क्योंकि कुछ बदलावों को वापस लिया जा सकता है, जबकि अन्य के लिए उनकी भरपाई करने वाली कार्रवाइयाँ ज़रूरी होती हैं या उन्हें पलटा नहीं जा सकता। हर क्षमता में इन सीमाओं को स्पष्ट किया जाना चाहिए और परिचालकों को आगे का निष्पादन रोकने का ऐसा तरीका दिया जाना चाहिए जिसकी जाँच की गई हो।
स्मृति से संचालन-शासन की एक और ज़िम्मेदारी पैदा होती है, क्योंकि संचित अवलोकन मूल संदर्भ बदल जाने के बहुत समय बाद भी भविष्य के निर्णयों को प्रभावित कर सकते हैं। संगठनों को तय करना चाहिए कि एजेंट क्या संग्रहित कर सकते हैं, जानकारी कितने समय तक उपलब्ध रहेगी और उस पर पहुँच की कौन-सी सीमाएँ लागू होंगी; साथ ही, जानकारी के स्रोत का पता लगाने और उसे सुधारने की व्यवस्थाएँ भी होनी चाहिए। याद रखी गई अनुमति कभी स्थायी अधिकार नहीं बननी चाहिए, और पुराना परिचालन ज्ञान चुपचाप नई कार्रवाइयों का मार्गदर्शन नहीं करना चाहिए।
प्रमाण के आधार पर स्वायत्तता बढ़ाएँ
अर्थपूर्ण निगरानी के लिए ऐसे प्रमाण चाहिए जो मूल अनुरोध, लागू नीति, मंज़ूरी, टूल के संस्करण, निष्पादन के परिणाम और उसके बाद की पुष्टि को आपस में जोड़ें। मानव समीक्षकों को प्रस्तावित बदलाव, उससे जुड़ी अनिश्चितता और उसे वापस लेने के विकल्पों का आकलन करने के लिए पर्याप्त संदर्भ मिलना चाहिए, लेकिन अनावश्यक विवरण से वे उलझें नहीं। इस निगरानी को प्रभावी बनाने के लिए, आगे भेजने की प्रक्रिया एजेंट के जताए आत्मविश्वास पर ही निर्भर रहने के बजाय तय शर्तों के अनुसार चलनी चाहिए—जैसे परस्पर विरोधी अवलोकन या सिस्टम की अपरिचित स्थिति।
आईटी नेताओं को सीमित दायरे वाले कार्यप्रवाह से शुरुआत करनी चाहिए और परिचालन साक्ष्य का समर्थन मिलने पर अधिकार का दायरा बढ़ाना चाहिए। उन्हें सफल परिणामों के साथ-साथ अपवादों, बहाली में लगने वाले समय, नीतियों के उल्लंघनों और निगरानी के प्रयास को भी मापना चाहिए। इन मापों से यह तय करने में मदद मिलती है कि कोई एजेंट अधिक जिम्मेदारी संभालने के लिए तैयार है या नहीं और कहाँ अतिरिक्त सुरक्षा उपायों या परीक्षण की आवश्यकता है।
इसमें अवसर यह है कि कार्य सौंपने की प्रक्रिया को बार-बार दोहराने योग्य बनाया जाए। इसके लिए हर स्वीकृत क्षमता यह तय करे कि कोई एजेंट क्या कर सकता है, किन परिस्थितियों में और किस जवाबदेही के साथ। यह अनुशासन संगठनों को अधिक स्वायत्तता देने के लिए ठोस आधार देते हुए उनकी परिचालन दृढ़ता और दक्षता को मजबूत कर सकता है। सबसे अहम बात यह है: शासन-व्यवस्था उत्पाद में अपनी जगह इसलिए बनाती है, क्योंकि वही इस प्रगति को संभव करती है।












