एआई एजेंट कार्य कर सकते हैं। लेकिन क्या उद्यम उन्हें संचालित कर सकते हैं?

एआई एजेंट कार्यों को पूरा करने में उल्लेखनीय रूप से कुशल होते जा रहे हैं। एक एजेंट को लक्ष्य, सही उपकरणों तक पहुँच, पर्याप्त संदर्भ, और स्पष्ट रूप से परिभाषित कार्यप्रवाह प्रदान करें, और वह जानकारी शोध सकता है, दस्तावेज़ों का विश्लेषण कर सकता है, निर्णय ले सकता है, सिस्टम अपडेट कर सकता है, और अन्य एजेंटों के साथ समन्वय कर सकता है।

यही एजेंटिक एआई का रोमांचक पहलू है। यह वही भाग भी है जिसे हम डेमो में अक्सर देखते हैं।

उद्यम संचालन अलग दिखते हैं। एक ऋण आवेदन अधिग्रहण के मध्य में बदल जाता है। सत्यापन समाप्त होने के बाद ग्राहक नई जानकारी प्रदान करता है। दो सिस्टम एक ही खाते पर असहमत होते हैं। कल वैध थी वह स्वीकृति आज वैध नहीं रह सकती। एक एजेंट केस का सारांश बनाता है और उसे दूसरे एजेंट को सौंपता है, और प्रक्रिया में एक प्रतीत होने वाला छोटा विवरण गायब हो जाता है।

सुखद मार्ग एजेंट को करने वाले कार्यों का 80 प्रतिशत हो सकता है। शेष 20 प्रतिशत में उद्यम कार्य करते हैं।

80/20 फ्रेमिंग कोई उद्योग सांख्यिकी नहीं है। यह उस स्थान को वर्णित करने का तरीका है जहाँ संचालन जटिलता छिपी रहती है। उद्यम संचालन का कठिन हिस्सा अक्सर सामान्य मामला नहीं, बल्कि अपवाद, हैंडऑफ़, निर्भरताएँ, बदलता संदर्भ, और निर्णय होते हैं जहाँ संगठन परिणाम के लिए उत्तरदायी रहता है।

जैसे ही एआई प्रश्नों का उत्तर देने से कार्रवाई करने की ओर बढ़ता है, यह संचालन जटिलता और अधिक महत्वपूर्ण हो जाती है। उद्यमों को यह सोचने से आगे बढ़ना होगा कि एजेंट कैसे निर्मित होते हैं और यह विचार करना शुरू करना होगा कि उन्हें कैसे संचालित किया जाता है।

यहीं से Agentic Operations शुरू होता है।

जवाब उत्पन्न करने से लेकर कार्रवाई करने तक

उद्यम जनरेटिव एआई की पहली लहर मुख्यतः जानकारी के बारे में थी। मॉडल दस्तावेज़ों का सारांश बनाते थे, रिपोर्ट उत्पन्न करते थे, प्रश्नों का उत्तर देते थे, उद्यम ज्ञान की खोज करते थे, और कर्मचारियों को मौजूदा कार्यों को तेज़ी से पूरा करने में मदद करते थे।

एजेंट मूल रूप से कुछ अलग प्रस्तुत करते हैं। वे ऐसी कार्रवाइयाँ कर सकते हैं जो व्यापार प्रक्रिया की स्थिति को बदल देती हैं। एक एजेंट कुछ को स्वीकृत या अस्वीकृत कर सकता है, रिकॉर्ड सिस्टम को अपडेट कर सकता है, ग्राहक को संचार भेज सकता है, एक अन्य कार्यप्रवाह को ट्रिगर कर सकता है, दूसरे एजेंट को कॉल कर सकता है, या ऐसा निर्णय ले सकता है जो आगे क्या होगा, यह निर्धारित करता है।

OpenAI अपने व्यावहारिक गाइड में एजेंटों का वर्णन करता है ऐसे सिस्टम हैं जो उपयोगकर्ताओं की ओर से स्वतंत्र रूप से कार्य पूर्ण करते हैं, मॉडल का उपयोग करके कार्यप्रवाह निष्पादन को प्रबंधित करते हैं और टूल्स के माध्यम से बाहरी सिस्टम के साथ इंटरैक्ट करते हैं। एक गलत उत्तर का संचालनात्मक परिणाम एक गलत कार्रवाई के परिणाम से बहुत अलग होता है।

इसलिए उद्यम प्रश्न बदल जाता है। यह अब पर्याप्त नहीं है कि यह पूछा जाए कि मॉडल ने अच्छा उत्तर उत्पन्न किया या एजेंट ने अपने निर्धारित कार्य को सफलतापूर्वक पूरा किया। उद्यमों को अब अधिकाधिक यह जानने की आवश्यकता है कि क्या कोई कार्रवाई बिल्कुल ही होनी चाहिए थी, व्यापार संदर्भ, नीतियों, अधिकार, और प्रक्रिया में पहले हुई सभी चीज़ों को ध्यान में रखते हुए।

चित्र 1: जनरेटिव एआई एक आउटपुट उत्पन्न करता है। एजेंटिक एआई व्यापार की स्थिति बदलता है।

एक बार जब एआई व्यापार की स्थिति बदल सकता है और बाद के निर्णयों को प्रभावित कर सकता है, तो विश्वसनीयता को केवल मॉडल स्तर पर मापा नहीं जा सकता।

एक एजेंट सफल हो सकता है जबकि व्यापार प्रक्रिया विफल हो जाती है

एक एआई-संचालित ऋण अंडरराइटिंग कार्यप्रवाह पर विचार करें। एक एजेंट आवेदन दस्तावेज़ निकालता है, दूसरा आय सत्यापित करता है, तीसरा क्रेडिट जानकारी का मूल्यांकन करता है, और बाद में एक एजेंट केस का सारांश बनाता है इससे पहले कि अंडरराइटिंग एजेंट निर्णय ले या अनुशंसा करे।

प्रत्येक एजेंट की स्पष्ट रूप से परिभाषित जिम्मेदारी होती है, और प्रत्येक वह जिम्मेदारी सही ढंग से निभा सकता है। दस्तावेज़ एजेंट सही जानकारी निकाल सकता है। आय सत्यापन एजेंट अपना कार्य सफलतापूर्वक पूरा कर सकता है। सारांश एजेंट उपलब्ध जानकारी का सटीक सारांश बना सकता है। अंडरराइटिंग एजेंट अपने निर्देशों का सही पालन कर सकता है।

अंतिम व्यापार निर्णय अभी भी गलत हो सकता है।

कल्पना करें कि अद्यतन आय जानकारी प्रारंभिक सत्यापन के बाद आती है। नया दस्तावेज़ प्रोसेस किया जाता है, लेकिन जब केस को अगले चरण के लिए सारांशित किया जाता है तो उसकी महत्ता कम हो जाती है। अंतिम अंडरराइटिंग एजेंट एक उचित सारांश प्राप्त करता है, लेकिन पूरे प्रक्रिया में मौजूद पूर्ण व्यापार संदर्भ नहीं।

कुछ भी अनिवार्य रूप से क्रैश नहीं हुआ। कोई API विफल नहीं हुआ। कोई व्यक्तिगत एजेंट अनिवार्य रूप से भ्रमित नहीं हुआ। प्रत्येक घटक सफल निष्पादन की रिपोर्ट कर सकता है जबकि व्यापार प्रक्रिया गलत परिणाम तक पहुँचती है।

Anthropic अपने प्रभावी एजेंटों के निर्माण पर मार्गदर्शन में एक संबंधित चुनौती पर चर्चा करता है, यह नोट करते हुए कि स्वायत्त सिस्टम अधिक चरणों के साथ जटिल त्रुटियों का सामना कर सकते हैं। समस्या मॉडल की सटीकता से अधिक व्यापक हो जाती है क्योंकि स्थिति, संदर्भ, निर्णय, और धारणाएँ कार्यप्रवाह में घूमती रहती हैं।

यह एक महत्वपूर्ण अंतर बनाता है एजेंट विश्वसनीयता और व्यापार प्रक्रिया विश्वसनीयता के बीच। एक उद्यम अंततः व्यक्तिगत एजेंट का अनुभव नहीं करता। वह संपूर्ण प्रक्रिया द्वारा उत्पन्न परिणाम का अनुभव करता है।

Figure 2: स्थानीय सफलता व्यापारिक सफलता की गारंटी नहीं देती

यह Agentic AI द्वारा पेश किए गए महत्वपूर्ण बदलावों में से एक है। एक कार्यप्रवाह तब भी विफल हो सकता है जब प्रत्येक घटक स्वतंत्र रूप से जांचने पर स्वस्थ दिखता है।

क्षमता अधिकार नहीं है

वर्तमान एजेंट स्टैक का अधिकांश भाग स्वाभाविक रूप से क्षमता पर केंद्रित है। टीमें यह जानना चाहती हैं कि क्या कोई एजेंट तर्क कर सकता है, सही उपकरण चुन सकता है, कार्य पूरा कर सकता है, त्रुटियों से उबर सकता है, और स्वीकार्य सटीकता तथा विलंबता के साथ काम कर सकता है।

उद्यमों की एक और आवश्यकता है: अधिकार।

मान लीजिए एक अंडरराइटिंग एजेंट ऋण स्वीकृत करने में सक्षम है। इसका यह मतलब नहीं कि उसे हर वह ऋण स्वीकृत करना चाहिए जिसे वह मूल्यांकन कर सकता है। उसका अधिकार ऋण की राशि, जोखिम श्रेणी, ग्राहक प्रकार, उपलब्ध साक्ष्य, विश्वास स्तर, पूर्व निर्णय, या क्या आवेदन पहले की समीक्षा के बाद बदल गया है, इन पर निर्भर हो सकता है।

यह एक सीमा बनाता है कि एक एजेंट क्या कर सकता है और एक एजेंट को क्या करने की अनुमति है।

OpenAI अनुशंसा करता है कि एजेंट टूल्स से जुड़े जोखिम का मूल्यांकन किया जाए और संवेदनशील एवं अपरिवर्तनीय कार्यों के आसपास सुरक्षा उपाय या मानव हस्तक्षेप जोड़े जाएँ। Microsoft समान दृष्टिकोण अपनाता है अपने मार्गदर्शन में जहाँ एजेंट‑संचालित मुख्य व्यावसायिक प्रक्रियाओं के लिए, जहाँ एजेंट परिभाषित सीमाओं के भीतर नियमित निर्णय ले सकते हैं, जबकि निर्णय अधिकार यह निर्धारित करते हैं कि कौन‑से कार्य स्वतंत्र रूप से किए जा सकते हैं और कौन‑से मानव अनुमोदन की आवश्यकता रखते हैं।

जैसे-जैसे एजेंट क्षमता में सुधार होता है, यह अंतर अधिक महत्वपूर्ण हो जाता है, कम नहीं। अधिक सक्षम एजेंट अधिक प्रभावशाली कार्य कर सकते हैं। इसलिए उद्यमों को इन कार्यों के लिए अनुमत सीमाओं को परिभाषित और लागू करने के स्पष्ट तरीके चाहिए।

प्रश्न बदलता है क्या एजेंट यह कर सकता है? से किस परिस्थितियों में एजेंट को यह करने की अनुमति होनी चाहिए?

व्यवसाय नीति को निष्पादन के करीब जाना चाहिए

उद्यमों के पास पहले से ही मानव‑संचालित प्रक्रियाओं को नियंत्रित करने के लिए व्यापक तंत्र हैं। वे SOPs, अनुमोदन मैट्रिक्स, अनुपालन नीतियों, जोखिम थ्रेशहोल्ड, प्रशिक्षण, कर्तव्यों का विभाजन, ऑडिट, और एस्केलेशन प्रक्रियाओं का उपयोग करते हैं। इन तंत्रों को एक सरल धारण पर आधारित होकर डिज़ाइन किया गया था: व्यक्ति नियम पढ़ता है, स्थिति को समझता है, और काम करते समय नियम लागू करता है।

एजेंट इस धारण को बदलते हैं।

एक नीति पर विचार करें जो एक निश्चित सीमा से ऊपर के लेन‑देन के लिए द्वितीयक अनुमोदन की आवश्यकता रखती है। जब मानव कार्य करता है, तो नीति प्रशिक्षण और कार्य‑प्रवाह नियंत्रणों द्वारा समर्थित दस्तावेज़ में मौजूद हो सकती है। जब कोई एजेंट सैकड़ों या हजारों कार्य तेज़ी से निष्पादित कर सकता है, तो उस नीति दस्तावेज़ का अस्तित्व स्वयं उन कार्यों को रोकता नहीं है जो उसकी विरुद्ध हैं।

लिखित नीति और व्यावसायिक कार्रवाई के बीच कहीं, नीति को कार्यात्मक बनना आवश्यक है।

इसका अर्थ यह नहीं है कि हर नीति को निर्धारक कोड बनना चाहिए। कुछ नियंत्रण निर्धारक होंगे, कुछ को अर्थात्मक व्याख्या की आवश्यकता होगी, कुछ जोखिम या विश्वास पर निर्भर करेंगे, और अन्य को मानव निर्णय की आवश्यकता जारी रहेगी। बड़ा वास्तुशिल्पीय परिवर्तन यह है कि व्यवसाय नीति निष्पादन पथ के करीब जाना शुरू कर देती है।

AWS इस बिंदु को विशेष रूप से वित्तीय सेवाओं में Agentic AI के संदर्भ में बताता है, जिसमें एजेंट कार्यों की नीति‑आधारित सत्यापन और प्रभावशाली गतिविधियों के आसपास ऑडिट ट्रेल की आवश्यकता शामिल है।

ऐतिहासिक रूप से, संगठन कार्यान्वयन से पहले कई शासन आवश्यकताओं को परिभाषित कर सकते थे और बाद में ऑडिट और समीक्षाओं के माध्यम से अनुपालन की पुष्टि कर सकते थे। जब स्वायत्त प्रणालियाँ निरंतर और मशीन गति से कार्य करती हैं, तो कुछ नियंत्रणों को प्रक्रिया के चलने के दौरान कार्य करना आवश्यक हो जाता है।

लूप में मानव आवश्यक है, लेकिन यह संचालन मॉडल नहीं है

AI कार्यप्रवाह में अनिश्चितता के प्रति सबसे सामान्य प्रतिक्रिया है लूप में मानव को शामिल करना। यह समझ में आता है, विशेषकर प्रभावशाली निर्णयों के लिए, लेकिन जब मानव समीक्षा को हर अपवाद का उत्तर माना जाता है तो यह समस्या बन जाता है।

एक एजेंटिक संचालन की कल्पना करें जो हजारों या लाखों निर्णयों को प्रोसेस करता है। यदि हर असामान्य स्थिति, कम विश्वास परिणाम, नीति अस्पष्टता, या अपवाद को किसी व्यक्ति को भेजा जाता है, तो संगठन ने संचालनात्मक बाधा को नहीं हटाया है। उसने बस बाधा को एक समीक्षा कतार में स्थानांतरित कर दिया है। समय के साथ, यह एक और समस्या भी पैदा कर सकता है: जब मनुष्यों से बहुत सारे नियमित निर्णयों को अनुमोदित करने को कहा जाता है, तो मानव निगरानी स्वयं कम अर्थपूर्ण हो सकती है।

मनुष्य अभी भी आवश्यक हैं, लेकिन उनकी भूमिका में परिवर्तन आवश्यक है। हर निर्णय की समीक्षा करने के बजाय, उन्हें उन स्थितियों पर ध्यान देना चाहिए जहाँ वास्तव में निर्णय की आवश्यकता होती है, जहाँ एजेंट का अधिकार पहुँच गया है, या जहाँ प्रणाली ऐसी स्थिति का सामना करती है जिसे उसे स्वतंत्र रूप से हल नहीं करना चाहिए।

एक स्केलेबल संचालन मॉडल इसलिए केवल जोखिम स्कोरिंग और मानव समीक्षा पर निर्भर नहीं कर सकता। किसी एजेंट की कार्रवाई को व्यावसायिक कार्रवाई बनने से पहले, सिस्टम को वर्तमान व्यावसायिक संदर्भ, संबंधित नीतियों, एजेंट के अधिकार, और कार्यप्रवाह में पहले से हुई घटनाओं पर विचार करना चाहिए। परिणामस्वरूप कार्रवाई जारी रखना, अतिरिक्त साक्ष्य का अनुरोध करना, कार्रवाई को रोकना, या निर्णय को मानव तक बढ़ाना हो सकता है।

चित्र 3: मानव समीक्षा रनटाइम नियंत्रण का एक परिणाम बनती है

यह मानव निगरानी की भूमिका को बदल देता है। अब मानव को डिफ़ॉल्ट रूप से हर अनिश्चित चरण में सम्मिलित नहीं किया जाता। जब व्यावसायिक संदर्भ, नीति, अधिकार, या कार्रवाई के परिणाम में निर्णय की आवश्यकता होती है, तब मानव हस्तक्षेप एक संभावित परिणाम बन जाता है।

यह अंतर उद्यम स्तर पर महत्वपूर्ण है। कुछ कार्रवाइयों को स्वचालित रूप से आगे बढ़ना चाहिए क्योंकि वे स्पष्ट रूप से नीति और अधिकार के भीतर हैं। कुछ को रोकना चाहिए क्योंकि आवश्यक साक्ष्य अनुपलब्ध है या व्यावसायिक स्थिति बदल गई है। अन्य को बढ़ाना चाहिए क्योंकि निर्णय ने वह सीमा पार कर ली है जिसे संगठन ने जानबूझकर लोगों के लिए आरक्षित किया है।

लक्ष्य यह नहीं है कि मानव को लूप से हटाया जाए। यह मानव को सही लूपमें रखने के लिए है, जबकि नियमित निर्णयों को स्पष्ट रूप से परिभाषित सीमाओं के भीतर आगे बढ़ने दिया जाए। जैसे-जैसे एजेंटिक सिस्टम स्केल होते हैं, मानव निगरानी की गुणवत्ता इस बात पर अधिक निर्भर हो सकती है कि ऑपरेटिंग सिस्टम उन निर्णयों की पहचान कर सके जहाँ मानव निर्णय वास्तव में मायने रखता है।

अवलोकन आवश्यक है, लेकिन देखना नियंत्रण नहीं है

उद्योग ने AI अवलोकन में महत्वपूर्ण प्रगति की है। टीमें प्रॉम्प्ट, मॉडल प्रतिक्रियाएँ, ट्रेस, टूल कॉल, लेटेंसी, टोकन उपयोग, और धीरे-धीरे एजेंट द्वारा परिणाम उत्पन्न करने से पहले अनुसरण किए गए पूर्ण मार्ग को निरीक्षण कर सकती हैं।

यह दृश्यता आवश्यक है। OpenAI मार्गदर्शन एजेंट सुरक्षा और मूल्यांकन पर भी मूल्यांकन और ट्रेस ग्रेडिंग जैसी तकनीकों पर ज़ोर देता है ताकि एजेंट व्यवहार को समझा जा सके।

लेकिन केवल दृश्यता संचालन समस्या को हल नहीं करती।

कल्पना करें कि एक अंडरराइटिंग एजेंट ने पिछले सप्ताह 2,700 बार अनुमोदन नीति का उल्लंघन किया। यह उत्कृष्ट अवलोकन और भयानक संचालन दोनों को दर्शाएगा।

परिणामस्वरूप व्यावसायिक प्रक्रियाओं के लिए, उद्यमों को अंततः न केवल एजेंट व्यवहार को समझने की क्षमता चाहिए, बल्कि प्रक्रिया चल रही हो तो प्रतिक्रिया देने की भी आवश्यकता होगी।

चित्र 4: संचालन नियंत्रण लूप

अवलोकन उत्तर देता है एजेंट ने क्या किया. एजेंटिक संचालन को यह भी उत्तर देना चाहिए क्या एजेंट को जारी रखना चाहिए.

यह अंतर विशेष रूप से महत्वपूर्ण हो जाता है जब कोई कार्रवाई महंगी, परिणामस्वरूप, उलटने में कठिन, या कई डाउनस्ट्रीम निर्णयों को प्रभावित करने वाली हो।

सबसे कठिन विफलताएँ एजेंटों के बीच हो सकती हैं

एक और चुनौती है जो उद्यमों के मल्टी-एजेंट और लंबी अवधि के कार्यप्रवाहों की ओर बढ़ने पर स्पष्ट होती है। कई व्यावसायिक नीतियाँ एकल कार्रवाई तक सीमित नहीं होतीं।

एक नीति पर विचार करें जो निर्णयों की श्रृंखला में कुल वित्तीय जोखिम को सीमित करती है। प्रत्येक व्यक्तिगत लेनदेन अनुमत सीमा से नीचे हो सकता है जबकि संचयी जोखिम उससे अधिक हो जाता है। प्रत्येक कार्रवाई को अलग‑अलग देखना कोई उल्लंघन नहीं दिखाएगा।

इसी प्रकार का मुद्दा अधिकार के साथ भी उत्पन्न हो सकता है। एक एजेंट को जानकारी एकत्र करने का अधिकार हो सकता है लेकिन अंतिम निर्णय लेने का नहीं। कई हैंडऑफ़ के बाद, एक डाउनस्ट्रीम एजेंट को वह जानकारी मिल सकती है बिना मूल कार्य के साथ जुड़े अधिकार प्रतिबंधों को बरकरार रखे। प्रत्येक व्यक्तिगत कदम उचित लग सकता है जबकि पूरी श्रृंखला इच्छित व्यावसायिक प्रक्रिया का उल्लंघन करती है।

संदर्भ भी समान समस्या पैदा करता है। कार्यप्रवाह के पहले चरण में महत्वपूर्ण जानकारी को कई चरणों बाद सारांशित, रूपांतरित या छोड़ दिया जा सकता है। डाउनस्ट्रीम एजेंट उस जानकारी के बिना तर्क नहीं कर सकता, भले ही उसका तर्क अन्यथा सही हो।

इन विफलताओं से संकेत मिलता है कि विश्वसनीयता की इकाई को विस्तारित करने की आवश्यकता है।

हम मॉडल का मूल्यांकन इस बात से करेंगे कि उनके उत्तर सही हैं या नहीं। हम एजेंटों का मूल्यांकन इस बात से करेंगे कि उन्होंने अपने कार्य सही ढंग से पूरे किए या नहीं। लेकिन कार्यप्रवाह स्तर पर प्रश्न यह बन जाता है कि जानकारी, अधिकार, और नीति क्रमिक कार्रवाइयों के बीच बनी रही या नहीं। व्यावसायिक स्तर पर प्रश्न यह है कि अंतिम परिणाम दोनों सही और अनुमत था या नहीं।

यह भी व्यापक जीवनचक्र दृष्टिकोण के साथ संगत है जो NIST AI Risk Management Framework में दर्शाया गया है, जो AI जोखिम के निरंतर मापन और प्रबंधन पर ज़ोर देता है, न कि तैनाती से पहले एक बार के मूल्यांकन पर।

यहीं से एजेंटिक संचालन शुरू होता है

AI गवर्नेंस, मॉडल मूल्यांकन, LLMOps, अवलोकनशीलता, सुरक्षा, और जिम्मेदार AI पहले से ही AI सिस्टमों के संचालन के महत्वपूर्ण हिस्सों को संबोधित करते हैं। एजेंटिक ऑपरेशन्स इन अनुशासनों को प्रतिस्थापित नहीं करता। यह उस संचालनात्मक परत को संबोधित करता है जो तब महत्वपूर्ण हो जाती है जब स्वायत्त और अर्ध-स्वायत्त सिस्टम सीधे व्यावसायिक प्रक्रियाओं में भाग लेना शुरू करते हैं।

एजेंटिक ऑपरेशन्स वास्तविक व्यावसायिक प्रक्रियाओं के भीतर स्वायत्त और अर्ध-स्वायत्त AI सिस्टमों को संचालित करने का अनुशासन है, जिसमें निष्पादन के दौरान अधिकार, संदर्भ, निर्णय, अपवाद, मानव हस्तक्षेप, और जवाबदेही कैसे प्रबंधित की जाती है, शामिल है।

भेद महत्वपूर्ण है क्योंकि प्रबंधित वस्तु अब केवल मॉडल नहीं रही। यह एक चल रही व्यावसायिक प्रक्रिया है जिसमें सॉफ़्टवेयर स्वतंत्र रूप से निर्णय ले सकता है और कार्य कर सकता है।

व्यावहारिक रूप से, यह एक अलग सेट के संचालनात्मक प्रश्न उत्पन्न करता है। एक एजेंट को क्या करने की अनुमति है? एक लंबी चलने वाली कार्यप्रवाह में कौन सा व्यावसायिक संदर्भ बना रहना चाहिए? जब नया प्रमाण पहले के निर्णय को अमान्य कर देता है तो क्या होता है? एक संगठन कैसे पता लगा सकता है कि व्यक्तिगत रूप से स्वीकार्य कार्य सामूहिक रूप से नीति का उल्लंघन कर रहे हैं? एजेंट को कब जारी रखना चाहिए, रोकना, बंद करना, या एस्केलेट करना चाहिए? महीनों बाद, क्या संगठन यह पुनर्निर्माण कर सकता है कि किसी विशेष निर्णय को क्यों लिया गया था?

स्वामित्व का प्रश्न भी है। जब एक एजेंट अपना तकनीकी कार्य सही ढंग से करता है लेकिन व्यावसायिक परिणाम गलत होता है, तो विफलता का मालिक कौन है? एक एजेंट को निष्पादन सौंपने से उस संगठन की जवाबदेही नहीं सौंपी जाती जो उसे संचालित करता है।

एजेंट कार्य को निष्पादित कर सकते हैं। लेकिन उद्यम अभी भी परिणाम का मालिक रहता है।

लक्ष्य है नियंत्रित स्वायत्तता

एजेंटिक AI का भविष्य कभी-कभी पूर्ण स्वायत्तता की ओर प्रगति के रूप में वर्णित किया जाता है, जहाँ मनुष्य धीरे-धीरे व्यावसायिक कार्यप्रवाहों से गायब हो जाते हैं। अधिकांश उद्यमों के लिए, यह संभवतः गलत लक्ष्य है।

और अधिक उपयोगी लक्ष्य है नियंत्रित स्वायत्तता.

आज कई AI-सहायता प्राप्त प्रक्रियाएँ एक पैटर्न का अनुसरण करती हैं जहाँ एक एजेंट एक कार्रवाई का प्रस्ताव रखता है और एक व्यक्ति अंतिम निर्णय लेता है। जैसे-जैसे भरोसा बढ़ता है, कुछ कार्यप्रवाह एजेंटों को परिभाषित अधिकार के भीतर निर्णय लेने की अनुमति देंगे जबकि आसपास की प्रणाली निष्पादन की निगरानी करेगी और मनुष्य अपवादों को संभालेंगे। परिपक्व, कम जोखिम वाले कार्यप्रवाह अंततः एजेंटों को स्वतंत्र रूप से निर्णय लेने और कार्य करने की अनुमति दे सकते हैं, जबकि परिणामस्वरूप निर्णयों की निगरानी और रिकॉर्डिंग जारी रहेगी।

चित्र 5 : स्वायत्तता का बढ़ता स्तर

उपयुक्त सीमा प्रक्रिया के अनुसार भिन्न होगी। एक बैंक दस्तावेज़ वर्गीकरण में पर्याप्त स्वायत्तता की अनुमति दे सकता है जबकि क्रेडिट निर्णयों के आसपास कड़ी नियंत्रण रखता है। एक बीमा कंपनी नियमित दावों को स्वचालित कर सकती है जबकि असामान्य साक्ष्य संयोजनों को एस्केलेट करती है। एक स्वास्थ्य सेवा संगठन एजेंटों को जानकारी एकत्र करने और सारांशित करने की अनुमति दे सकता है जबकि परिणामस्वरूप निर्णय लोगों के लिए आरक्षित रखता है।

इसलिए महत्वपूर्ण प्रश्न केवल यह नहीं है कि एक एजेंट कितना स्वायत्त बन सकता है। यह है कि एक संगठन कितनी स्वायत्तता को जिम्मेदारी से संचालित कर सकता है।

यह नियंत्रणों की भूमिका को भी बदल देता है। नियंत्रण आवश्यक रूप से स्वायत्तता को कम करने के तंत्र नहीं होते। यदि सही ढंग से लागू किए जाएँ, तो वे संगठन को अधिक विश्वास के साथ स्वायत्तता का विस्तार करने की अनुमति देते हैं।

एजेंटों का संचालन बनाना उनसे अधिक कठिन हो सकता है

मॉडल लगातार सुधारेंगे। उपकरणों का उपयोग सुधरेगा। एजेंट फ्रेमवर्क सुधरेंगे। तर्कशक्ति में सुधार होगा, और आज जो समस्याएँ कठिन लगती हैं, वे अंततः नियमित हो जाएँगी।

बेहतर मॉडल, हालांकि, व्यावसायिक नीतियों, बदलते संदर्भ, अपवादों, संगठनात्मक सीमाओं, या जवाबदेही को समाप्त नहीं करते। कुछ हद तक, बेहतर एजेंट इन मुद्दों को और अधिक महत्वपूर्ण बनाते हैं। एक प्रणाली जो स्वायत्त रूप से कार्य नहीं कर सकती, उसकी संचालनात्मक अधिकार सीमित होते हैं। एक प्रणाली जो हजारों व्यावसायिक निर्णय ले सकती है, पूरी तरह अलग जिम्मेदारी उत्पन्न करती है।

इसी कारण अगला चरण का एंटरप्राइज़ AI संभवतः इस बात से निर्धारित नहीं होगा कि कौन सा संगठन सबसे अधिक एजेंट तैनात करता है। यह इस बात से निर्धारित हो सकता है कि कौन से संगठन उन्हें संचालित करना सीखते हैं।

पहले 80 प्रतिशत यह दर्शाते हैं कि एजेंट काम कर सकता है। शेष 20 प्रतिशत यह निर्धारित करता है कि क्या उद्यम इसे व्यवसाय के साथ भरोसेमंद मान सकता है।

परिभाषित उद्यम प्रश्न शायद बदल सकता है हमारे एजेंट क्या कर सकते हैं से कुछ कठिन में:

हम उन्हें क्या करने की अनुमति देने के लिए तैयार हैं, किन शर्तों में, और जब ये शर्तें बदलें तो हम कैसे जानेंगे?

यहीं से एजेंटिक ऑपरेशन्स शुरू होते हैं।