विश्वसनीयता ही एजेंटिक एआई की असली परीक्षा है

पिछले दो वर्षों से उद्योग एक सवाल पूछ रहा है: क्या एआई एजेंट वास्तविक काम संभालने में पर्याप्त सक्षम हैं? अब यह सवाल पूछना बंद किया जा सकता है। हम जानते हैं कि वे सक्षम हैं, लेकिन हमें इस बात पर पूरी तरह ध्यान देना होगा कि क्या हम पहचान सकते हैं कि कोई एजेंट महंगी गलती करने वाला है और क्या हम उसे गलती होने से पहले रोक सकते हैं।

प्रोडक्शन में सबसे गंभीर विफलताएं आम तौर पर किसी साफ-साफ दिखाई देने वाली मॉडल त्रुटि जैसी नहीं होतीं। कोई एजेंट हर API कॉल सफलतापूर्वक पूरा कर सकता है, फिर भी पुराने संदर्भ के आधार पर काम कर सकता है, विफल हो रहे टूल को बार-बार आजमा सकता है या किसी नियम का उल्लंघन करने वाली कार्रवाई की ओर बढ़ सकता है। विश्वसनीयता ही तय करती है कि एजेंटिक एआई कार्यक्रम पायलट चरण से आगे निकल पाएगा या नहीं।

“2025 में AI की स्थिति: एजेंट, नवाचार और परिवर्तन” नामक McKinsey सर्वेक्षण के अनुसार, 62% संगठन एआई एजेंटों के साथ प्रयोग कर रहे हैं, लेकिन केवल लगभग 10% इनमें से किसी भी कार्य में विस्तार नहीं कर रहे हैं। सहकर्मियों को यह दिखाना आसान है कि कोई एजेंट काम करता है। वास्तविक डेटा और आपस में जुड़े सिस्टम पर उसे सुरक्षित रूप से चलाना आसान नहीं है।

एजेंटिक एआई जोखिम को कई गुना क्यों बढ़ाता है

एजेंट संभाव्य तर्क, टूल के उपयोग और कुछ हद तक स्वायत्तता को एक साथ जोड़ते हैं। यह उन्हें उपयोगी बनाता है, लेकिन कंपनियों को ऐसी त्रुटियों के लिए भी खुला छोड़ देता है जो पारंपरिक एप्लिकेशन की तुलना में अधिक तेजी से बढ़ती जाती हैं।

संदर्भ

एजेंट केवल दिए गए संदर्भ के आधार पर काम कर सकते हैं। इसलिए यदि वह संदर्भ अधूरा, पुराना या गलत है, तो शुरुआत की गलत व्याख्या बाद के हर चरण में बनी रहती है। चैटबॉट का गलत उत्तर परेशान करता है। लेकिन पहुंच की अनुमति बदल देने वाली या इन्फ्रास्ट्रक्चर को प्रभावित करने वाली गलत व्याख्या एक घटना बन जाती है। यदि कुछ गलत हो जाए तो यह जानना जरूरी है कि एजेंट ने सही साक्ष्य का उपयोग किया या नहीं, नीति का पालन किया या नहीं और प्रभाव को स्वीकार्य दायरे में रखा या नहीं।

ज्ञान आधार

एजेंट ज्ञान आधार, टिकटिंग सिस्टम और भुगतान प्लेटफॉर्म से भी जुड़ते हैं; हर कनेक्शन हमले की सतह को बढ़ाता है। कोई एजेंट गलत टूल को कॉल कर सकता है, सही टूल को गलत क्रम में कॉल कर सकता है या प्राप्त सामग्री में छिपे निर्देशों के आधार पर कार्रवाई कर सकता है। ये विफलता के ज्ञात तरीके हैं और इनमें टूल तथा संदर्भ को जोड़ने की प्रक्रिया से पैदा होने वाली मनगढ़ंत जानकारी और सुरक्षा कमजोरियां शामिल हैं।

हरा दिखाई देने वाला डैशबोर्ड आपको धोखा दे सकता है: इन्फ्रास्ट्रक्चर ठीक दिखता है, जबकि कोई एजेंट चुपचाप उसी टूल से बार-बार पूछताछ करता रहता है। यह सामान्य आउटेज के बजाय विचलन का शुरुआती संकेत है।

गैर-नियतात्मकता

गैर-नियतात्मकता घटना प्रतिक्रिया को भी कठिन बनाती है। पारंपरिक सेवा विफलता को आम तौर पर अनुरोध आईडी और ज्ञात सॉफ्टवेयर संस्करण से दोबारा उत्पन्न किया जा सकता है। एजेंट का रन मॉडल के संस्करण, उसके द्वारा प्राप्त दस्तावेजों, वापस मिले टूल आउटपुट और बीच के निर्णयों की श्रृंखला पर निर्भर करता है। एजेंट को क्या मिला और उसने क्या करने की कोशिश की, इसका रिकॉर्ड न हो तो मूल कारण का विश्लेषण और शासन दोनों बहुत कठिन हो जाते हैं।

लागत और विलंब

लागत और विलंब भी दूसरी दिशा से यही कहानी बताते हैं। टोकन उपयोग या दोबारा प्रयासों में अचानक उछाल खराब योजना या लूप का संकेत हो सकता है, भले ही उपयोगकर्ता को अंततः उत्तर मिल जाए। पिछले कुछ वर्षों में इन्फरेंस की लागत तेजी से घटी है और सस्ता इन्फरेंस अक्षम व्यवहार को तब तक अनदेखा करना आसान बनाता है, जब तक वही व्यवहार हजारों कार्यप्रवाहों में दोहराया न जाए। लागत, विलंब और दोबारा प्रयासों को केवल वित्तीय मेट्रिक नहीं, बल्कि विश्वसनीयता के संकेत मानें।

विकेंद्रीकृत एआई को फिर भी केंद्रीकृत दृश्यता चाहिए

स्पष्ट सुरक्षा सीमाओं के बिना विकेंद्रीकरण विफल हो जाता है। कार्यप्रवाह और एस्केलेशन की जिम्मेदारी अग्रिम पंक्ति की टीमों के पास रखें, लेकिन पहचान, पहुंच और घटना प्रतिक्रिया को उद्यम स्तर पर रखें। वित्त टीम वैध इनवॉइस अपवाद और अनुचित भुगतान निर्णय के बीच उस तरह अंतर कर सकती है जैसा कोई सामान्य बेंचमार्क कभी नहीं कर पाएगा। उसी सर्वेक्षण में McKinsey ने पाया कि वास्तविक एआई प्रभाव की रिपोर्ट करने वाले संगठनों में मौजूदा प्रक्रियाओं पर केवल एआई जोड़ने के बजाय अपने कार्यप्रवाह को फिर से डिजाइन करने की संभावना लगभग तीन गुना अधिक थी।

फिर भी यह समझौता वास्तविक है: जब कोई घटना कई सिस्टम में फैलती है तो जिम्मेदारी बहुत जल्दी अस्पष्ट हो जाता है। समाधान है हर एजेंट, उसके टूल, उसकी डेटा पहुंच और उसके घटना इतिहास का साझा संचालन दृश्य।

वितरित आर्किटेक्चर में कुछ खराब होने पर पूरी तस्वीर खोना आसान होता है। कई टीमें टोकन की मात्रा और लागत देख सकती हैं, लेकिन वे यह नहीं देख पातीं कि एजेंट ने इच्छित परिणाम वास्तव में सुरक्षित रूप से हासिल किया या नहीं। जब किसी कार्यप्रवाह के रिकॉर्ड अलग-अलग स्थानों पर रहते हैं, तो टीमें कारणों के बजाय लक्षणों का पीछा करती रह जाती हैं।

मॉडल की पहचान और टूल कॉल जैसे मानकीकृत टेलीमेट्री संकेत मदद कर सकते हैं। कार्यप्रवाह में चरणों की सामान्य संख्या जैसी व्यवहार संबंधी आधार रेखाएं भी उपयोगी दृढ़ता और अटके हुए सिस्टम के बीच अंतर करने के लिए जरूरी हैं। मूल्यांकन लॉन्च से पहले का एक बार का द्वार नहीं है। यह लगातार चलने वाला चक्र है।

प्रोडक्शन में विश्वसनीय एआई वास्तव में कैसा दिखता है

विश्वसनीय एआई का अर्थ गलतियों को टालना नहीं, उनका प्रबंधन करना है। टीमों को व्यवहार की दृश्यता, प्रदर्शन के भटकने पर चेतावनी और कुछ गलत होने पर नियंत्रण की योजना चाहिए। सबसे जरूरी बात यह है कि हर एजेंट के लिए पहुंच और स्वायत्त कार्रवाइयों पर स्पष्ट सुरक्षा सीमाएं हों। मानव स्वीकृति भी आवश्यक है।

उन कम जोखिम वाली कार्रवाइयों से शुरुआत करें जिन्हें वापस लिया जा सकता है। प्रोडक्शन में बदलाव और वित्तीय लेनदेन जैसी गंभीर परिणाम वाली कार्रवाइयों को वास्तविक नियंत्रण के पीछे रखें। गंभीर परिणाम वाले कार्यप्रवाहों को बाद में पुनर्निर्मित किया जा सकना चाहिए, जिसमें एजेंट द्वारा प्राप्त संदर्भ, उसके द्वारा कॉल किए गए टूल, उसे मिली स्वीकृतियां और परिणाम वास्तव में सही था या नहीं, सब शामिल हों।

पारंपरिक सेवा-स्तर उद्देश्यों को एजेंट की गुणवत्ता और सुरक्षा तक भी बढ़ाना होगा। इनमें सत्यापित कार्य-सफलता दर, नीति-अनुपालन दर, मानव एस्केलेशन दर, प्रति सफल कार्य लागत और अवांछित परिणामों की आवृत्ति शामिल हैं। सीमाएं उपयोग के मामले के अनुसार अलग होनी चाहिए। आंतरिक ज्ञान सहायक उस एजेंट से अलग त्रुटि-प्रोफाइल सह सकता है जो विनियमित डेटा को छूता है।

सबसे उपयोगी विश्वसनीयता सिस्टम उन स्थितियों को पहचानना सीखते हैं जो अक्सर विफलता से पहले आती हैं, जैसे दोबारा प्रयासों में असामान्य उछाल या ऐसा रास्ता जो पहले मानव हस्तक्षेप तक पहुंचा हो। कम जोखिम वाला कार्यप्रवाह अपने आप सुधार शुरू कर सकता है। अधिक जोखिम वाला कार्यप्रवाह रुकना चाहिए और निर्णय अधिकृत व्यक्ति के पास भेजना चाहिए। लक्ष्य केवल स्वायत्तता के लिए स्वायत्त कार्रवाई करना नहीं है। लक्ष्य तब अधिक तेज और सुरक्षित कार्रवाई करना है जब साक्ष्य उसका समर्थन करे।

AI SRE चक्र को पूरा करता है

यहीं AI SRE की भूमिका शुरू होती है। AI SRE एजेंट किसी घटना की समयरेखा तैयार कर सकता है, वर्तमान व्यवहार की पिछली घटनाओं से तुलना कर सकता है और अनुशंसित कार्रवाई तैयार कर सकता है, जबकि संगठन वापस ली जा सकने वाली गतिविधियों के लिए नियंत्रित सुधार और हर गंभीर परिणाम वाले काम के लिए मानव स्वीकृति बनाए रखता है।

एआई को अपनाने की गति तेज है। लेकिन अपनाना संचालन परिपक्वता के समान नहीं है। एजेंटिक एआई का सफलतापूर्वक विस्तार करने वाले उद्यम जरूरी नहीं कि अलग-थलग सबसे सक्षम मॉडल चलाने वाले हों। सफल वे होंगे जो पूरे व्यवसाय में अपने एजेंटों के व्यवहार को देख सकें, विचलन के शुरुआती संकेत पकड़ सकें और छोटी गलती के ग्राहक, सुरक्षा या अनुपालन घटना बनने से पहले हस्तक्षेप कर सकें।

AI SRE यही भूमिका निभाता है: विकेंद्रीकृत नवाचार को केंद्रीकृत दृश्यता से जोड़ना और एजेंटिक एआई को ऐसे सिस्टम में बदलना जिस पर उद्यम भरोसा कर सके।