स्वायत्त एजेंटों को केवल एआई दृश्यता से अधिक की आवश्यकता होती है

कंपनियां जब एआई एजेंटों का उपयोग सोच, कार्य और कार्य प्रवाह शुरू करने के लिए करती हैं, तो उनकी निगरानी और प्रबंधन के लिए एक योजना विकसित करना आवश्यक है।

जब एआई प्रणाली के विभिन्न घटक अपने निर्णय लेना शुरू कर देते हैं, तो दृश्यता अकेले यह सुनिश्चित करने के लिए पर्याप्त नहीं है कि संचालन स्थिर, सुरक्षित या विश्वसनीय रहेंगे।

उद्यम में एआई एजेंटों का प्रभावी ढंग से प्रबंधन करने के लिए, व्यवसायों को समस्या पहचान और कार्रवाई के बीच की खाई को पाटना होगा। यह केवल समस्याओं का निदान करने से परे है; व्यवसायों को उन्हें रोकने के लिए सक्रिय रूप से काम करना चाहिए।

स्वायत्त एजेंटों का उदय

उद्यम एआई की पहली लहर प्रॉम्प्ट-आधारित प्रणालियों के साथ शुरू हुई; एक उपयोगकर्ता ने एक प्रश्न पूछा, मॉडल ने प्रतिक्रिया दी, और आदान-प्रदान वहीं समाप्त हो गया। हालांकि ये प्रारंभिक प्रौद्योगिकियां मूल रूप से प्रतिक्रियात्मक थीं, वे खोज, सह-पायलट, सामग्री निर्माण और सारांश के लिए उपयोगी थीं।

इसके बाद की लहर अलग है। स्वायत्त एआई एजेंट न केवल प्रतिक्रिया करते हैं, वे उद्देश्यों के पार भी तर्क करते हैं, उपकरण चुनते हैं, जानकारी निकालते हैं, कार्रवाई करते हैं और कार्य प्रवाह शुरू करते हैं। वे कभी-कभी अन्य एजेंटों या प्रणालियों के साथ मिलकर काम करते हैं और बढ़ती तरह से कंपनी के भीतर संचालन खिलाड़ियों के रूप में कार्य करते हैं, न कि मानव निर्देशों के लिए एक इंटरफेस परत के रूप में।

यह परिवर्तन महत्वपूर्ण है क्योंकि यह एआई के संचालन विशेषताओं को प्रभावित करता है। टीमें अब केवल मॉडल आउटपुट पर नजर नहीं रख रही हैं। इसके बजाय, वे गतिशील प्रणालियों का प्रबंधन कर रहे हैं जो तुरंत ग्राहकों, कर्मचारियों, बुनियादी ढांचे, व्यावसायिक प्रक्रियाओं और अन्य अनुप्रयोगों को प्रभावित कर सकते हैं।

आज के एजेंटों की शक्तियां

एजेंटों की प्रतिभाएं उनके साथ विकसित होती हैं। एजेंट अगली बात का चयन कर सकते हैं, एक लक्ष्य को चरणों में तोड़ सकते हैं और विभिन्न स्तरों पर गतिविधियों को पूरा कर सकते हैं। एपीआई से संपर्क करके, डेटाबेस को क्वेरी करके, आंतरिक प्रणालियों को खोजकर, रिकॉर्ड को अपडेट करके और डाउनस्ट्रीम कार्यों को शुरू करके, वे कार्य प्रवाह का समन्वय करते हैं। प्रॉम्प्ट, मेमोरी, व्यावसायिक नियमों, पुनर्प्राप्त जानकारी और वास्तविक समय के संचालन संकेतों को एकीकृत करके, एजेंट संदर्भ-आधारित निर्णय भी ले सकते हैं।

अधिक परिष्कृत एजेंट यह पहचान सकते हैं कि जब एक कार्य प्रवाह विफल हो रहा है, फिर से कोशिश करें, समस्याओं को बढ़ाएं या काम को मानव समीक्षक को भेजें। सीआरएम, टिकटिंग, क्लाउड इन्फ्रास्ट्रक्चर, आंतरिक ज्ञान आधार, दृश्यता प्लेटफ़ॉर्म और व्यावसायिक अनुप्रयोगों में, एजेंट स्वतंत्र रूप से कार्य कर सकते हैं। हमें उम्मीद है कि ये कौशल तेजी से विकसित होंगे।

व्यवसाय स्वायत्त एआई एजेंटों को कैसे एकीकृत कर रहे हैं

एजेंटों को विभिन्न संगठनात्मक संचालन में शामिल किया जा रहा है, और वे संचालन प्रक्रियाओं के करीब पहुंच रहे हैं जहां गति, सटीकता, सुरक्षा और शासन महत्वपूर्ण हैं। इनमें से कुछ संचालन में शामिल हैं: ग्राहक सेवा और मामले का प्रबंधन, घटना प्रतिक्रिया और आईटी संचालन, डेवओप्स और साइट निर्भरता के लिए कार्य प्रवाह, कोड सुधार और सॉफ्टवेयर विकास, संचालन और आपूर्ति श्रृंखला योजना, और अधिक।

उभरते संचालन खतरे

हालांकि, जब एजेंट अधिक स्वतंत्र हो जाते हैं, तो व्यवसायों को एक नए प्रकार के संचालन जोखिम से निपटना होगा।

• बुरे निर्णय केवल सलाह नहीं दिए जाते हैं; वे अक्सर कार्रवाई किए जाते हैं
• छोटी गलतियां जल्दी से जुड़े अन्य प्रणालियों में फैल सकती हैं
• वास्तविक दुनिया की क्रियाएं हॉलुसिनेशन द्वारा ट्रिगर की जा सकती हैं
• एजेंट व्यवसायिक उद्देश्य, नीति, या अनुपालन से भटक सकते हैं
• मultiple घटकों के बीच परस्पर क्रिया विफलता का कारण बन सकती है
• स्वचालित निर्णय लेना मानव मूल्यांकन से तेजी से निर्णय ले सकता है

जबकि टीमें लक्षणों का अवलोकन कर सकती हैं, उन्हें प्रणाली के व्यवहार के पीछे के कारणों को समझने में भी सक्षम होना चाहिए। उद्यम एआई को निर्भरता नियंत्रण की आवश्यकता होती है, सिर्फ दृश्यता के अलावा।

एआई प्रणालियों की जटिलता

आज की एआई संचालित प्रणालियां शायद ही कभी एक मॉडल होती हैं। वे वितरित, परतदार प्रणालियां होती हैं जिनमें कई परस्पर क्रिया करने वाले घटक होते हैं जिनमें शामिल हैं:

• मूल मॉडल (एलएलएम)
• फ़ाइन-ट्यून या कार्य-विशिष्ट छोटे भाषा मॉडल (एसएलएम)
• एम्बेडिंग मॉडल
• वेक्टर डेटाबेस
• पुनर्प्राप्ति पाइपलाइन और आरएजी घटक
• प्रॉम्प्ट टेम्पलेट और प्रॉम्प्ट ऑर्केस्ट्रेशन परतें
• प्रशिक्षण और मूल्यांकन डेटासेट
• गार्डरेल और नीति परतें
• एजेंट और कार्य प्रवाह
• टूल-कॉलिंग सिस्टम
• टेलीमेट्री (लॉग, मेट्रिक्स और ट्रेस)
• मानव-इन-द-लूप अनुमोदन चेकपॉइंट

उनके जोखिम

प्रत्येक घटक एक अलग विफलता मोड जोड़ता है, और वे जिस तरह से परस्पर क्रिया करते हैं वह जटिलता जोड़ता है। यहां तक कि अगर एक प्रणाली बुनियादी ढांचे की परत में मजबूत दिखाई दे रही है, तो यह अभी भी खराब निर्णय ले सकती है और संतोषजनक परिणाम उत्पन्न कर सकती है; जबकि संचालन जोखिम को सतह के नीचे बनाए रख सकती है।

कुछ संबंधित जोखिमों में शामिल हैं: डेटा पाइपलाइनों द्वारा खराब या भ्रष्ट इनपुट का परिचय, जो विश्वसनीयता को कम कर सकता है, हानिकारक या त्रुटिपूर्ण परिणाम, और मानव समीक्षा के प्रतिक्रिया में संचालन बोतलनेक। इसके अलावा, एक से अधिक एजेंट या चरण वाली प्रणालियां उन तरीकों से विफल हो सकती हैं जो तुरंत स्पष्ट नहीं होती हैं।

एआई दृश्यता

पारंपरिक निगरानी प्रॉम्प्ट व्यवहार, पुनर्प्राप्ति गुणवत्ता, मॉडल ड्रिफ्ट, एजेंट निष्पादन चैनलों या एआई व्यवहार और डाउनस्ट्रीम व्यावसायिक या संचालन प्रभाव के बीच संबंध को समझने के लिए पर्याप्त नहीं है।

यहीं पर एआई दृश्यता आती है। एआई दृश्यता टीमों को यह समझने में सक्षम बनाती है कि एआई प्रणालियां उत्पादन में कैसे कार्य करती हैं bằng इनपुट और आउटपुट, वांछित व्यवहार, और इन प्रणालियों द्वारा उत्पन्न निर्णय संकेतों को इकट्ठा करने, संबंधित करने और मूल्यांकन करने से। यह आवश्यक है, क्योंकि एआई प्रणालियां वितरित, गैर-निर्धारित और अत्यधिक संदर्भ-संवेदनशील होती हैं।

एआई दृश्यता एआई कार्य प्रवाह में अंत-से-अंत अंतर्दृष्टि प्रदान करती है, ताकि टीमें जो इसका उपयोग करती हैं वे समझ सकें कि प्रॉम्प्ट, मॉडल, पुनर्प्राप्ति परतें, टूल और डाउनस्ट्रीम प्रणालियां निष्पादन के दौरान कैसे परस्पर क्रिया करती हैं।

एआई दृश्यता प्रदर्शन और व्यवहार की निगरानी की अनुमति देती है, जिसमें देरी, लागत, टोकन उपयोग, थ्रूपुट, त्रुटि दर, मॉडल व्यवहार और आउटपुट गुणवत्ता संकेतक शामिल हैं। यह जटिल एजेंट कार्य प्रवाह में निष्पादन-पथों को ट्रेस और विश्लेषण करता है और यह दिखाता है कि परिणाम कैसे कई चरणों और निर्भरताओं के माध्यम से पहुंचे जाते हैं।

एआई दृश्यता संचालन और एआई संकेतों में असामान्यताओं को भी प्रकट करके मॉडल, पाइपलाइन, बुनियादी ढांचे या उपयोगकर्ता-सामना परिणामों में असामान्य व्यवहार को उजागर करके असामान्यताओं का पता लगाती है, इससे पहले कि टीमें उन्हें मैन्युअल रूप से खोजें। यह जब कुछ गलत हो जाता है तो निदान को तेज करता है और मूल कारण जांच को आसान बनाता है जिसमें प्रणाली टेलीमेट्री (लॉग, मेट्रिक्स, ट्रेस और इवेंट) में एआई-विशिष्ट संचालन शामिल हैं।

दृश्यता अकेले पर्याप्त नहीं है

हालांकि यह एक आवश्यक व्यावसायिक अभ्यास है, एआई दृश्यता में अंतर्निहित सीमाएं हैं।

दृश्यता निदान है, न कि रोकथाम; टीमें यह जान सकती हैं कि क्या गलत हुआ, लेकिन यह जरूरी नहीं है कि वे यह जानें कि इसे फिर से होने से कैसे रोका जाए। यह समझना महत्वपूर्ण है कि एक एजेंट के पिछले कार्यों का ज्ञान स्वचालित रूप से उसके भविष्य के कार्यों पर नियंत्रण का अनुवाद नहीं करता है।

जटिल गैर-निर्धारित प्रणालियों के मामले में, दृश्यता अक्सर टीमों को डेटा से अभिभूत कर सकती है जो अनिश्चितता की ओर ले जाती है। दृश्यता अक्सर एक स्पष्टीकरण पर समाप्त होती है, न कि एक संचालन उत्तर के साथ। यहां तक कि जब टीमें एक समस्या से अवगत होती हैं, तो उन्हें सुधारात्मक कार्रवाई करने के लिए स्वचालन, सुरक्षा उपाय और नियंत्रण लूप नहीं हो सकते हैं।

यह एक संचालन अंतराल बनाता है। व्यवसाय समस्या का पता लगा सकते हैं, खराब परिणाम, खतरनाक व्यवहार या कमजोर उत्पादकता का पता लगा सकते हैं, लेकिन वे अभी भी इसे फिर से होने से रोकने में सक्षम नहीं हो सकते हैं, इसके प्रभावों को कम कर सकते हैं या स्वायत्त प्रणालियों को सुरक्षित संचालन मानकों के भीतर रख सकते हैं।

इसका मतलब है कि टीमें अभी भी प्रतिक्रियात्मक रूप से काम कर रही हैं। वे मैनुअल हस्तक्षेप का उपयोग करते हैं जब कुछ टूट जाता है, घटनाओं की जांच करते हैं जब वे हो जाते हैं, और मानव श्रम पर निर्भर रहते हैं ताकि प्रणालियों की भरपाई हो सके जो तेजी से और अधिक स्वतंत्र हो रही हैं।

एआई विश्वसनीयता का अवलोकन

एआई विश्वसनीयता केवल समस्याओं का अवलोकन करने से परे है। यह एआई प्रणालियों को वास्तविक दुनिया के उत्पादन संदर्भों में सुरक्षित, सुसंगत, पredictable और सफलतापूर्वक कार्य करने की अनुशासन है। एआई विश्वसनीयता एआई के आसपास की पूरी प्रणाली को समझती और प्रबंधित करती है। यह पहचान और कार्रवाई के बीच की खाई को बंद करती है।

एआई विश्वसनीयता इस बात पर केंद्रित है कि क्या पूरी एआई-संचालित प्रणाली समय के साथ उचित संचालन सीमाओं के भीतर कार्य कर सकती है, न कि केवल यह कि क्या एक मॉडल ने एक सटीक प्रतिक्रिया दी। गुणवत्ता, सुरक्षा, लचीलापन, व्याख्या, नीति अनुपालन, लागत प्रभावशीलता और संचालन स्थिरता सभी समीकरण का हिस्सा हैं।

निदान से रोकथाम तक संक्रमण

एआई विश्वसनीयता समस्या को पहचानने और इसका समाधान करने के बीच के समय को कम करती है। यह “क्या गलत हुआ?” से “हमारा एआई कितनी जल्दी सुधारेगा?” तक बातचीत को स्थानांतरित करता है। निम्नलिखित तकनीकों का उपयोग करके दृश्यता को निष्क्रिय अवलोकन से सक्रिय रोकथाम में बदल दिया जा सकता है:

• मॉडल, डेटा और बुनियादी ढांचे में संकेतों को संबंधित करके समस्याओं की पहचान करना
• प्रभाव से पहले समस्याओं का प्रोक्रैस्टिक पता लगाना
• संभावित एआई प्रणालियों में सभी इनपुट और आउटपुट को सत्यापित करना
• उत्पादन में अवांछित आउटपुट का पता लगाने और उसे बेहतर मॉडल सटीकता के लिए फ़ाइन-ट्यूनिंग डेटा के रूप में उपयोग करने के लिए एक फीडबैक लूप बनाना
• जटिल कार्यों को सूचित करने के लिए क्यों और कैसे डेटा विकसित हुआ, इसके लिए बहु-एजेंट कार्य प्रवाह ट्रेसिंग
• सुरक्षित प्रतिक्रिया और स्वचालित उपचार के लिए परिभाषित मानव-इन-द-लूप एजेंटिक कार्य प्रवाह

नियंत्रण और अवलोकन के बीच की खाई को बंद करना

व्यवसायों को दृश्यता और नियंत्रण को एकीकृत करने वाले फ्रेमवर्क से लाभ होता है और केवल उत्पन्न एआई पर दृश्यता परत की आवश्यकता होती है। निर्धारित और गैर-निर्धारित प्रणालियों में, एक विश्वसनीयता प्लेटफ़ॉर्म समस्याओं की पहचान, पूर्वानुमान, व्याख्या और नियंत्रण कर सकता है।

एक वiable फ्रेमवर्क में निम्नलिखित शामिल होना चाहिए:

• आईटी प्रणालियों और एआई प्रणालियों दोनों के लिए एकीकृत टेलीमेट्री
• एजेंटिक कार्य प्रवाह और प्रणाली निर्भरता ट्रैकिंग
• प्रॉम्प्ट और मूल्यांकन (एआई-विशिष्ट व्यवहार और गुणवत्ता ट्रैकिंग)
• स्रोत की परवाह किए बिना उन्नत असामान्यता पता लगाना
• कारण संबंध और मूल कारण विश्लेषण
• चेतावनी जो स्वचालित रूप से आपके वातावरण के अनुकूल होती है और मैनुअल थ्रेशोल्ड की आवश्यकता नहीं होती है
• नीति प्रवर्तन और गार्डरेल
• संवेदनशील या महत्वपूर्ण कार्यों के लिए मानव-इन-द-लूप मूल्यांकन
• कार्य प्रवाह और उपचार समन्वय का स्वचालन
• समस्याओं को होने से रोकने के लिए पूर्वानुमान विश्लेषण का उपयोग करना
• असामान्यता पता लगाने को बेहतर एआई मॉडल गुणवत्ता से जोड़ने वाले फीडबैक लूप

एआई कार्यों को सुविधाजनक बनाना

एआई प्रणालियां बुनियादी ढांचे, सेवाओं, डेटा पाइपलाइनों और संचालन दिनचर्या पर निर्भर करती हैं; वे स्वयं विफल नहीं होती हैं। टीमें पूरी तस्वीर प्राप्त करती हैं जब एआई और आईटी विश्वसनीयता दोनों को एक साथ जोड़ा जाता है।

एक पतली एलएलएम रैपर एक विश्वसनीय प्लेटफ़ॉर्म का आधार नहीं होना चाहिए। अन्य जनरेटिव एआई-ओनली टूल्स द्वारा अनदेखे समस्याओं की पहचान और समाधान करने के लिए, एआई तकनीकों की एक श्रृंखला पर विचार किया जाना चाहिए, जिसमें अनुपस्थित एआई, पूर्वानुमानिक एआई, कारण एआई और जनरेटिव एआई शामिल हैं। इस तकनीकों के मिश्रण को आमतौर पर “संयुक्त एआई” के रूप में जाना जाता है।

जनरेटिव एआई प्राकृतिक भाषा को सारांशित करने में अच्छा है। यह उन स्थितियों के लिए सबसे उपयुक्त है जिनमें असंरचित डेटा के माध्यम से तर्क करना या मानवों के साथ बातचीत करना आवश्यक है। लेकिन यह उत्पादन में विश्वसनीयता के मुद्दों के आकार से मेल नहीं खाता है।

पूर्वानुमानिक एआई早 संकेतों की पहचान करने पर केंद्रित है जो बाद में आउटेज, खराब ग्राहक अनुभव या महंगी विफलता में बदल सकते हैं जो असामान्यता पता लगाने के अल्गोरिदम का उपयोग करके होता है।

कारण एआईवास्तविक मूल कारणों का पता लगाने में मदद करता है ताकि यह पता लगाया जा सके कि क्या पुनर्प्राप्ति गुणवत्ता, मॉडल व्यवहार, बुनियादी ढांचे की धीमी गति, अपस्ट्रीम डेटा ड्रिफ्ट या डाउनस्ट्रीम प्रणाली विफलता प्रदर्शन में गिरावट का कारण थी।

अनुपस्थित एआई स्वचालित रूप से जटिल, अनिर्दिष्ट डेटा में छिपी हुई पैटर्न, संरचनाओं या असामान्यताओं का पता लगाता है बिना मानव मार्गदर्शन के। यह विश्वसनीयता के लिए जनरेटिव एआई से बेहतर प्रदर्शन करता है क्योंकि यह जटिल डेटा के भीतर छिपी हुई संरचनाओं को खोजने पर केंद्रित है ताकि समान वस्तुओं को समूहित किया जा सके या संबंधों का पता लगाया जा सके।

जब जोखिम, अस्पष्टता या व्यावसायिक प्रभाव महत्वपूर्ण होते हैं, तो संचालन एआई एजेंटों को स्वचालित प्रतिक्रिया को स्वचालित करने में सक्षम होना चाहिए जबकि विश्वसनीय संचालन के लिए मानव शामिल होना चाहिए।

उत्पादन में वास्तविक उपयोगकर्ता डेटा से प्रतिक्रिया सीखने का उपयोग करके प्रत्येक मुठभेड़ में एआई मॉडल की विशिष्ट व्यावसायिक संदर्भ की समझ में सुधार किया जा सकता है।

यहां तक कि सबसे उन्नत प्रणालियां भी चेतावनी से परे हैं; बंद-लूप उपचार प्रत्येक घटना से सीखता है, मान्यता प्राप्त प्रतिक्रियाओं को स्वचालित करता है और सुरक्षित उपायों को शुरू करता है।

स्वायत्त एआई प्रणालियों के लिए तैयारी

व्यवसाय स्वायत्त एआई प्रणालियों के लिए विभिन्न तरीकों से तैयारी कर सकते हैं। सबसे पहले, एजेंटों को उत्पादकता के लिए उपकरणों के रूप में नहीं, बल्कि संचालन प्रणालियों के रूप में देखा जाना चाहिए। एक बार जब एक एजेंट को कार्रवाई करने की क्षमता मिलती है, तो यह व्यवसाय के संचालन का एक अभिन्न अंग बन जाता है और इसका नियमन किया जाना चाहिए।

टीमें तुरंत मॉडल, प्रॉम्प्ट, टूल, कार्य प्रवाह, बुनियादी ढांचे और उपयोगकर्ता परिणामों से संकेत रिकॉर्ड करके एजेंटों को इंस्ट्रुमेंट कर सकती हैं। यह मूलभूत निगरानी को तब तक स्थगित नहीं किया जाना चाहिए जब तक कि एजेंट व्यवसाय के लिए महत्वपूर्ण न हों।

एजेंटों के व्यापक रूप से तैनाती से पहले विश्वसनीयता मानक स्थापित करना भी महत्वपूर्ण है। स्वीकार्य सीमाएं सुरक्षा, देरी, त्रुटि दर, हॉलुसिनेशन जोखिम, नीति अनुपालन और व्यावसायिक प्रभाव के लिए उनके डिजाइन में शामिल की जानी चाहिए, न कि बाद में पेश की जानी चाहिए।

एआई व्यवहार को इसका समर्थन करने वाली प्रणालियों और प्रक्रियाओं से जोड़कर व्यवसाय एआई और आईटी संचालन को एकीकृत कर सकते हैं। बुनियादी ढांचे और मॉडल निगरानी के लिए अलग-अलग उपकरणों का उपयोग करने से अंधे धब्बे पैदा होते हैं।

मंच इंजीनियरिंग, एसआरई, सुरक्षा, डेटा टीमें, एआई टीमें और व्यवसाय के मालिकों को विश्वसनीय एआई संचालन प्रदान करने के लिए एक साथ काम करना चाहिए, और स्वायत्त प्रणालियां पारंपरिक सिलोस को पार करती हैं।

प्रत्येक घटना, असामान्यता और निकट-मिस को संचालन में फीडबैक लूप शामिल करके प्रणाली में सुधार किया जा सकता है, जिससे व्यवसायों को उत्पादन व्यवहार से लगातार सीखने में मदद मिलती है।

अंत में, यह महत्वपूर्ण है कि व्यवसाय उन प्लेटफार्मों का चयन करें जो नियंत्रण के लिए डिज़ाइन किए गए हैं, न कि केवल अवलोकन के लिए। जैसे-जैसे एआई एजेंट अधिक स्वतंत्र होते जाते हैं, व्यवसायों को दृश्यता, पूर्वानुमान, व्याख्या और कार्रवाई को एकीकृत करने वाली प्रणालियों से लाभ होगा। जो संगठन समस्याओं की पहचान से सुरक्षित परिणामों को नियंत्रित करने में सफल होंगे, वे विजेता होंगे।

नीचे की रेखा

एआई अब उद्यम वातावरण में एक संचालन प्रणाली है, एक उपकरण नहीं। वास्तविक दुनिया के उत्पादन संदर्भों में, एआई प्रणालियों में विश्वसनीयता जोड़ना सुरक्षित, सुसंगत, पredictable और कुशल संचालन की गारंटी देता है।