एआई एजेंट्स यहाँ हैं: क्या आपका संगठन उन्हें प्रबंधित करने के लिए तैयार है?

एआई कार्यस्थल को एक अभूतपूर्व गति से बदल रहा है। उद्योगों भर में नियमित कार्यों को स्वचालित करने से लेकर अंतर्दृष्टि उत्पन्न करने तक, एआई टूल संगठनों के संचालन का एक अभिन्न अंग बन रहे हैं। हालांकि, एआई का एक नया तरंग, जिसे एजेंटिक एआई के रूप में जाना जाता है, मूल रूप से अलग है। पारंपरिक एआई के विपरीत, जो स्पष्ट निर्देशों का पालन करता है, एजेंटिक एआई स्वतंत्र रूप से कार्य करता है, लक्ष्यों का पीछा करता है, वास्तविक समय में सीखता है और मानव हस्तक्षेप के बिना निर्णय लेता है। यह उपकरण से स्वतंत्र अभिनेता तक की छलांग अविश्वसनीय अवसर प्रदान करती है, लेकिन असाधारण जोखिम भी प्रस्तुत करती है।

एजेंटिक एआई का उदय केवल एक भविष्यवाणी विचार नहीं है; यह पहले से ही हो रहा है। हाल के अध्ययनों से पता चलता है कि हालांकि 82% संगठन पहले से ही एआई एजेंटों का उपयोग कर रहे हैं, केवल 44% के पास इन एजेंटों के संचालन को प्रबंधित करने के लिए कोई औपचारिक नीति है। इस गैप के बीच अपनाया और पर्यवेक्षण एक महत्वपूर्ण चुनौती को दर्शाता है: संगठन स्वतंत्र एआई को तेजी से एकीकृत कर रहे हैं जितनी तेजी से वे इसका प्रबंधन करने के लिए तैयार हो रहे हैं।

एजेंटिक एआई को समझना: केवल एक उपकरण से अधिक

एजेंटिक एआई के लिए नए शासन दृष्टिकोणों की आवश्यकता को समझने के लिए, यह उपयोगी है कि इन प्रणालियों को डिजिटल स्वतंत्र एजेंट के रूप में सोचा जाए। मानक सॉफ़्टवेयर के विपरीत जो निर्देशों का पालन करता है, एजेंटिक एआई तुरंत निर्णय लेता है, बदलते परिस्थितियों के अनुकूल होता है और स्वतंत्र रूप से उद्देश्यों का पीछा करता है। व्यावहारिक रूप से, इसका अर्थ है कि एआई एजेंट कार्रवाई शुरू कर सकते हैं, सामग्री उत्पन्न कर सकते हैं, प्रणालियों तक पहुंच सकते हैं और यहां तक कि मानव अनुमोदन की प्रतीक्षा किए बिना बाहरी रूप से संवाद कर सकते हैं।

पारंपरिक शासन दृष्टिकोण, जो पूर्वानुमानित सॉफ़्टवेयर के लिए डिज़ाइन किए गए हैं, एजेंटिक एआई को प्रबंधित करने के लिए उपयुक्त नहीं हैं। उनकी स्वतंत्रता के लिए जवाबदेही, जोखिम प्रबंधन और संचालन पर्यवेक्षण के लिए नए ढांचे की आवश्यकता है। संगठनों को यह सोचने की जरूरत है कि वे इन डिजिटल सहयोगियों की निगरानी कैसे करते हैं, नियंत्रित करते हैं और सहयोग करते हैं।

वास्तविक दुनिया के एजेंटिक विफलताओं से सीख

एंथ्रोपिक के एआई एजेंट “क्लॉडियस” के साथ एक हालिया घटना जोखिम को दर्शाती है। प्रोजेक्ट वेंड में एक वेंडिंग मशीन को संचालित करने के लिए तैनात, क्लॉडियस ने कई महंगे निर्णय लिए: यह इन्वेंट्री को गलत मूल्य निर्धारित करता था, लागत से कम कीमतों पर उत्पाद बेचता था, और बातचीत का निर्माण करता था, जिससे अंततः प्रक्रिया में पैसा खो दिया जाता था। एक बार जब एजेंट ने इन विकल्पों को निष्पादित किया, तो शोधकर्ता आर्थिक नुकसान को उलट नहीं पाए। यह घटना दर्शाती है कि एआई एजेंटों द्वारा की गई अपरिवर्तनीय कार्रवाइयां कैसे जल्दी से नियंत्रण से बाहर हो सकती हैं, एक बढ़ती वास्तविकता को रेखांकित करती है: एआई एजेंट पहले से ही वास्तविक दुनिया की प्रणालियों के भीतर महत्वपूर्ण निर्णय ले रहे हैं।

यह एक अलग घटना नहीं है। वास्तव में, 80% संगठनों ने बताया है कि उन्हें एआई एजेंटों से जोखिम भरे व्यवहार का सामना करना पड़ा है, जिसमें डेटा का अनुचित प्रदर्शन और अनधिकृत प्रणालियों तक पहुंच शामिल है। जब एजेंटिक एआई बैंकिंग से लेकर विनिर्माण तक के उद्योगों में प्रवेश करता है, तो आईटी नेताओं के लिए प्रश्न यह नहीं है कि क्या एक एआई गलत व्यवहार कर सकता है, बल्कि कब और यह सुनिश्चित करने के लिए कि यह नहीं हो सकता है। पारंपरिक सॉफ़्टवेयर के विपरीत, ये प्रणालियां सोचती हैं, कार्य करती हैं और स्वतंत्र रूप से अनुकूलन करती हैं। उन्हें प्रबंधित करने के लिए एक नए प्रकार के शासन की आवश्यकता है, जो न केवल कोड की निगरानी करता है, बल्कि इरादे की भी भविष्यवाणी करता है।

आपके नए सहयोगी को प्रबंधित करना: एआई

एजेंटिक एआई को प्रबंधित करना एक सरल लेकिन गंभीर सच्चाई से शुरू होता है: आप जो कुछ भी करते हैं उसके लिए आप जिम्मेदार हैं। ये प्रणालियां स्वतंत्र रूप से कार्य कर सकती हैं, लेकिन उनके विकल्प, त्रुटियां और परिणाम सभी मानवों की ओर संकेत करते हैं जो उन्हें तैनात करते हैं।

इसी तरह जैसे संगठनों ने मानव कर्मचारियों को नियुक्त करने, प्रबंधित करने और लेखा परीक्षा करने के लिए दशकों से सर्वोत्तम प्रथाओं को विकसित किया है, वे ही सिद्धांत डिजिटल सहयोगियों के जिम्मेदार प्रबंधन का मार्गदर्शन कर सकते हैं। सर्वोत्तम प्रथाएं शामिल हैं:

• प्रभावी शासन को पहचान में होना चाहिए। प्रत्येक एआई एजेंट को एक विशिष्ट डिजिटल इकाई के रूप में माना जाना चाहिए, जिसमें एक अद्वितीय पहचान होती है जिसे ट्रैक, प्रबंधित और जवाबदेह ठहराया जा सकता है।
• भूमिका-आधारित पहुंच मूलभूत है। सटीक भूमिकाएं सौंपकर और सख्त पहुंच नियंत्रण लागू करके, संगठन यह सुनिश्चित करते हैं कि प्रत्येक एजेंट केवल उन प्रणालियों और डेटा के साथ बातचीत करता है जो इसके कार्य के लिए आवश्यक हैं, और कुछ नहीं। यह न्यूनतम विशेषाधिकार का सिद्धांत अनावश्यक जोखिम को कम करता है, जोखिम को कम करता है और हर स्तर पर जवाबदेही को मजबूत करता है।
• पुष्टि महत्वपूर्ण है। बहु-कारक प्रमाणीकरण, डिवाइस विश्वास, और सत्र नियंत्रण यह पुष्टि करने में मदद करते हैं कि हर कार्रवाई सही इकाई से आ रही है, सही समय पर, सही कारण से। न्यूनतम विशेषाधिकार के सिद्धांतों के साथ संयुक्त, ये नियम जोखिम को सीमित करते हैं और एक एजेंट को गलत होने पर होने वाले नुकसान को सीमित करते हैं। पहुंच को खंडित और अलग करने से “विस्फोट क्षेत्र” और कम हो जाता है, यह सुनिश्चित करते हुए कि एक गलत कदम पूरे वातावरण में फैलता नहीं है।
• दृश्यता चित्र को पूरा करती है। निरंतर लॉगिंग और वास्तविक समय की निगरानी संगठनों को हर निर्णय की लेखा परीक्षा करने और संदिग्ध व्यवहार पर तुरंत प्रतिक्रिया करने की अनुमति देती है। यह केवल समस्याओं का पता लगाने के बारे में नहीं है, बल्कि जवाबदेही और विश्वास का एक जीवित रिकॉर्ड बनाने के बारे में है। जब आप हर कार्रवाई को एक सत्यापित पहचान से जोड़ सकते हैं, तो पर्यवेक्षण प्रतिक्रियात्मक के बजाय सक्रिय हो जाता है।
• मानव लूप में। जहां संभव हो, सुनिश्चित करें कि एक मानव अभी भी “लूप” में है और किसी भी विनाशकारी या अन्य गंभीर परिणामों से पहले कार्रवाई की पुष्टि करता है। यह एक एजेंट को उसके विनाशकारी कार्यों के लिए जवाबदेह ठहराना मुश्किल है, क्योंकि एजेंट केवल अपने प्रोग्रामिंग का पालन कर रहा है।

आईटी नेताओं के लिए सक्रिय रणनीतियाँ

एजेंटिक एआई का उदय उद्यम प्रौद्योगिकी को फिर से आकार दे रहा है, 30% से 50% तक कार्य प्रवाह प्रक्रियाओं को तेज करता है। आईटी नेताओं को भी जल्दी से दिशानिर्देश बनाने के लिए काम करना चाहिए, इससे पहले कि गलतियां हों। ये नियम तकनीक के साथ विकसित होने चाहिए ताकि वे प्रासंगिक और प्रभावी बने रहें।

नियंत्रण और सीमाएं स्थापित करें

नियंत्रण और सीमाएं आवश्यक हैं, विशेष रूप से जब एआई एजेंट संवेदनशील प्रणालियों के साथ बातचीत करते हैं। मैनुअल चेकपॉइंट, किल स्विच और अनुमोदन गेट्स को कार्य प्रवाह में शामिल करें। ये सुरक्षा उपाय अपरिवर्तनीय गलतियों के खिलाफ अंतिम रक्षा के रूप में कार्य करते हैं, जिससे मानवों को आवश्यकतानुसार हस्तक्षेप करने की अनुमति मिलती है।

पारदर्शिता को प्राथमिकता दें

पारदर्शिता गैर-विचारणीय है। हर कार्रवाई जो एक एजेंट करता है उसे लॉग किया जाना चाहिए, टाइमस्टैम्प किया जाना चाहिए और ट्रेस करने में आसान होना चाहिए। स्पष्ट दस्तावेजीकरण लक्ष्यों, कार्यों और निर्णयों की जवाबदेही सुनिश्चित करता है। अस्पष्ट निर्देश अपरिहार्य व्याख्याओं को आमंत्रित करते हैं, जिन पर स्वतंत्र एजेंट अनुचित तरीके से कार्य कर सकते हैं।

मानव सहयोग को प्रोत्साहित करें

मानव पर्यवेक्षण को बनाए रखें और सहयोगियों को सूचित और सशक्त बनाए रखें। उपयोगकर्ताओं को अप्रत्याशित व्यवहार या असुरक्षित आउटपुट को आसानी से झंडा दिखाने में सक्षम होना चाहिए। मानव अभी भी असामान्यताओं के लिए सर्वोत्तम प्रारंभिक चेतावनी प्रणाली हैं, इसलिए मानवों और एआई के बीच सहयोग को बढ़ावा देना महत्वपूर्ण है।

हाथों की देखरेख बनाए रखें

नियमित रूप से एआई गतिविधि की लेखा परीक्षा जोखिम भरे व्यवहार, अनधिकृत पहुंच या भूमिका के परिवर्तन का पता लगाने में मदद करती है। लॉग की समीक्षा करनी चाहिए और एजेंटों की जिम्मेदारियों के विकास के साथ अनुमतियों को अद्यतन किया जाना चाहिए। ये अभ्यास सुनिश्चित करते हैं कि एआई एजेंट संगठनात्मक लक्ष्यों और अनुपालन आवश्यकताओं के साथ संरेखित रहते हैं।

आज के एजेंटिक एआई को आकार देना

एआई सार्वभौमिक रूप से यहाँ रहने के लिए है, जिसमें 99.6% कंपनियां अपने कार्य प्रवाह में किसी न किसी प्रकार के टूल को समाहित कर रही हैं। एजेंटिक एआई उत्पादकता में तेजी ला सकता है और नए अवसरों को अनलॉक कर सकता है, लेकिन इसकी स्वतंत्रता वास्तविक जोखिम लाती है। बिना पर्यवेक्षण के, एआई एजेंट अनुमानित तरीके से कार्य कर सकते हैं, डेटा का दुरुपयोग कर सकते हैं या ऐसे व्यवधान पैदा कर सकते हैं जो मुश्किल से पूर्ववत किए जा सकते हैं।

जो संगठन इस नए युग में सफल होंगे, वे एआई एजेंटों को जवाबदेह डिजिटल सहयोगियों के रूप में मानेंगे। मजबूत शासन स्थापित करके, पहचान-आधारित पहुंच और पुष्टि को लागू करके, और मानव-एआई सहयोग को बढ़ावा देकर, व्यवसाय स्वतंत्रता के लाभों का लाभ उठा सकते हैं जबकि जोखिम को कम कर सकते हैं।

एजेंटिक एआई अब एक भविष्यवाणी विचार नहीं है, यह एक वर्तमान वास्तविकता है। जितनी जल्दी संगठन सक्रिय प्रबंधन रणनीतियों को अपनाते हैं, उतनी ही जल्दी वे इन स्वतंत्र प्रणालियों की पूरी क्षमता को सुरक्षित रूप से, जिम्मेदारी से और प्रभावी ढंग से अनलॉक कर सकते हैं। एजेंटिक एआई को शक्तिशाली और जवाबदेह दोनों के रूप में मानकर, संगठन नवाचार और जोखिम के बीच संतुलन का प्रबंधन कर सकते हैं, यह सुनिश्चित करते हुए कि एआई एक विश्वसनीय साथी के रूप में कार्य करता है, न कि एक अनियंत्रित परिवर्तनशील के रूप में।