आपका एजेंट अब केवल एक चैटबॉट नहीं है – तो आप अभी भी इसे एक की तरह क्यों मान रहे हैं?

जनरेटिव एआई के शुरुआती दिनों में, एक दुर्व्यवहार करने वाले चैटबॉट के लिए सबसे बुरी स्थिति अक्सर सार्वजनिक अपमान से ज्यादा कुछ नहीं थी। एक चैटबॉट तथ्यों को हॉलुसिनेट कर सकता था, पूर्वाग्रह से ग्रस्त पाठ का उत्पादन कर सकता था, या यहां तक कि आपको नाम भी दे सकता था। यह पर्याप्त खराब था। लेकिन अब, हमने चाबियां सौंप दी हैं।

एजेंट युग में आपका स्वागत है।

चैटबॉट से एजेंट तक: स्वायत्तता परिवर्तन

चैटबॉट प्रतिक्रियात्मक थे। वे अपनी लेन में रहते थे। एक प्रश्न पूछें, एक उत्तर प्राप्त करें। लेकिन एआई एजेंट – विशेष रूप से वे जो टूल उपयोग, कोड निष्पादन और स्थायी स्मृति के साथ बनाए गए हैं – मल्टी-स्टेप कार्य कर सकते हैं, एपीआई को इनवोक कर सकते हैं, कमांड चला सकते हैं और स्वायत्त रूप से कोड लिख और तैनात कर सकते हैं।

दूसरे शब्दों में, वे केवल प्रॉम्प्ट का जवाब नहीं दे रहे हैं – वे निर्णय ले रहे हैं। और जैसा कि कोई भी सुरक्षा पेशेवर आपको बताएगा, एक बार जब कोई प्रणाली दुनिया में क्रियाएं करना शुरू कर देती है, तो आपको सुरक्षा और नियंत्रण के बारे में गंभीर होना चाहिए।

हमने 2023 में जिस बारे में चेतावनी दी थी

ओवीएएसपी में, हमने इस परिवर्तन के बारे में दो साल से अधिक समय पहले चेतावनी देना शुरू कर दिया था। ओवीएएसपी टॉप 10 फॉर एलएलएम एप्लिकेशन की पहली रिलीज में, हमने एक शब्द गढ़ा: अत्यधिक एजेंसी।

विचार सरल था: जब आप एक मॉडल को बहुत अधिक स्वायत्तता देते हैं – बहुत सारे टूल, बहुत अधिक अधिकार, बहुत कम पर्यवेक्षण – यह एक सीमित सहायक की तुलना में एक स्वतंत्र एजेंट की तरह व्यवहार करना शुरू कर देता है। शायद यह आपकी बैठकों का समय निर्धारित करता है। शायद यह एक फ़ाइल को हटा देता है। शायद यह अत्यधिक, महंगी क्लाउड इन्फ्रास्ट्रक्चर की व्यवस्था करता है।

यदि आप सावधान नहीं हैं, तो यह एक भ्रमित डिप्टी की तरह व्यवहार करना शुरू कर देता है … या और भी बदतर, एक दुश्मन स्लीपर एजेंट जो साइबर सुरक्षा घटना में शोषण की प्रतीक्षा कर रहा है। हाल के वास्तविक दुनिया के उदाहरणों में, माइक्रोसॉफ्ट के कोपिलॉट और सेल्सफोर्स के स्लैक प्रोडक्ट जैसे प्रमुख सॉफ्टवेयर उत्पादों के एजेंटों को उनके बढ़े हुए विशेषाधिकारों का उपयोग संवेदनशील डेटा को निकालने के लिए करने के लिए धोखा देने के लिए दिखाया गया था।

और अब, वह कल्पना कम से कम विज्ञान-कथा जैसी लगती है और आपके आगामी क्यू 3 रोडमैप जैसी लगती है।

एमसीपी से मिलें: एजेंट नियंत्रण परत (या क्या यह है?)

2025 तक तेजी से, और हम इस विस्फोटक एजेंट कार्यक्षमता को संभालने के लिए डिज़ाइन किए गए नए मानकों और प्रोटोकॉल की लहर देख रहे हैं। इनमें से सबसे प्रमुख एंथ्रोपिक का मॉडल संदर्भ प्रोटोकॉल (एमसीपी) है – एक तंत्र जो लंबे समय तक चलने वाले एआई एजेंट सत्रों में साझा स्मृति, कार्य संरचनाओं और टूल एक्सेस को बनाए रखने के लिए है।

एमसीपी को एजेंट के संदर्भ को टूल और समय के माध्यम से एक साथ रखने वाले गोंद के रूप में सोचें। यह एक तरीका है जिससे आप अपने कोडिंग सहायक से कह सकते हैं: “यहाँ तक क्या हुआ है। यहाँ तक क्या करने की अनुमति है। यहाँ तक क्या याद रखना चाहिए।”

यह एक बहुत जरूरी कदम है। लेकिन यह नए सवाल भी उठा रहा है।

एमसीपी एक क्षमता प्रदाता है। गार्डरेल कहां हैं?

अब तक, एमसीपी के साथ ध्यान एजेंटों की क्षमताओं का विस्तार करने पर केंद्रित रहा है – उन्हें प्रतिबंधित करने पर नहीं।

जबकि प्रोटोकॉल टूल उपयोग और एजेंट कार्यों के माध्यम से स्मृति को संरक्षित करने में मदद करता है, यह अभी तक महत्वपूर्ण चिंताओं को संबोधित नहीं करता है जैसे:

• प्रॉम्प्ट इंजेक्शन प्रतिरोध: अगर एक हमलावर साझा स्मृति को हेरफेर करता है तो क्या होगा?
• कमांड स्कोपिंग: क्या एजेंट को अपने अधिकार क्षेत्र से बाहर जाने के लिए धोखा दिया जा सकता है?
• टोकन दुरुपयोग: क्या एक लीक हुई मेमोरी ब्लॉब एपीआई क्रेडेंशियल या उपयोगकर्ता डेटा को उजागर कर सकती है?

ये सैद्धांतिक समस्याएं नहीं हैं। एमसीपी शैली की वास्तुकला में सुरक्षा प्रभावों की हालिया जांच से पता चला है कि प्रॉम्प्ट इंजेक्शन, कमांड दुरुपयोग और यहां तक कि मेमोरी जहर के लिए भी वे कमजोर हैं, खासकर जब साझा स्मृति पर्याप्त रूप से स्कोप्ड या एन्क्रिप्टेड नहीं होती है।

यह “शक्ति के बिना पर्यवेक्षण” की क्लासिक समस्या है। हमने एक्सोस्केलेटन बनाया है, लेकिन हमने अभी तक बंद करने का स्विच नहीं निकाला है।

सीआईएसओ को अब ध्यान देना चाहिए – अब

हम भविष्य की तकनीक की बात नहीं कर रहे हैं। हम उन टूल्स की बात कर रहे हैं जिनका आपके डेवलपर्स पहले से ही उपयोग कर रहे हैं और यह केवल एक बड़े रोलआउट की शुरुआत है जिसे हम उद्यम में देखेंगे।

कोडिंग एजेंट जैसे क्लॉड कोड और कर्सर उद्यम कार्य प्रवाह के भीतर वास्तविक गति प्राप्त कर रहे हैं। गिटहब के आंतरिक शोध से पता चला है कि कोपिलॉट ने कार्यों को 55% तक तेज कर दिया। हाल ही में, एंथ्रोपिक ने बताया कि क्लॉड कोड का 79% उपयोग स्वचालित कार्य निष्पादन पर केंद्रित था, न कि केवल कोड सुझावों पर।

यह वास्तविक उत्पादकता है। लेकिन यह वास्तविक स्वचालन भी है। ये सह-पायलट अब नहीं हैं। वे तेजी से अकेले उड़ान भर रहे हैं। और कॉकपिट? यह खाली है।

माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने हाल ही में कहा कि एआई अब माइक्रोसॉफ्ट के 30% कोड लिखता है। एंथ्रोपिक के सीईओ, डारियो अमोडेई, आगे बढ़ गए, भविष्यवाणी की कि एआई छह महीने के भीतर 90% नए कोड का उत्पादन करेगा।

और यह केवल सॉफ्टवेयर विकास नहीं है। मॉडल संदर्भ प्रोटोकॉल (एमसीपी) अब कोडिंग से परे उपकरणों में एकीकृत किया जा रहा है, जो ईमेल ट्राइएज, बैठक तैयारी, बिक्री योजना, दस्तावेज़ सारांश, और सामान्य उपयोगकर्ताओं के लिए अन्य उच्च-लाभकारी उत्पादकता कार्यों को शामिल करता है। जबकि इनमें से कई उपयोग के मामले अभी भी अपने शुरुआती चरणों में हैं, वे तेजी से परिपक्व हो रहे हैं। इससे दांव बढ़ जाते हैं। यह अब केवल आपके सीटीओ या वीपी ऑफ इंजीनियरिंग के लिए एक चर्चा नहीं है। यह व्यवसाय इकाई के नेताओं, सीआईओ, सीआईएसओ और मुख्य एआई अधिकारियों सहित ध्यान की मांग करता है। जैसे ही ये एजेंट संवेदनशील डेटा के साथ इंटरफेस करना शुरू करते हैं और क्रॉस-फंक्शनल कार्य प्रवाह को निष्पादित करते हैं, संगठनों को यह सुनिश्चित करना चाहिए कि शासन, जोखिम प्रबंधन और रणनीतिक योजना बातचीत की शुरुआत से ही एकीकृत हैं।

अब क्या होना चाहिए

यह समय है कि हम इन एजेंटों को चैटबॉट के रूप में न सोचकर स्वायत्त प्रणालियों के रूप में सोचें जिन्हें वास्तविक सुरक्षा आवश्यकताओं की आवश्यकता है। इसका मतलब है:

• एजेंट विशेषाधिकार सीमाएं: जैसे आप हर प्रक्रिया को रूट के रूप में नहीं चलाते हैं, एजेंटों को टूल और कमांड तक स्कोप्ड एक्सेस की आवश्यकता होती है।
• साझा स्मृति शासन: संदर्भ स्थायित्व को ऑडिट किया जाना चाहिए, संस्करणित किया जाना चाहिए और एन्क्रिप्ट किया जाना चाहिए – विशेष रूप से जब यह सत्र या टीमों के माध्यम से साझा की जाती है।
• हमला सिमुलेशन और रेड टीमिंग: प्रॉम्प्ट इंजेक्शन, मेमोरी जहर और कमांड दुरुपयोग को शीर्ष स्तरीय सुरक्षा खतरों के रूप में माना जाना चाहिए।
• कर्मचारी प्रशिक्षण: एआई एजेंटों का सुरक्षित और प्रभावी उपयोग एक नई कौशल है, और लोगों को प्रशिक्षण की आवश्यकता है। इससे उन्हें अधिक उत्पादक बनने में मदद मिलेगी और आपकी बौद्धिक संपदा को अधिक सुरक्षित रखा जा सकेगा।

जैसे ही आपका संगठन बुद्धिमान एजेंटों में गोता लगाता है, अक्सर यह बेहतर होता है कि आप पहले चलना सीखें और फिर दौड़ें। सीमित दायरे, सीमित डेटा और सीमित अनुमतियों वाले एजेंटों के साथ अनुभव प्राप्त करें। संगठनात्मक गार्डरेल का निर्माण करते समय सीखें और फिर अधिक जटिल, स्वायत्त और महत्वाकांक्षी उपयोग के मामलों में तेजी लाएं।

आप इसे बैठकर नहीं देख सकते

चाहे आप मुख्य एआई अधिकारी हों या मुख्य सूचना अधिकारी, आपके पास अलग-अलग प्रारंभिक चिंताएं हो सकती हैं, लेकिन आपका आगे का मार्ग एक ही है। कोडिंग एजेंटों और स्वायत्त एआई प्रणालियों से उत्पादकता लाभ बहुत आकर्षक हैं और नजरअंदाज नहीं किए जा सकते हैं। यदि आप अभी भी “प्रतीक्षा और देखें” दृष्टिकोण पर हैं, तो आप पहले से ही पिछड़ रहे हैं।

ये टूल्स अब प्रयोगात्मक नहीं हैं – वे तेजी से टेबल स्टेक्स बन रहे हैं। कंपनियां जैसे माइक्रोसॉफ्ट एआई के माध्यम से एक बड़ा हिस्सा कोड उत्पन्न कर रही हैं और इसके परिणामस्वरूप अपनी प्रतिस्पर्धी स्थिति को आगे बढ़ा रही हैं। क्लॉड कोड जैसे टूल्स विभिन्न कंपनियों में विकास समय को काट रहे हैं और जटिल कार्य प्रवाहों को स्वचालित कर रहे हैं। जो कंपनियां इन एजेंटों को सुरक्षित रूप से हार्नेस करना सीखती हैं, वे तेजी से शिप करेंगी, तेजी से अनुकूलन करेंगी और अपने प्रतिस्पर्धियों को पीछे छोड़ देंगी।

लेकिन सुरक्षा के बिना गति एक जाल है। व्यवसाय में स्वायत्त एजेंटों को एकीकृत करना उचित नियंत्रण के बिना एक नुस्खा है जो दूरस्थ नियंत्रण, डेटा लीक और नियामक प्रतिक्रिया के लिए तैयार है।

यह कार्य करने का समय है – लेकिन स्मार्ट तरीके से:

• एजेंट पायलट कार्यक्रम शुरू करें, लेकिन कोड समीक्षा, टूल अनुमतियों और सैंडबॉक्सिंग की आवश्यकता है।
• स्वायत्तता को सीमित करें जो आवश्यक है – हर एजेंट को रूट एक्सेस या लंबी अवधि की स्मृति की आवश्यकता नहीं होती है।
• साझा स्मृति और टूल कॉल की समीक्षा करें, विशेष रूप से लंबे समय तक चलने वाले सत्र या सहयोगी संदर्भों में।
• प्रॉम्प्ट इंजेक्शन और कमांड दुरुपयोग का उपयोग करके हमलों का अनुकरण करें वास्तविक दुनिया के जोखिमों को हमलावरों से पहले उजागर करने के लिए।
• अपने डेवलपर्स और उत्पाद टीमों को सुरक्षित उपयोग पैटर्न पर प्रशिक्षित करें, जिसमें स्कोप नियंत्रण, फॉलबैक व्यवहार और एस्केलेशन पथ शामिल हैं।

सुरक्षा और वेग परस्पर विरोधी नहीं हैं – यदि आप इरादे से बनाते हैं।

व्यवसाय जो एआई एजेंटों को मुख्य बुनियादी ढांचे के रूप में मानते हैं, न कि खिलौनों या खिलौनों-से-खतरों के रूप में, वे पनपेंगे। बाकी लोग मेस को साफ करने में व्यस्त रहेंगे – या और भी बदतर, दर्शक दीर्घा से देख रहे होंगे। एजेंट युग यहाँ है। बस प्रतिक्रिया न करें। तैयार करें। एकीकृत करें। सुरक्षित करें।