2026 में एआई एजेंट व्यवसायों में विस्फोट होगा: क्या हम सुरक्षा जोखिमों के लिए तैयार हैं?

उद्यम अपने व्यवसाय में एआई एजेंटों को अपनाने की दौड़ में हैं, लेकिन उनके पास ऐसा करने के लिए सुरक्षित बुनियादी ढांचे की कमी है। एजेंट एआई टूल्स से अलग हैं: वे स्वायत्त रूप से काम करते हैं, निरंतर डेटा तक पहुंचते हैं और मानव पर्यवेक्षण की आवश्यकता के बिना मशीन गति से कार्य करते हैं। इससे पूरी तरह से नए जोखिम पैदा होते हैं जिनके लिए हमें तैयार रहना होगा।

लोग पहले से ही अपने स्वयं के एआई एजेंटों का उपयोग कार्य में कर रहे हैं – बिना आवश्यक रूप से अपने बॉस को बताए। हम यह सुनिश्चित कैसे करें कि ओपनक्लॉ बॉट्स महत्वपूर्ण फ़ाइलों को हटा नहीं रहे हैं? गार्टनर के अनुसार, 2026 के अंत तक चार में से तीन बड़े उद्यम मल्टी-एजेंट सिस्टम को अपना लेंगे। हम यह सुनिश्चित कैसे करें कि उनमें से प्रत्येक एजेंट हमें नए तरीकों से हमला करने के लिए दरवाजे नहीं खोलता है?

वर्तमान सुरक्षा बुनियादी ढांचा ज्ञात, मानव-गति जोखिमों को संबोधित करने के लिए बनाया गया है। यह उन एजेंटों को संबोधित नहीं करता है जो हमारे ज्ञान के बिना उद्यम कोड के साथ छेड़छाड़ करते हैं। या प्रॉम्प्ट इंजेक्शन के माध्यम से हम पर हमला करने वाले बुरे अभिनेताओं के लिए: कोड या प्रॉम्प्ट में छिपी हुई निर्देश जो एआई को संवेदनशील जानकारी को उजागर करने या दुर्भाग्यपूर्ण कोड को निष्पादित करने के लिए कहते हैं।

सच्चाई यह है कि कंपनियां इस आने वाली लहर के लिए तैयार होने की तुलना में अधिक भूखी हैं। माइक्रोसॉफ्ट के एक सर्वेक्षण के अनुसार, केवल 29% संगठन “मजबूती से सहमत” हैं कि उनके पास सुरक्षित एआई सुरक्षा उपाय हैं।

कंपनी के नेताओं को कई चीजें करने की जरूरत है।

1. कंपनी-व्यापी एआई-मूल सुरक्षा उपाय लागू करें।
2. एआई एजेंटों को मानवों के समान सुरक्षा उपायों के साथ व्यवहार करें।
3. इन एजेंटों द्वारा की जा रही चीजों की दृश्यता बढ़ाएं।

इन नियंत्रणों को निष्पादित करके, सुरक्षा एजेंटों की गति से मेल खा सकती है और नवाचार को धीमा करने के बजाय सक्षम कर सकती है।

एआई-मूल सुरक्षा बनाएं

फरवरी में, एक मेटा सुरक्षा शोधकर्ता ने एक आश्चर्यजनक पोस्ट पर एक्स पर बनाया: उसका ओपनक्लॉ बॉट उसके ईमेल को हटाने लगा था और रुकने के लिए उसके आदेशों को नजरअंदाज कर दिया था। जब तक वह मैन्युअल रूप से प्रक्रिया में हस्तक्षेप करने में सक्षम थी, तब तक नुकसान हो चुका था।

यह एक उदाहरण है कि कैसे एक दुर्भाग्यपूर्ण एआई अविश्वसनीय गति से कार्य कर सकता है, मानव-निर्भर नियंत्रणों को पर्याप्त बनाता है। सुरक्षा को एजेंटिक एआई की गति और मार्ग के साथ तेजी से और समान रूप से आगे बढ़ने की आवश्यकता है।

इसके लिए कंपनी के सुरक्षा बुनियादी ढांचे को नवीनीकृत करने की आवश्यकता है, न कि मौजूदा टूलिंग में सरल अपग्रेड। इस प्रणाली में कई क्षेत्रों को शामिल किया जाना चाहिए।

इस तरह की तेज़-तर्रार स्थितियों से बचने के लिए वास्तविक समय में असामान्यताओं का पता लगाने और स्वचालित रूप से प्रतिक्रिया करने वाले एआई टूल्स की आवश्यकता होती है। उदाहरण के लिए, पर्यवेक्षक एजेंटों को अन्य एजेंटों द्वारा निष्पादित उच्च-प्रभाव वाले कार्यों की समीक्षा के लिए तैनात किया जा सकता है। एजेंटिक थ्रेट इंटेलिजेंस (एटीआई) टूल्स हमले के 초기 चरणों में स्वचालित रूप से पता लगा सकते हैं और कार्रवाई कर सकते हैं।

एक और महत्वपूर्ण रोकथाम तंत्र यह सुनिश्चित करना है कि आपके सिस्टम पर तैनात किए जा रहे वास्तविक मॉडल की सुरक्षा है। प्रोटेक्टएआई, ट्रोजेएआई या एआईम सुरक्षा जैसे प्लेटफ़ॉर्म प्रॉम्प्ट इंजेक्शन जैसे सीधे खतरों के लिए परीक्षण कर सकते हैं, प्रकाशन से पहले कोड को साफ़ करने के लिए एआई टूल्स का उपयोग कर सकते हैं।

एआई एजेंटों के संपर्क में आने वाले डेटा की उत्पत्ति की सुरक्षा भी महत्वपूर्ण है। डेटाब्रिक्स यूनिटी कैटलॉग, कोलिब्रा या अलेशन जैसे टूल्स टीमों को डेटा आंदोलन को नियंत्रित करने में सक्षम बनाते हैं।

हम अपने एआई एजेंटों के साथ छेड़छाड़ को रोकने के लिए उनकी तैनाती के लिए उपयोग किए जाने वाले भौतिक उपकरणों को सुरक्षित करके भी रोकथाम कर सकते हैं। क्राउडस्ट्राइक जैसे प्लेटफ़ॉर्म एआई प्रमाणीकरण के दुरुपयोग से बचने और असामान्य व्यवहार का पता लगाने में मदद कर सकते हैं।

आंतरिक संचालन और विक्रेता चयन दोनों के लिए सिद्धांतों का होना आवश्यक है। मौजूदा उद्योग ढांचे का उपयोग मार्गदर्शन के लिए करें, जैसे कि गूगल एसएआईएफ सुरक्षित वास्तुकला बनाने के लिए, एएवाई सीएएफ-एआई एआई शासन के लिए, या एनआईएसटी एआई आरएमएफ अनुपालन के लिए। ओडब्ल्यूएएसपी जेन एआई सुरक्षा परियोजना – एआई के जोखिमों को कम करने के लिए एक मुक्त स्रोत पहल – एआई तैनात करने वाले उद्यमों के लिए प्रासंगिक सुरक्षा मार्गदर्शन प्रदान करती है।

एआई को मानवों के समान सीमाओं के साथ व्यवहार करें

पिछले साल, एक निवेशक रेप्लिट एआई एजेंट का उपयोग वाइब कोड करने के लिए कर रहा था – जब तक कि नौवें दिन पर, एजेंट ने लाइव उत्पादन डेटाबेस से कोड हटा दिया, जिससे 1,200 कंपनियों पर प्रभाव पड़ा।

क्योंकि एजेंट स्वायत्त रूप से कार्य कर सकते हैं, उन्हें बिना निगरानी के व्यापक डॉक्यूमेंट, डेटा और एपीआई तक पहुंच प्रदान करना विनाशकारी हो सकता है। एक कारण यह है कि व्यवसाय अक्सर उन्हें मानव उपयोगकर्ता की तरह “पहचान” नहीं देते हैं, जिसका अर्थ है कि वे उनकी पहुंच को ट्रैक, निगरानी और प्रबंधित नहीं कर सकते हैं।

व्यवसाय गैर-मानव उपयोगकर्ताओं को पहचान सौंपकर कार्रवाई कर सकते हैं: पहचान पहुंच प्रबंधन प्रदाता उन क्षेत्रों को बारीकी से प्रबंधित कर सकते हैं जिन तक एजेंटों की पहुंच है, कितनी देर तक, और जोखिम भरे व्यवहार को इंगित कर सकते हैं। इससे उन क्षेत्रों में अत्यधिक अनुमति तक पहुंच कम हो जाती है जहां एजेंट को होने की आवश्यकता नहीं है। यह उन क्षेत्रों में भी सीमित करता है जहां यह संचालित होता है जो यह कर सकता है।

एजेंट पहचान सौंपने से बाहरी अभिनेताओं से खतरा भी कम हो जाता है।

जब एक शोधकर्ता टीम ने एक एआई अनुप्रयोग में दुर्भाग्यपूर्ण प्रॉम्प्ट इंजेक्ट किया, जो कानूनी अनुबंधों का प्रबंधन करता है, एक उपयोगकर्ता अन्य उपयोगकर्ता के लिए निजी डेटा पुनर्प्राप्त करने में सक्षम था। स्पष्ट रूप से उपयोगकर्ता-स्तर के डेटा का कोई सुरक्षित पृथक्करण नहीं था, और डेटा तक पहुंच को एआई को भी दिया गया था जब यह दृश्य में प्रासंगिक नहीं था।

एआई “पहचान” के लिए सीमाएं स्थापित करने का अर्थ है कि उन्हें व्यापक “हमेशा चालू” पहुंच नहीं होगी। उदाहरण के लिए, एजेंटों को कुछ कार्यों के लिए प्राधिकरण की आवश्यकता होगी, या कुछ क्षेत्रों में केवल-पढ़ने की क्षमता प्राप्त होगी। ऐसा करके, भले ही एक एआई एजेंट हैक हो जाए या एक बुरे अभिनेता द्वारा हेरफेर किया जाए, तो प्रभाव सीमित रहेगा, विनाशकारी नहीं।

नेतृत्व को अपनी टीमों को गुप्त रूप से कार्य करने वाले एजेंटों के खतरे के बारे में शिक्षित करना चाहिए। जोखिम तब बढ़ जाता है जब कर्मचारी नेतृत्व को वास्तव में जानते और उचित पहचान और सुरक्षा उपाय प्रदान किए बिना कार्यस्थान से “छाया” एआई एजेंटों को जोड़ते हैं। इसके अलावा, एक शून्य स्थायी विशेषाधिकार (जेडएसपी) दृष्टिकोण एक एजेंट के लिए 0 पहुंच का आधार बनाता है। इसलिए, यदि एक कर्मचारी एक अस्वचालित छाया एजेंट को जोड़ता है, तो यह एक ऐसे वातावरण में प्रवेश करता है जहां सभी दरवाजे बंद हैं।

अपने एजेंट पर नजर रखें

हम जानते हैं कि “एआई एक ब्लैक बॉक्स” का अर्थ है, लेकिन इसका आपके व्यवसाय में तैनाती से बहुत अधिक पर्यवेक्षण और निगरानी की जानी चाहिए।

सख्त सुरक्षा नीतियों को लागू करने के लिए, प्रत्येक एजेंट को शासित किया जाना चाहिए: उन्हें स्पष्ट रूप से दस्तावेजीकृत स्वामित्व, जिम्मेदारियां और नियंत्रण होने चाहिए ताकि आप उनके मार्ग को सटीक रूप से ट्रैक कर सकें। आपके पास निरंतर टेलीमेट्री – दूरस्थ निगरानी – एजेंट व्यवहार को ट्रैक करते हुए होना चाहिए, और आपके मौजूदा सुरक्षा टूल्स को खिलाते हुए ताकि वे असामान्यताओं का पता लगा सकें और अनुकूलन योग्य विश्वास स्कोरिंग निष्पादित कर सकें।

नेतृत्व को इस नए सुरक्षा मोर्चे को गंभीरता से लेने और सुनिश्चित करने की आवश्यकता है कि विभिन्न टीमें एआई एजेंटों के उपयोग के लिए जिम्मेदार हैं। वे नए अनुपालन केपीआई बना सकते हैं, जैसे “सत्यापित उत्पत्ति के साथ डेटासेट की संख्या”, “प्रबंधित पहचान वाले एआई एजेंटों का %”, या “एआई ट्रस्ट स्कोर”।

यह रोकथाम के लिए महत्वपूर्ण है, लेकिन यह ऑडिट करने योग्य होने के बारे में भी है – यहां तक कि गैर-मानव आईडी के पास भी एक ऑडिट ट्रेल होनी चाहिए ताकि संगठन अनुपालन बना रहे।

आम तौर पर हमें पता है कि मानव कैसे व्यवहार करते हैं और वे कार्यस्थानों के भीतर किन मार्गों का पालन करते हैं। लेकिन एआई एक पूरी तरह से नया जानवर है। इसके संचालन के बारे में हमें बहुत कुछ पता नहीं है। कुछ कंपनियां कार्यालय से एआई को ब्लॉक करने का अल्पकालिक समाधान चुन रही हैं – लेकिन इससे केवल समस्या को देरी होगी या कर्मचारियों को छाया एआई का उपयोग करने का कारण बनेगा। उन एजेंटों के लिए अपनी सुरक्षा वास्तुकला को सक्रिय रूप से तैयार करें जो पहले से ही सर्वव्यापी हो रहे हैं।