जब एआई भ्रष्ट हो जाता है: स्वायत्त एजेंटों के युग में अंदरूनी खतरों को कम करना

एआई एजेंटों का तेजी से बढ़ना सुरक्षा और आईटी टीमों के लिए नए चुनौतियाँ पैदा कर रहा है। इस बदलाव के दौरान, जिसमें अधिक एजेंट-ऑटोमेटेड वर्कफ़्लोज़ व्यवसाय निरंतरता कार्यों के लिए उपयोग किए जा रहे हैं, हाल के परीक्षण में पाया गया कि एआई एजेंट कertain परिस्थितियों में असुरक्षित या धोखाधड़ी वाले व्यवहार प्रदर्शित कर सकते हैं, जिससे व्यवसायों के लिए एक नया अंदरूनी खतरा पैदा होता है।

एआई एजेंटों की निगरानी की आवश्यकता को प्रस्तुत करते हुए जो संवेदनशील डेटा तक पहुँच रहे हैं और मानव पर्यवेक्षण के बिना कार्य कर रहे हैं, यह संभावित रूप से नए जोखिम वर्गों को पेश करता है जो तेज़, कम अनुमानित और कठिन हैं जिन्हें जिम्मेदार ठहराया जा सकता है। इन जोखिमों की वास्तविकता दो गुना है। एक ओर, सुरक्षा टीमों को उन बुरे अभिनेताओं के लिए तैयार रहने की आवश्यकता है जो सामाजिक इंजीनियरिंग हमलों को मजबूत करने के लिए एआई एजेंटों का उपयोग करते हैं जो उनके कर्मचारियों को लक्षित करते हैं। दूसरी ओर, उन्हें तैयार रहने की आवश्यकता है कंपनी-स्वीकृत आंतरिक एआई एजेंट जो एक पूरी तरह से नए सुरक्षा जोखिमों और कमजोरियों का कारण बन सकते हैं।

आंतरिक एआई एजेंट अंदरूनी खतरों को कैसे बढ़ावा दे सकते हैं

एआई एजेंट उद्यम नेटवर्क के भीतर दो प्रमुख आंतरिक सुरक्षा जोखिम पैदा करते हैं। पहला, वे मानव कर्मचारियों द्वारा अनुसरण किए जाने वाले नैतिक सीमाओं या निर्मित जवाबदेही के बिना स्वायत्त रूप से कार्य करते हैं। स्पष्ट निर्देशों के बजाय अनुमानित लक्ष्यों पर आधारित काम करते हुए, उनकी दक्षता और दृढ़ता सीमाओं को धक्का दे सकती है और उनके अनुमोदन के बिना कार्य करने में सक्षम बना सकती है। आवश्यक जांच और संतुलन के बिना, एक्सपोज़र आसानी से बनाए जा सकते हैं और अनदेखा किए जा सकते हैं।

इन एजेंटों के पास विशाल डेटा तक पहुंच हो सकती है, लेकिन विशेषाधिकार प्राप्त और नियमित जानकारी के बीच अंतर करने में असमर्थ हो सकते हैं। इसलिए, डेटासेट का विश्लेषण जैसे सरल कार्य भी डेटा को लीक होने या बाहरी पार्टियों के लिए उजागर होने का कारण बन सकता है। यह चुनौती तब और जटिल हो जाती है जब एआई को विभिन्न प्रणालियों और वर्कफ़्लोज़ में विभिन्न डेटा नियमों और प्रोटोकॉल के साथ बढ़ाया जाता है। विभिन्न क्षेत्रों में संचालित होने वाले एजेंट अक्सर स्थान-विशिष्ट डेटा हैंडलिंग नियमों का उल्लंघन करते हैं क्योंकि नीति प्रवर्तन में असंगति है, जिससे सुरक्षा जोखिम बढ़ जाते हैं। वास्तविकता यह है कि केवल 30% अमेरिकी व्यवसाय सक्रिय रूप से यह मैपिंग कर रहे हैं कि कौन से एआई एजेंट महत्वपूर्ण प्रणालियों तक पहुंच रखते हैं, जो एक बड़ा सुरक्षा अंधकार क्षेत्र पैदा करता है।

बाहरी एआई एजेंट अंदरूनी खतरों को कैसे बढ़ावा दे सकते हैं

हैकर्स के लिए प्रवेश के सबसे सामान्य तरीकों में से एक फ़िशिंग और सामाजिक इंजीनियरिंग हमलों के माध्यम से है। बुरे अभिनेता और साइबर गिरोह एआई एजेंटों का उपयोग करके इन हमलों को बढ़ाने और जटिल गहरे नकल और व्यक्ति की नकल की घटनाओं को अंजाम देने के लिए उपयोग कर रहे हैं। एआई एजेंटों का उपयोग फ़िशिंग और सामाजिक इंजीनियरिंग हमलों को बनाने के लिए किया जा सकता है जो एक अनप्रशिक्षित आंख के लिए अधिक वास्तविक और विश्वसनीय लगते हैं। 2024 में 60% उल्लंघनों में मानव तत्व शामिल था, और लगभग एक चौथाई सामाजिक इंजीनियरिंग से उत्पन्न हुए। यह संख्या केवल तब बढ़ेगी जब एआई एजेंटों का उपयोग इन प्रवेश विधियों को मजबूत करने के लिए जारी रहेगा।

एआई एजेंटों को व्यापक सोशल मीडिया और व्यक्तिगत डेटा के माध्यम से छानने के लिए प्रशिक्षित किया जा सकता है ताकि वे लक्षित, व्यक्तिगत संचार भेज सकें। भेजने वाले की टोन और आवाज की नकल करने वाले संदेश अधिक सफल होने की संभावना है और वास्तविक मीडिया से अलग करना मुश्किल है। एआई एजेंट अपने अभियानों को बेहतर बनाने के लिए अनुकूलन कर सकते हैं, जब एक हमला काम नहीं करता है तो मोड़ लेते हैं या एक हमले की नकल करते हैं जो काम करता है।

जब गहरे नकल की बात आती है, तो एआई एजेंट उत्कृष्ट गति से इन नकलों का उत्पादन कर सकते हैं, जिससे बड़े पैमाने पर हेरफेर हो सकता है। बुरे अभिनेता एआई एजेंटों का उपयोग वास्तविक समय वीडियो कॉल के साथ संवाद करने के लिए भी कर रहे हैं जिसमें बहुत कम विलंबता है और विश्वसनीयता में सुधार होता है। वे लक्ष्य की प्रतिक्रिया के अनुसार वास्तविक समय में प्रतिक्रिया कर सकते हैं और यदि आवश्यक हो तो अपने दृष्टिकोण को बदल सकते हैं। इन बढ़े हुए हमलों से अनजान कर्मचारियों से संवेदनशील डेटा के उजागर होने, लेन-देन के अधिकृत होने या खतरनाक अभिनेताओं के साथ प्रमाणीकरण साझा करने का खतरा बढ़ सकता है।

एजेंटिक एआई चुनौतियों का सामना करने में सुरक्षा टीमों की भूमिका

सुरक्षा टीमों को एआई एजेंटों द्वारा बनाए गए अंधकार को सीमित करने के लिए विशिष्ट कदम उठाने की आवश्यकता है। आईटी विभागों को सबसे पहले और सबसे महत्वपूर्ण डेटा शासन और वास्तविक समय दृश्यता नियंत्रण के माध्यम से संवेदनशील डेटा तक एआई एजेंटों की पहुंच को सीमित करना चाहिए। इसे पूरा करने के लिए कदम आईएएम प्रणालियों में एआई एजेंट पहचान को वर्गीकृत करना और उनकी गतिविधि की निगरानी करना शामिल है जैसे कि विशेषाधिकार प्राप्त खातों के साथ। दृश्यता का टुकड़ा पहले से लागू किए गए व्यवहारात्मक बेसलाइन के लिए नेटवर्क गतिविधि की निगरानी के लिए आगे बढ़ता है जो एआई एजेंटों को सौंपा गया है। दृश्यता के साथ, आईटी टीमें विशेषाधिकार प्राप्त पहुंच आंदोलन और असामान्यताओं की निगरानी कर सकती हैं, न केवल रोकथाम प्रयासों का समर्थन करती हैं, बल्कि एक दुर्भाग्यपूर्ण एजेंट की स्थिति में दमन और पुनर्प्राप्ति प्रयासों को तेज करने में भी मदद करती हैं।

इसके अलावा, एआई एजेंट हमलों में उपयोग किए जाने वाले नए पैटर्न और रणनीतियों की पहचान करके, संगठन अपनी रक्षा रणनीतियों को अद्यतन कर सकते हैं और अपने सुरक्षा प्रणालियों को प्रशिक्षित कर सकते हैं ताकि वे भविष्य में समान खतरों को पहचानें और रोकें।

एआई एजेंटों द्वारा पेश किए गए अंदरूनी खतरों से आगे रहना

वास्तविकता यह है कि एआई एजेंट अपनी स्वायत्तता और संवेदनशील प्रणालियों तक बढ़ती पहुंच के कारण एक नया अंदरूनी जोखिम पेश करते हैं। इसके अलावा, खतरनाक अभिनेता मानव कमजोरियों का शोषण करने के लिए एआई एजेंटों का उपयोग जारी रखेंगे, जैसे कि गहरे नकल, फ़िशिंग और सामाजिक इंजीनियरिंग के माध्यम से।

जैसे ही यह तकनीक आगे बढ़ती है, व्यवसायों को अपने वर्कफ़्लोज़ में उन्हें अपनाने से पहले एआई एजेंटों के एक्सेस और व्यवहार में दृश्यता में सुधार करने की आवश्यकता है। इसमें एक एआई एजेंट कार्यबल के साथ-साथ सक्रिय, 360-डिग्री, वास्तविक समय निगरानी में निवेश करना शामिल है। जबकि एआई एजेंट महत्वपूर्ण व्यवसायिक बोतलें और चुनौतियों का समाधान कर सकते हैं, उन्हें भविष्य के अंदरूनी खतरों को सीमित करने के लिए एक सक्रिय दृष्टिकोण की आवश्यकता है।