मल्टीमोडल हमलों की आने वाली लहर: जब एआई टूल्स नए शोषण क्षेत्र बन जाते हैं

जैसे ही बड़े भाषा मॉडल (एलएलएम) मल्टीमोडल सिस्टम में विकसित होते हैं जो पाठ, छवियों, वॉयस और कोड को संभाल सकते हैं, वे बाहरी टूल और कनेक्टर्स के शक्तिशाली संगठक भी बन जाते हैं। इस विकास के साथ, एक विस्तारित हमला क्षेत्र है जिसके बारे में संगठनों को जागरूक होने की आवश्यकता है।

एक प्रमुख उदाहरण यह है कि सोशल इंजीनियरिंग, जिसका एजेंट शिकार हो सकता है क्योंकि उन्हें मानव व्यवहार की तरह प्रशिक्षित किया गया है और उनके पास कम संदेह है। एक एजेंट, उदाहरण के लिए, एक नकली ईमेल और एक वैध रिटेलर से ईमेल के बीच अंतर बताने में असमर्थ हो सकता है।

मल्टीमोडल और टूल एक्सेस का संयोजन एआई को सहायक से हमले के माध्यम में बदल देता है। हमलावर अब सरल पाठ प्रोम्प्ट का उपयोग करके टूल के दुरुपयोग, अनधिकृत कार्यों को निष्पादित करने या वैध चैनलों के माध्यम से संवेदनशील डेटा को निकालने के लिए कर सकते हैं। क्योंकि ये क्षमताएं पहुंच के लिए डिज़ाइन की गई हैं, न कि रक्षा के लिए, यहां तक कि कम-कौशल वाले हमलावर भी एआई प्रणाली का उपयोग जटिल संचालन करने के लिए कर सकते हैं बिना एक भी कोड लिखे।

मल्टीमोडल एआई कैसे एक शोषण श्रृंखला बन जाता है

एलएलएम बाहरी प्रणालियों के संगठक के रूप में बढ़ते जा रहे हैं, जिसमें आज के एकीकरण में एपीआई, ईमेल, क्लाउड स्टोरेज और कोड निष्पादन टूल जैसी चीजें शामिल हैं। ये कनेक्टर अक्सर पहुंच के लिए बनाए जाते हैं, न कि रक्षा के लिए।

इसका नकारात्मक पक्ष यह है कि यह नए शोषण की लहर का कारण बन सकता है।

एक उदाहरण प्रोम्प्ट-चालित टूल दुरुपयोग है। उदाहरण के लिए, एक हमलावर एक ईमेल में प्रोम्प्ट इंजेक्शन निर्देशों के साथ एक छवि का उपयोग कर सकता है। एक ऑप्टिकल कैरेक्टर रिकग्निशन (ओसीआर) टूल को छवि से पाठ निकालने के लिए आवश्यक है। एजेंट को ईमेल का जवाब देने और लक्ष्य के घर के पते पर एक गूगल मैप संलग्न करने के लिए निर्देशित किया जाता है, जिससे पीड़ित के स्थान को डी-एनोनिमाइज़ किया जाता है।

एक अन्य तंत्र क्रॉस-मॉडल गार्डरेल उत्पीड़न है। यह टूल के प्रवेश और निकास बिंदुओं के बीच गार्डरेल से संबंधित है। उदाहरण के लिए, ओसीआर एक्सट्रैक्टर के आउटपुट का विश्लेषण करते समय, इसके आउटपुट से प्रोम्प्ट इंजेक्शन की खोज के लिए पर्याप्त गार्डरेल नहीं हो सकता है।

हैं संरचनात्मक कमजोरियां जिन्हें शोषित किया जा सकता है। एक ऐसा मुद्दा मॉडल और बाहरी टूल के बीच ढीले और अत्यधिक अनुमति देने वाले बंधन हैं – जिसका अर्थ है कि एक सरल प्राकृतिक-भाषा प्रोम्प्ट वास्तविक क्रियाओं जैसे कोड चलाने, फ़ाइलों तक पहुंचने या ईमेल के साथ बातचीत करने को ट्रिगर कर सकता है। इसके अलावा, इनमें से कई प्रणालियों में सख्त पहुंच नियंत्रण का अभाव है, इसलिए एआई को मानव द्वारा कभी भी अधिकृत किए जाने से अधिक डेटा लिखने, हटाने या संशोधित करने की क्षमता हो सकती है। समस्या तब और भी गंभीर हो जाती है जब आप कनेक्टर और एमसीपी-शैली के एक्सटेंशन पर नजर डालते हैं, जो अक्सर लगभग कोई गार्डरेल के साथ आते हैं; एक बार जुड़ जाने के बाद, वे एआई की पहुंच को व्यक्तिगत भंडारण, इनबॉक्स और क्लाउड प्लेटफ़ॉर्म में विस्तारित करते हैं जिसमें बहुत कम पर्यवेक्षण होता है। इन संरचनात्मक कमजोरियों के साथ मिलकर, एक ऐसा वातावरण बनता है जहां क्लासिक सुरक्षा समस्याएं – डेटा निकासी, सैंडबॉक्स एस्केप और यहां तक कि मेमोरी जहर – केवल एक चतुर रूप से तैयार किए गए प्रोम्प्ट के माध्यम से ट्रिगर की जा सकती हैं।

उभरते खतरे: आगे क्या है?

इस नए सामान्य में, एआई-संचालित ईमेल और सोशल इंजीनियरिंग हमले निकट हैं। फ़िशिंग की मात्रा एलएलएम के हमलावर द्वारा उपयोग के कारण बढ़ जाएगी; गूगल जैसे ईमेल प्रदाताओं से सामान्य स्पैम फिल्टर को बायपास करना एक गला घोंटने वाला बिंदु है। इनबॉक्स-से जुड़े एआई एजेंट फ़िशिंग हमलों के सफल होने की संभावना को बढ़ाते हैं। जीमेल या आउटलुक जैसे एजेंटों को जोड़ने वाले उपयोगकर्ताओं के साथ ईमेल-आधारित खतरों में वृद्धि होने की संभावना है।

हमलावर एआई को पूरे स्पैम या स्पीयर-फ़िशिंग अभियान चलाने का निर्देश दे सकते हैं। इस परिदृश्य में,

एआई-टू-एआई फ़िशिंग संभव हो जाता है।

मल्टीमोडल सिस्टम कोड निष्पादन क्षमताएं बढ़ाते हुए पेश करते हैं। एस्केप पथ हमलावरों को अंतर्निहित बुनियादी ढांचे को भंग करने की अनुमति देते हैं। और सैंडबॉक्स एस्केप विक्रेताओं के लिए सबसे बड़ा प्रतिष्ठा संकट प्रस्तुत करते हैं।

लंबी अवधि की मेमोरी जहर और स्थगित ट्रिगर आगे के खतरे हैं। स्थायी मेमोरी छुपी हुई पेलोड को भविष्य के प्रोम्प्ट पर सक्रिय करने की अनुमति देती है। क्रॉस-मॉडल ट्रिगर (जैसे छवियों या पाठ के टुकड़े) समय-बम व्यवहार को ट्रिगर कर सकते हैं।

मल्टीमोडल हमले इतने सुलभ और खतरनाक क्यों हैं

एआई ने हमले की क्षमताओं को लोकतांत्रिक बना दिया है। उपयोगकर्ताओं को अब कोडिंग या मैलवेयर-विकास कौशल की आवश्यकता नहीं है; प्राकृतिक भाषा मैलवेयर निर्माण या डेटा निकासी के लिए इंटरफ़ेस बन जाती है। इसका अर्थ है कि गैर-तकनीकी व्यक्ति भी प्रोम्प्ट के माध्यम से मैलवेयर उत्पन्न कर सकते हैं या अभियान चला सकते हैं।

एआई हानिकारक संचालन की त्वरण और पैमाने की भी सुविधा प्रदान करता है। मल्टीमोडल एजेंट विशेषज्ञ प्रयास के बिना काम को स्वचालित कर सकते हैं। कोड, ईमेल, अनुसंधान और टोह लेना तुरंत उत्पादित किया जा सकता है।

उपयोगकर्ता अति-विश्वास और अनजाने में उजागर होने से एआई की हानि की संभावना बढ़ जाती है। उपयोगकर्ता अक्सर यह नहीं समझते हैं कि एआई क्या एक्सेस कर सकता है, और डिफ़ॉल्ट सेटिंग्स बढ़ते हुए एआई एकीकरण को स्वचालित रूप से सक्षम करती हैं। कई लोगों को यह एहसास नहीं होता है कि उन्होंने एआई को ईमेल या दस्तावेजों तक अत्यधिक पहुंच प्रदान की है।

मल्टीमोडल सुरक्षा के लिए सिद्धांत और नियंत्रण

संगठनों को मल्टीमोडल हमलों के खिलाफ सुरक्षा उपायों को लागू करना चाहिए। सुरक्षा टीमों को डिफ़ॉल्ट रूप से टूल एक्सेस को प्रतिबंधित करने की आवश्यकता है। ऑप्ट-इन नियंत्रण स्वचालित रूप से सक्षम एकीकरण को बदलना चाहिए। उन्हें एआई-से जुड़े सभी प्रणालियों के लिए न्यूनतम विशेषाधिकार पहुंच लागू करनी चाहिए और लिखने/हटाने की पहुंच को हटा देना चाहिए। इसमें क्रॉस-ओरिजिन नियम और डोमेन व्हाइटलिस्टिंग (बुनियादी ढांचे की व्हाइटलिस्टिंग, एलएलएम-स्तर की व्हाइटलिस्टिंग नहीं) शामिल होना चाहिए।

एक अन्य महत्वपूर्ण कदम टूल इनवोकेशन के लिए स्पष्ट गार्डरेल बनाना है। प्राकृतिक-भाषा ट्रिगर्स को संरचित, टाइप किए गए कमांड सत्यापन से बदलें। गार्डरेल दोनों इनपुट और आउटपुट गला घोंटने वाले बिंदु होने चाहिए।

अतिरिक्त महत्वपूर्ण सिद्धांत और नियंत्रण में शामिल हैं:

• संवेदनशील संचालन के लिए मजबूत अनुमोदन कार्य प्रवाह लागू करें।
• स्थायी मॉडल मेमोरी में उपयोगकर्ता डेटा को रखें से बचें। स्वचालित मेमोरी सैनिटाइजेशन और प्रोवेनेंस जांच लागू करें।
• कोड निष्पादन वातावरण को कठोर और अलग करें।
• संदिग्ध व्यवहार और पलायन प्रयासों की निगरानी करें।
• उपयोगकर्ता शिक्षा और पारदर्शिता को मजबूत करें।
• जोखिम भरे कार्यों को करते समय एजेंट के लिए अधिक उपयोगकर्ता पुष्टि जोड़ें।
• स्पष्ट करें जब एआई टूल ईमेल, फ़ाइलें या क्लाउड संसाधनों तक पहुंच रहे हैं।
• उपयोगकर्ताओं को उच्च-जोखिम वाले कनेक्टरों के बारे में चेतावनी दें।

मल्टीमोडल हमलों के खिलाफ सफल होना

एआई प्रौद्योगिकियों ने व्यावसायिक संचालन के एजेंटों में तेजी से परिवर्तन किया है, जिससे एक स्थिति उत्पन्न हुई है जिसमें प्राकृतिक भाषा स्वयं एक शोषण का रूप बन जाती है। मल्टीमोडल और टूल एक्सेस का संयोजन हमले की सतह को खोलता है, एआई को सहायक से हमले के माध्यम में बदल देता है। मल्टीमोडल हमले एलएलएम और बाहरी प्रणालियों के बीच ढीले एकीकरण का फायदा उठाते हैं जिन्हें वे नियंत्रित करते हैं, जैसे कि एपीआई, फ़ाइल भंडारण और स्वचालन प्लेटफ़ॉर्म।

जैसे ही खतरे विकसित होते हैं, संगठनों को मल्टीमोडल हमले के मार्गों के लिए स्पष्ट रूप से खाता देने वाली रणनीतियों को अपनाने की आवश्यकता है। उपरोक्त सर्वोत्तम प्रथाओं का उपयोग करके रक्षा को मजबूत करना एआई टूल्स को अनजाने में हमलावर की शोषण श्रृंखला में लिंक बनने से रोकने के लिए आवश्यक है।