साइबर सुरक्षा
हमारे द्वारा निर्मित सुरक्षा कमजोरियाँ: एआई एजेंट और आज्ञाकारिता की समस्या
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
एलएलएम-आधारित एआई एजेंट एक नई श्रेणी की कमजोरियों को पेश कर रहे हैं, जहां हमलावर डेटा में दुर्भाग्यपूर्ण निर्देशों को इंजेक्ट करते हैं, सहायक प्रणालियों को अनजाने में साथी बनाते हैं।
माइक्रोसॉफ्ट कोपायलट को पारंपरिक अर्थों में हैक नहीं किया गया था। इसमें कोई मैलवेयर, फ़िशिंग लिंक, दुर्भाग्यपूर्ण कोड नहीं था। किसी ने कुछ भी नहीं क्लिक किया या कोई शोषण तैनात नहीं किया।
हमलावर ने बस पूछा। माइक्रोसॉफ्ट 365 कोपायलट, जो वह करने के लिए बनाया गया था, पूरी तरह से काम कर रहा था। हाल ही में एचोलीक ज़ीरो क्लिक हमले में, एआई एजेंट को डेटा के रूप में छिपी प्रॉम्प्ट से मैनिप्युलेट किया गया था। यह इसलिए पालन किया क्योंकि यह टूटा हुआ नहीं था, बल्कि इसलिए कि यह डिज़ाइन के अनुसार काम कर रहा था।
यह कमजोरता सॉफ़्टवेयर बग्स का फ़ायदा नहीं उठाती है। यह भाषा का फ़ायदा उठाती है। और यह साइबर सुरक्षा में एक बड़ा मोड़ है, जहां हमले की सतह अब कोड नहीं है, बल्कि बातचीत है।
नई एआई आज्ञाकारिता समस्या
एआई एजेंट मदद करने के लिए डिज़ाइन किए गए हैं। उनका उद्देश्य उपयोगकर्ता के इरादे को समझना और कुशलता से कार्य करना है। यह उपयोगिता जोखिम के साथ आती है। जब फ़ाइल सिस्टम, उत्पादकता प्लेटफ़ॉर्म, या ऑपरेटिंग सिस्टम में एकीकृत किया जाता है, तो ये एजेंट प्राकृतिक भाषा के निर्देशों का पालन करते हैं जिसमें न्यूनतम प्रतिरोध होता है।
हमलावर उसी विशेषता का फ़ायदा उठा रहे हैं। जो प्रॉम्प्ट इंजेक्शन दिखते हैं वे हानिरहित हो सकते हैं, वे संवेदनशील कार्यों को ट्रिगर कर सकते हैं। इन प्रॉम्प्ट में शामिल हो सकते हैं:
- बहुभाषी कोड स्निपेट
- अस्पष्ट फ़ाइल स्वरूप और एम्बेडेड निर्देश
- गैर-अंग्रेजी भाषा के इनपुट
- गैर-आक्रामक भाषा में छिपे मल्टी-स्टेप निर्देश
चूंकि बड़े भाषा मॉडल (एलएलएम) जटिलता और अस्पष्टता को समझने के लिए प्रशिक्षित होते हैं, प्रॉम्प्ट पेलोड बन जाता है।
सिरी और एलेक्सा का भूत
यह पैटर्न नया नहीं है। सिरी और एलेक्सा के शुरुआती दिनों में, शोधकर्ताओं ने प्रदर्शित किया कि “मेरी सभी फ़ोटो इस ईमेल पर भेजें” जैसा वॉयस कमांड एक्शन को ट्रिगर कर सकता है बिना उपयोगकर्ता सत्यापन के।
अब खतरा बड़ा है। माइक्रोसॉफ्ट कोपायलट जैसे एआई एजेंट ऑफ़िस 365, आउटलुक, और ओएस में गहराई से एकीकृत हैं। वे ईमेल, दस्तावेज़, प्रमाण पत्र, और एपीआई तक पहुंच प्रदान करते हैं। हमलावरों को केवल सही प्रॉम्प्ट की आवश्यकता है ताकि वे महत्वपूर्ण डेटा निकाल सकें, जबकि वे एक वैध उपयोगकर्ता के रूप में प्रस्तुत होते हैं।
कंप्यूटर जब निर्देशों को डेटा के रूप में भ्रमित करते हैं
यह साइबर सुरक्षा में एक नया सिद्धांत नहीं है। एसक्यूएल हमले इसलिए सफल रहे क्योंकि प्रणालियां इनपुट और निर्देश के बीच अंतर नहीं कर सकती थीं। आज, उसी दोष का अस्तित्व है, लेकिन भाषा परत में।
एआई एजेंट प्राकृतिक भाषा को इनपुट और इरादे दोनों के रूप में मानते हैं। एक जेसन ऑब्जेक्ट, एक प्रश्न, या यहां तक कि एक वाक्य एक कार्रवाई को आरंभ कर सकता है। यह अस्पष्टता है जिसे हमलावर शोषित करते हैं, जो निर्देशों को हानिरहित सामग्री के भीतर एम्बेड करते हैं।
हमने इंफ्रास्ट्रक्चर में इरादे को एम्बेड किया है। अब, हमलावरों ने सीखा है कि इसे उनके आदेश के लिए कैसे निकाला जाए।
एआई अपनाया जा रहा है साइबर सुरक्षा से आगे
जैसे ही उद्यम एलएलएम एकीकृत करने के लिए दौड़ रहे हैं, कई एक महत्वपूर्ण प्रश्न को अनदेखा कर रहे हैं: एआई को क्या पहुंच प्राप्त है?
जब कोपायलट ओएस तक पहुंच सकता है, तो विस्फोट की परिधि इनबॉक्स से बहुत आगे निकल जाती है। चेक पॉइंट की एआई सुरक्षा रिपोर्ट के अनुसार:
- 62 प्रतिशत वैश्विक मुख्य सूचना सुरक्षा अधिकारी (सीआईएसओ) डरते हैं कि उन्हें एआई से संबंधित उल्लंघनों के लिए व्यक्तिगत रूप से जिम्मेदार ठहराया जा सकता है
- लगभग 40 प्रतिशत संगठनों की रिपोर्ट में असंक्षिप्त आंतरिक एआई का उपयोग है, अक्सर सुरक्षा पर्यवेक्षण के बिना
- 20 प्रतिशत साइबर अपराधी समूह अब अपने संचालन में एआई को शामिल करते हैं, जिसमें फ़िशिंग और जासूसी के लिए शामिल हैं
यह केवल एक उभरता हुआ जोखिम नहीं है। यह एक मौजूदा जोखिम है जो पहले से ही नुकसान पहुंचा रहा है।
मौजूदा सुरक्षा उपायों क्यों कम पड़ जाते हैं
कुछ विक्रेता वॉचडॉग का उपयोग करते हैं – दुर्भाग्यपूर्ण प्रॉम्प्ट या संदिग्ध व्यवहार को पकड़ने के लिए प्रशिक्षित द्वितीयक मॉडल। ये फ़िल्टर बुनियादी खतरों का पता लगा सकते हैं लेकिन बचाव तकनीकों के प्रति संवेदनशील हैं।
हमलावर:
- फ़िल्टर को शोर से ओवरलोड कर सकते हैं
- इरादे को कई चरणों में विभाजित कर सकते हैं
- गैर-स्पष्ट शब्दों का उपयोग करके पता लगाने से बच सकते हैं
एचोलीक के मामले में, सुरक्षा उपाय मौजूद थे – और उन्हें बायपास कर दिया गया। यह न केवल नीति की विफलता को दर्शाता है, बल्कि वास्तुकला की विफलता को भी दर्शाता है। जब एक एजेंट के पास उच्च-स्तरीय अनुमतियां होती हैं लेकिन निम्न-स्तरीय संदर्भ होता है, तो भी अच्छे गार्डरेल कम पड़ जाते हैं।
पता लगाना, न कि निर्दोषता
हर हमले को रोकना अवास्तविक हो सकता है। लक्ष्य तेजी से पता लगाना और तेजी से सीमित करना होना चाहिए।
संगठन शुरू कर सकते हैं:
- एआई एजेंट गतिविधि की निगरानी करना और प्रॉम्प्ट ऑडिट लॉग बनाए रखना
- एआई टूल्स में सख्त कम से कम अनुमति प्रदान करना, प्रशासक-स्तरीय नियंत्रण की नकल करना
- संवेदनशील कार्यों में घर्षण जोड़ना, जैसे कि पुष्टिकरण की आवश्यकता
- असामान्य या विरोधी प्रॉम्प्ट पैटर्न को समीक्षा के लिए झंडा लगाना
भाषा-आधारित हमले पारंपरिक एंडपॉइंट डिटेक्शन और प्रतिक्रिया (ईडीआर) टूल में दिखाई नहीं देंगे। उन्हें एक नए पता लगाने वाले मॉडल की आवश्यकता है।
संगठनों को अब अपनी सुरक्षा के लिए क्या करना चाहिए
एआई एजेंट तैनात करने से पहले, संगठनों को यह समझना चाहिए कि ये प्रणालियां कैसे काम करती हैं और वे किन जोखिमों को पेश करती हैं।
मुख्य सिफारिशें शामिल हैं:
- सभी पहुंच की जांच करें: जानें कि एजेंट क्या छू सकते हैं या ट्रिगर कर सकते हैं
- सीमा को सीमित करें: न्यूनतम आवश्यक अनुमति प्रदान करें
- सभी इंटरैक्शन को ट्रैक करें: प्रॉम्प्ट, प्रतिक्रियाओं और परिणामी कार्यों को लॉग करें
- तनाव परीक्षण करें: आंतरिक रूप से और बार-बार विरोधी इनपुट का अनुकरण करें
- बचाव की योजना बनाएं: मानें कि फ़िल्टर बायपास किए जाएंगे
- सुरक्षा के साथ संरेखित करें: सुनिश्चित करें कि एलएलएम प्रणाली सुरक्षा उद्देश्यों का समर्थन करती है, न कि समझौता करती है
नया हमला सतह
एचोलीक यह दिखाता है कि आगे क्या होगा। जैसे ही एलएलएम विकसित होते हैं, उनकी उपयोगिता एक दायित्व बन जाती है। व्यवसाय प्रणालियों में गहराई से एकीकृत, वे हमलावरों को एक नया तरीका प्रदान करते हैं – सरल, अच्छी तरह से तैयार किए गए प्रॉम्प्ट के माध्यम से।
यह अब केवल कोड को सुरक्षित करने के बारे में नहीं है। यह भाषा, इरादे, और संदर्भ को सुरक्षित करने के बारे में है। प्लेबुक को अब बदलना चाहिए, इससे पहले कि बहुत देर हो जाए।
और फिर भी, कुछ अच्छी खबर है। साइबर सुरक्षा के खिलाफ नए और उभरते साइबर खतरों का बचाव करने के लिए एआई एजेंटों का लाभ उठाने में प्रगति हो रही है। जब उचित तरीके से उपयोग किया जाता है, तो ये स्वायत्त एआई एजेंट खतरों का जवाब देने में किसी भी मानव से तेजी से प्रतिक्रिया कर सकते हैं, वातावरण में सहयोग कर सकते हैं, और उभरते जोखिमों के खिलाफ सक्रिय रूप से बचाव कर सकते हैं क्योंकि वे एक ही घुसपैठ प्रयास से सीखते हैं।
एजेंटिक एआई हर हमले से सीख सकता है, वास्तविक समय में अनुकूलन कर सकता है और खतरों को फैलने से पहले रोक सकता है। इसके पास साइबर लचीलापन का एक नया युग स्थापित करने की क्षमता है, लेकिन केवल तभी जब हम इस पल को जब्त करते हैं और साइबर सुरक्षा के भविष्य को एक साथ आकार देते हैं। यदि हम नहीं करते हैं, तो यह नया युग उन संगठनों के लिए साइबर सुरक्षा और डेटा गोपनीयता का एक दुःस्वप्न बन सकता है जिन्होंने पहले से ही एआई (कभी-कभी अनजाने में शैडो आईटी टूल के साथ) लागू किया है। अब समय है कि हम एआई एजेंटों का उपयोग हमारे लाभ के लिए, न कि हमारे पतन के लिए करने के लिए कार्रवाई करें।
