साइबर सुरक्षा
AI एजेंट अधिक बुद्धिमान हो रहे हैं और हमले का दायरा भी बढ़ रहा है

मुख्य बिंदुAI एजेंटों की अप्रत्याशित स्वायत्तता एक विशाल और गतिशील हमले की सतह बनाती है जो…
और देखें
- AI एजेंटों की अप्रत्याशित स्वायत्तता एक विशाल और गतिशील हमले की सतह बनाती है जो पारंपरिक सुरक्षा मॉडलों को चुनौती देती है।
- प्रॉम्प्ट इंजेक्शन हमले दस्तावेज़ों और वेबपेजों जैसे रोज़मर्रा के इनपुट के माध्यम से एजेंट निर्देशों में हेरफेर करते हैं।
- मल्टी-एजेंट सिस्टम विश्वास पदानुक्रम और महत्वपूर्ण प्रणालियों तक अत्यधिक अनुमत पहुंच के माध्यम से जोखिम को खतरनाक ढंग से बढ़ा देते हैं।
जिस क्षण AI एजेंट आपकी ओर से बैठकें तय करने, कोड चलाने और वेब देखने लगे, साइबर सुरक्षा की चर्चा बदल गई। धीरे-धीरे नहीं, बल्कि रातोंरात।
जो पहले सीमित दायरे वाला, पूर्वानुमेय सॉफ़्टवेयर सिस्टम था, वह ऐसी चीज़ बन गया जो तर्क करती है, योजना बनाती है और विभिन्न टूल तथा API के जरिए कार्रवाई करती है। एक वर्ष पहले वह इन टूल और API के अस्तित्व के बारे में मुश्किल से ही जानती थी।
यह रोमांचक भी है और डरावना भी, क्योंकि इस स्वायत्तता के साथ आने वाला हमला करने का संभावित दायरा बहुत बड़ा है। अधिकांश संगठन अभी बस समझना शुरू कर रहे हैं कि एजेंटों को अपने बुनियादी ढाँचे में आने देने का क्या अर्थ है।
चैटबॉट से काम करने वाले एजेंट तक
AI का शुरुआती वादा सरल था: सवाल पूछें, जवाब पाएँ। उपभोक्ताओं के साथ अधिकांश संवाद में यह अब भी सही है, लेकिन कंपनियों में इस्तेमाल का स्वरूप बदल चुका है। आज एजेंटों को पहुँच संबंधी क्रेडेंशियल, API कुंजियाँ और डेटा हटाने, बनाने तथा उस पर टिप्पणियाँ जोड़ने की क्षमता दी जा रही है। वे ऐसे सिस्टम में वास्तविक कार्रवाई भी कर सकते हैं जहाँ उसके वास्तविक नतीजे होते हैं।
यह बदलाव तेजी से हुआ। दो साल से कम समय में AI एजेंट टेक्स्ट बनाने से आगे बढ़कर सुचारु बहु-एजेंट व्यवस्थाएँ चलाना संभव बनाने लगे। वे ईमेल पढ़ते हैं, कार्यप्रवाह शुरू करते हैं, डेटाबेस में क्वेरी करते हैं और कभी-कभी अपने अधीन दूसरे एजेंटों को भी संभालते हैं। इतनी पहुँच के लिए पहले लंबी खरीद प्रक्रिया और प्रक्रिया में किसी व्यक्ति की भागीदारी जरूरी थी। अब एक सेटिंग फ़ाइल और कुछ API कॉल काफी हैं।
अधिक पहुँच, अधिक जोखिम का सामना
पारंपरिक सॉफ़्टवेयर हमलों का स्वरूप कुछ हद तक पूर्वानुमेय होता है। एक ज्ञात प्रवेश बिंदु, एक ज्ञात सुरक्षा खामी और एक ज्ञात पैच होता है। AI एजेंट इस मॉडल को तोड़ते हैं, क्योंकि उन्हें बदलते ढंग से काम करने के लिए बनाया गया है। वे कोड के स्थिर रास्ते का अनुसरण नहीं करते, बल्कि सोचते हैं कि अगला कदम क्या होना चाहिए। इसलिए उनके व्यवहार का पूर्वानुमान लगाना कठिन और बाद में उसका ऑडिट करना कहीं अधिक कठिन है।
यह अप्रत्याशितता काम पूरा करने में उपयोगी है। लेकिन सिस्टम का दुरुपयोग करने की कोशिश करने वालों को भी इससे फायदा मिलता है। जब कोई एजेंट काम के बीच में बाहरी API बुलाने या किसी तीसरे पक्ष का टूल इस्तेमाल करने का फैसला कर सकता है, तो बचाव के लिए कोई स्पष्ट सीमा नहीं रहती।
सुरक्षा टीमें ज्ञात हमला-क्षेत्रों की रक्षा करने और Kubernetes की लागत पर नज़र रखने की आदी हैं। एजेंट लगातार नए हमला-क्षेत्र और खामियों के दोहन के तरीके खोजते हैं, लेकिन कोई उनका वास्तविक समय में मानचित्र नहीं बना रहा। आपके जानने से पहले कोई क्रेडेंशियल हथिया सकता है और आपके पूरे AI “जीव” को एक ही चाल में नियंत्रित कर सकता है।
प्रॉम्प्ट इंजेक्शन नया SQL इंजेक्शन है
सुरक्षा शोधकर्ता जिस हमले के तरीके की बार-बार चर्चा करते हैं, वह प्रॉम्प्ट इंजेक्शन है। बात सीधी है: हमलावर कोड की खामी का फायदा उठाने के बजाय उन निर्देशों से छेड़छाड़ करता है जो एजेंट को उसके इनपुट के जरिए मिलते हैं। वेबपेज में छिपाया गया दुर्भावनापूर्ण निर्देश या दस्तावेज़ अथवा ईमेल में छिपा ऐसा निर्देश एजेंट की अगली कार्रवाई को दूसरी दिशा दे सकता है।
इसे विशेष रूप से खतरनाक यह बनाता है कि एजेंट अक्सर ठीक वही करते हैं जो उन्हें बताया जाता है। वे वेब, उपयोगकर्ता संदेशों और तीसरे पक्ष के टूल से मिली सामग्री संसाधित करते हैं। इनमें से कोई भी सामग्री निर्देश डालने का माध्यम बन सकती है। हमलावर के बदले हुए दस्तावेज़ को पढ़कर उसकी सामग्री के आधार पर API कॉल करने वाला एजेंट अगवा हो चुका है, और वह शायद ऐसा कुछ भी लॉग नहीं करेगा जिससे घटना की कारण-श्रृंखला स्पष्ट हो जाए।
बचाव के उपाय मौजूद हैं, लेकिन पूरे नहीं हैं। एजेंट की कार्रवाइयों को सैंडबॉक्स में अलग रखना, संदर्भ के अनुसार उसके टूल सीमित करना और गंभीर परिणामों वाले कार्यप्रवाह में मानव जाँच जोड़ना जोखिम घटाते हैं। वे जोखिम खत्म नहीं करते। अधिकांश संगठनों ने अभी बुनियादी उपाय भी लागू नहीं किए हैं।
बहु-एजेंट सिस्टम के भीतर विश्वास की समस्या
बहु-एजेंट सिस्टम जटिलता की ऐसी परत जोड़ते हैं जिसे कम आँकना आसान है। जब एक एजेंट कई अन्य एजेंटों को संचालित करता है, तो विश्वास का एक पदानुक्रम बनता है। समन्वयक नीचे निर्देश भेजता है और अधीनस्थ एजेंट उनका पालन करते हैं। यदि समन्वयक पर हमला सफल हो जाए, तो उसके अधीन हर एजेंट भी व्यावहारिक रूप से हमलावर के कब्ज़े में आ जाता है और नुकसान का दायरा बहुत तेजी से बढ़ता है।
जरूरत से ज्यादा अनुमतियाँ देने की समस्या भी है। एजेंटों को अक्सर आवश्यकता से अधिक पहुँच मिलती है, क्योंकि शुरू में व्यापक अधिकार देना उन्हें धीरे-धीरे ठीक करने से आसान होता है। शोध एजेंट को उत्पादन डेटाबेस में लिखने का अधिकार नहीं चाहिए।
बैठकों का समय तय करने वाले एजेंट को वित्तीय रिकॉर्ड देखने का अधिकार नहीं चाहिए। बेशक, सब कुछ आपस में जुड़ा होने से आश्वस्त महसूस होता है लेकिन जोखिम इतना अधिक है कि लाभ का बिना घटे बने रहना मुश्किल है। व्यवहार में सीमाएँ धुँधली होती जाती हैं और सिद्धांततः अच्छे न्यूनतम-अधिकार के नियम उत्पाद जारी करने की जल्दी में चुपचाप छोड़ दिए जाते हैं।
यहाँ उचित सुरक्षा कैसी होगी
एजेंटों की तैनाती सुरक्षित बनाने वाला कोई एक समाधान नहीं है। समस्या कई परतों वाली है, इसलिए जवाब भी कई परतों में होना चाहिए। अच्छा काम करने वाले संगठन आम तौर पर पहुँच नियंत्रण से शुरू करते हैं: हर एजेंट का स्पष्ट और सीमित दायरा तय करें तथा संवेदनशील सिस्टम या बाहरी सेवाओं से जुड़ी हर कार्रवाई में समीक्षा के चरण जोड़ें।
कामकाज को देखने-समझने की क्षमता रोकथाम जितनी ही जरूरी है। यदि एजेंट कुछ अप्रत्याशित करता है, तो टीमों को उसके मिले निर्देशों का पूरा रिकॉर्ड चाहिए साथ ही यह भी कि उसने कौन-से टूल बुलाए और क्या नतीजे लौटाए। अधिकतर लॉगिंग व्यवस्थाएँ इतनी बारीकी के लिए नहीं बनाई गई हैं और बाद में इसे जोड़ना कठिन होता है। शुरू से इसे शामिल करना अतिरिक्त रुकावटों के बावजूद उचित है।
हमलावर की दृष्टि से परीक्षण का भी कम इस्तेमाल होता है। एजेंटों की रेड-टीम जाँच, खासकर दुर्भावनापूर्ण निर्देश डालकर नतीजे देखना, ऐसी खामियाँ सामने लाती है जिन्हें स्थिर कोड समीक्षा कभी नहीं पकड़ेगी। यह सोचना असहज है, लेकिन जो लोग आगे इन सिस्टम का दुरुपयोग करने की कोशिश करेंगे वे ऐसे परीक्षण अभी से कर रहे हैं। उनसे पहले पहुँचना ही एकमात्र समझदार कदम है।
अंतिम विचार
AI एजेंट संगठनों के कामकाज का और बड़ा हिस्सा बनेंगे और यह बदलाव काफी आगे बढ़ चुका है। सुरक्षा चर्चा को तेजी से इसकी बराबरी करनी होगी। जोखिम वास्तविक हैं, हमले के तरीके नए हैं और आगे रहने का मौका छोटा होता जा रहा है।
स्वायत्त AI सिस्टम के खतरों को समझना अब वैकल्पिक नहीं है। सुरक्षा और इंजीनियरिंग टीमें इस समय जो कर सकती हैं, उनमें यह सबसे महत्वपूर्ण कामों में से एक है। इसे सही ढंग से संभालने के लिए समय की घड़ी पहले ही चल पड़ी है।












