एआई एजेंट्स अधिक बुद्धिमान हो रहे हैं और उनकी हमला सतह बढ़ रही है

जब एआई एजेंट्स ने आपकी ओर से बैठकें बुक करना, कोड निष्पादित करना और वेब ब्राउज़ करना शुरू किया, तो साइबर सुरक्षा वार्ता बदल गई। धीरे-धीरे नहीं, बल्कि रातोंरात。

जो पहले एक सीमित, भविष्यवाणी योग्य सॉफ्टवेयर सिस्टम था, वह अब कारण, योजना और कार्यों को उपकरणों और एपीआई पर ले जाने वाला कुछ बन गया है जो एक साल पहले इसका अस्तित्व नहीं था।

यह वास्तव में रोमांचक है, और यह भी वास्तव में भयावह है, क्योंकि उस स्वतंत्रता के साथ आने वाली हमला सतह विशाल है, और अधिकांश संगठन अभी भी यह समझने की कोशिश कर रहे हैं कि उनके बुनियादी ढांचे में एजेंटों को आने देने का क्या अर्थ है।

चैटबॉट्स से ऑपरेटर्स तक

एआई का मूल वादा सरल था: एक प्रश्न पूछें, एक उत्तर प्राप्त करें। यह अभी भी अधिकांश उपभोक्ता इंटरैक्शन के लिए सच है, लेकिन यह अब उद्यम नियोजन में नहीं हो रहा है। आज के एजेंटों को प्रमाण-पत्र, एपीआई कुंजी, और डेटा को हटाने, बनाने और सजाने की क्षमता दी जा रही है, साथ ही साथ वास्तविक कार्रवाई करने की क्षमता भी दी जा रही है जो वास्तविक परिणामों वाले सिस्टम में होती है।

यह परिवर्तन तेजी से हुआ। दो वर्ष से कम समय में, एआई एजेंट्स टेक्स्ट जनरेटर से सुचारू, बहु-एजेंट सेटअप चलाने की अनुमति देने के लिए चले गए। वे ईमेल पढ़ रहे हैं, कार्य प्रवाह को ट्रिगर कर रहे हैं, डेटाबेस क्वेरी कर रहे हैं, और कुछ मामलों में उनके नीचे अन्य एजेंटों का प्रबंधन कर रहे हैं। उस स्तर की पहुंच के लिए पहले एक लंबी खरीद प्रक्रिया और मानव हस्तक्षेप की आवश्यकता होती थी। अब यह एक कॉन्फ़िग फ़ाइल और कुछ एपीआई कॉल है।

अधिक पहुंच का अर्थ अधिक एक्सपोजर है

पारंपरिक सॉफ्टवेयर हमलों में एक कुछ हद तक भविष्यवाणी योग्य प्रोफ़ाइल होती है। एक ज्ञात प्रवेश बिंदु है, एक ज्ञात दोष है, एक ज्ञात पैच है। एआई एजेंट्स इस मॉडल को तोड़ते हैं क्योंकि वे डिज़ाइन द्वारा गतिशील हैं। वे एक स्थिर कोड पथ का पालन नहीं करते हैं। वे अगले क्या करना है इसके बारे में तर्क करते हैं, जिसका अर्थ है कि उनका व्यवहार भविष्यवाणी करना मुश्किल है और事実 के बाद इसका ऑडिट करना और भी मुश्किल है।

यह अनुमानितता काम पूरा करने में उपयोगी है। यह भी किसी को प्रणाली का शोषण करने के लिए एक लाभ है। जब एक एजेंट मध्य-कार्य में एक बाहरी एपीआई को कॉल करने या एक तीसरे पक्ष के उपकरण को खींचने का फैसला कर सकता है, तो कोई साफ़ परिधि नहीं है जिसका बचाव किया जा सके।

सुरक्षा टीमें ज्ञात सतहों की रक्षा करने और क्यूबेरनेट्स लागत की निगरानी के अभ्यस्त हैं। एजेंट नए सतहों और शोषण की खोज करते रहते हैं, और कोई उन्हें वास्तविक समय में मैप नहीं कर रहा है। इससे पहले कि आप यह जानें, कोई आपके पूरे एआई “जीव” पर नियंत्रण प्राप्त करने के लिए प्रमाण-पत्र का अपहरण कर सकता है एक ही चाल से।

प्रॉम्प्ट इंजेक्शन है नया एसक्यूएल इंजेक्शन

यदि एक हमला वेक्टर है जिस पर सुरक्षा शोधकर्ता बार-बार वापस आते हैं, तो यह प्रॉम्प्ट इंजेक्शन है। विचार सीधा है: एक दोष का फायदा उठाने के बजाय, एक हमलावर एजेंट को दिए जाने वाले निर्देशों को हेरफेर करता है। एक दुर्भाग्यपूर्ण निर्देश एक वेबपेज, एक दस्तावेज़, या यहां तक कि एक ईमेल में एम्बेड किया जा सकता है जो एजेंट द्वारा अगले क्या करने का निर्देश देता है।

जो इसे विशेष रूप से तेज बनाता है वह यह है कि एजेंट अक्सर सटीक रूप से वही कर रहे हैं जो उन्हें बताया जाता है। वे वेब, उपयोगकर्ता संदेशों, तीसरे पक्ष के उपकरणों से सामग्री संसाधित कर रहे हैं। उस सामग्री में से कोई भी एक संभावित इंजेक्शन सतह है। एक एजेंट जो एक समझौता किए गए दस्तावेज़ को पढ़ता है और फिर इसकी सामग्री के आधार पर एपीआई कॉल करता है, उसे अपहरण कर लिया गया है, और यह शायद ही कुछ भी लॉग करेगा जो कारण की श्रृंखला को स्पष्ट बनाता है।

यहाँ के बचाव वास्तविक हैं लेकिन अधूरे हैं। एजेंट कार्यों को सैंडबॉक्स करना, कुछ संदर्भों में एजेंट द्वारा बुलाए जा सकने वाले उपकरणों को प्रतिबंधित करना, और उच्च-जोखिम वाले कार्य प्रवाह में मानव जांच बिंदु बनाना जोखिम को कम करता है। वे इसे समाप्त नहीं करते हैं। और अधिकांश संगठनों ने अभी तक भी मूल बातें लागू नहीं की हैं।

मल्टी-एजेंट सिस्टम के अंदर विश्वास समस्या

मल्टी-एजेंट सिस्टम एक जटिलता की परत पेश करते हैं जिसका अनुमान लगाना आसान है। जब एक एजेंट अन्य एजेंटों को समन्वयित कर रहा होता है, तो एक विश्वास पदानुक्रम खेल में होता है। समन्वयक निर्देश नीचे पारित करता है, और उप-एजेंट उनका पालन करते हैं। यदि उस समन्वयक को समझौता किया जाता है, तो इसके नीचे हर एजेंट भी प्रभावी रूप से समझौता किया जाता है, और विस्फोट की तीव्रता तेजी से बड़ी हो जाती है।

अतिरिक्त अनुमति देने का भी मुद्दा है। एजेंटों को अक्सर अधिक पहुंच दी जाती है जितनी उन्हें चाहिए क्योंकि यह आगे बढ़ने से पहले व्यापक अनुमतियां देना आसान है। एक शोध एजेंट को उत्पादन डेटाबेस में लिखने की अनुमति की आवश्यकता नहीं है।

एक अनुसूची एजेंट को वित्तीय रिकॉर्ड तक पहुंच की आवश्यकता नहीं है। हाँ, यह सब कुछ एक साथ जोड़े रखना सुकून देता है, लेकिन यह जोखिम के लिए बहुत जोखिम भरा है और यह देखने के लिए कि क्या कोई गैर-घटती वापसी मिल रही है। लेकिन व्यवहार में रेखाएं धुंधली हो जाती हैं, और सिद्धांत में न्यूनतम-अनुमति सिद्धांत जो अच्छा काम करते हैं उन्हें चुपचाप छोड़ दिया जाता है जब यह जल्दी से जहाज पर चढ़ने की बात आती है।

यहाँ क्या उचित सुरक्षा दिखती है

एजेंट तैनाती को सुरक्षित बनाने के लिए कोई एक समाधान नहीं है। यह एक परतदार समस्या है और इसके लिए एक परतदार प्रतिक्रिया की आवश्यकता है। जो संगठन इसे अच्छी तरह से कर रहे हैं वे आमतौर पर पहुंच नियंत्रण से शुरू करते हैं: हर एजेंट को एक परिभाषित, संकीर्ण दायरा दें और किसी भी कार्रवाई में समीक्षा कदम बनाएं जो संवेदनशील सिस्टम या बाहरी सेवाओं को छूती है।

पर्यवेक्षणीयता उतनी ही महत्वपूर्ण है जितनी कि रोकथाम। यदि एक एजेंट कुछ अप्रत्याशित करता है, तो टीमों को प्राप्त निर्देशों का पूरा निशान चाहिए, जिन उपकरणों को उन्होंने बुलाया था, और उन्होंने क्या लौटाया। अधिकांश लॉगिंग सेटअप इस तरह की विस्तार से ध्यान में नहीं रखे जाते हैं, और इसे बाद में रेट्रोफिट करना दर्दनाक है। इसे शुरू से ही बनाना घर्षण के लायक है।

विरोधी परीक्षण भी कम उपयोग किया जाता है। एजेंटों को लाल-टीमिंग, विशेष रूप से दुर्भाग्यपूर्ण निर्देशों को इंजेक्ट करने का प्रयास करना और देखना कि क्या होता है, कमजोरियों को उजागर करता है जो स्थिर कोड समीक्षा कभी नहीं पकड़ेगा। यह असहज है इसे सोचने के लिए, लेकिन जो लोग अंततः इन प्रणालियों का शोषण करने का प्रयास करेंगे वे पहले से ही ऐसा कर रहे हैं। पहले वहां पहुंचना एकमात्र समझदार कदम है।

अंतिम विचार

एआई एजेंट संगठनों के संचालन का एक बड़ा हिस्सा बनने जा रहे हैं, और यह परिवर्तन पहले से ही अच्छी तरह से चल रहा है। सुरक्षा वार्ता को पकड़ने की जरूरत है, और तेजी। जोखिम वास्तविक हैं, हमला वेक्टर नए हैं, और उनसे आगे निकलने के लिए खिड़की संकरी हो रही है।

स्वायत्त एआई प्रणालियों के लिए खतरे का परिदृश्य समझना अब वैकल्पिक नहीं है। यह सुरक्षा और इंजीनियरिंग टीमों के लिए अभी करने के लिए सबसे महत्वपूर्ण चीजों में से एक है, और इसे सही तरीके से प्राप्त करने के लिए घड़ी पहले से ही शुरू हो गई है।