जब एआई हमले की सतह बन जाता है: स्किल्स मार्केटप्लेस में उभरते हुए आपूर्ति श्रृंखला जोखिम

प्रत्येक प्रमुख सॉफ्टवेयर क्रांति एक नई आपूर्ति श्रृंखला और हमले की सतह पेश करती है। जैसे कि ओपन सोर्स युग ने पैकेज रजिस्ट्री जैसे npm और PyPI के माध्यम से आपूर्ति श्रृंखला जोखिम पेश किए, एआई एजेंट अब एक बदलाव का बिंदु चिह्नित करते हैं। ये एजेंट, जो डेवलपर वर्कफ्लो में सक्रिय हैं, उद्यम संचालन में और ओपनक्लॉ, क्लाउड कोड और कर्सर जैसे प्लेटफ़ॉर्म पर उपभोक्ता अनुप्रयोगों में, अपने एक्सटेंशन के माध्यम से स्थापित करने योग्य “कौशल” के माध्यम से शक्ति प्राप्त करते हैं – एक क्षमता जिसके लिए सुरक्षा के प्रति एक समान रूप से कठोर दृष्टिकोण की आवश्यकता होती है।

एजेंट कौशल क्षमता पैकेज हैं: छोटे निर्देश और स्क्रिप्ट के बंडल जो एआई एजेंटों को टूल, बाहरी एपीआई और स्थानीय फ़ाइल सिस्टम तक पहुंच प्रदान करते हैं। क्लॉहब जैसे सार्वजनिक प्लेटफ़ॉर्म पर वितरित, प्रवेश की बाधा बहुत कम है, न्यूनतम जांच या पर्यवेक्षण के साथ। मंडेटरी कोड साइनिंग, सुरक्षा समीक्षा और डिफ़ॉल्ट सैंडबॉक्सिंग जैसे प्रमुख सुरक्षा उपाय अनुपस्थित हैं। इसके परिणामस्वरूप एक आपूर्ति श्रृंखला बड़े पैमाने पर समझौता हो गई है: हाल के टॉक्सिकस्किल्स शोध में लगभग 4,000 कौशलों की स्कैनिंग की गई, जिसमें लगभग 1 में से 8 में कम से कम एक महत्वपूर्ण सुरक्षा दोष पाया गया, जिसमें मैलवेयर वितरण और प्रॉम्प्ट इंजेक्शन शामिल थे। जब किसी भी गंभीरता स्तर पर विस्तार किया जाता है, तो पूरे पारिस्थितिकी तंत्र का एक तिहाई से अधिक प्रभावित होता है। इस प्रकार, सुरक्षा नेताओं को इन कमजोरियों के खिलाफ सक्रिय रूप से कम करने के लिए तैयार रहना चाहिए।

एआई आपूर्ति श्रृंखला हमले का अनатомी

आपूर्ति श्रृंखला हमले पारंपरिक रूप से कोड का शोषण करते हैं जो दुर्भाग्यपूर्ण कार्यों को निर्भरता और सीआई वर्कफ्लो में इंजेक्ट करते हैं जो डेटा एक्सफिल्ट्रेशन, बैकडोर स्थापना या विशेषाधिकार वृद्धि जैसे कार्यों के लिए होते हैं। हालांकि, सुरक्षा उपकरण इन कोड पैटर्न का पता लगाने में प्रभावी हो गए हैं जो स्थिर विश्लेषण और व्यवहार निगरानी का उपयोग करते हैं। एआई एजेंट कौशल एक अलग वेक्टर पेश करते हैं, क्योंकि उनका प्राथमिक पेलोड प्राकृतिक भाषा है, जो एसकिलएल.मद में निहित है – एक निर्देश सेट जिसे दुर्भाग्यपूर्ण अभिनेताओं ने हथियार बनाना सीखा है। टॉक्सिकस्किल्स शोध से पता चलता है कि 91% दुर्भाग्यपूर्ण कौशल पारंपरिक मैलवेयर को प्रॉम्प्ट इंजेक्शन के साथ जोड़ते हैं, जो एजेंट के रनटाइम तर्क को हेरफेर करने वाले छिपे हुए निर्देशों को एम्बेड करते हैं।

हमले का प्रवाह सरल है: एक डेवलपर एक उपयोगी कौशल स्थापित करता है, जिसमें एजेंट की सुरक्षा गार्डरेल को ओवरराइड करने के लिए डिज़ाइन किए गए एक छिपे हुए प्रॉम्प्ट इंजेक्शन शामिल है। एजेंट, जो वैध निर्देशों से अलग नहीं कर सकता है, साख प्राप्त करता है, फ़ाइलों को निकालता है या एक बैकडोर स्थापित करता है, जबकि सामान्य रूप से कार्य करने का दिखावा करता है।

यह चिंताजनक है क्योंकि डेवलपर्स की संख्या नियमित सुरक्षा जांच के बिना एजेंटों को चला रही है, एजेंटों को बिना गार्डरेल के पूर्ण स्वायत्तता दे रही है। इसके परिणामस्वरूप, सावधानी और मानव हस्तक्षेप को बहुत कम किया जाता है, जो हर प्रणाली के लिए अधिक जोखिम पेश करता है जिसे एजेंट ने कभी स्पर्श किया है।

“रिसाव” कौशल का छिपा हुआ खतरा

खतरा जानबूझकर दुर्भाग्यपूर्ण कौशल से परे फैला हुआ है, क्योंकि अनजाने में कमजोरियां अक्सर अधिक कठिन होती हैं और लोकप्रिय, विश्वसनीय कार्यात्मक कौशल में निहित होती हैं। सुरक्षा ऑडिट में प्रमुख कौशल बाजारों को दिखाया गया है कि व्यापक रूप से अपनाए गए कौशल अक्सर एआई एजेंटों को संवेदनशील डेटा को असुरक्षित रूप से संभालने के लिए मजबूर करते हैं। जोखिम भरा व्यवहार प्लेटेक्स्ट लॉग, असुरक्षित फ़ाइलों या सीधे मॉडल के संदर्भ विंडो में शामिल है, जहां वे अनजाने में तृतीय-पक्ष सेवाओं को प्रेषित किए जा सकते हैं।

यह अक्सर “वाइब कोडिंग” के युग में कौशलों को जल्दी से बनाने के कारण होता है बिना वास्तविक सुरक्षा मॉडल के। डेवलपर यह अनदेखा कर सकता है कि एक एकीकरण टोकन, एक बार एजेंट के संदर्भ में, प्रभावी रूप से खुला और नीचे की प्रणाली के लिए दिखाई दे रहा है। यह प्लेटफ़ॉर्म के पार व्यापक जोखिम पैदा करता है – व्यक्तिगत सहायक जैसे ओपनक्लॉ और कोडिंग एजेंट जैसे क्लाउड कोड, कर्सर और विंडसर्फ – जिन पर लाखों डेवलपर दैनिक रूप से निर्भर हैं। एक लोकप्रिय कौशल के शोषण या साख रिसाव से प्रभावित हो सकता है हर डेवलपर, कोडबेस और प्रणाली जिसे एजेंट ने एक्सेस किया था, इस प्रकार पूरी आपूर्ति श्रृंखला को जोखिम में डाल दिया। तेजी से नवाचार तेजी से दूषण की अनुमति देता है; और इन मामलों में, पैमाने पर सुरक्षा का संकेत नहीं है।

अंधा धब्बा: पारंपरिक सुरक्षा नियंत्रण क्यों विफल होते हैं

विरासत नियंत्रण जैसे मैलवेयर स्कैनर, स्थिर विश्लेषण और व्यवहार निगरानी के साथ संचालित सुरक्षा टीमें, एक मूल रूप से अलग खतरे के मॉडल का सामना कर रही हैं। पारंपरिक मैलवेयर पता लगाने के लिए कंक्रीट कोड शोषण की तलाश है, लेकिन यह प्राकृतिक भाषा निर्देशों के लिए दुर्भाग्यपूर्ण इरादे का विश्लेषण करने में सक्षम नहीं है। एसकिलएल.मद फ़ाइल में एक प्रॉम्प्ट इंजेक्शन एक पारंपरिक स्कैनर के लिए केवल दस्तावेज़ के रूप में दिखाई देता है; जब तक एजेंट अभिनय नहीं करता है तब तक कोई हस्ताक्षर नहीं है।

प्रॉम्प्ट इंजेक्शन एजेंट के तर्क को हेरफेर करते हैं, जिससे यह निर्देशों को फिर से व्याख्या करता है और सुरक्षा दिशानिर्देशों को ओवरराइड करने के लिए आगे बढ़ने के लिए मना करता है। जब नुकसान दिखाई देता है, एजेंट पहले ही अभिनय कर चुका होता है। इन खतरों की स्थायित्व भी चिंताजनक है: दुर्भाग्यपूर्ण कौशल एजेंट की दीर्घकालिक स्मृति को जहर दे सकते हैं, सत्रों के पार स्थायी संदर्भ को भ्रष्ट करते हैं। यह “स्लीपर एजेंट” परिदृश्य का अर्थ है कि एजेंट कौशल को हटाने के हफ्तों बाद भी दुर्भाग्यपूर्ण निर्देशों को निष्पादित करना जारी रख सकता है, एक स्थिति जिसे पारंपरिक घटना प्रतिक्रिया नहीं रोक सकती है। इस अंतर को बंद करने के लिए एक मूल रूप से अलग, एआई-मूल निगरानी की आवश्यकता होती है जो एजेंटिक प्रणालियों के लिए निर्मित होती है।

एजेंट कौशल पारिस्थितिकी तंत्र में खामियों का पता लगाना और संबोधन

यह नया खतरा प्रबंधनीय है, लेकिन कार्रवाई का खिड़की संकीर्ण है। एआई एजेंट अपनाने के पहले जमने से पहले, सुरक्षा नेताओं को चार मूल नियंत्रण स्थापित करने की आवश्यकता है: ऑडिट, प्रारंभिक पता लगाने, घूमने वाले प्रमाण पत्र और उचित एआई गार्डरेल।

1. ऑडिट और इन्वेंट्री: प्रत्येक एआई घटक की एक पूर्ण इन्वेंट्री स्थापित करें: मॉडल, तैनात एजेंट और सभी स्थापित कौशल। यह एक सॉफ्टवेयर बिल ऑफ मैटेरियल (एसबीओएम) की तरह सख्ती से इलाज किया जाना चाहिए ताकि अनधिकृत परिवर्तनों का पता लगाने के लिए एक बेसलाइन बनाई जा सके।
2. पता लगाना और हटाना: सक्रिय कौशलों को दुर्भाग्यपूर्ण पेलोड, प्रॉम्प्ट इंजेक्शन पैटर्न और संदिग्ध व्यवहार के लिए निरंतर स्कैन करें, जिसमें शेल कमांड निष्पादित करने या उपयोगकर्ता पर्यवेक्षण को बायपास करने के प्रयास शामिल हैं। बाजारों के तेजी से विकास को देखते हुए स्वचालित, निरंतर स्कैनिंग आवश्यक है।
3. प्रमाण पत्र घुमाएं और सुरक्षित करें: अनधिकृत कौशल द्वारा संभाले जाने वाले किसी भी प्रमाण पत्र (एपीआई कुंजी, टोकन) को संभावित रूप से समझौता किया गया मानें और तुरंत घुमाएं। एजेंटों को कम से कम विशेषाधिकार के सिद्धांत का पालन करना चाहिए, केवल वास्तव में आवश्यक प्रमाण पत्र और प्रणाली तक पहुंच प्राप्त करनी चाहिए, और उत्पादन वातावरण में कोई स्थायी पहुंच नहीं होनी चाहिए।
4. एआई गार्डरेल लागू करें: रनटाइम सुरक्षा नियंत्रण तैनात करें जो एजेंट के व्यवहार की निगरानी करते हैं और वास्तविक समय में खतरनाक क्रियाओं को ब्लॉक करते हैं और असामान्य पैटर्न जैसे कि अप्रत्याशित फ़ाइल एक्सेस को फ्लैग करते हैं। विशेष रूप से, एजेंट मेमोरी फ़ाइलों को अनधिकृत परिवर्तनों के लिए निगरानी की जानी चाहिए, क्योंकि मेमोरी जहर एक स्थायी और कठिन से पता लगाने वाला हमला वेक्टर है।

एजेंट कौशल पारिस्थितिकी तंत्र एक सॉफ्टवेयर आपूर्ति श्रृंखला है जिसे कठोर सुरक्षा पर्यवेक्षण की आवश्यकता है। जबकि ओपन सोर्स युग से सीखे गए सबक लागू होते हैं, दांव अब बहुत अधिक हैं, क्योंकि एआई एजेंट व्यापक अनुमतियों और अधिक स्वायत्तता के साथ काम करते हैं जो किसी भी पैकेज प्रबंधक ने कभी किया था। एक समझौता कौशल तेजी से प्रसारित हो सकता है, हजारों संगठनों में मूल प्रमाण पत्र और उत्पादन प्रणालियों तक पहुंच प्राप्त करता है, इसलिए सुरक्षा नेताओं के पास सक्रिय रूप से कार्य करने के लिए एक संकीर्ण खिड़की है।

एआई आपूर्ति श्रृंखला पहले से ही यहाँ है। सवाल यह है कि क्या एक संगठन की सुरक्षा मुद्रा इसके लिए तैयार है। जो संगठन इन्वेंट्री, कम से कम विशेषाधिकार को लागू करते हैं और रनटाइम गार्डरेल तैनात करते हैं, वे एआई के साथ सुरक्षित रूप से तेजी से आगे बढ़ेंगे; जबकि जो संगठन एक उच्च-प्रोफ़ाइल घटना के लिए इंतजार करते हैं जो मुद्दे को मजबूर करता है, वे पाएंगे कि उपचार की लागत रोकथाम की लागत से अधिक है।