एआई सुरक्षा टूटी हुई नहीं है, हम सिर्फ गलत चीजों की रक्षा कर रहे हैं

साइबर सुरक्षा उद्योग में एक पैटर्न है जब कोई नई तकनीक उभरती है, हम तुरंत इसके चारों ओर दीवारें बनाना शुरू कर देते हैं। हमने इसे क्लाउड के साथ किया, हमने इसे कंटेनर के साथ किया, और अब, हम एआई के साथ ऐसा कर रहे हैं, लेकिन इस बार हम जो दीवारें बना रहे हैं वे पूरी तरह से गलत स्थानों पर हैं।

आज किसी भी उद्यम सुरक्षा समीक्षा में प्रवेश करें, और आप同じ प्राथमिकताएं सुनेंगे: एआई मॉडल को सुरक्षित करना, प्रशिक्षण डेटा की रक्षा करना, आउटपुट को मान्य करना, और एआई-संचालित कोपायलट को तैनात करना। विक्रेता “एआई सुरक्षा” उपकरण बेचने के लिए दौड़ रहे हैं जो विशेष रूप से मॉडल-स्तरीय नियंत्रणों पर केंद्रित हैं, जैसे कि गार्डरेल, प्रॉम्प्ट-इंजेक्शन रक्षा, और मॉडल-मॉनिटरिंग प्लेटफ़ॉर्म।

लेकिन हमलावर आपके एआई एकीकरण का उपयोग हर चीज़ में पहुंचने के लिए कर रहे हैं।

वास्तविक हमला सतह जिसे कोई नहीं देख रहा है

एक पैटर्न जिसे हम लगातार उद्यम वातावरण में देखते हैं वह एक चिंताजनक कहानी बताता है जिसमें सुरक्षा टीमें अपने एआई विकास वातावरण को सुरक्षित करने में भारी निवेश कर रही हैं: मॉडल एक्सेस नियंत्रण, डेटा शासन ढांचे, एमएलओपीएस सुरक्षा टूलिंग। यह एक झूठी सुरक्षा प्रदान करता है कि उनका एआई “लॉक्ड डाउन” है।

लेकिन जब आप वास्तविक हमला सतह को मैप करते हैं, तो आप देखते हैं कि एआई चैटबॉट अक्सर दर्जनों सास प्लेटफ़ॉर्म के लिए ओएथ टोकन रखते हैं, एपीआई कुंजियों के साथ अत्यधिक क्लाउड अनुमतियां, और पहचान विश्वास संबंध जो एक साधारण प्रॉम्प्ट इंजेक्शन से उत्पादन बुनियादी ढांचे तक सीधे मार्ग बना सकते हैं। मॉडल स्वयं सुरक्षित हो सकते हैं, लेकिन वे जिस पारिस्थितिकी तंत्र में रहते हैं वह अक्सर व्यापक रूप से खुला होता है, और यह एक किनारे का मामला नहीं है।

उद्यम अब 130+ सास अनुप्रयोगों का औसत उपयोग करते हैं, जिसमें एआई एकीकरण पहचान प्रदाताओं, क्लाउड बुनियादी ढांचे, डेटाबेस, और व्यवसाय-critical प्रणालियों में फैला हुआ है। प्रत्येक एकीकरण एक संभावित हमला मार्ग है, और प्रत्येक एपीआई कनेक्शन एक विश्वास सीमा है जिसे हमलावर सक्रिय रूप से जांच रहे हैं।

समस्या यह नहीं है कि हमारे एआई सुरक्षा उपकरण टूटे हुए हैं। यह है कि हम व्यक्तिगत घटकों को सुरक्षित कर रहे हैं जबकि हमलावर उनके बीच संबंधों का फायदा उठा रहे हैं।

मॉडल-केंद्रित सुरक्षा बिंदु को क्यों याद करती है

एआई सुरक्षा के लिए वर्तमान दृष्टिकोण आधुनिक हमलों के काम करने के तरीके के मूलभूत गलतफहमी पर काम करता है। हम एआई को एक स्टैंडअलोन संपत्ति के रूप में मानते हैं जिसकी रक्षा की जानी चाहिए, जैसे कि हम एक डेटाबेस या वेब अनुप्रयोग को सुरक्षित करेंगे। लेकिन उत्पादन में एआई अलगाव में नहीं मौजूद है। यह पहचानों, अनुमतियों, एपीआई, और डेटा प्रवाह के जटिल ग्राफ में एक नोड है।

एक典型 उद्यम एआई तैनाती पर विचार करें। आपके पास एक एआई एजेंट है जो आपके गूगल वर्कस्पेस तक पहुंच रखता है। यह सेल्सफोर्स के माध्यम से एपीआई के माध्यम से जुड़ा हुआ है। यह स्लैक के माध्यम से सूचनाओं के लिए एकीकृत है। यह एएवीएस एस3 बकेट से डेटा खींचता है। यह ओक्टा या एज़्योर एडी के माध्यम से प्रमाणित है। यह सर्विसनाउ में कार्यों को ट्रिगर करता है।

पारंपरिक एआई सुरक्षा मॉडल पर केंद्रित है: इसकी सुरक्षा मुद्रा, प्रॉम्प्ट मान्यकरण, आउटपुट सुरक्षा। लेकिन हमलावर एकीकरण पर केंद्रित हैं: वे क्या प्राप्त कर सकते हैं जब वे सेवा खातों का समझौता करते हैं, जहां वे एपीआई मैनिपुलेशन के माध्यम से पिवोट कर सकते हैं, जो विश्वास सीमा वे शोषित एकीकरण के माध्यम से पार कर सकते हैं।

हमला एआई मॉडल के साथ शुरू या समाप्त नहीं होता है। मॉडल केवल प्रवेश बिंदु है।

हमला मार्ग उत्पाद सीमाओं का सम्मान नहीं करते हैं

यहीं पर अधिकांश संगठन अटक जाते हैं। उन्होंने सुरक्षा उपकरण तैनात किए हैं जो प्रत्येक एक डोमेन में दृश्यता प्रदान करते हैं। एक उपकरण क्लाउड अनुमतियों की निगरानी करता है। दूसरा सास कॉन्फ़िगरेशन को ट्रैक करता है। तीसरा पहचान शासन का प्रबंधन करता है। चौथा दोष प्रबंधन संभालता है।

प्रत्येक उपकरण आपको पज़ल का एक टुकड़ा दिखाता है। उनमें से कोई भी आपको टुकड़ों को कैसे जोड़ता है यह नहीं दिखाता है।

गार्टनर के अनुसार, संगठन अब 45+ सुरक्षा उपकरणों का औसत उपयोग करते हैं। फिर भी, इसके बावजूद, हमलावर इन डोमेन में मिसकॉन्फ़िगरेशन को श्रृंखला में जोड़कर सफल हो रहे हैं क्योंकि कोई एक उपकरण पूरे हमला मार्ग को नहीं देख सकता है।

एक हमलावर को आपके एआई मॉडल में एक महत्वपूर्ण दोष खोजने की आवश्यकता नहीं है। उन्हें केवल एक श्रृंखला खोजने की आवश्यकता है। शायद यह आपकी एआई सेवा से जुड़ा एक गलत कॉन्फ़िगर किया गया आईएएम भूमिका है, जिसमें एक एस3 बकेट तक अनुमतियां हैं, जिसमें एक सास अनुप्रयोग के लिए प्रमाणीकरण हैं जिसमें आपके उत्पादन वातावरण तक प्रशासक पहुंच है।

प्रत्येक व्यक्तिगत मिसकॉन्फ़िगरेशन आपके सुरक्षा उपकरणों में “मध्यम” या “निम्न” स्कोर कर सकता है। लेकिन श्रृंखला में जुड़े हुए? यह एक महत्वपूर्ण एक्सपोज़र है। और यह पूरी तरह से अदृश्य है यदि आप प्रत्येक सुरक्षा डोमेन को अलग से देख रहे हैं।

एक्सपोज़र प्रबंधन की आवश्यकता

यही कारण है कि बातचीत को “एआई सुरक्षा” से एआई-एकीकृत वातावरण के लिए निरंतर खतरा एक्सपोज़र प्रबंधन में बदलने की आवश्यकता है।

यह पर्याप्त नहीं है कि हम अपने एआई मॉडल सुरक्षित हैं या नहीं। सुरक्षा टीमों को यह समझने की आवश्यकता है कि एक हमलावर क्या वास्तव में पहुंच सकता है जब वे एक एआई सेवा खाते का समझौता करते हैं। उन्हें क्लाउड, सास, और पहचान प्रणालियों में मिसकॉन्फ़िगरेशन को श्रृंखला में जोड़कर देखने की आवश्यकता है। उन्हें यह जानने की आवश्यकता है कि एआई एकीकरण उनके हमला सतह को वास्तविक समय में कैसे बदल रहे हैं। और उन्हें वास्तविक हमला करने योग्य के आधार पर जोखिमों को प्राथमिकता देने की आवश्यकता है, न कि केवल गंभीरता स्कोर के आधार पर।

अधिकांश सुरक्षा कार्यक्रम अभी भी जोखिमों को अलगाव में प्राथमिकता देते हैं, सीवीएसएस स्कोर और अनुपालन चेकलिस्ट का उपयोग करते हैं जो पूरी तरह से यह अनदेखा करते हैं कि क्या एक दोष वास्तव में आपके विशिष्ट वातावरण में शोषित किया जा सकता है।

यह अंतर एआई प्रणालियों के साथ और भी अधिक प्रमुख है क्योंकि वे लगातार बदलती रहती हैं। नए एकीकरण सप्ताह में जोड़े जाते हैं। अनुमतियां विकसित होती हैं। एपीआई कनेक्शन बदलते हैं। पिछले महीने से आपकी हमला सतह आज आपकी हमला सतह नहीं है, लेकिन आपका सुरक्षा मूल्यांकन शायद है।

हमला मार्ग जागरूक सुरक्षा वास्तव में कैसा दिखता है

उत्पादन में एआई को सुरक्षित करने के लिए एक मूलभूत रूप से अलग दृष्टिकोण की आवश्यकता है, और यह चार मुख्य विचारों में बदलाव पर निर्भर करता है।

पहले, आपको सुरक्षा डोमेन में एकीकृत दृश्यता की आवश्यकता है। प्रत्येक सुरक्षा उपकरण को अपने सिलो में काम करने के लिए कहنا बंद करें। आपके क्लाउड सुरक्षा, पहचान शासन, सास प्रबंधन, और दोष स्कैनिंग उपकरण सभी हमला मार्ग पज़ल के टुकड़े रखते हैं। उन्हें वास्तविक समय में डेटा साझा करने की आवश्यकता है ताकि आप देख सकें कि मिसकॉन्फ़िगरेशन कैसे श्रृंखला में जुड़ते हैं।

दूसरा, निरंतर हमला मार्ग सिमुलेशन को अपनाएं। प्रवेश परीक्षण या लाल टीम अभ्यास के लिए प्रतीक्षा न करें ताकि आप शोषित मार्ग की खोज कर सकें। लगातार यह परीक्षण करें कि एक हमलावर आपके वातावरण में कैसे आगे बढ़ सकता है, सैद्धांतिक गंभीरता स्कोर पर निर्भर न होने के लिए वास्तविक शोषित क्षमता पर ध्यान केंद्रित करते हुए।

तीसरा, संदर्भ के आधार पर प्राथमिकता दें। एक गलत कॉन्फ़िगर किया गया एस3 बकेट महत्वपूर्ण नहीं है क्योंकि यह सार्वजनिक है। यह महत्वपूर्ण है यदि यह सार्वजनिक है और इसमें प्रमाणीकरण हैं और वे प्रमाणीकरण विशेषाधिकार प्राप्त पहुंच हैं और वे इंटरनेट-एक्सपोज़ड एसेट से पहुंच योग्य हैं। संदर्भ अधिक मायने रखता है niż कोई व्यक्तिगत स्कोर।

चौथा, पूर्व-निवारक उपाय की ओर बढ़ें। जब आपकी एसओसी टीम एक अलर्ट की जांच कर रही है, तो आपने पहले ही मूल्यवान प्रतिक्रिया समय खो दिया है। आधुनिक रक्षा के लिए शोषित मार्गों को बंद करने की क्षमता की आवश्यकता है जब वे हथियारबंद नहीं हैं, न कि एक घटना के बाद।

चेतावनी जिसे हम अनदेखा नहीं कर सकते

जैसे ही एआई पूरे उद्यम स्टैक में एम्बेडेड हो जाता है, हमला सतह सुरक्षा टीमों की तुलना में तेजी से बढ़ रही है जो इसे मैन्युअल रूप से तर्क दे सकती हैं। हम एआई एकीकरण को 10 गुना तेजी से जोड़ रहे हैं जितनी हम उन्हें सुरक्षित कर रहे हैं।

यदि आप एआई को अलगाव में सुरक्षित कर रहे हैं, मॉडल की रक्षा कर रहे हैं और यह पारिस्थितिकी तंत्र को नजरअंदाज कर रहे हैं जिसमें यह काम करता है, तो आप पहले से ही पीछे हैं। हमलावर उपकरणों में नहीं सोचते हैं, वे मार्गों में सोचते हैं। वे व्यक्तिगत दोषों का फायदा नहीं उठाते हैं। वे आपके पूरे वातावरण में मिसकॉन्फ़िगरेशन को श्रृंखला में जोड़ते हैं।

एआई को सफलतापूर्वक सुरक्षित करने वाले उद्यम वे नहीं होंगे जिनके पास सबसे अधिक एआई सुरक्षा उपकरण हैं। वे वे होंगे जो समझते हैं कि एआई सुरक्षा उनके पूरे हमला सतह पर एक्सपोज़र प्रबंधन से अलग नहीं है।

मॉडल सुरक्षा टेबल स्टेक्स है। जो मायने रखता है वह यह है कि जब हमलावर एक एआई एकीकरण का समझौता करते हैं तो वे क्या पहुंच सकते हैं। जब तक सुरक्षा टीमें यह जानने में सक्षम नहीं हो जाती कि वे निरंतर, वास्तविक समय में, अपने पूरे वातावरण में, वे एआई को सुरक्षित नहीं कर रहे हैं। वे सिर्फ उम्मीद कर रहे हैं कि वे जो दीवारें बना रहे हैं वे सही स्थानों पर हैं।