एआई अनुप्रयोगों के लिए गार्डरेल्स को पुनः विचार करना

जैसे ही एआई अनुप्रयोग सरल चैटबॉट्स से आगे बढ़कर उपयोगकर्ता की ओर से कार्रवाई करने में सक्षम एजेंटिक प्रणालियों में विकसित होते हैं, जोखिमों में असीमित वृद्धि होती है। एजेंटिक अनुप्रयोग उपकरणों के माध्यम से कार्रवाई कर सकते हैं, और यह हमलावरों के लिए नए खतरे के वेक्टर खोलता है जो उन उपकरणों को बदलने के लिए उपयोगकर्ता अनुप्रयोगों और डेटा की स्थिति को बदलने के लिए हेरफेर कर सकते हैं।

पारंपरिक गार्डरेल्स और सुरक्षा मॉडल संकीर्ण, अच्छी तरह से परिभाषित खतरों के लिए डिज़ाइन किए गए थे, लेकिन वे आधुनिक हमले तकनीकों की विविधता और रचनात्मकता के खिलाफ स्केल करने में संघर्ष करते हैं। इस नए यथार्थ के लिए एक मॉडल परिवर्तन की आवश्यकता है: एआई को एआई की रक्षा के लिए लागू करना, अनुकूल और स्केलेबल सुरक्षा तंत्र को सक्षम करना जो आज के प्रतिद्वंद्वियों की चतुराई और अप्रत्याशितता के साथ मेल खाता है।

विस्तारित जोखिम को समझना

एआई सॉफ्टवेयर की हर परत में फैल रहा है – सीआरएम से लेकर कैलेंडर, ईमेल, वर्कफ्लो, ब्राउज़र और अधिक – हर जगह बुद्धिमत्ता को एम्बेड करना। जो शुरू में केवल बातचीत सहायक के रूप में शुरू हुआ था, अब स्वतंत्र एजेंटों में विकसित हो रहा है जो स्वतंत्र कार्रवाई कर सकते हैं।

एक उदाहरण ओपनएआई के उभरते “एजेंट” हैं, जो इंटरनेट ब्राउज़ कर सकते हैं या ऑनलाइन कार्यों को निष्पादित कर सकते हैं। ये क्षमताएं असीम उत्पादकता को अनलॉक करती हैं, लेकिन एक विशाल, अनचार्टेड हमले की सतह को भी उजागर करती हैं। जोखिम डेटा लीकेज से परे हैं और व्यवहारिक हेरफेर, मॉडल ईवेज़न और प्रॉम्प्ट इंजेक्शन हमलों को शामिल करते हैं – खतरे जो गतिशील रूप से विकसित होते हैं और मॉडल के तर्क को लक्षित करते हैं, न कि इसके बुनियादी ढांचे को।

उद्यमों के लिए, इसका अर्थ है कि सुरक्षा को एआई की तुलना में उतनी ही तेजी से विकसित करना होगा। प्रौद्योगिकी और सुरक्षा नेताओं के लिए चुनौती यह है कि वे नवाचार को धीमा किए बिना इसकी रक्षा कैसे करें, एक तनाव जो लंबे समय से सुरक्षा और एआई विकास टीमों के बीच मौजूद है।

पारंपरिक गार्डरेल्स कहां कम पड़ते हैं

अधिकांश वर्तमान एआई सुरक्षा उपकरण अभी भी स्थिर, संकीर्ण प्रशिक्षित मशीन लर्निंग मॉडल पर निर्भर करते हैं जो विशिष्ट प्रकार के हमलों को पहचानने के लिए डिज़ाइन किए गए हैं। प्रत्येक नई ईवेज़न या प्रॉम्प्ट-इंजेक्शन विधि के लिए अक्सर एक समर्पित मॉडल को पुनः प्रशिक्षित या पुनः तैनात करने की आवश्यकता होती है। यह प्रतिक्रियात्मक दृष्टिकोण यह मानता है कि दुर्भाग्यपूर्ण अभिनेता एक पूर्वानुमानित तरीके से व्यवहार करेंगे। हालांकि, सच्चाई यह है कि हमलावर अब स्वयं एआई का उपयोग करके अनुकूल, रचनात्मक और तेजी से आगे बढ़ने वाले खतरों का उत्पादन करते हैं जिन्हें पारंपरिक रक्षा प्रणाली नहीं देख सकती हैं।

यहां तक कि उन गार्डरेल्स जो राज्य-ऑफ-द-आर्ट के रूप में विज्ञापित होते हैं, उनकी सीमा और क्षमता में सीमित होते हैं, केवल उन परिदृश्यों में प्रभावी होते हैं जिनके लिए उन्हें प्रशिक्षित किया गया था। पुराने दृष्टिकोणों की आवश्यकता है कि प्रत्येक नए हमले के लिए एक अलग मॉडल को प्रशिक्षित किया जाए, जो एक भंगुर और अस्थिर दृष्टिकोण है क्योंकि संभावित शोषण तकनीकों की संख्या सैकड़ों में है।

इसके अलावा, एआई और सुरक्षा टीमों के बीच एक सांस्कृतिक विच्छेद बना रहता है। एआई डेवलपर अक्सर सुरक्षा को एक ब्लॉकर के रूप में देखते हैं – कुछ जो उनकी गति को धीमा करता है – जबकि सुरक्षा टीमें जिम्मेदार होती हैं यदि कुछ गलत हो जाता है। इस सहयोग की कमी ने कई संगठनों को डिज़ाइन द्वारा कमजोर बना दिया है। जो आवश्यक है वह रक्षा है जो एआई लाइफसाइकल में निर्बाध रूप से एकीकृत होती है, जो घर्षण के बिना पर्यवेक्षण प्रदान करती है।

स्क्रिप्ट को पलटना: एआई की रक्षा के लिए एआई का उपयोग करना

इन चुनौतियों का सामना करने के लिए, एक नया सुरक्षा दृष्टिकोण उभर रहा है: एआई जो दुर्भाग्यपूर्ण एआई को हमला करता है और आपके एआई की रक्षा करता है। स्थिर नियमों या हाथ से तैयार किए गए हस्ताक्षरों पर निर्भर रहने के बजाय, यह दृष्टिकोण बड़े भाषा मॉडल (एलएलएम) की उत्पादक और विश्लेषणात्मक शक्ति को हार्नेस करता है ताकि एआई प्रणालियों को प्रोब और सुरक्षित किया जा सके।

• एआई-चालित रेड टीमिंग: एलएलएम व्यापक श्रेणी के प्रतिद्वंद्वी व्यवहारों का अनुकरण कर सकते हैं, जिसमें मॉडल ईवेज़न, प्रॉम्प्ट इंजेक्शन और एजेंट दुरुपयोग शामिल हैं। अनुप्रयोगों का परीक्षण करने के लिए “अनियंत्रित” या “दुर्भाग्यपूर्ण” मॉडल को छोड़कर, संगठन हमलावरों द्वारा शोषण से पहले कमजोरियों की एक समृद्ध और अधिक वास्तविक समझ प्राप्त करते हैं।
• निरंतर, अनुकूल रक्षा:同 एक ही एआई प्रणाली को प्रत्येक हमले से सीखने और स्वचालित रूप से रक्षा को मजबूत करने के लिए प्रशिक्षित किया जा सकता है। सैकड़ों संकीर्ण दायरे वाले मॉडलों का प्रबंधन करने के बजाय, संगठन एक एकल, स्केलेबल रक्षा परत तैनात कर सकते हैं जो विविध खतरों को पहचानने और अनुकूलन करने में सक्षम है, जबकि स्थिर विलंबता और प्रदर्शन बनाए रखते हैं।

यह मैनुअल, समय-समय पर परीक्षण से लIVING गार्डरेल्स में एक मूलभूत परिवर्तन को चिह्नित करता है जो सिस्टम के साथ विकसित होती हैं जिनकी उन्हें रक्षा करनी है।

स्व-रक्षा पारिस्थितिकी तंत्र का निर्माण

एआई द्वारा एआई की रक्षा न केवल पता लगाने में सुधार करती है, बल्कि पूरे रक्षा मुद्रा को बदल देती है। जब ठीक से एकीकृत किया जाता है, तो ये प्रणाली:

• मल्टीपल हमले प्रकारों में सामान्यीकरण करके आसानी से सुरक्षा को स्केल कर सकती हैं।
• उत्पादन में नए खतरों का सामना करते हुए निरंतर सुधार कर सकती हैं।
• एआई और सुरक्षा टीमों के बीच की खाई को पुल कर सकती हैं, जो बिना नवाचार को बाधित किए पर्यवेक्षण को सक्षम बनाती हैं।
• जोखिम की जटिल सतहों में दृश्यता प्रदान कर सकती हैं जो एजेंटिक व्यवहार द्वारा पेश की जाती हैं, जहां एआई प्रणालियां डिजिटल वातावरण में स्वतंत्र रूप से कार्य करती हैं।

लक्ष्य ऐसी सुरक्षा प्रणाली बनाना है जो हमलावरों की तरह सोचती है, उनकी चालों का अनुमान लगाती है और उतनी ही तेजी से विकसित होती है जितनी वे करते हैं।

एक अनुकूल मानसिकता के लिए एक आह्वान

उद्योग एक मोड़ पर है। 2023-2024 के शुरुआती हYPE के बाद, कई उद्यम एआई पहल उत्पादन में मंदी के कारण ठप हो गईं। यह इसलिए नहीं था क्योंकि संभावना की कमी थी, लेकिन इसलिए कि बुनियादी ढांचे और सुरक्षा दृष्टिकोण एआई की तुलना में तेजी से नहीं रखा जा सका। जैसे ही एआई अब महत्वपूर्ण कार्य प्रवाह में एकीकृत होता है, असुरक्षित डिजाइन के परिणाम केवल बढ़ेंगे।

संगठनों को एक अनुकूल सुरक्षा मानसिकता अपनानी चाहिए, जहां एआई प्रणालियां निरंतर अन्य एआई प्रणालियों की निगरानी, परीक्षण और मजबूती करती हैं। इसका अर्थ है शुरू से ही बुद्धिमान गार्डरेल्स को एम्बेड करना, न कि बाद में उन्हें जोड़ना। यह मूर्खता है कि सॉफ्टवेयर जो स्वाभाविक रूप से एआई-आधारित नहीं है, और खतरनाक है कि एआई जो स्वाभाविक रूप से सुरक्षित नहीं है।

जीवित एआई गार्डरेल्स

एआई सॉफ्टवेयर का नया आधार है, और किसी भी आधार की तरह, इसकी ताकत इस बात पर निर्भर करती है कि यह तनाव को कितनी अच्छी तरह से सहन कर सकता है। स्थिर रक्षा पल को पूरा नहीं कर सकती। सुरक्षा का अगला युग स्व-शिक्षण प्रणालियों (एआई जो एआई की रक्षा करता है) का होगा जो खतरों की गति, रचनात्मकता और पैमाने से मेल खाता है जिसका उन्हें सामना करना पड़ता है। केवल एआई को सिखाकर ही हम भविष्य को सुरक्षित कर सकते हैं जो हमारी मदद कर रहा है।