2025 में एआई सुरक्षा की स्थिति: सिस्को रिपोर्ट से मुख्य अंतर्दृष्टि

जैसे ही अधिक व्यवसाय एआई को अपना रहे हैं, इसके सुरक्षा जोखिमों को समझना पहले से कहीं अधिक महत्वपूर्ण हो गया है। एआई उद्योगों और कार्य प्रवाहों को फिर से आकार दे रहा है, लेकिन यह नए सुरक्षा चुनौतियाँ भी पेश करता है जिन्हें संगठनों को संबोधित करना होगा। एआई प्रणालियों की रक्षा करना विश्वास बनाए रखने, गोपनीयता की रक्षा करने और सुचारू व्यवसाय संचालन सुनिश्चित करने के लिए आवश्यक है। यह लेख सिस्को की हालिया “एआई सुरक्षा की स्थिति 2025” रिपोर्ट से मुख्य अंतर्दृष्टि का सारांश प्रदान करता है। यह आज एआई सुरक्षा की स्थिति का अवलोकन प्रदान करता है और कंपनियों को भविष्य के लिए क्या विचार करना चाहिए।

एआई के लिए बढ़ता सुरक्षा खतरा

यदि 2024 ने हमें कुछ सिखाया है, तो यह है कि एआई अपनाना अधिकांश संगठनों की तुलना में तेजी से हो रहा है जो इसे सुरक्षित कर सकते हैं। सिस्को की रिपोर्ट में कहा गया है कि लगभग 72% संगठन अब अपने व्यवसाय कार्यों में एआई का उपयोग करते हैं, लेकिन केवल 13% ही सुरक्षित रूप से इसकी क्षमता का अधिकतम उपयोग करने के लिए पूरी तरह से तैयार महसूस करते हैं। यह अंतर एआई को अपनाने और तैयारी के बीच मुख्य रूप से सुरक्षा चिंताओं द्वारा संचालित है। जो इस स्थिति को और भी चिंताजनक बनाता है वह यह है कि एआई नए प्रकार के खतरों को पेश करता है जिन्हें पारंपरिक साइबर सुरक्षा तरीके पूरी तरह से संभालने के लिए सुसज्जित नहीं हैं। पारंपरिक साइबर सुरक्षा के विपरीत, जो अक्सर स्थिर प्रणालियों की रक्षा करती है, एआई गतिशील और अनुकूली खतरों को पेश करता है जो कि预测 करना मुश्किल है। रिपोर्ट में कई उभरते खतरों पर प्रकाश डाला गया है जिनके बारे में संगठनों को पता होना चाहिए:

• बुनियादी ढांचा हमले: एआई बुनियादी ढांचा हमलावरों के लिए एक प्रमुख लक्ष्य बन गया है। एक उल्लेखनीय उदाहरण एनवीडिया के कंटेनर टूलकिट का समझौता है, जिसने हमलावरों को फ़ाइल सिस्टम तक पहुंच प्राप्त करने, दुर्भाग्यपूर्ण कोड चलाने और विशेषाधिकारों को बढ़ाने की अनुमति दी। इसी तरह, रे, एक ओपन-सोर्स एआई फ्रेमवर्क जीपीयू प्रबंधन के लिए, समझौता किया गया था एआई फ्रेमवर्क पर वास्तविक दुनिया के हमलों में से एक में। ये मामले दिखाते हैं कि एआई बुनियादी ढांचे में कमजोरियां कैसे कई उपयोगकर्ताओं और प्रणालियों को प्रभावित कर सकती हैं।
• आपूर्ति श्रृंखला जोखिम: एआई आपूर्ति श्रृंखला कमजोरियां एक और महत्वपूर्ण चिंता का विषय हैं। लगभग 60% संगठन खुले स्रोत एआई घटकों या पारिस्थितिकी तंत्र पर निर्भर करते हैं। यह जोखिम पैदा करता है क्योंकि हमलावर इन व्यापक रूप से उपयोग किए जाने वाले उपकरणों का समझौता कर सकते हैं। रिपोर्ट “स्लीपी पिकल” नामक एक तकनीक का उल्लेख करती है, जो वितरण के बाद भी एआई मॉडल के साथ छेड़छाड़ करने की अनुमति देती है। यह पता लगाना बेहद मुश्किल बना देता है।
• एआई-विशिष्ट हमले: नए हमले के तरीके तेजी से विकसित हो रहे हैं। प्रोम्प्ट इंजेक्शन, जेलब्रेकिंग और प्रशिक्षण डेटा निष्कर्षण जैसे तरीके हमलावरों को सुरक्षा नियंत्रणों को बायपास करने और प्रशिक्षण डेटासेट में निहित संवेदनशील जानकारी तक पहुंच प्राप्त करने की अनुमति देते हैं।

एआई प्रणालियों पर हमला करने वाले हमले वेक्टर

रिपोर्ट एआई प्रणालियों में कमजोरियों का फायदा उठाने के लिए दुर्भाग्यपूर्ण अभिनेताओं द्वारा उपयोग किए जाने वाले हमले वेक्टर के उदय पर प्रकाश डालती है। ये हमले डेटा संग्रह और मॉडल प्रशिक्षण से लेकर तैनाती और अनुमान तक एआई जीवन चक्र के विभिन्न चरणों में हो सकते हैं। अक्सर लक्ष्य एआई को अनियंत्रित तरीके से व्यवहार करने, निजी डेटा लीक करने या हानिकारक कार्य करने के लिए प्रेरित करना होता है।

हाल के वर्षों में, ये हमले के तरीके अधिक उन्नत और पता लगाने में मुश्किल हो गए हैं। रिपोर्ट कई प्रकार के हमले वेक्टर पर प्रकाश डालती है:

• जेलब्रेकिंग: यह तकनीक मॉडल के सुरक्षा उपायों को बायपास करने वाले दुर्भाग्यपूर्ण प्रोम्प्ट बनाने में शामिल है। एआई रक्षा में सुधार के बावजूद, सिस्को के शोध से पता चलता है कि यहां तक कि सरल जेलब्रेक भी उन्नत मॉडल जैसे कि डीपसीक आर 1 के खिलाफ प्रभावी रहते हैं।
• प्रत्यक्ष प्रोम्प्ट इंजेक्शन: अप्रत्यक्ष हमले में, यह हमला वेक्टर आइंडक्ट डेटा या एआई मॉडल द्वारा उपयोग किए जाने वाले संदर्भ को अप्रत्यक्ष रूप से हेरफेर करने में शामिल है। हमलावर दुर्भाग्यपूर्ण स्रोत सामग्री जैसे कि दुर्भाग्यपूर्ण पीडीएफ या वेब पेज प्रदान कर सकते हैं, जिससे एआई अनियंत्रित या हानिकारक आउटपुट उत्पन्न करता है। ये हमले विशेष रूप से खतरनाक हैं क्योंकि उन्हें एआई प्रणाली तक सीधे पहुंच की आवश्यकता नहीं है, जिससे हमलावर कई पारंपरिक रक्षाओं को बायपास कर सकते हैं।
• प्रशिक्षण डेटा निष्कर्षण और विषाक्तता: सिस्को के शोधकर्ताओं ने प्रदर्शित किया कि चैटबॉट्स को उनके प्रशिक्षण डेटा के टुकड़ों को पुन: उत्पन्न करने के लिए धोखा दिया जा सकता है। यह डेटा गोपनीयता, बौद्धिक संपदा और अनुपालन के बारे में गंभीर चिंताएं उठाता है। हमलावर प्रशिक्षण डेटा को दुर्भाग्यपूर्ण इनपुट को इंजेक्ट करके जहर भी सकते हैं। चौंकाने वाली बात यह है कि विषाक्तता बड़े डेटासेट जैसे लायोन -400 मिलियन या सोयो -700 मिलियन का केवल 0.01% भी मॉडल व्यवहार में बदलाव का कारण बन सकता है, और यह एक छोटे से बजट (लगभग 60 अमेरिकी डॉलर) के साथ किया जा सकता है, जिससे ये हमले कई दुर्भाग्यपूर्ण अभिनेताओं के लिए सुलभ हो जाते हैं।

रिपोर्ट उन्नत मॉडल जैसे डीपसीक आर 1 और लामा 2 के खिलाफ 100% सफलता दर के बारे में गंभीर चिंताएं उठाती है। यह महत्वपूर्ण सुरक्षा कमजोरियों और उनके उपयोग से जुड़े संभावित जोखिमों को उजागर करता है। इसके अलावा, रिपोर्ट मल्टीमॉडल एआई मॉडल को लक्षित करने के लिए विशेष रूप से डिज़ाइन किए गए नए खतरों जैसे वॉइस-आधारित जेलब्रेक के उदय की पहचान करती है।

सिस्को के एआई सुरक्षा शोध से निष्कर्ष

सिस्को की शोध टीम ने विभिन्न एआई सुरक्षा पहलुओं का मूल्यांकन किया है और कई प्रमुख निष्कर्ष प्रस्तुत किए हैं:

• अल्गोरिदमिक जेलब्रेकिंग: शोधकर्ताओं ने दिखाया कि शीर्ष एआई मॉडलों को स्वचालित रूप से धोखा दिया जा सकता है। ट्री ऑफ अटैक्स विद प्रूनिंग (टीएपी) नामक एक विधि का उपयोग करके, शोधकर्ताओं ने जीपीटी -4 और लामा 2 पर सुरक्षा उपायों को बायपास किया।
• फाइन-ट्यूनिंग में जोखिम: कई व्यवसाय मूल मॉडल को विशिष्ट डोमेन के लिए प्रासंगिकता में सुधार करने के लिए फाइन-ट्यून करते हैं। हालांकि, शोधकर्ताओं ने पाया कि फाइन-ट्यूनिंग आंतरिक सुरक्षा रेलिंग को कमजोर कर सकती है। फाइन-ट्यून किए गए संस्करण मूल मॉडल की तुलना में जेलब्रेकिंग के लिए तीन गुना अधिक कमजोर और हानिकारक सामग्री का उत्पादन करने की संभावना 22 गुना अधिक थी।
• प्रशिक्षण डेटा निष्कर्षण: सिस्को शोधकर्ताओं ने एक सरल विघटन विधि का उपयोग करके चैटबॉट्स को समाचार लेख टुकड़ों को पुन: उत्पन्न करने के लिए धोखा दिया, जिससे उन्हें सामग्री के स्रोत का पुनर्निर्माण करने में सक्षम बनाया गया। यह संवेदनशील या प्रोप्राइटरी डेटा के उजागर होने के जोखिम को उठाता है।
• डेटा विषाक्तता: सिस्को की टीम ने प्रदर्शित किया कि यह बड़े पैमाने पर वेब डेटासेट को विषाक्त करना कितना आसान और सस्ता है। लगभग 60 अमेरिकी डॉलर के लिए, शोधकर्ताओं ने लायोन -400 मिलियन या सोयो -700 मिलियन जैसे डेटासेट का 0.01% विषाक्त कर दिया। इसके अलावा, उन्होंने यह भी रेखांकित किया कि इस स्तर की विषाक्तता मॉडल व्यवहार में परिवर्तन का कारण बनने के लिए पर्याप्त है।

साइबर अपराध में एआई की भूमिका

एआई न केवल एक लक्ष्य है – यह साइबर अपराधियों के लिए एक उपकरण भी बन रहा है। रिपोर्ट में उल्लेख किया गया है कि स्वचालन और एआई-संचालित सोशल इंजीनियरिंग ने हमलों को अधिक प्रभावी और पता लगाने में मुश्किल बना दिया है। फ़िशिंग घोटालों से लेकर वॉइस क्लोनिंग तक, एआई अपराधियों को आकर्षक और व्यक्तिगत हमले बनाने में मदद करता है। रिपोर्ट साइबर अपराध में मदद के लिए डिज़ाइन किए गए दुर्भाग्यपूर्ण एआई टूल्स जैसे “डार्कजीपीटी” के उदय की भी पहचान करती है, जो फ़िशिंग ईमेल उत्पन्न करने या कमजोरियों का फायदा उठाने के लिए उपयोग किए जा सकते हैं। जो इन टूल्स को विशेष रूप से चिंताजनक बनाता है वह यह है कि वे सुलभ हैं। अब कम कौशल वाले अपराधी भी पारंपरिक रक्षाओं को बायपास करने वाले उच्च व्यक्तिगत हमले बना सकते हैं।

एआई को सुरक्षित करने के लिए सर्वोत्तम अभ्यास

एआई सुरक्षा की अस्थिर प्रकृति को देखते हुए, सिस्को संगठनों के लिए कई व्यावहारिक कदमों की सिफारिश करता है:

1. एआई जीवन चक्र में जोखिम प्रबंधन: यह महत्वपूर्ण है कि एआई जीवन चक्र के प्रत्येक चरण में जोखिमों की पहचान की जाए और कम किया जाए, डेटा स्रोत से लेकर मॉडल प्रशिक्षण और तैनाती और निगरानी तक। इसमें तृतीय-पक्ष घटकों को सुरक्षित करना, मजबूत रेलिंग लागू करना और पहुंच बिंदुओं पर नियंत्रण को सख्ती से नियंत्रित करना शामिल है।
2. स्थापित साइबर सुरक्षा प्रथाओं का उपयोग करें: जबकि एआई अद्वितीय है, पारंपरिक साइबर सुरक्षा सर्वोत्तम प्रथाएं अभी भी आवश्यक हैं। पहुंच नियंत्रण, अनुमति प्रबंधन और डेटा हानि रोकथाम जैसी तकनीकें महत्वपूर्ण भूमिका निभा सकती हैं।
3. कमजोर क्षेत्रों पर ध्यान केंद्रित करें: संगठनों को उन क्षेत्रों पर ध्यान केंद्रित करना चाहिए जो सबसे अधिक लक्षित होने की संभावना है, जैसे कि आपूर्ति श्रृंखला और तृतीय-पक्ष एआई अनुप्रयोग। जहां कमजोरियां हैं उन्हें समझकर, व्यवसाय अधिक लक्षित रक्षा तंत्र लागू कर सकते हैं।
4. कर्मचारियों को शिक्षित और प्रशिक्षित करें: जब एआई टूल व्यापक हो जाते हैं, तो जिम्मेदार एआई उपयोग और जोखिम जागरूकता पर उपयोगकर्ताओं को प्रशिक्षित करना महत्वपूर्ण है। एक जानकार कार्यबल आकस्मिक डेटा एक्सपोजर और दुरुपयोग को कम करने में मदद करता है।

आगे देखते हुए

एआई अपनाना जारी रहेगा, और इसके साथ, सुरक्षा जोखिम विकसित होंगे। दुनिया भर में सरकारें और संगठन एआई सुरक्षा की चुनौतियों को पहचान रहे हैं और एआई सुरक्षा के मार्गदर्शन के लिए नीतियों और विनियमों का निर्माण कर रहे हैं। जैसा कि सिस्को की रिपोर्ट में उल्लेख किया गया है, एआई सुरक्षा और प्रगति के बीच संतुलन एआई विकास और तैनाती के अगले युग को परिभाषित करेगा। जो संगठन नवाचार के साथ-साथ सुरक्षा को प्राथमिकता देते हैं, वे चुनौतियों से निपटने और उभरते अवसरों का लाभ उठाने के लिए सबसे अच्छी स्थिति में होंगे। संगठनों को एआई सुरक्षा पर ध्यान केंद्रित करने और जोखिमों को प्रबंधित करने के लिए एक संरचित दृष्टिकोण की आवश्यकता होगी, जिसमें नीतियों और विनियमों को लागू करना शामिल है जो एआई सुरक्षा को बढ़ावा देते हैं। इस प्रकार, एआई के लाभों को सुरक्षित और जिम्मेदार तरीके से प्राप्त करने के लिए एक संतुलित दृष्टिकोण आवश्यक है।