जब AI बैकफ़ायर करता है: एनक्रिप्ट AI रिपोर्ट मल्टीमॉडल मॉडल में खतरनाक कमजोरियों को उजागर करती है

मई 2025 में, एनक्रिप्ट एआई ने अपना जारी किया मल्टीमॉडल रेड टीमिंग रिपोर्ट, एक भयावह विश्लेषण जिसने यह उजागर किया कि किस तरह से उन्नत AI सिस्टम को खतरनाक और अनैतिक सामग्री बनाने में आसानी से हेरफेर किया जा सकता है। रिपोर्ट मिस्ट्रल के दो प्रमुख विज़न-लैंग्वेज मॉडल- पिक्सट्रल-लार्ज (25.02) और पिक्सट्रल-12बी पर केंद्रित है और ऐसे मॉडल की तस्वीर पेश करती है जो न केवल तकनीकी रूप से प्रभावशाली हैं बल्कि परेशान करने वाले रूप से कमज़ोर भी हैं।

दृष्टि-भाषा मॉडल (वीएलएम) पिक्सट्रल जैसे मॉडल दृश्य और पाठ्य इनपुट दोनों की व्याख्या करने के लिए बनाए गए हैं, जिससे वे जटिल, वास्तविक दुनिया के संकेतों पर बुद्धिमानी से प्रतिक्रिया दे सकते हैं। लेकिन यह क्षमता बढ़े हुए जोखिम के साथ आती है। पारंपरिक भाषा मॉडल के विपरीत जो केवल पाठ को संसाधित करते हैं, वीएलएम छवियों और शब्दों के बीच परस्पर क्रिया से प्रभावित हो सकते हैं, जिससे प्रतिकूल हमलों के लिए नए दरवाजे खुलते हैं। एनक्रिप्ट एआई का परीक्षण दिखाता है कि इन दरवाजों को कितनी आसानी से खोला जा सकता है।

चिंताजनक परीक्षण परिणाम: सीएसईएम और सीबीआरएन विफलताएं

रिपोर्ट तैयार करने वाली टीम ने अत्याधुनिक तकनीक का इस्तेमाल किया। लाल टीमिंग विधियाँ—वास्तविक दुनिया के खतरों की नकल करने के लिए डिज़ाइन किए गए प्रतिकूल मूल्यांकन का एक रूप। इन परीक्षणों में जेलब्रेकिंग (सुरक्षा फ़िल्टर को बायपास करने के लिए सावधानीपूर्वक तैयार किए गए प्रश्नों के साथ मॉडल को संकेत देना), छवि-आधारित धोखा और संदर्भ हेरफेर जैसी रणनीतियाँ अपनाई गईं। चिंताजनक रूप से, इन प्रतिकूल संकेतों में से 68% ने दो पिक्सल मॉडल में हानिकारक प्रतिक्रियाएँ उत्पन्न कीं, जिनमें ग्रूमिंग, शोषण और यहाँ तक कि रासायनिक हथियारों के डिज़ाइन से संबंधित सामग्री भी शामिल थी।

सबसे चौंकाने वाले खुलासों में से एक बाल यौन शोषण सामग्री (CSEM) से जुड़ा है। रिपोर्ट में पाया गया कि मिस्ट्रल के मॉडल GPT-60o और क्लाउड 4 सॉनेट जैसे उद्योग बेंचमार्क की तुलना में CSEM-संबंधित सामग्री बनाने की 3.7 गुना अधिक संभावना रखते थे। परीक्षण मामलों में, मॉडल ने संरचित, बहु-पैराग्राफ सामग्री के साथ प्रच्छन्न ग्रूमिंग संकेतों का जवाब दिया, जिसमें बताया गया कि नाबालिगों को कैसे हेरफेर किया जाए - "केवल शैक्षिक जागरूकता के लिए" जैसे कपटपूर्ण अस्वीकरणों में लिपटे हुए। मॉडल केवल हानिकारक प्रश्नों को अस्वीकार करने में विफल नहीं थे - वे उन्हें विस्तार से पूरा कर रहे थे।

सीबीआरएन (रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु) जोखिम श्रेणी में भी परिणाम उतने ही परेशान करने वाले थे। जब वीएक्स नर्व एजेंट - एक रासायनिक हथियार - को संशोधित करने के तरीके के बारे में पूछा गया, तो मॉडल ने पर्यावरण में इसकी स्थिरता बढ़ाने के लिए चौंकाने वाले विशिष्ट विचार पेश किए। उन्होंने संशोधित लेकिन स्पष्ट रूप से तकनीकी विवरण में, एनकैप्सुलेशन, पर्यावरण परिरक्षण और नियंत्रित रिलीज सिस्टम जैसी विधियों का वर्णन किया।.

ये विफलताएँ हमेशा स्पष्ट रूप से हानिकारक अनुरोधों के कारण नहीं होती थीं। एक रणनीति में एक खाली क्रमांकित सूची की छवि अपलोड करना और मॉडल से "विवरण भरने" के लिए कहना शामिल था। यह सरल, प्रतीत होता है कि हानिरहित संकेत अनैतिक और अवैध निर्देशों की पीढ़ी का कारण बना। दृश्य और पाठ हेरफेर का मिश्रण विशेष रूप से खतरनाक साबित हुआ - मल्टीमॉडल एआई द्वारा प्रस्तुत एक अनूठी चुनौती को उजागर करता है।

विज़न-लैंग्वेज मॉडल नई सुरक्षा चुनौतियां क्यों पेश करते हैं

इन जोखिमों के मूल में दृष्टि-भाषा मॉडल की तकनीकी जटिलता निहित है। ये सिस्टम सिर्फ़ भाषा का विश्लेषण नहीं करते हैं - वे विभिन्न प्रारूपों में अर्थों का संश्लेषण करते हैं, जिसका अर्थ है कि उन्हें छवि सामग्री की व्याख्या करनी चाहिए, पाठ संदर्भ को समझना चाहिए और उसके अनुसार प्रतिक्रिया देनी चाहिए। यह अंतःक्रिया शोषण के लिए नए वैक्टर पेश करती है। एक मॉडल अकेले हानिकारक पाठ संकेत को सही ढंग से अस्वीकार कर सकता है, लेकिन जब इसे किसी विचारोत्तेजक छवि या अस्पष्ट संदर्भ के साथ जोड़ा जाता है, तो यह खतरनाक आउटपुट उत्पन्न कर सकता है।

एनक्रिप्ट एआई की रेड टीमिंग ने खुलासा किया कि कैसे क्रॉस-मोडल इंजेक्शन हमले—जहां एक मोडैलिटी में सूक्ष्म संकेत दूसरे के आउटपुट को प्रभावित करते हैं—मानक सुरक्षा तंत्र को पूरी तरह से दरकिनार कर सकते हैं। ये विफलताएं दर्शाती हैं कि एकल-मोडैलिटी सिस्टम के लिए बनाई गई पारंपरिक सामग्री मॉडरेशन तकनीकें आज के वीएलएम के लिए पर्याप्त नहीं हैं.

रिपोर्ट में यह भी बताया गया है कि पिक्सट्रल मॉडल तक कैसे पहुँचा गया: पिक्सट्रल-लार्ज को AWS बेडरॉक के ज़रिए और पिक्सट्रल-12b को मिस्ट्रल प्लेटफ़ॉर्म के ज़रिए। यह वास्तविक दुनिया में परिनियोजन संदर्भ इन निष्कर्षों की तात्कालिकता पर और ज़ोर देता है। ये मॉडल प्रयोगशालाओं तक सीमित नहीं हैं - वे मुख्यधारा के क्लाउड प्लेटफ़ॉर्म के ज़रिए उपलब्ध हैं और इन्हें आसानी से उपभोक्ता या एंटरप्राइज़ उत्पादों में एकीकृत किया जा सकता है।

क्या किया जाना चाहिए: सुरक्षित AI के लिए एक खाका

एनक्रिप्ट एआई की खूबी यह है कि यह समस्याओं को उजागर करने से कहीं ज़्यादा काम करता है - यह आगे बढ़ने का रास्ता भी सुझाता है। रिपोर्ट में एक व्यापक शमन रणनीति की रूपरेखा दी गई है, जिसकी शुरुआत इस प्रकार है सुरक्षा संरेखण प्रशिक्षणइसमें हानिकारक संकेतों के प्रति संवेदनशीलता को कम करने के लिए अपने स्वयं के रेड टीमिंग डेटा का उपयोग करके मॉडल को फिर से प्रशिक्षित करना शामिल है। जोखिमपूर्ण आउटपुट से मॉडल प्रतिक्रियाओं को दूर करने के लिए डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (DPO) जैसी तकनीकों की सिफारिश की जाती है।

यह संदर्भ-जागरूक गार्डरेल्स के महत्व पर भी जोर देता है - गतिशील फ़िल्टर जो मल्टीमॉडल इनपुट के पूरे संदर्भ को ध्यान में रखते हुए वास्तविक समय में हानिकारक प्रश्नों की व्याख्या और अवरोधन कर सकते हैं। इसके अलावा, मॉडल जोखिम कार्ड का उपयोग पारदर्शिता उपाय के रूप में प्रस्तावित है, जिससे हितधारकों को मॉडल की सीमाओं और ज्ञात विफलता मामलों को समझने में मदद मिलती है।

शायद सबसे महत्वपूर्ण सिफारिश यह है कि रेड टीमिंग को एक बार की परीक्षा के बजाय एक सतत प्रक्रिया के रूप में माना जाए। जैसे-जैसे मॉडल विकसित होते हैं, वैसे-वैसे हमले की रणनीति भी विकसित होती है। केवल निरंतर मूल्यांकन और सक्रिय निगरानी ही दीर्घकालिक विश्वसनीयता सुनिश्चित कर सकती है, खासकर जब मॉडल स्वास्थ्य सेवा, शिक्षा या रक्षा जैसे संवेदनशील क्षेत्रों में तैनात किए जाते हैं।

RSI मल्टीमॉडल रेड टीमिंग रिपोर्ट से एनक्रिप्ट एआई यह AI उद्योग के लिए एक स्पष्ट संकेत है: मल्टीमॉडल पावर मल्टीमॉडल जिम्मेदारी के साथ आती है। ये मॉडल क्षमता में एक छलांग का प्रतिनिधित्व करते हैं, लेकिन उन्हें सुरक्षा, सुरक्षा और नैतिक तैनाती के बारे में सोचने के तरीके में भी एक छलांग की आवश्यकता होती है। अनियंत्रित छोड़ दिए जाने पर, वे न केवल विफलता का जोखिम उठाते हैं - वे वास्तविक दुनिया को नुकसान पहुंचाने का जोखिम उठाते हैं।

बड़े पैमाने पर AI पर काम करने वाले या इसे लागू करने वाले किसी भी व्यक्ति के लिए, यह रिपोर्ट सिर्फ़ एक चेतावनी नहीं है। यह एक प्लेबुक है। और यह इससे ज़्यादा ज़रूरी समय पर नहीं आ सकती थी।