एआई प्रदूषण खोज परिणाम जोखिम ‘पुनर्प्राप्ति पतन’

एआई सामग्री वेब को प्रदूषित करती है, एक नया हमला वेक्टर सांस्कृतिक सहमति के लिए लड़ाई में खुलता है।

एक कोरियाई खोज कंपनी द्वारा किए गए शोध का तर्क है कि जब एआई-जनित पृष्ठ खोज परिणामों में प्रवेश करते हैं, तो वे खोज और रैंकिंग पाइपलाइनों की स्थिरता को कमजोर करते हैं और उन प्रणालियों को कमजोर करते हैं – जैसे कि रिट्रीवल-ऑगमेंटेड जेनरेशन (आरएजी) – जो रैंकिंग पर निर्भर करती हैं ताकि यह तय किया जा सके कि कौन सी जानकारी सतह पर है और विश्वसनीय है, जिससे भ्रामक या असटीक सामग्री को अधिकारी माना जाने का जोखिम बढ़ जाता है।

शोधकर्ताओं द्वारा इस सिंड्रोम के लिए गढ़ा गया शब्द रिट्रीवल कोलैप्स है, जो ज्ञात खतरे से अलग है मॉडल कोलैप्स (जहां एआई अपने स्वयं के आउटपुट पर प्रशिक्षित होता है बिगड़ जाता है)।

एक रिट्रीवल कोलैप्स सीनारियो में, एआई-जनित सामग्री渐 dần खोज इंजन परिणामों पर हावी हो जाती है, जिससे यहां तक कि जब उत्तर सतही तौर पर सटीक रहते हैं, तो भी अंतर्निहित साक्ष्य आधार मानव स्रोतों से अलग हो जाता है। फिर भी, यह ‘रूटलेस’ डेटा खोज परिणामों में उच्च स्थान हासिल करने के लिए तैयार है*:

‘एआई-जनित पाठ के प्रसार के साथ, चुनौतियाँ अट्रिब्यूशन और प्री-ट्रेनिंग डेटा गुणवत्ता में तीव्र हो गई हैं। पारंपरिक कीवर्ड स्पैम के विपरीत, आधुनिक सिंथेटिक सामग्री सेमेंटिक रूप से सुसंगत है, जिससे यह रैंकिंग प्रणालियों में मिल जाती है और पाइपलाइनों के माध्यम से प्राधिकृत साक्ष्य के रूप में प्रसारित होती है।’

लेख में यह दावा किया गया है कि यह एक ‘संरचनात्मक रूप से भंगुर’ वातावरण बनाएगा, जिसमें रैंकिंग संकेत एआई-उत्पादित, एसईओ-अनुकूलित पृष्ठों को पसंद करते हैं, मानव-लिखित स्रोतों को समय के साथ एक गुप्त तरीके से विस्थापित करते हैं, अर्थात्, स्पष्ट गिरावट के बिना उत्तर की गुणवत्ता में:

‘वेब पर एआई-जनित सामग्री की वृद्धि खोज पुनर्प्राप्ति के लिए एक संरचनात्मक जोखिम प्रस्तुत करती है, क्योंकि खोज इंजन और रिट्रीवल-ऑगमेंटेड जेनरेशन (आरएजी) प्रणालियाँ बड़े भाषा मॉडल (एलएलएम) द्वारा उत्पादित साक्ष्य का अधिक सेवन करती हैं।’

‘हम इस पारिस्थितिकी-स्तर के विफलता मोड को रिट्रीवल कोलैप्स के रूप में वर्णित करते हैं, जो एक दो-चरणीय प्रक्रिया है जहां (1) एआई-जनित सामग्री खोज परिणामों पर हावी हो जाती है, स्रोत विविधता को कमजोर करती है, और (2) निम्न-गुणवत्ता वाली या विरोधी सामग्री पुनर्प्राप्ति पाइपलाइन में प्रवेश करती है।’

शोधकर्ताओं का तर्क है कि एक बार ‘प्रभुत्व’ चरण स्थापित हो जाने के बाद,同 एक ही पुनर्प्राप्ति पाइपलाइन विरोधी प्रदूषण के लिए अधिक संवेदनशील हो जाती है, क्योंकि विरोधी पृष्ठ समान अनुकूलन तंत्र का फायदा उठा सकते हैं और दृश्यता प्राप्त कर सकते हैं*:

‘रिट्रीवल कोलैप्स के ढांचे की स्थापना करके, यह कार्य यह समझने के लिए आधार बनाता है कि सिंथेटिक सामग्री जानकारी पुनर्प्राप्ति को कैसे बदल देती है। इन जोखिमों को कम करने के लिए, हम प्रासंगिकता, तथ्यात्मकता, और प्रोवेनेंस को संयुक्त रूप से अनुकूलित करने वाली रक्षात्मक रैंकिंग रणनीतियों की ओर बढ़ने का प्रस्ताव करते हैं।’

रिट्रीवल कोलैप्स वास्तव में मॉडल कोलैप्स को बढ़ा सकता है, क्योंकि यह ‘फोटोकॉपी प्रभाव’ के ऊपर दुर्भावनापूर्ण इरादे की एक परत जोड़ता है, जहां एआई बढ़ते रूप से एआई-जनित आउटपुट पर खिलाता है। वास्तविक समय के खोज परिणामों में ‘सत्य’ पर सार्वजनिक सहमति को प्रभावित करने के अलावा, असटीकताएं और हमले बाद में प्रशिक्षित एलएलएम में प्राधिकृत स्रोतों के रूप में स्थापित हो सकते हैं।

नई कार्य का शीर्षक रिट्रीवल कोलैप्स जब एआई वेब को प्रदूषित करता है है, और यह नेवर कॉर्पोरेशन के तीन शोधकर्ताओं से आता है।

विधि

एआई-जनित सामग्री के पुनर्प्राप्ति प्रणालियों के माध्यम से प्रसार का परीक्षण करने के लिए, शोधकर्ताओं ने एमएस मार्को डेटासेट और बेंचमार्क से 1000 प्रश्न/उत्तर जोड़े को यादृच्छिक रूप से नमूना लिया, जो खुले-डोमेन प्रश्नों के साथ मानव-मान्य संदर्भ उत्तरों की जोड़ी है। इन्हें पुनर्प्राप्ति को आधार बनाने और उत्पन्न प्रतिक्रियाओं की तथ्यात्मक शुद्धता का मूल्यांकन करने के लिए दोनों का उपयोग किया गया था।

परीक्षणों में प्रत्येक एमएस मार्को प्रश्न के लिए, शीर्ष-रैंकिंग एसईओ परिणामों के आधार पर गूगल खोज से दस वेब दस्तावेज़ पुनर्प्राप्त किए गए, जिससे 10,000 दस्तावेजों का एक पूल तैयार हुआ।

दस्तावेजों की तथ्यात्मक वैधता का मूल्यांकन एमएस मार्को मैदान के खिलाफ प्रत्येक की तुलना करके किया गया था, जीपीटी-5 मिनी को न्यायाधीश के रूप में उपयोग किया गया था।

सामग्री फार्म सिमुलेशन

सामग्री फार्म से जुड़ी सामान्य, गैर-विरोधी लेखों की गुणवत्ता स्तर को अनुकरण करने के लिए, लेखकों ने जीपीटी-5 नैनो ओपनएआई मॉडल का उपयोग करके वास्तव में नए सिंथेटिक लेख उत्पन्न करने के लिए किया, क्योंकि यह एआई का ‘सस्ता’ स्तर है जो सामग्री मिलों द्वारा उपयोग किया जाने की संभावना है। जीपीटी-5 मिनी, आउटपुट का मूल्यांकन करने के लिए उपयोग किया जाने वाला एक थोड़ा अधिक सक्षम मॉडल है।

इसके विपरीत, विरोधी पोस्ट (अर्थात, भ्रामक जानकारी फैलाने या गलत जानकारी वाली सामग्री) को अनुकरण करने के लिए, वास्तविक दुनिया के संदर्भों का उपयोग नहीं किया गया था। इसके बजाय, नमूनों के पहले ड्राफ्ट को एक पारंपरिक क्लिकबेट/एसईओ जनरेटर के साथ बनाया गया था, और फिर जीपीटी-5 नैनो को दिया गया था, जिसे कुछ तथ्यों को झूठे विकल्पों से बदलने का काम सौंपा गया था। जीपीटी-5 नैनो ने प्रायोगिक संदर्भ के लिए सेमेंटिक पुनर्मूल्यांकन भी किया।

एआई संतृप्ति को समय के साथ अनुकरण करने के लिए, एक 20-राउंड दूषण प्रक्रिया चलाई गई, जिसमें प्रति प्रश्न एक सिंथेटिक दस्तावेज़ जोड़ा गया था, जिससे मूल दस्तावेजों के एक निश्चित सेट में एआई हिस्सा 0% से 66.7% तक बढ़ गया।

एसईओ-शैली के पूल के लिए, जनरेटर को ‘एसईओ विशेषज्ञ के रूप में कार्य करने’ और मूल दस्तावेजों से उच्च-आईडीएफ कीवर्ड एकीकृत करने का प्रॉम्प्ट दिया गया था, जिससे पुनर्प्राप्ति की संभावना बढ़ जाती है।

विरोधी पूल के लिए, प्रॉम्प्ट को प्राकृतिक-ध्वनि वाली प्रोस को बनाए रखने और नामित संस्थाओं और संख्यात्मक विवरण को सूक्ष्म रूप से बदलने के लिए डिज़ाइन किया गया था, जिससे दस्तावेज़ तैयार हो जाते हैं जो सांख्यिकीय फिल्टर को झंडा नहीं दिखाते हैं, लेकिन वास्तव में तथ्यात्मक शुद्धता को कमजोर करते हैं।

मीट्रिक

प्रयोगों के लिए तीन मीट्रिक अपनाए गए: पूल दूषण दर (पीसीआर), जो यह निर्धारित करने के लिए कि कुल दस्तावेज़ पूल में कितना एआई-जनित था; एक्सपोज़र दूषण दर (ईसीआर), जो यह मापने के लिए कि शीर्ष दस खोज परिणामों में से कितने एआई स्रोतों से आए थे (जो यह दर्शाता है कि वास्तव में पुनर्प्राप्ति पाइपलाइन में क्या प्रवेश किया); और साइटेशन दूषण दर (सीसीआर), जो यह रिकॉर्ड करने के लिए कि अंतिम उत्तर में उद्धृत साक्ष्य में से कितना सिंथेटिक था।

व्यावहारिक प्रभाव की जांच के लिए, पुनर्प्राप्त स्रोतों की गुणवत्ता और अंतिम उत्तर की अखंडता दोनों का परीक्षण किया गया था। प्रिसिजन@10 (पी@10) ने यह पकड़ा कि शीर्ष दस परिणामों में से कितने वास्तव में सही थे जब एमएस मार्को मैदान के खिलाफ जांचा गया; और उत्तर सटीकता (एए) ने यह मापा कि क्या उत्पन्न प्रतिक्रिया उसी संदर्भ उत्तर से मेल खाती थी, जीपीटी-5 मिनी का उपयोग यह निर्धारित करने के लिए किया गया था कि अर्थ सुसंगत था या नहीं।

परीक्षण

शुरू में, लेखकों ने अपनी विधि का मूल पूल दस्तावेजों के खिलाफ परीक्षण किया, जो एसईआरपीएस से निकाले गए थे, अर्थात्, उन्हें सिंथेटिक डेटा के रूप में उपयोग किए जाने से पहले। वे ध्यान देते हैं कि उनके एलएलएम रैंकर ने ‘मजबूत पुनर्प्राप्ति गुणवत्ता’ हासिल की, बीएम25 रैंकर बेसलाइन को पार किया।

दो प्राथमिक परिदृश्य परीक्षणों में से पहला, प्रभुत्व और होमोजेनाइजेशन नामक, एसईओ-आकार वाले सिंथेटिक दस्तावेजों के खोज परिणामों पर प्रभाव की जांच के लिए था:

बाएं: दूषण वक्र बीएम25 और एलएलएम रैंकर के तहत परिदृश्य 1 के लिए दिखाते हैं कि पूल दूषण दर (पीसीआर) बढ़ रही है, जैसे कि एक्सपोज़र दूषण दर (ईसीआर) और साइटेशन दूषण दर (सीसीआर) अधिक तेजी से बढ़ रही है क्योंकि सिंथेटिक दस्तावेज़ शीर्ष परिणामों में भीड़ लगा रहे हैं, जबकि उत्तर सटीकता (एए) मोटे तौर पर स्थिर रहती है। दाएं: तालिका दोनों रैंकर के लिए गोल 0, 5, 10, और 20 में पीसीआर, ईसीआर, सीसीआर, और एए की समान प्रगति को संख्यात्मक रूप से प्रस्तुत करती है।

जैसे ही अधिक एआई-लिखित पृष्ठ परीक्षण वातावरण में जोड़े गए, वे शीर्ष खोज परिणामों पर हावी होने लगे, जो अपेक्षा से अधिक तेजी से था। जब एआई सामग्री सभी उपलब्ध दस्तावेजों का 50% हिस्सा बन गई, तो बीएम25 के शीर्ष दस परिणामों में से अधिक 68% एआई-जनित थे; और जब एआई सामग्री का हिस्सा 67% तक बढ़ गया, तो इसके शीर्ष परिणामों में से 80% एआई स्रोतों से आए थे।

एलएलएम-आधारित रैंकर ने इस दिशा में एक और मजबूत प्रवृत्ति दिखाई, जिसमें लगभग 76% इसके शीर्ष परिणाम एआई-लिखित पृष्ठों से आए थे, जब वे केवल आधे पूल का हिस्सा थे – और यह बीएम25 की तुलना में अधिक भारी रूप से उन पर निर्भर रहा, क्योंकि उनकी उपस्थिति बढ़ी। लेखक टिप्पणी करते हैं:

‘यह पैटर्न दिखाता है कि एसईओ-अनुकूलित सामग्री रैंकिंग संकेतों को असमान रूप से सक्रिय करती है, दोनों मॉडलों को सिंथेटिक-डॉमिनेटेड साक्ष्य की ओर तेजी से मोड़ती है।’

तथ्यात्मक स्थिरता और विविधता पतन के बीच तनाव के संबंध में, लेख में यह ध्यान दिया गया है कि उत्तर की सटीकता स्थिर रहती है, या यहां तक कि सुधारती भी है:

‘चूंकि एसईओ दस्तावेज़ उच्च गुणवत्ता वाले और विषय-संगत हैं, पुनर्प्राप्ति मापदंडों द्वारा मापी गई सटीकता स्वस्थ दिखाई देती है। हालांकि, लगभग सभी पुनर्प्राप्त साक्ष्य सिंथेटिक है, जो स्रोत विविधता में एक गंभीर पतन को इंगित करता है। ‘

‘यह विचलन, जो स्थिर सटीकता के बावजूद विविधता के पतन के रूप में चिह्नित है, एक संरचनात्मक रूप से भंगुर पुनर्प्राप्ति पाइपलाइन को प्रकट करता है: प्रणाली समग्र मेट्रिक्स द्वारा मापी गई स्वस्थ प्रदर्शन करती है, जबकि मानव-लिखित सामग्री में अपनी जमीन खो देती है।’

‘कुल मिलाकर, उच्च-गुणवत्ता वाली सिंथेटिक सामग्री न केवल पुनर्प्राप्ति पाइपलाइनों में सहजता से एकीकृत हो जाती है, बल्कि रैंकिंग संकेतों को भी दबा देती है, जिससे बीएम25 और एलएलएम रैंकर दोनों लगभग विशेष रूप से एआई-जनित साक्ष्य पर निर्भर करते हैं।’

दूसरा परिदृश्य प्रदूषण और प्रणाली भ्रष्टाचार नामक था, और रैंकर व्यवहार में एक उल्लेखनीय विचलन प्रकट हुआ, पहले परिदृश्य की तुलना में:

बाएं: परिदृश्य 2 के परिणाम दिखाते हैं कि जब जानबूझकर भ्रामक पृष्ठ जोड़े जाते हैं तो क्या होता है। जैसे ही अधिक पृष्ठ मिलाए जाते हैं, बीएम25 कुछ को अपने शीर्ष परिणामों में रखता है – हालांकि मध्य बिंदु पर लगभग एक चौथाई तक, और वास्तव में कोई भी अंतिम उत्तर में उपयोग नहीं किया जाता है। समग्र उत्तर गुणवत्ता थोड़ी गिर जाती है। दाएं: तालिका दोनों बीएम25 और एलएलएम-आधारित रैंकर के लिए同 एक ही पैटर्न को संख्यात्मक रूप से प्रस्तुत करती है, जो यह स्पष्ट करती है कि बीएम25 अपने शीर्ष परिणामों में कुछ भ्रामक पृष्ठों को अनुमति देता है, जबकि एलएलएम रैंकर उन्हें मोटे तौर पर फिल्टर आउट करता है।

एलएलएम-आधारित रैंकर ने इस प्रयोग में भ्रामक पृष्ठों को पहचानने और उन्हें फिल्टर करने में सक्षम साबित किया, अपने शीर्ष परिणामों में ऐसी सामग्री को शून्य के करीब रखा; लेकिन बीएम25 ने अपने शीर्ष दस परिणामों में विरोधी पृष्ठों के एक उल्लेखनीय हिस्से को प्रवेश करने दिया, जिसमें लगभग 19% से 24% कुछ परीक्षण चरणों में दिखाई दिए।

हालांकि एलएलएम रैंकर इस प्रयोग में अधिक प्रतिरोधी साबित हुआ, लेखकों का ध्यान दें कि एलएलएम-आधारित रैंकिंग प्रणालियां अधिक गणनात्मक रूप से मांग वाली होती हैं, जो बड़े पैमाने पर तैनाती को व्यावहारिक बना सकती हैं। हालांकि बीएम25 सरल और सस्ता है, व्यापक रूप से उपयोग की जाने वाली पुनर्प्राप्ति प्रणालियां जो इसका लाभ उठाती हैं, वे जैसा लगता है उससे अधिक हेरफेर की जा सकने वाली सामग्री के लिए खुली हो सकती हैं।

लेखकों ने इसे ‘एक महत्वपूर्ण संरचनात्मक जोखिम’ के रूप में वर्णित किया है।

स्पष्ट स्थिरता और अंतर्निहित क्षय के बीच विरोधाभास के संबंध में, लेखकों ने यह ध्यान दिया कि इस संदर्भ में उत्तर सटीकता (एए) अपेक्षाकृत स्थिर रहती है, जीपीटी-5 मिनी द्वारा साइटेशन भ्रष्टाचार को दबाने और वास्तव में अंतिम क्षण में भ्रामक सामग्री के खिलाफ एक तरह की आग की दीवार के रूप में कार्य करने के कारण।

हालांकि, इस परिदृश्य में उत्तर सटीकता पहले परिदृश्य की तुलना में लगातार कम थी:

‘जबकि परिदृश्य 1 में उत्तर सटीकता (एए) बनी रहती है या यहां तक कि सुधरती भी है (एलएलएम रैंकर के साथ 70% तक पहुंच जाती है) एसईओ सामग्री की उच्च गुणवत्ता के कारण, परिदृश्य 2 में उत्तर की गुणवत्ता में गिरावत दिखाई देती है […]’

‘यह पुष्टि करता है कि रैंकर की परवाह किए बिना, पुनर्प्राप्ति चरण में विरोधी प्रदूषण अंत-टू-एंड प्रदर्शन पर नकारात्मक प्रभाव डालता है, जिसमें कमजोर रिट्रीवर पर निर्भरता के साथ गिरावट सबसे गंभीर है।’

लेखकों का निष्कर्ष है कि पुनर्प्राप्ति चरण में पुनर्मूल्यांकन बहुत देर से हो चुका है, और ‘इंगेस्ट-स्टेज’ फिल्टर पर विचार किया जाना चाहिए, प्रस्तावित करते हुए कि ‘प्रोवेनेंस ग्राफ’ और ‘पर्प्लेक्सिटी फिल्टर’ का उपयोग किया जा सकता है।

वे इस बात पर जोर देते हैं कि मूल खतरा उच्च प्रवाह के साथ कम अट्रिब्यूशन घनत्व वाली सामग्री है, जो संतोषजनक प्रोवेनेंस श्रृंखला से वंचित है, और टिप्पणी करते हैं:

‘जैसे ही एजेंटिक एआई सामग्री को स्वतंत्र रूप से प्रकाशित करना शुरू करता है, रक्षा तंत्र को स्थिर पाठ विश्लेषण से व्यवहारात्मक फिंगरप्रिंटिंग में विकसित होना चाहिए, जो एजेंटों की पहचान और अलगाव करता है जो उच्च-एंट्रोपी, निम्न-तथ्यात्मकता धाराओं का सिस्टमेटिक रूप से उत्पादन करते हैं।’

निष्कर्ष

जानकारी प्रोवेनेंस के लिए नए या बेहतर तरीकों की स्थापना 2026 के लिए सबसे महत्वपूर्ण आवश्यकताओं में से एक हो सकती है। जटिल प्रमाणीकरण योजनाएं जैसे कि सी2पीए, जिन्हें प्रकाशकों से बुनियादी ढांचे में परिवर्तन और सार्वजनिक शिक्षा की आवश्यकता होती है कि वे क्या हैं और उन्हें कैसे और क्यों उपयोग करना है, असफल होने के लिए तैयार लगती हैं।

कुछ सरल की आवश्यकता है, और यह अभी तक नहीं मिला है। यह एक तात्कालिक मिशन है, क्योंकि यह वर्तमान युग 1822 में फोटोग्राफी के आविष्कार और द्वितीय विश्व युद्ध से पहले के दशकों में प्रचार के उदय के बाद से सार्वजनिक सहमति पर सत्य के लिए सबसे महत्वपूर्ण मोड़ हो सकता है।

* मेरा (आवश्यकतानुसार चयनात्मक) लेखकों के इनलाइन उद्धरणों को हाइपरलिंक में परिवर्तित करना।

पहली बार गुरुवार, 19 फरवरी, 2026 को प्रकाशित