एआई-जनरेटेड भाषा वैज्ञानिक साहित्य को प्रदूषित करना शुरू कर रही है

फ्रांस और रूस के शोधकर्ताओं ने एक अध्ययन प्रकाशित किया है जिसमें यह दर्शाया गया है कि जीपीटी-3 जैसे एआई-ड्रIVEN प्रोबेबिलिस्टिक टेक्स्ट जनरेटर्स का उपयोग ‘पीड़ित भाषा’, गैर-मौजूद साहित्य के उद्धरण और अनधिकृत छवि पुन: उपयोग को वैज्ञानिक साहित्य के प्रकाशन के लिए पहले सम्मानित चैनलों में पेश करने के लिए किया जा रहा है।

संभवत: सबसे चिंताजनक बात यह है कि अध्ययन किए गए पत्रों में वैज्ञानिक रूप से असटीक या गैर-पुनरुत्पादक सामग्री भी शामिल है, जो उद्देश्य और प्रणालीगत अनुसंधान के फल के रूप में प्रस्तुत की जाती है, यह दर्शाती है कि जनरेटिव भाषा मॉडल्स का उपयोग न केवल पत्रों के लेखकों की सीमित अंग्रेजी कौशल को बढ़ाने के लिए किया जा रहा है, बल्कि वास्तव में कठिन काम को करने के लिए भी किया जा रहा है (और, अपरिहार्य रूप से, इसे बुरी तरह से करने के लिए)।

अध्ययन रिपोर्ट को फ्रांस और रूस के शोधकर्ताओं द्वारा तैयार किया गया है, जिसमें कंप्यूटर साइंस विभाग, यूनिवर्सिटी ऑफ टूलूज़ और यांडेक्स रिसर्चर अलेक्जेंडर मागज़िनोव, वर्तमान में टेल अवीव यूनिवर्सिटी में शामिल हैं।

अध्ययन विशेष रूप से एल्सेवियर जर्नल माइक्रोप्रोसेसर और माइक्रोसिस्टम में वैज्ञानिक प्रकाशनों के एआई-जनरेटेड नॉनसेंस की वृद्धि पर केंद्रित है।

किसी अन्य नाम से

ऑटोरेग्रेसिव भाषा मॉडल जैसे जीपीटी-3 को उच्च मात्रा में डेटा पर प्रशिक्षित किया जाता है, और उन्हें परिफ्रेज़, सारांश, संकलन और व्याख्या करने के लिए डिज़ाइन किया जाता है ताकि वे प्राकृतिक भाषा और लेखन पैटर्न को पुन: उत्पन्न कर सकें, जबकि मूल डेटा के मूल उद्देश्य को बनाए रखें।

चूंकि ऐसे फ्रेमवर्क अक्सर मॉडल प्रशिक्षण चरण में सीधे और ‘गैर-अवशोषित’ मूल डेटा के पुनरुत्पादन के लिए दंडित किए जाते हैं, वे अपरिहार्य रूप से पर्यायवाची शब्दों की तलाश करते हैं – यहां तक कि अच्छी तरह से स्थापित वाक्यांशों के लिए भी।

शोधकर्ताओं द्वारा खोजे गए एआई-निर्मित/सहायता प्राप्त वैज्ञानिक प्रस्तुतियों में मशीन लर्निंग क्षेत्र में जाने जाने वाले वाक्यांशों के लिए रचनात्मक पर्यायवाची शब्दों के असफल प्रयासों की एक असाधारण संख्या शामिल है:

गहरा तंत्रिका नेटवर्क: ‘गहरा तंत्रिका संगठन’
कृत्रिम तंत्रिका नेटवर्क: ‘(नकली | कृत्रिम) तंत्रिका संगठन’
मोबाइल नेटवर्क: ‘विविध संगठन’
नेटवर्क हमला: ‘संगठन (घेराबंदी | हमला)’
नेटवर्क कनेक्शन: ‘संगठन संघ’
बड़ा डेटा: ‘(विशाल | बड़ा | विशाल | विशाल) जानकारी’
डेटा वेयरहाउस: ‘जानकारी (स्टोररूम | वितरण केंद्र)’
कृत्रिम बुद्धिमत्ता (एआई): ‘(नकली | मानव-निर्मित) चेतना’
उच्च प्रदर्शन कंप्यूटिंग: ‘शीर्ष स्तर की गणना’
फॉग/मिस्ट/क्लाउड कंप्यूटिंग: ‘धुंधली गणना’
ग्राफिक्स प्रोसेसिंग यूनिट (जीपीयू): ‘डिज़ाइन तैयारी इकाई’
सेंट्रल प्रोसेसिंग यूनिट (सीपीयू): ‘केंद्रीय तैयारी इकाई’
वर्कफ्लो इंजन: ‘कार्य प्रक्रिया मोटर’
चेहरा पहचान: ‘चेहरा स्वीकृति’
वॉइस पहचान: ‘वार्ता स्वीकृति’
माध्य वर्ग त्रुटि: ‘माध्य वर्ग (त्रुटि | गलती) ‘
माध्य पूर्ण त्रुटि: ‘माध्य (पूर्ण | सर्वोच्च) (त्रुटि | गलती) ‘
सिग्नल टू नॉइज: ‘(गति | झंडा | संकेत | संकेत | सिग्नल) से (शोर | हलचल | शोर)’
वैश्विक पैरामीटर: ‘वैश्विक पैरामीटर’
यादृच्छिक पहुंच: ‘(यादृच्छिक | अनियमित) प्राप्त करने का अधिकार’
यादृच्छिक वन: ‘(यादृच्छिक | अनियमित) (जंगल | वनस्पति | घना क्षेत्र)’
यादृच्छिक मूल्य: ‘(यादृच्छिक | अनियमित) मूल्य’
चींटी उपनिवेश: ‘भूमिगत कीट (राज्य | प्रांत | क्षेत्र | क्षेत्र | बस्ती) ‘
चींटी उपनिवेश: ‘भूमिगत क्रॉली (राज्य | प्रांत | क्षेत्र | क्षेत्र | बस्ती) ‘
बची हुई ऊर्जा: ‘बची हुई ऊर्जा’
गतिज ऊर्जा: ‘मोटर ऊर्जा’
निर्दोष बेयस: ‘(विश्वासी | निर्दोष | मूर्ख) बेयस’
व्यक्तिगत डिजिटल सहायक (पीडीए): ‘व्यक्तिगत कंप्यूटरीकृत सहयोगी’

मई 2021 में शोधकर्ताओं ने डाइमेंशन्स अकादमिक खोज इंजन को इस तरह की विकृत, स्वचालित भाषा की तलाश में पूछताछ की, सुनिश्चित करते हुए कि वे वैध वाक्यांशों जैसे ‘विशाल जानकारी’ (जो ‘बड़ा डेटा’ के लिए एक वैध वाक्यांश है) को बाहर कर दें। इस बिंदु पर उन्होंने देखा कि माइक्रोप्रोसेसर और माइक्रोसिस्टम में इस तरह के विकृत परिफ्रेज़िंग की सबसे अधिक घटनाएं थीं।

वर्तमान में यह अभी भी संभव है कि आर्काइव स्नैपशॉट (15/07/2021) के माध्यम से ‘गहरा तंत्रिका संगठन’ (अर्थात ‘गहरा तंत्रिका नेटवर्क’) जैसे नॉनसेंस वाक्यांश के लिए कई वैज्ञानिक पत्र प्राप्त किए जा सकते हैं, और उपरोक्त सूची में अन्य वाक्यांशों के लिए समान हिट प्राप्त किए जा सकते हैं।

डाइमेंशन्स में ‘गहरा तंत्रिका संगठन’ (‘गहरा तंत्रिका नेटवर्क’) के लिए खोज परिणाम। स्रोत: https://app.dimensions.ai/

माइक्रोप्रोसेसर जर्नल की स्थापना 1976 में हुई थी, और दो साल बाद इसका नाम बदलकर माइक्रोप्रोसेसर और माइक्रोसिस्टम कर दिया गया था।

अर्थहीन भाषा की वृद्धि

शोधकर्ताओं ने फरवरी 2018 से जून 2021 तक की अवधि का अध्ययन किया और पिछले दो वर्षों में प्रस्तुतियों की मात्रा में तेजी से वृद्धि देखी, और विशेष रूप से पिछले 6-8 महीनों में;

संबंध या कारण? माइक्रोप्रोसेसर और माइक्रोसिस्टम जर्नल में प्रस्तुतियों की वृद्धि स्पष्ट रूप से ‘अर्थहीन’ पाठ और पर्यायवाची शब्दों के साथ सम्मानित प्रस्तुतियों में वृद्धि के साथ मेल खाती है। स्रोत: https://arxiv.org/pdf/2107.06751.pdf

अंतिम डेटासेट में 1,078 पूर्ण लंबाई के लेख शामिल हैं जो टूलूज़ विश्वविद्यालय के एल्सेवियर सदस्यता के माध्यम से प्राप्त किए गए हैं।

चीनी वैज्ञानिक पत्रों के लिए कम होती संपादकीय निगरानी

पत्र में यह देखा गया है कि 2021 में ध्वजांकित प्रस्तुतियों के मूल्यांकन के लिए समय की अवधि में काफी कमी आई है, जो 40 दिनों से कम हो गई है; पियर रिव्यू के लिए मानक समय में छह गुना कमी, जो फरवरी 2021 से स्पष्ट है।

ध्वजांकित पत्रों की सबसे बड़ी संख्या मुख्य भूमि चीन से संबंधित लेखकों से आती है: 404 पत्रों में से 97.5% जो 30 दिनों से कम समय में स्वीकृत किए गए थे, चीन से संबंधित थे। इसके विपरीत, जहां संपादकीय प्रक्रिया 40 दिनों (615 पत्र) से अधिक समय तक चली, वहां चीन से संबंधित प्रस्तुतियां केवल 9.5% थीं – एक दस गुना असंतुलन।

रिपोर्ट ध्वजांकित पत्रों के प्रवेश को संपादकीय प्रक्रिया में कमियों और संसाधनों की कमी के लिए जिम्मेदार ठहराती है।

शोधकर्ताओं का अनुमान है कि जीपीटी-शैली के जनरेटिव मॉडल, और इसी तरह के प्रकार के भाषा पीढ़ी फ्रेमवर्क, ध्वजांकित पत्रों में बहुत सारे पाठ को उत्पन्न करने के लिए उपयोग किए जा रहे हैं; हालांकि, स्रोतों को स abstracting करने का तरीका यह साबित करना मुश्किल बना देता है कि मुख्य साक्ष्य गरीब और अनावश्यक पर्यायवाची शब्दों के सामान्य मूल्यांकन में और प्रस्तुति की तार्किक संगति की एक सावधानीपूर्वक जांच में निहित है।

शोधकर्ताओं ने आगे देखा है कि जनरेटिव भाषा मॉडल जो वे इस बाढ़ के पीछे योगदान देने वाले हैं, न केवल समस्याग्रस्त पाठ बनाने में सक्षम हैं, बल्कि उन्हें पहचानने और उन्हें व्यवस्थित रूप से झंडा देने में भी सक्षम हैं, जिस तरह शोधकर्ताओं ने मैनुअल रूप से किया है। काम में एक ऐसे कार्यान्वयन का विवरण दिया गया है, जिसमें जीपीटी-2 का उपयोग किया गया है, और भविष्य के सिस्टम के लिए एक फ्रेमवर्क प्रदान किया गया है जो समस्याग्रस्त वैज्ञानिक प्रस्तुतियों की पहचान कर सकता है।

अन्य पत्रिकाओं की तुलना में एल्सेवियर जर्नल में ‘प्रदूषित’ प्रस्तुतियों की घटना बहुत अधिक है (72.1%)।

केवल अर्थ नहीं

शोधकर्ताओं ने जोर देकर कहा है कि कई पत्रिकाएं न केवल गलत भाषा का उपयोग कर रही हैं, बल्कि वे वैज्ञानिक रूप से असटीक बयान भी दे रही हैं, जो यह सुझाव देती हैं कि जनरेटिव भाषा मॉडल्स का उपयोग न केवल योगदानकर्ता वैज्ञानिकों की सीमित भाषा कौशल में सुधार के लिए किया जा रहा है, बल्कि वास्तव में पत्र में कुछ मूल सिद्धांतों और डेटा को बनाने के लिए भी किया जा रहा है।

अन्य मामलों में, शोधकर्ताओं ने सुझाव दिया है कि एक प्रभावी ‘पुनर्संश्लेषण’ या ‘स्पिनिंग’ हो सकता है जो पहले के काम को ‘प्रकाशन या मरने’ के शोध संस्कृतियों के दबाव को पूरा करने के लिए, और संभवतः राष्ट्रीय रैंकिंग में सुधार करने के लिए एआई अनुसंधान में वैश्विक प्रमुखता के माध्यम से किया जा रहा है।

<img class="wp-image-176628 size-full" src="https://www.unite.ai/wp-content/uploads/2021/07/GPT-detected-nonsense.jpg" alt="प्रस्तुत पत्र में अर्थहीन सामग्री। इस मामले में, शोधकर्ताओं ने पाया कि पाठ को एक ईडीएन लेख से व्युत्पन्न किया गया है, जहां से साथी चित्र भी बिना अट्रिब्यूशन के चोरी किया गया है। मूल सामग्री का पुनर्लेखन इतना अत्यधिक है कि यह अर्थहीन हो जाता है।” width=”1155″ height=”223″ /> प्रस्तुत पत्र में अर्थहीन सामग्री। इस मामले में, शोधकर्ताओं ने पाया कि पाठ को एक ईडीएन लेख से व्युत्पन्न किया गया है, जहां से साथी चित्र भी बिना अट्रिब्यूशन के चोरी किया गया है। मूल सामग्री का पुनर्लेखन इतना अत्यधिक है कि यह अर्थहीन हो जाता है।

एल्सेवियर पत्रों के विश्लेषण में, शोधकर्ताओं ने उन वाक्यों को पाया जिनका कोई अर्थ नहीं था; गैर-मौजूद साहित्य के संदर्भ; सूत्रों में चर और सिद्धांतों के संदर्भ जो वास्तव में सहायक सामग्री में नहीं थे (जो भाषा आधारित स abstracting, या ‘हॉलुसिनेशन‘ का सुझाव देते हैं); और छवियों का पुन: उपयोग बिना किसी स्रोत के संदर्भ के।