एआई-आधारित उत्पादक लेखन मॉडल अक्सर ‘कॉपी और पेस्ट’ स्रोत डेटा

अमेरिकी नाटककार और उद्यमी विल्सन मिज़नर को अक्सर यह कहते हुए उद्धृत किया जाता है कि ‘जब आप एक लेखक से चोरी करते हैं, तो यह प्लेगियारिज्म है; यदि आप कई से चोरी करते हैं, तो यह शोध है’।

इसी तरह, नए पीढ़ी के एआई-आधारित रचनात्मक लेखन प्रणालियों के बारे में यह धारणा है कि उन्हें प्रशिक्षण चरण में दी गई विशाल मात्रा में डेटा ने वास्तविक उच्च-स्तरीय अवधारणाओं और विचारों का सार बनाया है; कि इन प्रणालियों के पास हजारों योगदानकर्ता लेखकों की सार्वजनिक बुद्धिमत्ता है, जिससे एआई नवीन और मूल लेखन बना सकता है; और जो ऐसी प्रणालियों का उपयोग करते हैं वे यह सुनिश्चित कर सकते हैं कि वे अनजाने में प्लेगियारिज्म-बाय-प्रॉक्सी में शामिल नहीं हो रहे हैं।

यह धारणा एक नए शोध पत्र द्वारा चुनौती दी जाती है, जिसमें पाया गया है कि मशीन लर्निंग जेनरेटिव लैंग्वेज मॉडल जैसे जीपीटी श्रृंखला ‘कभी-कभी अपने कथित तौर पर मूल आउटपुट में बहुत लंबे पासेज की प्रतिलिपि बनाते हैं’, बिना किसी संदर्भ के।

कुछ मामलों में, लेखकों का उल्लेख है कि जीपीटी-2 अपने आउटपुट में प्रशिक्षण सेट से 1,000 शब्दों से अधिक की प्रतिलिपि बना देगा।

यह पत्र शीर्षक है भाषा मॉडल अपने प्रशिक्षण डेटा से कितना कॉपी करते हैं? आरएवीएन का उपयोग करके पाठ उत्पादन में भाषाई नवीनता का मूल्यांकन, और यह जॉन्स हॉपकिन्स विश्वविद्यालय, माइक्रोसॉफ्ट रिसर्च, न्यूयॉर्क विश्वविद्यालय और फेसबुक एआई रिसर्च के बीच एक सहयोग है।

आरएवीएन

अध्ययन एक नए दृष्टिकोण का उपयोग करता है जिसे आरएवीएन (आरेटिंगवर्बलनोवेल्टी) कहा जाता है, जो एक संक्षिप्त नाम है जिसे एक क्लासिक कविता के पाखंडी पक्षी को दर्शाने के लिए तैयार किया गया है:

‘यह संक्षिप्त नाम “द रेवन” द्वारा एडगर एलन पो से संबंधित है, जिसमें कथावाचक एक रहस्यमय रेवन से मिलता है जो बार-बार “नेवरमोर” चिल्लाता है। कथावाचक यह नहीं बता सकता कि रेवन क्या सुना है कि मानव ने कहा है या यह अपने स्वयं के उत्तर बना रहा है (शायद कभी-कभी और अधिक से) – यही मूल अस्पष्टता है जिसे हमारा पत्र संबोधित करता है।’

नई पत्र से निष्कर्ष एआई सामग्री लेखन प्रणालियों के लिए एक बड़े विकास के संदर्भ में आते हैं जो ‘सरल’ संपादन कार्यों को बदलने का प्रयास करते हैं, और यहां तक कि पूर्ण सामग्री भी लिखते हैं। एक ऐसी प्रणाली हाल ही में $21 मिलियन श्रृंखला ए फंडिंग में प्राप्त हुआ है।

शोधकर्ताओं का उल्लेख है कि ‘जीपीटी-2 कभी-कभी 1,000 शब्दों से अधिक लंबे प्रशिक्षण पासेज की प्रतिलिपि बनाता है’ (उनका जोर), और जेनरेटिव भाषा प्रणालियां स्रोत डेटा में भाषाई त्रुटियों को प्रसारित करती हैं।

जिन भाषा मॉडलों का आरएवीएन के तहत अध्ययन किया गया था, वे जीपीटी श्रृंखला के रिलीज़ थे जीपीटी-2 (लेखकों के पास उस समय जीपीटी-3 तक पहुंच नहीं थी), एक ट्रांसफॉर्मर, ट्रांसफॉर्मर-एक्सएल, और एक एलएसटीएम।

नवीनता

पत्र यह उल्लेख करता है कि जीपीटी-2 बुश 2-शैली के इन्फ्लेक्शन जैसे ‘स्विसिफाइड’ और डेरिवेशन जैसे ‘आईकेईए-नेस’ का आविष्कार करता है, जो इस तरह के नए शब्दों (वे जीपीटी-2 के प्रशिक्षण डेटा में नहीं दिखते हैं) को प्रशिक्षण के दौरान स्थापित उच्च आयामी स्थानों से लinguistic सिद्धांतों पर बनाता है।

परिणाम यह भी दिखाते हैं कि ‘ट्रांसफॉर्मर-एक्सएल द्वारा उत्पन्न 74% वाक्यों में एक वाक्य रचना है जो किसी प्रशिक्षण वाक्य में नहीं है’, जो लेखकों के अनुसार, ‘न्यूरल भाषा मॉडल केवल स्मृति नहीं करते हैं; इसके बजाय वे उत्पादक प्रक्रियाओं का उपयोग करते हैं जो उन्हें परिचित भागों को नए तरीकों से जोड़ने की अनुमति देते हैं।’

तो तकनीकी रूप से, सामान्यीकरण और सार नवीन और मूल पाठ उत्पन्न करना चाहिए।

डेटा डुप्लिकेशन समस्या हो सकती है

पत्र यह सिद्धांत देता है कि प्राकृतिक भाषा जेनरेशन (एनएलजी) प्रणालियों द्वारा उत्पन्न लंबे और शाब्दिक उद्धरण एआई मॉडल में पूरी तरह से ‘बेक’ हो सकते हैं क्योंकि मूल स्रोत पाठ को डेटासेट में पर्याप्त रूप से डी-डुप्लिकेट नहीं किया गया है।

हालांकि एक अन्य शोध परियोजना में पाया गया है कि पूर्ण पाठ की प्रतिलिपि तब भी हो सकती है जब स्रोत पाठ केवल एक बार डेटासेट में दिखाई देता है, लेखकों का उल्लेख है कि परियोजना में सामान्य चलने वाले सामग्री-उत्पादक एआई प्रणालियों से अलग संकल्पनात्मक वास्तुकला है।

लेखकों का यह भी उल्लेख है कि भाषा पीढ़ी प्रणालियों में डिकोडिंग घटक को बदलने से नवीनता में वृद्धि हो सकती है, लेकिन परीक्षणों में पाया गया कि यह आउटपुट की गुणवत्ता की कीमत पर होता है।

अधिक समस्याएं तब उत्पन्न होती हैं जब डेटासेट जो सामग्री-उत्पादक एल्गोरिदम को ईंधन देते हैं वे और भी बड़े हो जाते हैं। डेटा प्री-प्रोसेसिंग, गुणवत्ता आश्वासन और डेटा के डी-डुप्लिकेशन के आसपास के मुद्दों की सुलभता के साथ-साथ, बुनियादी त्रुटियां स्रोत डेटा में बनी रहती हैं, जो तब एआई द्वारा उत्पन्न सामग्री में प्रसारित हो जाती हैं।

लेखकों का उल्लेख है*:

‘हाल के वर्षों में प्रशिक्षण सेट के आकार में वृद्धि ने यह जांचना महत्वपूर्ण बना दिया है कि क्या यह प्राकृतिक रूप से हो सकता है। उदाहरण के लिए, भाषा अधिग्रहण में कुछ उल्लेखनीय कार्य यह मानता है कि नियमित अतीत के रूप में अनियमित क्रियाओं (जैसे कि बिकम, टीच्ड) के नियमित रूप से प्रयोग नहीं किए जाते हैं, इसलिए यदि एक शिक्षार्थी ऐसे शब्दों का उत्पादन करता है, तो वे शिक्षार्थी के लिए नए होने चाहिए। ‘

‘हालांकि, यह पता चलता है कि अंग्रेजी में 92 बुनियादी अनियमित क्रियाओं के लिए, गलत नियमित रूप जीपीटी-2 के प्रशिक्षण सेट में दिखाई देता है।’

अधिक डेटा क्यूरेशन की आवश्यकता

पत्र यह तर्क देता है कि जेनरेटिव भाषा प्रणालियों के निर्माण में नवीनता पर अधिक ध्यान देने की आवश्यकता है, विशेष रूप से यह सुनिश्चित करने पर जोर देते हुए कि ‘वापस किए गए’ परीक्षण भाग (मुख्य प्रशिक्षित डेटा का मूल्यांकन करने के लिए अलग रखा गया डेटा का हिस्सा) कार्य के लिए उपयुक्त है।

‘मशीन लर्निंग में, यह महत्वपूर्ण है कि मॉडल का मूल्यांकन एक वापस किए गए परीक्षण सेट पर किया जाए। खुले प्रश्नों की प्रकृति के कारण, एक मॉडल द्वारा उत्पन्न पाठ प्रशिक्षण सेट से कॉपी किया जा सकता है, जिसमें यह वापस नहीं किया जाता है – इसलिए मॉडल (जैसे कि सुसंगतता या व्याकरणिकता के लिए) का मूल्यांकन करने के लिए उस डेटा का उपयोग करना मान्य नहीं है।’

लेखकों का यह भी तर्क है कि भाषा मॉडल के निर्माण में अधिक सावधानी की आवश्यकता है क्योंकि एलिजा प्रभाव के कारण, जो 1966 में पहचाना गया एक सिंड्रोम है जिसने ‘लोगों की प्रवृत्ति को पहचाना कि वे कंप्यूटर द्वारा जोड़े गए प्रतीकों – विशेष रूप से शब्दों की तारों में बहुत अधिक समझ व्याख्या करें’।

* मेरा इनलाइन संदर्भों को हाइपरलिंक में परिवर्तन