नैतिकता
नया अध्ययन दिखाता है कि लोग मशीन-जनरेटेड टेक्स्ट को पहचानना सीख सकते हैं
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
आर्टिफ़िशियल इंटेलिजेंस (एआई) की बढ़ती जटिलता और सुलभता ने समाज पर इसके प्रभाव के बारे में लंबे समय से चली आ रही चिंताओं को बढ़ा दिया है। चैटबॉट्स की नवीनतम पीढ़ी ने इन चिंताओं को और बढ़ा दिया है, नौकरी बाजार की अखंडता और फर्जी खबरों और गलत सूचनाओं के प्रसार के बारे में डर के साथ। इन चिंताओं के मद्देनजर, पेंसिल्वेनिया विश्वविद्यालय के इंजीनियरिंग और एप्लाइड साइंस स्कूल के एक शोध दल ने तकनीकी उपयोगकर्ताओं को इन जोखिमों को कम करने में सक्षम बनाने का प्रयास किया।
एआई टेक्स्ट को पहचानने के लिए खुद को प्रशिक्षित करना
उनके पीयर-रिव्यूड पेपर, आर्टिफ़िशियल इंटेलिजेंस के लिए एडवांसमेंट एसोसिएशन की फरवरी 2023 की बैठक में, यह प्रमाण देता है कि लोग मशीन-जनरेटेड और मानव-लिखित टेक्स्ट के बीच अंतर को पहचानना सीख सकते हैं।
कंप्यूटर और इंफॉर्मेशन साइंस (सीआईएस) विभाग में एसोसिएट प्रोफेसर क्रिस कैलिसन-बर्च, पीएचडी छात्र लियाम डुगन और डाफ्ने इपोलिटो के नेतृत्व में अध्ययन, यह प्रदर्शित करता है कि एआई-जनरेटेड टेक्स्ट का पता लगाया जा सकता है।
“हमने दिखाया है कि लोग मशीन-जनरेटेड टेक्स्ट को पहचानने के लिए खुद को प्रशिक्षित कर सकते हैं,” कैलिसन-बर्च कहते हैं। “लोग एक निश्चित सेट के साथ शुरू करते हैं मान्यताओं के बारे में किस प्रकार की त्रुटियों एक मशीन बना सकती है, लेकिन ये मान्यताएं आवश्यक रूप से सही नहीं हैं। समय के साथ, पर्याप्त उदाहरणों और स्पष्ट निर्देश के साथ, हम उन त्रुटियों के प्रकारों को पहचानना सीख सकते हैं जो मशीनें वर्तमान में बना रही हैं। “
अध्ययन “रियल या फेक टेक्स्ट?” नामक एक मूल वेब-आधारित प्रशिक्षण गेम का उपयोग करके एकत्र किए गए डेटा का उपयोग करता है। यह प्रशिक्षण गेम डिटेक्शन अध्ययन के लिए मानक प्रयोगात्मक विधि को एक अधिक सटीक पुनर्निर्माण में बदलता है कि लोग एआई का उपयोग करके टेक्स्ट कैसे उत्पन्न करते हैं।
मानक तरीकों में, प्रतिभागियों से पूछा जाता है कि क्या एक मशीन ने एक दिए गए टेक्स्ट का उत्पादन किया है या नहीं। पेन मॉडल डिटेक्शन अध्ययन को एक प्रभावी प्रशिक्षण कार्य में परिष्कृत करता है जो उदाहरण दिखाता है जो सभी मानव-लिखित के रूप में शुरू होते हैं। प्रत्येक उदाहरण तब उत्पन्न टेक्स्ट में बदल जाता है, प्रतिभागियों से पूछता है कि वे मानते हैं कि यह परिवर्तन कहां शुरू होता है। प्रशिक्षुओं टेक्स्ट की विशेषताओं की पहचान करते हैं और त्रुटि का वर्णन करते हैं और एक स्कोर प्राप्त करते हैं।
अध्ययन के परिणाम
अध्ययन के परिणाम दिखाते हैं कि प्रतिभागियों ने यादृच्छिक मौके से काफी बेहतर स्कोर किया, यह प्रमाण देते हुए कि एआई-निर्मित टेक्स्ट कुछ हद तक पहचाना जा सकता है। अध्ययन न केवल हमारे एआई के साथ संबंधों के लिए एक आश्वस्त, यहां तक कि रोमांचक भविष्य को रेखांकित करता है, बल्कि यह भी प्रमाण प्रदान करता है कि लोग मशीन-जनरेटेड टेक्स्ट का पता लगाने के लिए खुद को प्रशिक्षित कर सकते हैं।
“लोग एआई के बारे में वैध कारणों से चिंतित हैं,” कैलिसन-बर्च कहते हैं। “हमारा अध्ययन इन चिंताओं को दूर करने के लिए साक्ष्य प्रदान करता है। एक बार जब हम एआई टेक्स्ट जनरेटर के बारे में हमारी आशावाद को हार्नेस कर सकते हैं, तो हम अधिक कल्पनाशील, अधिक दिलचस्प टेक्स्ट लिखने में मदद करने की उनकी क्षमता पर ध्यान केंद्रित कर सकते हैं। “
डुगन जोड़ता है, “इस तकनीक को आगे बढ़ाने के लिए रोमांचक सकारात्मक दिशाएं हैं। लोग चिंताजनक उदाहरणों पर ध्यान केंद्रित कर रहे हैं, जैसे कि प्लेगियारिज्म और फर्जी खबर, लेकिन हम अब जानते हैं कि हम बेहतर पाठक और लेखक बनने के लिए खुद को प्रशिक्षित कर सकते हैं। “
अध्ययन मशीन-जनरेटेड टेक्स्ट से जुड़े जोखिमों को कम करने के लिए एक महत्वपूर्ण पहला कदम प्रदान करता है। जब एआई विकसित होता है, तो हमें इसके प्रभाव का पता लगाने और नेविगेट करने की हमारी क्षमता को भी विकसित करना चाहिए। मानव-लिखित और मशीन-जनरेटेड टेक्स्ट के बीच अंतर को पहचानने के लिए खुद को प्रशिक्षित करके, हम एआई की शक्ति को हमारी रचनात्मक प्रक्रियाओं का समर्थन करने के लिए हार्नेस कर सकते हैं जबकि इसके जोखिमों को कम कर सकते हैं।
