एआई इंजीनियर्स ने गलत सूचना फैलाने वालों के इरादे का पता लगाने का तरीका विकसित किया

डिजिटल युग में गलत सूचना से निपटना एक जटिल समस्या है। न केवल गलत सूचना की पहचान करनी, टैग करनी और सुधारनी होती है, बल्कि उन लोगों के इरादे को भी अलग करना होता है जो दावा करने के लिए जिम्मेदार हैं। एक व्यक्ति अनजाने में गलत सूचना फैला सकता है, या किसी मुद्दे पर अपनी राय दे सकता है, भले ही बाद में यह तथ्य के रूप में बताया जाए। हाल ही में, डार्टमाउथ में एआई शोधकर्ताओं और इंजीनियरों की एक टीम ने एक फ्रेमवर्क बनाया है जिसका उपयोग “नकली खबर” रिपोर्ट से राय निकालने के लिए किया जा सकता है।

साइंसडेली की रिपोर्ट के अनुसार, डार्टमाउथ टीम का अध्ययन हाल ही में जर्नल ऑफ एक्सपेरिमेंटल एंड थ्योरेटिकल आर्टिफिशियल इंटेलिजेंस में प्रकाशित हुआ था। जबकि पिछले अध्ययनों ने नकली खबरों की पहचान करने और धोखाधड़ी से लड़ने का प्रयास किया है, यह शायद पहला अध्ययन है जिसने एक समाचार लेख में वक्ता के इरादे की पहचान करने का लक्ष्य रखा है। जबकि एक सच्ची कहानी को विभिन्न धोखाधड़ी वाले रूपों में बदला जा सकता है, यह महत्वपूर्ण है कि धोखाधड़ी का इरादा क्या था या नहीं। शोध टीम का तर्क है कि गलत सूचना पर विचार करते समय इरादा महत्वपूर्ण है, क्योंकि धोखाधड़ी केवल तभी संभव है जब धोखा देने का इरादा हो। यदि कोई व्यक्ति यह महसूस नहीं करता है कि वे गलत सूचना फैला रहे हैं या यदि वे केवल अपनी राय दे रहे हैं, तो धोखाधड़ी नहीं हो सकती है।

यूजीन सैंटोस जूनियर, डार्टमाउथ के थायर स्कूल ऑफ इंजीनियरिंग में एक इंजीनियरिंग प्रोफेसर, साइंसडेली को बताया कि उनके मॉडल का प्रयास धोखाधड़ी के इरादे को अलग करने का क्यों किया जाता है:

“जानबूझकर धोखा देने का इरादा अनजाने में होने वाली गलतियों की तुलना में बहुत बड़ा खतरा है। हमारे ज्ञान के अनुसार, हमारा अल्गोरिदम एकमात्र तरीका है जो धोखाधड़ी का पता लगाता है और साथ ही दुर्भावनापूर्ण कार्यों को हानिरहित कार्यों से अलग करता है।”

अपने मॉडल का निर्माण करने के लिए, शोध टीम ने धोखाधड़ी वाले तर्क की विशेषताओं का विश्लेषण किया। परिणामी अल्गोरिदम ने धोखा देने के इरादे को अन्य प्रकार के संचार से अलग करने के लिए एक व्यक्ति के पिछले तर्कों और उनके वर्तमान बयानों के बीच विसंगतियों पर ध्यान केंद्रित करके अलग किया। शोध टीम द्वारा निर्मित मॉडल को बड़ी मात्रा में डेटा की आवश्यकता होती है जिसका उपयोग यह माप सकता है कि एक व्यक्ति अपने पिछले तर्कों से कितना भिन्न है। टीम द्वारा अपने मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा में विवादास्पद विषयों पर राय के एक सर्वेक्षण से डेटा शामिल था। 100 से अधिक लोगों ने इन विवादास्पद मुद्दों पर अपनी राय दी। डेटा 20 अलग-अलग होटलों की समीक्षाओं से भी लिया गया था, जिसमें 400 नकली समीक्षाएं और 800 वास्तविक समीक्षाएं शामिल थीं।

सैंटोस के अनुसार, शोधकर्ताओं द्वारा विकसित फ्रेमवर्क को समाचार संगठनों और पाठकों द्वारा परिष्कृत और लागू किया जा सकता है, ताकि उन्हें “नकली खबर” लेखों की सामग्री का विश्लेषण करने की अनुमति मिल सके। पाठक लेखों की जांच कर सकते हैं कि क्या उनमें राय की उपस्थिति है और यह निर्धारित कर सकते हैं कि क्या एक तर्कसंगत तर्क का उपयोग किया गया है। सैंटोस ने यह भी कहा कि टीम गलत सूचना के प्रभाव और इसके परिणामस्वरूप होने वाले प्रभावों की जांच करना चाहती है।

लोकप्रिय संस्कृति अक्सर गैर-मौखिक व्यवहार जैसे चेहरे के भावों को धोखा देने वालों के संकेतक के रूप में चित्रित करती है, लेकिन अध्ययन के लेखकों का उल्लेख है कि ये व्यवहार संकेत धोखा देने के विश्वसनीय संकेतक नहीं हैं। डीक्विंग ली, पेपर के सह-लेखक, ने समझाया कि उनके शोध में पाया गया कि तर्क के इरादे पर आधारित मॉडल धोखा देने के लिए बेहतर संकेतक हैं और व्यवहार और मौखिक मतभेद हैं। ली ने समझाया कि तर्क के इरादे मॉडल “जानबूझकर झूठ बोलने और अन्य प्रकार के जानकारी विकृति के बीच अंतर करने में बेहतर हैं।”

डार्टमाउथ शोधकर्ताओं का काम गलत सूचना से लड़ने के लिए एआई का उपयोग करने के लिए हाल के दिनों में किए गए एकमात्र प्रगति नहीं है। समाचार लेखों में अक्सर क्लिकबेट शीर्षक होते हैं जो गलत सूचना को छुपाते हैं। उदाहरण के लिए, वे अक्सर यह सुझाव देते हैं कि कुछ हुआ है जब वास्तव में कुछ और घटना हुई है।

एआईन्यूज की रिपोर्ट के अनुसार, एरिजोना स्टेट यूनिवर्सिटी और पेन स्टेट यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने क्लिकबेट का पता लगाने के लिए एक एआई बनाने के लिए सहयोग किया। शोधकर्ताओं ने लोगों से अपने स्वयं के क्लिकबेट शीर्षक लिखने और एक कार्यक्रम लिखने के लिए कहा जो क्लिकबेट शीर्षक पैदा कर सके। दोनों प्रकार के शीर्षकों का उपयोग एक मॉडल को प्रशिक्षित करने के लिए किया गया था जो क्लिकबेट शीर्षकों का पता लगा सकता था, चाहे वे मशीनों द्वारा या लोगों द्वारा लिखे गए हों।

शोधकर्ताओं के अनुसार, उनका अल्गोरिदम क्लिकबेट शीर्षकों का पता लगाने में लगभग 14.5% अधिक सटीक था, जो पहले के एआई की तुलना में अधिक था। परियोजना के प्रमुख शोधकर्ता और पेन स्टेट यूनिवर्सिटी के कॉलेज ऑफ इंफॉर्मेशन साइंसेज एंड टेक्नोलॉजी में एसोसिएट प्रोफेसर, डोंगवोन ली, ने समझाया कि उनके प्रयोग से एआई के साथ डेटा बनाने और इसे प्रशिक्षण पाइपलाइन में वापस डालने की उपयोगिता का प्रदर्शन कैसे होता है।

“यह परिणाम काफी दिलचस्प है क्योंकि हमने सफलतापूर्वक प्रदर्शित किया है कि मशीन-जनित क्लिकबेट प्रशिक्षण डेटा को प्रशिक्षण पाइपलाइन में वापस डाला जा सकता है ताकि विभिन्न प्रकार के मशीन लर्निंग मॉडलों को बेहतर प्रदर्शन के लिए प्रशिक्षित किया जा सके,” ली ने समझाया।