गलत सूचना के लिए आर्टिफ़िशियल इंटेलिजेंस के साथ विकसित किया गया प्रारंभिक चेतावनी प्रणाली

नोट्रे डेम विश्वविद्यालय के शोधकर्ता एक परियोजना पर काम कर रहे हैं जो ऑनलाइन गलत सूचना से लड़ने के लिए है, जिसमें हिंसा भड़काने, विभाजन पैदा करने और लोकतांत्रिक चुनावों में हस्तक्षेप करने के लिए मीडिया अभियान शामिल हैं।

शोधकर्ताओं की टीम ने एक प्रारंभिक चेतावनी प्रणाली विकसित करने के लिए कृत्रिम बुद्धिमत्ता (एआई) पर भरोसा किया। यह प्रणाली ऑनलाइन छेड़छाड़ की गई छवियों, डीपफ़ेक वीडियो और गलत सूचना की पहचान करने में सक्षम होगी। यह एक मापनीय, स्वचालित प्रणाली है जो सामग्री-आधारित छवि पुनर्प्राप्ति का उपयोग करती है। यह फिर सोशल मीडिया नेटवर्क पर राजनीतिक मेम्स की पहचान करने के लिए कंप्यूटर-दृष्टि आधारित तकनीकों को लागू कर सकती है।

टिम वेनिंगर नोट्रे डेम में कंप्यूटर साइंस एंड इंजीनियरिंग विभाग में एक एसोसिएट प्रोफेसर हैं।

“मेम्स बनाना आसान है और उन्हें साझा करना और भी आसान है,” वेनिंगर ने कहा। “जब राजनीतिक मेम्स की बात आती है, तो वे मतदान बढ़ाने में मदद करने के लिए उपयोग किए जा सकते हैं, लेकिन वे गलत जानकारी फैलाने और नुकसान पहुंचाने के लिए भी उपयोग किए जा सकते हैं।”

वेनिंगर ने नोट्रे डेम में कंप्यूटर साइंस एंड इंजीनियरिंग विभाग में सहायक प्रोफेसर वाल्टर शीरेर के साथ मिलकर काम किया, साथ ही शोध टीम के सदस्यों के साथ भी।

इंडोनेशिया में 2019 का सामान्य चुनाव

टीम ने इंडोनेशिया में 2019 के सामान्य चुनाव के साथ प्रणाली का परीक्षण किया। उन्होंने ट्विटर और इंस्टाग्राम पर चुनाव से संबंधित विभिन्न स्रोतों से दो मिलियन से अधिक छवियों और सामग्री एकत्र की।

चुनाव में, वाम-झुकाव वाले केंद्रीय सत्तारूढ़ ने रूढ़िवादी, पॉपुलिस्ट उम्मीदवार को हराया। चुनाव के बाद, आठ लोगों की मौत हो गई और सैकड़ों अन्य घायल हो गए। टीम के अध्ययन में पाया गया कि चुनाव को प्रभावित करने और हिंसा भड़काने के उद्देश्य से सोशल मीडिया पर स्वतःस्फूर्त और समन्वित अभियान शुरू किए गए थे।

समन्वित अभियानों ने छेड़छाड़ की गई छवियों का उपयोग किया, जिन्होंने झूठे दावे किए और कुछ घटनाओं को गलत तरीके से प्रस्तुत किया। दोनों दलों के नागरिकों और समर्थकों को भड़काने के उद्देश्य से वैध समाचार लोगो का उपयोग करके समाचार कहानियां और मेम्स बनाए गए।

बाकी दुनिया

इंडोनेशिया में 2019 का सामान्य चुनाव दुनिया के बाकी हिस्सों में हो सकती है। सोशल मीडिया के माध्यम से फैलाई गई गलत सूचना लोकतांत्रिक प्रक्रियाओं को खतरे में डाल सकती है।

नोट्रे डेम में शोध टीम में डिजिटल फोरेंसिक विशेषज्ञ और शांति अध्ययन में विशेषज्ञ शामिल थे। टीम के अनुसार, प्रणाली को छेड़छाड़ की गई सामग्री को चिह्नित करने के लिए विकसित किया जा रहा है, जिसका उद्देश्य हिंसा को रोकना और पत्रकारों या चुनाव पर्यवेक्षकों को संभावित खतरों की चेतावनी देना है।

प्रणाली अभी भी शोध और विकास के चरण में है, लेकिन यह अंततः उपयोगकर्ताओं के लिए सामग्री की निगरानी के लिए मापनीय और व्यक्तिगत होगी। प्रणाली विकसित करने में कुछ सबसे बड़ी चुनौतियों में डेटा को प्राप्त करने और प्रसंस्करण के तरीके का निर्धारण करना शामिल है। शीरेर के अनुसार, प्रणाली का मूल्यांकन किया जा रहा है, और अगला कदम संचालन में संक्रमण होगा।

संभावना है कि प्रणाली का उपयोग 2020 के संयुक्त राज्य अमेरिका के सामान्य चुनाव की निगरानी के लिए किया जा सकता है, जिसमें बड़ी मात्रा में गलत सूचना और हेरफेर होने की उम्मीद है।

“गलत सूचना का युग यहाँ है,” शीरेर ने कहा। “एक डीपफ़ेक जो एक लोकप्रिय फिल्म में अभिनेताओं को बदल देता है मजाकिया और हल्का-फुल्का लग सकता है, लेकिन कल्पना कीजिए कि एक वीडियो या मेम बनाया गया है जिसका एकमात्र उद्देश्य एक विश्व नेता को दूसरे के खिलाफ खड़ा करना है – जो शब्द वे वास्तव में नहीं बोले हैं। कल्पना कीजिए कि उस सामग्री को कितनी जल्दी साझा किया जा सकता है और प्लेटफार्मों पर फैलाया जा सकता है। उन कार्यों के परिणामों पर विचार करें।”