एआई मिसिनफॉर्मेशन और समाचार में पूर्वाग्रह से लड़ सकता है

समाचार में गलत सूचना और पूर्वाग्रह समाज के लिए हाल के वर्षों में सबसे बड़ी चुनौतियों में से एक बन गया है। जैसे कि सूचना संचालन, डीपफेक, वित्तीय प्रभाव, और सामाजिक तनाव का शोषण व्यक्तियों और राज्य अभिनेताओं द्वारा दुनिया भर में नए उपकरणों के रूप में उपयोग किए जा रहे हैं।

गलत सूचना एक सामान्य शब्द है जो झूठी जानकारी के लिए उपयोग किया जाता है, और यह जनमत के हेरफेर में एक प्रमुख भूमिका निभा रहा है। साथ ही, यह राजनीतिक नेताओं पर हमला करने और विभिन्न देशों में समूहों के बीच विभाजन को बढ़ाने के लिए उपयोग किया जा रहा है। इससे पहले कि कभी भी, गलत सूचना मतदान कक्ष में पहुंच रही है, और यह अविश्वसनीय रूप से प्रभावी हो गई है।

भ्रांति जो गलत सूचना से थोड़ा अलग है, जानबूझकर भ्रामक या पक्षपातपूर्ण जानकारी है। इसमें हेरफेर की गई कथाएं और तथ्य शामिल हो सकते हैं। दूसरे शब्दों में, यह प्रचार है।

ऑक्सफोर्ड विश्वविद्यालय के शोधकर्ताओं द्वारा 2019 की एक रिपोर्ट में 70 अलग-अलग देशों में संगठित भ्रांति अभियानों का विवरण दिया गया था, जिनमें रूस, चीन, वियतनाम और ग्वाटेमाला शामिल हैं।

डिजिटल अर्थव्यवस्था ने समाचार में गलत सूचना और पूर्वाग्रह में वृद्धि की है, क्योंकि एआई प्रौद्योगिकियां और सोशल मीडिया प्लेटफ़ॉर्म इसे बड़े पैमाने पर प्रसारित करने के तरीके बन गए हैं।

हमने इसके कई उदाहरण देखे हैं। उदाहरण के लिए, पिछले दो अमेरिकी राष्ट्रपति चुनाव गलत सूचना और पूर्वाग्रह से भरे हुए थे, और यह भविष्य में जारी रहने की संभावना है। वित्तीय बाजारों को भी गलत सूचना और पूर्वाग्रह के माध्यम से अल्पकालिक हेरफेर का सामना करना पड़ा है, और विदेशी मामले उनके उपयोग के परिणामस्वरूप अधिक तनावपूर्ण हो रहे हैं। झूठी जानकारी के कारण विशिष्ट कारणों के समर्थकों और विरोधियों के बीच सामाजिक तनाव पैदा हो रहे हैं, और लगभग हर राष्ट्र में नकली समाचार हावी है।

सोशल मीडिया और एल्गोरिदम पर हमारी निर्भरता ने हमें गलत सूचना और पूर्वाग्रह के प्रति अविश्वसनीय रूप से कमजोर बना दिया है, और यह बड़े समूहों को हेरफेर करना आसान हो गया है।

साइंटिफिक अमेरिकन द्वारा प्रकाशित एक निबंध के अनुसार, जिसका शीर्षक है “सोशल मीडिया द्वारा फैलाई गई गलत सूचना के प्रति लोगों को कमजोर बनाने वाले पूर्वाग्रह,” एक गैर-लाभकारी मीडिया आउटलेट्स के नेटवर्क, द कॉन्वर्सेशन, में तीन प्रकार के पूर्वाग्रह हैं जो सोशल मीडिया पारिस्थितिकी तंत्र को जानबूझकर और अनजाने में गलत सूचना के प्रति कमजोर बनाते हैं। यह महत्वपूर्ण है कि हमारे अधिकांश समाचार अब सोशल मीडिया से आते हैं।

तीन प्रकार के पूर्वाग्रह हैं:

1. मस्तिष्क में पूर्वाग्रह: “संज्ञानात्मक पूर्वाग्रह हर व्यक्ति के दैनिक जीवन में मिलने वाली जानकारी के तरीके से उत्पन्न होते हैं।
2. समाज में पूर्वाग्रह: “जब लोग सीधे अपने साथियों से जुड़ते हैं, तो उनके मित्रों के चयन को निर्देशित करने वाले सामाजिक पूर्वाग्रह उनके द्वारा देखी जाने वाली जानकारी को प्रभावित करने लगते हैं।
3. मशीन में पूर्वाग्रह: “तीसरा पूर्वाग्रह समूह सीधे ऑनलाइन दिखाई देने वाली जानकारी को निर्धारित करने के लिए उपयोग किए जाने वाले एल्गोरिदम से उत्पन्न होता है। सोशल मीडिया प्लेटफ़ॉर्म और सर्च इंजन दोनों इसका उपयोग करते हैं।

पूर्वाग्रहों का यह संयोजन बुरे अभिनेताओं के लिए हमारे वर्तमान समाचार प्लेटफ़ॉर्म का उपयोग गलत सूचना फैलाने के लिए एक आदर्श वातावरण बना दिया है। लेकिन यह महत्वपूर्ण है कि पूर्वाग्रह इस दायरे से बाहर भी मौजूद है। नियमित समाचार रिपोर्ट और लेख लेखक या प्रकाशन के अपने विशिष्ट झुकाव के कारण पक्षपातपूर्ण होने का जोखिम रखते हैं। यह कुछ नया नहीं है।

गलत सूचना और पूर्वाग्रह के लिए एआई समाधान

कृत्रिम बुद्धिमत्ता का उदय हमें गलत सूचना और पूर्वाग्रह के खिलाफ लड़ने के लिए कई नए और नवाचारी उपकरण प्रदान कर रहा है।

उदाहरण के लिए, जब सही ढंग से डिज़ाइन किया जाता है, तो एआई प्रभावी ढंग से कुछ गलत सूचना और अन्य समस्याग्रस्त सामग्री का पता लगा सकता है और उन्हें हटा सकता है। यह पहले से ही जैसे कि गूगल, ट्विटर, और फेसबुक जैसी कंपनियों द्वारा नकली बॉट्स की पहचान करने के लिए उपयोग किया जा रहा है। और नकली बॉट्स अक्सर गलत सूचना और पक्षपातपूर्ण समाचार फैलाने के लिए उपयोग किए जाते हैं।

इस समस्या से निपटने के लिए नए एआई फ्रेमवर्क का अन्वेषण किया जाना चाहिए, और मौजूदा लोगों को बेहतर बनाना चाहिए क्योंकि कई समस्याग्रस्त साबित हुए हैं। ये समस्याएं तब और भी खतरनाक हो जाती हैं जब संघर्ष उत्पन्न होते हैं। उदाहरण के लिए, सैन्य संघर्ष, जैसे कि वर्तमान रूस-यूक्रेन संघर्ष, गलत सूचना के प्रसार को अविश्वसनीय रूप से तेजी से बढ़ा देता है।

पाइपलाइन में कई एआई-संचालित उपकरण आ रहे हैं। उदाहरण के लिए, एनटी कनेक्ट, एक अंतर्राष्ट्रीय प्रौद्योगिकी विकासकर्ता, ने हाल ही में अपने समाचार एग्रीगेटर एप्लिकेशन, नूज़.एआई के लॉन्च की घोषणा की है। एआई-संचालित भाषा विश्लेषण इंजन आज के समाचार मीडिया में पाए जाने वाले ध्रुवीकरण पूर्वाग्रह की पारदर्शिता लाने का लक्ष्य रखता है। यह पाठकों को लेख पढ़ने से पहले समाचार मीडिया के प्रभाव के बारे में जागरूक रखने के द्वारा ऐसा करने का प्रयास करता है।

कंपनी के प्रेस विज्ञप्ति में कहा गया है, “लेखक या पत्रकार अक्सर एक विशिष्ट पूर्वाग्रह की ओर झुकते हैं – अक्सर पाठक की जानकारी के बिना।” “लेखक और समाचार स्रोतों के ऐतिहासिक पूर्वाग्रह को जानने से, उपभोक्ता एक विशिष्ट विषय के बारे में एक निश्चित तरीके से सोचने के लिए हेरफेर का विरोध करने और एक अधिक उद्देश्यपूर्ण दिमाग से लेख की जांच करने में सक्षम हो सकते हैं। “

नूज़.एआई टूल चार मुख्य स्तंभों पर बनाया गया है:

• राय विश्लेषण: यह पाठकों को एक पत्रकार के लेखन में व्यक्तिगत भावनाओं, दृष्टिकोणों, विश्वासों या निर्णयों की उपस्थिति का निर्धारण करने में मदद करता है।

• भावना विश्लेषण: टूल सामान्य समाचार सामग्री या विशिष्ट विषय के प्रति लेखक के समर्थन या विरोध का मूल्यांकन करने में पाठकों की मदद करने के लिए भावना विश्लेषण का उपयोग करता है।

• प्रचार विश्लेषण: यह संभावित भ्रांति का पता लगाने के लिए 18 संभावित प्रभाव तकनीकों का उपयोग करके पहचान कर सकता है।

• संशोधन विश्लेषण: पाठक एक समाचार कहानी के विकास और समय के साथ राय और भावना के हेरफेर की जांच कर सकते हैं।

ऐप प्रत्येक लेख के लिए स्कोर प्रदान करता है, जिसमें राय स्कोर 0 से 100 तक और भावना स्कोर -100 से 100 तक होता है। यह प्रत्येक संशोधन के लिए सभी पाठ संपादन को भी ट्रैक करता है और पाठकों को विभिन्न संस्करणों की तुलना करने की अनुमति देता है।

एनटी कनेक्ट के सीटीओ गैरी पैक्सिनोस के अनुसार:

“पक्षपातपूर्ण रिपोर्टिंग आज के समाज में एक प्रमुख चिंता का विषय है। गलत सूचना सबसे अधिक (गलत) उपयोग किया जाने वाला शब्द है। लेकिन वास्तविकता यह है कि भाषा खुद को हेरफेर और प्रभावित करने के लिए उपयोग की जा सकती है। भाषा का वस्तुनिष्ठ विश्लेषण करके हम अन्य दृष्टिकोणों में पाए जाने वाले विषयगत पूर्वाग्रह से बचते हैं। हमारे दृष्टिकोण में गलत सूचना को विषयगत रूप से लेबल करने के बजाय, हम यह दिखाने का प्रयास करते हैं कि कैसे अतिरंजित शीर्षकों, संशोधन इतिहास और लेखों के पाठ के साथ एक सामान्य पाठक को हेरफेर किया जा सकता है।”