गलत सूचना और पूर्वाग्रह के खिलाफ एआई

गलत सूचना और पूर्वाग्रह ने हाल के वर्षों में समाज के सामने सबसे बड़ी चुनौतियों में से एक के रूप में उभरा है। जैसे कि जानकारी संचालन, डीपफेक्स, वित्तीय प्रभाव, और सामाजिक तनावों का शोषण व्यक्तियों और राज्य अभिनेताओं द्वारा दुनिया भर में उपयोग किए जाने वाले नए उपकरण हैं।

गलत सूचना एक सामान्य शब्द है जो झूठी जानकारी को संदर्भित करता है, और यह जनमत के हेरफेर में एक प्रमुख भूमिका निभा रहा है। साथ ही, यह राजनीतिक नेताओं के खिलाफ हमला करने और विभिन्न देशों में समूहों के बीच विभाजन को बढ़ाने के लिए इसका उपयोग किया जा रहा है। अधिक से अधिक, गलत सूचना मतदान कक्ष में पहुंच रही है, और यह अविश्वसनीय रूप से प्रभावी हो गई है।

भ्रांति जो गलत सूचना से थोड़ी अलग है, जानबूझकर भ्रामक या पूर्वाग्रहपूर्ण जानकारी है। इसमें हेरफेर की गई कथाओं और तथ्यों को शामिल किया जा सकता है। दूसरे शब्दों में, यह प्रचार है।

ऑक्सफोर्ड विश्वविद्यालय के शोधकर्ताओं द्वारा 2019 की एक रिपोर्ट में 70 अलग-अलग देशों में संगठित भ्रांति अभियानों का विवरण दिया गया था, जिनमें रूस, चीन, वियतनाम और ग्वाटेमाला शामिल थे।

डिजिटल अर्थव्यवस्था ने समाचार में गलत सूचना और पूर्वाग्रह में वृद्धि की है, एआई प्रौद्योगिकियों और सोशल मीडिया प्लेटफ़ॉर्म को बड़े पैमाने पर इसका प्रसार करने के तरीके के रूप में उपयोग किया जा रहा है।

हमने इसके कई उदाहरण देखे हैं। उदाहरण के लिए, पिछले दो अमेरिकी राष्ट्रपति चुनाव गलत सूचना और पूर्वाग्रह से भरे हुए थे, और यह भविष्य में जारी रहने की संभावना है। वित्तीय बाजारों को भी गलत सूचना और पूर्वाग्रह के माध्यम से अल्पकालिक हेरफेर का सामना करना पड़ा है, और विदेशी मामले इसके उपयोग के परिणामस्वरूप अधिक तनावपूर्ण होते जा रहे हैं। सामाजिक तनाव विशिष्ट कारणों के समर्थकों और विरोधियों के खिलाफ गलत जानकारी के कारण उत्पन्न होते हैं, और नकली समाचार लगभग हर देश में व्याप्त है।

सोशल मीडिया और एल्गोरिदम पर हमारी निर्भरता ने हमें गलत सूचना और पूर्वाग्रह के प्रति अत्यधिक संवेदनशील बना दिया है, और यह बड़े समूहों को हेरफेर करना आसान हो गया है।

साइंटिफिक अमेरिकन द्वारा प्रकाशित एक निबंध के अनुसार, जो एक गैर-लाभकारी मीडिया आउटलेट्स का नेटवर्क है, सोशल मीडिया द्वारा फैलाई जाने वाली जानबूझकर और अनजाने में गलत सूचना के लिए तीन प्रकार के पूर्वाग्रह हैं जो सोशल मीडिया पारिस्थितिकी तंत्र को कमजोर बनाते हैं। यह महत्वपूर्ण है कि हमें यह पहचानने की आवश्यकता है कि हमारी अधिकांश खबरें अब सोशल मीडिया से आती हैं।

तीन प्रकार के पूर्वाग्रह हैं:

1. मस्तिष्क में पूर्वाग्रह: “संज्ञानात्मक पूर्वाग्रह मस्तिष्क के कार्य के तरीके से उत्पन्न होते हैं जिसमें यह प्रत्येक व्यक्ति द्वारा प्रतिदिन मिलने वाली जानकारी को संसाधित करता है।”
2. सामाजिक पूर्वाग्रह: “जब लोग सीधे अपने साथियों से जुड़ते हैं, तो उनके द्वारा मित्रों के चयन को निर्देशित करने वाले सामाजिक पूर्वाग्रह जानकारी को प्रभावित करने लगते हैं जो वे देखते हैं।
3. मशीन में पूर्वाग्रह: “तीसरा पूर्वाग्रह समूह सीधे उन एल्गोरिदम से उत्पन्न होता है जो यह निर्धारित करने के लिए उपयोग किए जाते हैं कि लोग ऑनलाइन क्या देखते हैं। सोशल मीडिया प्लेटफ़ॉर्म और सर्च इंजन दोनों ही इनका उपयोग करते हैं।”

पूर्वाग्रहों का यह संयोजन गलत अभिनेताओं के लिए वर्तमान समाचार मंचों का उपयोग गलत सूचना फैलाने के तरीके के रूप में बनाने के लिए एक आदर्श वातावरण बनाता है। लेकिन यह महत्वपूर्ण है कि पूर्वाग्रह इस क्षेत्र से बाहर भी मौजूद है। नियमित समाचार रिपोर्ट और लेख किसी लेखक या प्रकाशन के अपने विशिष्ट झुकाव के कारण पूर्वाग्रहपूर्ण होने का जोखिम रखते हैं। यह कुछ नया नहीं है।

गलत सूचना और पूर्वाग्रह के लिए एआई समाधान

कृत्रिम बुद्धिमत्ता के उदय ने हमें गलत सूचना और पूर्वाग्रह के खिलाफ लड़ने के लिए कई नए और नवाचारी उपकरण प्रदान किए हैं।

उदाहरण के लिए, जब उचित तरीके से डिज़ाइन किया जाता है, तो एआई निश्चित गलत सूचना और अन्य समस्याग्रस्त सामग्री का पता लगाने और हटाने में प्रभावी ढंग से काम कर सकता है। यह पहले से ही गूगल, ट्विटर और फेसबुक जैसी कंपनियों द्वारा नकली बॉट्स की पहचान करने के लिए उपयोग किया जा रहा है। और नकली बॉट्स अक्सर गलत सूचना और पूर्वाग्रहपूर्ण समाचार फैलाने के लिए उपयोग किए जाते हैं।

इस समस्या का समाधान करने के लिए नए एआई फ्रेमवर्क का अन्वेषण किया जाना चाहिए, और मौजूदा लोगों को बेहतर बनाने की आवश्यकता है, क्योंकि कई समस्याग्रस्त साबित हुए हैं। ये समस्याएं और भी खतरनाक हो जाती हैं जब संघर्ष उत्पन्न होते हैं। उदाहरण के लिए, सैन्य संघर्ष, जैसे कि वर्तमान रूस-यूक्रेन संघर्ष, गलत सूचना के प्रसार की गति को अविश्वसनीय रूप से तेज़ कर देता है।

पाइपलाइन में कई एआई-संचालित उपकरण आ रहे हैं। उदाहरण के लिए, एनटी कनेक्ट, एक अंतर्राष्ट्रीय प्रौद्योगिकी डेवलपर, ने हाल ही में अपने समाचार एग्रीगेटर एप्लिकेशन, नूज़.एआई के लॉन्च की घोषणा की है। एआई-संचालित भाषा विश्लेषण इंजन का उद्देश्य आज के समाचार मीडिया में पाए जाने वाले ध्रुवीकरण पूर्वाग्रह को पारदर्शिता लाना है। यह लेख पढ़ने से पहले पाठकों को समाचार मीडिया के प्रभाव के बारे में जागरूक करके ऐसा करने का प्रयास करता है।

“लेखक या पत्रकार अक्सर एक विशिष्ट पूर्वाग्रह की ओर झुकते हैं – अक्सर पाठक की जानकारी के बिना,” कंपनी के प्रेस विज्ञप्ति में कहा गया है। “लेखक और समाचार स्रोतों के ऐतिहासिक पूर्वाग्रह को जानने से उपभोक्ता लेख को अधिक वस्तुनिष्ठ दिमाग से देख सकते हैं और किसी विशिष्ट विषय के बारे में एक निश्चित तरीके से सोचने के लिए हेरफेर का विरोध कर सकते हैं। “

नूज़.एआई टूल चार मुख्य स्तंभों पर बनाया गया है:

• राय विश्लेषण: यह पाठकों को यह निर्धारित करने में मदद करता है कि एक पत्रकार के लेखन में व्यक्तिगत भावनाएं, दृष्टिकोण, विश्वास या निर्णय हैं या नहीं।
• भावना विश्लेषण: टूल सेंटिमेंट विश्लेषण का उपयोग करके पाठकों को यह समझने में मदद करता है कि एक लेखक सामान्य समाचार सामग्री या विशिष्ट विषय के प्रति समर्थन या विरोध कैसे दिखाता है।
• प्रचार विश्लेषण: यह संभावित भ्रांति का पता लगाने के लिए 18 संभावित प्रभाव तकनीकों के उपयोग की पहचान कर सकता है।
• संशोधन विश्लेषण: पाठक एक समाचार कहानी के विकास और समय के साथ राय और भावना के हेरफेर की जांच कर सकते हैं।

एप्लिकेशन प्रत्येक लेख के लिए स्कोर प्रदान करता है, जिसमें राय स्कोर 0 से 100 तक और भावना स्कोर -100 से 100 तक होता है। यह प्रत्येक संशोधन के लिए सभी पाठ संपादनों को भी ट्रैक करता है और पाठकों को विभिन्न संस्करणों की तुलना करने की अनुमति देता है।

एनटी कनेक्ट के सीटीओ गैरी पैक्सिनोस के अनुसार:

“पूर्वाग्रहपूर्ण रिपोर्टिंग आज के समाज में एक प्रमुख चिंता का विषय है। गलत सूचना सबसे अधिक बार (गलत) उपयोग किया जाने वाला शब्द है। लेकिन वास्तविकता यह है कि भाषा खुद को एक सामान्य पाठक को हेरफेर और प्रभावित करने के लिए उपयोग की जा सकती है। भाषा का वस्तुनिष्ठ विश्लेषण करके हम अन्य दृष्टिकोणों में पाए जाने वाले विषयगत पूर्वाग्रह से बचते हैं। जानबूझकर गलत सूचना को लेबल करने के बजाय, हमारा दृष्टिकोण यह दिखाना है कि कैसे अतिरंजित शीर्षकों, संशोधन इतिहास और लेखों के पाठ के साथ किसी को हेरफेर किया जा सकता है। “