फेसबुक के एआई का गलत सूचना फैलाना और लोकतंत्र को खतरा पहुँचाना

लिंक्डइन में एआई अनुसंधान की देखरेख करने वाले डैन टंकेलैंग ने कहा: “जब सिफारिशें निर्णयों को प्रभावित करने की शक्ति रखती हैं, तो वे स्पैमर, स्कैमर और कम से कम ईमानदार इरादों वाले लोगों के लिए लक्ष्य बन जाती हैं।”

यह सोशल मीडिया कंपनियों जैसे फेसबुक के लिए एक दुविधा है। फेसबुक आंतरिक प्रतिक्रिया का उपयोग करके क्लिक, दृश्य और अन्य मापनीय उपयोगकर्ता व्यवहारों को ट्रैक करता है। यह एक “सिफारिश इंजन” के रूप में पहचाने जाने वाले एक एआई सिस्टम को डिज़ाइन करने के लिए उपयोग किया जाता है, जिसमें यह तय करने की अंतिम शक्ति है कि कौन सा उपयोगकर्ता किस सामग्री को देखता है और कब देखता है।

फेसबुक ने अपने रिकमेंडर इंजन को उपयोगकर्ता जुड़ाव को अधिकतम करने के लिए अनुकूलित किया है, जो फेसबुक प्लेटफ़ॉर्म पर बिताए गए समय की मात्रा से मापा जाता है। समय का अधिकतमीकरण किसी भी अन्य चर की तुलना में प्राथमिकता लेता है, जिसमें सिफारिश की जाने वाली सामग्री की गुणवत्ता या सटीकता शामिल है।

सिस्टम को सेंसेशनलिस्ट हेडलाइंस को पुरस्कृत करने के लिए डिज़ाइन किया गया है जो संज्ञानात्मक पूर्वाग्रह का फायदा उठाकर उपयोगकर्ताओं को आकर्षित करते हैं, भले ही वे हेडलाइंस रूसी ट्रोल द्वारा लिखे गए हों जिनका उद्देश्य समाज को विभाजित करना या राजनीतिक चुनावों को प्रभावित करना हो।

फेसबुक एआई का उपयोग कैसे करता है

फेसबुक द्वारा एआई का उपयोग यह तय करने के लिए कि उसके उपयोगकर्ता क्या देखते हैं और किस सामग्री के साथ बातचीत करते हैं, इसके बारे में जागरूकता की कमी है। सबसे पहले, हमें यह समझना होगा कि पुष्टिकरण पूर्वाग्रह क्या है। प्साइकोलॉजी टुडे इसे इस प्रकार वर्णित करता है:

पुष्टिकरण पूर्वाग्रह वह प्रवृत्ति है जिसमें हम जानकारी की तलाश करते हैं, व्याख्या करते हैं, पसंद करते हैं और याद रखते हैं जो हमारे पूर्वाग्रहों या मूल्यों को पुष्टि करती है।

फेसबुक समझता है कि उपयोगकर्ता उन समाचारों पर क्लिक करने की अधिक संभावना रखते हैं जो मानव प्रवृत्ति को पुष्टि करने वाले पूर्वाग्रह को खिलाते हैं। यह साजिश सिद्धांतों और उन इको चैंबरों के प्रसार के लिए एक खतरनाक पूर्वाग्रह स्थापित करता है जहां उपयोगकर्ताओं को केवल वही दिखाया जाता है जो वे देखना चाहते हैं, सटीकता या सामग्री के सामाजिक प्रभाव की परवाह किए बिना।

एमआईटी के एक अध्ययन से पता चलता है कि ट्विटर पर झूठी खबरें वास्तविक खबरों की तुलना में 6 गुना तेजी से फैलती हैं।

इसका मतलब है कि ट्विटर और फेसबुक दोनों ही हथियार बनाए जा सकते हैं। जबकि ट्विटर किसी को भी संकरी या पक्षपातपूर्ण दृष्टिकोण वाले फीड का अनुसरण करने की अनुमति देता है, फेसबुक एक कदम आगे बढ़ जाता है। फेसबुक पर एक उपयोगकर्ता के पास यह जानने का कोई तरीका नहीं है कि क्या देखा जा रहा है, यह पूरी तरह से फेसबुक के रिकमेंडर इंजन द्वारा नियंत्रित किया जाता है, जो उपयोगकर्ता जुड़ाव को मापता है और इसके लिए अनुकूलित करता है।

फेसबुक अपने उपयोगकर्ताओं की इच्छाओं को आकार देने और भविष्यवाणी करने का प्रयास करता है। फेसबुक अनुमान लगाता है कि एक उपयोगकर्ता किसी समाचार आइटम को पसंद करेगा या नापसंद करेगा जिसे उपयोगकर्ता ने पहले अनुभव नहीं किया है। उपयोगकर्ता जुड़ाव में कमी से बचने के लिए, फेसबुक तब उन समाचार आइटमों को छोड़ देता है जो जुड़ाव के स्तर को कम कर सकते हैं, और इसके बजाय उपयोगकर्ता को पुष्टिकरण पूर्वाग्रह को खिलाने वाली समाचार आइटमों के साथ जुड़ाव बढ़ाने का विकल्प चुनता है, जिससे अधिक क्लिक, टिप्पणियां, पसंद और शेयर होते हैं।

फेसबुक ऐतिहासिक उपयोगकर्ता क्रियाओं और राय के स्वचालित सहयोगी फिल्टरिंग का उपयोग करके स्वचालित रूप से भागीदारों (मित्रों) को समान राय के साथ मेल खाता है। फेसबुक एक उपयोगिता फंक्शन का उपयोग करता है जो गणितीय रूप से आपकी पसंद की वस्तुओं की भविष्यवाणी और रैंकिंग करता है।

यह उपयोगकर्ताओं को एक खरगोश के छेद में डालता है, वे नकली खबरों में फंस जाते हैं, जो सामग्री प्रस्तुत की जाती है जो उनके पूर्वाग्रह को मजबूत करती है। प्रस्तुत की जाने वाली सामग्री का उद्देश्य आपके क्लिक को प्रभावित करना है। यदि आप यह साजिश सिद्धांत मानते हैं कि बिल गेट्स टीकों का उपयोग करके मानव आबादी को माइक्रोचिप करने की कोशिश कर रहे हैं, तो फेसबुक आपको विरोधी साक्ष्य के साथ क्यों प्रस्तुत करेगा जो प्लेटफ़ॉर्म से आपको विमुख कर सकता है? यदि आप एक bestimm राजनीतिक उम्मीदवार का समर्थन करते हैं, तो फेसबुक आपको ऐसी खबरें क्यों दिखाएगा जो आपके उस उम्मीदवार के बारे में सकारात्मक दृष्टिकोण के विपरीत हो?

जैसे कि यह पर्याप्त नहीं था, फेसबुक “सामाजिक प्रमाण” का भी उपयोग करता है। सामाजिक प्रमाण यह概念 है कि लोग भीड़ की क्रियाओं का अनुसरण करेंगे। यह विचार है कि चूंकि इतने सारे लोग एक bestimm तरीके से व्यवहार करते हैं, इसलिए यह सही व्यवहार होना चाहिए।

फेसबुक सामाजिक प्रमाण को पसंद, टिप्पणियों या शेयरों के संदर्भ में प्रदान करता है। चूंकि केवल कुछ मित्र ही समाचार फीड आइटम (जब तक वे विशेष रूप से उपयोगकर्ता के समाचार फीड की खोज नहीं करते) देख सकते हैं, सामाजिक प्रमाण केवल पुष्टिकरण पूर्वाग्रह को मजबूत करने के लिए काम करता है।

फेसबुक फिल्टर बबल का भी उपयोग करता है जो विरोधाभासी, विरोधी और चुनौतीपूर्ण दृष्टिकोणों के संपर्क में आने को सीमित करता है।

फेसबुक विज्ञापन

अनजान फेसबुक उपयोगकर्ता विज्ञापनों पर क्लिक कर सकते हैं बिना यह जाने कि वे विज्ञापन देख रहे हैं। इसका कारण सरल है, यदि कोई विज्ञापन है तो केवल पहला व्यक्ति जो विज्ञापन देखता है विज्ञापन अस्वीकरण देखेगा। यदि उस उपयोगकर्ता ने विज्ञापन साझा किया है, तो उनके मित्र सूची में हर कोई केवल “साझा” को एक समाचार फीड आइटम के रूप में देखेगा, क्योंकि फेसबुक जानबूझकर विज्ञापन अस्वीकरण को छोड़ देता है। तुरंत, उपयोगकर्ता अपनी रक्षा छोड़ देते हैं, वे यह बताने में असमर्थ होते हैं कि क्या यह एक विज्ञापन है और क्या यह जैविक रूप से उनके समाचार फीड पर दिखाई दिया होगा।

फेसबुक शेयर

दुर्भाग्य से, चीजें और भी खराब हो जाती हैं। यदि एक उपयोगकर्ता के 1000 मित्र एक ही समय में सामग्री साझा करते हैं, तो रिकमेंडर इंजन उन लोगों द्वारा साझा की गई सामग्री को प्राथमिकता देगा जो समान दृष्टिकोण साझा करते हैं, भले ही वे अक्सर अप्रमाणित साजिश सिद्धांतों से मिले हों। उपयोगकर्ता तब यह धारणा बना लेंगे कि ये समाचार फीड आइटम हर किसी को दिखाई दे रहे हैं। इस समाचार फीड के साथ जुड़कर, ये उपयोगकर्ता एक दूसरे के सामाजिक प्रमाण को अनुकूलित कर रहे हैं।

यदि कोई उपयोगकर्ता किसी अन्य उपयोगकर्ता को भ्रामक या नकली आइटम के बारे में बताने का प्रयास करता है, तो समाचार फीड के साथ जुड़ने या टिप्पणी करने का कार्य ही मूल उपयोगकर्ता के जुड़ाव के समय को बढ़ा देता है। यह फीडबैक लूप फेसबुक को उस उपयोगकर्ता को और अधिक नकली खबरों से जुड़ने के लिए प्रोत्साहित करता है।

यह एक इको चैंबर, एक फिल्टर बबल बनाता है जहां उपयोगकर्ता को केवल वही विश्वास करने के लिए प्रशिक्षित किया जाता है जो वे देखते हैं। सच्चाई केवल एक भ्रम है।

मुद्दे की गंभीरता

10 मिलियन से अधिक लोग एक समाचार फीड के साथ जुड़े जिसमें दावा किया गया था कि पोप फ्रांसिस ने 2016 में ट्रंप के चुनाव का समर्थन किया था। इसका कोई सबूत नहीं था, यह केवल एक नकली खबर थी जो रूस से निकली थी, फिर भी यह 2016 के चुनाव से पहले तीन महीनों में फेसबुक पर सबसे अधिक साझा की जाने वाली खबर थी।

समाचार आइटम एक रूसी ट्रोल फार्म द्वारा उत्पन्न किया गया था जिसे “इंटरनेट रिसर्च एजेंसी” कहा जाता है। यही संगठन ट्विटर और फेसबुक पर नस्लवादी लेखों को बढ़ावा देने और नकली खबरों को फैलाने के लिए जिम्मेदार था जो अमेरिकी राजनेताओं के बारे में झूठे दावे करते थे।

सेनेट की खुफिया समिति ने 85 पृष्ठों की रिपोर्ट जारी की जिसमें रूसी एक्टिव मेजर्स अभियानों और हस्तक्षेप का विवरण दिया गया था, जिसमें से अधिकांश विभाजनकारी नकली खबरों और प्रचार के प्रसार से संबंधित थे जिसका एकमात्र उद्देश्य 2016 के अमेरिकी चुनाव को प्रभावित करना था।

2020 के चुनाव में आगे बढ़ने पर समस्या और भी गंभीर हो गई है। सितंबर 2020 में, एफबीआई की सूचना के बाद फेसबुक और ट्विटर ने रूसी प्रचार प्रयासों से जुड़े एक समाचार संगठन पीसडेटा के लिए सोशल मीडिया खातों को निलंबित कर दिया।

दुर्भाग्य से, खातों को बंद करना एक अस्थायी और अप्रभावी समाधान है। रूसी खाते अक्सर महिलाओं के साथ आकर्षक प्रोफाइल वाले मित्र अनुरोधों का रूप ले लेते हैं या नियमित पोस्ट के साथ हैक किए गए उपयोगकर्ता खाते होते हैं। ये हैक किए गए खाते धीरे-धीरे राजनीतिक पोस्ट में बदल जाते हैं, जब तक कि वे प्रचार या साजिश सिद्धांतों से भरे नहीं जाते।

एक अनजान उपयोगकर्ता यह अनजान हो सकता है कि एक मित्र का खाता खतरे में है। यदि उपयोगकर्ता साजिश सिद्धांतों के लिए कमजोर है, तो वे नकली समाचार फीड आइटम में जुड़ सकते हैं, रूसी ट्रोल जो अक्सर एक बॉट होता है, तब अतिरिक्त सामाजिक प्रमाण के रूप में पसंद या टिप्पणियां प्रदान करता है।

कमजोर उपयोगकर्ता अक्सर वे होते हैं जो प्रौद्योगिकी और एआई के काम करने के तरीके को कम से कम समझते हैं। 65 वर्ष से अधिक आयु का लोकतंत्र, जो मतदान के लिए सबसे अधिक संभावना रखता है, नकली खबरों को फैलाने के लिए सबसे अधिक संभावना रखता है, जैसा कि न्यूयॉर्क टाइम्स द्वारा रिपोर्ट किया गया है।

अध्ययन के अनुसार, फेसबुक उपयोगकर्ता 65 वर्ष और उससे अधिक आयु के लोगों ने 29 वर्ष और उससे कम आयु के वयस्कों की तुलना में नकली खबरों की वेबसाइटों से लेख साझा किए। डिजिटल मीडिया साक्षरता की कमी के कारण यह आयु वर्ग तथ्यों या सामग्री के सामाजिक प्रभाव पर आधारित नहीं होने वाले समाचार फीड के लिए तैयार नहीं है।

बुरे अभिनेता फेसबुक के रिकमेंडर इंजन का फायदा उठा रहे हैं जो हमारे संज्ञानात्मक पूर्वाग्रहों का फायदा उठाता है। ये संगठन फेसबुक के एआई के दुरुपयोग को नकली खबरों और प्रचार को फैलाने के लिए अनुकूलित कर चुके हैं। साजिश सिद्धांत जो पहली नज़र में निर्दोष लगते हैं, अक्सर सफेद वर्चस्व, दूर-दाहिने राष्ट्रवाद या क्यूएनन जैसी साजिश सिद्धांतों में प्रवेश के रूप में कार्य करते हैं, जो एक विचित्र साजिश सिद्धांत है जिसमें ट्रंप दुनिया को उदार पेडोफाइल से बचाने की कोशिश कर रहे हैं, जिसका वास्तविकता में कोई आधार नहीं है।

सारांश

फेसबुक明显 जानता है कि एक समस्या है और उन्होंने सार्वजनिक रूप से एक रणनीति की घोषणा की है जो फेसबुक के सामुदायिक मानकों का उल्लंघन करने वाली सामग्री को हटाने पर केंद्रित है। समस्या यह है कि खातों को हटाना एक अस्थायी उपाय है जो बॉट द्वारा या उपयोगकर्ता खातों के масс हैकिंग द्वारा बड़े पैमाने पर उत्पन्न किए जाने पर अप्रभावी है। यह समस्या का समाधान नहीं करता है कि अधिकांश साझा करने वाले नियमित उपयोगकर्ता हैं जो यह नहीं जानते कि वे गलत सूचना फैला रहे हैं।

चेतावनी लेबल जोड़ना केवल साजिश सिद्धांतों को मजबूत करता है कि सोशल मीडिया दिग्गज रूढ़िवादी विरोधी हैं।

समाधान एक नए रिकमेंडर इंजन की आवश्यकता है जो केवल उपयोगकर्ता जुड़ाव को मापता है, बल्कि उपयोगकर्ता की खुशी के लिए अनुकूलित है जो सत्य को वितरित करके और सुधारित स्व-जागरूकता को बढ़ावा देकर हासिल की जाती है।

इस बीच, फेसबुक को ट्विटर द्वारा राजनीतिक विज्ञापनों पर प्रतिबंध लगाने का मार्ग अपनाना चाहिए।

अंत में, एक महत्वपूर्ण प्रश्न पूछा जाना चाहिए। यदि लोगों के पास यह विकल्प नहीं है कि वे कौन सी खबरें देखते हैं, तो यह कब एक सिफारिश से मनोविज्ञान के नियंत्रण में बदल जाता है?

सिफारिशित पढ़ाई:

रूसी एक्टिव मेजर्स अभियान और हस्तक्षेप – सेनेट की खुफिया समिति द्वारा रिपोर्ट।

लोकतंत्र के अंत की भविष्यवाणी करने वाला चौंकाने वाला पत्र – जॉर्ज वॉशिंगटन विश्वविद्यालय के इतिहास न्यूज नेटवर्क के संस्थापक रिक शेंकमैन द्वारा।

बुजुर्ग लोग फेसबुक पर नकली खबरें अधिक साझा करते हैं – न्यूयॉर्क टाइम्स द्वारा।