फ़ेसबुक ने आर्टिफ़िशियल इंटेलिजेंस द्वारा उत्पन्न खातों को हटा दिया और साजिश सिद्धांतों को बढ़ावा देने के लिए उपयोग किया गया

सोशल मीडिया कंपनियां 2020 के चुनावी मौसम से पहले गलत सूचना को नियंत्रित करने के लिए विभिन्न तरीकों से काम कर रही हैं। जबकि ट्विटर ने हाल ही में अपने प्लेटफ़ॉर्म से राजनीतिक विज्ञापनों पर प्रतिबंध लगा दिया है, फ़ेसबुक ने घोषणा की है कि उसने सैकड़ों नकली खातों, समूहों और पृष्ठों को बंद कर दिया है। इनमें से कई खातों में आर्टिफ़िशियल इंटेलिजेंस द्वारा उत्पन्न प्रोफ़ाइल चित्र हैं, और कई कथित तौर पर गलत सूचना और साजिश सिद्धांतों को फैलाने के लिए उपयोग किए गए हैं।

फोर्ब्स की रिपोर्ट के अनुसार, फ़ेसबुक ने कहा है कि प्रतिबंधित खातों और पृष्ठों का संबंध “ब्यूटी ऑफ लाइफ” नेटवर्क, या “दबीएल” से है, जिसे फ़ेसबुक ने कहा है कि यह रूढ़िवादी समाचार प्रकाशन समूह, द इपोक टाइम्स से जुड़ा हुआ है। फ़ेसबुक के अनुसार, इपोक मीडिया ग्रुप ने अब-प्रतिबंधित पृष्ठों और समूहों के माध्यम से विज्ञापन पर लगभग 9.5 मिलियन डॉलर खर्च किए हैं, जिनमें से कई पोस्ट में प्रो-ट्रम्प साजिश सिद्धांत शामिल हैं। जबकि इपोक मीडिया ग्रुप आरोपों से इनकार करता है, फ़ेसबुक ने कहा है कि उसने स्वतंत्र शोधकर्ताओं के साथ काम किया है, जैसे कि ग्राफिका और अटलांटिक काउंसिल के डिजिटल फोरेंसिक रिसर्च लैब (डीएफआरएल), खातों और पृष्ठों की प्रकृति का पता लगाने के लिए कार्रवाई करने से पहले।

फ़ेसबुक के अनुसार, खातों को “समन्वित अस्थिति व्यवहार” के लिए हटा दिया गया था, जानबूझकर अपनी पहचान के बारे में अन्य लोगों को गुमराह करने के लिए, और राजनीतिक हस्तक्षेप का प्रयास करने के लिए। सीएनईटी के अनुसार, फ़ेसबुक ने कहा है कि खातों ने अक्सर विशिष्ट राजनीतिक उम्मीदवारों और विचारधारा को बढ़ावा देने वाली सामग्री पोस्ट की, जिसमें रूढ़िवादी चुनाव, रूढ़िवादी नीतियों और राष्ट्रपति ट्रम्प के लिए मजबूत समर्थन पर ध्यान केंद्रित किया गया था।

फ़ेसबुक ने इस घटना पर 39-पृष्ठ की रिपोर्ट प्रकाशित की है, जिसमें उनके कई निष्कर्ष शामिल हैं। फ़ेसबुक की रिपोर्ट का एक उल्लेखनीय पहलू यह था कि कई प्रतिबंधित खातों का निर्माण आर्टिफ़िशियल इंटेलिजेंस की सहायता से किया गया था। फ़ेसबुक के शोधकर्ताओं ने रिपोर्ट में कहा है:

“इनमें से दर्जनों नकली खातों में आर्टिफ़िशियल इंटेलिजेंस द्वारा उत्पन्न प्रोफ़ाइल चित्र थे, जो इस रिपोर्ट के लेखकों के लिए ज्ञात पहली बड़े पैमाने पर नकली चेहरों की तैनाती है।”

रिपोर्ट के निष्कर्षों के अनुसार, एआई-जनित छवियां परिपूर्ण नहीं थीं, जिसमें अक्सर विवरण उनकी सच्ची प्रकृति को दूर करने के लिए पर्याप्त थीं। छवि के संगत तत्व, जैसे कि एक व्यक्ति के चश्मे या बाल, अक्सर असममित थे। इसके अलावा, पृष्ठभूमि विवरण अक्सर धुंधले और विकृत थे। हालांकि, ये तत्व पहली नज़र में ध्यान देने योग्य नहीं हो सकते हैं, खासकर जब फ़ेसबुक टिप्पणी श्रृंखला में प्रोफ़ाइल फ़ोटो के छोटे आकार को देखते हैं। कई नकली प्रोफ़ाइलों में नकली प्रोफ़ाइल जानकारी और यहां तक कि नकली पोस्ट भी थे, जो संभावित रूप से एआई द्वारा उत्पन्न किए गए थे।

एनबीसी की रिपोर्ट के अनुसार, फ़ेसबुक के सुरक्षा नीति प्रमुख, नाथानिएल ग्लीचर, ने कहा है कि खातों का व्यवहार ही उन्हें अस्थिति के रूप में दूर करने के लिए पर्याप्त था, और नकली छवियों और प्रोफ़ाइल जानकारी का उपयोग करने के प्रयास खातों की खोज से उन्हें बचाने में मदद नहीं करते हैं। ग्लीचर ने कहा है कि एआई-जनित छवियां वास्तव में खातों को पकड़ने की संभावना को बढ़ा रही थीं। ग्लीचर ने कहा है:

“हमने इन खातों का पता लगाया क्योंकि वे नकली व्यवहार में शामिल थे। एआई-जनित प्रोफ़ाइलों का उपयोग करके खुद को अधिक वास्तविक बनाने का प्रयास वास्तव में उन्हें मदद नहीं करता है। यहाँ का सबसे बड़ा निष्कर्ष यह है कि नेटवर्क की ओर से नकली पहचानों का उपयोग करना एक गंभीर मुद्दा है। यहाँ क्या नया है यह है कि यह कथित तौर पर एक अमेरिकी आधारित मीडिया आउटलेट है जो राजनीतिक सामग्री को बढ़ावा देने के लिए अमेरिकी नागरिकों के रूप में प्रस्तुत करने वाले विदेशी अभिनेताओं का लाभ उठा रहा है। हमने इसका उपयोग पहले राज्य अभिनेताओं द्वारा किया है।”

इसके बावजूद, ग्राफिका और अटलांटिक काउंसिल के स्वतंत्र शोधकर्ताओं ने कहा है कि नकली छवियों और खातों को बनाने की आसानी से जो नकली अभिनेताओं को वास्तविक बनाने में मदद मिलती है, वह एक चिंता का विषय है। फ़ेसबुक और अन्य सोशल मीडिया कंपनियों पर राजनीतिक गलत सूचना के प्रसार से निपटने के लिए प्रयासों को तेज करने का दबाव है, जो उन लोगों से आगे रहने के लिए प्रौद्योगिकी में रहने की आवश्यकता होगी जो गलत सूचना फैलाने का प्रयास करते हैं।

फ़ेसबुक द्वारा खातों, पृष्ठों और समूहों को हटाने से पहले, इन संस्थाओं द्वारा पोस्ट की गई सामग्री लाखों लोगों तक पहुंच गई थी। कथित तौर पर, कम से कम 55 मिलियन खातों ने 89 अलग-अलग प्रतिबंधित पृष्ठों में से एक का अनुसरण किया था। अधिकांश अनुयायी गैर-यूएस खाते थे। कुल मिलाकर, लगभग 600 खाते, 90 पृष्ठ और 150 समूह फ़ेसबुक से हटा दिए गए थे। इंस्टाग्राम से लगभग 70 खाते भी हटा दिए गए थे।

यह खबर फ़ेसबुक द्वारा एक डीपफ़ेक डिटेक्शन चुनौती शुरू करने के समय आती है, जो मार्च 2020 तक चलेगी। ट्विटर ने हाल ही में लगभग 6000 खातों पर प्रतिबंध लगा दिया है, जिन्हें वह सऊदी अरब में उत्पन्न होने और जानबूझकर भ्रामक सामग्री पोस्ट करने का संदेह है।