कौन हमें एआई-जनरेटेड दुष्प्रचार से बचाएगा?

जनरेटिव एआई ने एक साल से कम समय में शून्य से सौ तक का सफर तय किया है। जबकि यह अभी भी अपनी शुरुआती अवस्था में, यह व्यवसाय को बदलने की अपनी क्षमता को दिखा चुका है। हम सभी इस बात से सहमत हो सकते हैं। जहां हम असहमत होते हैं वह यह है कि इसके द्वारा उत्पन्न खतरों को कैसे नियंत्रित किया जाए।

स्पष्ट करने के लिए, मैं नवाचार के पक्ष में हूं, और मैं डराने वाला नहीं हूं। लेकिन हाल के दिनों में गलत सूचना में वृद्धि, जो कि विवादास्पद मुद्दों के आसपास ध्रुवीकरण के लिए मुख्य रूप से लक्षित है, यह स्पष्ट कर दिया है कि यदि इसे नियंत्रित नहीं किया जाता है, तो जन एआई समाजों पर विनाशकारी प्रभाव डाल सकता है।

हमने यह फिल्म पहले सोशल मीडिया के साथ देखी है, लेकिन यह सालों और कठिन सबक सीखने के लिए लगा था कि हम इसकी खामियों को समझें। हमने (संभवतः) कुछ सीखा है। आज का प्रश्न यह है कि कौन जन एआई से वास्तविकता के विकृति की लहर को रोकने में मदद करेगा, और कैसे?

पूर्वानुमानित रूप से, सरकारें अब कार्रवाई करना शुरू कर रही हैं। यूरोप तकनीक को नियंत्रित करने में अग्रणी है, जैसा कि वे बढ़ते रूप से दिखा रहे हैं। अमेरिका इसके पीछे है, जिसमें राष्ट्रपति बाइडेन ने पिछले अक्टूबर में एक कार्यकारी आदेश जारी किया था।

लेकिन यह एक वैश्विक गांव को मिलकर काम करने की आवश्यकता होगी ताकि “जन एआई को ईमानदार” रखा जा सके। और इससे पहले कि सरकार मदद कर सके, यह उपलब्ध दृष्टिकोणों की सीमाओं को समझने की आवश्यकता है।

पहचान की समस्या और भी बदतर हो गई है

इस नए युग में, सच्चाई एक हेज़ के ढेर में एक सुई की तरह हो जाती है जो तथ्यों के रूप में प्रस्तुत की जाने वाली राय की तरह दिखती है। यह जानना कि सामग्री किस स्रोत से आती है मायने रखता है।

और यह इतना आसान नहीं है कि हर सोशल मीडिया अकाउंट को पहचान-सत्यापित करने का आदेश दिया जाए। इसका जोरदार विरोध है, और कुछ मामलों में गुमनामी की आवश्यकता होती है ताकि अकाउंट धारकों को न्यायसंगत रूप से सुरक्षित रखा जा सके। इसके अलावा, सबसे खराब सामग्री के उपभोक्ता अक्सर यह नहीं देखते कि यह विश्वसनीय है या नहीं, न ही वे देखते हैं कि यह कहां से आया है।

इन सावधानियों के बावजूद, जन एआई के साथ सामना करने में पहचान की भूमिका को कम आंका जा रहा है। संदेहवादी, मुझे सुनें।

आइए कल्पना करें कि नियमन या सामाजिक विवेक मंचों को हर अकाउंट धारक को ये विकल्प देने का कारण बनता है:

1. अपनी पहचान को सत्यापित करें या नहीं, और
2. सार्वजनिक रूप से अपनी सत्यापित पहचान का खुलासा करें, या बस “आईडी सत्यापित” लेबल करें।
   

तब सोशल मीडिया दर्शक यह बेहतर ढंग से तय कर सकते हैं कि कौन विश्वसनीय है। समान रूप से महत्वपूर्ण, यदि नहीं अधिक, पहचान जिम्मेदारी का समर्थन करती है। मंच यह तय कर सकते हैं कि क्या कार्रवाई करनी है दुष्प्रचार करने वालों और एआई-जनरेटेड सामग्री के दुरुपयोग करने वालों के खिलाफ, यहां तक कि यदि वे अलग-अलग अकाउंट नामों के तहत दिखाई देते हैं।

जन एआई के दांव को बढ़ाते हुए, मुझे विश्वास है कि पहचान—यह जानना कि किसने क्या पोस्ट किया— महत्वपूर्ण है। कुछ इसका विरोध करेंगे, और पहचान एक व्यापक उत्तर नहीं है। वास्तव में, कोई समाधान सभी हितधारकों को संतुष्ट नहीं करेगा। लेकिन यदि नियमन मंचों को सभी अकाउंट्स के लिए पहचान सत्यापन की पेशकश करने के लिए मजबूर करता है, तो मुझे यकीन है कि प्रभाव एक बड़ा सकारात्मक होगा।

मॉडरेशन संकट

सामग्री मॉडरेशन—स्वचालित और मानव—अवांछित सामग्री के खिलाफ रक्षा की अंतिम पंक्ति है। मानव मॉडरेशन एक कठिन काम है, जिसमें मानवता द्वारा पेश किए जा सकने वाले सबसे बुरे से उजागर होने का जोखिम है। यह महंगा भी है और अक्सर पक्षपातपूर्ण सेंसरशिप का आरोप लगाया जाता है जिसे प्लेटफ़ॉर्म कम करने का प्रयास करते हैं।

स्वचालित मॉडरेशन मानव क्षमता से परे नए सामग्री के सैलाब से निपटने के लिए स्केल करता है, लेकिन यह संदर्भ (मेम्स एक सामान्य उदाहरण हैं) और सांस्कृतिक नुांसों को समझने में विफल रहता है। मॉडरेशन के दोनों रूप महत्वपूर्ण और आवश्यक हैं, लेकिन वे केवल उत्तर का एक हिस्सा हैं।

जन एआई को नियंत्रित करने का अक्सर सुना जाने वाला परंपरागत नुस्खा है: “तकनीकी नेताओं, सरकार और नागरिक समाज के बीच सहयोग की आवश्यकता है।” बिल्कुल, लेकिन विशेष रूप से क्या?

सरकारें, अपनी ओर से, सोशल और मीडिया प्लेटफ़ॉर्म को पहचान सत्यापन और सभी पोस्ट पर इसे प्रमुखता से प्रदर्शित करने के लिए धक्का दे सकती हैं। नियामक विश्वसनीयता मेट्रिक्स के लिए मार्ग प्रशस्त कर सकते हैं जो वास्तव में यह मापने में मदद करते हैं कि कोई स्रोत विश्वसनीय है या नहीं। सहयोग की आवश्यकता है ताकि विशिष्ट मार्गदर्शन और दिशा के लिए सार्वभौमिक मानक विकसित किए जा सकें ताकि निजी क्षेत्र को अनुमान न लगाना पड़े।

अंत में, क्या यह अवैध होना चाहिए कि दुर्भाग्यपूर्ण एआई आउटपुट बनाया जाए? अवैध गतिविधि के लिए अर्थ देने वाली सामग्री पर प्रतिबंध लगाने वाले कानून विषाक्त सामग्री की मात्रा को कम कर सकते हैं और मॉडरेटरों के लिए भार को हल्का कर सकते हैं। मैं नियमन और कानूनों को दुष्प्रचार को हराने में सक्षम नहीं देखता, लेकिन वे इस खतरे का सामना करने में आवश्यक हैं।

सड़क का सुनहरा पक्ष: नवाचार

नवाचार का वादा मुझे यहां एक आशावादी बनाता है। हम उम्मीद नहीं कर सकते कि राजनेता या प्लेटफ़ॉर्म मालिक एआई-जनरेटेड धोखाधड़ी से पूरी तरह से बचा सकते हैं। वे एक बड़ा अंतर छोड़ते हैं, और यही वह जगह है जहां नई प्रौद्योगिकी का आविष्कार होगा जो सामग्री को प्रमाणित करने और नकलीपन का पता लगाने में मदद करेगा।

चूंकि हम अब सोशल मीडिया के नुकसान को जानते हैं, इसलिए हम जल्दी से यह महसूस करते हैं कि जनरेटिव एआई मानवता के लिए एक बड़ा नेट-नकारात्मक हो सकता है, इसकी ध्रुवीकरण और भ्रमित करने की क्षमता के साथ।

आशावादी दृष्टिकोण से, मैं नियंत्रण विधियों के बहु-प्रक्रिया दृष्टिकोण के लाभ देखता हूं जहां पहले स्रोत पर अवैध उपयोग के लिए डिज़ाइन की गई सामग्री का निर्माण सीमित है। फिर, प्रकाशन से पहले, उन लोगों की पहचान को सत्यापित करना जो गुमनामी को अस्वीकार करते हैं। अगला, स्पष्ट लेबलिंग दिखाने के लिए कि विश्वसनीयता रेटिंग और पोस्टर की पहचान या पहचान की कमी है। अंत में, स्वचालित और मानव मॉडरेशन कुछ सबसे बुरे को फिल्टर कर सकते हैं। मुझे उम्मीद है कि जल्द ही नई प्रमाणीकरण प्रौद्योगिकी ऑनलाइन आ जाएगी।

सब कुछ जोड़ें, और हमारे पास एक बहुत बेहतर, हालांकि कभी भी पूर्ण, समाधान होगा। इसके बीच, हमें अपने कौशल सेट का निर्माण करना चाहिए ताकि हम यह तय कर सकें कि क्या वास्तविक है, कौन सच बता रहा है, और कौन हमें धोखा देने की कोशिश कर रहा है।