विचार नेता
कौन हमें एआई-जनरेटेड भ्रामक जानकारी से बचाएगा?
जनरेटिव एआई ने एक साल से भी कम समय में शून्य से सौ तक का सफर तय किया है। जबकि यह अभी शुरुआती दौर में, लेकिन यह व्यवसाय को बदलने की अपनी क्षमता को दिखा चुका है। यह हम सभी सहमत हो सकते हैं। जहां हम अलग हैं वह यह है कि इसके द्वारा उत्पन्न खतरों को कैसे नियंत्रित किया जाए।
स्पष्ट करने के लिए, मैं नवाचार का समर्थन करता हूं, और मैं डरावनी बातें नहीं करता। लेकिन हाल ही में गलत सूचना में वृद्धि – जो विवादास्पद मुद्दों के आसपास ध्रुवीकरण के लिए मुख्य रूप से लक्षित है – यह स्पष्ट कर दिया है कि अगर इसे नियंत्रित नहीं किया गया, तो जन एआई समाजों पर विनाशकारी प्रभाव डाल सकता है।
हमने यह फिल्म पहले सोशल मीडिया के साथ देखी है, लेकिन यह सीखने और कड़े सबक सीखने में हमें साल लग गए। हमने (संभवतः) कुछ सीखा है। आज का सवाल यह है कि कौन जन एआई से वास्तविकता विकृति की लहर को रोकने में मदद करेगा, और कैसे?
पredictably, सरकारें अब कार्रवाई करना शुरू कर रही हैं। यूरोप नेतृत्व कर रहा है, जैसा कि उन्होंने तकनीक को नियंत्रित करने में बढ़ते दिखाया है। अमेरिका इसके पीछे है, राष्ट्रपति बाइडेन ने पिछले अक्टूबर में एक कार्यकारी आदेश जारी किया。
लेकिन जन एआई को “ईमानदार” रखने के लिए एक वैश्विक गांव की आवश्यकता होगी जो एक साथ काम करता है। और सरकार मदद कर सकती है इससे पहले कि यह उपलब्ध दृष्टिकोणों की सीमाओं को समझे।
पहचान समस्या और भी बदतर हो गई है
इस नए युग में, सच्चाई एक सुई की तरह है जो राय के एक ढेर में छुपी हुई है जो तथ्यों का भेष बनाती है। जानना कि सामग्री किस से आती है अब तक के सबसे ज्यादा मायने रखता है।
और यह इतना आसान नहीं है कि हर सोशल मीडिया अकाउंट को पहचान-सत्यापित करने का आदेश दिया जाए। इसका जोरदार विरोध है, और कुछ मामलों में गुमनामी की आवश्यकता है ताकि अकाउंट धारकों की सुरक्षा हो सके। इसके अलावा, सबसे खराब सामग्री के उपभोक्ता परवाह नहीं करते कि यह विश्वसनीय है या नहीं, न ही यह कहां से आया है।
इन सभी के बावजूद, जन एआई के साथ सामना करने में पहचान की संभावित भूमिका को कम आंका गया है। संदेहवादियों, मुझे सुनो।
आइए कल्पना करें कि नियमन या सामाजिक विवेक मंचों को हर अकाउंट धारक को यह विकल्प देते हैं:
- उनकी पहचान को सत्यापित करें या नहीं, और
- सार्वजनिक रूप से उनकी सत्यापित पहचान का खुलासा करें, या बस “आईडी सत्यापित” लेबल करें
तब सोशल मीडिया दर्शक यह बेहतर तय कर सकते हैं कि कौन विश्वसनीय है। समान रूप से महत्वपूर्ण, यदि अधिक नहीं, तो पहचान जिम्मेदारी का समर्थन करती है। मंच यह तय कर सकते हैं कि कार्रवाई करने के लिए क्या कदम उठाने हैं जेनरेटिव एआई सामग्री के दुरुपयोग करने वालों और बार-बार दुर्व्यवहार करने वालों के खिलाफ, भले ही वे अलग-अलग अकाउंट नामों के तहत दिखाई दें।
जन एआई के साथ दांव बढ़ाने के साथ, मैं मानता हूं कि पहचान – जानना कि किसने क्या पोस्ट किया– महत्वपूर्ण है। कुछ इसका विरोध करेंगे, और पहचान एक व्यापक उत्तर नहीं है। वास्तव में, कोई समाधान सभी हितधारकों को संतुष्ट नहीं करेगा। लेकिन अगर नियमन मंचों को सभी अकाउंट्स के लिए पहचान सत्यापन की पेशकश करने के लिए मजबूर करता है, तो मुझे यकीन है कि प्रभाव एक बड़ा सकारात्मक होगा।
मॉडरेशन संकट
सामग्री मॉडरेशन – स्वचालित और मानव – अवांछनीय सामग्री के खिलाफ अंतिम रक्षा पंक्ति है। मानव मॉडरेशन एक कठिन काम है, जिसमें मानवता के सबसे बुरे हिस्से के संपर्क में आने से मनोवैज्ञानिक नुकसान का जोखिम है। यह महंगा भी है और अक्सर पक्षपातपूर्ण सेंसरशिप का आरोप लगाया जाता है जिसे मंच कम करने का प्रयास करते हैं।
स्वचालित मॉडरेशन मानव क्षमता से परे नए सामग्री के साथ तालमेल बिठाने में विफल रहता है और संदर्भ (मीम्स एक सामान्य उदाहरण है) और सांस्कृतिक नुकसान को समझने में विफल रहता है। दोनों प्रकार के मॉडरेशन महत्वपूर्ण और आवश्यक हैं, लेकिन वे केवल उत्तर का एक हिस्सा हैं।
जन एआई को नियंत्रित करने के लिए अक्सर सुनी जाने वाली परंपरागत नुस्खा यह है: “तकनीकी नेताओं, सरकार और नागरिक समाज के बीच सहयोग की आवश्यकता है।” बिल्कुल, लेकिन विशेष रूप से क्या?
सरकारें, अपनी ओर से, सोशल और मीडिया प्लेटफ़ॉर्म पर पहचान सत्यापन और सभी पोस्ट पर इसे प्रमुखता से प्रदर्शित करने के लिए दबाव डाल सकती है। नियामक विश्वसनीयता मेट्रिक्स के लिए मार्ग प्रशस्त कर सकते हैं जो वास्तव में यह मापने में मदद करते हैं कि क्या एक स्रोत विश्वसनीय है। सहयोग आवश्यक है ताकि विशिष्ट मार्गदर्शन और दिशा विकसित की जा सके ताकि निजी क्षेत्र को अनुमान न लगाना पड़े।
अंत में, क्या दुर्भावनापूर्ण एआई आउटपुट बनाना अवैध होना चाहिए? अवैध गतिविधि के लिए अभिप्रेत सामग्री पर प्रतिबंध लगाने वाले कानून द्वारा विषाक्त सामग्री की मात्रा को कम किया जा सकता है और मॉडरेटरों पर बोझ को कम किया जा सकता है। मैं नियामक और कानूनों को भ्रामक जानकारी को हराने में सक्षम नहीं देखता, लेकिन वे खतरे का सामना करने में आवश्यक हैं।
सड़क का सूरजमुखी पक्ष: नवाचार
नवाचार का वादा मुझे यहां एक आशावादी बनाता है। हम उम्मीद नहीं कर सकते कि राजनेता या प्लेटफ़ॉर्म मालिक एआई-जनरेटेड धोखाधड़ी से पूरी तरह से बचा सकते हैं। वे एक बड़ा अंतर छोड़ते हैं, और यही वह जगह है जहां नए प्रौद्योगिकी का आविष्कार होगा जो सामग्री को प्रमाणित करने और नकलीपन का पता लगाने में मदद करेगा।
चूंकि हम अब जानते हैं कि सोशल मीडिया का नुकसान, हम जल्दी से महसूस करते हैं कि जनरेटिव एआई मानवता के लिए एक बड़ा नेट-नकारात्मक हो सकता है, इसकी ध्रुवीकरण और भ्रमित करने की क्षमता के साथ।
आशावादी रूप से, मैं बहु-पक्षीय दृष्टिकोणों के लाभ देखता हूं जहां नियंत्रण विधियां एक साथ काम करती हैं, पहले स्रोत पर, अवैध उपयोग के लिए डिज़ाइन की गई सामग्री के निर्माण को सीमित करती हैं। फिर, प्रकाशन से पहले, उन लोगों की पहचान को सत्यापित करना जो गुमनामी को अस्वीकार करते हैं। अगला, स्पष्ट लेबलिंग दिखाने के लिए कि विश्वसनीयता रेटिंग और पोस्टर की पहचान या उसकी अनुपस्थिति। अंत में, स्वचालित और मानव मॉडरेशन सबसे बुरे को फिल्टर आउट कर सकता है। मैं नए प्रमाणीकरण प्रौद्योगिकी के जल्द ही आने की उम्मीद करता हूं।
सब कुछ जोड़ें, और हमारे पास एक बहुत बेहतर, हालांकि कभी भी पूर्ण, समाधान होगा। इसके बीच, हमें यह कौशल विकसित करना चाहिए कि क्या वास्तविक है, कौन सच बता रहा है, और कौन हमें धोखा देने की कोशिश कर रहा है।
