एआई ब्राउज़र टूल्स का उद्देश्य डीपफेक और अन्य नकली मीडिया को पहचानना है

तकनीकी कंपनियों द्वारा गलत सूचना और नकली सामग्री से निपटने के प्रयास हाल के दिनों में तेजी से बढ़ रहे हैं क्योंकि डीपफेक जैसी परिष्कृत नकली सामग्री निर्माण तकनीकों का उपयोग करना आसान और अधिक परिष्कृत हो गया है। लोगों को डीपफेक का पता लगाने और उससे लड़ने में मदद करने का एक आगामी प्रयास रियलिटीडिफेंडर द्वारा निर्मित है एआई फाउंडेशन, जिसने खुद को नैतिक एआई एजेंटों और सहायकों को विकसित करने के लिए प्रतिबद्ध किया है जिन्हें उपयोगकर्ता विभिन्न कार्यों को पूरा करने के लिए प्रशिक्षित कर सकते हैं।

एआई फाउंडेशन की सबसे उल्लेखनीय परियोजना एक ऐसा मंच है जो लोगों को अपने स्वयं के डिजिटल व्यक्तित्व बनाने की अनुमति देता है जो उनके जैसा दिखता है और वर्चुअल हैंगआउट स्थानों में उनका प्रतिनिधित्व करता है। एआई फाउंडेशन की देखरेख ग्लोबल एआई काउंसिल द्वारा की जाती है और उनके आदेश के तहत उन्हें एआई प्लेटफार्मों के संभावित नकारात्मक प्रभावों का अनुमान लगाना चाहिए, फिर इन समस्याओं से आगे निकलने का प्रयास करना चाहिए। जैसा कि वेंचरबीट ने रिपोर्ट किया है, एआई फाउंडेशन ने डीपफेक का पता लगाने में सहायता के लिए जो उपकरण बनाए हैं उनमें से एक को रियलिटी डिफेंडर करार दिया गया है। रियलिटी डिफेंडर एक उपकरण है जिसे कोई व्यक्ति अपने वेब ब्राउज़र में उपयोग कर सकता है (उस पर जांच करें), जो वीडियो, छवियों और अन्य प्रकार के मीडिया का विश्लेषण करेगा ताकि उन संकेतों का पता लगाया जा सके कि मीडिया नकली है या किसी तरह से बदल दिया गया है। उम्मीद है कि यह टूल इंटरनेट पर डीपफेक के बढ़ते प्रवाह को रोकने में मदद करेगा, जो कुछ अनुमानों के अनुसार पिछले छह महीनों के दौरान लगभग दोगुना हो गया है।

रियलिटी डिफेंडर विभिन्न प्रकार के एआई-आधारित एल्गोरिदम का उपयोग करके काम करता है जो किसी छवि या वीडियो के नकली होने का संकेत देने वाले सुरागों का पता लगा सकता है। एआई मॉडल चालाकी और हेरफेर के सूक्ष्म संकेतों का पता लगाता है, और मॉडल द्वारा पहचाने गए गलत सकारात्मक को उपकरण के उपयोगकर्ताओं द्वारा गलत करार दिया जाता है। फिर डेटा का उपयोग मॉडल को फिर से प्रशिक्षित करने के लिए किया जाता है। एआई कंपनियां जो गैर-भ्रामक डीपफेक बनाती हैं, उनकी सामग्री को "ईमानदार एआई" टैग या वॉटरमार्क के साथ टैग किया जाता है जो लोगों को एआई-जनरेटेड फेक की आसानी से पहचान करने देता है।

रियलिटी डिफेंडर उपकरणों के एक समूह और एक संपूर्ण एआई जिम्मेदारी मंच में से एक है जिसे एआई फाउंडेशन बनाने का प्रयास कर रहा है। एआई फाउंडेशन गार्जियन एआई के निर्माण पर काम कर रहा है, जो इस सिद्धांत पर बनाया गया एक जिम्मेदारी मंच है कि व्यक्तियों को व्यक्तिगत एआई एजेंटों तक पहुंच होनी चाहिए जो उनके लिए काम करते हैं और जो बुरे अभिनेताओं द्वारा उनके शोषण से बचाने में मदद कर सकते हैं। अनिवार्य रूप से, एआई फाउंडेशन का लक्ष्य समाज में एआई की पहुंच का विस्तार करना, इसे अधिक लोगों तक पहुंचाना है, साथ ही एआई के जोखिमों से बचाव करना भी है।

रियलिटी डिफेंडर संयुक्त राज्य अमेरिका में गलत सूचना को कम करने का लक्ष्य रखने वाला एकमात्र नया एआई-संचालित उत्पाद नहीं है। इसी तरह के एक उत्पाद को सर्फसेफ कहा जाता है, जिसे यूसी बर्कले के दो स्नातक छात्रों, रोहन फड़ते और ऐश भट ने बनाया था। द वेर्ज के अनुसार, सर्फसेफ अपने उपयोगकर्ताओं को मीडिया के एक टुकड़े पर क्लिक करने की अनुमति देकर संचालित होता है जिसके बारे में वे उत्सुक हैं और प्रोग्राम एक रिवर्स छवि खोज करेगा और इंटरनेट पर विभिन्न विश्वसनीय स्रोतों से समान सामग्री ढूंढने का प्रयास करेगा, जो ज्ञात छवियों को चिह्नित करेगा सिद्धांतबद्ध।

यह स्पष्ट नहीं है कि ये समाधान दीर्घावधि में कितने प्रभावी होंगे। डार्टमाउथ कॉलेज के प्रोफेसर और फोरेंसिक विशेषज्ञ हनी फ़रीद को द वर्ज द्वारा उद्धृत किया गया था यह कहते हुए कि उन्हें "बेहद संदेह" है कि रियलिटी डिफेंडर जैसी योजनाएँ सार्थक क्षमता में काम करेंगी। फरीद ने बताया कि नकली सामग्री का पता लगाने में प्रमुख चुनौतियों में से एक यह है कि मीडिया पूरी तरह से नकली या वास्तविक नहीं है। फरीद ने समझाया:

“वहाँ एक सातत्य है; निपटने के लिए मुद्दों की एक अविश्वसनीय रूप से जटिल श्रृंखला। कुछ परिवर्तन अर्थहीन होते हैं, और कुछ मौलिक रूप से किसी छवि की प्रकृति को बदल देते हैं। यह दिखावा करना कि हम अंतर पहचानने के लिए एआई को प्रशिक्षित कर सकते हैं, अविश्वसनीय रूप से भोलापन है। और यह दिखावा करना कि हम क्राउडसोर्स कर सकते हैं, यह तो और भी अधिक है।”

इसके अलावा, क्राउडसोर्सिंग तत्वों को शामिल करना मुश्किल है, जैसे कि झूठी सकारात्मकता को टैग करना, क्योंकि मनुष्य आमतौर पर नकली छवियों की पहचान करने में काफी खराब होते हैं। मनुष्य अक्सर गलतियाँ करते हैं और सूक्ष्म विवरण भूल जाते हैं जो किसी छवि को नकली के रूप में चिह्नित करते हैं। यह भी स्पष्ट नहीं है कि बुरे विश्वास वाले अभिनेताओं से कैसे निपटा जाए जो सामग्री को चिह्नित करने पर ट्रोल करते हैं।

ऐसा लगता है कि, अधिकतम प्रभावी होने के लिए, नकली-पहचान करने वाले उपकरणों को डिजिटल साक्षरता प्रयासों के साथ जोड़ना होगा जो लोगों को ऑनलाइन बातचीत करने वाली सामग्री के बारे में तर्क करना सिखाएं।