एआई ब्राउज़र टूल्स डीपफेक्स और अन्य फेक मीडिया को पहचानने का प्रयास करते हैं

प्रौद्योगिकी कंपनियों द्वारा गलत सूचना और नकली सामग्री से निपटने के प्रयास हाल के समय में तेज हो गए हैं क्योंकि डीपफेक्स जैसी नकली सामग्री उत्पादन प्रौद्योगिकियां अधिक परिष्कृत और उपयोग में आसान होती जा रही हैं। डीपफेक्स का पता लगाने और उनसे लड़ने में मदद करने के लिए एक आगामी प्रयास रियलिटीडिफेंडर है, जिसे एआई फाउंडेशन द्वारा उत्पादित किया गया है, जो नैतिक एआई एजेंटों और सहायकों को विकसित करने के लिए प्रतिबद्ध है जिन्हें उपयोगकर्ता विभिन्न कार्यों को पूरा करने के लिए प्रशिक्षित कर सकते हैं।

एआई फाउंडेशन की सबसे उल्लेखनीय परियोजना एक मंच है जो लोगों को अपने डिजिटल अवतार बनाने की अनुमति देता है जो उन्हें लगता है और आभासी हैंगआउट स्थानों में उनका प्रतिनिधित्व करता है। एआई फाउंडेशन ग्लोबल एआई काउंसिल द्वारा पर्यवेक्षित है, और उनके जनादेश के हिस्से के रूप में, उन्हें संभावित नकारात्मक प्रभावों की भविष्यवाणी करनी चाहिए एआई प्लेटफार्मों की, और फिर इन समस्याओं से आगे निकलने का प्रयास करना चाहिए। वेंचरबीट द्वारा रिपोर्ट के अनुसार, एआई फाउंडेशन द्वारा बनाए गए डीपफेक्स का पता लगाने में मदद करने के लिए एक उपकरण रियलिटी डिफेंडर है। रियलिटी डिफेंडर एक उपकरण है जिसे एक व्यक्ति अपने वेब ब्राउज़र में उपयोग कर सकता है (जांच करें), जो वीडियो, छवियों, और अन्य प्रकार की मीडिया का विश्लेषण करेगा जो नकली या किसी तरह से बदले जाने के संकेतों का पता लगाने के लिए। आशा है कि यह उपकरण इंटरनेट पर डीपफेक्स की बढ़ती धारा का मुकाबला करने में मदद करेगा, जो कुछ अनुमानों के अनुसार पिछले छह महीनों में लगभग दोगुनी हो गई है।

रियलिटी डिफेंडर एआई-आधारित अल्गोरिदम की एक श्रृंखला का उपयोग करके काम करता है जो एक छवि या वीडियो के नकली होने के संकेतों का पता लगा सकता है। एआई मॉडल छवि या वीडियो में छेड़छाड़ के सूक्ष्म संकेतों का पता लगाते हैं, और मॉडल द्वारा पहचाने गए झूठे सकारात्मक को उपकरण के उपयोगकर्ता द्वारा गलत के रूप में चिह्नित किया जाता है। डेटा का उपयोग तब मॉडल को पुनः प्रशिक्षित करने के लिए किया जाता है। जो एआई कंपनियां गैर-धोखाधड़ी वाले डीपफेक्स बनाती हैं, उनकी सामग्री को एक “ईमानदार एआई” टैग या वॉटरमार्क के साथ चिह्नित किया जाता है जो लोगों को तुरंत एआई-जनित नकली की पहचान करने की अनुमति देता है।

रियलिटी डिफेंडर एआई फाउंडेशन द्वारा बनाई जा रही एक सुइट ऑफ टूल्स और एक पूरे एआई जिम्मेदारी मंच का sadece एक हिस्सा है। एआई फाउंडेशन गार्डियन एआई के निर्माण का प्रयास कर रहा है, जो एक जिम्मेदारी मंच है जो इस सिद्धांत पर बनाया गया है कि व्यक्तियों के पास व्यक्तिगत एआई एजेंटों तक पहुंच होनी चाहिए जो उनके लिए काम करते हैं और जो उन्हें बुरे अभिनेताओं द्वारा शोषण से बचाने में मदद कर सकते हैं। मूल रूप से, एआई फाउंडेशन समाज में एआई की पहुंच का विस्तार करने का प्रयास कर रहा है, इसे अधिक लोगों तक ले जा रहा है, जबकि एआई के जोखिमों से भी रक्षा कर रहा है।

रियलिटी डिफेंडर एकमात्र नए एआई-संचालित उत्पाद नहीं है जो संयुक्त राज्य अमेरिका में गलत सूचना को कम करने का लक्ष्य रखता है। एक समान उत्पाद सर्फसेफ है, जिसे यूसी बर्कले के दो अंडरग्रेजुएट, रोहन फड़ते और आश भट्ट द्वारा बनाया गया है। द वर्ज के अनुसार, सर्फसेफ अपने उपयोगकर्ताओं को एक मीडिया पर क्लिक करने की अनुमति देता है जिसके बारे में वे जानना चाहते हैं और कार्यक्रम विभिन्न विश्वसनीय स्रोतों से समान सामग्री के लिए एक रिवर्स छवि खोज करेगा और जानबूझकर छेड़छाड़ की जाने वाली छवियों को चिह्नित करेगा।

यह स्पष्ट नहीं है कि लंबे समय में ये समाधान कितने प्रभावी होंगे। डार्टमाउथ कॉलेज के प्रोफेसर और फोरेंसिक विशेषज्ञ हानी फारिद को द वर्ज द्वारा उद्धृत किया गया है कि वह “बेहद संदेह” है कि रियलिटी डिफेंडर जैसी योजनाएं किसी भी अर्थपूर्ण तरीके से काम करेंगी। फारिद ने समझाया कि नकली सामग्री का पता लगाने की एक प्रमुख चुनौती यह है कि मीडिया शुद्ध रूप से नकली या वास्तविक नहीं है। फारिद ने समझाया:

“एक श्रृंखला है; एक अविश्वसनीय रूप से जटिल श्रृंखला के मुद्दों से निपटने के लिए। कुछ परिवर्तन अर्थहीन हैं, और कुछ मूल रूप से एक छवि की प्रकृति को बदल देते हैं। यह दावा करना कि हम एक एआई को अंतर का पता लगाने के लिए प्रशिक्षित कर सकते हैं यह अविश्वसनीय रूप से भोला है। और यह दावा करना कि हम इसे भीड़ से स्रोत कर सकते हैं और भी अधिक है।”

इसके अलावा, यह भीड़ से स्रोत करने में मुश्किल है, जैसे कि झूठे सकारात्मक को चिह्नित करना, क्योंकि मानव आमतौर पर नकली छवियों की पहचान करने में बहुत खराब होते हैं। मानव अक्सर गलतियां करते हैं और नकली के रूप में एक छवि को चिह्नित करने वाले सूक्ष्म विवरण को याद करते हैं। यह भी स्पष्ट नहीं है कि बुरे विश्वास अभिनेताओं से निपटने के लिए कैसे जो जब वे सामग्री को चिह्नित करते हैं तो ट्रोल करते हैं।

यह संभावना है कि नकली पता लगाने वाले उपकरणों को अधिकतम प्रभावी होने के लिए, उन्हें ऑनलाइन सामग्री के साथ बातचीत करने के तरीके के बारे में लोगों को तर्क करने के लिए डिजिटल साक्षरता प्रयासों के साथ जोड़ा जाना चाहिए।