2024 में, डीपफेक्स मुख्यधारा में जा रहे हैं। यहाँ कुछ तरीके हैं जिनका उपयोग व्यवसाय अपनी सुरक्षा के लिए कर सकते हैं

कम से कम 2016 के चुनाव से जब गलत सूचना के बारे में चिंताएं सार्वजनिक चेतना में आईं, विशेषज्ञ डीपफेक्स के बारे में चेतावनी दे रहे हैं। इस प्रौद्योगिकी के परिणाम – और बने हुए हैं – भयानक हैं। अत्यधिक वास्तविक सिंथेटिक मीडिया का अनियंत्रित प्रसार हर किसी के लिए खतरा है – राजनेताओं से लेकर सामान्य लोगों तक। एक ज्वलनशील वातावरण में जो पहले से ही व्यापक अविश्वास से चिह्नित है, डीपफेक्स ने आग को और भी बढ़ाने का वादा किया है।

जैसा कि यह पता चला है, हमारे डर समय से पहले थे। डीपफेक्स बनाने के लिए आवश्यक तकनीकी ज्ञान, साथ ही साथ उनकी अक्सर शोध्य गुणवत्ता, का अर्थ था कि कम से कम पिछले दो राष्ट्रपति चुनाव चक्रों के लिए, वे एक न्यूनतम चिंता थे।

लेकिन यह सब बदलने वाला है – पहले से ही बदल रहा है। पिछले दो वर्षों में, जनरेटिव एआई प्रौद्योगिकी मुख्यधारा में आई है, जिससे औसत उपभोक्ता के लिए डीपफेक्स बनाने की प्रक्रिया को काफी सरल बना दिया गया है। इन्हीं नवाचारों ने डीपफेक्स की गुणवत्ता में काफी वृद्धि की है, ताकि एक अंधे परीक्षण में, अधिकांश लोग एक डॉक्टर्ड वीडियो को वास्तविक चीज़ से अलग नहीं कर पाएंगे।

इस साल, विशेष रूप से, हमें यह देखना शुरू हो गया है कि यह प्रौद्योगिकी समाज पर कैसे प्रभाव डाल सकती है अगर इसका मुकाबला करने के प्रयास नहीं किए जाते हैं। पिछले साल, उदाहरण के लिए, पोप फ्रांसिस की एक एआई-जनित फोटो जिसमें उन्हें एक असामान्य रूप से स्टाइलिश कोट पहने हुए दिखाया गया था, वायरल हो गई, और कई लोगों ने इसे वास्तविक माना। जबकि यह एक स्तर पर एक हानिरहित बिट की तरह लगता है, यह डीपफेक्स की खतरनाक शक्ति और यह कितना मुश्किल हो सकता है भ्रामक जानकारी को रोकने के लिए एक बार यह फैलने लगे है, का खुलासा करता है। हम आने वाले महीनों और वर्षों में इस तरह के वायरल फर्जीवाड़े के और भी कम हास्यास्पद – और बहुत अधिक खतरनाक – उदाहरणों की अपेक्षा कर सकते हैं।

इस कारण से, यह आवश्यक है कि मीडिया से लेकर वित्त से लेकर सरकारों तक सोशल मीडिया प्लेटफार्मों सहित विभिन्न प्रकार के संगठन डीपफेक्स का पता लगाने और सामग्री की प्रामाणिकता की पुष्टि करने के लिए एक सक्रिय रुख अपनाएं। सुरक्षा के माध्यम से विश्वास की एक संस्कृति की स्थापना अब की जानी चाहिए, इससे पहले कि डीपफेक्स की एक लहर हमारी वास्तविकता की साझा समझ को दूर कर दे।

डीपफेक्स खतरे को समझना

संगठनों द्वारा डीपफेक्स की इस लहर का मुकाबला करने के लिए क्या किया जा सकता है, इस पर जाने से पहले, यह समझना आवश्यक है कि सुरक्षा उपकरण क्यों आवश्यक हैं। आमतौर पर, डीपफेक्स के बारे में चिंतित लोग उनके राजनीति और सामाजिक विश्वास पर संभावित प्रभाव का उल्लेख करते हैं। ये संभावित परिणाम बहुत महत्वपूर्ण हैं और डीपफेक्स के बारे में किसी भी बातचीत में उपेक्षित नहीं किए जाने चाहिए। लेकिन जैसा कि यह पता चला है, इस प्रौद्योगिकी के उदय के कई क्षेत्रों में अमेरिकी अर्थव्यवस्था पर संभावित रूप से विनाशकारी प्रभाव हो सकते हैं।

बीमा को लें, उदाहरण के लिए। अभी भी, संयुक्त राज्य अमेरिका में वार्षिक बीमा धोखाधड़ी 308.6 अरब डॉलर तक है, जो कि पूरे उद्योग के आकार का लगभग एक चौथाई है। उसी समय, अधिकांश बीमा कंपनियों के बैक-एंड ऑपरेशन बढ़ती हुई स्वचालित हो रहे हैं, 2025 तक 70% मानक दावों को स्पर्शरहित होने का अनुमान है। इसका मतलब है कि न्यूनतम मानव हस्तक्षेप के साथ निर्णय लिए जा रहे हैं: फ्रंट-एंड पर स्व-सेवा और बैक-एंड पर एआई-सुविधा स्वचालन।

विडंबना यह है कि इस स्वचालन में वृद्धि की अनुमति देने वाली तकनीक – अर्थात मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस – ने इसका शोषण करने वाले बुरे अभिनेताओं को गारंटी दी है। अब यह औसत व्यक्ति के लिए दावों को हेरफेर करना आसान हो गया है – उदाहरण के लिए, डॉल-E, मिडजॉर्नी या स्टेबल डिफ्यूजन जैसे जनरेटिव एआई प्रोग्राम का उपयोग करके एक कार को अधिक क्षतिग्रस्त दिखाने के लिए। पहले से ही ऐसे ऐप्स मौजूद हैं जो विशेष रूप से इस उद्देश्य के लिए हैं, जैसे कि ड्यूड योर कार!, जो उपयोगकर्ताओं को अपने वाहनों की तस्वीरों में कृत्रिम रूप से दENTS बनाने की अनुमति देता है।

यही बात आधिकारिक दस्तावेजों पर भी लागू होती है, जिन्हें अब आसानी से हेरफेर किया जा सकता है – चालान, अंडरराइटिंग मूल्यांकन, और यहां तक कि हस्ताक्षर भी पूरी तरह से समायोजित या आविष्कृत किए जा सकते हैं। यह समस्या केवल बीमा कंपनियों के लिए नहीं है, बल्कि पूरी अर्थव्यवस्था के लिए है। यह वित्तीय संस्थानों के लिए एक समस्या है, जिन्हें विभिन्न प्रकार के दस्तावेजों की प्रामाणिकता की पुष्टि करनी होती है। यह खुदरा विक्रेताओं के लिए एक समस्या है, जो एक शिकायत प्राप्त कर सकते हैं कि एक उत्पाद दोषपूर्ण है, जो एक हेरफेर की गई छवि के साथ है।

व्यवसाय इस डिग्री की अनिश्चितता के साथ संचालित नहीं हो सकते। कुछ हद तक धोखाधड़ी शायद हमेशा अपरिहार्य है, लेकिन डीपफेक्स के साथ, हम धोखाधड़ी के बारे में बात नहीं कर रहे हैं – हम एक संभावित ज्ञानात्मक आपदा की बात कर रहे हैं जिसमें व्यवसायों के पास सच्चाई और कल्पना के बीच अंतर करने के लिए कोई स्पष्ट साधन नहीं है, और इस भ्रम के कारण अरबों डॉलर का नुकसान होता है।

आग से आग से लड़ना: एआई कैसे मदद कर सकता है

तो क्या किया जा सकता है? शायद आश्चर्य की बात नहीं है, उत्तर उसी प्रौद्योगिकी में निहित है जो डीपफेक्स को सुविधाजनक बनाती है। यदि हम इस महामारी को और अधिक गति पकड़ने से पहले रोकना चाहते हैं, तो हमें आग से आग से लड़ने की जरूरत है। एआई डीपफेक्स बनाने में मदद कर सकता है – लेकिन यह, सौभाग्य से, स्वचालित रूप से और बड़े पैमाने पर उनकी पहचान करने में भी मदद कर सकता है।

सही एआई टूल का उपयोग करके, व्यवसाय स्वचालित रूप से निर्धारित कर सकते हैं कि कोई दी गई फोटो, वीडियो या दस्तावेज़ से छेड़छाड़ की गई है या नहीं। नकली पहचान के कार्य को सौंपने के लिए दर्जनों विभिन्न मॉडल लाने, एआई व्यवसायों को स्वचालित रूप से बता सकता है कि कोई दी गई फोटो या वीडियो संदिग्ध है या नहीं। जैसे कि व्यवसाय पहले से ही दैनिक संचालन को स्वचालित करने के लिए तैनात उपकरण, ये उपकरण पृष्ठभूमि में चल सकते हैं बिना अधिक भारी कर्मचारियों या महत्वपूर्ण परियोजनाओं से समय लिए।

यदि और जब एक फोटो को संभावित रूप से बदला हुआ पहचाना जाता है, तो मानव कर्मचारियों को तब सतर्क किया जा सकता है, और वे सीधे समस्या का मूल्यांकन कर सकते हैं, एआई द्वारा प्रदान की गई जानकारी से सहायता प्राप्त। गहरे स्कैन विश्लेषण का उपयोग करके, यह व्यवसायों को बता सकता है क्यों यह मानता है कि एक फोटो संभावित रूप से हेरफेर की गई है – उदाहरण के लिए, मैनुअल रूप से संशोधित मेटाडेटा, वेब पर समान छवियों का अस्तित्व, विभिन्न फोटोग्राफिक अनियमितताओं, आदि।

यह जनरेटिव एआई प्रौद्योगिकी में पिछले कुछ वर्षों में हुई अद्भुत प्रगति को कम करने के लिए नहीं है, जो वास्तव में उद्योगों में उपयोगी और उत्पादक अनुप्रयोग हैं। लेकिन इस उभरती प्रौद्योगिकी की शक्ति – और सरलता – इसका दुरुपयोग सुनिश्चित करती है उन लोगों द्वारा जो संगठनों को हेरफेर करना चाहते हैं, चाहे वे व्यक्तिगत लाभ के लिए हों या सामाजिक अराजकता पैदा करने के लिए।

संगठन दोनों का सर्वश्रेष्ठ हो सकते हैं: एआई के उत्पादकता लाभ बिना डीपफेक्स के नुकसान के। लेकिन ऐसा करने के लिए एक नए स्तर की सावधानी की आवश्यकता है, खासकर जब यह तथ्य दिया जाता है कि जनरेटिव एआई के आउटपुट और अधिक प्रभावशाली, विस्तृत और जीवन जैसे हो रहे हैं। जितनी जल्दी संगठन इस समस्या पर ध्यान देते हैं, उतनी ही जल्दी वे एक स्वचालित दुनिया के पूर्ण लाभ प्राप्त कर सकते हैं।