2024 में, डीपफेक्स मुख्यधारा में जा रहे हैं। यहाँ कैसे व्यवसाय स्वयं की रक्षा कर सकते हैं

कम से कम 2016 के चुनाव से जब गलत सूचना के बारे में चिंताएं सार्वजनिक चेतना में फूट पड़ीं, विशेषज्ञ डीपफेक्स के बारे में खतरे की घंटी बजा रहे हैं। इस प्रौद्योगिकी के परिणाम – और बने हुए हैं – भयावह हैं। अत्यधिक वास्तविक सिंथेटिक मीडिया का अनियंत्रित प्रसार हर किसी के लिए एक खतरा है – राजनेताओं से लेकर सामान्य लोगों तक। एक पहले से ही विस्फोटक वातावरण में, जो पहले से ही व्यापक अविश्वास से चिह्नित है, डीपफेक्स ने आग में ईंधन डालने का वादा किया है।

जैसा कि यह निकला, हमारे डर समय से पहले थे। डीपफेक्स बनाने के लिए आवश्यक तकनीकी ज्ञान, साथ ही साथ उनकी अक्सर खराब गुणवत्ता, का अर्थ था कि पिछले दो राष्ट्रपति चुनाव चक्रों के लिए, वे एक न्यूनतम चिंता का विषय बने हुए थे।

लेकिन सभी यह बदलने वाला है – बदल रहा है। पिछले दो वर्षों में, जनरेटिव एआई प्रौद्योगिकी मुख्यधारा में प्रवेश कर गई है, जिससे औसत उपभोक्ता के लिए डीपफेक्स बनाने की प्रक्रिया को काफी सरल बना दिया गया है। इन्हीं नवाचारों ने डीपफेक्स की गुणवत्ता में काफी वृद्धि की है, ताकि एक अंधे परीक्षण में, अधिकांश लोग वास्तविक और नकली वीडियो के बीच अंतर नहीं कर पाएंगे।

इस वर्ष, विशेष रूप से, हमें यह देखना शुरू हुआ है कि यह प्रौद्योगिकी समाज पर कैसे प्रभाव डाल सकती है अगर इसका मुकाबला करने के प्रयास नहीं किए जाते हैं। पिछले वर्ष, उदाहरण के लिए, पोप फ्रांसिस की एक एआई-जनरेटेड फोटो जिसमें उन्होंने एक असामान्य रूप से स्टाइलिश कोट पहना हुआ था, वायरल हो गई, और कई लोगों ने इसे वास्तविक माना। जबकि यह एक स्तर पर एक हानिरहित मजाक की तरह लग सकता है, यह डीपफेक्स की खतरनाक शक्ति और गलत सूचना को रोकने में कठिनाई को उजागर करता है जब यह फैलना शुरू हो जाता है। हम आने वाले महीनों और वर्षों में इस तरह के वायरल फर्जीवाड़े के और भी कम हास्यमय – और अधिक खतरनाक – उदाहरणों की अपेक्षा कर सकते हैं।

इसलिए, यह आवश्यक है कि मीडिया से लेकर वित्त तक, सरकारों से लेकर सोशल मीडिया प्लेटफ़ॉर्म तक, हर प्रकार के संगठन डीपफेक्स का पता लगाने और सामग्री की प्रामाणिकता की पुष्टि करने के लिए एक सक्रिय रुख अपनाएं। अब एक सुरक्षा संस्कृति की स्थापना की जानी चाहिए, इससे पहले कि डीपफेक्स की एक लहर हमारी साझा वास्तविकता की समझ को धो दे।

डीपफेक्स खतरे को समझना

डीपफेक्स की इस लहर से निपटने के लिए संगठन क्या कर सकते हैं, इस पर जाने से पहले, यह समझना आवश्यक है कि सुरक्षा उपकरण क्यों आवश्यक हैं। आमतौर पर, डीपफेक्स के बारे में चिंतित लोग उनके राजनीति और सामाजिक विश्वास पर संभावित प्रभाव का उल्लेख करते हैं। ये संभावित परिणाम बहुत महत्वपूर्ण हैं और डीपफेक्स के बारे में किसी भी चर्चा में उन्हें नजरअंदाज नहीं किया जाना चाहिए। लेकिन जैसा कि यह निकला, इस प्रौद्योगिकी के उदय के कई क्षेत्रों में गंभीर परिणाम हो सकते हैं।

उदाहरण के लिए, बीमा लें। वर्तमान में, संयुक्त राज्य अमेरिका में वार्षिक बीमा धोखाधड़ी 308.6 अरब डॉलर तक पहुंच जाती है – एक संख्या जो पूरे उद्योग के आकार का लगभग एक-चौथाई है। उसी समय, अधिकांश बीमा कंपनियों के बैक-एंड संचालन बढ़ती हुई स्वचालित हो रहे हैं, जिसमें 2025 तक 70% मानक दावों को स्पर्शरहित होने का अनुमान है। इसका मतलब है कि निर्णय न्यूनतम मानव हस्तक्षेप के साथ किए जा रहे हैं: फ्रंट-एंड पर स्व-सेवा और बैक-एंड पर एआई-सुविधा स्वचालन।

विडंबना यह है कि जिस प्रौद्योगिकी ने इस स्वचालन में वृद्धि की अनुमति दी है – अर्थात मशीन लर्निंग और आर्टिफ़िशियल इंटेलिजेंस – ने इसका शोषण बुरे अभिनेताओं द्वारा सुनिश्चित किया है। अब यह औसत व्यक्ति के लिए दावों को हेरफेर करना आसान हो गया है – उदाहरण के लिए, डॉल-E, मिडज़र्नी या स्टेबल डिफ्यूजन जैसे जनरेटिव एआई प्रोग्राम का उपयोग करके एक कार को अधिक क्षतिग्रस्त दिखाने के लिए। पहले से ही ऐसे ऐप्स मौजूद हैं जो विशेष रूप से इस उद्देश्य के लिए हैं, जैसे कि ड्यूड योर कार!, जो उपयोगकर्ताओं को अपने वाहनों की तस्वीरों में कृत्रिम रूप से देंट बनाने की अनुमति देता है।

यह समस्या बीमा कंपनियों के लिए ही नहीं, बल्कि पूरे अर्थव्यवस्था के लिए है। यह वित्तीय संस्थानों के लिए एक समस्या है, जिन्हें विभिन्न प्रकार के दस्तावेजों की प्रामाणिकता की पुष्टि करनी होती है। यह खुदरा विक्रेताओं के लिए एक समस्या है, जो एक दोषपूर्ण उत्पाद की शिकायत प्राप्त कर सकते हैं, जिसके साथ एक हेरफेर की गई छवि है।

व्यवसाय इस अनिश्चितता के स्तर के साथ काम नहीं कर सकते। कुछ हद तक धोखाधड़ी शायद हमेशा अपरिहार्य है, लेकिन डीपफेक्स के साथ, हम धोखाधड़ी की बात नहीं कर रहे हैं – हम एक संभावित ज्ञानात्मक आपदा की बात कर रहे हैं जिसमें व्यवसाय सच्चाई और कल्पना के बीच अंतर करने के लिए कोई स्पष्ट साधन नहीं रखते हैं और इस भ्रम के कारण अरबों डॉलर का नुकसान होता है।

आग से आग से लड़ना: एआई कैसे मदद कर सकता है

तो इसका मुकाबला करने के लिए क्या किया जा सकता है? शायद आश्चर्य की बात नहीं है, उत्तर उसी प्रौद्योगिकी में निहित है जो डीपफेक्स को सुविधाजनक बनाती है। यदि हम इस महामारी को और अधिक गति पकड़ने से पहले रोकना चाहते हैं, तो हमें आग से आग से लड़ने की जरूरत है। एआई डीपफेक्स बनाने में मदद कर सकता है – लेकिन यह स्वचालित रूप से और बड़े पैमाने पर उनकी पहचान करने में भी मदद कर सकता है।

सही एआई टूल्स का उपयोग करके, व्यवसाय स्वचालित रूप से निर्धारित कर सकते हैं कि कोई दी गई तस्वीर, वीडियो या दस्तावेज़ हेरफेर किया गया है या नहीं। नकली पहचान के कार्य के लिए दर्जनों विभिन्न मॉडल लाने, एआई व्यवसायों को स्वचालित रूप से बता सकता है कि कोई दी गई तस्वीर या वीडियो संदिग्ध है या नहीं। जैसे कि व्यवसाय पहले से ही दैनिक संचालन को स्वचालित करने के लिए उपकरण तैनात कर रहे हैं, ये उपकरण पृष्ठभूमि में बिना अधिक भारी कर्मचारियों या महत्वपूर्ण परियोजनाओं से समय लिए चल सकते हैं।

यदि और जब कोई तस्वीर संभावित रूप से बदली हुई के रूप में पहचानी जाती है, तो मानव कर्मचारियों को सतर्क किया जा सकता है और वे सीधे समस्या का मूल्यांकन कर सकते हैं, एआई द्वारा प्रदान की गई जानकारी से सहायता प्राप्त कर सकते हैं। गहरे स्कैन विश्लेषण का उपयोग करके, यह व्यवसायों को बता सकता है कि क्यों यह मानता है कि एक तस्वीर संभवतः हेरफेर की गई है – मैनुअल रूप से संशोधित मेटाडेटा, वेब पर समान छवियों की उपस्थिति, विभिन्न फोटोग्राफिक अनियमितताओं की ओर इशारा करते हुए, आदि।

यह जनरेटिव एआई प्रौद्योगिकी में हाल के वर्षों में हुई अद्भुत प्रगति को कम करने के लिए नहीं है, जो वास्तव में विभिन्न उद्योगों में उपयोगी और उत्पादक अनुप्रयोगों के लिए है। लेकिन इस उभरती प्रौद्योगिकी की शक्ति – और सादगी – इसका दुरुपयोग उन लोगों द्वारा करने की लगभग गारंटी देती है जो संगठनों को हेरफेर करना चाहते हैं, चाहे व्यक्तिगत लाभ के लिए हो या सामाजिक अराजकता पैदा करने के लिए।

संगठन दोनों दुनिया के सर्वश्रेष्ठ हिस्से रख सकते हैं: एआई के उत्पादकता लाभ और डीपफेक्स के नुकसान के बिना। लेकिन ऐसा करने के लिए एक नए स्तर की सावधानी की आवश्यकता है, खासकर जब यह देखते हुए कि जनरेटिव एआई के आउटपुट दिन-ब-दिन अधिक प्रभावशाली, विस्तृत और जीवन जैसे होते जा रहे हैं। जितनी जल्दी संगठन इस समस्या पर ध्यान देंगे, उतनी ही जल्दी वे एक स्वचालित दुनिया के पूर्ण लाभों का आनंद ले पाएंगे।