विचारक नेता
2024 में, डीपफेक मुख्यधारा में जा रहे हैं। यहां बताया गया है कि व्यवसाय कैसे अपनी सुरक्षा कर सकते हैं
कम से कम 2016 के चुनाव के बाद से, जब दुष्प्रचार को लेकर चिंताएं सार्वजनिक चेतना में फैल गईं, विशेषज्ञ डीपफेक के बारे में अलार्म बजा रहे हैं। इस तकनीक के निहितार्थ भयावह थे और रहेंगे। अति-यथार्थवादी सिंथेटिक मीडिया का अनियंत्रित प्रसार ख़तरा पैदा करता है हर कोई-राजनेताओं से लेकर आम लोगों तक। पहले से ही बड़े पैमाने पर अविश्वास की विशेषता वाले ज्वलनशील वातावरण में, डीपफेक ने केवल आग की लपटों को और भड़काने का वादा किया है।
जैसा कि बाद में पता चला, हमारा डर समय से पहले था। वास्तव में डीपफेक बनाने के लिए आवश्यक तकनीकी जानकारी, साथ ही उनकी अक्सर घटिया गुणवत्ता, का मतलब है कि कम से कम पिछले दो राष्ट्रपति चुनाव चक्रों के लिए, वे न्यूनतम चिंता का विषय बने रहे।
लेकिन यह सब बदलने वाला है—पहले से ही बदल रहा है। पिछले दो वर्षों में, जेनेरिक एआई तकनीक ने मुख्यधारा में प्रवेश किया है, जिससे औसत उपभोक्ता के लिए डीपफेक बनाने की प्रक्रिया मौलिक रूप से सरल हो गई है। इन्हीं नवाचारों ने डीपफेक की गुणवत्ता में उल्लेखनीय वृद्धि की है, जिससे कि, एक अंधे परीक्षण में, अधिकांश लोग नकली वीडियो को वास्तविक चीज़ से अलग करने में असमर्थ होंगे।
इस वर्ष, विशेष रूप से, हमने इस बात के संकेत देखना शुरू कर दिया है कि यदि इससे निपटने के प्रयास नहीं किए गए तो यह तकनीक समाज को कैसे प्रभावित कर सकती है। उदाहरण के लिए, पिछले साल पोप फ्रांसिस की असामान्य रूप से स्टाइलिश कोट पहने हुए एक एआई-जनरेटेड तस्वीर आई थी तेजी से फैला, और कई लोगों ने इसे प्रामाणिक मान लिया। हालांकि यह एक स्तर पर, मनोरंजन के एक अहानिकर अंश की तरह लग सकता है, यह इन डीपफेक की खतरनाक क्षमता को प्रकट करता है और एक बार गलत सूचना फैलना शुरू हो जाने पर इसे रोकना कितना कठिन हो सकता है। हम आने वाले महीनों और वर्षों में इस तरह की वायरल फेकरी के बहुत कम मनोरंजक और कहीं अधिक खतरनाक मामले देखने की उम्मीद कर सकते हैं।
इस कारण से, यह जरूरी है कि मीडिया से लेकर वित्त तक, सरकारों से लेकर सोशल मीडिया प्लेटफॉर्म तक हर वर्ग के संगठन डीपफेक का पता लगाने और सामग्री प्रामाणिकता सत्यापन के प्रति सक्रिय रुख अपनाएं। सुरक्षा उपायों के माध्यम से विश्वास की संस्कृति स्थापित करने की आवश्यकता है अभी, इससे पहले कि डीपफेक की ज्वारीय लहर वास्तविकता की हमारी साझा समझ को खत्म कर दे।
डीपफेक खतरे को समझना
डीपफेक में इस उछाल से निपटने के लिए संगठन क्या कर सकते हैं, इस पर विचार करने से पहले, यह विस्तार से बताने लायक है कि सुरक्षा उपकरण क्यों आवश्यक हैं। आमतौर पर, डीपफेक के बारे में चिंतित लोग राजनीति और सामाजिक विश्वास पर इसके संभावित प्रभाव का हवाला देते हैं। ये संभावित परिणाम बेहद महत्वपूर्ण हैं और डीपफेक के बारे में किसी भी बातचीत में इन्हें नजरअंदाज नहीं किया जाना चाहिए। लेकिन जैसा कि होता है, इस तकनीक के उदय का अमेरिकी अर्थव्यवस्था के कई क्षेत्रों पर संभावित रूप से गंभीर प्रभाव पड़ता है।
उदाहरण के लिए, बीमा लें। अभी, संयुक्त राज्य अमेरिका में वार्षिक बीमा धोखाधड़ी $308.6 बिलियन तक है - यह संख्या पूरे उद्योग की तुलना में लगभग एक-चौथाई बड़ी है। साथ ही, अधिकांश बीमा कंपनियों के बैक-एंड संचालन तेजी से स्वचालित हो रहे हैं, 70 तक 2025% मानक दावे संपर्क रहित होने का अनुमान है। इसका मतलब यह है कि निर्णय न्यूनतम मानवीय हस्तक्षेप के साथ तेजी से किए जा रहे हैं: स्वयं-सेवा पर फ्रंट एंड और बैक एंड पर एआई-सुविधायुक्त ऑटोमेशन।
विडंबना यह है कि जिस तकनीक ने स्वचालन में इस वृद्धि की अनुमति दी है - यानी, मशीन लर्निंग और कृत्रिम बुद्धिमत्ता - ने बुरे अभिनेताओं द्वारा इसके शोषण की गारंटी दी है। औसत व्यक्ति के लिए दावों में हेरफेर करना अब पहले से कहीं अधिक आसान हो गया है - उदाहरण के लिए, किसी कार को उसकी तुलना में अधिक क्षतिग्रस्त दिखाने के लिए डैल-ई, मिडजर्नी, या स्टेबल डिफ्यूजन जैसे जेनेरिक एआई कार्यक्रमों का उपयोग करना। पहले से ही, विशेष रूप से इस उद्देश्य के लिए ऐप्स मौजूद हैं, जैसे ड्यूड योर कार!, जो उपयोगकर्ताओं को अपने वाहनों की तस्वीरों में कृत्रिम रूप से डेंट बनाने की अनुमति देता है।
यही बात आधिकारिक दस्तावेजों पर भी लागू होती है, जिन्हें अब आसानी से हेरफेर किया जा सकता है - चालान, हामीदारी मूल्यांकन और यहां तक कि हस्ताक्षरों को थोक में समायोजित या आविष्कृत किया जा सकता है। यह क्षमता न केवल बीमाकर्ताओं के लिए बल्कि पूरी अर्थव्यवस्था के लिए एक समस्या है। यह वित्तीय संस्थानों के लिए एक समस्या है, जिन्हें दस्तावेजों की एक विस्तृत श्रृंखला की प्रामाणिकता को सत्यापित करना होगा। यह खुदरा विक्रेताओं के लिए एक समस्या है, जिन्हें शिकायत मिल सकती है कि कोई उत्पाद दोषपूर्ण आया है, साथ में छेड़छाड़ की गई छवि भी है।
व्यवसाय इस स्तर की अनिश्चितता के साथ काम नहीं कर सकते। कुछ हद तक धोखाधड़ी हमेशा अपरिहार्य होती है, लेकिन डीपफेक के साथ, हम हाशिए पर धोखाधड़ी के बारे में बात नहीं कर रहे हैं - हम एक संभावित ज्ञानमीमांसा आपदा के बारे में बात कर रहे हैं जिसमें व्यवसायों के पास कल्पना से सच्चाई का निर्धारण करने का कोई स्पष्ट साधन नहीं है, और अरबों का नुकसान होता है इस भ्रम के लिए डॉलर.
आग से आग से लड़ना: एआई कैसे मदद कर सकता है
तो, इससे निपटने के लिए क्या किया जा सकता है? शायद आश्चर्य की बात नहीं, इसका उत्तर उसी तकनीक में निहित है जो डीपफेक की सुविधा प्रदान करती है। अगर हम इस संकट को और अधिक गति पकड़ने से पहले रोकना चाहते हैं, तो हमें आग से आग से लड़ना होगा। एआई डीपफेक उत्पन्न करने में मदद कर सकता है - लेकिन सौभाग्य से, यह उन्हें स्वचालित रूप से और बड़े पैमाने पर पहचानने में भी मदद कर सकता है।
सही एआई टूल का उपयोग करके, व्यवसाय स्वचालित रूप से यह निर्धारित कर सकते हैं कि किसी दिए गए फोटोग्राफ, वीडियो या दस्तावेज़ के साथ छेड़छाड़ की गई है या नहीं। दर्जनों अलग-अलग मॉडलों को नकली पहचान के कार्य में लाते हुए, एआई स्वचालित रूप से व्यवसायों को सटीक रूप से बता सकता है कि दी गई तस्वीर या वीडियो संदिग्ध है या नहीं। जैसे उपकरण व्यवसाय पहले से ही दैनिक कार्यों को स्वचालित करने के लिए तैनात कर रहे हैं, ये उपकरण अत्यधिक कर्मचारियों पर बोझ डाले बिना या महत्वपूर्ण परियोजनाओं से समय निकाले बिना पृष्ठभूमि में चल सकते हैं।
यदि किसी तस्वीर को संभावित रूप से परिवर्तित किए जाने के रूप में पहचाना जाता है, तो मानव कर्मचारियों को सतर्क किया जा सकता है, और एआई द्वारा प्रदान की गई जानकारी की सहायता से सीधे समस्या का मूल्यांकन कर सकते हैं। डीप-स्कैन विश्लेषण का उपयोग करके, यह व्यवसायों को बता सकता है क्यों इसका मानना है कि एक तस्वीर के साथ छेड़छाड़ की गई है - उदाहरण के लिए, मैन्युअल रूप से परिवर्तित मेटाडेटा, वेब पर समान छवियों का अस्तित्व, विभिन्न फोटोग्राफिक अनियमितताएं आदि।
इनमें से कुछ भी उस अविश्वसनीय प्रगति को बदनाम करने के लिए नहीं है जो हमने पिछले कुछ वर्षों में जेनरेटिव एआई तकनीक में देखी है, जिसका वास्तव में उद्योगों में उपयोगी और उत्पादक अनुप्रयोग है। लेकिन इस उभरती हुई तकनीक की क्षमता - सरलता का जिक्र नहीं - लगभग उन लोगों द्वारा इसके दुरुपयोग की गारंटी देती है जो संगठनों में हेरफेर करना चाहते हैं, चाहे व्यक्तिगत लाभ के लिए या सामाजिक अराजकता पैदा करने के लिए।
संगठन कर सकते हैं दोनों दुनियाओं में सर्वश्रेष्ठ हैं: सर्वव्यापी डीपफेक के नकारात्मक पहलुओं के बिना एआई के उत्पादकता लाभ। लेकिन ऐसा करने के लिए सतर्कता की एक नई डिग्री की आवश्यकता होती है, विशेष रूप से इस तथ्य को देखते हुए कि जेनरेटिव एआई के आउटपुट दिन-ब-दिन अधिक प्रेरक, विस्तृत और जीवंत होते जा रहे हैं। जितनी जल्दी संगठन इस समस्या पर अपना ध्यान देंगे, उतनी जल्दी वे स्वचालित दुनिया का पूरा लाभ उठा सकेंगे।
