في عام 2024 ، يصبح Deepfakes شائعا. هنا كيف يمكن للشركات حماية نفسها

منذ الانتخابات الرئاسية عام 2016 على الأقل ، عندما ظهرت مخاوف حول المعلومات الخاطئة في الوعي العام ، حذر الخبراء من تهديد Deepfakes. كانت آثار هذه التكنولوجيا – وما زالت – مخيفة. إن انتشار وسائط الاصطناع الحقيقية دون رقابة يهدد الجميع – من السياسيين إلى الناس العاديين. في بيئة قابلة للاشتعال بالفعل وتتميز بالشك الواسع ، وعدت Deepfakes بزيادة لهيب المزيد.

كما اتضح ، كانت مخاوفنا прежمرة. المعرفة التكنولوجية المطلوبة لصنع Deepfakes فعلا ، إلى جانب جودةها الرديئة في كثير من الأحيان ، يعني أنهم ظلوا قلقا طفيفا على الأقل خلال الدورتين الرئاسيتين الأخيرتين.

لكن كل هذا على وشك التغيير – يتغير بالفعل. خلال السنوات القليلة الماضية ، دخلت تكنولوجيا الذكاء الاصطناعي التوليدي السوق ، وبشكل كبير ، أبسط عملية إنشاء Deepfakes للمستهلك العادي. أدت هذه الابتكارات نفسها إلى زيادة كبيرة في جودة Deepfakes ، بحيث في اختبار عمي ، لن يكون بمقدور معظم الناس التمييز بين فيديو معدل وواحد حقيقي.

هذا العام ، على وجه الخصوص ، بدأنا نرى مؤشرات على كيفية تأثير هذه التكنولوجيا على المجتمع إذا لم يتم اتخاذ خطوات لمكافحتها. على سبيل المثال ، في العام الماضي ، انتشرت صورة محسنة بواسطة الذكاء الاصطناعي للبابا فرانسيس يرتدي سترة أنيقة بشكل غير عادي ، went viral ، واعتبرها الكثيرون حقيقية. بينما قد يبدو هذا ، على مستوى ما ، مثل قطعة بريء من المرح ، يظهر قوة Deepfakes الخطرية ومدى صعوبة الحد من المعلومات الخاطئة بعد أن بدأت في الانتشار. يمكننا أن نتوقع العثور على حالات أقل مرحا – وأكثر خطورة – من هذا النوع من الفبركات الفيروسية في الأشهر والسنوات القادمة.

لذلك ، من الضروري أن تتخذ المنظمات من جميع الأنواع – من الإعلام إلى المالية إلى الحكومات إلى منصات وسائل الإعلام الاجتماعية – موقفا استباقيا تجاه كشف Deepfakes وتحقق صحة المحتوى. هناك حاجة إلى ثقافة الثقة من خلال الحماية التي يجب أن تنشأ الآن ، قبل أن تغمر موجة من Deepfakes فهمنا المشترك للواقع.

فهم تهديد Deepfakes

قبل الغوص في ما يمكن للمنظمات فعله لمكافحة هذا الارتفاع في Deepfakes ، من المفيد توضيح لماذا تتطلب أدوات الحماية. عادة ما يذكر أولئك الذين يهتمون بDeepfakes تأثيرها المحتمل على السياسة والثقة الاجتماعية. هذه العواقب المحتملة مهمة جدا ولا ينبغي إغفالها في أي محادثة حول Deepfakes. لكن كما يحدث ، فإن ظهور هذه التكنولوجيا له آثار محتملة خطيرة عبر قطاعات متعددة من اقتصاد الولايات المتحدة.

خذ التأمين ، على سبيل المثال. حاليا ، يصل إجمالي الاحتيال التأميني السنوي في الولايات المتحدة إلى 308.6 مليار دولار – رقم يصل إلى ربع حجم الصناعة كلها. وفي الوقت نفسه ، فإن العمليات الخلفية لشركة التأمين الأكثر تكرارا تتزايد آليا ، مع توقع أن تكون 70٪ من المطالبات العادية بدون لمس بحلول عام 2025. وهذا يعني أن القرارات تتخذ بتدخل بشري أقل: خدمة ذاتية في الواجهة وآليا مدعوما بالذكاء الاصطناعي في الخلف.

بمعنى ما ، التكنولوجيا نفسها التي سمحت بزيادة في الأتمتة – أي التعلم الآلي والذكاء الاصطناعي – قد ضمان استغلالها من قبل الأفراد السيئين. أصبح من السهل الآن على الشخص العادي التلاعب بالمطالبات – على سبيل المثال ، باستخدام برامج الذكاء الاصطناعي التوليدي مثل Dall-E ، Midjourney ، أو Stable Diffusion لجعل السيارة تبدو أكثر ضررا مما هي عليه في الواقع. بالفعل ، توجد تطبيقات مخصصة لهذا الغرض ، مثل Dude Your Car! ، التي تسمح للمستخدمين بإنشاء ثقوب اصطناعية في صور سياراتهم.

نفس الشيء ينطبق على الوثائق الرسمية ، التي يمكن تعديلها بسهولة الآن – مع فواتير ، وتقييمات التأمين ، وحتى التوقيعات التي يتم تعديلها أو اختراعها بالكامل. هذه القدرة هي مشكلة ليس فقط للتأمين ولكن عبر الاقتصاد. إنه مشكلة للمؤسسات المالية ، التي يجب أن تتحقق من صحة مجموعة واسعة من الوثائق. إنه مشكلة للمتاجر ، التي قد تتلقى شكوى بأن المنتج وصل معيب ، مصحوبة بصوره معدلة.

الشركات ببساطة لا يمكنها العمل بهذا المستوى من عدم اليقين. بعض الاحتيال هو احتمال دائم ، لكن مع Deepfakes ، نحن لا نتحدث عن الاحتيال على الهامش – نحن نتحدث عن كارثة معرفية محتملة حيث لا تملك الشركات أي وسيلة واضحة لتحديد الحقيقة من الخيال ، وتنتهي بفقدان مليارات الدولارات بسبب هذا الارتباك.

مكافحة النار بالنار: كيف يمكن للذكاء الاصطناعي المساعدة

ماذا يمكن فعله لمكافحة هذا؟ ربما ليس من المستغرب ، الجواب يكمن في التكنولوجيا نفسها التي تسهل Deepfakes. إذا أردنا إيقاف هذه الجراثيم قبل أن تكتسب زخما أكبر ، намن cần مكافحة النار بالنار. يمكن للذكاء الاصطناعي المساعدة في إنشاء Deepfakes – ولكنه يمكن أيضا ،幸运ا ، مساعدة في تحديدتها تلقائيا وبمقياس.

باستخدام الأدوات الصحيحة للذكاء الاصطناعي ، يمكن للشركات تحديد تلقائيا ما إذا كانت الصورة أو الفيديو أو الوثيقة معالجة. بإحضار عشرات النماذج المتنوعة لمهمة تحديد الوهم ، يمكن للذكاء الاصطناعي أن يخبر الشركات تلقائيا ما إذا كانت الصورة أو الفيديو مشبوه. مثل الأدوات التي تنشرها الشركات لآليتها اليومية ، يمكن أن تعمل هذه الأدوات في الخلفية دون إرهاق الموظفين المنهكين أو أخذ الوقت بعيدا عن المشاريع المهمة.

إذا تم تحديد الصورة على أنها معدلة محتمل ، يمكن للموظفين البشريين إخطارهم ، ويمكنهم تقييم المشكلة مباشرة ، مدعومين بالمعلومات المقدمة من الذكاء الاصطناعي. باستخدام تحليل العمق ، يمكن أن يخبرهم الذكاء الاصطناعي لماذا يعتقد أن الصورة تم تعديلها – مشيرا ، على سبيل المثال ، إلى البيانات الوصفية المعدلة يدويا ، وجود صور متطابقة عبر الويب ، وعدم انتظام في الصورة ، إلخ.

ليس هذا للاستخفاف بالتقدم الرائع الذي شهدهنا في تكنولوجيا الذكاء الاصطناعي التوليدي خلال السنوات القليلة الماضية ، والتي لها تطبيقات مفيدة ونتاجية عبر الصناعات. لكن قوة – ولاسيما بساطة – هذه التكنولوجيا الناشئة تقريبا تضمن استغلالها من قبل أولئك الذين يريدون التلاعب بالمنظمات ، سواء لأسباب شخصية أو لزرع الفوضى الاجتماعية.

المنظمات يمكن أن تحصل على أفضل العالمين: فوائد الإنتاجية للذكاء الاصطناعي دون سلبيات Deepfakes الشائعة. لكن هذا يتطلب مستوى جديد من اليقظة ، خاصة بالنظر إلى حقيقة أن مخرجات الذكاء الاصطناعي التوليدي تصبح أكثر اقناعا وتفصيلا وواقعيا يوما بعد يوم. كلما أسرعت المنظمات في معالجة هذه المشكلة ، كلما استفادت من فوائد العالم الآلي.