ما هي Deepfakes؟

مع زيادة سهولة صنع Deepfakes وانتشارها، يُ accord أكثر الانتباه لها. أصبحت Deepfakes محور المناقشات المتعلقة بأخلاقيات الذكاء الاصطناعي، ومعلومات خاطئة، وفتح المعلومات والإنترنت، والتنظيم. من المفيد أن يكون الشخص على دراية بDeepfakes، وأن يكون لديه فهم直觉ي لما هي Deepfakes. سيوضح هذا المقال تعريف Deepfake، ويفحص استخداماتها، ويناقش كيف يمكن الكشف عنها، ويفحص الآثار التي قد تترتب على Deepfakes للمجتمع.

ما هي Deepfakes؟

قبل المضي في مناقشة Deepfakes بشكل أكبر، سيكون من المفيد أن نقضي بعض الوقت في توضيح ما هي “Deepfakes” بشكل فعلي. هناك قدر كبير من الارتباك حول مصطلح Deepfake، وغالبًا ما يتم تطبيق المصطلح بشكل خاطئ على أي وسيلة إعلامية زائفة، بغض النظر عما إذا كانت Deepfake حقيقية أم لا. لكي تُعتبر وسيلة إعلامية زائفة كDeepfake، يجب أن تُنشأ مع نظام تعلم آلي، وخاصة شبكة عصبية عميقة.

المكون الرئيسي للديبفيك هو التعلم الآلي. جعل التعلم الآلي من الممكن لأجهزة الكمبيوتر توليد الفيديو والصوت تلقائيًا بسرعة وسهولة. يتم تدريب الشبكات العصبية العميقة على لقطات لفرد حقيقي من أجل أن تتعلم الشبكة كيف يبدو الناس ويتحركون في ظل الظروف البيئية المستهدفة. ثم يتم استخدام الشبكة المدربة على صور لفرد آخر وتحسينها بتقنيات رسومات حاسوبية إضافية من أجل دمج الشخص الجديد مع اللقطات الأصلية. يتم استخدام خوارزمية ترميز لتحديد التشابه بين الوجه الأصلي والوجه المستهدف. بمجرد عزل الميزات المشتركة للوجهين، يتم استخدام خوارزمية فك الترميز تسمى فك الترميز. يفحص فك الترميز الصور المُرمَزة (المضغوطة) ويعيد بناؤها بناءً على الميزات الموجودة في الصور الأصلية. يتم استخدام两个 فك ترميز، أحدهما على وجه الفرد الأصلي والآخر على وجه الشخص المستهدف. لكي يتم إجراء الاستبدال، يتم تغذية فك الترميز الذي تم تدريبه على صور للشخص X بصور للشخص Y. النتيجة هي أن وجه الشخص Y يتم إعادة بناؤه على تعابير الوجه وتوجيهات الشخص X.

حاليًا، لا يزال الأمر يتطلب وقتًا طويلاً لإنشاء ديبفيك. يجب على منشئ الوسيلة الإعلامية الزائفة قضاء وقت طويل في تعديل معلمات النموذج يدويًا، لأن المعلمات غير المثالية ستؤدي إلى عيوب واضحة وخلل في الصورة تُظهر حقيقتها الزائفة.

على الرغم من أن人们 يفترضون غالبًا أن معظم Deepfakes يتم إنشاؤها باستخدام نوع من الشبكات العصبية يسمى الشبكة التوليفية المعارضة (GAN)، إلا أن العديد من Deepfakes (ربما معظمها) التي تم إنشاؤها في هذه الأيام لا تعتمد على GANs. على الرغم من أن GANs لعبت دورًا بارزًا في إنشاء Deepfakes المبكرة، إلا أن معظم مقاطع الفيديو Deepfakes يتم إنشاؤها من خلال طرق بديلة، وفقًا لسيوي لي من جامعة SUNY Buffalo.

يتطلب الأمر كمية كبيرة من بيانات التدريب لتدريب GAN، وغالبًا ما تأخذ GANs وقتًا أطول لتحويل صورة مقارنة بتقنيات توليد الصور الأخرى. GANs أكثر ملاءمة لإنشاء الصور الثابتة أكثر من الفيديو، لأن GANs تواجه صعوبات في الحفاظ على الاتساق من إطار إلى إطار. من الشائع استخدام ترميز وفك ترميز متعددة لإنشاء Deepfakes.

ما هي استخدامات Deepfakes؟

许多 من Deepfakes الموجودة على الإنترنت هي إباحية. وفقًا لأبحاث أجريت بواسطة Deeptrace، شركة ذكاء اصطناعي، من بين عينة من حوالي 15,000 فيديو Deepfakes تم أخذها في سبتمبر 2019، حوالي 95٪ منها كانت إباحية. أحد الآثار المقلقة لهذا الحقائق هو أن مع تطور التكنولوجيا، قد تزداد حوادث الانتقام الإباحي الزائف.

然而، ليس جميع Deepfakes إباحية. هناك استخدامات مشروعة لتكنولوجيا Deepfake. يمكن أن تساعد تكنولوجيا الصوت Deepfake الأشخاص في بث أصواتهم العادية بعد أن تُتلف أو تفقد بسبب المرض أو الإصابة. يمكن استخدام Deepfakes لاخفاء وجوه الأشخاص الذين في مواقف حساسة وخطيرة، بينما لا يزال يسمح بقراءة شفاههم وتعابيرهم. يمكن استخدام تكنولوجيا Deepfake لتحسين دبلجة الأفلام الأجنبية، ومساعدة في إصلاح الوسائط القديمة والتالفة، وإنشاء أنماط فنية جديدة.

Deepfakes غير الفيديو

في حين يعتقد معظم الناس أن الفيديوهات الزائفة عندما يسمعون مصطلح “Deepfake”، الفيديوهات الزائفة ليست النوع الوحيد من الوسائط الزائفة التي تُنتج بتكنولوجيا Deepfake. تُستخدم تكنولوجيا Deepfake لإنشاء صور ووسائط صوتية زائفة أيضًا. كما ذكرنا من قبل، غالبًا ما تُستخدم GANs لإنشاء صور زائفة. يُعتقد أن هناك العديد من الحالات لملفات تعريف LinkedIn وFacebook التي تحتوي على صور ملفات تعريف تم إنشاؤها bằng خوارزميات Deepfake.

من الممكن إنشاء صوت Deepfakes أيضًا. يتم تدريب الشبكات العصبية العميقة على إنتاج نسخة صوتية لاشخاص مختلفين، بما في ذلك المشاهير والسياسيين. أحد الأمثلة الشهيرة على صوت Deepfake هو عندما استخدمت شركة الذكاء الاصطناعي Dessa نموذجًا ذكيا مدعومًا بخوارزميات غير ذكاء اصطناعي، لإنشاء صوت المضيف جو روجان.

كيفية الكشف عن Deepfakes

مع تطور Deepfakes، سيتعذر تمييزها من الوسائط الحقيقية. حاليًا، هناك علامات محددة يمكن للناس البحث عنها لتحديد ما إذا كان الفيديو هو Deepfake محتمل، مثل التزامن السيئ للشفاه، الحركة غير الطبيعية، الوميض حول حافة الوجه، وتشويه التفاصيل الدقيقة مثل الشعر والأسنان والانعكاسات. تشمل العلامات الأخرى المحتملة لDeepfake أجزاء منخفضة الجودة من نفس الفيديو، ووميض غير منتظم للعينين.

على الرغم من أن هذه العلامات قد تساعد في الكشف عن Deepfake في الوقت الحالي، ومع تطور تكنولوجيا Deepfake، قد يكون الخيار الوحيد للكشف الموثوق عن Deepfakes هو أنواع أخرى من الذكاء الاصطناعي مدربة على تمييز الزائف من الوسائط الحقيقية.

الشركات التي تتعامل مع الذكاء الاصطناعي، بما في ذلك العديد من الشركات التكنولوجية الكبيرة، تبحث في طرق الكشف عن Deepfakes. في ديسمبر الماضي، تم إطلاق تحدي الكشف عن Deepfakes، بدعم من ثلاث شركات تكنولوجية عملاقة: Amazon وFacebook وMicrosoft. عملت فرق البحث من جميع أنحاء العالم على طرق الكشف عن Deepfakes، وتتنافس على تطوير أفضل طرق الكشف. تعمل مجموعات أخرى من الباحثين، مثل مجموعة من الباحثين المشتركة من Google وJigsaw، على نوع من “التحقيق الجنائي للوجه” الذي يمكن أن يكتشف مقاطع الفيديو التي تم تعديلها، جعل مجموعات البيانات مفتوحة المصدر ويشجع الآخرين على تطوير طرق الكشف عن Deepfakes. كما عملت Dessa على تحسين تقنيات الكشف عن Deepfakes، محاولة لضمان أن تعمل نماذج الكشف على مقاطع الفيديو Deepfakes الموجودة على الإنترنت بدلاً من مجموعات التدريب والاختبار المكونة مسبقًا، مثل مجموعة البيانات مفتوحة المصدر التي قدمتها Google.

هناك أيضًا استراتيجيات أخرى يتم التحقيق فيها للتعامل مع انتشار Deepfakes. على سبيل المثال، يمكن فحص مقاطع الفيديو للتأكد من مطابقتها لمصادر المعلومات الأخرى. يمكن إجراء عمليات بحث عن مقاطع فيديو لأحداث قد تم تسجيلها من زوايا أخرى، أو يمكن فحص تفاصيل الخلفية لمقاطع الفيديو (مثل أنماط الطقس والمواقع) للبحث عن التناقضات. إلى جانب ذلك، يمكن استخدام نظام سجل الكتروني متسلسلة لتسجيل مقاطع الفيديو عند إنشائها، مع الحفاظ على الصوت والأصوات الأصلية بحيث يمكن دائمًا التحقق من مقاطع الفيديو المشتقة للتلاعب.

في النهاية، من المهم أن يتم إنشاء طرق موثوقة للكشف عن Deepfakes وأن تظل هذه الطرق متقدمة مع أحدث التطورات في تكنولوجيا Deepfake. على الرغم من أن من الصعب معرفة الآثار الدقيقة لDeepfakes، إذا لم تكن هناك طرق موثوقة للكشف عنها (وأشكال أخرى من الوسائط الزائفة)، قد تنتشر المعلومات الخاطئة وتؤدي إلى تدهور ثقة الناس في المجتمع والمؤسسات.

آثار Deepfakes

ما هي المخاطر التي تطرحها Deepfakes إذا تركت بدون رقابة؟

أحد أكبر المشاكل التي تطرحها Deepfakes حاليًا هي الإباحية غير الم رضية، التي يتم إنشاؤها عن طريق دمج وجوه الناس مع مقاطع فيديو وإطارات إباحية. يخاف خبراء أخلاقيات الذكاء الاصطناعي من أن تُستخدم Deepfakes بشكل أكبر في إنشاء صور انتقام إباحي زائف. إلى جانب ذلك، يمكن استخدام Deepfakes لتخويف الناس وتضرر سمعتهم، لأنها يمكن أن توضع في مواقف مثيرة للجدل ومخزية.

أعربت الشركات والمتخصصون في الأمن السيبراني عن قلقهم بشأن استخدام Deepfakes لتنفيذ عمليات احتيال وغش وابتزاز. يُزعم أن صوت Deepfake تم استخدامه لإقناع موظفين في شركة بنقل الأموال إلى محتاليين

من الممكن أن تؤدي Deepfakes إلى آثار ضارة تتجاوز ما تم ذكره أعلاه. يمكن أن تؤدي Deepfakes إلى تآكل ثقة الناس في الوسائط بشكل عام، وجعل من الصعب على الناس التمييز بين الأخبار الحقيقية والأخبار الزائفة. إذا كانت معظم مقاطع الفيديو على الويب زائفة، فمن السهل على الحكومات والشركات والكيانات الأخرى الشك في القضايا والعمليات غير الأخلاقية المشروعة.

عندما يتعلق الأمر بالحكومات، قد تطرح Deepfakes تهديدات لعمليات الديمقراطية. تتطلب الديمقراطية أن يكون المواطنون قادرين على اتخاذ قرارات مستنيرة بشأن السياسيين بناءً على معلومات موثوقة. تعرض المعلومات الخاطئة للعمليات الديمقراطية للخطر. على سبيل المثال، ظهر الرئيس الغابوني، علي بونغو، في مقطع فيديو حاول فيها أن يطمئن شعبه الغابوني. كان يُعتقد أن الرئيس مريض لفترة طويلة، وانتشرت شائعة عن محاولة انقلاب بعد ظهوره في مقطع فيديو زائف محتمل. زعم الرئيس دونالد ترامب أن التسجيل الصوتي الذي يتباهى فيه بالمساومة على النساء زائف، على الرغم من وصفها أيضًا بأنها “حديث غرفة تغيير الملابس”. كما زعم الأمير أندرو أن الصورة المقدمة من قبل محامي إميلي ميتيليس زائفة، على الرغم من أن المحامي أصر على صحتها.

في النهاية، على الرغم من وجود استخدامات مشروعة لتكنولوجيا Deepfake، هناك العديد من الأضرار المحتملة التي يمكن أن تنشأ من سوء استخدام تلك التكنولوجيا. لهذا السبب، من المهم للغاية أن يتم إنشاء طرق للتحقق من صحة الوسائط وأن تظل هذه الطرق متقدمة مع أحدث التطورات في تكنولوجيا Deepfake.