ما هي تقنية التزييف العميق؟

نظرًا لأن التزييف العميق أصبح أسهل وأكثر إنتاجًا، فقد تم إيلاء المزيد من الاهتمام لها. أصبحت تقنية Deepfakes نقطة محورية في المناقشات المتعلقة بأخلاقيات الذكاء الاصطناعي والمعلومات الخاطئة وانفتاح المعلومات والإنترنت والتنظيم. من المفيد أن تكون على علم بشأن التزييف العميق، وأن يكون لديك فهم بديهي لماهية التزييف العميق. ستوضح هذه المقالة تعريف التزييف العميق، وتفحص حالات استخدامه، وتناقش كيفية اكتشاف التزييف العميق، وتفحص آثار التزييف العميق على المجتمع.

ما هي تقنية التزييف العميق؟

قبل المضي قدمًا في مناقشة التزييف العميق ، سيكون من المفيد قضاء بعض الوقت والتوضيح ما هي "التزييف العميق" في الواقع. هناك قدر كبير من الالتباس فيما يتعلق بمصطلح Deepfake ، وغالبًا ما يتم إساءة تطبيق المصطلح على أي وسائط مزيفة ، بغض النظر عما إذا كانت مزيفة حقيقية أم لا. من أجل التأهل على أنها Deepfake ، يجب إنشاء الوسائط المزيفة المعنية باستخدام نظام التعلم الآلي ، وتحديداً شبكة عصبية عميقة.

العنصر الرئيسي في التزييف العميق هو التعلم الآلي. لقد أتاح التعلم الآلي لأجهزة الكمبيوتر إمكانية إنشاء الفيديو والصوت تلقائيًا بسرعة وسهولة نسبيًا. يتم تدريب الشبكات العصبية العميقة على لقطات لشخص حقيقي حتى تتمكن الشبكة من معرفة كيف يبدو الأشخاص ويتحركون في ظل الظروف البيئية المستهدفة. يتم بعد ذلك استخدام الشبكة المدربة على صور فرد آخر، ويتم تعزيزها بتقنيات رسومات حاسوبية إضافية من أجل دمج الشخص الجديد مع اللقطات الأصلية. يتم استخدام خوارزمية التشفير لتحديد أوجه التشابه بين الوجه الأصلي والوجه المستهدف. بمجرد عزل السمات المشتركة للوجوه، يتم استخدام خوارزمية ذكاء اصطناعي ثانية تسمى وحدة فك التشفير. يقوم جهاز فك التشفير بفحص الصور المشفرة (المضغوطة) وإعادة بنائها بناءً على الميزات الموجودة في الصور الأصلية. يتم استخدام جهازي فك تشفير، أحدهما على وجه الهدف الأصلي والثاني على وجه الشخص المستهدف. من أجل إجراء المبادلة، يتم تغذية وحدة فك التشفير المدربة على صور الشخص X بصور الشخص Y. والنتيجة هي إعادة بناء وجه الشخص Y على تعبيرات وجه الشخص X واتجاهه.

في الوقت الحالي ، لا يزال الأمر يستغرق وقتًا طويلاً حتى يتم إجراء التزييف العميق. يجب أن يقضي منشئ النموذج المزيف وقتًا طويلاً في تعديل معلمات النموذج يدويًا ، حيث ستؤدي المعلمات دون المثالية إلى عيوب ملحوظة ومواطن الخلل في الصورة التي تكشف عن الطبيعة الحقيقية للتزييف.

على الرغم من أنه يُفترض في كثير من الأحيان أن معظم عمليات التزييف العميق مصنوعة من نوع من الشبكة العصبية يسمى a شبكة الخصومة التوليدية (GAN)، العديد (ربما معظم) التزييف العميق الذي تم إنشاؤه هذه الأيام لا يعتمد على شبكات GAN. بينما لعبت شبكات GAN دورًا بارزًا في إنشاء مقاطع فيديو مزيفة مبكرة ، يتم إنشاء معظم مقاطع الفيديو عن طريق طرق بديلة ، وفقًا لـ Siwei Lyu من جامعة SUNY Buffalo.

يتطلب الأمر قدرًا كبيرًا بشكل غير متناسب من بيانات التدريب لتدريب GAN ، وغالبًا ما تستغرق شبكات GAN وقتًا أطول لتقديم صورة مقارنة بتقنيات إنشاء الصور الأخرى. تعد شبكات GAN أيضًا أفضل في إنشاء صور ثابتة من الفيديو ، حيث تواجه شبكات GAN صعوبات في الحفاظ على الاتساق من إطار إلى إطار. من الشائع أكثر استخدام برنامج تشفير ووحدات فك تشفير متعددة لإنشاء تقنية التزييف العميق.

ما هي استخدامات التزييف العميق؟

العديد من الصور المزيفة الموجودة على الإنترنت هي مواد إباحية بطبيعتها. وفقًا لبحث أجرته شركة Deeptrace ، وهي شركة تعمل بالذكاء الاصطناعي ، من بين عينة من حوالي 15,000 مقطع فيديو تم التقاطها في سبتمبر من عام 2019 ، كان ما يقرب من 95 ٪ منها ذات طبيعة إباحية. من الآثار المقلقة لهذه الحقيقة أنه مع ازدياد سهولة استخدام التكنولوجيا ، قد ترتفع حوادث الانتقام الإباحي المزيف.

ومع ذلك ، ليست كل المنتجات المزيفة ذات طبيعة إباحية. هناك استخدامات أكثر شرعية لتقنية deepfake. يمكن أن تساعد تقنية التزييف العميق للصوت الأشخاص على بث أصواتهم العادية بعد تعرضهم للتلف أو الضياع بسبب المرض أو الإصابة. يمكن أيضًا استخدام تقنية التزييف العميق لإخفاء وجوه الأشخاص الذين هم في مواقف حساسة وخطيرة ، مع السماح لهم بقراءة شفاههم وتعبيراتهم. يمكن استخدام تقنية Deepfake لتحسين الدبلجة في الأفلام الأجنبية ، والمساعدة في إصلاح الوسائط القديمة والتالفة ، وحتى إنشاء أنماط فنية جديدة.

التزييف العميق غير المرتبط بالفيديو

بينما يفكر معظم الناس في مقاطع الفيديو المزيفة عندما يسمعون مصطلح "التزييف العميق" ، فإن مقاطع الفيديو المزيفة ليست بأي حال من الأحوال النوع الوحيد من الوسائط المزيفة التي يتم إنتاجها باستخدام تقنية التزييف العميق. تُستخدم تقنية Deepfake لإنشاء صور مزيفة وصوتية أيضًا. كما ذكرنا سابقًا ، كثيرًا ما تستخدم شبكات GAN لإنشاء صور مزيفة. يُعتقد أنه كانت هناك العديد من حالات ملفات تعريف LinkedIn و Facebook المزيفة التي تحتوي على صور ملفات شخصية تم إنشاؤها باستخدام خوارزميات التزييف العميق.

من الممكن أيضًا إنشاء التزييف العميق للصوت. يتم تدريب الشبكات العصبية العميقة على إنتاج نسخ صوتية / جلود صوتية لأشخاص مختلفين ، بما في ذلك المشاهير والسياسيين. أحد الأمثلة الشهيرة على الصوت Deepfake هو عندما شركة AI Dessa استفادوا من نموذج الذكاء الاصطناعي ، مدعومة بخوارزميات غير تابعة للذكاء الاصطناعي ، لإعادة إنشاء صوت مضيف البودكاست جو روغان.

كيف تكتشف التزييف العميق

عندما تصبح تقنية التزييف العميق أكثر تعقيدًا ، فإن تمييزها عن الوسائط الحقيقية سيصبح أكثر صرامة وأكثر صرامة. حاليا ، هناك بضع علامات منبهة يمكن للأشخاص البحث عن ما إذا كان الفيديو مزيفًا بشكل عميق ، مثل ضعف مزامنة الشفاه ، والحركة غير الطبيعية ، والوميض حول حافة الوجه ، والتواء في التفاصيل الدقيقة مثل الشعر أو الأسنان أو الانعكاسات. تشمل العلامات المحتملة الأخرى للتزييف العميق أجزاء منخفضة الجودة من نفس الفيديو ، وميض غير منتظم للعينين.

في حين أن هذه العلامات قد تساعد المرء على اكتشاف التزييف العميق في الوقت الحالي ، حيث تعمل تقنية deepfake على تحسين الخيار الوحيد لاكتشاف التزييف العميق الموثوق به ، فقد تكون أنواعًا أخرى من الذكاء الاصطناعي المدربة على تمييز التزييف عن الوسائط الحقيقية.

تبحث شركات الذكاء الاصطناعي ، بما في ذلك العديد من شركات التكنولوجيا الكبرى ، عن طرق اكتشاف التزييف العميق. في ديسمبر الماضي ، بدأ تحدي اكتشاف التزييف العميق ، بدعم من ثلاثة عمالقة تقنيين: أمازون ، وفيسبوك ، ومايكروسوفت. عملت فرق البحث من جميع أنحاء العالم على طرق اكتشاف التزييف العميق ، والتنافس على تطوير أفضل طرق الكشف. تعمل مجموعات أخرى من الباحثين ، مثل مجموعة من الباحثين المشتركين من Google و Jigsaw ، على نوع من "الطب الشرعي للوجه" يمكنه اكتشاف مقاطع الفيديو التي تم تغييرها ، جعل مجموعات البيانات الخاصة بهم مفتوحة المصدر وتشجيع الآخرين على تطوير طرق الكشف عن التزييف العميق. عملت Dessa المذكورة أعلاه على تحسين تقنيات الكشف عن التزييف العميق ، في محاولة للتأكد من أن نماذج الكشف تعمل على مقاطع فيديو deepfake موجودة في البرية (خارج الإنترنت) بدلاً من مجرد تدريب واختبار مجموعات البيانات ، مثل مجموعة البيانات مفتوحة المصدر قدمت جوجل.

وهناك أيضا استراتيجيات أخرى التي يتم التحقيق فيها للتعامل مع انتشار تقنية التزييف العميق. على سبيل المثال ، يعد فحص مقاطع الفيديو للتأكد من توافقها مع مصادر المعلومات الأخرى إحدى الإستراتيجيات. يمكن إجراء عمليات البحث عن فيديو للأحداث التي يُحتمل أن تكون مأخوذة من زوايا أخرى ، أو يمكن التحقق من تفاصيل خلفية الفيديو (مثل أنماط الطقس والمواقع) بحثًا عن أي تناقضات. أبعد من ذلك ، نظام دفتر الأستاذ عبر الإنترنت Blockchain يمكن تسجيل مقاطع الفيديو عند إنشائها في البداية ، مع الاحتفاظ بالصوت الأصلي والصور بحيث يمكن دائمًا التحقق من مقاطع الفيديو المشتقة للتلاعب بها.

في النهاية ، من المهم أن يتم إنشاء طرق موثوقة لاكتشاف التزييف العميق وأن تواكب طرق الكشف هذه أحدث التطورات في تقنية التزييف العميق. في حين أنه من الصعب معرفة بالضبط ما ستكون عليه آثار التزييف العميق ، إذا لم تكن هناك طرق موثوقة لاكتشاف التزييف العميق (وأشكال أخرى من الوسائط المزيفة) ، فمن المحتمل أن تتفشى المعلومات المضللة وتقوض ثقة الناس في المجتمع والمؤسسات.

آثار التزييف العميق

ما هي مخاطر السماح للتزييف العميق بالانتشار دون رادع؟

واحدة من أكبر المشاكل التي تخلقها تقنية التزييف العميق حاليًا هي المواد الإباحية غير الحسية ، المصممة من خلال الجمع بين وجوه الأشخاص ومقاطع الفيديو والصور الإباحية. يشعر علماء أخلاقيات الذكاء الاصطناعي بالقلق من أن الزيف العميق سيشهد مزيدًا من الاستخدام في إنشاء مواد إباحية انتقامية مزيفة. علاوة على ذلك ، يمكن استخدام تقنية التزييف العميق للتنمر والإضرار بسمعة أي شخص تقريبًا ، حيث يمكن استخدامها لوضع الأشخاص في سيناريوهات مثيرة للجدل ومثيرة للجدل.

أعربت الشركات والمتخصصون في الأمن السيبراني عن قلقهم بشأن استخدام تقنية التزييف العميق لتسهيل عمليات الاحتيال والاحتيال والابتزاز. يزعم أن الصوت العميق كان تستخدم لإقناع الموظفين شركة لتحويل الأموال إلى المحتالين

من المحتمل أن يكون للمزيف العميق آثار ضارة تتجاوز تلك المذكورة أعلاه. يمكن أن يؤدي التزييف العميق إلى تآكل ثقة الناس في وسائل الإعلام بشكل عام ، ويجعل من الصعب على الناس التمييز بين الأخبار الحقيقية والأخبار المزيفة. إذا كانت العديد من مقاطع الفيديو على الويب مزيفة ، فسيصبح من السهل على الحكومات والشركات والكيانات الأخرى التشكيك في الخلافات المشروعة والممارسات غير الأخلاقية.

عندما يتعلق الأمر بالحكومات ، فإن تقنية التزييف العميق قد تشكل تهديدات لعملية الديمقراطية. تتطلب الديمقراطية أن يكون المواطنون قادرين على اتخاذ قرارات مستنيرة بشأن السياسيين بناءً على معلومات موثوقة. المعلومات المضللة تقوض العمليات الديمقراطية. على سبيل المثال ، ظهر رئيس الجابون ، علي بونغو ، في شريط فيديو يحاول طمأنة مواطني الغابون. كان من المفترض أن يكون الرئيس على ما يرام لفترة طويلة من الزمن ، وظهوره المفاجئ في بدأ مقطع فيديو مزيف محتمل في محاولة انقلاب. ادعى الرئيس دونالد ترامب تسجيل صوتي له وهو يتفاخر بجذب النساء من أعضائه التناسلية كان مزيفا، على الرغم من وصفه أيضًا بأنه "حديث في غرفة تبديل الملابس". الأمير أندرو أيضا ادعى أن الصورة التي قدمها محامي إميلي مايتليس كانت مزيفة، رغم إصرار المحامي على صحتها.

في النهاية ، في حين أن هناك استخدامات مشروعة لتقنية deepfake ، إلا أن هناك العديد من الأضرار المحتملة التي يمكن أن تنشأ من إساءة استخدام تلك التكنولوجيا. لهذا السبب ، من المهم للغاية إنشاء طرق لتحديد مصداقية الوسائط والحفاظ عليها.