زاوية Anderson

كشف مكالمات الفيديو المزيفة عن طريق إضاءة الشاشة

Martin Anderson
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالإضاءة النشطة مع تغييرات اللون المتساوية الإضاءة تتجنب التعريض التلقائي لكاميرا الويب…
عرض المزيد
  • الإضاءة النشطة مع تغييرات اللون المتساوية الإضاءة تتجنب التعريض التلقائي لكاميرا الويب وتعويض توازن اللون الأبيض.
  • يكتشف النظام تأخر التزييف العميق عن طريق قياس إزاحة زمنية من 1 إلى 4 إطارات بين لون الشاشة ولون الوجه.
  • يمكن للأنظمة المستقبلية توسيع نطاق الكشف ليشمل الرقبة والخلفية بدلاً من الوجه فقط، لإجراء تحليل إضاءة ثلاثي الأبعاد أكثر ثراءً.

يقدم بحث جديد مشترك بين باحث من وكالة الأمن القومي الأمريكية و جامعة كاليفورنيا في بيركلي طريقة جديدة لاكتشاف محتوى الفيديو المزيف في سياق مكالمة فيديو حية – من خلال ملاحظة تأثير إضاءة الشاشة على مظهر الشخص في الطرف الآخر من المكالمة.

يحاول مستخدم DeepFaceLive الشهير Druuzil Tech & Games تجربة نموذج Christian Bale DeepFaceLab الخاص به في جلسة حية مع متابعيه، مع تغيير مصادر الإضاءة. مصدر: https://www.youtube.com/watch?v=XPQLDnogLKA

يحاول مستخدم DeepFaceLive الشهير Druuzil Tech & Games تجربة نموذج Christian Bale DeepFaceLab الخاص به في جلسة حية مع متابعيه، مع تغيير مصادر الإضاءة. مصدر: https://www.youtube.com/watch?v=XPQLDnogLKA

يعمل النظام عن طريق وضع عنصر رسومي على شاشة المستخدم يتغير نطاق ضيق من لونه بشكل أسرع من قدرة نظام الفيديو المزيف على الاستجابة – حتى لو كان قادرًا على الحفاظ على نقل اللون في الوقت الفعلي ومراعاة الإضاءة المحيطة، مثل تطبيق البث المباشر للتزييف العميق DeepFaceLive الموضح أعلاه.

تظهر الصورة الموحدة التي تظهر على شاشة الشخص في الطرف الآخر (أي المحتال المحتمل) دورة من التغييرات في اللون المصممة لعدم تنشيط توازن اللون التلقائي للكاميرا وأنظمة تعويض الإضاءة الأخرى المخصصة للحالة، التي من شأنها تعطيل الطريقة.

من الورقة، توضيح لتغيير ظروف الإضاءة من الشاشة أمام المستخدم، والتي تعمل بشكل فعال كضوء منطقة متفرق.

من الورقة، توضيح لتغيير ظروف الإضاءة من الشاشة أمام المستخدم، والتي تعمل بشكل فعال كضوء منطقة متفرق. مصدر: https://farid.berkeley.edu/downloads/publications/cvpr22a.pdf

تعتمد النظرية وراء هذا النهج على أن أنظمة الفيديو المزيفة الحية لا تستطيع الاستجابة في الوقت المناسب للتغييرات الموضحة في الرسومات على الشاشة، مما يزيد من “التأخر” لتأثير الفيديو المزيف في أجزاء معينة من الطيف، مما يفضح وجوده.

لقياس ضوء الشاشة المنعكس بدقة، يحتاج النظام إلى مراعاة وتخفيض تأثير الإضاءة البيئية العامة التي لا علاقة لها بالضوء المنبعث من الشاشة. ثم يتمكن من التمييز بين النقص في قياس لون الإضاءة الفعالة و لون الوجه، مما يمثل تحولًا زمنيًا يتراوح بين 1-4 إطارات.

من خلال حصر تغيرات اللون في رسم الكاشف على الشاشة ومنع التغيرات الكبيرة في إضاءة الشاشة من تفعيل الضبط التلقائي للكاميرا، اكتشف الباحثون تأخرًا كاشفًا في تكيف نظام التزييف العميق مع الإضاءة.

من خلال تقييد التغييرات في لون الرسومات “الكاشف” على الشاشة، وضمان أن كاميرا الويب لا يتم تشغيلها تلقائيًا لضبط إعدادات التقاطها بسبب تغيير كبير في إضاءة الشاشة، تمكن الباحثون من اكتشاف تأخرًا واضحًا في تعديل نظام الفيديو المزيف للتغييرات في الإضاءة.

يستنتج البحث:

‘نظرًا للثقة المعقولة التي نضعها في مكالمات الفيديو الحية، وانتشار مكالمات الفيديو في حياتنا الشخصية والمهنية، نقترح أن تقنيات التحقق من صحة الفيديو (والصوت) سوف تزداد أهمية.’

الدراسة بعنوان كشف فيديوهات التزييف العميق في الوقت الفعلي باستخدام الإضاءة النشطة، ومن تأليف كاندس آر. جيرستنر، باحثة في الرياضيات التطبيقية في وزارة الدفاع الأمريكية، وأستاذ هاني فريد من بيركلي.

تآكل الثقة

لقد تحول مشهد البحث المضاد للفيديوهات المزيفة بشكل ملحوظ في الأشهر الستة الماضية، من الكشف العام عن الفيديوهات المزيفة (أي الاستهداف الفيديوهات المسجلة والمحتوى الإباحي) إلى الكشف عن الحضور الحقيقي المباشر، استجابة لموجة متزايدة من حوادث استخدام الفيديوهات المزيفة في مكالمات الفيديو، ولتحذيرات مكتب التحقيقات الفيدرالي الأخيرة بشأن استخدام هذه التقنيات بشكل متزايد في طلبات التوظيف للعمل عن بُعد.

حتى في الحالات التي لا يتم فيها تزوير مكالمة الفيديو، فإن فرص زيادة استخدام محاكاة الفيديو مدعومة بالذكاء الاصطناعي تبدأ في إثارة الشكوك.

ينص البحث على:

‘إن إنشاء فيديوهات مزيفة في الوقت الفعلي يطرح تهديدات فريدة بسبب الشعور العام بالثقة المحيطة بمكالمة فيديو حية أو هاتفية، و تحدي كشف الفيديوهات المزيفة في الوقت الفعلي، أثناء استمرار المكالمة.’

لقد وضع المجتمع البحثي منذ فترة طويلة هدفًا لنفسه وهو العثور على علامات لا لبس فيها لفيديوهات مزيفة لا يمكن تعويضها بسهولة. على الرغم من أن وسائل الإعلام قد وصفت هذا عادةً على أنه حرب تكنولوجية بين باحثي الأمن ومطوري الفيديوهات المزيفة، فإن معظم إبطال النهج الأولى (مثل تحليل رمش العين، تمييز وضع الرأس، و تحليل السلوك) حدثت ببساطة لأن المطورين والمستخدمين كانوا يحاولون جعل فيديوهات مزيفة أكثر واقعية بشكل عام، وليس بالضرورة لمواجهة أحدث “دلالة” تم تحديدها من قبل مجتمع الأمن.

إلقاء الضوء على فيديوهات التزييف العميق المباشرة

يحمل اكتشاف فيديوهات مزيفة في بيئات الفيديو الحية عبء مراعاة الاتصالات الفيديوية الضعيفة، والتي هي شائعة جدًا في سيناريوهات مؤتمرات الفيديو. حتى بدون طبقة فيديو مزيفة متداخلة، قد يكون المحتوى الفيديوي خاضعًا لتأخيرات من نمط ناسا، و تشوهات، و أنواع أخرى من التدهور في الصوت والصورة. يمكن أن تخدم هذه لتخفيض الحواف الخشنة في هيكل فيديو مزيف حية، في كل من الفيديو و الفيديو المزيف الصوتي.

يعزز نظام المؤلفين الجديد النتائج والأساليب الموجودة في منشور 2020 من مركز الحوسبة الشبكية في جامعة تمبل في فيلادلفيا.

من الورقة 2020، يمكننا ملاحظة تغيير الإضاءة الداخلية للوجه مع تغيير محتوى شاشة المستخدم.

من الورقة 2020، يمكننا ملاحظة تغيير الإضاءة الداخلية للوجه مع تغيير محتوى شاشة المستخدم. مصدر: https://cis.temple.edu/~jiewu/research/publications/Publication_files/FakeFace__ICDCS_2020.pdf

الفرق في العمل الجديد هو أنهم يأخذون في الاعتبار كيف تستجيب الكاميرات للتحولات في الإضاءة. يشرح المؤلفون:

‘نظرًا لأن جميع الكاميرات الحديثة تقوم بتعريض تلقائي، فإن نوع الإضاءة الفعالة عالية الشدة المستخدمة في العمل السابق من المرجح أن يؤدي إلى تعريض الكاميرا التلقائي، مما يؤدي إلى ارتباك المظهر الوجهي المسجل. لتفادي ذلك، نستخدم إضاءة نشطة يتغير فيها التدرج اللوني مع ثبات السطوع.

‘في حين أن هذا يمنع تعريض الكاميرا التلقائي، قد يؤدي إلى تنشيط توازن اللون الأبيض للكاميرا، مما يؤدي مرة أخرى إلى ارتباك المظهر الوجهي المسجل. لتفادي ذلك، نعمل في نطاق لوني حددناه تجريبيًا لا يؤدي إلى توازن أبيض.’

للمبادرة هذه، اعتبر المؤلفون أيضًا مبادرات مشابهة، مثل LiveScreen، الذي يفرض نمطًا ضعيفًا للإضاءة على شاشة المستخدم في محاولة لاكتشاف محتوى فيديو مزيف. ورغم أن هذا النظام حقق دقة بلغت 94.8٪، يرى الباحثون أن دقة أنماط الضوء تجعل تنفيذ هذا الأسلوب الخفي صعبًا في البيئات الساطعة. ويقترحون بدلًا من ذلك دمج نظامهم أو نظام مشابه بصورة معلنة وافتراضية في برامج مؤتمرات الفيديو الشائعة:

«يمكن أن ينفذ التدخل المقترح مشارك في المكالمة يشارك شاشته ويعرض النمط المتغير مع الزمن، أو يمكن، في الحالة المثالية، دمجه مباشرة في تطبيق مكالمات الفيديو.»

الاختبارات

استخدم المؤلفون مزيجًا من النماذج الاصطناعية والمشاركين الحقيقيين لاختبار كاشف الفيديو المزيف الذي يعتمد على Dlib. في السيناريو الاصطناعي، استخدموا Mitsuba، وهو محرك تصيير مباشر وعكسي من المعهد الفدرالي السويسري للتكنولوجيا في لوزان.

عينات من مجموعة البيانات المحاكاة، مع درجات لون الجلد المختلفة، وحجم مصدر الضوء، وشدة الضوء المحيط، والقرب من الكاميرا.

عينات من مجموعة البيانات المحاكاة، مع درجات لون الجلد المختلفة، وحجم مصدر الضوء، وشدة الضوء المحيط، والقرب من الكاميرا.

يتمثل المشهد في رأس ثلاثي الأبعاد مولّد حاسوبيًا ذو معلمات، التقطته كاميرا افتراضية بزاوية رؤية 90 درجة. تتميز الرؤوس ب انعكاس لامبرت ودرجات لون الجلد المحايدة، ويتم وضعها على بعد 2 قدم من الكاميرا الافتراضية.

لاختبار الإطار عبر مجموعة من التكوينات المحتملة، قام الباحثون بتشغيل سلسلة من الاختبارات، متغيرون جوانب مختلفة بشكل متتالي. وشملت الجوانب المتغيرة لون الجلد، والقرب، وحجم مصدر الضوء.

يعلق المؤلفون:

‘في المحاكاة، مع تحقيق افتراضاتنا، فإن تقنيتنا المقترحة قوية للغاية لمجموعة واسعة من تكوينات التصوير.’

في السيناريو الواقعي، استخدم الباحثون 15 متطوعًا مع مجموعة من درجات لون الجلد، في بيئات متنوعة. تم خضوع كل منهم لدورتين من التغييرات المحدودة في اللون، في ظروف حيث تمت مزامنة معدل تحديث الشاشة البالغ 30 هرتز مع كاميرا الويب، مما يعني أن الإضاءة الفعالة سوف تستمر فقط لمدة ثانية واحدة في كل مرة. كانت النتائج مشابهة بشكل عام للاختبارات الاصطناعية، مع زيادة في الارتباط مع قيم الإضاءة الأعلى.

اتجاهات مستقبلية

يقر الباحثون بأن النظام لا يأخذ في الاعتبار الغطاء الوجهي العادي، مثل الغرة، أو النظارات، أو شعر الوجه. ومع ذلك، يلاحظون أن الغطاء يمكن إضافته إلى أنظمة لاحقة (من خلال التسمية والتقسيم الدلالي اللاحق)، والتي يمكن تدريبها على أخذ قيم حصريًا من مناطق الجلد المُدركة في الموضوع الهدف.

يقترح المؤلفون أيضًا أن نمطًا مشابهًا يمكن استخدامه لاكتشاف مكالمات الصوت المزيفة، وأن الصوت الكاشف اللازم يمكن تشغيله في تردد خارج نطاق السمع البشري العادي.

ربما يكون الأمر الأكثر إثارة للاهتمام هو أن الباحثين يقترحون أيضًا أن توسيع منطقة التقييم إلى ما وراء الوجه في إطار التقدير الغني يمكن أن يزيد بشكل كبير من إمكانية اكتشاف الفيديو المزيف:

‘من المحتمل أن يوفر تقدير أكثر تعقيدًا للإضاءة ثلاثية الأبعاد نموذجًا أغنى للمظهر سيكون أكثر صعوبة على المزور تجاوزه. في حين ركزنا فقط على الوجه، فإن شاشة الكمبيوتر تضيء أيضًا الرقبة والجسم العلوي والخلفية المحيطة، والتي يمكن من خلالها إجراء قياسات مماثلة.’

‘ستجبر هذه القياسات الإضافية المزور على مراعاة المشهد ثلاثي الأبعاد الكامل، وليس الوجه فقط.’

 

* تحويلي لمراجع المؤلفين الداخلية إلى روابط.

نشر لأول مرة في 6 يوليو 2022.

كاتب في مجال تعلم الآلة، متخصص في توليد صور البشر. كان رئيسًا سابقًا لمحتوى البحث في Metaphysic.ai، حتى دمجه في Brahma.ai التابعة لـ DNEG.
الموقع الإلكتروني: martinanderson.ai
للتواصل: martin@martinanderson.ai