زاوية Anderson
مهاراتنا اللاواعية في كشف التزييف العميق قد تدعم الأنظمة الآلية المستقبلية

النقاط الرئيسيةتكشف بيانات تخطيط كهربية الدماغ أن الإشارات العصبية اللاواعية يمكنها التمييز بين الوجوه…
عرض المزيد
- تكشف بيانات تخطيط كهربية الدماغ أن الإشارات العصبية اللاواعية يمكنها التمييز بين الوجوه الحقيقية والمزيفة حتى عندما يفشل المشاهدون في ذلك بوعي.
- تشير الدراسة إلى تدريب كاشفات التزييف العميق على النشاط الدماغي بدلاً من الأحكام البشرية الذاتية لتحقيق دقة أفضل.
- أخطأ المشاركون في تحديد 69% من الوجوه الحقيقية على أنها مزيفة، مما يسلط الضوء على عدم موثوقية الإدراك الواعي في كشف التزييف العميق.
تشير الأبحاث الجديدة من أستراليا إلى أن دماغنا ماهر في التعرف على الوجه المزيف المتقدم ، حتى عندما نعتقد بصورة واعية أن الصور التي نراها حقيقية.
يُشير هذا الاكتشاف أيضًا إلى إمكانية استخدام الاستجابات العصبية للأشخاص لتحديد الوجه المزيف (بدلاً من آرائهم المعلنة) لتدريب أنظمة الكشف عن الوجه المزيف الآلية. سيتم تدريب هذه الأنظمة على خصائص الصور المزيفة (وليس على تقديرات احتمالية ملتبسة) ، ولكن على آلياتنا الإدراكية الغريزية للتعرف على هوية الوجوه.
‘[عندما] يمكن للدماغ ‘التعرف’ على الفرق بين الوجه الحقيقي والوجه المزيف الواقعي ، لا يستطيع المراقبون التمييز بينهما بشكل واعي. تشير نتائجنا إلى انفصال بين استجابة الدماغ وسلوك المراقبين ، وهذا له آثار على كيفية دراستنا لتصور الوجه المزيف ، والأسئلة التي نطرحها عند سؤالنا عن تحديد الصور المزيفة ، والطرق الممكنة التي يمكننا من خلالها وضع معايير حماية ضد إساءة استخدام الصور المزيفة.’
جاءت النتائج في جولات من الاختبارات المصممة لتقييم كيفية استجابة الناس للصور الكاذبة ، بما في ذلك صور الوجوه المزيفة ، والسيارات ، والفراغات الداخلية ، والوجوه المقلوبة (أي رأسًا على عقب).

مختلف الإصدارات والمناهج للتجارب ، والتي تتطلب من مجموعتين من المشاركين تصنيف صورة معروضة لمدة وجيزة على أنها ‘مزيفة’ أو ‘حقيقية’. أُجريت الجولة الأولى عبر Amazon Mechanical Turk بمشاركة 200 متطوع، بينما شارك في الجولة الثانية عدد أقل من المتطوعين الذين أجابوا أثناء اتصالهم بأجهزة EEG. المصدر: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf
يؤكد البحث على ما يلي:
‘تظهر نتائجنا أن المراقبين قد يكونون قادرين على اكتشاف الوجوه المزيفة بعد لمحة سريعة ، ومع ذلك ، يواجهون صعوبة أكبر في تمييز الوجوه الحقيقية من الوجوه المزيفة ، وفي بعض الحالات ، اعتقدوا أن الوجوه المزيفة أكثر واقعية من الوجوه الحقيقية.
‘ومع ذلك ، باستخدام EEG المحدد زمنيًا وطرق التصنيف المتعددة المتغيرة ، وجدنا أنه من الممكن فك تشفير الوجوه غير الواقعية والوجوه الواقعية من الوجوه الحقيقية باستخدام النشاط الدماغي.
‘هذا الانفصال بين السلوك والاستجابات العصبية للوجوه الواقعية يولد أدلة جديدة هامة حول تصور الوجه المزيف ، وكذلك الآثار المتعلقة بفئة الوجوه المزيفة التي تم إنشاؤها بواسطة GANs والتي تزداد واقعية.’
يُقترح البحث أن هذا العمل الجديد له ‘عدة آثار’ في مجال الأمن السيبراني التطبيقي ، وأن تطوير مصنفات الكشف عن التزييف العميق ربما ينبغي أن يسترشد بـ الاستجابة اللاواعية ، كما يتم قياسها بواسطة قراءات EEG استجابة للصور المزيفة ، بدلاً من تقدير المشاهد لصدق الصورة.
يُعلق المؤلفون على ما يلي*:
‘هذا يذكرنا بالاكتشافات التي تُظهر أن الأفراد الذين يعانون من عمى الوجوه ولا يستطيعون تصنيف أو التعرف على الوجوه على أنها مألوفة أو غير مألوفة ، إلا أنهم يظهرون استجابات أقوى للجهاز العصبي اللاإرادي تجاه الوجوه المألوفة مقارنة بـالوجوه غير المألوفة.
‘على نحو مماثل ، ما قد أظهرناه في هذه الدراسة هو أننا ، على الرغم من أننا قد قمنا بفك تشفير الفرق بين الوجوه الحقيقية والوجوه الواقعية من النشاط الدماغي ، إلا أن هذا الفرق لم يظهر سلوكيًا. بدلاً من ذلك ، صنف المراقبون 69٪ من الوجوه الحقيقية على أنها مزيفة.’
هذا العمل الجديد يُسمى هل أنت حقيقي؟ فك ترميز الوجوه الواقعية المولدة بالذكاء الاصطناعي من النشاط الدماغي ، ويأتي من أربعة باحثين في جامعة سيدني ، وجامعة ماكواري ، وجامعة سيدني الغربية ، وجامعة كوينزلاند.
البيانات
جاءت النتائج من فحص أوسع لقدرة الإنسان على التمييز بين الصور الكاذبة الواضحة ، والصور المزيفة فائقة الواقعية، والصور الحقيقية، وذلك في جولتين من الاختبارات.
استخدم الباحثون صورًا تم إنشاؤها بواسطة GANs ، مشاركة من NVIDIA.

صور الوجوه البشرية التي تم إنشاؤها بواسطة GANs ، متاحة من NVIDIA. المصدر: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam
شملت البيانات 25 وجهًا وسيارة وغرفة نوم ، بمستويات تتراوح من ‘غير واقعية’ إلى ‘واقعية’. لتحديد الوجوه الحقيقية (أي المواد غير المزيفة المناسبة) ، استخدم المؤلفون مختارات من البيانات الأصلية لمجموعة Flickr-Faces-HQ التابعة لـ NVIDIA (FFHQ) قاعدة بيانات. لتحديد السيناريوهات الأخرى ، استخدموا مواد من قاعدة بيانات LSUN.
سيتم عرض الصور في النهاية على المشارك في الاختبار إما بشكل طبيعي أو مقلوبة ، وبمعدلات مختلفة ، مع جميع الصور التي تم تحجيمها إلى 256×256 بكسل.
بعد جمع جميع المواد ، اختيرت 450 صورة للاختبارات.
الاختبارات
تم إجراء الاختبارات في البداية عبر الإنترنت ، من خلال jsPsych على pavlovia.org ، مع 200 مشارك يحددون مجموعات مختلفة من بيانات الاختبار. تم عرض الصور لمدة 200 مللي ثانية ، تليها شاشة فارغة ستستمر حتى يقرر المشاهد ما إذا كانت الصورة المعروضة حقيقية أو مزيفة. تم عرض كل صورة مرة واحدة فقط ، وتم إكمال الاختبار في 3-5 دقائق.
استخدمت الجولة الثانية ، التي كانت أكثر إفصاحًا ، مشاركين حاضرين فعليًا ومتصلين بأجهزة EEG ، وتم عرضها على منصة Psychopy2. احتوت كل من العشرين تسلسلًا على 40 صورة ، مع 18,000 صورة تم عرضها عبر جميع بيانات الاختبار.
تم فك تشفير بيانات EEG بواسطة MATLAB مع أداة CoSMoMVPA ، باستخدام مخطط التحقق من الصحة الذي يترك واحدًا باستخدام التحليل التمييزي الخطي (LDA).
كان مصنف LDA هو المكون الذي كان قادرًا على التمييز بين استجابة الدماغ للمحفزات المزيفة وآراء المشاركين الخاصة بصدق الصورة.
النتائج
كان الباحثون مهتمين بمعرفة ما إذا كان المشاركون في اختبار EEG يستطيعون التمييز بين الوجوه المزيفة والحقيقية ، لذلك جمعت النتائج وتمت معالجتها ، ووجدوا أن المشاركين يمكنهم التمييز بين الوجوه غير الواقعية والوجوه الحقيقية بسهولة ، ولكنهم واجهوا صعوبة في تحديد الوجوه المزيفة الواقعية التي تم إنشاؤها بواسطة GANs. بدا أن قلب الصورة رأسًا على عقب لا يحدث فرقًا يُذكر.

التمييز السلوكي بين الوجوه الحقيقية والوجوه المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، في الجولة الثانية.
ومع ذلك ، روت بيانات EEG قصة مختلفة.
يُشير البحث إلى ما يلي:
‘على الرغم من أن المراقبين واجهوا صعوبة في التمييز بين الوجوه الحقيقية والوجوه المزيفة وميلهم إلى تصنيف عدد أكبر من الوجوه على أنها مزيفة ، احتوت بيانات EEG على معلومات إشارة ذات صلة بهذا التمييز والتي تختلف بشكل معنوي بين الواقعية وغير الواقعية ، وهذه الإشارة بدت مقيدة بمرحلة قصيرة من المعالجة.’

هنا يظهر الفرق بين دقة EEG وآراء المشاركين (أي ما إذا كانت صور الوجوه حقيقية أو مزيفة) ليسا متطابقين ، مع تقارب بيانات EEG من الحقيقة أكثر من الإدراك الواضح للمشاركين.
يخلص الباحثون إلى أن المراقبين قد واجهوا صعوبة في تحديد الوجوه المزيفة بشكل ضمني ، ولكن هذه الوجوه لها ‘تمثيلات متميزة في النظام البصري البشري’.
أدى هذا الفرق إلى تكهنات الباحثين حول التطبيقات المحتملة لاكتشافاتهم لآليات الأمن المستقبلية:
‘في إعداد تطبيقي مثل الأمن السيبراني أو Deepfakes ، قد يتم متابعة القدرة على الكشف عن الوجوه الواقعية باستخدام تصنيفات التعلم الآلي المطبقة على بيانات التصوير العصبي بدلاً من أداء السلوك.’
يخلصون إلى ما يلي:
‘فهم الانفصال بين الدماغ والسلوك للكشف عن الوجه المزيف سيكون له آثار عملية على كيفية تعاملنا مع الانتشار الشامل والمحتمل الضرر للمعلومات المولدة اصطناعيًا.’
* تحويلي للاستشهادات الداخلية إلى روابط.
نشر لأول مرة في 11 يوليو 2022.













