يمكن لمهاراتنا في اكتشاف التزييف العميق في اللاوعي أن تدعم الأنظمة الآلية المستقبلية

تشير أبحاث جديدة من أستراليا إلى أن دماغنا ماهر في التعرف على المقاطع المزيفة المعقدة، حتى عندما نعتقد بوعي أن الصور التي نراها حقيقية.

تشير هذه النتيجة أيضًا إلى إمكانية استخدام الاستجابات العصبية للأشخاص لوجوه التزييف العميق (بدلاً من آرائهم المعلنة) لتدريب أنظمة آلية لكشف التزييف العميق. سيتم تدريب هذه الأنظمة على خصائص التزييف العميق للصور، ليس من خلال تقديرات مُربكة لمدى معقوليتها، بل من خلال آلياتنا الإدراكية الغريزية للتعرف على هوية الوجه.

مع أن الدماغ قادر على تمييز الفرق بين الوجوه الحقيقية والواقعية، إلا أن المراقبين لا يستطيعون التمييز بينهما بوعي. لنتائجنا حول التباين بين استجابة الدماغ والسلوك آثار على كيفية دراستنا لإدراك الوجوه المزيفة، والأسئلة التي نطرحها عند الاستفسار عن تحديد الصور المزيفة، والسبل الممكنة لوضع معايير وقائية ضد إساءة استخدام الصور المزيفة.

ظهرت النتائج في جولات من الاختبارات المصممة لتقييم الطريقة التي يستجيب بها الأشخاص للصور الزائفة ، بما في ذلك صور الوجوه المزيفة بشكل واضح ، والسيارات ، والمساحات الداخلية ، والوجوه المقلوبة (أي المقلوبة).

نُفذت تجاربٌ وأساليبٌ مُختلفة، شملت مجموعتين من المُشاركين، طُلب منهم تصنيف صورةٍ عُرضت لفترةٍ وجيزة على أنها "مزيفة" أو "حقيقية". أُجريت الجولة الأولى على منصة Amazon Mechanical Turk، بمشاركة 200 مُتطوع، بينما شملت الجولة الثانية عددًا أقل من المُتطوعين الذين استجابوا للاختبارات وهم مُتصلون بأجهزة تخطيط كهربية الدماغ. المصدر: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

تؤكد الورقة:

تظهر نتائجنا أنه بالنظر إلى لمحة موجزة فقط ، قد يتمكن المراقبون من اكتشاف الوجوه المزيفة. ومع ذلك ، فإنهم يواجهون صعوبة في تمييز الوجوه الحقيقية من الوجوه المزيفة ، وفي بعض الحالات ، يعتقدون أن الوجوه المزيفة أكثر واقعية من الوجوه الحقيقية.

ومع ذلك ، باستخدام أساليب EEG التي تم حلها بمرور الوقت وطرق تصنيف الأنماط متعددة المتغيرات ، وجدنا أنه من الممكن فك تشفير الوجوه غير الواقعية والواقعية من الوجوه الحقيقية باستخدام نشاط الدماغ.

"يؤدي هذا الانفصال بين السلوك والاستجابات العصبية للوجوه الواقعية إلى أدلة جديدة مهمة حول إدراك الوجوه المزيفة بالإضافة إلى الآثار المترتبة على فئة الوجوه التي يتم إنشاؤها بواسطة شبكات GAN والتي أصبحت أكثر واقعية بشكل متزايد."

وتشير الورقة إلى أن العمل الجديد له "عدة آثار" في مجال الأمن السيبراني التطبيقي، وأن تطوير مصنفات التعلم العميق ربما ينبغي أن يكون مدفوعًا بالاستجابة اللاواعية، كما تم قياسها على قراءات تخطيط كهربية الدماغ استجابة للصور المزيفة، بدلاً من تقدير المشاهد الواعي لمدى صدق الصورة.

تعليق المؤلفين *:

هذا يذكرنا بالنتائج التي تفيد بأن الأفراد الذين يعانون من عمى التعرف على الوجوه والذين لا يستطيعون من الناحية السلوكية تصنيف أو التعرف على الوجوه على أنها مألوفة أو غير مألوفة ، يظهرون مع ذلك استجابات ذاتية أقوى للوجوه المألوفة من وجوه غير مألوفة.

وبالمثل، ما أظهرناه في هذه الدراسة هو أنه على الرغم من قدرتنا على فك شفرة الفرق بين الوجوه الحقيقية والواقعية بدقة من خلال النشاط العصبي، إلا أن هذا الفرق لم يُلاحظ سلوكيًا. بل إن المراقبين حددوا بشكل خاطئ 69% من الوجوه الحقيقية على أنها مزيفة.

ال عمل جديد بعنوان هل أنت حقيقي؟ فك رموز الوجوه الواقعية التي تم إنشاؤها بواسطة الذكاء الاصطناعي من النشاط العصبي، ويأتي من أربعة باحثين من جامعة سيدني وجامعة ماكواري وجامعة ويسترن سيدني وجامعة كوينزلاند.

البيانات

ظهرت النتائج من فحص أوسع لقدرة الإنسان على التمييز بين الصور الخاطئة بوضوح ، والصور الواقعية المفرطة (ولكنها لا تزال خاطئة) ، والصورة الحقيقية ، التي أجريت عبر جولتين من الاختبارات.

استخدم الباحثون الصور التي تم إنشاؤها بواسطة شبكات الخصومة التوليدية (GANs) ، شاركت بواسطة NVIDIA.

صور الوجه البشري التي تم إنشاؤها بواسطة GAN والتي توفرها NVIDIA. Source: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

تضمنت البيانات 25 وجهًا وسيارة وغرفة نوم، بمستويات عرض تتراوح بين "غير واقعي" و"واقعي". لمقارنة الوجوه (أي للبحث عن مواد مناسبة غير مزيفة)، استخدم المؤلفون اختيارات من بيانات مصدر Flickr-Faces-HQ (FFHQ) التابع لشركة NVIDIA. بيانات. للمقارنة بين السيناريوهات الأخرى ، استخدموا مواد من LSUN مجموعة البيانات.

سيتم تقديم الصور في النهاية لموضوع الاختبار إما بالطريقة الصحيحة لأعلى ، أو مقلوبة ، وفي نطاق من الترددات ، مع تغيير حجم جميع الصور إلى 256 × 256 بكسل.

بعد تجميع كل المواد ، تم تنسيق 450 صورة محفزة للاختبارات.

أمثلة تمثيلية لبيانات الاختبار.

اختبارات

تم إجراء الاختبارات نفسها في البداية عبر الإنترنت ، من خلال jsPsych على Pavlovia.org ، مع 200 مشارك يحكمون على مجموعات فرعية مختلفة من إجمالي بيانات الاختبار التي تم جمعها. تم تقديم الصور لمدة 200 مللي ثانية ، تليها شاشة فارغة تستمر حتى يتخذ المشاهد قرارًا بشأن ما إذا كانت الصورة الوامضة حقيقية أم مزيفة. تم تقديم كل صورة مرة واحدة فقط ، واستغرق الاختبار بأكمله 3-5 دقائق.

الجولة الثانية والأكثر كشفًا المستخدمة بشكل شخصي مع أجهزة مراقبة EEG ، وتم تقديمها على سايكوبي 2 منصة. احتوى كل تسلسل من العشرين تسلسلًا على 40 صورة ، مع 18,000 صورة معروضة عبر الشريحة الكاملة لبيانات الاختبار.

تم فك تشفير بيانات EEG المجمعة عبر MATLAB باستخدام صندوق أدوات CoSMoMVPA ، باستخدام ملف إجازة واحدة خارج التحقق المتصالب مخطط تحت التحليل الخطي التمييز (المحدودة).

كان تصنيف LDA هو المكون الذي كان قادرًا على التمييز بين رد فعل الدماغ للمحفزات المزيفة، ورأي الموضوع نفسه حول ما إذا كانت الصورة مزيفة أم لا.

النتائج

مهتمين بمعرفة ما إذا كان بإمكان المشاركين في اختبار EEG التمييز بين الوجوه المزيفة والحقيقية ، قام الباحثون بتجميع النتائج ومعالجتها ، ووجدوا أنه يمكن للمشاركين تمييز الوجوه الحقيقية من غير الواقعية بسهولة ، لكنهم على ما يبدو كافحوا لتحديد الوجوه المزيفة الواقعية الناتجة عن GAN. يبدو أن ما إذا كانت الصورة مقلوبة أم لا تحدث فرقًا بسيطًا.

التمييز السلوكي للوجوه الحقيقية والمخلقة صناعياً ، في الجولة الثانية.

ومع ذلك ، أخبرت بيانات EEG قصة مختلفة.

تقول الورقة:

"على الرغم من أن المراقبين واجهوا صعوبة في التمييز بين الوجوه الحقيقية والمزيفة وكانوا يميلون إلى الإفراط في تصنيف الوجوه المزيفة، إلا أن بيانات تخطيط كهربية الدماغ احتوت على معلومات إشارة ذات صلة بهذا التمييز والتي اختلفت بشكل كبير بين الوجوه الواقعية وغير الواقعية، ويبدو أن هذه الإشارة مقيدة بمرحلة قصيرة نسبيًا من المعالجة."

هنا لا يتطابق التباين بين دقة مخطط كهربية الدماغ والرأي المبلغ عنه للموضوعات (أي ما إذا كانت صور الوجه مزيفة أم لا) ، حيث تقترب صور تخطيط الدماغ من الحقيقة أكثر من التصور الواضح للأشخاص المعنيين.

وخلص الباحثون إلى أنه على الرغم من أن المراقبين قد يواجهون صعوبة في التعرف ضمنيًا على الوجوه المزيفة، فإن هذه الوجوه لها "تمثيلات مميزة في النظام البصري البشري".

تسبب التباين الذي تم العثور عليه في جعل الباحثين يتكهنون بإمكانية تطبيق نتائجهم على آليات الأمان المستقبلية:

"في بيئة تطبيقية مثل الأمن السيبراني أو Deepfakes، قد يكون من الأفضل متابعة فحص قدرة الكشف عن الوجوه الواقعية باستخدام مصنفات التعلم الآلي المطبقة على بيانات التصوير العصبي بدلاً من استهداف الأداء السلوكي."

ويخلصون إلى:

"إن فهم العلاقة بين الدماغ والسلوك فيما يتعلق باكتشاف الوجوه المزيفة سيكون له آثار عملية على الطريقة التي نتعامل بها مع الانتشار الضار المحتمل للمعلومات المولدة بشكل مصطنع."

* تحويل الاقتباسات المضمنة إلى ارتباطات تشعبية.

نُشر لأول مرة في 11 يوليو 2022.