مرشحات الجمال هي أداة محتملة للهجوم بالصور المزيفة

لم تعد مرشحات الجمال تقتصر على إخفاء العيوب: بل يمكنها مساعدة التزييف العميق وتحوّلات الوجوه على تجاوز أنظمة الكشف. تُظهر دراسة جديدة أن تأثيرات التنعيم الطفيفة تُربك كواشف الذكاء الاصطناعي، مما يجعل الصور المزيفة تبدو حقيقية والواقعية تبدو مزيفة. إذا استمر هذا الاتجاه، قد تُفرض قيود على مرشحات الجمال في السياقات ذات المخاطر العالية، من مراقبة الحدود إلى مكالمات زوم المؤسسية.

في تعاون أكاديمي عام 2024 بين إسبانيا وإيطاليا، أفاد الباحثون أن 90 % من النساء اللواتي تتراوح أعمارهن بين 18 و30 سنة استخدمن مرشحات الجمال قبل نشر الصور على وسائل التواصل الاجتماعي. بهذا المعنى، تُعد مرشحات الجمال طرقًا خوارزمية أو مدعومة بالذكاء الاصطناعي لتعديل مظهر الوجه بحيث يُعتقد أنها محسّنة عن المصدر الأصلي:

من الدراسة لعام 2024: وجوه أنثى (يسار) ورجل (يمين) تُظهر قبل وبعد تطبيق مرشح الجمال. يغيّر المرشح ملامح مثل لون البشرة، العيون، الأنف، الشفاه، الذقن، وعظام الوجنتين لتعزيز الجاذبية المتصوّرة. المصدر: https://arxiv.org/pdf/2407.11981

تتوفر هذه المرشحات أيضًا على نطاق واسع كوظيفة أصلية أو إضافية في أنظمة الفيديو الشائعة مثل سناب شات وزوم، مما يتيح إمكانية تنعيم البشرة “غير المثالية” وحتى تعديل عمر الشخص، إلى الحد الذي يمكن القول إن الهوية قد تغيرت جوهريًا:

انقر للتشغيل: ثلاث نساء يوقفن تشغيل مرشحات “تحسين الجمال” في الفيديو، كاشفات مدى تعديل ملامحهن بواسطة الخوارزميات أو الذكاء الاصطناعي. المصدر: https://www.youtube.com/watch?v=gtCpea_5qxw

بدت الظاهرة وكأنها وصلت إلى نقطة التشبع بمجرد أن نضجت التقنية نسبيًا؛ كشف دراسة عام 2020 من جامعة سيتي في لندن أن 90 % من مستخدمي سناب شات الشباب في الولايات المتحدة وفرنسا والمملكة المتحدة استخدموا المرشحات في تطبيقاتهم، بينما أفادت ميتا أن أكثر من 600 مليون شاب كان قد استخدم في ذلك الوقت المرشحات على فيسبوك أو إنستغرام.

في استكشاف الآثار السلبية لهذه المرشحات على الصحة النفسية، أشار تقرير Psychology Today إلى أن 90 % من الشابات اللواتي تم دراستهن، بمتوسط عمر 20 سنة، إما استخدمن المرشحات أو عدّلن صورهن بطريقة ما. وكانت أكثر المرشحات شيوعًا هي تلك التي توحد لون البشرة؛ تعطي مظهرًا مسمرًا؛ تبيض الأسنان؛ وتقلل من حجم الجسم.

مواجهة الوجوه

مع توقع استفادة مرشحات الوجه من ثورة عام 2025 في توليف الفيديو، وبشكل أعم من الاهتمام المستمر بهذا القطاع البحثي، يزداد التآكل بين قدرتنا على “إعادة خلق” أو إعادة تخيل أنفسنا في محادثات الفيديو الحية ومخاوف مجتمع الأمن بشأن الاحتيال أو تقنيات الفيديو العميق الإجرامية.

إحدى القضايا هي أن مجموعة اختبارات “سهلة” التي طُورت في السنوات الأخيرة لكشف صانعي الفيديو العميق، الذين قد يسعون إلى احتيال مبالغ مالية ضخمة في سياق مؤسسي، تصبح حتمًا أقل فاعلية مع مراعاة هذه النقاط الضعيفة في بيانات التدريب وفي وقت الاستدلال:

انقر للتشغيل: منذ ثلاث أو أربع سنوات، كان تحريك يد أمام وجه مزيّف اختبارًا موثوقًا للمكالمات الفيديو، لكننا نرى أن الجهود المخصصة من قبل جهات مثل تيك توك تُحدث اختراقات عميقة في “الإشارات” التقليدية.المصادر: Ibid و https://archive.is/mofRV#wavehands

وبشكل أكثر حرجًا، يلطّخ الاستخدام الواسع لمرشحات تجميل الوجه/تغيير الوجه المياه للجيل الجديد والمتصاعد من كاشفات التزييف العميق المكلفة بمنع المحتالين من دخول محادثات الفيديو في غرف الاجتماعات، وإبعادهم عن الضحايا المحتملين من احتيال “الاختطاف” و”المحتال”.

من الأسهل جعل التزييف العميق مقنعًا، سواءً كان صورة أو فيديو، إذا كان دقة الصورة منخفضة أو تدهورت الصورة بطريقة ما، لأن نظام التزييف الأساسي يمكنه إخفاء عيوبه خلف ما يبدو أنه مشكلات اتصال أو منصة.

في الواقع، تُزيل أكثر مرشحات التجميل شعبية بعض أهم المواد المفيدة لتحديد الفيديوهات المزيفة، مثل نسيج البشرة ومناطق الوجه التفصيلية – ومن الجدير بالاعتبار أن الوجه كلما كان أقدم، كلما احتوى على مزيد من هذه التفاصيل، وبالتالي قد تكون مرشحات تقليل العمر للغرور إغراءً خاصًا في مثل هذه الحالات.

إذا كان المظهر الخالي من التفاصيل على نمط “أندرويد” هو الصيحة، قد يفتقر كاشفو التزييف العميق إلى المواد التي يحتاجونها للتمييز بين الصور والفيديوهات الحقيقية والمزيفة. المصدر: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

أكدت الورقة ما هو جميل لا يزال جيدًا: تأثير هالة الجاذبية في عصر فلاتر الجمال الصادرة عن الجمعية الملكية في أواخر 2024 أن استخدام الفلاتر يزيد بشكل عام من الجاذبية لدى كلا الجنسين (على الرغم من أن زيادة الجاذبية تميل إلى خفض التقدير العام للذكاء لدى الإناث المفلترة).

لذلك من العدل القول إن هذه تقنية شائعة؛ أنها تعمل؛ وأنها ستشكل صدمة ثقافية إذا خضعت فجأة لقيود أمنية، أو حُظرت في سياقات متنوعة.

مع ذلك، في فترة يصبح فيها الفيديوهات المزيفة مهددة بأن تصبح لا يمكن تمييزها عن المشاركين الحقيقيين في الفيديو، سواء في المظهر أو الكلام، من الممكن أن الضوضاء العالمية الناجمة عن فلاتر الجمال قد تحتاج إلى التخفيف في المستقبل لأسباب أمنية.

المجرمون الأملس

تم التحقيق في القضية مؤخرًا في ورقة جديدة من جامعة كالياري في إيطاليا، بعنوان Deceptive Beauty: Evaluating the Impact of Beauty Filters on Deepfake and Morphing Attack Detection.

في الدراسة الجديدة، طبق الباحثون فلاتر الجمال على وجوه من مجموعتي بيانات معياريتين، واختبروا عدة كاشفات لتزييف الفيديو والهجمات المورفية على كل من الصور الأصلية والمعدلة.

في كل حالة تقريبًا، انخفضت دقة الكشف بعد التجميل؛ وكانت الانخفاضات الأكثر دراماتيكية عندما قامت الفلاتر بتنعيم التجاعيد، وتفتيح لون البشرة، أو إعادة تشكيل ملامح الوجه بشكل طفيف. هذه التغييرات أزالت أو شوهت الإشارات التي تعتمد عليها نماذج الكشف.

على سبيل المثال، فقد النموذج الأعلى أداءً على MorphDB أكثر من 9٪ من الدقة بعد الفلترة، واستمر المشكلة عبر عدة بنى كشف، مما يدل على أن الأنظمة الحالية ليست قوية ضد التحسينات التجميلية الشائعة.

يستنتج المؤلفون:

‘[Beautification] الفلاتر تشكل تهديدًا لنزاهة أنظمة المصادقة البيومترية والتحليل الجنائي، مما يجعل الكشف القوي عن التزييف العميق والهجمات المورفية تحت هذه الظروف تحديًا مفتوحًا حاسمًا.

‘يجب أن تعطي الأعمال المستقبلية الأولوية لتطوير أنظمة كشف التلاعب الرقمي التي تكون قوية ضد مثل هذه التعديلات الدقيقة والواقعية، سواء كانت خبيثة أم لا، لضمان التعرف الموثوق على الهوية والتحقق من المحتوى في السياقات اليومية والحساسة أمنيًا.’

الطريقة والبيانات

لتقييم كيف تؤثر فلاتر الجمال على التزييف العميق وكشف التشويه، طبق الباحثون فلتر تنعيم تدريجي واختبروا النتائج على شبكتين عصبيتين تلافيفيتين (CNNs) معروفة بملاءمتها للمشكلة المستهدفة: AlexNet وVGG19.

كل من مجموعتي البيانات المعياريتين التي تم اختبارها احتوت أمثلة على التلاعبات الوجهية المناسبة. الأولى كانت CelebDF، مجموعة فيديو معيارية واسعة النطاق تضم 590 مقطعًا حقيقيًا و5,639 مقطعًا مزورًا تم إنشاؤها عبر تقنيات تبادل الوجوه المتقدمة. تقدم المجموعة مجموعة متنوعة من ظروف الإضاءة، وزوايا الرأس، والتعبيرات الطبيعية عبر 59 فردًا، مما يجعلها مناسبة جيدًا لتقييم صمود كاشفات التزييف العميق في سيناريوهات وسائط العالم الحقيقي:

أمثلة على الصور الوجهية المتأثرة، من CelebDF. Source: https://github.com/yuezunli/celeb-deepfakeforensics

الثانية كانت AMSL (يتطلب التسجيل)، مجموعة بيانات هجوم تشويه تم بناؤها من مجموعة مختبر أبحاث الوجه بلندن، تحتوي على وجوه حقيقية ومزيفة مركبة. تشمل المجموعة تعبيرات محايدة ومبتسمة لـ102 موضوعًا، وتم هيكلتها لتعكس تحديات واقعية لأنظمة المصادقة البيومترية المستخدمة في سياقات مثل مراقبة الحدود.

صور من مجموعة بيانات مختبر أبحاث الوجه بلندن (FRLL) الأصلية، المستخدمة في AMSL. Source: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

تم تدريب كل شبكة على 80٪ من مجموعة بيانات التزييف العميق أو التشويه، واستخدم الـ20٪ المتبقية لـالتحقق. لاختبار الصمود ضد التجميل، طبق الباحثون بعد ذلك فلتر تنعيم تدريجي على صور الاختبار، مع زيادة نصف قطر الضبابية من 3٪ إلى 5٪ من ارتفاع الوجه:

وجوه مثال من مجموعتي البيانات CelebDF (أعلى) وAMSL (أسفل)، معروضة قبل وبعد تطبيق فلتر تجميل يعتمد على التنعيم. تم تعديل نصف قطر الفلتر نسبة إلى ارتفاع الوجه، حيث c = 3٪ وc = 5٪ ينتجان تأثيرات متزايدة تدريجيًا.

فيما يتعلق بالمقاييس، تم تقييم كل نموذج باستخدام معدل الخطأ المتساوي (EER) على كل من عينات الاختبار الأصلية والمُجمَّلة. كما أفادت التحليل بمعدل خطأ تصنيف العرض الحقيقي (BPCER)، أي معدل الإيجابيات الكاذبة، ومعدل خطأ تصنيف العرض الهجومي (APCER)، أي معدل السلبيات الكاذبة، باستخدام العتبة المحددة على البيانات الأصلية.

وجوه مشوهة من مجموعة بيانات AMSL.

لتقييم الأداء بشكل أعمق، تم فحص المساحة تحت منحنى ROC (AUC) وتوزيعات الدرجات للصور الحقيقية والمزيفة.

الاختبارات

في نتائج كشف التزييف العميق، أظهرت كلتا الشبكتين ارتفاع معدلات الخطأ المتساوي مع زيادة شدة التجميل. ارتفع معدل الخطأ المتساوي الخاص بـ AlexNet من 22.3٪ على الصور الأصلية إلى 28.1٪ عند أعلى مستوى للتمليس، بينما ارتفع معدل AlexNet الخاص بـ VGG19 من 30.2٪ إلى 35.2٪. تباين انخفاض الأداء وفق أنماط مختلفة في كل حالة:

نتائج كشف التزييف العميق على مجموعة بيانات CelebDF باستخدام AlexNet وVGG19. تم اختبار كلا النموذجين على صور أصلية ومُجمَّلة مع مستويات متزايدة من تمليس الوجه. تشمل المقاييس المعروضة معدل الخطأ المتساوي (EER)، ومعدل خطأ تصنيف العرض الحقيقي (BPCER)، ومعدل خطأ تصنيف العرض الهجومي (APCER)، باستخدام عتبات ثابتة من مجموعة الاختبار الأصلية. انخفضت دقة الكشف مع زيادة شدة التجميل، رغم أن نمط التدهور اختلف بين البُنى.

مع زيادة التجميل، أصبح AlexNet أكثر احتمالاً لخطأ اعتبار الوجوه الحقيقية مزيفة، كما يظهر الارتفاع المستمر في معدل الإيجابيات الكاذبة (BPCER). من ناحية أخرى، عانى VGG19 أساساً في اكتشاف المزيفات نفسها، مع ارتفاع معدل السلبيات الكاذبة (APCER). استجاب النموذجان بشكل مختلف للمرشحات، مما يدل على أن البُنى المعروفة يمكن أن تفشل بطرق مختلفة عند مواجهة تعديلات تجميلية.

لفهم هذه النتائج بشكل أفضل، طبق الباحثون مرشح التجميل بشكل منفصل على الصور الحقيقية والمزيفة وقياسوا تأثيره على أداء الكشف. يوضح هذا التفصيل، المعروض في جدول النتائج أدناه، مصدر ضعف كل نموذج:

دقة الكشف لـ AlexNet وVGG19 تحت التجميل الجزئي على مجموعة بيانات CelebDF. يُظهر الجدول ثلاثة سيناريوهات: الحقيقي المُجمَّل مقابل المزيف المُجمَّل (F-Real vs F-Fake)؛ الحقيقي المُجمَّل مقابل المزيف الأصلي (F-Real vs O-Fake)؛ والحقيقي الأصلي مقابل المزيف المُجمَّل (O-Real vs F-Fake)، مع انخفاض في الدقة يدل على تراجع أداء الكاشف. تأثّر AlexNet أكثر عندما تم تجميل الصور الحقيقية، بينما عانى VGG19 أكثر عندما طُبق التجميل على الصور المزيفة.

بالنسبة لـ AlexNet، انخفض أداء الكشف عندما تم تجميل الصور الحقيقية، لكنه تحسن عندما تم تمليس الصور المزيفة فقط. أما بالنسبة لـ VGG19، فقد تحسن الأداء قليلاً مع الصور الحقيقية المُجمَّلة لكنه تدهور عندما تم تصفية التزييف العميق. في جميع الحالات، التجميل الأقوى يقلل الدقة.

مخططات الصناديق التي تُظهر توزيعات درجات الإخراج لـ AlexNet وVGG19 على عينات حقيقية ومزيفة من مجموعة بيانات CelebDF، تحت مستويات متزايدة من التجميل. مع زيادة التمليس، تصبح توزيعات الدرجات للصور الحقيقية والمزيفة أقل قابلية للفصل، مما يدل على انخفاض موثوقية الكشف. يصبح AlexNet أقل ثقة في التعرف على الوجوه الحقيقية، بينما يصبح VGG19 أكثر احتمالاً لتصنيف المزيفات بشكل خاطئ.

جعل التجميل درجات إخراج AlexNet أكثر تجانساً عبر كل من العينات الحقيقية والمزيفة، بينما أظهر VGG19 تشتتاً أكبر داخل كل فئة. على الرغم من هذه التأثيرات المتباينة على تباين الدرجات، فقد فقد كلا النموذجين الدقة. بالنسبة لـ AlexNet، انتقلت درجات الوجوه الحقيقية أقرب إلى درجات التزييف العميق. أما بالنسبة لـ VGG19، فقد بدأت درجات الصور الحقيقية والمزيفة تتقاطع، مما قلل من قدرة النموذج على التمييز بينهما.

يذكر البحث:

هذه النتائج لها تداعيات هامة وتكشف أنه من الضروري النظر في الاستخدام المحتمل لمرشحات التجميل في كشف التزييف العميق، لأن هذه قد تؤثر بشكل غير متوقع على الأداء. وعلى وجه الخصوص، تستجيب البُنى المعمارية المختلفة بشكل مختلف للتلاعبات الوجهية، حتى وإن لم تكن تلك التلاعبات تهدف إلى الخداع.

على سبيل المثال، بناءً على كاشف التزييف العميق المحدد، قد تغير مرشحات التجميل بشكل كبير النتيجة، مما يجعل الصور الحقيقية تُصنّف كزائفة، وأكثر من ذلك، يسمح للتزييف العميق بخداع الكشف.

لذلك، من الضروري التركيز على تطوير كاشفات أكثر صلابة تجاه هذه التعديلات الدقيقة، غير الخبيثة بالضرورة، والتي قد تُستخدم كستار لتلاعبات التزييف العميق الخبيثة.

في سيناريو هجوم التمويه، تم إنشاء صورة اصطناعية بدمج ملامح الوجهين. استُخدمت هذه الصورة لخداع أنظمة التعرف على الوجه، مما سمح بالتحقق من هوية المصدرين كأنهما نفس الشخص. تُعتبر مثل هذه الهجمات ذات صلة خاصة في بيئات الأمن، حيث يمكن أن قد تُخدع الأنظمة البيومترية لقبول الصورة الممزوجة للتعريف الرسمي.

الجدول أعلاه يُظهر نتائج كشف هجمات التمويه على صور AMSL قبل وبعد التجميل، حيث أظهرت كلتا الشبكتين زيادة حادة في الخطأ مع ارتفاع شدة التنعيم.

في سيناريو هجوم التمويه، تدهور الأداء كان أكثر حدة مقارنةً بكشف التزييف العميق. ارتفع معدل الخطأ المتساوي (EER) لشبكة AlexNet من 27.6٪ إلى 41.2٪، ولشبكة VGG19 من 19.0٪ إلى 37.3٪، نتيجة رئيسية للنتائج الإيجابية الكاذبة: الوجوه الحقيقية التي صُنّفت كتمويهات. مع نصف قطر تنعيم 3٪، وصل معدل الإيجابيات الكاذبة لشبكة VGG19 إلى 90٪.

استمر هذا النمط عندما طُبّقت المرشحات بشكل انتقائي. أدى تنعيم الوجوه الحقيقية إلى تدهور الكشف، بينما أدى تنعيم الوجوه الممزوجة فقط إلى تحسين النتائج. مع زيادة شدة التنعيم، أظهرت كلتا الشبكتين تقليل الفجوة بين درجات الحقيقي والزائف، وأصبحت VGG19 غير مستقرة بشكل خاص.

تشير هذه النتائج، بحسب المؤلفين، إلى أن مرشحات الجمال قد تساعد التمويهات على التهرب من الكشف بشكل أكثر فعالية من التزييف العميق، مما يثير مخاوف أمنية جدية.

أمثلة جزئية (نظراً لضيق المساحة) لكيفية تعديل التجميل الطفيف (نصف قطر تنعيم 3٪) لتصنيفات AlexNet. على اليسار، تُصنّف صورة حقيقية كهجوم بعد الترشيح، وعلى اليمين، تُصنّف صورة مُمزوجة كصحيحة بعد الترشيح.

أخيراً، وجد الباحثون أن حتى مرشحات التجميل الخفيفة يمكنها أن تُضعف بشكل كبير أداء كاشفات التزييف العميق والتمويه المتقدمة.

تفاوت التأثير حسب البنية المعمارية، حيث أظهر AlexNet تراجعاً تدريجياً، بينما انهار VGG19 تحت أقل قدر من الترشيح. ونظراً لأن هذه المرشحات شائعة وليست خبيثة بطبيعتها، فإن قدرتها على إخفاء الهجمات تشكل، بحسب المؤلفين، تهديداً عملياً، خاصة في الأنظمة البيومترية. يؤكد البحث على ضرورة وجود نماذج كشف تكون صامدة أمام مثل هذه التعديلات الدقيقة على الصور.

الخاتمة

أحد الأسباب التي قد تجعل من الصعب تدريب أنظمة كشف التزييف العميق لتتجاهل مرشحات التجميل هو نقص المواد المتباينة؛ في النهاية النسخة ‘المجمّلة’ هي التي تنتشر على نطاق واسع، وعلى عكس الفيديو الذي أدرجناه سابقاً كمثال، نادراً ما يُطبق صورة ‘قبل’.

عقبة أخرى هي أن العديد من المرشحات تقوم بالضبط بنوع التنعيم المعتاد في عمليات ضغط الصور أو الفيديو (ما يُفيد مزودي الخدمة من حيث عرض النطاق الترددي، بالإضافة إلى كونه تجديداً رقمياً للبشرة لأولئك الذين يستخدمون المرشح).

قطاع أبحاث كشف التزييف العميق منخرط بالفعل بعمق في مكافحة حالات تدهور الصور في العالم الحقيقي نتيجة لمشكلات مثل الكاميرات منخفضة الجودة، الضغط المفرط، أو الاتصال الشبكي المتقطع – جميع هذه الظروف تمثل فائدة مباشرة لمحتالين التزييف العميق الذين يُجبرون على بذل جهد أكبر في سيناريو عالي الجودة وعالي الدقة.

ما إذا كانت مرشحات التجميل ستصبح في النهاية عبئاً أمنياً يبدو مرهوناً بمدى إعاقة هذه المرشحات لطرق فحص التزييف العميق، أو ما إذا ستتحول إلى نوع من de facto جدار حماية يفيد المخربين أكثر من الذين يكافحونهم.

نُشر أولاً يوم الأربعاء، 24 سبتمبر 2025