التلاعب بصور الواقعية قد يكون تهديدا أكبر مما نتصوره

أدوات الذكاء الاصطناعي مثل ChatGPT و Google Gemini تستخدم الآن لإنشاء صور مُزوّرة لا تتبدل الأوجه، ولكن يمكن أن تكتب القصة بأكملها داخل الصورة بطرق أكثر دقة. من خلال تغيير الإشارات والخلفيات، هذه التعديلات تخدع كلاً من نظام الكشف عن الذكاء الاصطناعي والإنسان، مما يزيد من المخاطر لتحديد ما هو حقيقي على الإنترنت.

في الوقت الحالي، خاصة بعد تشريعات مهمة مثل قانون TAKE IT DOWN، كثير منا يرتبط التلاعب بصور الواقعية والهوية المُصنّعة بالذكاء الاصطناعي مع صور إباحية غير موافقة عليها وتنميط سياسي – بشكل عام، تشويه للحقائق.

هذا يعتادنا على توقع أن تكون الصور المُزوّرة التي تُنشأ بالذكاء الاصطناعي دائمًا تهدف إلى محتوى عالي المستوى، حيث قد تنجح جودة العرض والتحكم في السياق في تحقيق انقلاب في المصداقية، على الأقل في المدى القصير.

然而، من الناحية التاريخية، كانت التعديلات الدقيقة अकثر شرا وأثرا على المدى الطويل – مثل خدع التصوير الفوتوغرافي المتقدمة التي سمحت لستالين ب إزالة أولئك الذين سقطوا من Favor من السجل الفوتوغرافي، كما هو موضح في رواية جورج أورويل 1984، حيث يقضي وينستون سميث أيامه في كتابة التاريخ وإنشاء صور و “تعديل”ها.

في المثال التالي، المشكلة مع الصور الثانية هي أننا “لا نعرف ما لا نعرف” – أن رئيس الشرطة السرية لستالين، نيكولاي يezhov، كان ي占ي الفراغ الذي يوجد الآن حظر فقط:

الآن تراه، الآن لم يعد… التلاعب بصور ستالين يزيل عضوا حزبيا من التاريخ. مصدر: النطاق العام، عبر https://www.rferl.org/a/soviet-airbrushing-the-censors-who-scratched-out-history/29361426.html

التلاعب بصور الواقعية الحالية، الذي يكرر نفسه في العديد من الطرق، لا يزال موجودا في العديد من المجالات، ليس فقط على المستوى الثقافي، ولكن في رؤية الكمبيوتر نفسها، التي تشتق الاتجاهات من المواضيع والمotive السائدة في مجموعات البيانات التدريبية. على سبيل المثال، حقيقة أن الهواتف الذكية خفضت حاجز الدخول، و خفضت بشكل كبير تكلفة التصوير، يعني أن أيقوناتها أصبحت مرتبطة بشكل لا مفر منه بالعديد من المفاهيم المجردة، حتى عندما لا يكون ذلك مناسبًا.

إذا كان التلاعب بصور الواقعية التقليدية يمكن اعتباره بمثابة “هجوم”، فإن التعديلات الخبيثة والمستمرة في وسائط الصوت والصورة أكثر مثل “تلاعب بالعقل”. بالإضافة إلى ذلك، فإن قدرة هذا النوع من التلاعب بصور الواقعية على عدم الكشف عنه يجعل من الصعب تحديده بواسطة أنظمة الكشف عن التلاعب بصور الواقعية المتقدمة (التي تبحث عن التغييرات الكبيرة). هذا النهج أكثر مثل الماء الذي يهدر الصخور على مدى فترة طويلة، أكثر من الصخرة التي تُرمى على الرأس.

MultiFakeVerse

قد قام باحثون من أستراليا بتحديد نقص الانتباه إلى “التلاعب الخفيف” بصور الواقعية في الأدبيات، من خلال إنشاء مجموعة بيانات جديدة كبيرة من صور التلاعب المركزة على الأشخاص التي تغير السياق والانفعالات والقصص دون تغيير الهوية الأساسية للشخص:

مثال من المجموعة الجديدة، أزواج حقيقي ومزور، مع بعض التعديلات أكثر دقة من غيرها. لاحظ، على سبيل المثال، فقدان السلطة لل امرأة الآسيوية في الزاوية اليمنى، حيث تم إزالة سماعة الطبيب بواسطة الذكاء الاصطناعي. في الوقت نفسه، استبدال ورقة الطبيب باللوح لا يبدو له زاوية семантиكية واضحة. مصدر: https://huggingface.co/datasets/parulgupta/MultiFakeVerse_preview

تمت تسمية هذه المجموعة MultiFakeVerse، وتتكون من 845,826 صورة تم إنشاؤها بواسطة نماذج اللغة والرؤية (VLMs)، والتي يمكن الوصول إليها وتنزيلها على الإنترنت، مع إذن.

يصر المؤلفون على أن:

‘هذا النهج القائم على VLM يسمح بالتعديلات الدلالية والسياقية مثل تعديل الإجراءات والمشاهد والتفاعلات بين الأشخاص والأشياء بدلاً من التبادل الاصطناعي أو التحرير الإقليمي الشائع في مجموعات البيانات الحالية.’

‘تظهر تجاربنا أن نماذج الكشف عن التلاعب بصور الواقعية الحالية ومراقبي البشر يجدون صعوبة في الكشف عن هذه التعديلات الدقيقة والمعنية.’

تم اختبار كل من البشر ونماذج الكشف عن التلاعب بصور الواقعية الرائدة على هذه المجموعة الجديدة لمعرفة مدى جودة الكشف عن هذه التعديلات الخفيفة. تم اختبار المشاركين البشريين، وتم تصنيف الصور بشكل صحيح كحقيقية أو مزورة بنسبة 62٪ فقط، وواجهوا صعوبة أكبر في تحديد الأجزاء التي تم تعديلها.

أدت نماذج الكشف عن التلاعب بصور الواقعية الحالية، التي تم تدريبها في الغالب على مجموعات بيانات التبادل الوجهي أو التحرير الإقليمي، أداءً سيئًا أيضًا، حيث فشلت في كثير من الأحيان في التسجيل أن أي تعديل قد حدث. حتى بعد التحسين الدقيق على MultiFakeVerse، ظلت معدلات الكشف منخفضة، مما يظهر مدى ضعف الأنظمة الحالية في التعامل مع هذه التعديلات القصصية الدقيقة.

المقال الجديد بعنوان متعدد العوالم من خلال التلاعب بصور الواقعية: مجموعة بيانات MultiFakeVerse من التلاعب البصري والمفاهيمي المركز على الأشخاص، ويأتي من خمسة باحثين من جامعة موناش في ملبورن، وجامعة كورتين في بيرث. تم إصدار الشفرة والبيانات ذات الصلة على جيت هاب، بالإضافة إلى استضافة هوجينج فايس المذكورة سابقًا.

الطريقة

تم بناء مجموعة بيانات MultiFakeVerse من أربعة مجموعات صور حقيقية تampilkan أشخاص في مواقف متنوعة: EMOTIC؛ PISC، PIPA، و PIC 2.0. بدءًا من 86,952 صورة أصلية، أنتج الباحثون 758,041 نسخة معدلة.

تم استخدام إطارات Gemini-2.0-Flash و ChatGPT-4o لطرح ست تعديلات دقيقة لكل صورة – تعديلات مصممة لتعديل كيفية تصور الشخص الأكثر وضوحًا في الصورة.

تم توجيه النماذج لإنشاء تعديلات تجعل الموضوع يبدو بريئًا، فخورًا، نادمًا، مبتدئًا، أو متهورًا، أو لتعديل بعض العناصر الواقعية في المشهد. بالإضافة إلى كل تعديل، أنتجت النماذج أيضًا عبارة إشارة لتحديد بوضوح هدف التعديل، مما يضمن أن عملية التعديل اللاحقة يمكن أن تطبق التغييرات على الشخص أو الكائن الصحيح في كل صورة.

يصر المؤلفون على أن:

‘ملاحظة أن عبارة الإشارة هي مجال تم استكشافه على نطاق واسع في المجتمع، والذي يعني عبارة يمكن أن تُزيل الغموض حول الهدف في صورة، على سبيل المثال، لصورة تampilkan رجلين جالسين على مكتب، أحدهما يتحدث على الهاتف والآخر يبحث في الوثائق، فإن عبارة إشارة مناسبة للثاني سيكون “الرجل على اليسار يحمل قطعة ورق”.’

بعد تحديد التعديلات، تم تنفيذ التلاعب الفعلي بالصورة بواسطة توجيه نماذج اللغة والرؤية لتطبيق التغييرات المحددة مع الحفاظ على بقية المشهد سليمًا. تم اختبار ثلاثة أنظمة لهذه المهمة: GPT-Image-1؛ Gemini-2.0-Flash-Image-Generation؛ و ICEdit.

بعد توليد 22000 صورة عينة، ظهر Gemini-2.0-Flash كأسلوب الأكثر استمرارية، حيث أنتج تعديلات اندمجت بشكل طبيعي في المشهد دون إدخال شواذ مرئية؛ في حين أن ICEdit أنتج في كثير من الأحيان مزورًا أكثر وضوحًا، مع عيوب ملحوظة في المناطق المعدلة؛ و GPT-Image-1 أثر في بعض الأحيان على أجزاء غير مقصودة من الصورة، جزئيًا بسبب انسجامه مع نسب الجانب الثابتة للخرج.

تحليل الصورة

تم مقارنة كل صورة معدلة مع الصورة الأصلية لتحديد مقدار التغيير في الصورة. تم حساب الفروقات على مستوى البكسل بين الإصدارين، مع تصفية الضوضاء العشوائية الصغيرة لتركيز الانتباه على التعديلات المهمة. في بعض الصور، تم التأثير فقط على مناطق صغيرة؛ في حين تم تعديل ما يصل إلى ثمانين في المئة من المشهد في الأخرى.

为了 تقييم مقدار التغيير في معنى كل صورة في ضوء هذه التعديلات، تم توليد عناوين للصور الأصلية والمعدلة باستخدام نموذج اللغة والرؤية ShareGPT-4V.

تم تحويل هذه العناوين إلى تضمينات باستخدام Long-CLIP، مما يسمح بمقارنة مدى انحراف المحتوى بين الإصدارين. تم ملاحظة التغييرات الدلالية الأكثر قوة في الحالات التي تم فيها تعديل الأشياء القريبة من أو المتعلقة مباشرة بالشخص، حيث يمكن أن تُغير هذه التعديلات الصغيرة بشكل كبير كيفية تفسير الصورة.

تم استخدام Gemini-2.0-Flash لتصنيف نوع التعديل المطبق على كل صورة، بناءً على مكان ومANNER التعديل. تم تجميع التعديلات إلى ثلاث فئات: تعديلات على مستوى الشخص تتضمن تغييرات في تعبير الوجه أو الوضع أو النظر أو الملابس أو الميزات الشخصية الأخرى؛ تعديلات على مستوى الكائن تؤثر على الأشياء المرتبطة بالشخص، مثل الأشياء التي يتم حملها أو التفاعل معها في المقدمة؛ وتعديلات على مستوى المشهد تتضمن عناصر الخلفية أو جوانب أوسع للمشهد التي لا تتضمن الشخص بشكل مباشر.

مخطط انسيابي لإنشاء مجموعة بيانات MultiFakeVerse يبدأ مع الصور الحقيقية، حيث تقترح نماذج اللغة والرؤية تعديلات سردية تستهدف الأشخاص أو الأشياء أو المشاهد. ثم يتم تطبيق هذه الإرشادات بواسطة نماذج تحرير الصور. يظهر اللوحة اليمنى نسبة التعديلات على مستوى الشخص، مستوى الكائن، ومستوى المشهد عبر المجموعة. مصدر: https://arxiv.org/pdf/2506.00868

由于 الصور الفردية يمكن أن تحتوي على أنواع متعددة من التعديلات في نفس الوقت، تم خريطة توزيع هذه الفئات عبر المجموعة. حوالي ثلث التعديلات استهدف فقط الشخص، حوالي خمسها ảnh hưởng فقط على المشهد، وحوالي سدسها محدودة على الأشياء.

تقييم التأثير الإدراكي

تم استخدام Gemini-2.0-Flash لتقييم كيف يمكن أن تُغير التعديلات تصور المشاهد عبر ست مناطق: الانفعال، الهوية الشخصية، ديناميات القوة، سرد المشهد، نية التلاعب، و المخاوف الأخلاقية.

对于 الانفعال، تم وصف التعديلات في كثير من الأحيان بالكلمات مثل سعيد، ممتع، أو قابل للنقاش، مما يشير إلى تحولات في كيفية إطار الموضوعات بشكل عاطفي. فيما يتعلق بالسرد، تم استخدام كلمات مثل مهني أو مختلف لتحديد التغييرات في القصة المفترضة أو الإعداد:

تم توجيه Gemini-2.0-Flash لتقييم كيف يؤثر كل تعديل على ستة جوانب من إدراك المشاهد. اليسار: هيكل الطلب الموجه لتقييم النموذج. اليمين: سحابة الكلمات تلخص التحولات في الانفعال، الهوية، سرد المشهد، النية، ديناميات القوة، والمخاوف الأخلاقية عبر المجموعة.

تم وصف تحولات الهوية بتعابير مثل أصغر، مرح، و ضعيف، مما يظهر كيف يمكن أن تؤثر التعديلات الصغيرة على كيفية تصور الأفراد. تم وصف نية العديد من التعديلات بأنها إقناعية، خادعة، أو جمالية. في حين أن معظم التعديلات تم تحديدها لرفع مخاوف أخلاقية خفيفة، تم اعتبار جزء صغير منها يحمل آثارا أخلاقية متوسطة أو شديدة.

أمثلة من MultiFakeVerse تظهر كيف يغير التعديلات الصغيرة إدراك المشاهد. صناديق الصفراء تسلط الضوء على المناطق المعدلة، مع تحليل المرافق لتحولات الانفعال، الهوية، السرد، والمخاوف الأخلاقية.

المقاييس

تم تقييم جودة الصور في مجموعة MultiFakeVerse باستخدام ثلاثة مقاييس معيارية: نسبة الإشارة إلى الضوضاء القصوى (PSNR)؛ مؤشر التشابه الهيكلي (SSIM)؛ و مسافة إنCEPTION من Fréchet (FID):

درجات جودة الصورة لمجموعة MultiFakeVerse حسب PSNR و SSIM و FID.

درجة SSIM البالغة 0.5774 تعكس درجة معقولة من التشابه، متسقة مع الهدف الحفاظ على معظم الصورة مع تطبيق تعديلات مستهدفة؛ درجة FID البالغة 3.30 تشير إلى أن الصور المولدة تحتفظ بجودة عالية وتنوع؛ وقيمة PSNR البالغة 66.30 ديسيبل تشير إلى أن الصور تحتفظ بصدق مرئي جيد بعد التعديل.

دراسة المستخدم

تم إجراء دراسة مستخدم لتحديد مدى قدرة الأشخاص على اكتشاف التلاعب بصور الواقعية الخفية في MultiFakeVerse. تم عرض 50 صورة على 18 مشاركًا، مقسمة بالتساوي بين الأمثلة الحقيقية والمعدلة التي تغطي أنواعًا مختلفة من التعديلات. تم طلب من كل شخص تصنيف الصورة على أنها حقيقية أو مزورة، وإذا كانت مزورة، تحديد نوع التعديل المطبق.

كانت الدقة الكلية لتحديد الصور الحقيقية مقابل المزورة 61.67٪، مما يعني أن المشاركين خاطئون في تصنيف أكثر من ثلث الصور.

يصر المؤلفون على أن:

‘بتحليل التوقعات البشرية لمستويات التلاعب للصور المزورة، تم العثور على متوسط القيمة القطاعية بين التوقعات المتنبئة والفعلية لتكون 24.96٪. ‘

‘هذا يظهر أن من الصعب على المراقبين البشريين تحديد مناطق التلاعب في مجموعتنا.’

تم إنشاء مجموعة بيانات MultiFakeVerse باستخدام موارد حاسوبية مكثفة: لأكثر من 845,000 مكالمة API إلى نماذج Gemini و GPT، مع تكلفة هذه المهام البادئة حول 1000 دولار؛ إنتاج الصور المبنية على Gemini بتكلفة تقريبية تبلغ 2867 دولارًا؛ وتكلفة إنشاء الصور باستخدام GPT-Image-1 حوالي 200 دولار. تم إنشاء صور ICEdit محليًا على وحدة معالجة رسومات NVIDIA A6000، واكتملت المهمة في حوالي 24 ساعة.

الاختبارات

قبل الاختبارات، تم تقسيم المجموعة إلى مجموعات تدريبية واختبارية وتنقيحية، حيث تم اختيار 70٪ من الصور الحقيقية للتدريب، 10٪ للتنقيح، و 20٪ للاختبار. تم تخصيص الصور المعدلة التي تم إنشاؤها من كل صورة حقيقية إلى نفس المجموعة مثل الصورة الأصلية.

أمثلة إضافية من المحتوى الحقيقي (اليسار) والمعدل (اليمين) من المجموعة.

تم تقييم أداء الكشف عن التلاعب بصور الواقعية باستخدام دقة الصورة (ما إذا كان النظام يصنف الصورة بأكملها بشكل صحيح كحقيقية أو مزورة) و درجة F1. لتحديد المناطق المعدلة، تم استخدام مساحة تحت المنحنى (AUC) ودرجة F1 و تقاطع الاتحاد على الاتحاد (IoU).

تم استخدام مجموعة بيانات MultiFakeVerse ضد أنظمة الكشف عن التلاعب بصور الواقعية الرائدة على مجموعة الاختبار الكاملة، مع أنظمة منافسة هي CnnSpot؛ AntifakePrompt؛ TruFor؛ والقائم على اللغة والرؤية SIDA. تم تقييم كل نموذج في وضع التصويب من الصفر، باستخدام الأوزان المسبقة التدريب دون أي تعديل إضافي.

تم تحسين نموذجين، CnnSpot و SIDA، على بيانات تدريب MultiFakeVerse لتقييم ما إذا كان إعادة التدريب يحسن الأداء.

نتائج الكشف عن التلاعب بصور الواقعية على MultiFakeVerse في ظروف التصويب من الصفر والتحسين الدقيق. الأرقام بين القوسين تظهر التغييرات بعد التحسين الدقيق.

من بين هذه النتائج، يصر المؤلفون على أن:

‘[النماذج] المُدرَّبة على مزورات التبادل السابقة أو التحرير الإقليمي تعاني من صعوبة في تحديد مزوراتنا القائمة على تحرير VLM، خاصة أن CNNSpot يميل إلى تصنيف جميع الصور تقريبًا كحقيقية. يمتلك AntifakePrompt أفضل أداء في التصويب من الصفر بنسبة دقة متوسطة تبلغ 66.87٪ ودرجة F1 تبلغ 55.55٪. ‘

‘بعد التحسين الدقيق على مجموعتنا، نلاحظ تحسنًا في أداء CNNSpot و SIDA-13B، حيث يتجاوز CNNSpot SIDA-13B في كل من متوسط دقة الفئة (بفارق 1.92٪) ودرجة F1 (بفارق 1.97٪). ‘

تم تقييم SIDA-13B على MultiFakeVerse لقياس مدى دقة تحديد المناطق المعدلة داخل كل صورة. تم اختبار النموذج في وضع التصويب من الصفر وبعد التحسين الدقيق على المجموعة.

في حالته الأصلية، достиг نموذج SIDA-13B درجة تقاطع على الاتحاد تبلغ 13.10، ودرجة F1 تبلغ 19.92، ودرجة AUC تبلغ 14.06، مما يعكس أداءً ضعيفًا في تحديد الموقع.

بعد التحسين الدقيق، تحسنت الدرجات إلى 24.74 لتقاطع الاتحاد، و 39.40 لدرجة F1، و 37.53 لدرجة AUC. ومع ذلك، حتى بعد التدريب الإضافي، واجه النموذج صعوبة في تحديد مكان التعديلات بدقة، مما يسلط الضوء على صعوبة الكشف عن هذه التعديلات الصغيرة والاستهدافية.

الاستنتاج

كشفت الدراسة الجديدة عن نقطة عمياء في كل من الإدراك البشري والألة: بينما ركز النقاش العام حول التلاعب بصور الواقعية على التبادل الواضح للهويات، فإن هذه التعديلات السردية الخفية أكثر صعوبة في الكشف عنها وأكثر ضررًا على المدى الطويل.

随着 أنظمة مثل ChatGPT و Gemini تتخذ دورًا أكثر نشاطًا في توليد هذا النوع من المحتوى، و随着 مشاركتنا المتزايدة في تعديل واقع تيارات الصور الخاصة بنا، قد لا توفر نماذج الكشف التي تعتمد على الكشف عن التلاعب الخشنة دفاعًا كافيًا.

ما تُظهره MultiFakeVerse ليس أن الكشف عن التلاعب بصور الواقعية قد فشل، ولكن أن جزءًا من المشكلة قد يتحرك إلى شكل أكثر صعوبة وبطء: حيث تتراكم الأكاذيب البصرية الصغيرة دون ملاحظة.

نُشر لأول مرة يوم الخميس، 5 يونيو 2025