كيفية منع برامج الذكاء الاصطناعي من تصوير آيفون في العصور السابقة

كيف ترسم مولدات الصور الذكية الماضى؟ تشير الأبحاث الجديدة إلى أن هذه البرامج تضع الهواتف الذكية في القرن الثامن عشر، وتضيف أجهزة الكمبيوتر المحمولة إلى مشاهد من الثلاثينيات، وتوضع máy تنظيف بالغرفة في المنازل في القرن التاسع عشر، مما يثير تساؤلات حول كيفية تصور هذه النماذج للتاريخ – وما إذا كانت قادرة على تحقيق الدقة التاريخية السياقية على الإطلاق.

في أوائل عام 2024، تعرضت قدرات توليد الصور في نموذج الذكاء الاصطناعي المتعدد من جوجل، جيميني، للانتقاد لفرض العدالة السكانية في سياقات غير مناسبة، مثل توليد جنود ألمان في الحرب العالمية الثانية مع أصول غير محتملة:

موظفون عسكريون ألمان غير محتملين من الناحية السكانية، كما تتصورهم جوجل جيميني نموذج متعدد في عام 2024. مصدر: جيميني إيه آي / جوجل عبر الغارديان

كان هذا مثالًا على كيفية فشل جهود معالجة الانحياز في نماذج الذكاء الاصطناعي في考虑 السياق التاريخي. في هذه الحالة، تمت معالجة القضية بعد فترة وجيزة. ومع ذلك، لا تزال النماذج القائمة على الانتشار عرضة لتوليد نسخ من التاريخ التي ت混 بين الجوانب والمنحوتات الحديثة والتاريخية.

هذا جزئيًا بسبب الارتباط، حيث يتم دمج الخصائص التي تظهر معًا بشكل متكرر في بيانات التدريب في مخرجات النموذج. على سبيل المثال، إذا كان الكائنات الحديثة مثل الهواتف الذكية تظهر بشكل متكرر مع فعل الكلام أو الاستماع في مجموعة البيانات، قد يتعلم النموذج ربط هذه الأنشطة بأجهزة حديثة، حتى لو كان السياق يحدد إعدادًا تاريخيًا.

أعدت أبحاث جديدة من سويسرا، التي تدرس ظاهرة الأجيال التاريخية المتشابكة في نماذج الانتشار الكامن، ملاحظة أن الإطارات الذكية التي تتمتع بقدرة على إنشاء صور فوتوغرافية واقعية لا تزال تفضل تصوير الشخصيات التاريخية بالطرق التاريخية:

من الورقة الجديدة، تمثيلات متنوعة عبر نموذج LDM للطلب ‘صورة فوتوغرافية واقعية لشخص يضحك مع صديق في [الفترة التاريخية]’، مع كل فترة موضحة في كل مخرجات. مصدر: https://arxiv.org/pdf/2505.17064

للبحث عن ‘صورة فوتوغرافية واقعية لشخص يضحك مع صديق في [الفترة التاريخية]’، غالبًا ما يتجاهل أحد النماذج الثلاثة العبارة السلبية ‘الصور الفوتوغرافية بالأبيض والأسود’ وبدلاً من ذلك يستخدم معالجات الألوان التي تعكس وسائل الإعلام البصرية للعصر المحدد، على سبيل المثال، تقليد الألوان المعتدلة لأفلام السيلولويد من الخمسينيات والسبعينيات.

في اختبار النماذج الثلاثة لقدرتهم على إنشاء أشياء غير متوافقة مع الزمن (أشياء لا تنتمي إلى الفترة المستهدفة، أو ‘خارج الزمن’ – والتي قد تكون من المستقبل والماضي)، وجدوا ميلًا عامًا إلى خلط الأنشطة الخالدة (مثل ‘الغناء’ أو ‘الطبخ’) مع السياقات الحديثة والمعدات:

أنشطة متنوعة صالحة تمامًا للقرون السابقة يتم تصويرها مع التكنولوجيا والحرف الحديثة، ضد روح الصور المطلوبة.

من الملاحظ أن الهواتف الذكية صعبة الفصل عن طريقة التصوير، ومن العديد من السياقات التاريخية، منذ أن تمثل انتشارها وتصويرها جيدًا في مجموعات بيانات كبيرة مثل Common Crawl:

في نموذج Flux التوليدي للصورة والنص، يتم ربط الاتصالات والهواتف الذكية ارتباطًا وثيقًا – حتى عندما لا يسمح السياق التاريخي بذلك.

لتحديد مدى هذه المشكلة، ولتوفير طريقة للبحوث المستقبلية لمواجهة هذا العيب، قام مؤلفو الورقة الجديدة بتطوير مجموعة بيانات مخصصة لاختبار أنظمة التوليد:

تم إنشاء 30 ألف صورة من مائة طلب يصور نشاطات بشرية شائعة، كلها تمثلت في عشرة فترات زمنية مختلفة:

عينة من مجموعة HistVis، التي قام المؤلفون بنشرها على Hugging Face. مصدر: https://huggingface.co/datasets/latentcanon/HistVis

تم اختيار الأنشطة، مثل الطبخ، الصلاة أو الاستماع إلى الموسيقى، لشدة انتشارها، وتم صياغتها بطرق محايدة لتجنب ربط النموذج بأي جمالية معينة.

تمتد الفترات الزمنية للمجموعة من القرن السابع عشر حتى الوقت الحالي، مع التركيز على خمسة عقود فرديين من القرن العشرين.

تم توليد 30 ألف صورة باستخدام ثلاثة نماذج مفتوحة المصدر شائعة:

Stable Diffusion XL؛ Stable Diffusion 3؛ وFLUX.1. من خلال عزل الفترة الزمنية كمتغير واحد، أنشأ الباحثون أساسًا منظمًا لتقييم كيفية ترميز السياقات التاريخية بصريًا بواسطة هذه الأنظمة.

حقيقة هشة

تلمس بعض المواضيع في الورقة قضايا حساسة ثقافيًا، مثل التمثيل الناقص للأجناس والجنس في التمثيلات التاريخية. بينما يُعتبر فرض جيميني للعدالة العرقية في الرايخ الثالث غير عادل histórico是一个 historical revision غريب والمهين، فإن استعادة التمثيلات التقليدية (حيث قامت نماذج الانتشار بتحديثها) ستؤدي غالبًا إلى ‘تبييض’ التاريخ.

تظهر العديد من العروض التلفزيونية التاريخية الحديثة، مثل Bridgerton، تمثيلات ديموغرافية تاريخية غير دقيقة بطرق من المحتمل أن تؤثر على مجموعات بيانات التدريب المستقبلية، مما يضيف تعقيدات إلى الجهود المبذولة لتحقيق مطابقة الصور المولدة بواسطة LLM مع المعايير التقليدية.

مع مراعاة هذه المعايير الثقافية الحساسة والمتغيرة باستمرار، دعونا نلقي نظرة على نهج الباحثين الجديد.

المنهج والاختبارات

لاختبار كيفية تفسير النماذج التوليدية للسياق التاريخي، أنشأ المؤلفون HistVis، مجموعة من 30 ألف صورة تم إنشاؤها من مائة طلب يصور نشاطات بشرية شائعة، كلها تمثلت في عشرة فترات زمنية مختلفة:

عينة من مجموعة HistVis، التي قام المؤلفون بنشرها على Hugging Face. مصدر: https://huggingface.co/datasets/latentcanon/HistVis

تم اختيار الأنشطة، مثل الطبخ، الصلاة أو الاستماع إلى الموسيقى، لشدة انتشارها، وتم صياغتها بطرق محايدة لتجنب ربط النموذج بأي جمالية معينة.

تمتد الفترات الزمنية للمجموعة من القرن السابع عشر حتى الوقت الحالي، مع التركيز على خمسة عقود فرديين من القرن العشرين.

تم توليد 30 ألف صورة باستخدام ثلاثة نماذج مفتوحة المصدر شائعة:

Stable Diffusion XL؛ Stable Diffusion 3؛ وFLUX.1. من خلال عزل الفترة الزمنية كمتغير واحد، أنشأ الباحثون أساسًا منظمًا لتقييم كيفية ترميز السياقات التاريخية بصريًا بواسطة هذه الأنظمة.

هيمنة الأسلوب البصري

ابتداءً من ذلك، فحص المؤلفون ما إذا كانت النماذج التوليدية تافترض أنماطًا بصرية محددة عند تصوير الفترات التاريخية؛ لأنها بدت وكأنها ترتبط بأسلوب معين في كل قرن:

الأساليب البصرية المتوقعة للصور المولدة من الطلب ‘شخص يرقص مع شخص آخر في [الفترة التاريخية]’ (اليسار) ومن الطلب المعدل ‘صورة فوتوغرافية واقعية لشخص يرقص مع شخص آخر في [الفترة التاريخية]’ مع ‘صورة بالأبيض والأسود’ كطلب سلبي (اليمين).

لقياس هذه الميل، درب المؤلفون شبكة عصبية خلوية (CNN) على تصنيف كل صورة في مجموعة HistVis إلى واحدة من خمسة فئات:

رسم؛ نقش؛ رسم توضيحي؛ لوحة؛ أو تصوير فوتوغرافي. تم تصميم هذه الفئات لتعكس الأنماط الشائعة التي تظهر عبر الفترات الزمنية، وتدعم المقارنة المنظمة.

كان المصنف مبنيًا على نموذج VGG16 مدرب مسبقًا على ImageNet ومحسّن مع 1500 مثال لكل فئة من مجموعة WikiArt المشتقة. منذ أن لا تميز WikiArt بين التصوير الفوتوغرافي بالأبيض والأسود والملون، تم استخدام نظام نقاط اللون منفصل لتحديد الصور منخفضة التشبع كصور بالأبيض والأسود.

تم تطبيق المصنف المدرب على المجموعة الكاملة، مع نتائج تظهر أن جميع النماذج تفرض أساليب بصرية افتراضية متسقة حسب الفترة:

ترتبط SDXL بالنقوش في القرنين السابع عشر والثامن عشر، بينما يميل SD3 وFLUX.1 إلى اللوحات. في العقود العشرينية من القرن العشرين، يفضل SD3 التصوير الفوتوغرافي بالأبيض والأسود، بينما يعود SDXL غالبًا إلى الرسومات الحديثة.

تظهر جميع النماذج ثلاثة تفضيلًا قويًا للصور الفوتوغرافية بالأبيض والأسود في العقود الأولى من القرن العشرين، خاصة في العقد 1910، 1930، 1950.

لاختبار ما إذا كانت هذه الأنماط يمكن تقليلها، استخدم المؤلفون هندسة الطلبات، وطلبوا صراحة الواقعية الفوتوغرافية وصدّروا مخرجات الصور بالأبيض والأسود باستخدام طلب سلبي. في بعض الحالات، انخفضت درجات الهيمنة، وانتقلت الأسلوب الرائد، على سبيل المثال، من التصوير الفوتوغرافي بالأبيض والأسود إلى اللوحة، في القرنين السابع عشر والثامن عشر.

然而، نادرًا ما أدت هذه التدخلات إلى إنتاج صور فوتوغرافية واقعية حقيقية، مما يشير إلى أن أساليب النماذج افتراضية متأصلة بعمق.

التناسق التاريخي

تناولت الخط الثاني من التحليل موضوع التناسق التاريخي:

ما إذا كانت الصور المولدة تحتوي على كائنات لا تناسب الفترة الزمنية. بدلاً من استخدام قائمة ثابتة من العناصر المحظورة، طوّر المؤلفون طريقة مرنة استفادت من نماذج اللغة الكبيرة (LLMs) ونماذج اللغة والرؤية (VLMs) لتحديد العناصر التي تبدو غير مناسبة، بناءً على السياق التاريخي.

اتبعت طريقة الكشف نفس الشكل مثل مجموعة HistVis، حيث تم الجمع بين كل طلب مع فترة زمنية معينة. لكل طلب، أنتج GPT-4o قائمة بالكائنات التي سيكون من غير المناسب وجودها في الفترة الزمنية المحددة؛ ومن أجل كل كائن مقترح، أنتج GPT-4o سؤالًا بنعم أو لا لتحقق من ظهور ذلك الكائن في الصورة المولدة.

على سبيل المثال، بالنسبة إلى الطلب ‘شخص يستمع إلى الموسيقى في القرن الثامن عشر’، قد يحدد GPT-4o أجهزة الصوت الحديثة كأشياء غير تاريخية، وينتج السؤال هل يستخدم الشخص سماعات أو هاتفًا لم يكن موجودًا في القرن الثامن عشر؟.

تم تمرير هذه الأسئلة إلى GPT-4o في إعداد للاستجابة للأسئلة البصرية، حيث راجع النموذج الصورة وأعاد جوابًا بنعم أو لا لكل سؤال.

سمح هذا Pipeline بالكشف عن محتوى غير تاريخي دون الاعتماد على أي تصنيف مسبق للكائنات الحديثة:

أمثلة على صور مولدة تم تحديدها بواسطة طريقة الكشف ذات المراحل İki، مما يظهر عناصر غير متوافقة مع الزمن: سماعات في القرن الثامن عشر؛ máy تنظيف في القرن التاسع عشر؛ جهاز كمبيوتر محمول في الثلاثينيات؛ وهاتف ذكي في الخمسينيات.

لقياس مدى شيوع الأشياء غير المتوافقة مع الزمن في الصور المولدة، قدم المؤلفون طريقة بسيطة لتحديد التواتر والخطورة.

أولاً، قاموا بمعالجة الاختلافات الطفيفة في كيفية وصف GPT-4o لنفس الكائن.

على سبيل المثال، تم التعامل مع ‘جهاز صوتي حديث’ و ‘جهاز صوتي رقمي’ على أنهما مترادفان. لتجنب العد المزدوج، تم استخدام نظام المطابقة الضبابية لدمج هذه الاختلافات السطحية دون التأثير على المفاهيم الفعلية المختلفة.

بعد تطبيع جميع الأشياء غير المتوافقة مع الزمن المقترحة، تم حساب两个 معيار:

قياس التواتر كيفية ظهور كائن معين في الصور لفترة زمنية معينة ونموذج معين؛ وقياس الخطورة مدى ثبات ظهور ذلك الكائن بعد اقتراحه بواسطة النموذج.

إذا تم تحديد هاتف محمول عشر مرات وتم ظهوره في عشرة صور مولدة، فسيحصل على درجة خطورة تبلغ 1.0. إذا ظهر في خمس صور فقط، فإن درجة الخطورة تكون 0.5. هذه الدرجات ساعدت في تحديد ليس فقط ما إذا كانت الأشياء غير المتوافقة مع الزمن تحدث، ولكن أيضًا كيفية تواترها في مخرجات النموذج لكل فترة:

أعلى خمسة عشر عنصر غير متوافق مع الزمن لكل نموذج، مخطط حسب التواتر على المحور السيني والخطورة على المحور الصادي.

فيما يلي نرى أعلى خمسة عشر عنصر غير متوافق مع الزمن لكل نموذج، مصنفة حسب التواتر والخطورة.

الملابس كانت شائعة ولكن متناثرة، بينما ظهرت عناصر مثل أجهزة الصوت ومعدات الكي بتواتر أقل، ولكن بثبات أعلى – أنماط تشير إلى أن النماذج غالبًا ما تستجيب للنشاط في الطلب أكثر من الفترة الزمنية.

أظهر SD3 أعلى معدل للأشياء غير المتوافقة مع الزمن، خاصة في الصور من القرن التاسع عشر والثلاثينيات، تليها FLUX.1 وSDXL.

لتحديد مدى اتفاق طريقة الكشف مع الحكم البشري، قام المؤلفون بدراسة تقييم المستخدم باستخدام 1800 صورة تم اختبارها بشكل عشوائي من SD3 (النموذج ذو أعلى معدل للأشياء غير المتوافقة مع الزمن)، مع كل صورة تم تقييمها بواسطة ثلاثة من العمال في مجموعة من العمال.

بعد تصفية الاستجابات الموثوقة، تم تضمين 2040 حكمًا من 234 مستخدمًا، ووافقت الطريقة على تصويت الأغلبية في 72٪ من الحالات:

واجهة المستخدم لدراسة التقييم البشري، تظهر تعليمات المهمة، أمثلة على الصور الدقيقة والغير دقيقة، وأسئلة بنعم أو لا لتحديد الانسجامات الزمنية في المخرجات المولدة.

الديموغرافيا

تناولت التحليل النهائي كيفية تصوير النماذج العرق والجنس عبر الزمن. باستخدام مجموعة HistVis، قام المؤلفون بمقارنة مخرجات النموذج بالتقديرات الأساسية التي أنتجها نموذج اللغة.

كانت هذه التقديرات ليست دقيقة، ولكنها قدمت فكرة تقريبية عن الملاءمة التاريخية، مما ساعد في الكشف عما إذا كان النموذج يعدل التمثيلات وفقًا للفترة المقصودة.

لتحليل هذه التمثيلات على نطاق واسع، بنى المؤلفون pipeline لتحديد الديموغرافيا في المخرجات المولدة مقارنة بالتوقعات الخشنة:

استخدموا في البداية مصنف FairFace، وهو أداة تستند إلى ResNet34 تم تدريبها على أكثر من 100000 صورة، لتحديد الجنس والعرق في المخرجات المولدة، مما مكن من قياس مدى ظهور الوجوه في كل مشهد على أنها ذكر أو أنثى، وتتبع الفئات العرقية عبر الفترات:

أمثلة على صور مولدة تظهر التمثيلات الديموغرافية الزائدة عبر النماذج، الفترات الزمنية، والأنشطة.

تمت تصفية النتائج منخفضة الثقة لتقليل الضوضاء، وتم ت平均 التوقعات على جميع الصور المرتبطة بفترة زمنية ونشاط معين. لتحقق من موثوقية قراءات FairFace، تم استخدام نظام ثانٍ يستند إلى DeepFace على عينة من 5000 صورة.

أظهر المصنفان اتفاقية قوية، مما يدعم الاتساق في القراءات الديموغرافية المستخدمة في الدراسة.

للمقارنة بين مخرجات النموذج والملاءمة التاريخية، طلب المؤلفون من GPT-4o تقدير التوزيع المتوقع للجنس والعرق لكل نشاط وفترة زمنية.

خدمت هذه التقديرات كقواعد أساسية تقريبية وليس كحقيقة موضوعية. تم استخدام معاييرتان:

التقدير وتحديد النسبة المئوية للفئة التي تمثلها مخرجات النموذج مقارنة بالتوقعات.

أظهرت النتائج أنماطًا واضحة:

FLUX.1 غالبًا ما تظهر الرجال، حتى في سياقات مثل الطبخ، حيث من المتوقع أن تكون النساء؛ SD3 وSDXL أظهرتا اتجاهات مماثلة عبر الفئات مثل العمل، التعليم، و الدين؛ والوجوه البيضاء ظهرت أكثر من المتوقع بشكل عام، على الرغم من أن هذا الانحياز انخفض في الفترات الأحدث؛ وبعض الفئات أظهرت زيادات غير متوقعة في تمثيل غير البيض، مما يشير إلى أن سلوك النموذج قد يعكس علاقات في مجموعة البيانات بدلاً من السياق التاريخي:

التمثيلات الجنسية والعرقية الزائدة والناقصة في مخرجات FLUX.1 عبر القرون والأنشطة، معروضة كفرق مطلقة عن تقديرات GPT-4o الديموغرافية.

يخلص المؤلفون إلى:

‘تظهر تحليلاتنا أن نماذج TTI تعتمد على ترميزات أسلوبية محدودة بدلاً من فهم دقيق للفترات التاريخية. كل عصر يرتبط بقوة بأسلوب بصرية معين، مما يؤدي إلى تمثيلات أحادية البعد للتاريخ.

‘على وجه الخصوص، تظهر تمثيلات فوتوغرافية واقعية للأشخاص فقط من القرن العشرين فصاعدًا، مع استثناءات نادرة في FLUX.1 وSD3، مما يشير إلى أن النماذج تعزز الارتباطات المكتسبة بدلاً من التكيف المرن مع السياقات التاريخية، مما يعزز فكرة أن الواقعية هي سمة حديثة.

‘علاوة على ذلك، تظهر الأشياء غير المتوافقة مع الزمن بشكل متكرر أن الفترات التاريخية ليست منفصلة بشكل واضح في الفضاءات الكامنة لهذه النماذج، حيث غالبًا ما تظهر المادة الحديثة في الإعدادات السابقة للتاريخ، مما يؤثر على موثوقية أنظمة TTI في السياقات التعليمية والتراث الثقافي.’

الخلاصة

خلال تدريب نموذج الانتشار، لا تتسلسل المفاهيم الجديدة بشكل منظم في فئات محددة مسبقًا في الفضاء الكامن. بدلاً من ذلك، تشكل مجموعات تشكلت بفضل تكرارها وقربها من الأفكار ذات الصلة.

هذا يؤدي إلى هيكل غير منظم حيث توجد المفاهيم في علاقة بالتكرار والسياق النموذجي، بدلاً من الانفصال الواضح أو التجريبي.

يجعل هذا من الصعب تحديد ما يعتبر ‘تاريخيًا’ داخل مجموعة بيانات كبيرة ومتنوعة. كما يشير البحث الجديد إلى أن العديد من الفترات الزمنية تمثلت أكثر ب ‘مظهر’ الوسائط المستخدمة لتصويرها من التفاصيل التاريخية الحقيقية.

هذا هو أحد الأسباب التي تجعل من الصعب توليد صورة فوتوغرافية واقعية من فئة 2025 لشخص من القرن التاسع عشر؛ في معظم الحالات، سيعتمد النموذج على التropes البصرية من الأفلام والتلفزيون.

عندما تفشل هذه التropes في مطابقة الطلب، هناك القليل في البيانات لتعويضه. سوف يعتمد سد هذه الفجوة على التحسينات المستقبلية في فصل المفاهيم المتداخلة.

نشر لأول مرة يوم الإثنين، 26 مايو 2025