استخدام هلوسات الذكاء الاصطناعي لتقييم واقعية الصور

يقترح بحث جديد من روسيا طريقة غير تقليدية لاكتشاف الصور غير الواقعية التي تم إنشاؤها بواسطة الذكاء الاصطناعي – وليس من خلال تحسين دقة نماذج اللغة والرؤية الكبيرة (LVLMs)، ولكن من خلال الاستفادة المتعمدة من ميلها إلى الهلوسة.

تعمل الطريقة الجديدة على استخراج العديد من “الحقائق الذرية” حول صورة باستخدام LVLMs، ثم تطبيق الاستدلال اللغوي الطبيعي (NLI) لقياس التناقضات المنهجية بين هذه العبارات – بشكل فعال تحويل عيوب النموذج إلى أداة تشخيصية لاكتشاف الصور التي تتعارض مع المنطق الشائع.

صورتان من مجموعة WHOOPS! إلى جانب العبارات التي تم إنشاؤها تلقائيًا بواسطة نموذج LVLM. الصورة اليسرى واقعية، مما يؤدي إلى وصف متسق، بينما تسبب الصورة غير العادية على اليمين في حدوث هلوسة، مما ينتج عنه عبارات متناقضة أو خاطئة. مصدر: https://arxiv.org/pdf/2503.15948

عندما طُلب من LVLM تقييم واقعية الصورة الثانية، يمكنه رؤية أن شيئًا ما ليس على ما يرام، لأن الجمل الموصوفة لها ثلاثة أجزاء، وهو أمر غير معروف في الطبيعة.

然而، يخلط LVLM في البداية بين >2 هامش و >2 حيوان، لأن هذا هو الطريقة الوحيدة التي يمكنك رؤية ثلاثة أجزاء في صورة “جمل”. ثم ينتقل إلى هلوسة شيء أكثر غير محتمل من ثلاثة أجزاء (أي “رأسين”) وأبدا لا يصف الشيء الذي يبدو أنه أثار شكوكه – الجزء الغير محتمل الإضافي.

وجد الباحثون في العمل الجديد أن نماذج LVLM يمكنها أداء هذا النوع من التقييم بشكل أصلي، وعلى نفس مستوى (أو أفضل من) النماذج التي تم تحسينها لمهمة من هذا القبيل. منذ أن يكون التحسين معقدًا وغاليًا ومتحفظًا من حيث التطبيق المتدني، فإن اكتشاف استخدام أصلي ل واحد من أكبر عقبات في ثورة الذكاء الاصطناعي الحالية هو تحول منعش على الاتجاهات العامة في الأدبيات.

التقييم المفتوح

يؤكد المؤلفون على أن أهمية النهج تكمن في أنه يمكن نشره باستخدام إطارات مفتوحة المصدر. في حين أن نموذج متقدم ومتقدم مثل ChatGPT يمكن (يقرّ الكتاب) أن يقدم نتائج أفضل في هذه المهمة، فإن القيمة القابلة للجدل للأدبيات لمعظمنا (وخاصة للمجتمعات الهواة وVFX) هي إمكانية دمج وتطوير اختراقات جديدة في التطبيقات المحلية؛ وعلى العكس من ذلك، كل شيء يعتمد على نظام واجهة برمجة تطبيقات تجارية مملوكة هو خاضع للانسحاب، وزيادة الأسعار بشكل تعسفي، وسياسات الرقابة التي من المرجح أن تعكس مخاوف الشركة أكثر من احتياجات المسؤولية للمستخدم.

المقال الجديد يحمل عنوان لا تقاتل الهلوسة، استخدمها: تقدير واقعية الصورة باستخدام NLI على الحقائق الذرية، ويأتي من خمسة باحثين من معهد سكولكوفو للعلوم والتكنولوجيا (Skoltech)، ومعهد موسكو للفيزياء والتكنولوجيا، والشركات الروسية MTS AI وAIRI. العمل له صفحة GitHub مصاحبة.

الطريقة

يستخدم المؤلفون مجموعة بيانات WHOOPS! الإسرائيلية/الأمريكية لمشروعهم:

أمثلة على صور مستحيلة من مجموعة WHOOPS! من المهم ملاحظة كيف تجمع هذه الصور عناصر قابلة للتصديق، وأن استحالة هذه الصور يجب حسابها بناءً على تركيبة هذه الجوانب غير المتوافقة. مصدر: https://whoops-benchmark.github.io/

تتكون المجموعة من 500 صورة合thetic و 10,874 تعليقًا، مصممة خصيصًا لاختبار استدلال المنطق الشائع والتفهم التركيبي لأنماط الذكاء الاصطناعي. تم إنشاؤها بالتعاون مع مصممين تم تكليفه بإنشاء صور تحدي من خلال أنظمة صورة إلى نص مثل Midjourney وسلسلة DALL-E – مما ينتج عنه سيناريوهات صعبة أو مستحيلة الالتقاط بشكل طبيعي:

أمثلة إضافية من مجموعة WHOOPS! مصدر: https://huggingface.co/datasets/nlphuji/whoops

تعمل الطريقة الجديدة في ثلاث مراحل؛ أولاً، يتم تحفيز LVLM (تحديدا LLaVA-v1.6-mistral-7b) لإنشاء عدة عبارات بسيطة – تسمى “حقائق ذرية” – تصف صورة. يتم إنشاء هذه العبارات باستخدام بحث شعاع متنوع، مما يضمن تنوعًا في الإخراج.

بحث شعاع متنوع ينتج خيارات تعليق أفضل من خلال تحسين هدف مدعوم بالتنوع. مصدر: https://arxiv.org/pdf/1610.02424

ثم يتم مقارنة كل عبارة تم إنشاؤها بشكل منهجي مع كل عبارة أخرى باستخدام نموذج استدلال لغوي طبيعي، الذي يخصص درجات تعكس ما إذا كانت أزواج العبارات تؤدي، تتعارض، أو تكون محايدة تجاه بعضها البعض.

التناقضات تشير إلى هلوسات أو عناصر غير واقعية داخل الصورة:

مخطط لخط أنابيب الكشف.

أخيرًا، يتم تجميع هذه الدرجات NLI الثنائية في درجة “واقعية” واحدة تكمم συνολικά تماسك العبارات التي تم إنشاؤها.

استكشف الباحثون أساليب تجميع مختلفة، مع أداء أفضل لنهج يعتمد على التجميع. قام المؤلفون بتطبيق خوارزمية كيميوسينتريك لفصل درجات NLI الفردية إلى两个 تجميع، وتم اختيار مركز التجميع ذي القيمة الأقل كالمقياس النهائي.

يتماشى استخدام两个 تجميع مباشرة مع الطبيعة الثنائية لمهمة التصنيف، أي التمييز بين الصور الواقعية وغير الواقعية. المنطق مشابه لاختيار أدنى درجة بشكل عام؛ ومع ذلك، يسمح التجميع للمقياس بالتمثيل المتوسط للتناقض عبر العديد من الحقائق، بدلاً من الاعتماد على قيمة متنقل واحدة.

البيانات والاختبارات

قام الباحثون بتحليل نظامهم على معيار مجموعة WHOOPS!، باستخدام تقسيمات اختبار (أي التحقق الصليب). تم اختبار النماذج BLIP2 FlanT5-XL و BLIP2 FlanT5-XXL في التقسيمات، و BLIP2 FlanT5-XXL في تنسيق بدون توجيه (أي بدون تدريب إضافي).

للمقارنة، تمت تهيئة LVLMs بالجملة ‘هل هذه غير عادية؟ يرجى الشرح بإيجاز مع جملة قصيرة’، والتي وجدت البحث السابق أنها فعالة لاكتشاف الصور غير الواقعية.

تم تقييم النماذج LLaVA 1.6 Mistral 7B و LLaVA 1.6 Vicuna 13B و حجمين (7/13 مليار معامل) من InstructBLIP.

ركزت إجراء الاختبار على 102 زوجًا من الصور الواقعية وغير الواقعية (“غريبة”). كل زوج يتكون من صورة عادية و صورة تتعارض مع المنطق الشائع.

قامت ثلاثة من المحققين البشريين بتسمية الصور، ووصلوا إلى إجماع بنسبة 92٪، مما يشير إلى اتفاقية قوية بين البشر حول ما يشكل “غرابة”. تم قياس دقة أساليب التقييم من خلال قدرتهم على التمييز بشكل صحيح بين الصور الواقعية وغير الواقعية.

تم تقييم النظام باستخدام التحقق الصليب ثلاثي التجزئة، مع إعادة ترتيب البيانات بشكل عشوائي باستخدام بذرة ثابتة. تم تعديل الأوزان لدرجات الالتزام (العبارات التي تتفق منطقيًا) ودرجات التناقض (العبارات التي تتعارض منطقيًا) خلال التدريب، في حين تم تثبيت درجات “الحياد” عند الصفر. تم حساب الدقة النهائية كمتوسط عبر جميع تقسيمات الاختبار.

مقارنة بين نماذج NLI وأساليب التجميع المختلفة على مجموعة فرعية من خمسة حقائق تم إنشاؤها، مقاسة بالدقة.

بخصوص النتائج الأولية الموضحة أعلاه، يذكر المقال:

‘طريقة [‘clust’] تبرز كأحد أفضل الأداء. هذا يعني أن تجميع جميع درجات التناقض مهم، وليس التركيز فقط على القيم المتطرفة. بالإضافة إلى ذلك، يتفوق نموذج NLI الأكبر (nli-deberta-v3-large) على جميع النماذج الأخرى لجميع أساليب التجميع، مما يشير إلى أنه يلتقط جوهر المشكلة بشكل أكثر فعالية.’

وجد المؤلفون أن الأوزان المثلى تفضل باستمرار التناقض على الالتزام، مما يشير إلى أن التناقضات كانت أكثر إفادة لتمييز الصور غير الواقعية. أدى نهجهم بشكل أفضل من جميع الأساليب بدون توجيه التي تم اختبارها، واقترب بشكل وثيق من أداء نموذج BLIP2 المُحسّن:

أداء مختلف الأساليب على معيار WHOOPS! تظهر الأساليب المُحسّنة (ft) في الجزء العلوي، في حين أن الأساليب بدون توجيه (zs) مدرجة في الأسفل. يشير حجم النموذج إلى عدد المعاملات، وتم استخدام الدقة كعامل تقييم.

كما لاحظوا، بطريقة غير متوقعة، أن InstructBLIP أداء أفضل من نماذج LLaVA المماثلة مع نفس التوجيه. في حين أنهم يعترفون بدقة GPT-4o الأعلى، يؤكد المقال على تفضيل المؤلفين لتقديم حلول مفتوحة المصدر وعملية، ويبدو أنهم يمكن أن يدعوا بصدق إلى الابتكار في استغلال الهلوسة كأداة تشخيصية.

الاستنتاج

然而، يعترف المؤلفون بدين مشروعهم لخروج FaithScore في عام 2024، وهو تعاون بين جامعة تكساس في دالاس وجامعة جونز هوبكينز.

تأثير كيفية عمل تقييم FaithScore. أولاً، يتم تحديد العبارات الوصفية داخل إجابة تم إنشاؤها بواسطة LVLM. ثم يتم تقسيم هذه العبارات إلى حقائق ذرية فردية. أخيرًا، يتم مقارنة الحقائق الذرية مع الصورة الإدخالية لتأكيد دقتها. مصدر: https://arxiv.org/pdf/2311.01477

يقيّم FaithScore إخلاص وصفات LVLM المُنشأة من خلال التحقق من الاتساق مع محتوى الصورة، بينما يستغل عمل المقال الجديد هلوسات LVLM بشكل صريح لاكتشاف الصور غير الواقعية من خلال التناقضات في الحقائق المُنشأة باستخدام الاستدلال اللغوي الطبيعي.

يعتمد العمل الجديد بشكل طبيعي على غرابة نماذج اللغة الحالية، وعلى ميلها إلى الهلوسة. إذا أدى تطوير النماذج إلى ظهور نموذج غير هلوسي بالكامل، فإن المبادئ العامة للعمل الجديد لن تكون قابلة للتطبيق بعد ذلك. ومع ذلك، يبقى هذا منظورًا صعبًا. أولاً،

نشر لأول مرة يوم الثلاثاء، 25 مارس 2025