تقليل هلوسات الصور الإصطناعية عن طريق التضخيم

نماذج الرؤية مثل ChatGPT غالبًا ما “تخيل” عناصر لا تنتمي إلى الصورة. طريقة جديدة تقلل من هذه الأخطاء من خلال عرض الصورة على نموذجها المضخمة من هلوساته الخاصة، بناءً على التعليقات – ثم طلب منه محاولة مرة أخرى. هذه الطريقة لا تتطلب إعادة تدريب أو حاجة إلى بيانات إضافية، ويمكن تطبيقها على مجموعة واسعة من النماذج وأنواع النماذج.

نشر جديد من الصين يقدم نظرة مثيرة للاهتمام على مشكلة هلوسات الصور الإصطناعية في الصور والفيديوهات – عناصر واضحة لا ينبغي أن تكون في الصورة، بناءً على طلب المستخدم والمدخلات.

في جوهره، يأخذ النظام صورة ويسمح للنموذج بوصفها، كما هو معتاد؛ ثم يتحول هذا الوصف إلى صورة جديدة باستخدام نموذج نص-صورة – وستكون أي كائنات أو تفاصيل إضافية في هذه الصورة الثانية تمثيلاً مباشراً لهلوسات النموذج الأولية. ثم، من خلال مقارنة الصورة الأصلية والصورة المولدة، يوجه النظام النموذج بعيدًا عن تلك الأخطاء في المرة التالية التي يحاول فيها:

تجسيد لطريقة تحديد هلوسات الصور الإصطناعية وتقليلها. يصف النموذج العادي طيور لا توجد في الصورة الأصلية، مما يؤدي إلى صورة معاد بناؤها تضيفها. يتم وضع علامة على هذه الأخطاء باللون الأحمر. من خلال التباين، يتجنب الأسلوب المقترح التفاصيل المخترعة مع الحفاظ على وصف مفصل. مصدر: https://arxiv.org/pdf/2509.21997

تبدأ الطريقة bằng عرض الصور الحقيقية على النموذج ووصفها، بما في ذلك بعض الوصفات التي تتميز بالكائنات أو التفاصيل التي لا توجد في الواقع. يتم استخدام هذه الوصفات المخدرة لإنشاء صور合ية تجعل الأخطاء أكثر وضوحًا. من خلال مقارنة الصورة الحقيقية والصورة المولدة، يتعلم النظام الأنماط الداخلية في النموذج التي تنتج محتوى مخترع.

بمجرد تحديد أنماط الأخطاء، يمكن تخزينها واستخدامها لاحقًا. عندما يُعطى النموذج صورة جديدة، سيعدل النظام الإشارات الداخلية أثناء وصف الصورة، دفعه بعيدًا عن الأنماط المعروفة التي تسبب هلوسات. هذا يعمل في عملية واحدة ولا يتطلب بيانات إضافية أو إعادة تدريب أو إنشاء صورة جديدة في وقت الاختبار.

الشبكة المعقدة

في المثال الموضح أعلاه، من الورقة، يمكننا أن نرى أن الارتباط من المحتمل أن يكون مسؤولاً عن تعزيز “الطيور” في الصورة الإدخال، حتى لو لم تكن الصورة الأولى تحتوي على طيور.

يحدث الارتباط عندما يصر النموذج على ربط مفاهيم معينة بمفاهيم أخرى، ببساطة لأن المفاهيم الثلاثة (أو أكثر) تظهر معًا بشكل متكرر في التوزيع الأصلي للبيانات الذي تم تدريب النموذج عليه. في هذه الحالة، قد يكون النموذج قد رأى العديد من الصور ل الطائرات+الطيور، مما يؤدي إلى ارتباط لا ينطبق على الصورة المحددة، ولكن ي介ف على الوصف المشتق.

على الرغم من أن الارتباط يمكن تقليله عن طريق إيقاف التدريب في وقت سابق (الذي، بشكل عام، يجعل النموذج مرنًا وقابل للتكيف)، إلا أنه يقلل أيضًا من تفاصيل ووضوح المفاهيم المُدرَجة، مما يترك مدرب النموذج مع معضلة دائمة: إنشاء نموذج مرن وقابل للتكيف؛ أو إنشاء نموذج أكثر قوة في التوليد، ولكن أيضًا أكثر عرضة لإنتاج هلوسات مرتبطة.

إذا كانت جودة الوصف ودقة التفاصيل في صياغة البيانات الأصلية للنموذج التوليدي أفضل من اللوجستيات المعتادة، فإن الوصفات للصور المصدر سوف تتضمن كل كائن في كل صورة، بحيث يمكن للنموذج المُدرَج أن يخصص إدخالات منفصلة ومفككة في الفضاء اللاتنتي.

كما هو الحال، فإن ممارسة الوصف لتحسين محركات البحث، بالإضافة إلى حقيقة أن التنقيب عن الويب على نطاق واسع لا يزال أفضل مصدر لتدريب نماذج توليدية قوية حقًا، يعني أن الوصفات للصور غالبًا ما تقل عن هذا المعيار:

تجسيد لكيفية تقييد الوصف الضعيف لصور LAION لتدريب نماذج مثل Stable Diffusion. العديد من العلامات النصية سطحية أو غامضة أو محسنة لتحسين محركات البحث بدلاً من الوصف الدقيق، مما يجعل من الصعب على النموذج تعلم المفاهيم البصرية الدقيقة مثل الميزاتFacial (المصدر الأصلي كان https://rom1504.github.io/، الآن محذوف).

لذلك، منذ أن أصبحت الحلول الأساسية غير ممكنة في الممارسة، أصبحت تقليل هلوسات LLM/VLM بواسطة الحلول والتنازلات فرعًا قويًا في الأدب.

تقنية صينية جديدة كشفت هذا الأسبوع، يعلن المؤلفون أنها تم اختبارها عبر مجموعة متنوعة من الهياكل في ظروف متنوعة، ويمكن أن تشير إلى طريقة مفيدة لتقليل “تلوث هلوسات”.

يقولون:

‘تظهر التجارب الشاملة عبر عدة معايير أن طريقةنا تقلل بشكل كبير من هلوسات على مستوى الكائنات والسمات والعلاقات مع الحفاظ على استدعاء الوصف وغناه.

الورقة الجديدة بعنوان كشف هلوسات للتخلص منها: تحرير تمثيل VLMs باستخدام مرساة توليدية، وهي من ثلاثة باحثين عبر جامعة العلوم والتكنولوجيا الصينية، وجامعة نانجينغ.

الطريقة

لقد ابتكر المؤلفون خط أنابيب من النهاية إلى النهاية، كما هو موضح أدناه، مصمم لكشف هلوسات وضغطها في وصف الصور:

تجسيد للخط الأنابيب الكامل. يولد نموذج رؤية-لغة وصفًا من الصورة الإدخال، والذي قد يحتوي على محتوى مخدّر. ثم يتم استخدام هذا الوصف لإنتاج صورة معاد بناؤها عبر نموذج نص-صورة، مما يجعل أي هلوسات أكثر وضوحًا. يتم استخراج التضمينات من الصور الأصلية والمعاد بناؤها واستخدامها لتوجيه التعديلات داخل المُشفر، مما يساعد النموذج على قمع تفاصيل هلوسات مع الحفاظ على جودة الوصف.

ابتداءً من صورة إدخال حقيقية، يولد نموذج رؤية-لغة وصفًا يحتوي على كائنات أو علاقات مخترعة. ثم يتم إطعام هذا الوصف إلى نموذج نص-صورة لإنشاء صورة معاد بناؤها تُظهر بالضبط ما يصفه الوصف. تقارن هذه الصورة المعاد بناؤها بالصورة الأصلية، مما يجعل المحتوى المخدّر واضحًا وقابل للقياس، مما يتحول الأخطاء الدقيقة في النص إلى فروق مرئية يمكن للنظام استهدافها وتقليلها.

为了 إبعاد النموذج عن “اختراع” التفاصيل، يقارن النظام بين صورتين من نفس الصورة: الأصلية والمعاد بناؤها بناءً على الوصف. يتم تحويل كل صورة إلى تضمين مضغوط يلتقط محتواها.

تُعتبر الصورة الأصلية مرجعًا موثوقًا، في حين تُظهر الصورة المعاد بناؤها أين قد تكون هلوسات قد خاضت. من خلال تعديل تمثيلاته الداخلية لتقرب من الأصل والابتعاد عن المعاد بناؤها، يتعلم النموذج تصحيح نفسه تلقائيًا. منذ أن لا يعتمد هذا العملية على قواعد محددة أو بيانات خارجية، يظل من النوع الذاتي.

يقول الورقة:

‘هلوسات في MLLMs صعبة للكشف عنها لأنها لغوياً معقولة وغالبًا لا يمكن تمييزها عن الوصفات الموثوقة على مستوى النص. يقع الخلاف ليس في إمكانية اللغة ولكن في عدم التزامها مع الأدلة البصرية، والتي غالبًا ما يكون النموذج نفسه غير حساس لها.

‘لذا، نقدم آلية كشف هلوسات لتحويل التناقضات الضمنية إلى إشارات واضحة ومرئية.’

مع صورة إدخال ووصفها، يستخدم النظام نموذج FLUX.1-dev النص-صورة لإعادة إنشاء صورة من الوصف وحده. تميل هذه الصورة المعاد بناؤها إلى تضخيم معنى الوصف، مما يجعل أي تفاصيل خاطئة أكثر وضوحًا. تعمل هذه الإشارات المضخمة كإشارات مفيدة تساعد النموذج على التعرف على تصحيح أخطائه.

为了 اختبار نهجهم، قام المؤلفون بحقن هلوسات في الوصفات واستخدموا نموذج نص-صورة لإنشاء صور معاد بناؤها. ثم تم إعادة وصف هذه الصور بواسطة LLaVA، وتقييم التشابه السيميائي بين الوصف الأصلي والهلوسات:

تجسيد لكيفية جعل آلية تضخيم هلوسات الأخطاء الصغيرة مرئية. كل نقطة تظهر التشابه بين وصف الصور الأصلية والمعاد بناؤها لزوج صورة-وصف واحد. تمثل الخط البرتقالي التشابه المقاس مباشرة بين الوصف الأصلي والهلوسات، والذي يبقى مرتفعًا ويكتم الأخطاء الصغيرة؛ يُظهر الخط الأزرق التشابه بعد إعادة البناء، والذي ينخفض بشكل حاد، مما يدل على أن العملية تحول هلوسات مخفية إلى علامات سيميائية واضحة يمكن الكشف عنها وتصحيحها.

ينخفض التشابه بشكل حاد بعد إعادة البناء، مما يدل على أن العملية تجعل الأخطاء الصغيرة أكثر قابلية للكشف.

البيانات والاختبارات

شملت التحقق من فعالية الطريقة الجديدة استخدام ثلاثة معايير مناسبة: تقييم هلوسات الوصف مع صلة الصورة (CHAIR); تقييم MLLM (MME); و تقييم استكشاف الكائنات القائم على التجميع (POPE).

من ورقة إصدار CHAIR: أمثلة على كائنات هلوسات تم إنشاؤها بواسطة نظامي وصف رائد، TopDown و NBT، حيث يخترع كل نموذج عناصر بصرية غير موجودة في الصورة، مثل الحواسيب المحمولة أو الأحواض أو لوحات التزلج. مصدر: https://arxiv.org/pdf/1809.02156

يمكن أن يكون مقياس هلوسات أو استدعاء معياريين خادعين، لأن النموذج قد يتجنب هلوسات ببساطة عن طريق إنتاج وصفات قصيرة أو غامضة. لتحقيق توازن بين الاستدعاء وهلوسات، تم استخدام مقياس مجمع يسمى هلوسات واستدعاء (HAR@β)، والذي يقيم الوصفات بناءً على الدقة والكامل، ويمكن تعديل التوازن بناءً على ما إذا كان تجنب الأخطاء أو تضمين المزيد من التفاصيل أكثر أهمية.

تم استخدام POPE لتقييم هلوسات الكائنات الحساسة للسياق، و MME لتقييم هلوسات على مستوى السمة، مع كلاهما مصممين كمهمات حكم نعم أو لا.

تم إجراء التجارب عبر مجموعات بيانات متنوعة، باستخدام نموذج Flux المذكور أعلاه ونموذج LLaVA-v1.5-7B. كانت مجموعات البيانات المستخدمة هي Microsoft COCO ؛ A-OKVQA؛ و GQA.

تم إجراء تحرير متوازي للطبقة الثانية من النماذج، وفقًا للعمل السابق المتعلق، بينما كانت المعلمات ودرجة الحرارة متسقة عبر جميع النماذج.

تم تقديم النتائج الأولية على CHAIR أدناه:

أداء على معيار CHAIR لتقليل هلوسات، مقياس بمقاييس متعددة.

من بين هذه النتائج، يقول المؤلفون:

‘تُظهر تجاربنا الشاملة عبر عدة معايير أن طريقةنا تتفوق بشكل مستمر على الأسس الأخرى في كل من CHAIR_S و CHAIR_I، مما يدل على فعاليتها العالية في قمع هلوسات. في الوقت نفسه، على الرغم من أن معظم الطرق تقلل من الاستدعاء أثناء قمع هلوسات، مما يعكس توازنًا بين الإخلاص والإفادة، تحقق طريقةنا انخفاضًا صغيرًا في الاستدعاء.

‘هذا يُظهر أن طريقةنا تلتقط مجموعة واسعة من الكائنات الحقيقية. مع مقياس HAR@β، تحقق طريقةنا أعلى درجة، مما يُظهر قدرةها على تقليل هلوسات مع الحفاظ على التغطية.’

ينسب الباحثون هذه النتائج القوية إلى الإعداد المزدوج للإشراف، حيث تم تعزيز السيميائية النظيفة من الصورة الأصلية، في الوقت نفسه تم قمع الإشارات الخادعة من الصورة المعاد بناؤها. منذ أن استهدفت التعديلات فقط الاتجاه المرتبط بالهلوسات، تم ترك بقية التمثيل سليمًا، مما سمح للنظام بتصحيح الأخطاء دون التضحية بالتفاصيل أو الإفادة.

مقارنة الأداء على معيار POPE تحت تكوينات و مجموعات بيانات مختلفة.

فيما يتعلق النتائج على POPE، كما هو موضح في الجدول أعلاه، تقول الورقة:

‘يمكن ملاحظة أن طريقةنا تحقق الأداء الأفضل بانتظام عبر جميع الإعدادات. بشكل ملحوظ، يمكن لطريقةنا تحقيق دقة تصل إلى +5.95% و +6.85% في متوسط الدرجات، متجاوزةً نهجًا بدون تدريب آخر بفارق كبير.

‘لذلك، تُظهر هذه النتائج أن طريقةنا توفر حلًا موثوقًا ويمكن تطبيقه على مستويات مختلفة من الصعوبة.’

من الجولة الثالثة للاختبار، مقارنة الأداء على MME.

كان الاختبار الرئيسي الأخير على MME، مع النتائج المذكورة أعلاه. ومع ذلك، من بين الإغفال الآخر، يذكر “طريقة OPERA”، والتي لم يتم تعريفها في الورقة الرئيسية أو الملحق. على الرغم من أن المؤلفين يزعمون أداءً قويًا على MME، بدون تعريفات كافية للطرق، من الأفضل ترك قسم النتائج عند هذه النقطة.

تجسيد من معيار MME باستخدام LLaVA-v1.5-7B، يُظهر كيف أن النموذج الأساسي أنتج جوابًا هلوسيًا بينما قدمت طريقة المقترحة الإجابة الصحيحة، مع جعل الصورة المعاد بناؤها هلوسة أكثر وضوحًا.

الاستنتاج

على الرغم من أن هذه الورقة واضحة أنها متعجلة، وتعاني من نقص البنية والتركيز والوضوح الذي أصبح أكثر وضوحًا في الأدب خلال الأشهر القليلة الماضية (ربما لا يرتبط ذلك ارتباطًا مباشرًا بزيادة استخدام الذكاء الاصطناعي في البحث العلمي)، فإن الآلية المركزية المقدمة لا تزال مبتكرة.

في حين أن هذا النهج من النهاية إلى النهاية لا يتطلب إعادة تدريب، ويبدو قابلاً للتطبيق عبر مجموعة من الهياكل وأنواع النماذج، لكان من المثير رؤية المزيد من المرشحين للتجارب؛ ويجب أيضًا أن يُعتبر أن نظامًا متداخلًا من هذا النوع سوف يُroduces على الأقل تأخيرًا، ودرجة معينة من متطلبات القوة – ليس أمرًا ثانويًا بالمطلق، خاصة عند النطاق.

* على النحو غير التقليدي، يقدم جزء رئيسي من هذه الورقة نتائج مع عناوين لا تُشرح إلا في مواد الملحق، وليس في الورقة الرئيسية – سلوك سيئ يزداد شيوعًا في الأدب، حيث يسعى الباحثون إلى تقييد الأطروحة المركزية في 8-9 صفحات، حتى عندما لا يسمح المادة بذلك. في أي حال، كان معيار CHAIR، المستخدم لتقييم هلوسات الكائنات في الوصف، مبنيًا على مجموعة فرعية من 500 صورة من مجموعة Microsoft COCO السابقة. تم استخدام شكلين: CHAIR_S، لقياس مدى تكرار هلوسات في أي وصف؛ و CHAIR_I، لقياس عدد الكائنات المذكورة التي تم هلوستها. تم تعريف HAR@β، المقدم في الورقة الرئيسية، على أنه تركيبة من نمط Fβ لقمع هلوسات واستدعاء الكائنات.

نُشر لأول مرة يوم الثلاثاء، 30 سبتمبر 2025