رسومات مبهجة يمكن أن تجعل حتى البحث “الشرير” يبدو موثوقًا به

تُظهر الأبحاث الجديدة أن وضع رسومات معقدة ومزخرفة يمكن أن يجعل الناس يثقون بقرارات الذكاء الاصطناعي المتحيزة، حتى عندما تكون واضحًا أنها غير عادلة.

على الرغم من أن ممارسة ‘إعماء شخص بالعلم’ تسبق بشكل كبير العصر الحالي للذكاء الاصطناعي، إلا أنه يُجري تحسينه في هذا العصر – ولا سيما بسبب النمو الحديث في تقديم الأبحاث العلمية، مما جعل نسبة الإشارة إلى الضوضاء غير مواتية، و”الحيل الرخيصة” تكون أكثر شيوعًا.

وفقًا للعبارة القديمة “الأكاذيب، الأكاذيب الملاعنة، والإحصائيات“، الأداة المركزية المستخدمة في خداع أو إضلال القراء، عند تقديم أنظمة جديدة وأدلة علمية تشرح أو تبرر المطالبات حولها، هي الرسومات وتفاصيل البيانات.

في دراسة عام 2019 دراسة عن تأثير الرسومات على المشاركين في بنسلفانيا الريفية، لاحظ مؤلفو العمل ما يلي:

‘الأشخاص الذين تأثروا بالتعنيف أو الإدمان انجذبوا نحو الرسومات التي تمثل هذه المواد. غالبًا ما حدد الناس جودة الرسم الذي يحتوي على معلومات جغرافية بناءً على مدى سهولة أو صعوبة العثور على ولايتهم.

‘أشخاص آخرون قدروا الرسومات ليس بناءً على فهمهم الخاص، ولكن علىbasis Efficiency المتصورة للاتصال بـأشخاص آخرين.

‘أخيرًا، اقترح أحد المشاركين أنه سوف يولي اهتمامًا أكبر للتصورات من مصادر الأخبار المحلية أكثر من المصادر الوطنية.’

بعض الرسومات المعروضة على سكان بنسلفانيا الريفية في دراسة 2019. مصدر

تأثير الرسومات البيانية يصبح أكثر أهمية في عصر التعلم الآلي الجديد، حيث أن الثقة هي أمر بالغ الأهمية لصيانة اقتصاد الذكاء الاصطناعي (و، يمكن القول، تأخير الانهيار).

التعاون التعاون عام 2024 بين الولايات المتحدة وبريطانيا Trust Junk and Evil Knobs: Calibrating Trust in AI Visualization قدم概念 Trust Junk: وهو عبارة عن رسومات بصرية لذكاء اصطناعي واضح ‘الذي لا يمتلك أي صلة ذات معنى بالنموذج أو البيانات الأساسية [و] يستخدم لتعزيز الثقة’:

من الورقة 'Trust Junk and Evil Knobs: Calibrating Trust in AI Visualization', مثال على بيانات تم تشويهها لخدمة غرض مسبق (يمين)، بدلاً من عرضها بشكل صريح (يسار). هذا النوع من النهج 'يشجع على الاعتماد المفرط ويغمر المستخدم بإحساس بالسيطرة'، وفقًا للورقة. مصدر

دراسة سريعة

منذ تقديم مفهوم Trust Junk، لم يتم اختباره – وهو إهمال تمت معالجته من خلال ورقة جديدة من الولايات المتحدة، حيث تم تقديم نتائج دراسة افتراضية حول الذكاء الاصطناعي إلى المشاركين، تتعلق بمن هو الأكثر احتمالاً للنجاح في اختبار القبول في كلية الحقوق في الولايات المتحدة.

إذا نظر أحد بتمعن، يمكن أن يلاحظ أن معايير الترشيح كانت أ) جميع الرجال السود و ب) جميع الآخرين – مع توقع أن جميع الرجال السود سيفشلون في الامتحان:

من الورقة الجديدة: محفز مصنف يستخدم في تجارب المؤلفين، يُظهر قرار نموذج (C) حول ما إذا كان المرشح (B) سينجح في الامتحان، إلى جانب مكونات توضيحية تعمل كـ 'trust junk' (A, D, E, F). النموذج متحيز، ومع ذلك، فإن كميات متزايدة من المعلومات التوضيحية غير ذات صلة تؤدي إلى زيادة اتفاق المشاركين مع مخرجاته وتقييمه على أنه عادل. مصدر

معظم المشاركين وافقوا على تنبؤات النموذج ووصفوه بأنه عادل و موثوق، مع زيادة الاتفاق والثقة والتقدير العادل مع إضافة المزيد من الرسومات غير ذات الصلة.

بعض المستخدمين اعترضوا على الدراسة، ولكن ليس لreasons تتعلق بالمسألة المركزية:

‘لاحظنا 19 حالة حيث وصف المشاركون النموذج بأنه عادل (على سبيل المثال، قال أحد المشاركين، “إنه عادل لأنه لا يحتوي على تحيز جنسي أو عرقي”). ومع ذلك، أعرب المشاركون أحيانًا عن قلقهم بشأن النموذج. قال أحد المشاركين إنه كان قلقًا من “ما الذي قد يستخدمه الناس له”.

على الرغم من ذلك، لم يحدد أي من المشاركين في المجموعات الثلاث مشكلة حقيقية.

يقول المؤلفون:

‘باختصار، وجدنا أن Trust Junk نجح: المشاركون إما “مهدئون” من المعلومات غير ذات الصلة أو “مخدرين” من كمية البيانات في التوضيحات.

‘كل هذا التلاعب والإقناع حدث في سياق نموذج كان سطحيًا وغير عادل، وهو بالضبط الحالة التي نأمل فيها أن تتيح لنا XAI أن نصنع أحكام دقيقة.’

نحن معرضون بشكل متزايد للتحذير من التحقق من ما يقوله الذكاء الاصطناعي (سواء كان ذلك لدوافع مشبوهة أو بسبب مخرجات معيبة)، قد نكون أكثر استعدادًا للنظر بشكل أعمق في العناوين الرئيسية وتحليل مواد البحث الأصلية، والتقارير الربع سنوية للشركات، والتنسيقات الأخرى البعيدة عن الحياد.

لكن هل نحن مستعدون للانتباه بشكل أوثق إلى الرسومات “المهدئة” التي تؤكد لنا الدقة – أو على الأقل لتخفيض “دخان الصدق” الذي يمكن أن تثيره مجموعة من الرسومات؟

الورقة الجديدة بعنوان “Trust Junk” Leads to Unjustified Support for Highly Discriminatory Predictive Models“، وهي من تأليف ثلاثة باحثين من جامعة نورث إيسترن في بوسطن، ماساتشوستس. تم توفير موقع إضافي أيضًا.

المنهج

أجرى المؤلفون تجربة بين الأفراد عبر الإنترنت (أي، مشاركون مختلفون تم تخصيصهم لظروف مختلفة) حول “trust junk” في توضيحات XAI، لاختبار ما إذا كانت كميات متزايدة من التفاصيل الفنية الصحيحة ولكن غير ذات الصلة يمكن أن تقنع المستخدمين بأن نموذجًا متحيزًا كان عادلًا ومفيدًا.

استندت المحفزات إلى عمل سابق، مع دمج لوحات تحكم XAI الناتجة في تقنيات توضيح متعددة في واجهة واحدة.

للمهمة المتحيزة للغاية المذكورة أعلاه، طور الباحثون “توضيحات زائفة” للدراسة، مع توضيحات متعمدة حول تقنيات عرض البيانات الخادعة:

‘قدمنا كمية زائدة من المعلومات لمهمة التصنيف الثنائي للنموذج. كان تضمين كميات كبيرة من التفاصيل المعقدة ولكن في النهاية غير ذات الصلة旨 في إرهاق المشاركين في الدراسة بدلاً من تقديم بيانات مفيدة حقًا.

‘هذه التقنية [بمعنى مجازي] تخدر المستخدم حتى يقبل عدم قدرته على فهم البيانات полностью […].’

تستند الدراسة إلى خلافات سابقة حول تصنيف الذكاء الاصطناعي في امتحانات البكالوريا الدولية وامتحانات المستوى المتقدم، باستخدام مجموعة بيانات Passage Bar Law School، التي تحتوي على بيانات ديموغرافية واكاديمية ونتائج ل 20,000 مرشح من 1991-1997.

تم استخدام هذه البيانات لإنشاء نموذج متحيز عمدًا، يتنبأ بفشل المرشحين السود، بينما يمر جميع الآخرين – ومع ذلك، يصل النموذج إلى دقة 93.7% بسبب التوازن غير المتكافئ عبر السباق والجنس.

كما تم اختبار استراتيجية “الاستئناف إلى السلطة”، مع إضافة إشارات سطحية مثيرة للإعجاب مثل ارتباط جامعة مرموقة، وحجم مجموعة البيانات، ودقة خادعة.

بالإضافة إلى ذلك، تم حذف التدابير التي قد ت暴ح بيعاد النموذج على السباق والجنس، وتم تقديم فقط النتائج الإيجابية. ثم تم تقديم مجموعة صغيرة من المرشحين المماثلين جنبًا إلى جنب مع نتائج الامتحان الفعلية – بدلاً من تنبؤات النموذج – مما ساعد على إخفاء النمط الثابت لفشل المرشحين السود.

للمساهمة في كيفية تفسير المشاركين للنظام، تم تقديم المعلومات بطريقة تشجعهم على تشكيل توضيحات بسيطة ولكن خادعة لطريقة عمل النموذج. تم عرض جميع التفاصيل المتاحة حول الميزات، مما خلق انطباعًا بأن العديد من العوامل أثرت على القرار، على الرغم من أن السباق والجنس فقط كانا مستخدمين. كما شجع التأكيد الساخر على السمات الفردية المشاركين على بناء قصص معقولة ولكن خاطئة حول سبب توقع المرشح النجاح أو الفشل.

الضحايا

في مجموعة الاختبار، تم تخصيص كل توضيح ل一个 من ثلاثة مستويات من Trust Junk عبر ثلاثة ظروف دراسية: رأى المشاركون في حالة الأساس فقط البروفينانس الأساسي، وملف المرشح، وقرار النموذج؛ رأى أولئك في حالة النموذج أيضًا إحصائيات الدقة؛ ورأى أولئك في حالة كل شيء أيضًا مخططات التوزيع للميزات، وملفات للمرشحين المماثلين من بيانات التدريب.

تمت الموافقة على الدراسة من قبل مجلس المراجعة المؤسسية، وأجريت على Prolific، مع دفع 15 دولارًا للمشاركين في الساعة، وتخصيصهم عشوائيًا للظروف.

استعرض كل مشارك ثمانية ملفات مرشحين لامتحان القبول في كلية الحقوق بالترتيب العشوائي، وقرر ما إذا كان كل منهم سينجح، مع استخدام التوافق كأداة لقياس الاعتماد، تليها استبيانات لتقييم الثقة، وتم الحصول على عينة نهائية من 28 و 27 و 28 مشاركًا في ظروف الأساس و النموذج و كل شيء على التوالي.

افترض المؤلفون أن إضافة المزيد من المعلومات الغنية ولكن في النهاية غير ذات الصلة قد تجعل النموذج عادلًا من خلال خلق ثقة غير مبررة في مخرجاته. توقعوا أن المشاركين في ظروف النموذج و كل شيء سيعرضون مستويات أعلى من التوافق وتصورات أقوى للعادلية والثقة والفائدة من أولئك في حالة الأساس. كما قاموا بتحليل توضيحات المشاركين المكتوبة، ليرى كيف فهموا قرارات النموذج، مع التركيز على ما إذا لاحظوا انحيازه أو فجوات في المعلومات المقدمة.

نتائج الاختبار

فيما يتعلق باتفاق النموذج،حدد المشاركون البشريون النتيجة الصحيحة بنسبة 66.6%، ولكن وافقوا على نموذج بنسبة 73.9% – مما يدل على ميلًا لاتباع قرارات النموذج حتى عندما كانت خاطئة. هذا التأثير ازداد مع إضافة المزيد من التفاصيل التوضيحية، مع رفع الحالة الأكثر تفصيلًا لاتفاق إلى 82.6%، وزيادة احتمال أن يتنازل المشاركون بشكل غير صحيح عن النموذج:

الدرجات الإجمالية لاتفاق (اليسار)، الثقة (الوسط)، والرضا (اليمين)؛ أبلغ المشاركون في حالة 'كل شيء'، الذين تعرضوا لمحتوى توضيحي إضافي غير ذي صلة بالعادلية، عن درجات أعلى بشكل ملحوظ عبر جميع المقاييس، على الرغم من أن النموذج ظل متطابقًا ومتحيزًا بشكل واضح.

تختلف تقييمات الثقة بشكل كبير حسب الحالة، حيث أبلغ المشاركون في حالة كل شيء عن ثقة أعلى (M = 25.3) من أولئك في حالة الأساس (M = 16.8)، بينما لم تختلف حالة النموذج (M = 20.1) بشكل كبير عن أي من الحالتين.

اختلفت الرضا عن التوضيح بشكل كبير حسب الحالة، حيث أبلغ المشاركون في حالة كل شيء عن رضا أعلى (M = 34.2) من أولئك في الحالتين الأخريين (M = 26.4).

قيم المشاركون العادلية باستخدام أربع أسئلة على مقياس سباعي، تغطي التحيز الجنسي، التحيز العام، والأخلاقيات، بدون فروق ذات معنى بين الحالات على هذه المقاييس:

توزيع تقييمات المشاركين عبر الحالات لتقدير العادلية عبر السباق والجنس، وغياب التحيز، والأخلاقيات العامة. تم العثور على مستويات أعلى من التفاصيل التوضيحية لتكون مرتبطة بدرجات أعلى قليلاً من العادلية وتقييمات خالية من التحيز، على الرغم من أن النموذج الأساسي ظل غير متغير وغير عادل.

ظهر فرق في العادلية عبر السباق، حيث قدمت مجموعة الأساس تقييمًا أقل للعادلية (M = 3.9) بينما قدمت كل من مجموعتي النموذج و كل شيء تقييمًا أعلى (M = 4.8). ومن المهم أن أكبر حصة من المشاركين الذين قدموا نموذجًا واضحًا غير عادل كـ عادل جاءت من المجموعتين اللتين عرضت عليهما التفاصيل التوضيحية الأكثر، والتي كانت أيضًا أقل احتمالاً للاعتراف بالتحيز.

مراقبة الجودة

أظهرت الاستجابات النوعية أن المشاركين الذين حصلوا على أقل المعلومات كانوا أكثر احتمالاً للاعتراف بمشاكل في النموذج – ولا سيما اعتماده على السباق والجنس. كانوا أيضًا أكثر احتمالاً للاعتراف بأن التفاصيل المهمة ناقصة.

من ناحية أخرى، أولئك الذين عرض عليهم توضيحات أكثر تعقيدًا أشاروا إلى هذه القلق أقل بشكل متكرر. ومع ذلك، كان هناك فقط ثلاثة مشاركين عبر جميع الحالات أظهروا فهمًا部分يًا للعوامل الرئيسية التي تقف وراء قرارات النموذج؛ ولم يحدد أي منهم تمامًا كيف يعمل.

الرسومات التي تظهر كيف часто أشار المشاركون إلى تحيز ممکن للسباق أو الجنس ومعلومات توضيحية ناقصة عبر الحالات، مع وجود مستويات أعلى من التفاصيل التوضيحية ترتبط بقليل من المشاركين الذين لاحظوا التحيز أو أبلغوا عن معلومات ناقصة – على الرغم من أن النموذج يعتمد فقط على السباق والجنس.

أشار العديد من المشاركين صراحة إلى أن النموذج هو عادل، مع 19 استجابة مسجلة، على الرغم من التحيز الواضح.

في الوقت نفسه، ظهرت بعض القلق، مع عدة مشاركين أعربوا عن قلقهم بشأن كيفية استخدام مثل هذا النظام، و 15 استجابة سألوا عما إذا كان النموذج يمكن أن يلتقط بشكل فعلي تعقيد المرشحين الفرديين.

يقول المؤلفون:

‘أشار عدد قليل فقط من المشاركين إلى أن النموذج غير عادل أو متحيز. لم يتمكن المشاركون القليلون الذين أبلغوا عن مخاوف بشأن النموذج من التعبير بدقة عن سبب كون النموذج معيبًا، و في غياب معلومات النموذج الحاسمة، لجأوا إلى استدلال غير رسمي، غالبًا ما يكون غير صحيح، لشرح لماذا كان النموذج خاطئًا أو غير عادل.’

تنتهي الورقة بالتالي*^†:

‘في حين يمكن أن يتم معالجة بعض القضايا التي نكشف عنها من خلال زيادة أدبيات البيانات لدى الجماهير، فإن التعليم وحده لا يكفي (حتى الخبراء الذكاء الاصطناعي الذين يصفون أنفسهم بشكل متكرر يفسرون أو يفشلون في فهم تقنيات XAI).

‘نحن نكرر تأكيد Hullman et al.: يمكن تقييم نجاح توضيحات الذكاء الاصطناعي فقط عند النظر في أهداف هذه التوضيحات.

‘نحن نحث المجتمع على الاهتمام بأهداف التوضيحات الاحتجاجية لذكاء اصطناعي و قوتها التأثيرية كأدوات إقناعية.’

الاستنتاج

كما يصبح واضحًا أن نماذج الطليعة تميل إلى “تزيين” العبارات برسومات زائفة، يصبح من الواضح بشكل متزايد ليس فقط أن رسومات الذكاء الاصطناعي لا ينبغي الاعتماد عليها لتعزيز السلطة، ولكن أيضًا أن التأثير العام للرسومات المرافقة يجب أن نبدأ في تخفيضه – تمامًا كما أصبح الثقة بالتصوير الفوتوغرافي مضغوطًا بسبب ظهور Deepfakes.

هذا هو تطور مخيف، حيث أنه يشكل نقطة أخرى من “الإنهاك” في استعداد الجمهور للتحقق الدقيق من ما يرى وسمعه في وسائل الإعلام، ويتعرض لخطر نوع من “الاستسلام النهائي” في المعلومات الخاطئة.

* بديلي لمراجع المؤلفين الداخلية بالروابط.

^† تنسيق المؤلفين الأصلي، وليس لي.

نشر لأول مرة يوم الإثنين، 20 يوليو 2026