مخاطر التعليق على الصور على أساس “الطابع”

على الرغم من أنهم يتقاضون فقط بضع دولارات (أو لا شيء على الإطلاق)، فإن الأشخاص غير المعروفين الذين يقيمون الصور لمحتوى “مؤذي” يمكنهم تغيير حياتك بالاختيارات التي يقومون بها. الآن، يبدو أن ورقة جديدة من جوجل تقترح أن هؤلاء المعلقين يضعون قواعدهم الخاصة لما هو “مؤذي” أو مسيء – بغض النظر عن مدى غرابة أو شخصنة ردود أفعالهم على أي صورة.

الرأي هذا الأسبوع، تمت مشاركة ورقة جديدة بين جوجل ريسيرتش وجوجل مايند، جمعت ما لا يقل عن 13 مساهما في ورقة جديدة ت探 ما إذا يجب أن تؤخذ “المشاعر الفطرية” للمعلقين على الصور في الاعتبار عند تقييم الصور للخوارزميات، حتى إذا كانت ردود أفعالهم لا تتوافق مع معايير التقييم المعتمدة.

هذا الأمر مهم لك، لأن ما يجدونه المعلقون مسيئًا من خلال الإجماع سوف يصبح منصوبًا في الأنظمة الآلية للرقابة والتحديث، وفي معايير المواد “المستحونة” أو “غير المقبولة”، في التشريعات مثل الجدار الناري الجديد* في المملكة المتحدة (نسخة منها قادمة إلى أستراليا قريباً)، وفي أنظمة تقييم المحتوى على منصات التواصل الاجتماعي، من بين بيئات أخرى.

كلما كانت معايير الإساءة أوسع، زادت مستويات الرقابة المحتملة.

الرقابة على أساس الطابع

ليس هذا هو الموقف الوحيد الذي تقدمه الورقة الجديدة؛ فهي تظهر أيضًا أن الأشخاص الذين يقيمون الصور غالبًا ما يكونون أكثر رقابة على ما يعتقدون أنه سوف يسيء لآخرون بخلاف أنفسهم؛ وأن الصور منخفضة الجودة غالبًا ما تثير مخاوف تتعلق بالسلامة، على الرغم من أن جودة الصورة لا علاقة لها بمحتوى الصورة.

في ختام الورقة، يؤكد المؤلفون على هذه النتائج، كما لو أن الموقف المركزي للورقة قد فشل، ولكن الباحثين كانوا ملزمين بنشرها على أي حال.

على الرغم من أن هذا ليس سيناريو غير معتاد، فإن الورقة، عند قراءتها بعناية، تظهر تيارًا خفيًا أكثر شراً: أنه يمكن للعمليات التحليلية أن تأخذ في الاعتبار ما أسميه “التحليل على أساس الطابع“:

‘تظهر نتائجنا أن الإطارات الحالية تحتاج إلى مراعاة الأبعاد الموضوعية والسياقية، مثل ردود الأفعال العاطفية والاحكام الضمنية وتفسيرات الثقافة للمخاطر. استخدام المعلقين المتكرر للغة العاطفية وانحرافهم عن تسميات الأذى المحددة يبرزان الفجوات في ممارسات التقييم الحالية.

‘يمكن لتوسيع إرشادات التحليل لتشمل أمثلة توضيحية لتفسيرات ثقافية وعاطفية متنوعة أن تساعد في معالجة هذه الفجوات.’

الورقة الجديدة غير الموضحة جيدًا تتقدم مع أمثلة غير غامضة ومتعاطفة مع القارئ العادي، على الرغم من أن المواد الأساسية الفعلية تدعو إلى العديد من الأسئلة. هنا، تحت كل صورة، نرى ردود أفعال المعلقين العاطفية المحددة لصورهم الخاصة. مصدر: https://arxiv.org/pdf/2507.16033

في البداية، يبدو هذا وكأنه مقترح لتوسيع وتحسين ما يشكل “الضرر” في صورة – هدف يستحق الثناء؛ لكن الورقة تكرر عدة مرات أن هذا ليس مرغوبًا فيه ولا (ضروريًا) ممكنًا:

‘تظهر نتائجنا أن الإطارات الحالية تحتاج إلى مراعاة الأبعاد الموضوعية والسياقية، مثل ردود الأفعال العاطفية والاحكام الضمنية وتفسيرات الثقافة للمخاطر. استخدام المعلقين المتكرر للغة العاطفية وانحرافهم عن تسميات الأذى المحددة يبرزان الفجوات في ممارسات التقييم الحالية.

‘يمكن لتوسيع إرشادات التحليل لتشمل أمثلة توضيحية لتفسيرات ثقافية وعاطفية متنوعة أن تساعد في معالجة هذه الفجوات […]

‘[…] عملية كيفية قيام المعلقين بتحليل الصور الغامضة غالبًا ما تعكس وجهات نظرهم الشخصية والثقافية والعاطفية، والتي من الصعب بناءها أو معاييرها.’

من الصعب رؤية كيف يمكن “توسيع إرشادات التحليل لتشمل أمثلة توضيحية لتفسيرات ثقافية وعاطفية متنوعة” أن يناسب نظام تقييم عقلاني؛ يجد المؤلفون صعوبة في توضيح هذه النقطة، أو صياغة نظرية واضحة، حيث يهاجمون المواد عدة مرات، دون أن ينجحوا في ذلك.

الحكم الثنائي

مدى تأثير الصور والنص على إحداث الأذى هو أمر صعب القياس، لا سيما لأن الثقافة العالية غالبًا ما تتقاطع مع “الثقافة المنخفضة” (على سبيل المثال مع الفن والروايات)، مما يؤدي إلى معايير الرقابة الأولى على أساس “الطابع”: حتى إذا كانت المواد المسيئة تفلت من التعريف الدقيق، سوف تعرفها عندما تراها.

تحت المناقشة الواسعة والاستكشافية للورقة الجديدة حول التعاطف وال细ية النوعية، يبدو أن العمل يهاجم بصدق سلطة التصنيفات المركزية والمعايير الموحدة (‘العنف’، ‘العري’، ‘الكراهية’، إلخ.) التي تسمح للمنصات بتنفيذ وتنظيم الرقابة بحدود خطأ مقبولة (عادة).

الargument الذي يظهر هو أن فقط التغذية الراجعة البشرية الموضوعية والسياقية يمكن أن تحكم بشكل صحيح مخرجات الجين إيه آي.

ومع ذلك، هذا واضح غير قابل للتوسع، لأنك لا تستطيع تشغيل خط أنابيب تصفية الصور تريليون صورة على “الطابع” والخبرة الحية. يجب عليك量化 الأذى إلى خصائص متنوعة؛ وتحديد حد لمدى نظام التصفية الناتج؛ وانتظار توجيهات جديدة في “حالات الحافة” (مثل الحالات التي يجب على الأطراف المظلومة فيها انتظار سن قوانين جديدة تتعامل مع ظروفها الخاصة).

بدلاً من ذلك، تقدم الورقة الجديدة تفويضًا غير صريح لخط أنابيب رقابة آلي يوسع نطاقه تلقائيًا، ويتجاوز الحذر لدرجة أن حتى ردة الفعل الأكثر خصوصية وعدم تكرارها من قبل معلق يمكن أن يعاقب صورة لم تسيء لأحد آخر.

التوسع الأخلاقي

على الرغم من أن الورقة تميل نحو الاستكشاف أكثر من اتخاذ موقف واضح، إلا أنها تدمج عناصر من المنهج العلمي: طور المؤلفون إطارًا لتحديد (على الرغم من عدم قياس) طيف أوسع من ردود أفعال المعلقين على الصور، ولفحص كيف تختلف هذه الردود عبر الجنس والعوامل الديموغرافية الأخرى.

إلى جانب تحليل الاختبارات لتركيز التركيز على الأذى^†، قام العملية بتحليل “الاستدلال الأخلاقي” في التعليقات التابعة للمشاركين في الاختبار، الذين طُلب منهم تحليل مجموعة اختبار معدلة تحتوي على صور و نصوص/نصوص مرتبطة.

تم تصميم “مقياس التقييم الأخلاقي” هذا لالتقاط القيم الأخلاقية الرعاية، المساواة، التناسبية، الولاء، السلطة، والنقاء، كما هو محدد في نظرية الأسس الأخلاقية – نظرية نفسية تتميز بطبيعتها السائلة والتطورية، مما يجعلها معارضة لإنشاء التعريفات المحددة المطلوبة لأنظمة التقييم البشرية الكبيرة.

أُبلغ عن هذه النظرية، وصنف المؤلفون أبعادًا إضافية للسلامة، بما في ذلك الخوف، الغضب، الحزن، الاشمئزاز، الارتباك، والغريب.

يوسع المؤلفون عن الأول من هذه، الخوف:

‘استخدم العديد من المعلقين مصطلحات مثل “مرعب” (على سبيل المثال، لأوجه مشوهة أو صور تشير إلى عنف مثل مسدس موجه إلى طفل)، “مزعج” (على سبيل المثال، “مطلقًا قبيح أن ترى شخصًا يُقتل، مزعج للغاية ومزعج”، أو “مزعج ويبدو وكأنه دم” للطلاء الأحمر)، أو “مقلق” (على سبيل المثال، “صورة الصبي بها العديد من التشوهات… أجد أنها غير لطيفة لأنها تبدو وكأن الصبي يلعب على الجانب الخطأ من قضبان الحماية”).

‘الرسم التالي يُظهر “الخوف” كالمشاعر الأكثر ذكرًا (233 ذكرًا، بينما تُحسب حوالي نصف هذه الذكرات مع المحتوى العنيف، والمحتوى الذي يُعتبر غير ضار يثير أيضًا أعلى ذكر للخوف).’

توزيع مصطلحات تتعلق بالعواطف عبر فئات الأذى، مع ارتفاع أعمدة تشير إلى نسب التعليقات، وعدّ التعليقات معروض في الأعمدة، وعدد التعليقات الإجمالي معروض فوق كل فئة.

بخصوص إضافة هذه الأبعاد الجديدة للسلامة، يُعلن المؤلفون:

‘تسلط هذه المواضيع الناشئة الضوء على الحاجة الحاسمة لتطوير إطارات تقييم الصور الإصطناعية من خلال دمج العناصر العاطفية والذاتية والسياقية.’

قد يكون هذا طريقًا خطيرًا للذهاب إليه، حيث يبدو أنه يسمح لعملية التحليل بإضافة قواعد بشكل تعسفي بناءً على ردود الأفعال التي قد تثيرها المواد في أي معلق واحد، بدلاً من أن يتطلب من جميع المعلقين الالتزام بالمعايير والمعايير المعمول بها.

إذا كان يمكن إسناد حتمية اقتصادية إلى هذه الفكرة، فإنها تتيح “تحليل بشري متوسع“، حيث يكون العملية خاليًا من الاحتكاك، والمشاركون يتحكمون في أنفسهم، وهم يحددون قواعد الحدود بأنفسهم؛ حيث يكون الإشراف الأولي للرقابة إما مفقودًا أو مخفضًا: أي صورة قد تسبب أي مسيء لأي شخص سوف يتم وضع علامة عليها (ليس أقلها، ربما، لأن الإجماع مكلف وكذلك يستغرق وقتًا).

أحكام روشاش

الغرض من التحليل هو الوصول إلى وصف أو تعريف دقيق إما من خلال الإشراف الخبير أو الإجماع الشائع بين المعلقين المتعددين، أو (في المثالية) كليهما. بدلاً من ذلك، توسيع هرم محدود ولكن محدد من الأذى إلى موقف تفسيري “直觉ي” وذاتي، يعادل تحليل اختبار روشاش.

على سبيل المثال، يشير المؤلفون إلى أن بعض المعلقين يفسرون جودة الصورة الرديئة (مثل أخطاء جيه بيه جي، بالإضافة إلى العيوب الفنية غير المهمة في صورة) على أنها “مقلقة” أو “تشير إلى ضرر“:

‘حدث هذا على الرغم من أن المهمة省ت تعليمات حول جودة الصورة. علاوة على ذلك، فسر المعلقون هذه العيوب الجودة على أنها معنوية.

‘علق أحد المعلقين، “الصورة ليست ضارة على الإطلاق؛ إنه يملك وجهًا مشوهًا فقط”. بنفس الطريقة، فسر بعض المعلقين عيوب جودة الصورة على أنها ضرر مقصود، ويعزون معنى عاطفياً للعيب.’

من خلال رفع ردود الأفعال الذاتية والعاطفية والسياقية فوق فئات السلامة المحددة مسبقًا، تفتح الأفكار المقدمة هنا بابًا لنظام حيث أي شيء يمكن أن يتم وضع علامة عليه بشكل تعسفي على أنه ضار، حيث يصبح “تأثير التبريد” للاستبعاد أو إعادة تصنيف المحتوى (أي المحتوى الذي “يغضب” مجموعة مصالح خاصة) حقيقيًا.

الورقة “صورة غريبة”: تقييم “السلامة” في مهام تحليل الصور الإصطناعية من منظور معلقين متنوعين متاحة في أركسيف.

* اختصار، لأنها ليست الموضوع الرئيسي هنا؛ بموجب التشريع الجديد، من المتوقع أن تقوم المواقع المسيئة إما بمراقبة أنفسها؛ أو فرض أنظمة مراجعة معقدة وتكنولوجيا فحص العمر التي لا تتوفر إلا للمواقع الكبيرة؛ أو حظر نطاقاتها من الجمهور البريطاني (من جديد، على نفقتهم الخاصة).

† معبّر بشكل بسيط في ميم “فكر في الأطفال”، الذي يهزئ من الاستيلاء على وكالة أخلاقية شخص ما لأسباب واضحة النزاهة.

نُشر لأول مرة يوم الجمعة، 25 يوليو 2025