هل تعتبر مجموعات بيانات الذكاء الاصطناعي غير المحددة النطاق أسوأ من الإنترنت نفسها؟

حذرت الباحثون من أيرلندا وبريطانيا والولايات المتحدة من أن نمو مجموعات بيانات التدريب على الذكاء الاصطناعي على نطاق ضخم يهدد بانتشار أسوأ جوانب مصادر الإنترنت ، حيث يُدّعى أن مجموعة بيانات أكاديمية تم إصدارها مؤخرًا تحتوي على “صور و نصوص مشكلة و صريحة للاغتصاب والفحشاء والصور النمطية الضارة والشتم العنصري والعرقي ، والمحتوى المتطرف للغاية“.

يعتقد الباحثون أن موجة جديدة من مجموعات بيانات متعددة الوسائط ضخمة غير محددة النطاق أو غير مرشحة بشكل خاطئ قد تكون أكثر ضررًا في قدرتها على تعزيز تأثيرات مثل هذا المحتوى السلبي ، لأن المجموعات البيانية تحتفظ بالصور والمحتوى الآخر الذي قد تم إزالته من منصات الإنترنت من خلال شكاوى المستخدمين أو التماسك المحلي أو الخوارزميات.

كما يلاحظون أنه قد يستغرق سنوات – في حالة مجموعة بيانات ImageNet الضخمة ، عقدًا كاملاً – لمعالجة الشكاوى الطويلة الأمد حول محتوى المجموعة البيانية ، وأنه لا يتم دائمًا تعكس هذه التنقيحات في مجموعات بيانات جديدة مشتقة منها.

تأتي الورقة ، التي تحمل عنوان “مجموعات بيانات متعددة الوسائط: الكراهية ، والفحشاء ، والصور النمطية الضارة” ، من الباحثين في جامعة كوليدج دبلن و Lero ، وجامعة إدنبرة ، والعالم الرئيسي في منصة التوثيق UnifyID.

على الرغم من أن العمل يركز على الإصدار الأخير لمجموعة بيانات CLIP المُرشّحة LAION-400M ، فإن المؤلفين يجادلون ضد الاتجاه العام لطرح كميات متزايدة من البيانات على إطارات التعلم الآلي مثل نموذج اللغة العصبية GPT-3 ، ويزعمون أن الدافع الموجه نحو أفضل الاستدلال (حتى نحو الذكاء الاصطناعي العام [AGI]) يؤدي إلى استخدام مصادر بيانات مدمرة بلا مبالاة ؛ إمكانية إحداث ضرر وتعزيزه ؛ وقدرة ليس فقط على تعزيز البيانات غير القانونية التي قد تختفي من المجال العام ، ولكن أيضًا دمج نماذج đạo đứcية مثل هذه البيانات في تطبيقات الذكاء الاصطناعي المتدفقة.

LAION-400M

…

الجنس يصعد إلى القمة مرة أخرى

…

تدوين المحتوى المحظور وازالة حماية حقوق النشر

…

مشاكل ديمقراطية بيانات النطاق الضخم

…

إعادة الجني إلى الزجاجة

…

‘نحن (وكذلك زملاؤنا الذين ساعدونا) تلقينا مستويات مختلفة من الانزعاج والغثيان والصداع خلال عملية اختبار المجموعة البيانية. بالإضافة إلى ذلك ، يضيف هذا النوع من العمل انتقادات سلبية كبيرة عبر مجال الذكاء الاصطناعي الأكاديمي عند الإصدار ، والتي لا تضيف فقط عبئًا عاطفيًا إضافيًا إلى المهمة الثقيلة بالفعل لدراسة وتحليل مثل هذه المجموعات البيانية ، ولكنها أيضا تثني عن القيام بأعمال مماثلة في المستقبل ، مما يضر بمجال الذكاء الاصطناعي والمجتمع بشكل عام.’

…

‘نؤكد على هذه الملاحظة الحاسمة: فريق من حجم ImageNet يدير أقل من 15 مليون صورة قد عانى وفشل في هذه محاولات التخلص من السموم حتى الآن.

‘مقياس الجهود الحريصة المطلوبة لإزالة السموم من هذه المجموعة البيانية الضخمة والنماذج المتدفقة المدربة على هذه المجموعة البيانية التي تضم ملايين الصور والنصوص سيكون بلا شك فلكيًا.’

* تحويلي للتعليقات الداخلية للمؤلف إلى روابط.