باحثون يبدأون في تدريب الذكاء الاصطناعي لمكافحة خطاب الكراهية على الإنترنت

أصبحت الأخبار الكاذبة وخطاب الكراهية على الإنترنت مشكلة لا تظهر يومياً فقط، بل كل دقيقة. وتشير تقارير IkigaiLab إلى أن فيسبوك وتويتر أغلقتا مؤخراً أكثر من 1.5 مليار و70 مليون حساب على التوالي في محاولة لاحتواء انتشار الأخبار الكاذبة وخطاب الكراهية حول العالم. (META )

然而، لا يزال هذا المهمة يتطلب قوة بشرية هائلة وساعات عمل شبه مستمرة لمكافحة خطاب الكراهية. ولحل هذه المشكلة، بدأ باحثون في مختبرات عديدة في تدريب الذكاء الاصطناعي (AI) لمساعدتهم في هذه المهمة الهائلة.

يستشهد Ikigai بنظام Rosetta الذي تستخدمه فيسبوك لفهم مصداقية الأخبار والصور أو المحتوى الآخر المرفوع على منصة التواصل الاجتماعي. كما يُشرح، فإن نظام Rosetta يفحص “الكلمة، الصورة، اللغة، الخط، تاريخ المنشور من بين متغيرات أخرى ويتحقق مما إذا كان المعلومات المقدمة حقيقية أم لا”. بعد جمع النظام للمعلومات، ومع الأخذ في الاعتبار أن الذكاء الاصطناعي لا يزال غير قادر على فهم الدلالات والمراجع والتعليقات والسياق الذي نشر فيه المحتوى، يأخذ المُoderators البشريون على عاتقهم توجيه نظام الذكاء الاصطناعي لاكتشاف خطاب الكراهية والأخبار الكاذبة.

لمحاولة تطوير قدرة أنظمة الذكاء الاصطناعي لتغطية جميع الدقائق التي تتميز بها خطاب الكراهية، قام فريق من الباحثين في جامعة كاليفورنيا سانتا باربرا وشركة إنتل، كما ذكر موقع TheNextWeb (TNW)، بجمع آلاف المحادثات من المجتمعات الأكثر قذارة على ريديت وغاب واستخدموها لتدريب الذكاء الاصطناعي لمكافحة خطاب الكراهية. (INTC )

وفقاً لتقريرهم، قام الفريق المشترك من الباحثين بإنشاء مجموعة بيانات محددة تحتوي على “آلاف المحادثات التي تم تحديدها بعناية لضمان أنها مليئة بخطاب الكراهية”. كما استخدموا قائمة من المجموعات على ريديت التي تم تحديدها من قبل جاستن كافير من موقع Vox.

وأنهوا بجمع “أكثر من 22,000 تعليق من ريديت و33,000 من غاب”. واكتشفوا أن المواقع الإلكترونية تعرض كلمات كراهية شائعة، ولكن التوزيعات مختلفة جداً.

وأشاروا إلى أن هذه الاختلافات تجعل من الصعب على منصات التواصل الاجتماعي التدخل في الوقت الفعلي، لأن تدفق خطاب الكراهية كبير جداً ويتطلب أشخاصاً عديدين لمتابعته.

للتغلب على هذه المشكلة، بدأ فريق البحث في تدريب الذكاء الاصطناعي للتدخل. وأرسلوا قاعدة بياناتهم إلى عمال Amazon (AMZN ) Turk لتحديد العلامات. بعد تحديد الحالات الفردية لخطاب الكراهية، قام العمال بإنشاء جمل ستستخدمها الذكاء الاصطناعي “لردع المستخدمين من نشر خطاب كراهية مشابه في المستقبل”.

استند الفريق إلى هذه القاعدة والقاعدة بيانات التدخلات من خلال أنظمة التعلم الآلي ومعالجة اللغة الطبيعية وإنشاء نموذج أولي لنظام الذكاء الاصطناعي لمكافحة خطاب الكراهية على الإنترنت.

كانت النتائج ممتازة، ولكن نظراً لأن التطوير لا يزال في مرحلة مبكرة، النظام ليس جاهزاً بعد للاستخدام الفعلي. كما يُشرح، “ينبغي لنظام الذكاء الاصطناعي، في النظرية، أن يكتشف خطاب الكراهية ويرسل رسالة على الفور إلى الناشر لإعلامه بأنه لا ينبغي أن ينشر أشياء واضحة تمثل خطاب كراهية. وهذا يتطلب أكثر من مجرد كشف الكلمات الأساسية – من أجل عمل الذكاء الاصطناعي، يجب أن يكون السياق صحيحاً”.