كشف الكلام المُحرض باستخدام الذكاء الاصطناعي لمكافحة التمييز والتحريض

في الوقت الحالي، يُعتبر الإنترنت شريان الحياة للتواصل والاتصال العالمي. ومع ذلك، فإن هذا الاتصال المُستحدث عبر الإنترنت يُظهر لنا أيضًا الجانب المُظلم من سلوك الإنسان، أي الكلام المُحرض والتمييز والمحتوى الضار. هذه القضايا قد انتشرت في وسائل التواصل الاجتماعي والمنتديات المُستخدمة عبر الإنترنت، مما يُسبب ضررًا دائمًا للأفراد والمجتمع. لذلك، من المهم مكافحة الكلام المُحرض.

وفقًا لمركز بيو للأبحاث، يقول 41% من البالغين الأمريكيين إنهم واجهوا إساءة استخدام عبر الإنترنت، و25% منهم ضحايا للتنمر الشديد.

من أجل خلق بيئة إيجابية ومحترمة عبر الإنترنت، من الضروري أن نتبنى إجراءات مُستبقة ونستفيد من قوة التكنولوجيا. في هذا الصدد، يوفر الذكاء الاصطناعي (AI) حلولًا مُبتكرة لاكتشاف ومكافحة الكلام المُحرض والتمييز.

limitations of Current Mitigation Techniques & The Need for Proactive Measures

تُعتبر الإجراءات الحالية لمكافحة الكلام المُحرض محدودة. لا تستطيع أن تمنع بفعالية انتشار المحتوى الضار عبر الإنترنت. وتشمل هذه القيود:

• المنهجيات التفاعلية، التي تعتمد بشكل رئيسي على التحكم البشري والخوارزميات الثابتة، تُجهد لتحقيق أهدافها مع انتشار الكلام المُحرض بسرعة.
• كمية المحتوى عبر الإنترنت تُغرق المُoderators البشر، مما يُؤدي إلى استجابات مُتأخرة ومرور على خطاب الكراهية.
• أيضًا، فهم السياق وال细يات اللغوية يُشكل تحديًا للنظم الآلية لتحديد وتفسير حالات الكلام المُحرض بدقة.

للمواجهة هذه القيود وخلق بيئة أمنة عبر الإنترنت، من الضروري التحول إلى إجراءات مُستبقة. من خلال اعتماد إجراءات مدعومة بالذكاء الاصطناعي، يمكننا تعزيز مجتمعاتنا الرقمية، وتعزيز الشمول والوحدة عبر الإنترنت.

Identifying & Flagging Hate Speech Using AI

في المعركة ضد الكلام المُحرض، يُعتبر الذكاء الاصطناعي حليفًا قويًا، مع خوارزميات التعلم الآلي (ML) لتحديد وتحديد المحتوى الضار بسرعة ودقة. من خلال تحليل كميات كبيرة من البيانات، يمكن للنماذج الذكية أن تتعلم التعرف على الأنماط وال细يات اللغوية المرتبطة بالكلام المُحرض، مما يُمكنها من تصنيف والاستجابة للمحتوى الضار بفعالية.

لتدريب نماذج الذكاء الاصطناعي لاكتشاف الكلام المُحرض بدقة، تُستخدم تقنيات التعلم المُوجه والتعلم غير المُوجه. التعلم المُوجه يتضمن تقديم أمثلة مُصنفة من الكلام المُحرض والمحتوى غير الضار لتعليم النموذج التمييز بين الفئتين. في المقابل، تُستخدم تقنيات التعلم غير المُوجه والتعلم شبه المُوجه لتعزيز فهم النموذج للكلام المُحرض باستخدام بيانات غير مُصنفة.

Leveraging AI Counterspeech Techniques for Combatting Hate Speech

يُعتبر الكلام المُضاد تقنية قوية لمكافحة الكلام المُحرض من خلال تحدي وتعديل الروايات الضارة. يتضمن إنشاء محتوى مقنع ومعلوماتي لتعزيز التعاطف والفهم والتسامح. يُمكن للأفراد والمجتمعات المشاركة الفعالة في خلق بيئة رقمية إيجابية.

بينما قد تختلف تفاصيل نماذج الكلام المُضاد الفردية بناءً على تقنيات الذكاء الاصطناعي ومنهجيات التطوير، تُشمل بعض الميزات والتقنيات الشائعة:

• توليد اللغة الطبيعية (NLG): تُستخدم نماذج الكلام المُضاد توليد اللغة الطبيعية لإنشاء استجابات شبيهة بالإنسان في شكل مكتوب أو منطوق. تكون الاستجابات متسقة وملائمة للسياق المحدد للكلام المُحرض الذي يتم مكافحته.
• تحليل المشاعر: تُستخدم نماذج الكلام المُضاد تحليل المشاعر لتقييم النبرة العاطفية للكلام المُحرض وتailor الاستجابات وفقًا لذلك. هذا يضمن أن تكون الاستجابة المضادة فعالة ومحسنة.
• فهم السياق: من خلال تحليل السياق المحيط بالكلام المُحرض، يمكن لنماذج الكلام المُضاد إنشاء استجابات تُعالج قضايا أو مفاهيم خاطئة محددة، مما يساهم في مكافحة الكلام المُحرض بشكل أكثر فعالية.
• تنوع البيانات: لتجنب التحيز وضمان العدالة، تُدرّب نماذج الكلام المُضاد على مجموعات بيانات متنوعة تمثل مختلف الآراء وال细يات الثقافية. هذا يساعد في توليد استجابات شاملة وثقافية حساسة.
• التعلم من مُدخلات المستخدم: يمكن لنماذج الكلام المُضاد التحسين المستمر من خلال التعلم من مُدخلات المستخدم. يسمح هذا الحلقة التغذوية للمodel بالتحسين المستمر لاستجاباته بناءً على التفاعلات الحقيقية، مما يعزز فعاليتها مع مرور الوقت.

Examples of Combating Hate Speech Using AI

مثال حقيقي لتقنية الكلام المُضاد هو “طريقة الإعادة التوجيه” التي طوّرها جوجل جيجسو ومونشوت سي في إي. تُستخدم طريقة الإعادة التوجيه الإعلانات المستهدفة للوصول إلى الأفراد الذين قد يكونون عرضة للأيديولوجيات المتطرفة والكلام المُحرض. يُهدف هذا النهج المدعوم بالذكاء الاصطناعي إلى إقناع الأفراد بعدم الانخراط في المحتوى الضار وتعزيز التعاطف والفهم والابتعاد عن المعتقدات المتطرفة.

قد طوّر الباحثون أيضًا نموذجًا جديدًا للذكاء الاصطناعي يُسمى بي كابس هيت والذي يُعتبر أداة قوية لمكافحة الكلام المُحرض عبر الإنترنت، كما أُبلغ في مجلة IEEE للنظم الاجتماعية الحاسوبية. يدعم هذا النموذج تحليلًا ثنائي الاتجاه للغة، مما يعزز فهم السياق لتحديد الكلام المُحرض بدقة. يُهدف هذا التقدم إلى تقليل الأثر الضار للكلام المُحرض على وسائل التواصل الاجتماعي، ويوفر إمكانية للتفاعلات الآمنة عبر الإنترنت.

في المماثلة، قد استخدم باحثون في جامعة ميشيغان الذكاء الاصطناعي لمكافحة الكلام المُحرض عبر الإنترنت باستخدام نهج يُسمى القاعدة بالأمثلة (RBE). باستخدام التعلم العميق، يتعلم هذا النهج قواعد تصنيف الكلام المُحرض من أمثلة على المحتوى الضار. تُطبق هذه القواعد على النص الإدخالي لتحديد وتوقيع الكلام المُحرض عبر الإنترنت بدقة.

Ethical Considerations for Hate Speech Detection Models

لتحقيق أقصى فعالية لنماذج الكلام المُضاد المدعومة بالذكاء الاصطناعي، تكون الاعتبارات الأخلاقية أمرًا بالغ الأهمية. ومع ذلك، من المهم موازنة حرية التعبير ومانع نشر المحتوى الضار لتجنب الرقابة.

الشفافية في تطوير وتطبيق نماذج الكلام المُضاد المدعومة بالذكاء الاصطناعي ضرورية لتعزيز الثقة والمساءلة بين المستخدمين وأصحاب المصلحة. كما أن ضمان العدالة مهم للغاية، حيث يمكن أن يُؤدي التحيز في نماذج الذكاء الاصطناعي إلى تعزيز التمييز والاستبعاد.

على سبيل المثال، يمكن للذكاء الاصطناعي المصمم لتحديد الكلام المُحرض أن يُؤدي بشكل غير مقصود إلى تعزيز التحيز العرقي. أظهرت الأبحاث أن نماذج الكلام المُحرض الرائدة كانت أكثر احتمالًا بمرة ونصف لتحديد التغريدات التي كتبها الأفريقيون الأمريكيون على أنها مخالفة، ومرتين ونصف لتحديد التغريدات التي كتبت باللغة الإنجليزية الأفريقية الأمريكية على أنها كراهية. وخرجت أدلة مماثلة من دراسة ل155,800 منشورات متعلقة بالكلام المُحرض على تويتر، مما يُظهر تحديًا في معالجة التحيز العرقي في تحرير المحتوى المدعوم بالذكاء الاصطناعي.

في دراسة أخرى، اختبارت الباحثون أربعة أنظمة للذكاء الاصطناعي لاكتشاف الكلام المُحرض ووجدوا جميعها تعاني من تحديد الجمل السامة بدقة. لتشخيص القضايا الدقيقة في نماذج الكلام المُحرض، أنشأوا تصنيفًا ل18 نوعًا من الكلام المُحرض، بما في ذلك الشتائم واللغة التهديدية. كما أبرزوا 11 سيناريو يُؤدي إلى عثرة الذكاء الاصطناعي، مثل استخدام البذاءة في العبارات غير المُحرضة. ونتيجة لذلك، أنتجت الدراسة مجموعة بيانات مفتوحة تحتوي على ما يقرب من 4000 مثال، تهدف إلى تحسين فهم دقائق الكلام المُحرض للنماذج الذكية.

Awareness & Digital Literacy

مكافحة الكلام المُحرض والتمييز يتطلب نهجًا مُستبقًا ومتعدد الأوجه. لذلك، من المهم رفع الوعي وتعزيز الألفة الرقمية لمكافحة الكلام المُحرض.

تثقيف الأفراد حول تأثير المحتوى الضار يُؤدي إلى ثقافة من التعاطف والسلوك المُستجيب عبر الإنترنت. الاستراتيجيات التي تشجع التفكير النقدي تُمكن المستخدمين من التمييز بين الخطاب الشرعي والكلام المُحرض، مما يُقلل من انتشار الروايات الضارة. كما أن تزويد المستخدمين بالمهارات لتحديد والاستجابة الفعالة للكلام المُحرض أمر حيوي. سوف يُمكنهم من تحدي ومكافحة الخطاب الضار، مما يساهم في خلق بيئة رقمية أكثر أمانًا واحترامًا.

随着 تطور تكنولوجيا الذكاء الاصطناعي، يزداد الإمكانية لمواجهة الكلام المُحرض والتمييز بدقة أكبر وأثر أكثر. لذلك، من المهم تعزيز الكلام المُضاد المدعوم بالذكاء الاصطناعي كأداة قوية لتعزيز التعاطف والتفاعل الإيجابي عبر الإنترنت.

لمزيد من المعلومات حول اتجاهات الذكاء الاصطناعي والتكنولوجيا، زوروا unite.ai.