نظام الإنذار المبكر للتحريفات المتطورة باستخدام الذكاء الاصطناعي

يعمل باحثون في جامعة نوتردام على مشروع لمكافحة الخداع عبر الإنترنت ، بما في ذلك الحملات الإعلامية التي تهدف إلى التحريض على العنف وتسويق الفتنة وتدخل الانتخابات الديمقراطية.

استند فريق الباحثين إلى الذكاء الاصطناعي لتطوير نظام إنذار مبكر. سيكون النظام قادرًا على تحديد الصور المُنشأة والفيديوهات المُزوّرة والمعلومات المُخادعة عبر الإنترنت. إنه نظام قابل للتوسيع وآلي يستخدم استرجاع الصور القائم على المحتوى. يمكنه بعد ذلك تطبيق تقنيات الرؤية الحاسوبية لتحديد الميمات السياسية على شبكات التواصل الاجتماعي المتعددة.

تيم وينينجر أستاذ مساعد في قسم علوم وهندسة الحاسوب في نوتردام.

“الميمات سهلة الإنشاء وأسهل في المشاركة” ، قال وينينجر. “عندما يتعلق الأمر بالميمات السياسية ، يمكن استخدامها للمساعدة في حث الناس على التصويت ، ولكن يمكن استخدامها أيضًا لنشر معلومات غير دقيقة وتسبب الأذى”.

تعاون وينينجر مع والتر شيرير ، أستاذ مساعد في قسم علوم وهندسة الحاسوب في نوتردام ، إلى جانب أعضاء فريق البحث.

الانتخابات العامة في إندونيسيا 2019

جرب الفريق النظام مع الانتخابات العامة في إندونيسيا 2019. جمعوا أكثر من مليوني صورة ومحتوى ، قادمين من مصادر مختلفة على تويتر وإنستجرام المتعلقة بالانتخابات.

في الانتخابات ، فاز المرشح الليبرالي ، المرشح الوسطي ، على المرشح المحافظ ، الشعبوي. بعد الانتخابات ، اندلعت احتجاجات عنيفة قتل فيها ثمانية أشخاص وجرح المئات. وجدت دراسة الفريق أن هناك حملات متعمدة ومتعمدة تم إطلاقها على وسائل التواصل الاجتماعي بهدف التأثير على الانتخابات وتحريض العنف.

استخدمت الحملات المتعمدة صورًا منشأة ، والتي أظهرت ادعاءات كاذبة ومثلت أحداثًا معينة. تم تصنيع قصص إخبارية وميمات باستخدام شعارات الأخبار المشروعة ، بهدف إثارة المواطنين والمناصرين من كلا الطرفين.

باقي العالم

الانتخابات العامة في إندونيسيا 2019 تمثل ما يمكن أن يحدث في باقي العالم. يمكن أن تهدد المعلومات المُخادعة ، خاصةً عبر وسائل التواصل الاجتماعي ، العمليات الديمقراطية.

شمل فريق البحث في نوتردام خبراء في التحقيقات الرقمية ومتخصصين في دراسات السلام. وفقًا للفريق ، يتم تطوير النظام لتسليط الضوء على المحتوى المُنشأ ، بهدف منع العنف وتنبيه الصحفيين أو مراقبي الانتخابات إلى التهديدات المحتملة.

النظام لا يزال في مرحلة البحث والتطوير ، لكنه سيكون قابلاً للتوسيع ومتوفرًا للمستخدمين لمراقبة المحتوى. من بين أكبر التحديات في تطوير النظام تحديد أفضل طريقة لتوسيع استهلاك البيانات والمعالجة. وفقًا لشيرير ، يتم تقييم النظام حاليًا ، والخطوة التالية هي الانتقال إلى الاستخدام التشغيلي.

هناك فرصة لأن يتم استخدام النظام لمراقبة الانتخابات العامة في الولايات المتحدة 2020 ، والتي من المتوقع أن تشهد كميات هائلة من المعلومات المُخادعة والتحريف.

“عصر المعلومات المُخادعة هنا” ، قال شيرير. “استبدال ممثلين في فيلم شائع بالذكاء الاصطناعي قد يبدو ممتعًا وممتعًا ، لكن تخيل فيديو أو ميم تم إنشاؤه لغرض واحد هو وضع قائد عالمي ضد آخر – قول كلمات لم يقولها حقًا. تخيل كيف يمكن أن يتم مشاركة ذلك المحتوى ونشره بسرعة عبر المنصات. فكر في عواقب تلك الإجراءات.