مهندسو الذكاء الاصطناعي يطورون طريقة لاكتشاف نیة من ینشر المعلومات الخاطئة

تعامل مع المعلومات الخاطئة في العصر الرقمي هو مشكلة معقدة. لا يتم فقط تحديد المعلومات الخاطئة وتعليمها وتصحيحها، ولكن يجب أيضًا تمييز نیة الأشخاص المسؤولين عن إصدار هذه المطالبات. قد ي распростран شخص ما معلومات خاطئة دون قصد، أو قد يكون مجرد إبداء رأيه في قضية معينة حتى لو تم الإبلاغ عنها لاحقًا كحقيقة. مؤخرًا، قام فريق من الباحثين والمهندسين في جامعة دارتموث بإنشاء إطار يمكن استخدامه لاستخراج الرأي من تقارير “الأخبار الكاذبة”.

كما أفادت ScienceDaily، تم نشر دراسة فريق دارتموث مؤخرًا في مجلة الذكاء الاصطناعي التجريبي والنظري. في حين حاولت الدراسات السابقة تحديد الأخبار الكاذبة ومكافحة الخداع، قد تكون هذه الدراسة هي الأولى التي تهدف إلى تحديد نیة المتحدث في مقال إخباري. يمكن تحريف قصة حقيقية إلى أشكال خادعة مختلفة، ومن المهم تمييز ما إذا كان الخداع مقصودًا أم لا. يجادل فريق البحث بأن النية مهمة عند النظر في المعلومات الخاطئة، لأن الخداع لا يمكن أن يحدث إلا إذا كان هناك نیة للخداع. إذا لم يكن الفرد على دراية بنشر معلومات خاطئة أو كان مجرد إبداء رأيه، فلا يمكن أن يكون هناك خداع.

أوضح يوجين سانتوس جونيور، أستاذ الهندسة في مدرسة دارتموث ثاير للهندسة، لموقع ScienceDaily لماذا يحاول نموذجه تمييز النية الخادعة:

“النية الخادعة لخداع المستمعين عن قصد تشكل تهديدًا أكبر بكثير من الأخطاء غير المقصودة. إلى حد наш العلم، خوارزميتنا هي الطريقة الوحيدة التي تكتشف الخداع وتفرق بين الأفعال الخبيثة والأفعال البريئة في نفس الوقت.”

为了建造他们的模型، قام فريق البحث بتحليل ميزات التفكير الخادع. يمكن للخوارزمية الناتجة تمييز النية لخداع من أشكال الاتصال الأخرى من خلال التركيز على التناقضات بين حجج شخص ما السابقة وبياناته الحالية. يحتاج نموذج الفريق إلى كميات كبيرة من البيانات التي يمكن استخدامها لقياس مدى انحراف شخص ما عن حججه السابقة. تم استخدام بيانات من استطلاع للآراء حول مواضيع مثيرة للجدل لتدريب نموذجهم. قدم أكثر من 100 شخص رأيهم حول هذه القضايا المثيرة للجدل. كما تم سحب البيانات من تقييمات 20 فندقًا مختلفًا، تتكون من 400 تقييم وهمي و 800 تقييم حقيقي.

وفقًا لسانتوس، يمكن تحسين الإطار الذي طوره الباحثون وتطبيقه من قبل المنظمات الإخبارية والقارئين، لتمكينهم من تحليل محتوى مقالات “الأخبار الكاذبة”. يمكن للقارئين فحص المقالات للبحث عن وجود آراء وتحديد ما إذا كان قد تم استخدام حجة منطقية. كما قال سانتوس إن الفريق يريد دراسة تأثير المعلومات الخاطئة والتأثيرات التي تترتب عليها.

غالبًا ما تصور الثقافة الشعبية السلوكيات غير اللفظية مثل التعبيرات الوجهية كمؤشرات على أن شخصًا ما يكذب، لكن مؤلفي الدراسة يلاحظون أن هذه الإشارات السلوكية ليست دائمًا مؤشرات موثوقة للكذب. أوضح ديقينغ لي، أحد مؤلفي البحث، أن بحثهم وجد أن نماذج النية هي أفضل مؤشرات للكذب من الفروق السلوكية واللفظية. وأوضح لي أن نماذج النية “أفضل في تمييز الأكاذيب المتعمدة من أنواع أخرى من تشويه المعلومات”.

عمل باحثي جامعة دارتموث ليس التطور الوحيد الحديث في مجال مكافحة المعلومات الخاطئة باستخدام الذكاء الاصطناعي. غالبًا ما تخفي مقالات الأخبار بألقابها المثيرة للمعلومات الخاطئة. على سبيل المثال، غالبًا ما تُشير إلى أن حدثًا ما حدث عندما حدث حدث آخر في الواقع.

كما أفادت AINews، قام فريق من الباحثين من جامعة ولاية أريزونا وجامعة ولاية بنسلفانيا بالتعاون لإنشاء ذكاء اصطناعي يمكنه اكتشاف العناوين المثيرة. طلب الباحثون من الناس كتابة عناوين مثيرة لهم وبرمجة برنامج لإنشاء عناوين مثيرة. ثم تم استخدام كلا النوعين من العناوين لتدريب نموذج يمكنه اكتشاف عناوين مثيرة بشكل فعال، بغض النظر عما إذا كانت مكتوبة بواسطة الآلات أو الناس.

وفقًا للباحثين، كان خوارزميتهم أكثر دقة بنسبة 14.5٪ في اكتشاف عناوين مثيرة مقارنة بالذكاء الاصطناعي السابق. أوضح دونغوون لي، رئيس الباحثين في المشروع وأستاذ مساعد في كلية العلوم والإعلام في جامعة ولاية بنسلفانيا، كيف يُظهر تجربتهم فائدة توليد البيانات باستخدام الذكاء الاصطناعي وإعادة تغذيتها إلى خط أنابيب التدريب.

“هذا النتيجة مثير للاهتمام لأننا أظهرنا بنجاح أن بيانات التدريب المثيرة التي تم توليدها بواسطة الآلة يمكن إعادة تغذيتها إلى خط أنابيب التدريب لتدريب مجموعة واسعة من نماذج التعلم الآلي لتحسين الأداء”، أوضح لي.