فيسبوك يزيل الحسابات التي أنشأها الذكاء الاصطناعي ويستخدمها لإدامة نظريات المؤامرة

تهدف شركات وسائل التواصل الاجتماعي إلى السيطرة على المعلومات المضللة قبل موسم انتخابات 2020 بعدة طرق. بينما حظر Twitter مؤخرًا الإعلانات السياسية من منصته ، أعلن Facebook للتو أنه أغلق مئات الحسابات والمجموعات والصفحات المزيفة. يبدو أن العديد من هذه الحسابات تحتوي على صور ملفات شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي ، وقد تم استخدام العديد منها لنشر معلومات مضللة ونظريات المؤامرة.

كما ذكرت مجلة فوربس، ذكر موقع Facebook أن الحسابات والصفحات المحظورة مرتبطة بشبكة "Beauty of Life" أو "TheBL" ، والتي قال فيسبوك إنها مرتبطة بمجموعة نشر الأخبار المحافظة ، Epoch Times. وفقًا لموقع Facebook ، أنفقت Epoch Media Group ما يقرب من 9.5 مليون دولار على الإعلان من خلال العديد من الصفحات والمجموعات المحظورة الآن ، مع احتواء العديد من المنشورات على نظريات مؤيدة لترامب. بينما تنفي Epoch Media Group التهم ، أعلن Facebook أنه يعمل عن كثب مع باحثين مستقلين مثل Graphika ومختبر أبحاث الطب الشرعي الرقمي التابع للمجلس الأطلسي (DFRLab) لتحديد طبيعة الحسابات والصفحات قبل اتخاذ إجراء ضدهم.

وفقًا لـ Facebook ، تمت إزالة الحسابات بسبب "السلوك المنسق غير الأصيل" ، وتضليل الآخرين عمدًا بشأن هوياتهم ، ومحاولة التدخل السياسي.  وفقًا لـ CNET، قال فيسبوك إن الحسابات غالبًا ما تنشر محتوى يروج لمرشحين سياسيين معينين وأيديولوجية معينة ، مع التركيز على الانتخابات المحافظة والسياسات المحافظة والدعم القوي للرئيس ترامب.

نشر Facebook تقريرًا من 39 صفحة عن الحدث يغطي العديد من النتائج التي توصلوا إليها. كان أحد الجوانب البارزة في تقرير Facebook هو أن العديد من الحسابات المحظورة تم إنشاؤها بمساعدة الذكاء الاصطناعي. يقول باحثو فيسبوك في التقرير:

"عشرات من هذه الحسابات المزيفة لديها صور ملفات شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي ، في أول نشر واسع النطاق لوجوه مزيفة معروفة لمؤلفي هذا التقرير."

وفقًا لنتائج التقرير ، لم تكن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي مثالية ، حيث غالبًا ما تكشف التفاصيل عن طبيعتها الحقيقية. غالبًا ما تكون العناصر المتجاورة للصورة ، مثل نظارة الشخص أو شعره ، غير متناظرة. علاوة على ذلك ، غالبًا ما كانت تفاصيل الخلفية ضبابية ومشوهة. ومع ذلك ، قد لا تكون هذه العناصر ملحوظة للوهلة الأولى ، لا سيما بالنظر إلى أحجام الصور الصغيرة لصور الملفات الشخصية في سلسلة التعليقات على Facebook. يبدو أن العديد من الملفات الشخصية المزيفة تحتوي أيضًا على معلومات ملف تعريف مزيفة وحتى منشورات مزيفة ، من المحتمل أن تكون تم إنشاؤها بواسطة الذكاء الاصطناعي.

كما ذكرت NBCصرح ناثانيال جليشر ، رئيس السياسة الأمنية في Facebook ، أن سلوك الحسابات هو ما جعلها غير أصلية وأن محاولات استخدام الصور المزيفة ومعلومات الملف الشخصي لا تساعد في حماية الحسابات من الاكتشاف. صرح Gleicher أن الصور التي تم إنشاؤها بواسطة AI كانت في الواقع تجعل الحسابات أكثر عرضة للقبض عليها. قال جليشر:

"اكتشفنا هذه الحسابات لأنها كانت متورطة في سلوك مزيف. إن استخدام ملفات التعريف التي تم إنشاؤها بواسطة الذكاء الاصطناعي كطريقة لجعل أنفسهم يبدون أكثر واقعية لا يساعدهم في الواقع. أكبر استفادة هنا هو فظاعة الشبكة في استخدام هويات مزيفة ... والجديد هنا هو أنها شركة إعلامية مقرها الولايات المتحدة يُزعم أنها تستفيد من الممثلين الأجانب الذين يتظاهرون بأنهم أمريكيون لدفع المحتوى السياسي. لقد رأينا ذلك كثيرًا مع الجهات الحكومية في الماضي ".

ومع ذلك ، صرح باحثون مستقلون من Graphika والمجلس الأطلسي أن السهولة التي تمكن بها الفاعلون السيئون من إنشاء الكثير من الصور وإعطاء حساباتهم المتصورة "هي مصدر قلق". يتعرض فيسبوك وشركات التواصل الاجتماعي الأخرى لضغوط لتكثيف الجهود لمكافحة انتشار المعلومات السياسية المضللة ، وهي مهمة ستتطلب البقاء في الصدارة من الناحية التكنولوجية على أولئك الذين يسعون لنشر المعلومات المضللة.

قبل أن يسقط Facebook الحسابات والصفحات والمجموعات ، وصل المحتوى الذي تنشره هذه الكيانات إلى ملايين الأشخاص. وبحسب ما ورد ، فقد اتبعت 55 مليون حساب على الأقل واحدة من 89 صفحة محظورة مختلفة. وكان معظم المتابعين من خارج الولايات المتحدة. في المجموع ، تمت إزالة حوالي 600 حساب و 90 صفحة و 150 مجموعة من Facebook. تمت إزالة ما يقرب من 70 حسابًا أيضًا من Instagram.

تأتي هذه الأخبار في الوقت الذي يبدأ فيه Facebook تحدي اكتشاف DeepFake ، والذي سيستمر حتى مارس 2020. كما حظر Twitter مؤخرًا ما يقرب من 6000 حسابًا من حسابات المشتبه بهم من المملكة العربية السعودية ونشر محتوى مضلل عن قصد.