فيسبوك يزيل الحسابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي ويستخدمها لنشر نظريات المؤامرة

تعمل شركات وسائل التواصل الاجتماعي على السيطرة على المعلومات الخاطئة قبل موسم الانتخابات عام 2020 بطرق مختلفة. في حين حظرت تويتر الإعلانات السياسية من منصتها ، أعلنت فيسبوك مؤخرًا أنها أغلقت مئات الحسابات والمنظمات والصفحات الوهمية. يبدو أن العديد من هذه الحسابات لها صور ملفات شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي ، وقد تم استخدام العديد منها لنشر معلومات خاطئة ونظريات المؤامرة.

وفقًا لتقرير فوربس ، ذكرت فيسبوك أن الحسابات والصفحات المحظورة كانت مرتبطة بشبكة “جمال الحياة” أو “TheBL” ، والتي قالت فيسبوك إنها مرتبطة بمجموعة نشر الأخبار المحافظة ، تايمز. وفقًا لفيسبوك ، أنفقت مجموعة إيبوك ميديا ما يقرب من 9.5 مليون دولار على الإعلان من خلال العديد من الصفحات والمنظمات المحظورة ، مع احتواء العديد من المنشورات على نظريات مؤامرة محببة لترامب. في حين تنفي مجموعة إيبوك ميديا هذه الاتهامات ، ذكرت فيسبوك أنها عملت بشكل وثيق مع باحثين مستقلين مثل جرافيكا ومختبر أبحاث التحقيق الرقمي التابع لمجلس الأطلسي لتحديد طبيعة الحسابات والصفحات قبل اتخاذ إجراءات ضدهم.

وفقًا لفيسبوك ، تم إزالة الحسابات بسبب “سلوك غير أصيل منسق” ، وتضليل الآخرين عن هويتهم ، ومحاولة التدخل السياسي. وفقًا لـ CNET ، قالت فيسبوك إن الحسابات غالبًا ما نشرت محتوى يروج لمرشحين سياسيين معينين وأيديولوجية ، مع التركيز على الانتخابات المحافظة والسياسات المحافظة والدعم القوي للرئيس ترامب.

نشرت فيسبوك تقريرًا يصل إلى 39 صفحة حول الحدث ، يشمل العديد من نتائجها. واحد من الجوانب البارزة في تقرير فيسبوك هو أن العديد من الحسابات المحظورة تم إنشاؤها بمساعدة الذكاء الاصطناعي. يذكر باحثو فيسبوك في التقرير:

“كانت هناك عشرات من الحسابات الوهمية لها صور ملفات شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي ، في أول انتشار كبير لمواجهة الوجوه الوهمية المعروفة لمؤلفي هذا التقرير.”

وفقًا لنتائج التقرير ، لم تكن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي كاملة ، مع كشف التفاصيل عن طبيعتها الحقيقية. كانت العناصر المتجاورة في الصورة ، مثل نظارات الشخص أو شعره ، غالبًا غير متناظرة. بالإضافة إلى ذلك ، كانت التفاصيل الخلفية غالبًا غير واضحة ومشوّهة. ومع ذلك ، قد لا تكون هذه العناصر ملحوظة في البداية ، خاصة مع احجام الصور الصغيرة لصور الملفات الشخصية في سلسلة تعليقات فيسبوك. كما يبدو أن العديد من الملفات الشخصية الوهمية لها معلومات ملف شخصي وهمية وحتى منشورات وهمية ، تم إنشاؤها بواسطة الذكاء الاصطناعي.

وفقًا لتقرير NBC ، قال ناثانيال غليشر ، رئيس سياسة الأمن في فيسبوك ، إن سلوك الحسابات هو ما كشف عن عدم صحة الحسابات ، وأن محاولات استخدام صور وهمية ومعلومات ملف شخصي وهمية لا تساعد في حماية الحسابات من الاكتشاف. قال غليشر إن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي كانت في الواقع تجعل الحسابات أكثر عرضة للقبض عليها. قال غليشر:

“كنا قد اكتشفنا هذه الحسابات لأنها كانت متورطة في سلوك وهمي. استخدام ملفات تعريف وهمية تم إنشاؤها بواسطة الذكاء الاصطناعي كوسيلة لجعلها تبدو أكثر حقيقيًا لا يساعد حقًا. أكبر استخلاص هنا هو الجرأة الشديدة للشبكة في استخدام هويات وهمية … ما هو جديد هنا هو أن هذه شركة إعلامية أمريكية يُزعم أنها تستخدم ممثلين أجانب يتصرفون كأمريكيين لنشر محتوى سياسي. لقد رأينا ذلك كثيرًا مع الجهات الفاعلة الحكومية في الماضي.”

على الرغم من ذلك ، قال الباحثون المستقلون من جرافيكا ومختبر أبحاث التحقيق الرقمي التابع لمجلس الأطلسي إن سهولة إنشاء صور كثيرة وإعطاء الحسابات مصداقية وهمية “مثيرة للقلق”. فيسبوك وشركات وسائل التواصل الاجتماعي الأخرى تحت ضغط لزيادة الجهود لمكافحة انتشار المعلومات السياسية الخاطئة ، وهو مهمة يتطلب البقاء في الطليعة التكنولوجية لتلك التي تسعى لنشر المعلومات الخاطئة.

قبل أن تغلق فيسبوك الحسابات والصفحات والمنظمات ، وصل المحتوى المنشور من هذه الكيانات إلى ملايين الأشخاص. يُreported أن ما لا يقل عن 55 مليون حساب اتبع واحدًا من الصفحات المحظورة البالغ عددها 89 صفحة. معظم المتابعين كانوا حسابات غير أمريكية. تم إزالة ما يقرب من 600 حساب و 90 صفحة و 150 مجموعة من فيسبوك. تم إزالة حوالي 70 حسابًا أيضًا من إنستجرام.

تأتي الأخبار في الوقت الذي تنطلق فيه فيسبوك تحديًا لكشف عمليات DeepFake ، والذي سينتهي في مارس 2020. كما حظرت تويتر مؤخرًا ما يقرب من 6000 حساب يُشتبه في أنها أصلها من السعودية ونشرت محتوى خاطئ عمدًا.