قادة الفكر
كيف يستخدم فيسبوك الذكاء الاصطناعي لنشر المعلومات الخاطئة وتحدي الديمقراطية
أشار دان تونكلانج، الذي أشرف على البحث في الذكاء الاصطناعي في لينكد إن، إلى أن “في اللحظة التي تكتسب فيها التوصيات القدرة على التأثير في القرارات، تصبح هدفًا للمخادعين والمخادعين وأشخاص آخرين ذوي نوايا غير نبيلة”.
هذا هو المأزق الذي تواجهه شركات وسائل التواصل الاجتماعي مثل فيسبوك. يستخدم فيسبوك الردود الضمنية لتتبع النقرات والمشاهدات وسلوكيات المستخدمين القابلة للقياس الأخرى. ويستخدم هذا لتصميم ما يُسمى “محرك التوصية”، وهو نظام ذكاء اصطناعي يمتلك السلطة النهائية في تحديد من يرى ما والموعد.
لقد قام فيسبوك بتحسين محرك التوصيات لزيادة تفاعل المستخدم، وهو مقاس بمدة الوقت التي تقضيها في منصة فيسبوك. يأخذ تحسين الوقت الأولوية على أي متغير آخر، بما في ذلك جودة أو دقة ما يتم التوصية به.
تم تصميم النظام لمكافأة عناوين الصحف الحساسة التي تثير المستخدمين من خلال استغلال التحيز المعرفي، حتى لو كانت تلك العناوين مكتوبة من قبل الدعاية الروسية بهدف تقسيم المجتمع أو التأثير على الانتخابات السياسية.
كيف يستخدم فيسبوك الذكاء الاصطناعي
هناك قلة في الوعي حول كيفية استخدام فيسبوك للذكاء الاصطناعي لتحديد ما يرى المستخدمون وما يتفاعلون معه. يجب أولاً فهم ما هو التحيز التأكيدي، وهو كما يُعرِّفُه مجلة Psychology Today:
التحيز التأكيدي هو النزعة إلى البحث عن تفسير وتفسير والاستفادة من المعلومات بطريقة تؤكد أو تدعم المعتقدات أو القيم السابقة.
يفهم فيسبوك أن المستخدمين أكثر احتمالاً للنقر على الأخبار التي تغذي الانحياز المعرفي البشري. هذا يضع سابقة خطيرة للنشر المتسلسل لنظريات المؤامرة وخلق غرف صدى حيث يتم تغذية المستخدمين حصريًا بما يريدون رؤيته بغض النظر عن الدقة أو التأثير المجتمعي لما يتم رؤيته.
أظهر دراسة من معهد ماساتشوستس للتكنولوجيا أن الأخبار الكاذبة على تويتر تنتشر 6 مرات أسرع من الأخبار الحقيقية.
هذا يعني أن تويتر وفيسبوك يمكن أن يكونا مسلحين. بينما يسمح تويتر لأي شخص بمتابعة تغذيات ذات وجهات نظر ضيقة أو متحيزة، يأخذ فيسبوك خطوة إلى الأمام. لا يوجد لدي مستخدم فيسبوك حاليًا أي طريقة للسيطرة على ما يراه أو قياسه، وهذا يتم التحكم فيه بالكامل بواسطة محرك التوصيات وفيسبوك وقياسه لتفاعل المستخدم وتنظيمه لتحقيق هذا التفاعل.
يحاول فيسبوك تشكيل وتوقع رغبات مستخدميه. يُقدر فيسبوك إلى أي درجة سيحب أو يكره المستخدم عنصرًا إخباريًا لم يختبره المستخدم بعد. من أجل تجنب فقدان في تفاعل المستخدم، يختار فيسبوك تجاوز عناصر الأخبار التي قد تقلل من مستوى التفاعل، وبدلاً من ذلك يختار التفاعل مع المستخدم من خلال تغذية عناصر إخبارية تغذي التحيز التأكيدي، مما يضمن المزيد من النقرات والتعليقات والإعجابات والمشاركات.
كما يستخدم فيسبوك التنقيب التعاوني الآلي لactions وأراء المستخدمين التاريخية لتطابق تلقائي ورياضي لمشاركي الرأي (الأصدقاء) مع آراء مماثلة. يستخدم فيسبوك وظيفة tiện ích تتنبأ وتحسب تفضيلاتك لأشياء تريد رؤيتها تلقائيًا.
هذا يسبب للمستخدمين أن يقعوا في حفرة، فهم محاصرون في الأخبار الكاذبة، ويتم تغذيتهم بمحتوى يُصمم بهدف التأثير على ما تنقر عليه. بعد كل شيء، إذا كنت تعتقد أن نظرية المؤامرة التي تحاول بيل غيتس تثبيت شريحة في السكان من خلال استخدام اللقاحات، فلماذا يجب على فيسبوك تقديم لك أدلة متعارضة قد تسبب لك انسحابًا من المنصة؟ إذا كنت تدعم مرشحًا سياسيًا معينًا، فلماذا يجب على فيسبوك تقديم لك أخبار تتعارض مع آرائك الإيجابية حول هذا المرشح؟
كما يشارك فيسبوك في ما يُسمى “الدليل الاجتماعي”. الدليل الاجتماعي هو مفهوم أن الناس سيتابعون أفعال الجماهير. الفكرة هي أن منذ أن يتصرف الكثير من الناس بطريقة معينة، يجب أن تكون السلوك الصحيح.
يقدم فيسبوك هذا الدليل الاجتماعي في سياق الإعجابات والتعليقات والمشاركات. منذ أن يرى بعض الأصدقاء فقط عنصر التغذية (إلا إذا قاموا بالبحث عن تغذية المستخدم)، فإن الدليل الاجتماعي يُصرف فقط لتعزيز التحيز التأكيدي.
كما يستخدم فيسبوك فقاعات المرشح لتحديد التعرض للآراء المتناقضة والمختلفة والتحدي.
إعلانات فيسبوك
قد يكون مستخدمو فيسبوك غير واعين ينقرون على الإعلانات دون أن يدركوا أنهم يتم تقديم إعلانات لهم. السبب في ذلك بسيط، إذا كان هناك إعلان، فسيเหى المستخدم الأول فقط الإعلان مع إشعار الإعلان. إذا قام المستخدم بمشاركة الإعلان، سيเหى كل شخص على قائمة أصدقائه فقط “المشاركة” كعنصر تغذية، لأن فيسبوك يقطع إشعار الإعلان بشكل متعمد. على الفور، يخفض المستخدمون حرسهم، وهم غير قادرين على التمييز بين ما هو إعلان وما سيظهر بشكل طبيعي على تغذيتهم.
مشاركات فيسبوك
للأسف، الأمور تزداد سوءًا. إذا كان مستخدم لديه 1000 صديق يشاركون المحتوى في نفس الوقت، سوف يأخذ محرك التوصيات الأولوية للمحتوى من الأقليّة التي تشترك في نفس الآراء، حتى لو كانت هذه غالبًا نظريات مؤامرة غير مثبتة. سيظل المستخدم تحت وهم أن هذه عناصر التغذية تظهر للجميع. من خلال التفاعل مع هذه التغذية، يُحسِّن هؤلاء المستخدمون دليل اجتماعي لبعضهم البعض.
إذا حاول مستخدم إضاءة مستخدم آخر حول عنصر إخبارى خادع أو كاذب، فإن فعل التعليق أو التفاعل مع عنصر التغذية يزيد فقط من وقت تفاعل المستخدم الأصلي. يسبب هذا الدائرة المرتدة أن فيسبوك يعزز التفاعل مع هذا المستخدم بمزيد من الأخبار الكاذبة.
هذا يسبب غرفة صدى، فقاعة مرشح حيث يتم تدريب المستخدم على الاعتقاد فقط في ما يراه. الحقيقة هي مجرد وهم.
خطورة القضية
أكثر من 10 ملايين شخص تفاعلوا مع تغذية إخبارية زعمت أن البابا فرانسيس أعلن دعمه لانتخابات ترامب في عام 2016. لم يكن هناك دليل على ذلك، كان مجرد قصة إخبارية كاذبة خرجت من روسيا، ومع ذلك كانت هذه هي القصة الإخبارية الأكثر مشاركة على فيسبوك في الأشهر الثلاثة التي سبقت الانتخابات.
تم إنشاء عنصر الأخبار بواسطة مزرعة الدعاية الروسية التي تدعى “وكالة الأبحاث على الإنترنت”. كانت هذه المنظمة نفسها مسؤولة عن تعزيز ونشر مقالات تحريضية على تويتر وفيسبوك، لصالح تشويه حركة حياة السود وتسليح عناصر إخبارية كاذبة لنشر ادعاءات كاذبة حول السياسيين الأمريكيين.
أصدر لجنة المخابرات المختارة تقريرًا يحتوي على 85 صفحة يفصِّل الحملات والتدخلات الروسية النشطة، وغالبها كان نشر الأخبار الكاذبة والدعاية التي كان هدفها الوحيد التأثير على انتخابات 2016 في الولايات المتحدة.
في عام 2020، بعد الانتخابات، تفاقم المشكلة. في سبتمبر 2020، بعد تلميح من مكتب التحقيقات الفيدرالي، قام فيسبوك وتويتر بإلغاء حسابات وسائل التواصل الاجتماعي لمؤسسة إخبارية تدعى PeaceData، والتي ترتبط بجهود الدعاية الحكومية الروسية.
للأسف، إغلاق الحسابات هو حل مؤقت غير فعال. غالبًا ما تأخذ الحسابات الروسية شكل طلبات صداقة، غالبًا ما تكون من نساء مع ملفات تعريف جذابة التي تستهدف الرجال، أو حسابات مستخدمين محتجزة مع تاريخ منشورات منتظمة. تتحرك هذه الحسابات المحتجزة ببطء إلى المشاركات السياسية، حتى تصبح محتلة بالدعاية أو نظريات المؤامرة.
قد يكون المستخدم غير واعٍ بأن حساب صديق تم اختراقه. إذا كان المستخدم معرضًا لنظريات المؤامرة، قد يتفاعل مع عنصر التغذية الكاذب، ثم يقدم البوت الروسي دليلًا اجتماعيًا من خلال الإعجابات أو التعليقات.
المستخدمون الأقل قدرة هي تلك التي تفتقر إلى فهم كيفية عمل التكنولوجيا والذكاء الاصطناعي. السكان الذين تزيد أعمارهم على 65 عامًا، وهم السكان الأكثر احتمالاً للتصويت، هم أيضًا الأكثر احتمالاً لنشر الأخبار الكاذبة، كما أفادت صحيفة نيويورك تايمز.
وفقًا للدراسة، نشر مستخدمو فيسبوك الذين تزيد أعمارهم على 65 عامًا سبع مرات أكثر من المقالات من مواقع إخبارية كاذبة مقارنة بالبالغين الذين تقل أعمارهم عن 29 عامًا. ينقص هذا الفئة العمرية من معرفة الوسائط الرقمية، مما يجعلها غير مستعدة لمشروع إخبارى لا يعتمد على الحقائق أو الدقة، بل على تفاعل المستخدم فقط.
يستفيد الممثلون السيئون من محرك التوصيات لفيس بوك الذي يستغل التحيزات المعرفية ضده. هذه المنظمات قامت بتحسين إساءة استخدام الذكاء الاصطناعي لفيس بوك لنشر نظريات المؤامرة والدعاية. نظريات المؤامرة التي قد تبدو أبرياء في البداية، غالبًا ما تستخدم كأنابيب للاستقواء الأبيض أو القومية اليمينية المتطرفة أو نظرية مؤامرة QAnon، وهي نظرية مؤامرة غريبة تتضمن محاولات ترامب لإنقاذ العالم من الليبراليين المخادعين، وهي نظرية لا أساس لها من الصحة.
ملخص
من الواضح أن فيسبوك يدرك أن هناك مشكلة، وقد أعلن علنًا استراتيجية تركز على إزالة المحتوى الذي ي違ق معايير فيسبوك المجتمعية. المشكلة هي أن حذف الحسابات هو حل مؤقت غير فعال عندما يتم إنشاء الحسابات بالجملة بواسطة البوتات أو اختراق حسابات المستخدمين. كما أنه لا يحل مشكلة أن معظم المشاركات يتم من قبل مستخدمين عاديين غير مدركين لنشر المعلومات الخاطئة.
إضافة علامات تحذيرية تخدم فقط لتعزيز نظريات المؤامرة التي تقول إن شركات وسائل التواصل الاجتماعي متحيزة ضد المحافظين، الذين هم الأكثر عرضة للأخبار الكاذبة.
الsolution تحتاج إلى محرك توصيات جديد يقيس ليس فقط تفاعل المستخدم، بل يُحسِّن من سعادة المستخدم من خلال تقديم الحقيقة وتعزيز الوعي الذاتي.
في غضون ذلك، يجب على فيسبوك اتباع المسار الذي اتبعه تويتر لحظر الإعلانات السياسية.
أخيرًا، يجب طرح سؤال مهم. إذا لم يكن لدى الناس خيار في الأخبار التي يرونها، فمتى يتوقف الأمر عن كونه توصية ومتى يصبح التحكم في العقل؟
اقتراحات القراءة:
الحملات والتدخلات الروسية النشطة – تقرير من لجنة المخابرات المختارة في مجلس الشيوخ الأمريكي.
الورقة المذهلة التي تتنبأ بنهاية الديمقراطية – من قبل ريك شينكمان، مؤسس شبكة أخبار التاريخ في جامعة جورج واشنطن.
الأشخاص الأكبر سنًا يشاركون الأخبار الكاذبة على فيسبوك أكثر – من قبل صحيفة نيويورك تايمز.
