يمكن أن تساعد الذكاء الاصطناعي في تحديد “اللون الوردي القذرة” للأخبار

قد تكون مصانع الرأي التي تهدف إلى التأثير على الرأي العام أكثر صعوبة في الكشف عنها إذا تم استخدام الذكاء الاصطناعي لجعلها تبدو أكثر أصالة و منطقية. لذلك ، يتصاعد السباق ليبقى في صدارة لعبة الكشف عن “اللون الوردي القذرة”.

إن إيقاف تمويل وسائل الإعلام المحلية التقليدية خلال العشرين سنة الماضية ، بسبب التطورات في وسائل الإعلام و最近 – بسبب سياسة الحكومة الأمريكية ، قد ترك فراغًا في التغطية الإقليمية تم احتلاله بفارغ الصبر من قبل المنظمات الحزبية التي تستخدم الذكاء الاصطناعي لتعزيز أجنداتها.

لتوضيح مصطلح “حزبي” (مع الأخذ في الاعتبار أن لا توجد مؤسسة إخبارية خالية من الميول السياسية من نوع ما) ، نتحدث عن شركات النفط التي تدير مواقع إخبارية إقليمية من مواقع بعيدة ، دون أي موارد محلية حقيقية ، ولكن مع تفويض لدفاع سمعة الشركة العامة ؛ مواقع إخبارية ذات دوافع سياسية خالية من أي مصدر دخل تستعد قبل الانتخابات ؛ وشبكات كاملة من مواقع إخبارية موالية للجمهوريين تظهر على نحو متشابه من لا مكان ، بالقرب من وقت التصويت.

في عام 2024 ، قدر أن الأخبار الوردي القذرة التي تعمل بالذكاء الاصطناعي قد أخيراً تجاوزت وسائل الإعلام الحقيقية ؛ في ذلك الوقت ، وجدت دراسة أسترالية أن 41٪ من المستهلكين يفضلون مصادر اللون الوردي القذرة أكثر من “المصادر الحقيقية”.

يمكن القول إن هذا النوع من الدعاية السرية قد تطور من فن مظلم إلى تهديد وجودي للديمقراطية (فيما يتعلق بالمنظمات الحزبية) وثقة الجمهور في معايير معقولة من العدالة في التغطية الإخبارية.

لذلك ، فإن أساليب التمييز بين الإخراج المميز لناشري اللون الوردي القذرة والمنظمات الإعلامية التقليدية سيكون من المفيد على الأقل في فهم من هم اللاعبون والقوى الدافعة في المناخ المعلوماتي الحالي.

كما هو الحال ، فإن المثل والقوالب التي تستخدمها منظمات الإعلام الحقيقية سهلة التقليد ، والذكاء الاصطناعي يجعل النشر القابل للتوسيع حقيقة حالية ومتاحة ، باستخدام العديد من الحيل المعتمدة من قبل ناشري “الوسائط القديمة” المتعثرة ماليًا و البث.

الإشارة والضوضاء

دراسة جديدة من الولايات المتحدة تناولت هذه القضية ، من خلال التحقيق في استخدام متزايد للنماذج اللغة الكبيرة لإجبار مواقع اللون الوردي القذرة على أن تبدو أقل جاذبية وسهولة الكشف ، وخلق إطار تعلم مصمم للاحتفاظ بالتغيرات المتطورة في الإخراج اللون الوردي القذرة (PS).

تحمل الدراسة الجديدة عنوان كشف الصحافة اللون الوردي القذرة: التوقيعات اللغوية والكشف المتين ضد التهديدات التي تعمل بالنماذج اللغة الكبيرة ، وهي تأتي من خمسة باحثين في جامعة تكساس.

تستقصي الدراسة الجديدة كيف تختلف المقالات الإخبارية المحلية التي تنتجها الكتلة من المقالات الإخبارية الشرعية ، مع التركيز على اعتمادها على الهياكل القصيرة والمتكررة والصياغة القالبية مع تباين ضئيل ؛ ويلاحظ المؤلفون أن المقالات PS تميل إلى إعادة استخدام القوالب المتطابقة المصممة لمناورة الرأي العام ، مع الاستئثار بالاستئناف إلى العواطف في المحتوى:

من الورقة الجديدة – تنشر العديد من المنافذ مقالات متشابهة مع تغيير تفاصيل الموقع فقط ، مما يكشف عن استراتيجية نسخ ولصق تستخدم لإنتاج محتوى يقلد الإخبار المحلي الشرعي. المصدر

تؤدي نماذج الكشف التقليدية التي تم تدريبها على هذه الصفات أداء جيدًا ضد هذا النوع من المحتوى ، ولكنها تفشل عند إعادة كتابة المقالات باستخدام الدردشة الحاسوبية لجعلها تبدو أكثر طبيعية أو متقدمة.

تشير الاختبارات التي أجريها المؤلفون إلى أن حتى التغييرات الطفيفة في الأسلوب التي أدخلتها النماذج اللغة الكبيرة يمكن أن تقلل من دقة الكشف بنسبة تصل إلى 40٪. لتحقيق ذلك ، ي提议ون إطارًا للتعلم المستمر الذي يعيد تدريب نماذج الكشف على المقالات الأصلية والمقالات المكتوبة بالذكاء الاصطناعي ، للاستجابة لتغيرات الأنماط اللغوية.

الطريقة

لإعداد بيانات المشروع ، استخدم المؤلفون مجموعة بيانات اللون الوردي القذرة ، التي تضم 7.9 مليون مقال تغطي 1,093 منفذا خلال 2021-2023 ، والتي حصلوا منها على 9,472 مقالًا من اللون الوردي القذرة بعد الترشيح. كما استخدموا مجموعة بيانات LIAR ، التي تحتوي على أخبار وهمية تمت إضافتها ، بالإضافة إلى مجموعة NELA-GT-2021 ، التي تحتوي على مقالات الولايات المتحدة فقط*.

لإعداد مجموعات التدريب والاختبار ، استخدم المؤلفون في البداية خوارزمية التضمين العشوائي التوزيعي (t-SNE) لتقليل تضمين المقال إلى بعدين. ثم طبقوا خوارزمية التجميع المعتمدة على الكثافة مع الضوضاء (DBSCAN) لفرز مجموعات من المقالات المماثلة.

تم التعامل مع كل مجموعة على أنها مجموعة من القصص المرتبطة ، والتي لا تزال تتبع نفس القالب ، على الرغم من الجهود المبذولة للتغلب على المكررات.

لمنع ظهور مقالات متشابهة في مجموعات التدريب والاختبار ، تم اختيار المجموعات بالكامل بشكل عشوائي ، مع استخدام 80٪ للتدريب و 20٪ للاختبار. نظرًا لأن المقالات الإخبارية الشرعية لم تتكون في مجموعات واضحة ، تم تطبيق تقسيم عشوائي بدلاً من ذلك.

تم تكرار هذه العملية ثلاث مرات ، لضمان الاتساق ، وتقليل الانحياز العشوائي.

خصائص اللون الوردي القذرة

في تعليقهم على الصفات المميزة للون الوردي القذرة مقابل الإخبار العادي ، يؤكد الباحثون أن المقالات الإخبارية المحلية من نوع اللون الوردي القذرة أقصر وأبسط من التغطية الشرعية ، بمعدل أقل من تسعة جمل لكل مقال.

نسبة أعلى من الجمل البسيطة واعتماد أكبر على الصفات هي أيضًا سمات مميزة للون الوردي القذرة ، وفقًا للورقة ، وتشير إلى ميلًا إلى لغة متكررة ومتحفزة عاطفيًا.

تم قياس الثراء اللغوي باستخدام نسبة الجذر-النوع-العلامة (RTTR) ، ووجد أن تكون أقل بكثير في مقالات اللون الوردي القذرة ، والتي أظهرت أيضًا عددًا أقل من العبارات الإسمية الفريدة.

تُشير هذه الأنماط إلى قاموس محدود ونمط شكلي ، على عكس الإخبار المحلي الشرعي ، الذي يتميز بتراكيب متعددة للفعل المساعد والضمائر والتراكيب.

الاختبارات

لإختبار العلاقات بين أنواع مختلفة من المقالات الإخبارية ، استنادًا إلى الميزات اللغوية والهيكلية ، تم إنشاء تضمين باستخدام نموذج stella_en_400M_v5 ذي 435 مليون معامل ، وتم تقليله باستخدام تحليل المكونات الرئيسية (PCA) ، و t-SNE للتصور.

عندما تم إسقاطها في بعدين ،形成ت المقالات الإخبارية الوهمية مجموعات صغيرة وثيفة ، كل منها يتوافق مع مواضيع محددة مثل إحصاءات الجريمة أو التحديثات المالية أو التبرعات الخيرية:

أنماط التجميع من تضمين t-SNE تُظهر أن مقالات اللون الوردي القذرة تُشكل مجموعات متكررة وثيفة ، في حين أن الأخبار الشرعية تُظهر توزيعات أوسع وأكثر تنوعًا مرتبطة بالموضوع والتنوع في الأسلوب.

كما نرى إلى حد ما في التصور أعلاه ، يشير هذا النمط إلى تنسيق قوي ومتكرر ، مع تباين ضئيل بين المقالات.

من المثير للاهتمام أن المقالات المسمى “أخبار وهمية” انحرفت عن المحتوى المحلي الوهمي ، وأظهرت توزيعًا أكثر تماشيًا مع الأخبار الحقيقية ، مما يشير إلى أن المحتوى الوهمي المحلي المُنتج بالكامل قد لا يكون أقل صحة فقط ، بل قد يكون متميزًا ميكانيكيًا في الشكل والتركيب.

على النقيض من ذلك ، تشكل الأخبار المحلية الشرعية مجموعات أقل وكثيفة ، متسقة مع لغة أكثر تنوعًا وموضوعات أكثر ، في حين تُظهر الأخبار الوطنية تشتتًا أكبر ، مما يعكس نطاقًا موضوعيًا أوسع وتناسقًا أسلوبيًا أقل.

مقارنات الميزات بين الأخبار المحلية الشرعية ومحتوى اللون الوردي القذرة ، مما يشير إلى أن مقالات اللون الوردي القذرة أقصر ، تستخدم هياكل جمل أبسط ، تحتوي على أكثر من الصفات ، تظهر ثراء لغوي أقل ، تفضل تراكيب الفعل المساعد الأساسية ، وتحتوي على عدد أقل من العبارات الإسمية الفريدة.

الكشف

قيم الباحثون两个 نهج رئيسي لاكتشاف محتوى اللون الوردي القذرة: التصنيف ، الذي يعتمد على ميزات لغوية مصنعة يدوياً؛ و التنقيح المعتمد على النماذج التحويلية.

لنهج التصنيف اليدوي ، تم التأكيد على الميزات الهيكلية بدلاً من الميزات الدلالية ، باستخدام عدد الجمل؛ والثراء اللغوي؛ وعمق النحو؛ و الاحتمالات التكرارية للفعل المساعد؛ و الاحتمالات التكرارية للفعل المساعد؛ و مقياس القراءة؛ وعد الفعل المساعد.

تم اختبار ثلاثة نماذج على مجموعة الميزات هذه: XGBoost؛ Random Forest؛ و Support Vector Machine (SVM) – مع Random Forest أظهر نتائج قوية بشكل طفيف.

كلا XGBoost و Random Forest قد أُسندت أهمية تنبؤية عالية إلى ميزات مثل عدد الجمل وعدد العبارات الإسمية الفريدة. كما أثرت مقاييس القراءة والثراء اللغوي على التصنيف بقوة ، على الرغم من أن النماذج أَسندت أهمية مختلفة لهذه الميزات ، مع تفضيل XGBoost مقياس Flesch و RTTR ، في حين أَسند Random Forest أهمية أكبر لمقياس CTTR:

درجات أهمية الميزات المستندة إلى SHAP (SHapley Additive exPlanations) تُظهر كيف تؤثر كل ميزة إدخال على إخراج النموذج عبر العينات. في هذه الحالة ، تُظهر قيم SHAP أن XGBoost و Random Forest اعتمدا بشكل رئيسي على عدد الجمل وعدد العبارات الإسمية الفريدة لتمييز اللون الوردي القذرة عن الأخبار الحقيقية ، مع إسناد أهمية متغيرة لمقاييس الثراء اللغوي والقراءة.

كما هو موضح في المقارنات السابقة للميزات (أعلاه) ، تفضل مقالات اللون الوردي القذرة السنسنيونية على التفاصيل ، مع ثراء لغوي أقل ، وعدد أقل من العبارات الإسمية الفريدة – مما يعزز الاستنتاج بأن هذا النوع من المحتوى هو محتوى مقلد ومتكرر.

تؤكد أنماط الفعل المساعد الثلاثية أن الأخبار المحلية الشرعية تميل إلى استخدام أشكال أكثر تعقيدًا ، تتضمن مساعدات وضمائر وتراكيب ، في حين أن اللون الوردي القذرة يفضل بنية بسيطة أو متفرقة. هذه الأنماط تشير إلى أساس موثوق لتمييز المحتوى الاصطناعي عن الصحافة.

تم إجراء جولة اختبار ثانية باستخدام النماذج التحويلية المُحسنة على نص المقال الكامل ، لالتقاط المحتوى الدلالي والهيكلي.

تم اختبار BERT و XLNet و Flan-T5 ، مع تحقيق BERT أعلى درجة F1 بنسبة 89.31٪ – على الرغم من أن الورقة تشير إلى أن الفروق في الأداء لم تكن مهمة إحصائياً. على عكس تصنيفات التصنيف اليدوي ، هذه النماذج تحديث جميع الوزن أثناء التدريب ، مما يسمح لهم بتعلم تمثيلات خاصة بالمهام مباشرة من البيانات.

تم استخدام طريقة تضمين إضافية مع مصنف متصل بالكامل لتحقيق أداء أفضل من النماذج اليدوية ، ولكنها لم تتطابق مع دقة التحسين الكامل.

استفادت هذه النهج من السياق اللغوي الأوسع – مما كان مفيدًا ، نظرًا لأن مقالات اللون الوردي القذرة غالبًا ما تكرر المحتوى عبر المنافذ.

تعزيز اللون الوردي القذرة مع النماذج اللغة الكبيرة

لإختبار ما إذا كان يمكن جعل مقالات اللون الوردي القذرة أكثر صعوبة في الكشف ، قام الباحثون بكتابة مقالات جديدة باستخدام النماذج اللغة الكبيرة. تم تصميم الدفعات لتحسين أسلوب الكتابة من خلال توسيع المحتوى وإضافة تعقيد الجمل وتقليل الإفراط في استخدام الصفات وفرض نبرة محايدة وزيادة التنوع في المفردات وزيادة عدد العبارات الإسمية الفريدة ، بهدف إخفاء السمات السطحية التي تعتمد عليها أنظمة الكشف.

تم اختبار النماذج التالية: Gemma-2B؛ Mistral-7B؛ Llama-1B؛ Llama-3B؛ Llama-8B؛ Qwen-7B؛ GPT-4o mini؛ و Claude-3.5-Haiku.

أداء الكشف (F1) لمصنف BERT المُحسن عندما يتم إعادة كتابة مقالات اللون الوردي القذرة بواسطة نماذج اللغة الكبيرة المختلفة. يشير الرقم الأقل إلى تحايل أكثر نجاحًا.

من بين هذه النتائج ، يعلق المؤلفون:

‘[من بين] النماذج مفتوحة المصدر ، كانت Qwen الأكثر فعالية في التهرب من الكشف: عندما تم اختبارها ضد مصنف BERT المُحسن مسبقًا (معدل F1 الأساسي: 89%) ، أدت إلى انخفاض بنسبة 28.34٪ في أداء الكشف.’

‘كانت النماذج المفتوحة المصدر أكثر فعالية بشكل كبير ، مع تحقيق كل من GPT-4o-mini و Claude-3.5-Haiku تقليلًا في معدل F1 بنسبة 40٪ ، مما يبرز التحدي الذي تطرحه تحايل النماذج اللغة الكبيرة عالية الجودة.’

تؤكد هذه النتائج ، بحسب المؤلفين ، مدى سهولة تحويل النماذج اللغة الكبيرة لمحتوى اللون الوردي القذرة ، مما يجعلها أكثر صعوبة على الأدوات الحالية للكشف.

الاستنتاج

رأي يحتوي هذا الخط من البحث على بعض المأزق المثير للاهتمام ، ليس أقلها أن العديد من الأشخاص (وفقًا لمسح واحد على الأقل ، كما ذكرنا سابقًا) يدعمون محتوى اللون الوردي القذرة ، مع علمهم بما هو ، مما يجعل السياق الذميم يطرح تساؤلات. يبدو كما لو أن الناس يعرفون أن “سويلنت غرين هو الناس” ، لكنهم يرفضون ويتواصلون؛ أو ربما يبدو ذلك من منظور ليبرالي.

قد تتطور هذه اللامبالاة العامة تجاه الأخبار الخوارزمية وتتطور حتى وترتد – لكنها تبدو متعمقة في الوقت الحالي.

أحد الأشياء التي لفتت انتباهي ، أثناء قراءة الورقة ، هو الطريقة التي تم التعامل معها لصياغة اللون الوردي القذرة البسيطة والاختزال ، باعتبارها عيبًا قد يكون له حل تقني ، عندما تكون البساطة والانحطاط اللغوي والقاموس المحدود كلها مقصودة.

إذا أرادت المجموعات المصلحة وراء اللون الوردي القذرة توسيع نطاقها إلى جمهور أكثر استنارة أو ليبراليًا (على الرغم من أن هذا قد لا يكون قوة لهم) ، فمن المحتمل أنهم سيقيمون معسكرًا أقرب إلى جمهورهم المستهدف ، بدلاً من تغيير أسلوب اللغة والنبرة الذي يبدو أنهم يحققون أهدافهم الحالية ، على المنصات الحالية.

* نظرًا لبعض التنسيق غير السعيد في الورقة ، فإن مصدر إضافي للمقالات الإخبارية المحلية لا يملك مصدرًا واضحًا. يُرجى الرجوع إلى الورقة الأصلية وتخمين أي من إشارات “Horne” التي تنطبق.

** هنا نُشير القارئ إلى الورقة الأصلية للحصول على تفاصيل التجارب الثانوية والملحقة التي تغطي قسم النتائج في الورقة الجديدة.

نُشر لأول مرة يوم الجمعة ، 12 ديسمبر 2025