كشف المراجعات المخادعة على الإنترنت باستخدام التعلم الآلي

تقدم أبحاث جديدة مشتركة بين الصين والولايات المتحدة وسيلة لاكتشاف المراجعات المخادعة على منصات التجارة الإلكترونية المصممة لتخريب المنافسين أو تسهيل الابتزاز، من خلال الاستفادة من السلوك المميز لمثل هؤلاء المراجعين.

النظام، الذي يُطلق عليه نموذج الكشف عن المستخدمين الخبيثين (MMD)، يستخدم تعلم المسافات، وهو تقنية مستخدمة بشكل شائع في رؤية الكمبيوتر ونظم التوصية، إلى جانب شبكة عصبونية متكررة (RNN)، لتحديد وتسمية مخرجات مثل هؤلاء المراجعين، والتي تسميها الورقة المستخدمون الخبيثون المحترفون (PMUs).

جيد! 1 نجمة

توفر معظم مراجعات التجارة الإلكترونية على الإنترنت شكلين من ملاحظات المستخدم: تصنيف نجمي (أو تصنيف من 10) ومراجعة نصية، وفي الحالة النموذجية، سيتوافق هذان بشكل منطقي (أي أن المراجعة السيئة ستكون مصحوبة بتصنيف منخفض).

لكن، يستخدم PMUs عادةً منطقًا معاكسًا، من خلال ترك مراجعة نصية سيئة مع تصنيف عالٍ، أو تصنيف سيئ مصحوبًا بمراجعة جيدة.

هذا يسمح للمراجعة للمستخدم أن تسبب ضررًا بسمعة الشركة دون أن يؤدي إلى تنبيه المرشحات البسيطة التي تم نشرها بواسطة مواقع التجارة الإلكترونية لتحديد ومعالجة مخرجات المراجعين الخبيثين السلبيين. إذا تم تحديد الشتائم في نص المراجعة بواسطة مرشح يستند إلى معالجة اللغة الطبيعية (NLP)، فإن هذا التنبيه يتم إلغاؤه بشكل فعال بواسطة التصنيف النجمي العالي (أو العشري) الذي قام PMU بتعيينه أيضًا، مما يجعل المحتوى الخبيث “محايدًا” من وجهة نظر إحصائية.

مثال على كيفية أن يتم دمج المراجعة الخبيثة بشكل إحصائي مع المراجعات الحقيقية، من وجهة نظر نظام تصفية تعاوني يحاول تحديد مثل هذا السلوك. مصدر: https://arxiv.org/pdf/2205.09673.pdf

تلاحظ الورقة الجديدة أن نية PMU غالبًا ما تكون استخراج المال من تجار التجزئة عبر الإنترنت في مقابل تعديل المراجعات السلبية و / أو وعد بعدم نشر مراجعات سلبية أخرى. في بعض الحالات، يكون هؤلاء الفاعلون أفراد يبحثون عن خصومات، على الرغم من أن PMU يتم توظيفه بشكل متكرر من قبل منافسي الضحية.

تخفي المراجعات السلبية

تستخدم جيل الحالي من الكاشفات الآلية لهذه المراجعات تصفية تعاوني أو نظام قائم على المحتوى، ويتطلعون إلى العثور على مخالفات واضحة ودون غموض – مراجعات تكون سلبية بشكل موحد عبر كلا نهج الملاحظة، وتختلف بشكل ملحوظ عن اتجاه عام مشاعر المراجعة وتصنيفها.

العلامة الأخرى الكلاسيكية التي تركز عليها هذه المرشحات هي تكرار النشر العالي، في حين أن PMU سينشر بشكل استراتيجي وعلى فترات متباعدة فقط (حيث قد تمثل كل مراجعة مهمة فردية مدفوعة الأجر أو مرحلة في استراتيجية أطول مصممة لإضفاء غموض على “مقياس التكرار”).

لذلك، قام باحثو الورقة الجديدة بدمج القطبية الغريبة للمراجعات الخبيثة المحترفة في نظام مخصص، مما أدى إلى خوارزمية تقترب من قدرة المراجع البشري على استشعار وجود أمر مريب في التناقض بين التصنيف والمحتوى النصي للمراجعة.

الهيكل المفاهيمي لـ MMD، والذي يتكون منوحدتين مركزيتين: بناء ملف للمستخدم الخبيث (MUP) وتعلم المسافات القائم على الانتباه (MLC، باللون الرمادي).

مقارنة بالمناهج السابقة

منذ أن MMD هو، كما يذكر المؤلفون، أول نظام يحاول تحديد PMUs بناءً على أسلوب نشرهم المتناقض، لا توجد أعمال سابقة مباشرة يمكن مقارنتها بها. لذلك، قام الباحثون بوضع نظامهم ضد عدد من الخوارزميات المكونة التي تعتمد عليها المرشحات الآلية التقليدية، بما في ذلك تجميع K-means++؛ كشف الشذوذ الإحصائي القديم SOD؛ Hysad؛ Semi-sad؛ CNN-sad؛ و نظام التوصية لكشف المستخدمين الخبيثين (SDRS).

تم اختبار MMD ضد مجموعات بيانات موسومة من Amazon [securities_stock_price_tag symbol="amzn" exchange="nasdaq"] وYelp، ويمكنه تحديد أصحاب المراجعات المسيئة المحترفين عبر الإنترنت بأعلى معدل دقة، وفقًا للمؤلفين. التمثيل الغامق يظهر MMD، بينما يشير النجم (*) إلى الأداء الأفضل. في هذه الحالة، تم تجاوز MMD في مهمتين فقط، بواسطة تكنولوجيا مستقلة (MUP) التي تم دمجها بالفعل فيه، ولكنها ليست مجهزة افتراضيًا للمهمة المحددة.

في هذه الحالة، تم اختبار MMD ضد مجموعات بيانات غير موسومة من Taobao وJindong، مما جعله بمثابة مهمة تعلم غير خاضع للإشراف. مرة أخرى، تم تجاوز MMD فقط من قبل واحدة من تقنياته المكونة، والتي تم تعديلها بشكل كبير لمهمة الاختبار.

يلاحظ الباحثون:

‘في جميع مجموعات البيانات الأربع، يتفوق نموذجنا المقترح MMD (MLC + MUP) على جميع الأسس فيما يتعلق بمقياس F. لاحظ أن MMD هو مزيج من MLC و MUP، مما يضمن تفوقه على النماذج الخاضعة للإشراف والغير خاضعة للإشراف بشكل عام.’

كما تشير الورقة إلى أن MMD يمكن أن يخدم كوسيلة مُسبقة مفيدة لأنظمة المرشحات الآلية التقليدية، ويوفر نتائج تجريبية على عدد من مجموعات البيانات، بما في ذلك التصفية التعاونية المستندة إلى المستخدم (UBCF)، التصفية التعاونية المستندة إلى العنصر (IBCF)، تحليل المصفوفات إلى عوامل (MF-eALS)، الترتيب الشخصي البيزي (MF-BPR)، و التصفية التعاونية العصبونية (NCF).

فيما يتعلق بمعدل الإصابة (HR) والكسب التراكمي المخصوم المطبّع (NDCG) في نتائج هذه الإضافات المُختبرة، يذكر المؤلفون:

‘من بين جميع مجموعات البيانات الأربع، يحسن MMD من أداء نماذج التوصية بشكل كبير من حيث HR و NDCG. على وجه التحديد، يمكن لـ MMD تحسين أداء HR بنسبة 28.7٪ في المتوسط و NDCG بنسبة 17.3٪ في المتوسط. ‘

‘من خلال حذف المستخدمين الخبيثين المحترفين، يمكن لـ MMD تحسين جودة مجموعات البيانات. بدون هذه المراجعات الخبيثة الزائفة، تصبح مجموعة البيانات أكثر [وضوحًا].’

الورقة بعنوان كشف المستخدمين الخبيثين المحترفين باستخدام تعلم المسافات في أنظمة التوصية، وهي من باحثين في قسم علوم الحاسوب والتكنولوجيا في جامعة جيلين؛ المختبر الرئيسي للمعالجة الذكية للمعلومات في الأكاديمية الصينية للعلوم في بكين؛ وكلية الأعمال في جامعة روتجرز في نيو جيرسي.

البيانات والمنهج

كشف PMUs هو تحدي متعدد الوسائط، حيث يجب مراعاةمعاملين غير متكافئين (تصنيف قيمي رقمي ومراجعة نصية). يؤكد مؤلفو الورقة الجديدة أن لا عمل سابق قد تعامل مع هذا التحدي.

يستخدم MMD شبكة عصبونية متكررة هرمية ذات انتباه مزدوج (HDAN) لدمج محتوى المراجعة في درجة مشاعر.

إسقاط المراجعة على درجة مشاعر مع HDAN، والتي تساهم في تضمينات الكلمات وتضمينات الجمل للحصول على درجة مشاعر.

يستخدم HDAN آليات الانتباه لتخصيص أوزان لكل كلمة، ولكل جملة. في الصورة أعلاه، يذكر المؤلفون أن كلمة الأسوأ يجب أن تُخصص وزنًا أكبر بشكل واضح من الكلمات المتنافسة في المراجعة.

للمشروع، أخذ HDAN التصنيفات للمنتجات عبر أربع مجموعات بيانات كحقيقة موضوعية. كانت مجموعات البيانات Amazon.com؛ Yelp ل RecSys (2013)؛ ومجموعتي بيانات من العالم الحقيقي (وليست تجريبية)، من Taobao وJindong.

يستفيد MMD من تعلم المسافات، الذي يحاول تقدير مسافة دقيقة بين الكيانات من أجل وصف مجموعة العلاقات العامة في البيانات.

يبدأ MMD ب ترميز واحد ساخن لتحديد المستخدم والعنصر، عبر نموذج العوامل الكامنة (LFM)، الذي يحصل على درجة تصنيف أساسية. وفي الوقت نفسه، يساهم HDAN في إسقاط محتوى المراجعة في درجة المشاعر كبيانات مضافة.

ثم يتم معالجة النتائج في نموذج بناء ملف للمستخدم الخبيث (MUP)، الذي يخرج متجه الفجوة العاطفية – الفارق بين التصنيف ودرجة المشاعر المقدرة لمحتوى نص المراجعة. بهذه الطريقة، يمكن تصنيف PMUs وتسميتها لأول مرة.

تعلم المسافات القائم على الانتباه للتجميع.

يستخدم تعلم المسافات للتجميع (MLC) هذه العلامات الإخراجية لتأسيس مقياس لحساب احتمال أن تكون مراجعة المستخدم خبيثة.

اختبارات البشر

إضافة إلى النتائج الكمية الموضحة أعلاه، أجرى الباحثون دراسة مستخدمة كلف 20 طالبًا بتحديد المراجعات الخبيثة بناءً على المحتوى وتصنيف النجوم فقط. تم طلب من المشاركين تصنيف المراجعات على أنها 0 (لمراجعين عاديين) أو 1 (لمستخدم خبيث محترف).

من بين تقسيم 50/50 بين المراجعات العادية والخبيثة، صنف الطلاب 24 إيجابيًا حقيقيًا و 24 سلبيًا حقيقيًا في المتوسط. بالمقارنة، كان MMD قادرًا على تصنيف 23 إيجابيًا حقيقيًا و 24 سلبيًا حقيقيًا في المتوسط، يعمل بشكل قريب من التمييز البشري، وتجاوز أسس المهمة.

الطلاب مقابل MMD. النجم (*) يشير إلى أفضل النتائج، والخط الغامق يشير إلى نتائج MMD.

يختم المؤلفون:

‘في جوهره، MMD هو حل عام، يمكنه ليس فقط كشف المستخدمين الخبيثين المحترفين الذين تم استكشافهم في هذه الورقة، ولكن يمكنه أيضًا أن يكون أساسًا عام لكشف المستخدمين الخبيثين. مع المزيد من البيانات، مثل الصور أو الفيديو أو الصوت، يمكن لفكرة MMD أن تكون إرشادية لاكتشاف فجوة المشاعر بين العنوان والمحتوى، والتي لها مستقبل مشرق لمواجهة استراتيجيات التمويه المختلفة في التطبيقات المختلفة.’

نشر لأول مرة في 20 مايو 2022.