يستخدم Facebook برامج الروبوت والمحاكاة لمحاولة مواجهة السلوك السيئ للمستخدمين

صمم Facebook ذكاءً اصطناعيًا جديدًا يهدف إلى اكتشاف السلوك الضار والضار وغير القانوني بشكل أفضل. مثل The Verge تقارير، قام الباحثون في قسم الذكاء الاصطناعي في فيسبوك في لندن بإنشاء محاكي Facebook مدفوع بالذكاء الاصطناعي يسمى "WW" ، والذي يستخدم لمحاكاة سلوك المحتالين وتجار المنتجات غير القانونيين ومرسلي البريد العشوائي وغيرهم من الجهات الفاعلة السيئة على نسخة محاكاة من Facebook نفسه.

محاكي Facebook المعروف باسم "WW" ، مأخوذ من اسمه من اختصار لـ "WWW" ، تم الكشف عنها بواسطة Facebook في ورقة نشرت في أبريل من هذا العام. WW عبارة عن نسخة مستنسخة ومضمونة من Facebook تهدف إلى المساعدة في اختبار أدوات وخوارزميات Facebook المختلفة.

كشفت الشركة مؤخرًا عن مزيد من التفاصيل المتعلقة ببعض استخداماتها في WW ، أحدها محاكاة الممثلين السيئين من خلال الذكاء الاصطناعي. باستخدام عدد من الروبوتات لمحاكاة السلوك مثل الاحتيال والبريد العشوائي والمضايقات وغير ذلك ، يأمل الباحثون أن يتمكنوا من اكتشاف السلوك الضار من قبل المستخدمين ومكافحته بشكل أفضل.

وفقًا لمهندس Facebook Mark Harman ، وفقًا لما نقلته Verge ، من المتوقع أن تكون WW أداة قيمة في الحد من السلوكيات الضارة المختلفة على Facebook. على سبيل المثال ، يعتقد هارمان أنه يمكن استخدام المحاكاة لتصميم طرق أفضل لاكتشاف المحتالين.

قام مهندسو Facebook بتقليد سلوك المحتالين الواقعيين على Facebook من خلال إنشاء مجموعتين من الروبوتات: مجموعة واحدة من الأهداف ومجموعة واحدة من المحتالين. غالبًا ما يصطاد المحتالون شبكات الأصدقاء ، ويستكشفون أصدقاء المستخدمين ، من أجل العثور على هدف محتمل. تم تقليد هذا السلوك من قبل الروبوتات المخادعة حيث جرب المهندسون طرقًا مختلفة لمنع الروبوت البريء من الخداع. تضمنت التكتيكات التي جربوها قيودًا عديدة مثل تحديد عدد الرسائل الخاصة التي يمكن أن يرسلها الروبوت كل دقيقة.

هناك بعض الطرق التي يختلف بها Facebook المحاكي عن الواقع. أولاً ، لا تتضمن محاكاة Facebook في الواقع أي عناصر مرئية ، لذا فإن البيانات المستمدة من المحاكاة تكون كلها في شكل بيانات رقمية وإحصاءات حول التفاعلات بين الروبوتات. من ناحية أخرى ، فإن جميع الممثلين في المحاكاة هم روبوتات ، غير قادرة على التفاعل مع مستخدمين حقيقيين. لا يمكن لمحاكاة WW أيضًا أن تأخذ في الحسبان أشياء مثل نية المستخدم أو محتوى محادثة معينة ، حيث تتم محاكاة إجراءات إرسال الرسائل وإبداء التعليقات وما إلى ذلك فقط.

ووفقًا لهارمان ، فإن عملية تجربة القيود هذه مشابهة لمخططي المدن الذين يحاولون تقليل السرعة على طرق معينة من خلال وضع "مطبات السرعة". على غرار الطريقة التي سيجري بها مخطط المدينة تجربة إنشاء مطبات السرعة ثم جمع البيانات حول فائدتها ، حلل المهندسون كيفية اختلاف الرسائل والتفاعلات بين الروبوتات في جهاز المحاكاة حيث قاموا بتغيير المعلمات والقيود. يوضح هارمان أن الهدف هو الحصول على فكرة عن التغييرات التي يمكن إجراؤها على منصة Facebook لمنع السلوك الضار دون الحد بشدة من السلوك الطبيعي ، أو التدفق الحر لحركة المرور.

يوضح Harman أيضًا أن فائدة استخدام WW لعمليات المحاكاة الخاصة بهم هي أن الإجراءات التي يدرسونها تحدث على بنية أساسية حقيقية لـ Facebook مما يمنحهم فكرة أفضل بكثير عن كيفية تأثير التغييرات المقترحة على مستخدمي Facebook الحقيقيين. أي تطبيقات لهذه النتائج يجب أن تنتظر بعض الوقت ، لأن WW ومحاكاةها الآن في مرحلة البحث فقط. لن يقوم هارمان وباحثو فيسبوك الآخرون في الواقع بتطبيق نتائجهم على الإصدار المباشر من Facebook حتى الآن ، حيث لا يزال هناك الكثير من العمل الذي يتعين القيام به. تحتاج مجموعة البحث إلى التأكد من أن عمليات المحاكاة التي ينشئونها تتطابق بشكل مناسب مع السلوك البشري الحقيقي.

تتمثل الفائدة الرئيسية لـ WW ، وفقًا لهارمان ، في قدرتها على العمل على نطاق واسع ، مما يسمح لباحثي Facebook بالتحقق من العواقب المحتملة لآلاف التعديلات الطفيفة المختلفة ، كل ذلك من خلال عمليات المحاكاة التي تنتجها.

في المستقبل ، قد يسمح الباحثون للروبوتات باللعب والتجربة لفترة من الوقت ، لمعرفة أنواع التفاعلات التي يأتون بها بمفردهم ، والتي غالبًا ما تكون شيئًا لا يتوقعه الباحثون حتى.

"في الوقت الحالي ، ينصب التركيز الرئيسي على تدريب الروبوتات لتقليد الأشياء التي نعرف أنها تحدث على المنصة. لكن نظريًا وعمليًا ، يمكن للروبوتات القيام بأشياء نحن لم شوهد من قبل ، " قال هارمان. "هذا في الواقع شيء نريده ، لأننا نريد في النهاية أن نتقدم على السلوك السيئ بدلاً من اللعب باستمرار للحاق بالركب."

إذا سارت الأمور على ما يرام ، يمكن أن يبدأ Facebook في إجراء تعديلات بناءً على محاكاة WW بحلول نهاية عام 2020.