פייסבוק משתמש בבוטים וסימולציות כדי לנסות ולמנוע התנהגות לא תקינה של משתמשים

פייסבוק עיצבה מערכת AI חדשה שנועדה לזהות התנהגות מזיקה, פוגענית ובלתי חוקית. כפי שדווח ב-The Verge, החוקרים במחלקת ה-AI של פייסבוק בלונדון יצרו סימולטור AI-דרייבן לפייסבוק הנקרא “WW”, המשמש לסימולציה של התנהגותם של מרמים, סוחרים בלתי חוקיים, ספאמרים וגורמים אחרים המתנהגים באופן לא תקין בגרסה מדומה של פייסבוק עצמה.

הסימולטור של פייסבוק, הידוע בשם “WW”, ששמו הוא קיצור של “WWW”, נחשף על ידי פייסבוק במאמר שפורסם באפריל השנה. WW הוא גרסה משוכפלת ומוכלאה של פייסבוק, שנועדה לסייע בבדיקת כלים ואלגוריתמים שונים של פייסבוק.

החברה חשפה לאחרונה פרטים נוספים על כמה מהשימושים שלה ב-WW, אחד מהם הוא סימולציה של גורמים לא תקינים באמצעות AI. באמצעות שימוש במספר בוטים לסימולציה של התנהגויות כגון רמיה, ספאם, הטרדה ועוד, החוקרים מקווים שיוכלו לזהות ולמנוע התנהגות מזיקה של משתמשים.

על פי דבריו של מהנדס פייסבוק, מארק הרמן, כפי שצוטט על ידי The Verge, צפוי ש-WW יהיה כלי שימושי במניעת התנהגויות מזיקות שונות בפייסבוק. למשל, הרמן סבור שהסימולציות יכולות לשמש לפיתוח שיטות טובות יותר לזיהוי מרמים.

מהנדסי פייסבוק חיקו את התנהגותם של מרמים אמיתיים בפייסבוק על ידי יצירת שתי קבוצות של בוטים: קבוצה אחת של מטרות וקבוצה אחת של מרמים. מרמים רבים צדים ברשתות חברים, בוחנים את חבריהם של משתמשים, כדי למצוא מטרה פוטנציאלית. התנהגות זו חוקתה על ידי הבוטים של המרמים, כאשר המהנדסים ניסו שיטות שונות למניעת הבוט התמים מלהירמא. הטקטיקות שניסו כללו מגבלות רבות, כגון הגבלת מספר ההודעות הפרטיות שבוט יכול לשלוח כל דקה.

יש מספר דרכים שבהן הסימולציה של פייסבוק שונה מהדבר האמיתי. למשל, הסימולציה של פייסבוק אינה כוללת אלמנטים חזותיים, כך שהנתונים שמופקים מהסימולציה הם רק בצורה של נתונים מספריים וסטטיסטיקה על אינטראקציות בין בוטים. בנוסף, כל השחקנים בסימולציה הם בוטים, שאינם מסוגלים ליצור אינטראקציה עם משתמשים אמיתיים. סימולציית WW אינה יכולה לקחת בחשבון דברים כגון כוונת המשתמש או תוכן של שיחה נתונה, שכן רק פעולות שליחת הודעות, הוספת תגובות וכו’ מדומות.

על פי הרמן, תהליך הניסוי עם מגבלות דומה לניסיונות של מתכנני ערים להפחית מהירות בכבישים מסוימים על ידי הנחת “בומפים”. בדומה למתכנן עירוני שינסה ליצור בומפים ואז לאסוף נתונים על יעילותם, המהנדסים ניתחו כיצד הודעות ואינטראקציות בין בוטים השתנו בסימולטור שלהם כאשר הם השתנו פרמטרים ומגבלות. הרמן מסביר כי המטרה היא לקבל רעיון מה שינויים יכולים להיעשות בפלטפורמה של פייסבוק כדי למנוע התנהגות מזיקה מבלי להגביל באופן משמעותי התנהגות נורמלית, או זרימת תנועה.

הרמן מסביר גם כי היתרון של שימוש ב-WW לסימולציות הוא שהפעולות שהם לומדים מתרחשות על תשתית פייסבוק אמיתית, מה שנותן להם רעיון טוב יותר מה שינויים שהם מציעים יכולים להשפיע על משתמשי פייסבוק אמיתיים. כל יישומים של ממצאים אלה יידחו לזמן מה, שכן כרגע WW וסימולציה שלה רק בשלב המחקר. הרמן וחוקרים אחרים בפייסבוק לא ייישמו את ממצאיהם בגרסה החיה של פייסבוק, שכן עדיין יש הרבה עבודה לעשות. קבוצת המחקר צריכה לוודא שהסימולציות שהם יוצרים תואמות התנהגות אנושית אמיתית.

היתרון העיקרי של WW, על פי הרמן, הוא יכולתו לפעול בקנה מידה עצום, ולאפשר לחוקרי פייסבוק לבדוק את ההשלכות הפוטנציאליות של אלפי שינויים קטנים, כולם דרך הסימולציות שהוא מייצר.

בעתיד, החוקרים עשויים לאפשר לבוטים לשחק ולנסות לזמן מה, כדי לראות מה סוגי האינטראקציות הם מגיעים עם, שלעיתים קרובות הם לא צפויים על ידי החוקרים.

“ברגע זה, המוקד העיקרי הוא אימון הבוטים לחקות דברים שאנו יודעים קורים בפלטפורמה. אבל בתיאוריה ובפועל, הבוטים יכולים לעשות דברים ש לא ראינו לפני”, אמר הרמן. “זה באמת משהו שאנו רוצים, כי בסופו של דבר אנו רוצים לעקוף את ההתנהגות הלא תקינה ולא להמשיך לשחק מעין ‘מרדף'”.

אם הכל ילך טוב, פייסבוק עשויה להתחיל לעשות שינויים על בסיס סימולציות של WW עד סוף 2020.