Facebook використовує боти та симуляції, щоб спробувати протидіяти негативній поведінці користувачів

Facebook розробив новий AI, призначений для кращого виявлення шкідливої, шкідливої та незаконної поведінки. Як повідомляє The Verge, дослідники відділу штучного інтелекту Facebook у Лондоні створили симулятор Facebook, керований штучним інтелектом, під назвою “WW”, який використовується для симуляції поведінки шахраїв, незаконних торговців товарами, спамерів та інших негативних осіб на симульованій версії Facebook самої по собі.

Симулятор Facebook, відомий як “WW”, отримав свою назву від скорочення “WWW”, було оголошено Facebook у статті, опублікованій у квітні цього року. WW – це клонований, ізольований варіант Facebook, призначений для допомоги у тестуванні різних інструментів та алгоритмів Facebook.

Компанія недавно розкрила більше подробиць щодо деяких зі своїх застосунків для WW, одним з яких є симуляція негативних осіб через штучний інтелект. Використовуючи ряд ботів для симуляції поведінки типу шахрайства, спаму, переслідування тощо, дослідники сподіваються, що вони зможуть краще виявити та протидіяти шкідливій поведінці користувачів.

За словами інженера Facebook Марка Гармана, як цитують у The Verge, очікується, що WW стане цінним інструментом у боротьбі з різними шкідливими поведінками на Facebook. Наприклад, Гарман вважає, що симуляції можна використовувати для розробки кращих методів виявлення шахраїв.

Інженери Facebook змоделювали поведінку реальних шахраїв Facebook, створивши дві групи ботів: одну групу цілей і одну групу шахраїв. Шахраї часто шукають через мережі друзів, досліджуючи друзів користувачів, щоб знайти потенційну ціль. Цю поведінку змоделювали боти-шахраї, коли інженери експериментували з різними методами запобігання шахрайству невинного бота. Тактики, з якими вони експериментували, включали різні обмеження, наприклад обмеження кількості приватних повідомлень, які бот міг відправити кожну хвилину.

Є кілька способів, якими симульована Facebook відрізняється від справжньої. По-перше, симуляція Facebook не містить жодних візуальних елементів, тому дані, отримані з симуляції, складаються лише з числових даних та статистики про взаємодію між ботами. По-друге, всі актори у симуляції – боти, які не здатні взаємодіяти з реальними користувачами. Симуляція WW також не може враховувати речі, такі як намір користувача чи зміст даного розмови, оскільки симулюються лише дії відправлення повідомлень, створення коментарів тощо.

За словами Гармана, цей процес експериментування з обмеженнями схожий на те, як міські планувальники намагаються зменшити швидкість на певних дорогах, укладаючи “сповільнювачі”. Аналогічно тому, як міський планувальник експериментував би з створенням сповільнювачів, а потім збирав би дані про їхню корисність, інженери аналізували, як повідомлення та взаємодія між ботами змінювалися у їхньому симуляторі, коли вони змінювали параметри та обмеження. Гарман пояснює, що мета полягає в тому, щоб зрозуміти, які зміни можна зробити у платформі Facebook, щоб інгібувати шкідливу поведінку, не обмежуючи сильно нормальну поведінку чи вільний потік трафіку.

Гарман також пояснює, що перевага використання WW для їхніх симуляцій полягає в тому, що дії, які вони вивчають, відбуваються на реальній інфраструктурі Facebook, що дає їм набагато краще уявлення про те, як їхні запропоновані зміни можуть вплинути на реальних користувачів Facebook. Будь-які застосування цих висновків доведеться чекати деякий час, оскільки зараз WW та його симуляція перебувають лише на стадії дослідження. Гарман та інші дослідники Facebook ще не застосовуватимуть свої висновки до живої версії Facebook, оскільки залишається багато роботи, яку потрібно зробити. Групі дослідників потрібно переконатися, що симуляції, які вони створюють, достатньо точно відтворюють реальну поведінку людини.

Основна перевага WW, за словами Гармана, полягає в її здатності працювати на величезній шкалі, дозволяючи дослідникам Facebook перевірити потенційні наслідки тисяч різних дрібних доробок, усіх через симуляції, які вона створює.

У майбутньому дослідники можуть просто дозволити ботам гратися та експериментувати деякий час, щоб побачити, які види взаємодій вони винайдуть самостійно, що часто буває тим, чого дослідники навіть не очікують.

“На даний момент основний акцент полягає у навчанні ботів імітувати речі, які ми знаємо, що відбуваються на платформі. Але у теорії та на практиці боти можуть робити речі, яких ми не бачили раніше”, – сказав Гарман. “Це насправді щось, чого ми хочемо, оскільки ми в кінцевому підсумку хочемо вийти вперед шкідливої поведінки, а не постійно гратися у догонялки”.