Facebook wykorzystuje boty i symulacje, aby przeciwdziałać negatywnemu zachowaniu użytkowników

Facebook (META ) opracował nowy system AI, który ma lepiej wykrywać szkodliwe, szkodzące i nielegalne zachowania. Jak donosi The Verge, naukowcy z londyńskiego departamentu AI Facebooka stworzyli symulator Facebooka napędzany przez AI, nazwany „WW”, który służy do symulowania zachowania oszustów, nielegalnych sprzedawców produktów, spamersów i innych osób o negatywnym zachowaniu na symulowanej wersji samej sieci Facebook.

Symulator Facebooka znany jako „WW”, którego nazwa pochodzi od skrótu „WWW”, został ujawniony przez Facebooka w artykule opublikowanym w kwietniu tego roku. WW to sklonowana, zawężona wersja Facebooka, przeznaczona do pomocy w testowaniu różnych narzędzi i algorytmów Facebooka.

Firma niedawno ujawniła więcej szczegółów dotyczących niektórych zastosowań WW, w tym symulowania negatywnych zachowań za pomocą AI. Poprzez wykorzystanie dużej liczby botów do symulowania zachowań takich jak oszustwa, spam, prześladowania i wiele innych, naukowcy mają nadzieję, że będą w stanie lepiej wykryć i przeciwdziałać szkodliwym zachowaniom użytkowników.

Zdaniem inżyniera Facebooka Marka Harmana, cytowanego przez The Verge, WW ma być cennym narzędziem w ograniczaniu różnych szkodliwych zachowań na Facebooku. Na przykład Harman uważa, że symulacje mogą być wykorzystane do opracowania lepszych metod wykrywania oszustów.

Inżynierowie Facebooka naśladowali zachowania prawdziwych oszustów na Facebooku, tworząc dwie grupy botów: jedną grupę celów i jedną grupę oszustów. Oszuści często przeszukują sieci znajomych, eksplorując znajomych użytkowników, aby znaleźć potencjalne cele. To zachowanie zostało naśladowane przez boty oszustów, gdy inżynierowie eksperymentowali z różnymi metodami zapobiegania oszustwom niewinnych botów. Metody, które testowali, obejmowały wiele ograniczeń, takich jak ograniczenie liczby prywatnych wiadomości, które bot mógł wysłać w ciągu minuty.

Istnieją pewne różnice między symulowanym Facebookiem a prawdziwym. Po pierwsze, symulacja Facebooka nie zawiera żadnych elementów wizualnych, więc dane pochodzące z symulacji są w postaci danych numerycznych i statystyk dotyczących interakcji między botami. Po drugie, wszystkie postacie w symulacji są botami, które nie są w stanie interakcji z prawdziwymi użytkownikami. Symulacja WW nie może również uwzględniać takich rzeczy, jak intencje użytkownika lub treść danej rozmowy, ponieważ symulowane są tylko działania, takie jak wysyłanie wiadomości, komentarze itp.

Zdaniem Harmana, ten proces eksperymentowania z ograniczeniami jest podobny do prób urbanistów zredukowania prędkości na pewnych drogach poprzez ustawianie „przeszkód”. Podobnie jak urbanista eksperymentuje z tworzeniem przeszkód i zbiera dane na ich temat, inżynierowie analizowali, jak wiadomości i interakcje między botami zmieniały się w symulatorze, gdy zmieniali parametry i ograniczenia. Harman wyjaśnia, że celem jest uzyskanie pomysłu, jakie zmiany można wprowadzić na platformie Facebooka, aby ograniczyć szkodliwe zachowania, nie ograniczając przy tym normalnych zachowań lub swobodnego przepływu ruchu.

Harman wyjaśnia również, że korzyścią z wykorzystania WW do symulacji jest to, że działania, które badają, zachodzą na prawdziwej infrastrukturze Facebooka, co daje im lepsze pojęcie o tym, jak ich proponowane zmiany mogą wpłynąć na prawdziwych użytkowników Facebooka. Jakiekolwiek zastosowania tych odkryć będą musiały poczekać, ponieważ na razie WW i jego symulacja są tylko na etapie badań. Harman i inni naukowcy Facebooka nie będą jeszcze stosowali swoich odkryć na żywą wersję Facebooka, ponieważ pozostaje jeszcze wiele pracy do wykonania. Grupa badawcza musi upewnić się, że symulacje, które tworzą, odpowiednio odwzorowują prawdziwe zachowania ludzi.

Główną zaletą WW, zdaniem Harmana, jest jego zdolność do działania na ogromną skalę, pozwalając naukowcom Facebooka sprawdzić potencjalne konsekwencje tysięcy różnych drobnych modyfikacji, wszystko za pomocą symulacji, które produkuje.

W przyszłości naukowcy mogą pozwolić botom swobodnie eksperymentować i bawić się przez jakiś czas, aby zobaczyć, jakie interakcje wynikną z tego, co często jest czymś, czego naukowcy nawet nie przewidują.

„Na razie główny nacisk kładziemy na szkolenie botów, aby naśladowały rzeczy, które wiemy, że się na platformie dzieją. Ale w teorii i w praktyce, boty mogą robić rzeczy, których nie widzieliśmy wcześniej”, powiedział Harman. „To jest tak naprawdę coś, czego chcemy, ponieważ ostatecznie chcemy wyprzedzić negatywne zachowania, zamiast ciągle grać w łowcę.”

Jeśli wszystko pójdzie dobrze, Facebook może zacząć wprowadzać modyfikacje na podstawie symulacji WW do końca 2020 roku.