Facebook Använder Bots och Simuleringar för att Försöka Motverka Dåligt Betende av Användare

Facebook (META ) har utvecklat en ny AI som är avsedd att bättre upptäcka skadligt, skadande och olagligt beteende. Som The Verge rapporterar, har forskarna på Facebooks London-baserade AI-avdelning skapat en AI-driven Facebook-simulator som kallas “WW”, som används för att simulera beteendet hos bedragare, olagliga produktsäljare, spammare och andra dåliga aktörer på en simulerad version av Facebook.

Facebook-simulatoren “WW”, som fått sitt namn från en förkortning av “WWW”, avslöjades av Facebook i en rapport som publicerades i april i år. WW är en klonad, innesluten version av Facebook som är avsedd att hjälpa till med testning av olika Facebook-verktyg och algoritmer.

Företaget har nyligen avslöjat mer information om några av dess användningsområden för WW, varav ett är simulering av dåliga aktörer genom AI. Genom att använda ett antal bots för att simulera beteende som bedrägeri, spam, trakasserier och mer, hoppas forskarna att de ska kunna bättre upptäcka och motverka skadligt beteende hos användare.

Enligt Facebooks ingenjör Mark Harman, som citeras av The Verge, förväntas WW vara ett värdefullt verktyg för att motverka olika skadliga beteenden på Facebook. Till exempel tror Harman att simuleringarna kan användas för att utveckla bättre metoder för att upptäcka bedragare.

Facebooks ingenjörer imiterade beteendet hos riktiga Facebook-bedragare genom att skapa två grupper av bots: en grupp mål och en grupp bedragare. Bedragare letar ofta igenom nätverk av vänner, undersöker vänners vänner, för att hitta en potentiell måltavla. Detta beteende imiterades av bedragsbotarna när ingenjörerna experimenterade med olika metoder för att förhindra att den oskyldiga boten blev bedragen. De metoder de experimenterade med inkluderade flera begränsningar, som att begränsa hur många privata meddelanden en bot kunde skicka per minut.

Det finns några sätt som den simulerade Facebook skiljer sig från den riktiga. Till exempel innehåller simuleringen av Facebook inte några visuella element, så data som hämtas från simuleringen är allt i form av numeriska data och statistik på interaktioner mellan bots. Dessutom är alla aktörer i simuleringen bots, som inte kan interagera med riktiga användare. WW-simuleringen kan inte heller ta hänsyn till saker som användaravsikter eller innehållet i en given konversation, eftersom endast botarnas åtgärder, som att skicka meddelanden, göra kommentarer osv., simuleras.

Enligt Harman är denna process av att experimentera med begränsningar liknande hur stadsplanerare försöker minska hastigheten på vissa vägar genom att lägga ner “fartsgropar”. Liksom en stadsplanerare skulle experimentera med att skapa fartsgropar och sedan samla in data om deras användbarhet, analyserade ingenjörerna hur meddelanden och interaktioner mellan bots varierade i deras simulator när de varierade parametrar och begränsningar. Harman förklarar att målet är att få en uppfattning om vilka förändringar som kan göras på Facebooks plattform för att hindra skadligt beteende utan att allvarligt begränsa normalt beteende eller den fria flödet av trafik.

Harman förklarar också att fördelen med att använda WW för deras simuleringar är att de åtgärder de studerar sker på riktiga Facebook-infrastruktur, vilket ger dem en mycket bättre uppfattning om hur deras föreslagna förändringar kan påverka riktiga Facebook-användare. Eventuella tillämpningar av dessa resultat kommer att få vänta en tid, eftersom WW och dess simulering för närvarande bara är i forskningsstadiet. Harman och andra Facebook-forskare kommer inte att tillämpa sina resultat på den live-versionen av Facebook ännu, eftersom det fortfarande finns mycket arbete kvar att göra. Forskningsgruppen behöver fastställa att de simuleringar de skapar tillräckligt väl matchar riktigt mänskligt beteende.

Den främsta fördelen med WW, enligt Harman, är dess förmåga att fungera på en mycket stor skala, vilket låter Facebook-forskare kontrollera de potentiella konsekvenserna av tusentals olika mindre justeringar, allt genom simuleringarna det producerar.

I framtiden kan forskarna låta botarna bara leka runt och experimentera en stund, för att se vilka typer av interaktioner de kommer på med sina egna, vilket ofta kan vara något som forskarna inte ens förväntar sig.

”För tillfället är det huvudsakliga fokuset att träna botarna att imitera saker vi vet händer på plattformen. Men i teorin och i praktiken kan botarna göra saker vi inte har sett förut”, sade Harman. ”Det är faktiskt något vi vill ha, eftersom vi slutligen vill komma före det dåliga beteendet snarare än att ständigt jaga ifatt.”

Om allt går väl kan Facebook börja göra ändringar baserat på WW:s simuleringar senast 2020.