Facebook bruger bots og simulationer til at forsøge at modgå dårlig adfærd hos brugere

Facebook (META ) har designede en ny AI, der er beregnet til bedre at registrere skadelig, skadende og ulovlig adfærd. Som The Verge rapporterer, har forskerne på Facebooks London AI-afdeling oprettet en AI-dreven Facebook-simulator kaldet “WW”, som bruges til at simulere adfærden hos svindlere, ulovlige vareforhandlere, spam-mestre og andre dårlige aktører på en simuleret version af Facebook selv.

Facebook-simulatoren “WW”, der har fået sit navn fra en forkortelse af “WWW”, blev afsløret af Facebook i en rapport offentliggjort i april i år. WW er en klonet, indhegnet version af Facebook, der er beregnet til at hjælpe med test af forskellige Facebook-værktøjer og algoritmer.

Selskabet har for nylig afsløret flere detaljer om nogle af sine anvendelser af WW, herunder simulation af dårlig adfærd gennem AI. Ved at bruge en række bots til at simulere adfærd som svindel, spam, chikane og mere, håber forskerne, at de vil være i stand til bedre at registrere og modgå skadelig adfærd hos brugere.

Ifølge Facebook-ingeniør Mark Harman, som citeres af The Verge, forventes det, at WW vil være et værdifuldt værktøj til at begrænse forskellige skadelig adfærd på Facebook. For eksempel mener Harman, at simulationerne kan bruges til at udvikle bedre metoder til at registrere svindlere.

Facebook-ingeniører har efterlignet adfærden hos rigtige Facebook-svindlere ved at oprette to grupper af bots: en gruppe mål og en gruppe svindlere. Svindlere søger ofte gennem netværk af venner og udforsker vennerne til brugere for at finde et potentiale offer. Denne adfærd blev efterlignet af svindler-bots, da ingeniørerne eksperimenterede med forskellige metoder til at forhindre, at den uskyldige bot blev snydt. De taktikker, de eksperimenterede med, omfattede flere begrænsninger, såsom at begrænse, hvor mange private meddelelser en bot kunne sende pr. minut.

Der er flere måder, hvorpå den simulerede Facebook adskiller sig fra den rigtige. For det første indeholder simulationen af Facebook ikke nogen visuelle elementer, så data, der er afledt fra simulationen, er alle i form af numeriske data og statistik over interaktioner mellem bots. For det andet er alle aktører i simulationen bots, der ikke kan interagere med rigtige brugere. WW-simulationen kan heller ikke tage hensyn til ting som brugerens intention eller indholdet af en given samtale, da kun handlingerne med at sende meddelelser, lave kommentarer osv. simuleres.

Ifølge Harman ligner denne proces med at eksperimentere med begrænsninger urbanplanlægning, der søger at reducere hastigheden på visse veje ved at lægge “fartbump”. Ligesom en byplanlægger ville eksperimentere med at oprette fartbump og derefter indsamle data om deres nytte, analyserede ingeniørerne, hvordan meddelelser og interaktioner mellem bots varierede i deres simulator, da de varierede parametre og begrænsninger. Harman forklarer, at målet er at få en idé om, hvilke ændringer der kan gøres på Facebooks platform for at inhibere skadelig adfærd uden at begrænse normal adfærd eller den frie trafik.

Harman forklarer også, at fordelene ved at bruge WW til deres simulationer er, at de handlinger, de studerer, foregår på rigtig Facebook-infrastruktur, hvilket giver dem en langt bedre idé om, hvordan deres foreslåede ændringer kan påvirke rigtige Facebook-brugere. Enhver anvendelse af disse fund vil måtte vente lidt, da WW og dens simulation kun er i forskningsstadiet lige nu. Harman og andre Facebook-forskere vil ikke anvende deres fund på den levende version af Facebook endnu, da der stadig er meget arbejde at gøre. Forskningsgruppen må sikre, at de simulationer, de opretter, matcher rigtig menneskelig adfærd tilstrækkeligt.

Hovedfordelen ved WW, ifølge Harman, er dets evne til at fungere på en massiv skala, hvilket giver Facebook-forskere mulighed for at kontrollere de potentielle konsekvenser af tusinder af små ændringer gennem simulationerne, det producerer.

I fremtiden kan forskerne måske lade botsene bare lege og eksperimentere i lidt tid for at se, hvilke slags interaktioner de kommer op med på egen hånd, hvilket ofte kan være noget, forskerne ikke engang forventer.

“For øjeblikket er hovedfokus på at træne botsene til at efterligne ting, vi ved foregår på platformen. Men i teorien og i praksis kan botsene gøre ting, vi ikke har set før,” sagde Harman. “Det er faktisk noget, vi ønsker, fordi vi ultimativt ønsker at komme foran dårlig adfærd i stedet for at være konstant på farten.”

Hvis alt går godt, kan Facebook starte med at foretage ændringer baseret på WW’s simulationer ved udgangen af 2020.