Facebook bruger bots og simuleringer til at forsøge at imødegå dårlig opførsel hos brugere

Facebook har designet en ny AI, der skal bedre opdage skadelig, skadelig og ulovlig adfærd. Som The Verge rapporterer, har forskerne ved Facebooks London AI-afdeling skabt en AI-drevet Facebook-simulator kaldet "WW", som bruges til at simulere adfærden hos svindlere, ulovlige produkthandlere, spammere og andre dårlige aktører på en simuleret version af Facebook selv.

Facebook-simulatoren kendt som "WW", der tager sit navn fra en trunkering af "WWW", blev afsløret af Facebook i en avis udgivet i april i år. WW er en klonet, indeholdt version af Facebook beregnet til at hjælpe med at teste forskellige Facebook-værktøjer og algoritmer.

Virksomheden afslørede for nylig flere detaljer om nogle af dens anvendelser til WW, hvoraf en er simulering af dårlige skuespillere gennem AI. Ved at bruge en række bots til at simulere adfærd Ligesom svindel, spamming, chikane og mere, håber forskerne, at de bedre vil kunne opdage og imødegå skadelig adfærd fra brugernes side.

Ifølge Facebook-ingeniør Mark Harman, som citeret af Verge, forventes det, at WW vil være et værdifuldt værktøj til at dæmme op for forskellige skadelige adfærd på Facebook. For eksempel mener Harman, at simuleringerne kan bruges til at udvikle bedre metoder til at opdage svindlere.

Facebook-ingeniører efterlignede adfærden hos Facebook-svindlere i det virkelige liv ved at oprette to grupper af bots: en gruppe af mål og en gruppe af svindlere. Svindlere jager ofte gennem netværk af venner og udforsker brugernes venner for at finde et potentielt mål. Denne adfærd blev efterlignet af svindlerne, da ingeniørerne eksperimenterede med forskellige metoder til at forhindre, at den uskyldige bot blev snydt. Den taktik, de eksperimenterede med, omfattede adskillige begrænsninger som at begrænse, hvor mange private beskeder en bot kunne sende hvert minut.

Der er et par måder, hvorpå den simulerede Facebook adskiller sig fra den ægte vare. For det første inkluderer simuleringen af ​​Facebook faktisk ingen visuelle elementer, så data afledt af simuleringen er alle i form af numeriske data og statistik om interaktioner mellem bots. For det andet er alle aktører i simuleringen bots, som ikke er i stand til at interagere med rigtige brugere. WW-simuleringen kan heller ikke tage højde for ting som brugerhensigt eller indholdet af en given samtale, da kun handlingerne med at sende beskeder, lave kommentarer osv. simuleres.

Ifølge Harman svarer denne proces med at eksperimentere med begrænsninger til byplanlæggere, der forsøger at reducere hastigheden på visse veje ved at nedlægge "fartbump". På samme måde som en byplanlægger ville eksperimentere med at skabe fartbump og derefter indsamle data om deres nytte, analyserede ingeniørerne, hvordan beskeder og interaktioner mellem bots varierede i deres simulator, da de varierede parametre og begrænsninger. Harman forklarer, at målet er at få en idé om, hvilke ændringer der kunne foretages på Facebooks platform for at hæmme skadelig adfærd uden alvorligt at begrænse normal adfærd eller den frie trafikstrøm.

Harman forklarer også, at fordelen ved at bruge WW til deres simuleringer er, at de handlinger, de studerer, foregår på ægte Facebook-infrastruktur, hvilket giver dem en meget bedre idé om, hvordan deres foreslåede ændringer kan påvirke rigtige Facebook-brugere. Enhver anvendelse af disse resultater vil skulle vente noget tid, da WW og dets simulering lige nu er på forskningsstadiet. Harman og andre Facebook-forskere vil faktisk ikke anvende deres resultater på liveversionen af ​​Facebook endnu, da der stadig er meget arbejde tilbage. Forskergruppen skal sikre sig, at de simuleringer, de laver, stemmer overens med ægte menneskelig adfærd.

Den største fordel ved WW, ifølge Harman, er dens evne til at operere i massiv skala, og lader Facebook-forskere kontrollere de potentielle konsekvenser af tusindvis af forskellige mindre justeringer, alle gennem de simuleringer, det producerer.

I fremtiden vil forskerne måske lade botsene bare lege og eksperimentere et stykke tid for at se, hvilke slags interaktioner de selv finder på, hvilket ofte kan være noget, som forskerne ikke engang forudser.

“I øjeblikket er hovedfokus at træne bots til at efterligne ting, vi ved sker på platformen. Men i teorien og i praksis kan bots gøre ting, vi har ikke set før," sagde Harman. "Det er faktisk noget, vi ønsker, fordi vi i sidste ende ønsker at komme foran den dårlige opførsel i stedet for konstant at spille indhente."

Hvis alt går vel, kan Facebook begynde at lave ændringer baseret på WWs simuleringer inden udgangen af ​​2020.