Facebook bruker bots og simuleringer for å forsøke å motvirke dårlig atferd blant brukerne

Facebook har designet en ny AI som skal kunne detektere skadelig, skadebringende og ulovlig atferd bedre. Som The Verge rapporterer, har forskerne ved Facebooks London AI-avdeling laget en AI-drevet Facebook-simulator kalt “WW”, som brukes til å simulere atferden til svindlere, ulovlige varehandlere, spammere og andre dårlige aktører på en simuleringsversjon av Facebook selv.

Facebook-simulatoren “WW”, som har fått navnet sitt fra en forkortelse av “WWW”, blev avdekket av Facebook i en rapport som ble publisert i april i år. WW er en klonet, innholdsfylt versjon av Facebook som er ment å hjelpe med testing av ulike Facebook-verktøy og algoritmer.

Selskapet har nylig avdekket flere detaljer om noen av sine bruksområder for WW, blant annet simulering av dårlige aktører gjennom AI. Ved å bruke en rekke bots til å simulere atferd som svindel, spam, trakassering og mer, håper forskerne at de vil kunne detektere og motvirke skadelig atferd blant brukerne bedre.

Ifølge Facebook-ingeniør Mark Harman, som er sitert av The Verge, forventes det at WW vil være et verdifullt verktøy i å begrense ulike skadelige atferder på Facebook. For eksempel tror Harman at simuleringene kan brukes til å utvikle bedre metoder for å detektere svindlere.

Facebook-ingeniørene har simulert atferden til ekte Facebook-svindlere ved å lage to grupper av bots: en gruppe mål og en gruppe svindlere. Svindlere jakter ofte gjennom nettverk av venner, og utforsker vennene til brukerne, for å finne en potensiell mål. Denne atferden ble simulert av svindler-botene da ingeniørene eksperimenterte med ulike metoder for å forhindre at den uskyldige boten ble svindlet. Taktikkene de eksperimenterte med inkluderte flere begrensninger, som å begrense hvor mange private meldinger en bot kunne sende per minutt.

Det er noen måter som den simuleringsbaserte Facebook forskjeller seg fra den ekte. For det første inkluderer simuleringen av Facebook ingen visuelle elementer, så data som er avledet fra simuleringen er all i form av numeriske data og statistikk på interaksjoner mellom bots. For det andre er alle aktører i simuleringen bots, som ikke kan interagere med ekte brukere. WW-simuleringen kan heller ikke ta hensyn til ting som brukerens intensjon eller innholdet i en gitt samtale, da bare handlinger som å sende meldinger, legge til kommentarer osv. blir simulert.

Ifølge Harman er denne prosessen med å eksperimentere med begrensninger lignende på hvordan byplanleggere prøver å redusere hastigheten på visse veier ved å legge ned “fartshumper”. Lignende hvordan en byplanlegger ville eksperimentere med å lage fartshumper og deretter samle inn data om deres nytte, analyserte ingeniørene hvordan meldinger og interaksjoner mellom bots varierte i deres simulator da de varierte parametre og begrensninger. Harman forklarer at målet er å få en idé om hva slags endringer som kan gjøres i Facebooks plattform for å hindre skadelig atferd uten å begrense normal atferd, eller den frie flyten av trafikk.

Harman forklarer også at fordelen med å bruke WW for deres simuleringer er at handlingene de studerer skjer på ekte Facebook-infrastruktur, noe som gir dem en mye bedre idé om hvordan deres foreslåtte endringer kan påvirke ekte Facebook-brukere. Eventuelle anvendelser av disse funnene må vente en stund, da WW og dens simulering for tiden bare er i forskningsstadiet. Harman og andre Facebook-forskere kommer ikke til å anvende funnene sine på den live-versjonen av Facebook enda, da det fortsatt er mye arbeid igjen å gjøre. Forskningsgruppen må fastslå at simuleringene de lager tilstrekkelig matcher ekte menneskelig atferd.

Hovedfordelen med WW, ifølge Harman, er dens evne til å operere på en massiv skala, og lar Facebook-forskere sjekke de potensielle konsekvensene av tusenvis av små justeringer, alt gjennom simuleringene den produserer.

I fremtiden kan forskerne la botene bare spille og eksperimentere en stund, for å se hva slags interaksjoner de kommer opp med på egen hånd, noe som ofte kan være noe forskerne ikke engang hadde forventet.

“For øyeblikket er hovedfokuset å trene botene til å imitere ting vi vet skjer på plattformen. Men i teorien og i praksis kan botene gjøre ting vi ikke har sett før,” sa Harman. “Det er faktisk noe vi ønsker, fordi vi ultimate ønsker å komme foran dårlig atferd i stedet for å være konstant på jakten.”

Hvis alt går bra, kan Facebook begynne å gjøre endringer basert på WWs simuleringer mot slutten av 2020.