Facebook bruker bots og simuleringer for å motvirke dårlig atferd blant brukerne

Facebook (META ) har designet en ny AI som skal kunne detektere skadelig, skadebringende og ulovlig atferd bedre. Ifølge The Verge har forskerne ved Facebooks AI-avdeling i London utviklet en AI-drevet Facebook-simulator kalt “WW”, som brukes til å simulere atferden til svindlere, ulovlige produktforhandlere, spam-sendere og andre dårlige aktører på en simuleringsversjon av Facebook selv.

Facebook-simulatorn “WW”, som er en forkortelse av “WWW”, blev avdekket av Facebook i en rapport som ble publisert i april i år. WW er en klonet, innkapslet versjon av Facebook som er ment å hjelpe med testing av ulike Facebook-verktøy og algoritmer.

Selskapet har nylig avdekket flere detaljer om noen av sine bruksområder for WW, blant annet simulering av dårlig atferd gjennom AI. Ved å bruke en rekke bots til å simulere atferd som svindel, spamming, trakassering og mer, håper forskerne å kunne detektere og motvirke skadelig atferd blant brukerne bedre.

Ifølge Facebook-ingeniør Mark Harman, som er sitert av The Verge, forventes det at WW vil være et verdifullt verktøy i å begrense ulike former for skadelig atferd på Facebook. For eksempel tror Harman at simuleringene kan brukes til å utvikle bedre metoder for å detektere svindlere.

Facebook-ingeniørene har kopiert atferden til ekte Facebook-svindlere ved å lage to grupper av bots: en gruppe mål og en gruppe svindlere. Svindlere jakter ofte gjennom nettverk av venner, og søker gjennom vennene til brukerne for å finne et potensielt offer. Dette atferden ble kopiert av svindler-botene da ingeniørene eksperimenterte med ulike metoder for å forhindre at den uskyldige boten ble svindlet. Taktikkene de eksperimenterte med inkluderte flere begrensninger, som å begrense hvor mange private meldinger en bot kunne sende per minutt.

Det er noen måter som den simuleringsbaserte Facebook-enheten skiller seg fra den ekte. For det første inneholder simuleringen av Facebook ingen visuelle elementer, så data fra simuleringen er all i form av numeriske data og statistikker på interaksjoner mellom bots. For det andre er alle aktører i simuleringen bots, som ikke kan interagere med ekte brukere. WW-simuleringen kan heller ikke ta hensyn til ting som brukerens intensjoner eller innholdet i en gitt samtale, da bare handlinger som å sende meldinger, legge til kommentarer osv. blir simuleringsbasert.

Ifølge Harman er denne prosessen med å eksperimentere med begrensninger lignende på hvordan byplanleggere prøver å redusere hastighet på visse veier ved å legge ned “fartshumper”. Lignende hvordan en byplanlegger ville eksperimentere med å lage fartshumper og deretter samle inn data om deres nytte, analyserte ingeniørene hvordan meldinger og interaksjoner mellom bots varierte i deres simulator da de varierte parametre og begrensninger. Harman forklarer at målet er å få en idé om hva slags endringer som kan gjøres i Facebooks plattform for å hindre skadelig atferd uten å begrense normal atferd eller den frie flyten av trafikk.

Harman forklarer også at fordelen med å bruke WW for deres simuleringer er at handlingene de studerer skjer på ekte Facebook-infrastruktur, hvilket gir dem en mye bedre idé om hvordan deres foreslåtte endringer kan påvirke ekte Facebook-brukere. Eventuelle anvendelser av disse funnene må vente en stund, da WW og dens simulering for øyeblikket bare er i forskningsstadiet. Harman og andre Facebook-forskere vil ikke faktisk anvende funnene sine på den live-versjonen av Facebook enda, da det fortsatt er mye arbeid igjen å gjøre. Forskningsgruppen må fastslå at simuleringene de lager tilstrekkelig matcher ekte menneskelig atferd.

Hovedfordelen med WW, ifølge Harman, er dens evne til å operere på en massiv skala, og la Facebook-forskere sjekke potensielle konsekvenser av tusenvis av små justeringer, alt gjennom simuleringene den produserer.

I fremtiden kan forskerne la botene bare spille rundt og eksperimentere en stund, for å se hva slags interaksjoner de kommer opp med på egen hånd, noe som ofte kan være noe forskerne ikke engang har forventet.

“For øyeblikket er hovedfokuset å trene botene til å imitere ting vi vet skjer på plattformen. Men i teorien og i praksis kan botene gjøre ting vi ikke har sett før,” sa Harman. “Dette er faktisk noe vi ønsker, fordi vi ultimate ønsker å komme foran dårlig atferd i stedet for å hele tiden spille catch up.”

Hvis alt går bra, kan Facebook begynne å gjøre endringer basert på WWs simuleringer mot slutten av 2020.