Facebook Käyttää Boteja ja Simulaatioita Vastustaakseen Käyttäjien Huonon Käyttäytymisen

Facebook (META ) on suunnitellut uuden tekoälyjärjestelmän, joka pystyy paremmin havaitsemaan haitallista, vahingollista ja laitonta käyttäytymistä. The Verge -sivuston mukaan Facebookin Lontoon tekoälyosaston tutkijat ovat luoneet tekoälypohjaisen Facebook-simulaattorin nimeltä ”WW”, jota käytetään simuloimaan huijareiden, laittomien tuotteiden myyjien, roskapostittajien ja muiden pahantahtoisten toimijoiden käyttäytymistä simuloidulla Facebook-versiolla.

Facebook-simulaattori ”WW”, joka on lyhennelmä sanasta ”WWW”, julkaistiin Facebookin julkaisussa huhtikuussa tänä vuonna. WW on Facebookin klooni, jota käytetään erilaisten Facebook-työkalujen ja algoritmien testaamiseen.

Yhtiö on vastikään paljastanut lisätietoja WW:n käytöstä, mukaan lukien sen käytön simuloimaan pahantahtoista käyttäytymistä tekoälyllä. Käyttämällä useita bottien simuloimaan käyttäytymistä kuten huijausta, roskapostittamista, häirintää ja muuta, tutkijat toivovat pystyvänsä paremmin havaitsemaan ja estämään haitallista käyttäytymistä.

Facebookin insinööri Mark Harmanin mukaan, kuten The Verge -sivusto citaa, WW on arvokas työkalu haitallisen käyttäytymisen torjunnassa Facebookissa. Esimerkiksi Harman uskoo, että simulaatiot voidaan käyttää kehittämään parempia menetelmiä huijareiden havaitsemiseksi.

Facebookin insinöörit jäljittelivät oikean elämän Facebook-huijareiden käyttäytymistä luomalla kaksi bottiryhmää: yhden kohteiden ja yhden huijareiden ryhmän. Huijarit etsivät usein uhreja tuttavien verkostoista, tuttavien ystävien keskuudesta, jotta he voivat löytää potentiaalisen kohteen. Tämän käyttäytymisen bottien jäljittely tapahtui, kun insinöörit kokeilivat eri menetelmiä viattoman botin suojelemiseksi huijaukselta. He kokeilivat erilaisia rajoituksia, kuten rajoittamalla botin yksityisviestien määrää minuuttia kohden.

On joitakin eroja simuloituun Facebookiin verrattuna oikeaan Facebookiin. Ensinnäkin, Facebookin simulaatio ei sisällä visuaalisia elementtejä, joten simulaatiosta johdetut tiedot ovat pelkästään numeerisia tietoja ja tilastoa botien välisistä vuorovaikutuksista. Toiseksi, kaikki simulaation osapuolet ovat botteja, jotka eivät pysty vuorovaikuttamaan oikeiden käyttäjien kanssa. WW-simulaatio ei myöskään voi ottaa huomioon asioita kuten käyttäjän aikomus tai keskustelun sisältö, koska vain viestien lähettämistä, kommenttien tekemistä jne. simuloitiin.

Harmanin mukaan tämä rajoitusten kokeileminen on samankaltaista kuin kaupunkisuunnittelijoiden pyrkimys vähentää nopeutta tiettyjen teiden osuuksilla asettamalla ”nopeusrajoituksia”. Samalla tavoin kuin kaupunkisuunnittelija kokeilee nopeusrajoituksia ja kerää tietoa niiden hyödyllisyydestä, insinöörit analysoivat, miten viestit ja botien väliset vuorovaikutukset muuttuivat simulaattorissa, kun he muuttivat parametreja ja rajoituksia. Harman selittää, että tavoitteena on saada käsitys siitä, mitä muutoksia voitaisiin tehdä Facebookin alustaan estämään haitallista käyttäytymistä ilman, että se rajoittaisi normaalia käyttäytymistä tai viestintää.

Harman selittää myös, että WW:n simulaatioiden hyöty on, että tutkijat voivat tutkia toimia, jotka tapahtuvat oikean Facebook-infrastruktuurin päällä, mikä antaa heille paremman käsityksen siitä, miten heidän ehdotukset voivat vaikuttaa oikeisiin Facebook-käyttäjiin. Sovellukset näistä löydöksistä joutuvat odottamaan vielä jonkin aikaa, koska WW ja sen simulaatio ovat vielä tutkimusvaiheessa. Harman ja muut Facebookin tutkijat eivät vielä sovella löydöksiään Facebookin live-versioon, koska on vielä paljon työtä tehtävissä. Tutkimusryhmän on varmistettava, että heidän luomansa simulaatiot vastaavat riittävästi todellista ihmiskäyttäytymistä.

WW:n pääasiallinen etu on sen kyky toimia massiivisella mittakaavalla, jolloin Facebookin tutkijat voivat tarkastella tuhansien eri pienien muutosten mahdollisia seurauksia simulaatioiden kautta.

Tulevaisuudessa tutkijat saattavat antaa botteja pelata ja kokeilla, jotta he voivat nähdä, minkälaisia vuorovaikutuksia ne keksivät itsestään, mikä voi usein olla jotain, mitä tutkijat eivät edes odota.

”Tällä hetkellä pääpaino on kouluttaa botit jäljittelemään asioita, joita tiedämme tapahtuvan alustalla. Mutta teoriassa ja käytännössä, botit voivat tehdä asioita, joita emme ole nähneet aiemmin,” Harman sanoi. ”Se on itse asiassa jotain, mitä haluamme, koska lopulta haluamme päästä haitallisen käyttäytymisen edelle, eikä jatkaa jatkuvaa takaa-ajoa.”

Jos kaikki sujuu hyvin, Facebook voi aloittaa WW:n simulaatioiden perusteella tehtävien muutosten tekemisen vuoden 2020 loppuun mennessä.