Facebook kasutab kasutajate halva käitumise vastu võitlemiseks roboteid ja simulatsioone

Facebook on loonud uue tehisintellekti, mis on mõeldud kahjuliku, kahjustava ja ebaseadusliku käitumise paremaks tuvastamiseks. Nagu The Verge teatabFacebooki Londoni AI osakonna teadlased on loonud AI-põhise Facebooki simulaatori nimega "WW", mida kasutatakse petturite, ebaseaduslike tootekaupmeeste, rämpspostitajate ja teiste halbade osalejate käitumise simuleerimiseks Facebooki enda simuleeritud versioonis.

Facebooki simulaator, mida tuntakse kui "WW", mis on saanud oma nime "WWW" kärpimisest, avalikustas Facebook oma ajalehes avaldati selle aasta aprillis. WW on Facebooki kloonitud versioon, mis on mõeldud erinevate Facebooki tööriistade ja algoritmide testimisel.

Ettevõte avaldas hiljuti rohkem üksikasju oma WW kasutusviiside kohta, millest üks on halbade näitlejate simuleerimine AI kaudu. Kasutades mitmeid robotid käitumise simuleerimiseks Nagu petmine, rämpspostimine, ahistamine ja palju muud, loodavad teadlased, et nad suudavad kasutajate kahjulikku käitumist paremini tuvastada ja selle vastu võidelda.

Facebooki inseneri Mark Harmani sõnul, nagu tsiteerib ajaleht Verge, eeldatakse, et WW on väärtuslik vahend erinevate kahjulike käitumiste ohjeldamisel Facebookis. Näiteks usub Harman, et simulatsioone saab kasutada petturite tuvastamise paremate meetodite väljatöötamiseks.

Facebooki insenerid jäljendasid tegelike Facebooki petturite käitumist, luues kaks robotite rühma: ühe sihtmärkide rühma ja ühe petturite rühma. Petturid jahivad sageli sõprade võrgustike kaudu, uurides kasutajate sõpru, et leida potentsiaalset sihtmärki. Seda käitumist matkisid petturbotid, kui insenerid katsetasid erinevaid meetodeid, et vältida süütu roboti petmist. Taktika, millega nad katsetasid, hõlmas arvukalt piiranguid, näiteks piirata, kui palju privaatsõnumeid robot iga minuti jooksul saata võis.

Simuleeritud Facebook erineb tegelikust mõnel viisil. Esiteks ei sisalda Facebooki simulatsioon tegelikult ühtegi visuaalset elementi, seega on simulatsioonist saadud andmed kõik arvuliste andmete ja robotite vaheliste interaktsioonide statistika kujul. Teiseks on kõik simulatsioonis osalejad robotid, mis ei ole võimelised tegelike kasutajatega suhtlema. WW-simulatsioon ei saa arvesse võtta ka selliseid asju nagu kasutaja kavatsused või antud vestluse sisu, kuna simuleeritakse ainult sõnumite saatmise, kommentaaride jms toiminguid.

Harmani sõnul sarnaneb see piirangutega katsetamise protsess linnaplaneerijatega, kes püüavad teatud teedel kiirust vähendada, pannes paika „kiiruspuudus”. Sarnaselt sellele, kuidas linnaplaneerija katsetas kiirustõkkeid luua ja seejärel nende kasulikkuse kohta andmeid koguda, analüüsisid insenerid, kuidas sõnumid ja robotite vahelised interaktsioonid nende simulaatoris varieerusid, kuna need muutsid parameetreid ja piiranguid. Harman selgitab, et eesmärk on saada aimu, milliseid muudatusi võiks Facebooki platvormil teha, et pärssida kahjulikku käitumist ilma tavakäitumist ehk liikluse vaba liikumist oluliselt piiramata.

Harman selgitab ka, et WW kasutamise eeliseks nende simulatsioonide jaoks on see, et nende uuritavad toimingud toimuvad tegelikus Facebooki infrastruktuuris, mis annab neile palju parema ettekujutuse sellest, kuidas nende kavandatud muudatused võivad tegelikke Facebooki kasutajaid mõjutada. Nende leidude kõik rakendused peavad ootama mõnda aega, kuna praegu on WW ja selle simulatsioon alles uurimisjärgus. Harman ja teised Facebooki teadlased ei rakenda veel oma tulemusi Facebooki reaalajas versioonis, kuna teha on veel palju tööd. Uurimisrühm peab veenduma, et nende loodud simulatsioonid vastavad adekvaatselt inimese tegelikule käitumisele.

Harmani sõnul on WW peamine eelis selle võime tegutseda tohutul hulgal, võimaldades Facebooki teadlastel kontrollida tuhandete erinevate väiksemate muudatuste võimalikke tagajärgi kogu selle toodetud simulatsioonide kaudu.

Tulevikus võivad teadlased lasta robotitel mõnda aega lihtsalt mängida ja katsetada, et näha, milliseid koostoimeid nad ise välja tulevad, mis võib sageli olla midagi, mida teadlased isegi ei oota.

“Praegu on põhirõhk robotite koolitamisel, et nad saaksid jäljendada asju, mida me teame, et platvormil juhtub. Kuid teoreetiliselt ja praktikas saavad robotid teha asju, mida meie ei ole varem nähtud," ütles Harman. "See on tegelikult midagi, mida me tahame, sest lõppkokkuvõttes tahame halvast käitumisest ette jõuda, selle asemel, et pidevalt järele mängida."

Kui kõik läheb hästi, võib Facebook hakata WW simulatsioonidel põhinevaid muudatusi tegema 2020. aasta lõpuks.