„Facebook“ naudoja robotus ir modelius, kad galėtų kovoti su netinkamu vartotojų elgesiu

„Facebook“ sukūrė naują AI, skirtą geriau aptikti žalingą, žalingą ir neteisėtą elgesį. Kaip praneša „The Verge“.„Facebook“ Londono AI departamento tyrėjai sukūrė dirbtiniu intelektu pagrįstą „Facebook“ simuliatorių, pavadintą „WW“, kuris naudojamas sukčių, nelegalių produktų prekeivių, šiukšlių siuntėjų ir kitų blogų veikėjų elgesiui imituoti pačioje „Facebook“ modeliuotoje versijoje.

„Facebook“ simuliatorius, žinomas kaip „WW“, pavadintas iš „WWW“ sutrumpinimo, laikraštyje atskleidė „Facebook“. paskelbtas šių metų balandį. WW yra klonuota „Facebook“ versija, skirta padėti išbandyti įvairius „Facebook“ įrankius ir algoritmus.

Bendrovė neseniai atskleidė daugiau informacijos apie kai kuriuos WW naudojimo būdus, iš kurių vienas yra blogų veikėjų modeliavimas naudojant AI. Naudojant daugybę robotai elgsenai imituoti Tyrėjai tikisi, kad jie galės geriau aptikti žalingą vartotojų elgesį ir su juo kovoti.

Pasak „Facebook“ inžinieriaus Marko Harmano, kurį cituoja „Verge“, tikimasi, kad WW bus vertinga priemonė pažaboti įvairius žalingus veiksmus „Facebook“. Pavyzdžiui, Harmanas mano, kad modeliavimas gali būti naudojamas siekiant sukurti geresnius sukčių aptikimo metodus.

„Facebook“ inžinieriai imitavo tikro gyvenimo „Facebook“ sukčių elgesį, sukurdami dvi robotų grupes: vieną taikinių grupę ir vieną sukčių grupę. Sukčiai dažnai medžioja per draugų tinklus, tyrinėdami vartotojų draugus, kad surastų galimą taikinį. Šį elgesį mėgdžiojo sukčių robotai, inžinieriams eksperimentuojant su įvairiais būdais, kaip užkirsti kelią nekalto roboto sukčiavimui. Taktika, su kuria jie eksperimentavo, apėmė daugybę apribojimų, pavyzdžiui, apriboti, kiek privačių žinučių robotas gali išsiųsti kas minutę.

Yra keletas būdų, kaip imituotas „Facebook“ skiriasi nuo tikrojo. Viena vertus, „Facebook“ modeliavimas iš tikrųjų neapima jokių vaizdinių elementų, todėl iš modeliavimo gauti duomenys yra skaitiniai duomenys ir botų sąveikos statistika. Kita vertus, visi modeliavimo dalyviai yra robotai, kurie negali bendrauti su tikrais vartotojais. WW modeliavimas taip pat negali atsižvelgti į tokius dalykus kaip vartotojo ketinimai ar tam tikro pokalbio turinys, nes imituojami tik pranešimų siuntimo, komentarų ir tt veiksmai.

Pasak Harmano, šis eksperimentavimo su apribojimais procesas yra panašus į miestų planuotojus, kurie bando sumažinti greitį tam tikruose keliuose nustatydami „greičio kalnelius“. Panašiai kaip miesto planuotojas eksperimentavo kurdamas greičio mažinimo kalnelius ir rinkdamas duomenis apie jų naudingumą, inžinieriai išanalizavo, kaip žinutės ir robotų sąveika skiriasi jų simuliatoriuje, nes kinta parametrai ir apribojimai. Harmanas aiškina, kad tikslas yra suprasti, kokius „Facebook“ platformos pakeitimus būtų galima padaryti, kad būtų užkirstas kelias žalingam elgesiui, labai neapribojant įprasto elgesio ar laisvo srauto.

Harmanas taip pat paaiškina, kad WW naudojimo jų modeliavimui nauda yra ta, kad jų tiriami veiksmai atliekami tikroje „Facebook“ infrastruktūroje, o tai suteikia jiems daug geresnį supratimą apie tai, kaip jų siūlomi pakeitimai gali paveikti tikruosius „Facebook“ vartotojus. Bet koks šių išvadų pritaikymas turės šiek tiek palaukti, nes šiuo metu WW ir jo modeliavimas yra tik tyrimo stadijoje. Harmanas ir kiti „Facebook“ tyrinėtojai dar netaikys savo išvadų tiesioginei „Facebook“ versijai, nes dar liko daug nuveikti. Tyrimo grupė turi įsitikinti, kad jų kuriami modeliai tinkamai atitinka realų žmogaus elgesį.

Pagrindinis WW privalumas, pasak Harmano, yra jo gebėjimas veikti didžiuliu mastu, leidžiantis „Facebook“ tyrėjams patikrinti galimas tūkstančių skirtingų smulkių pakeitimų pasekmes, atliekant visus modelius.

Ateityje tyrėjai gali leisti robotams kurį laiką tiesiog žaisti ir eksperimentuoti, kad pamatytų, kokios sąveikos jie sugalvoja patys, o tai dažnai gali būti kažkas, ko tyrėjai net nenumato.

„Šiuo metu pagrindinis dėmesys skiriamas robotų mokymui imituoti dalykus, kurie, kaip žinome, vyksta platformoje. Tačiau teoriškai ir praktiškai robotai gali padaryti tai, ką mes ne matytas anksčiau“, pasakė Harmanas. „To mes iš tikrųjų norime, nes galiausiai norime aplenkti blogą elgesį, o ne nuolat žaisti.

Jei viskas klostysis gerai, „Facebook“ iki 2020 m. pabaigos gali pradėti daryti modifikacijas, pagrįstas WW modeliavimu.