Facebook používá roboty a simulace, aby se pokusil čelit špatnému chování uživatelů

Facebook navrhl novou umělou inteligenci, která má lépe odhalovat škodlivé, škodlivé a nezákonné chování. Jak uvádí The Verge, výzkumníci z londýnského oddělení umělé inteligence Facebooku vytvořili simulátor Facebooku řízený umělou inteligencí s názvem „WW“, který se používá k simulaci chování podvodníků, nelegálních obchodníků s produkty, spammerů a dalších špatných herců na simulované verzi samotného Facebooku.

Simulátor Facebooku známý jako „WW“, převzatý jeho název ze zkráceného „WWW“, odhalil Facebook v novinách zveřejněno v dubnu tohoto roku. WW je klonovaná, obsažená verze Facebooku, která má pomoci při testování různých nástrojů a algoritmů Facebooku.

Společnost nedávno zveřejnila další podrobnosti týkající se některých jejích použití pro WW, z nichž jedním je simulace špatných herců prostřednictvím AI. Pomocí řady roboty k simulaci chování jako je scamming, spamming, obtěžování a další, výzkumníci doufají, že budou schopni lépe odhalit a čelit škodlivému chování uživatelů.

Podle inženýra Facebooku Marka Harmana, jak cituje Verge, se očekává, že WW bude cenným nástrojem při omezování různého škodlivého chování na Facebooku. Harman například věří, že simulace mohou být použity k vytvoření lepších metod detekce podvodníků.

Inženýři Facebooku napodobili chování skutečných podvodníků na Facebooku tím, že vytvořili dvě skupiny robotů: jednu skupinu cílů a jednu skupinu podvodníků. Podvodníci často loví prostřednictvím sítí přátel, prozkoumávají přátele uživatelů, aby našli potenciální cíl. Toto chování napodobili roboti scammer, když inženýři experimentovali s různými metodami, jak zabránit tomu, aby byl nevinný robot podveden. Taktika, se kterou experimentovali, zahrnovala řadu omezení, jako je omezení počtu soukromých zpráv, které může robot poslat každou minutu.

Existuje několik způsobů, jak se simulovaný Facebook liší od skutečného. Za prvé, simulace Facebooku ve skutečnosti neobsahuje žádné vizuální prvky, takže data odvozená ze simulace jsou všechna ve formě číselných dat a statistik o interakcích mezi roboty. Za druhé, všichni aktéři v simulaci jsou roboti, kteří nejsou schopni interakce se skutečnými uživateli. Simulace WW také nemůže zohlednit věci, jako je záměr uživatele nebo obsah dané konverzace, protože jsou simulovány pouze akce zasílání zpráv, vytváření komentářů atd.

Podle Harmana je tento proces experimentování s omezeními podobný, jako když se urbanisté pokoušejí snížit rychlost na určitých silnicích pokládáním „zpomalovacích hrbolů“. Podobně jako by plánovač města experimentoval s vytvářením zpomalovačů a poté shromažďováním dat o jejich užitečnosti, inženýři analyzovali, jak se zprávy a interakce mezi roboty měnily v jejich simulátoru, když měnili parametry a omezení. Harman vysvětluje, že cílem je získat představu o tom, jaké změny by bylo možné provést na platformě Facebooku, aby se zabránilo škodlivému chování, aniž by se vážně omezilo normální chování nebo volný tok provozu.

Harman také vysvětluje, že výhodou použití WW pro jejich simulace je to, že akce, které studují, se odehrávají na skutečné infrastruktuře Facebooku, což jim dává mnohem lepší představu o tom, jak by jimi navrhované změny mohly ovlivnit skutečné uživatele Facebooku. Jakékoli aplikace těchto poznatků si budou muset nějakou dobu počkat, protože právě WW a její simulace jsou teprve ve fázi výzkumu. Harman a další výzkumníci Facebooku ve skutečnosti své poznatky zatím nepoužijí na živou verzi Facebooku, protože zbývá ještě hodně práce. Výzkumná skupina se musí ujistit, že simulace, které vytváří, adekvátně odpovídají skutečnému lidskému chování.

Hlavním přínosem WW je podle Harmana jeho schopnost fungovat v masivním měřítku, což umožňuje výzkumníkům Facebooku kontrolovat potenciální důsledky tisíců různých drobných vylepšení, a to vše prostřednictvím simulací, které produkuje.

V budoucnu by vědci mohli nechat roboty jen tak si hrát a chvíli experimentovat, aby viděli, na jaké druhy interakcí přijdou sami, což může být často něco, co výzkumníci ani neočekávají.

„V tuto chvíli je hlavním cílem trénovat roboty, aby napodobovali věci, o kterých víme, že se na platformě dějí. Ale teoreticky i v praxi mohou roboti dělat věci, které my nemáte viděl dříve,“ řekl Harman. "To je vlastně něco, co chceme, protože se nakonec chceme dostat před špatné chování, spíše než neustále hrát na dohánění."

Pokud vše půjde dobře, mohl by Facebook začít s úpravami na základě simulací WW do konce roku 2020.