Facebook používá roboty a simulace, aby se pokusil eliminovat špatné chování uživatelů

Facebook navrhl nový AI, který má lépe detekovat škodlivé, poškozující a nezákonné chování. Jak uvádí The Verge, výzkumníci z londýnského oddělení AI ve Facebooku vytvořili simulátor Facebooku poháněný AI nazvaný „WW“, který se používá k simulaci chování podvodníků, nelegálních prodejců produktů, spammerů a dalších špatných aktérů na simulované verzi Facebooku samotného.

Simulátor Facebooku známý jako „WW“, který získal své jméno z zkratky „WWW“, byl odhalen Facebookem v článku zveřejněném v dubnu tohoto roku. WW je klonovaná, izolovaná verze Facebooku určená k testování různých nástrojů a algoritmů Facebooku.

Společnost nedávno zveřejnila více informací o některých svých použitích pro WW, jedním z nich je simulace špatných aktérů prostřednictvím AI. Pomocí série botů k simulaci chování jako je podvod, spam, obtěžování a další, doufají výzkumníci, že budou moci lépe detekovat a potírat škodlivé chování uživatelů.

Podle inženýra Facebooku Marka Harmana, jak je citováno ve Verge, se očekává, že WW bude cenným nástrojem pro potírání různých škodlivých chování na Facebooku. Například Harman věří, že simulace lze použít k vytvoření lepších metod detekce podvodníků.

Inženýři Facebooku napodobovali chování skutečných podvodníků na Facebooku vytvořením dvou skupin botů: jedné skupiny cílů a jedné skupiny podvodníků. Podvodníci často procházejí sítěmi přátel, procházejí přáteli uživatelů, aby našli potenciální cíl. Toto chování bylo napodobeno boty podvodníků, když inženýři experimentovali s různými metodami, jak zabránit tomu, aby byl nevinný bot oklámán. Experimentovali s různými omezeními, jako je omezení počtu soukromých zpráv, které mohl bot odeslat každou minutu.

Existuje několik způsobů, jak se simulovaný Facebook liší od skutečného. Jednak simulace Facebooku neobsahuje žádné vizuální prvky, takže data odvozená ze simulace jsou pouze ve formě číselných dat a statistik o interakcích mezi boty. Za druhé, všechny aktéry v simulaci jsou boti, kteří nejsou schopni interagovat se skutečnými uživateli. Simulace WW také nemůže zohlednit věci, jako je úmysl uživatele nebo obsah konkrétní konverzace, protože jsou simulovány pouze akce, jako je odesílání zpráv, vytváření komentářů atd.

Podle Harmana je tento proces experimentování s omezeními podobný tomu, jak urbanisté snaží snížit rychlost na určitých silnicích položením „rychlostních retardérů“. Podobně jako by městský plánovač experimentoval s vytvářením rychlostních retardérů a poté shromažďoval data o jejich užitečnosti, analyzovali inženýři, jak se zprávy a interakce mezi boty lišily v jejich simulátoru, když měnili parametry a omezení. Harman vysvětluje, že cílem je získat představu o tom, jaké změny by mohly být provedeny na platformě Facebooku, aby se zabránilo škodlivému chování, aniž by se výrazně omezilo normální chování nebo volný tok provozu.

Harman také vysvětluje, že výhodou použití WW pro jejich simulace je, že studované akce probíhají na skutečné infrastruktuře Facebooku, což jim dává mnohem lepší představu o tom, jak by jejich navrhované změny mohly ovlivnit skutečné uživatele Facebooku. Jakékoli aplikace těchto zjištění budou muset počkat, protože目前 WW a jeho simulace jsou pouze ve výzkumné fázi. Harman a další výzkumníci Facebooku zatím nebudou uplatňovat svá zjištění na živou verzi Facebooku, protože je ještě mnoho práce, která musí být provedena. Výzkumná skupina musí zjistit, zda simulace, které vytvářejí, dostatečně odpovídají skutečnému chování lidí.

Hlavní výhodou WW, podle Harmana, je jeho schopnost fungovat na masivní škále, což umožňuje výzkumníkům Facebooku ověřit potenciální důsledky tisíců různých drobných úprav,すべて prostřednictvím simulací, které produkuje.

V budoucnu mohou výzkumníci nechat boty prostě hrát a experimentovat, aby viděli, jaké druhy interakcí přijdou s nimi, což může být často něco, co výzkumníci ani neočekávají.

„Momentálně je hlavní zaměřením na trénování botů, aby napodobovali věci, které víme, že se dějí na platformě. Ale v teorii a v praxi mohou boti dělat věci, které jsme neviděli dříve, “ řekl Harman. „To je vlastně něco, co chceme, protože nakonec chceme být před škodlivým chováním, spíše než neustále hrát catch up.“

Pokud vše půjde dobře, Facebook by mohl začít provádět úpravy na základě simulací WW koncem roku 2020.