Facebook využívá boty a simulace k boji proti špatnému chování uživatelů

Facebook (META ) diseñoval nový AI, který má lépe detekovat škodlivé, poškozující a nezákonné chování. Jak uvádí The Verge, výzkumníci z londýnského AI oddělení Facebooku vytvořili simulátor Facebooku poháněný AI zvaný „WW“, který se používá k simulaci chování podvodníků, nelegálních prodejců produktů, spammerů a dalších špatných aktérů na simulované verzi Facebooku.

Simulátor Facebooku známý jako „WW“, který získal své jméno zkrácením „WWW“, byl odhalen Facebookem v článku publikovaném v dubnu tohoto roku. WW je klonovaná, izolovaná verze Facebooku, která má pomoci při testování různých nástrojů a algoritmů Facebooku.

Společnost nedávno zveřejnila více informací o některých svých použitích WW, jedním z nich je simulace špatných aktérů pomocí AI. Pomocí série botů, které simulují chování jako podvody, spam, obtěžování a další, doufají výzkumníci, že budou moci lépe detekovat a potírat škodlivé chování uživatelů.

Podle inženýra Facebooku Marka Harmana, jak uvádí The Verge, se očekává, že WW bude cenným nástrojem v potírání různých škodlivých chování na Facebooku. Například Harman věří, že simulace lze použít k vytvoření lepších metod detekce podvodníků.

Inženýři Facebooku napodobovali chování skutečných podvodníků na Facebooku vytvořením dvou skupin botů: jedné skupiny cílů a jedné skupiny podvodníků. Podvodníci často procházejí sítě přátel, procházejí přátele uživatelů, aby našli potenciální cíl. Toto chování bylo napodobeno podvodnickými boty, zatímco inženýři experimentovali s různými metodami, jak zabránit tomu, aby nevinný bot nebyl podveden. Metody, které zkoušeli, zahrnovaly různé omezení, jako je omezení počtu soukromých zpráv, které mohl bot odeslat každou minutu.

Existuje několik způsobů, jak se simulovaná verze Facebooku liší od skutečné. Jednak simulace Facebooku neobsahuje žádné vizuální prvky, takže data odvozená ze simulace jsou ve formě číselných dat a statistik o interakcích mezi boty. Za druhé, všichni aktéři v simulaci jsou boty, které nejsou schopny interagovat se skutečnými uživateli. Simulace WW také nemůže zohlednit věci, jako je záměr uživatele nebo obsah konkrétní konverzace, protože jsou simulovány pouze akce, jako je odesílání zpráv, vytváření komentářů atd.

Podle Harmana je tento proces experimentování s omezeními podobný tomu, jak městští plánovači snaží snížit rychlost na určitých silnicích položením „rychlostních bump“. Podobně jako městský plánovač by experimentoval s vytvářením rychlostních bump a poté shromažďoval data o jejich užitečnosti, analyzovali inženýři, jak se zprávy a interakce mezi boty lišily v jejich simulátoru, když měnili parametry a omezení. Harman vysvětluje, že cílem je získat představu o tom, jaké změny by mohly být provedeny na platformě Facebooku, aby se zabránilo škodlivému chování, aniž by se vážně omezilo normální chování nebo volný tok dopravy.

Harman také vysvětluje, že výhodou použití WW pro jejich simulace je, že akce, které studují, se vyskytují na skutečné infrastruktuře Facebooku, což jim dává mnohem lepší představu o tom, jak by jejich navrhované změny mohly ovlivnit skutečné uživatele Facebooku. Jakékoli aplikace těchto zjištění budou muset počkat, protože目前 WW a jeho simulace jsou stále ve fázi výzkumu. Harman a další výzkumníci Facebooku zatím nebudou aplikovat svá zjištění na živou verzi Facebooku, protože masih zbývá hodně práce, která musí být provedena. Výzkumná skupina musí zjistit, zda simulace, které vytvářejí, dostatečně odpovídají skutečnému chování lidí.

Hlavní výhodou WW, podle Harmana, je jeho schopnost fungovat na velké škále, což umožňuje výzkumníkům Facebooku zkontrolovat potenciální důsledky tisíců různých malých úprav, a toすべて prostřednictvím simulací, které produkuje.

V budoucnu mohou výzkumníci nechat boty prostě hrát a experimentovat, aby viděli, jaké interakce si vymyslí sami, což může být často něco, co výzkumníci ani nečekají.

„V současné době je hlavní zaměřeno na to, aby boty napodobovaly věci, které víme, že se dějí na platformě. Ale v teorii a v praxi, boty mohou dělat věci, které jsme neviděli dříve,” řekl Harman. „To je vlastně něco, co chceme, protože nakonec chceme být před špatným chováním, spíše než neustále hrát catch up.”

Pokud vše půjde dobře, Facebook by mohl začít provádět úpravy na základě simulací WW do konce roku 2020.