Model AI může identifikovat šiřitele dezinformací, než budou jednat

Model AI vytvořený výzkumníky z University of Sheffield může potenciálně určit, kteří uživatelé Twitteru budou zveřejňovat dezinformace, než je skutečně učiní. Pokud se model ukáže jako spolehlivý, může být použit k doplnění stávajících metod boje proti dezinformacím na sociálních médiích.

Podle TechXplore, studie byla vedena výzkumníky z oddělení počítačových věd University of Sheffield, včetně Dr. Nikose Aletrase a Yidy Mu. Studie byla zveřejněna v časopise PeerJ a popisuje metody používané k předpovědi, zda uživatel sociálních médií je pravděpodobně šíří dezinformace zveřejňováním obsahu z nedůvěryhodných zdrojů zpráv.

Výzkumný tým shromáždil více než 1 milion tweetů od více než 6000 uživatelů Twitteru, všechny veřejně dostupné. Tým aplikoval techniky zpracování přirozeného jazyka na přípravu dat pro školení modelu AI. AI byl binární klasifikační model, označující uživatele jako pravděpodobné k sdílení informací z nedůvěryhodných zdrojů nebo nepravděpodobné k tomu. Po školení modelu na datech byl schopen dosáhnout přibližně 79,7% klasifikační přesnosti.

Při analýze výsledků výkonu modelu výzkumníci zjistili, že uživatelé, kteří těžce používali nezdvořilý jazyk a neustále tweetovali o náboženství a politice, byli více pravděpodobně zveřejňovat informace z nedůvěryhodných zdrojů. Konkrétně byl zde velký počet slov jako „liberální“, „médií“, „vlády“, „Izrael“ a „islám“. Mezitím uživatelé, kteří zveřejňovali informace z důvěryhodných zdrojů, tendenci používat slova jako „I’ll“, „gonna“, „wanna“, „mood“, „excited“ a „narozeniny“. Kromě toho sdíleli příběhy o svých osobních životech, jako jsou interakce s přáteli, jejich emoce nebo informace o svých koníčcích.

Zjištění studie mohou pomoci sociálním médiím, jako je Facebook (META ), Reddit a Twitter, vyvinout nové způsoby boje proti šíření dezinformací online. Výzkum může také pomoci psychologům a sociálním vědcům lépe pochopit chování, které vede k rozsáhlému šíření dezinformací v sociálních sítích.

Podle Aletrase, jak je uvedeno v TechXplore, se sociální média transformovala na jeden z hlavních způsobů, jak lidé získávají zprávy. Milióny uživatelů po celém světě získávají své zpravodajské příběhy prostřednictvím Facebooku a Twitteru každý den, ale tyto platformy se také staly nástroji pro šíření dezinformací po celé společnosti. Aletras pokračoval ve vysvětlování, že spolehlivě identifikovat bestimmé trendy v chování uživatelů by mohlo pomoci omezit dezinformace. Jak Aletras vysvětlil, „korelace mezi používáním nezdvořilého jazyka a šířením nedůvěryhodného obsahu lze připsat vysoké online politické hostilitě“.

Podle Mu analýza chování uživatelů, kteří sdílejí nedůvěryhodné informace, může pomoci sociálním médiím doplnit stávající metody ověřování faktů a modelovat dezinformace na úrovni uživatele. Jak Mu řekl TechXplore:

“Studium a analýza chování uživatelů, kteří sdílejí obsah z nedůvěryhodných zdrojů zpráv, může pomoci sociálním médiím zabránit šíření falešných zpráv na úrovni uživatele, doplnit stávající metody ověřování faktů, které fungují na úrovni příspěvku nebo zdroje zpráv.”

Výzkum provedený Aletrasem a Mu může být případem použití AI k boji proti dezinformacím generovaným AI. V posledních měsících došlo k nárůstu dezinformací týkajících se lokální a národní politiky, přičemž většina obsahu byla generována a šířena algoritmy AI. Hluboké neuronové sítě byly použity k vytvoření realistických fotografií a profilů pro falešné účty, které slouží jako šíritelé falešných zpráv. Výzkum Aletrase a Mu může pomoci sociálním médiím určit, které účty jsou falešné, botové účty vytvořené za účelem šíření škodlivé propagandy a dezinformací.