Statistický model pomáhá detekovat dezinformace na sociálních médiích

Matematický profesor z Americké univerzity, spolu se svým týmem spolupracovníků, vyvinul statistický model, který může detekovat dezinformace v příspěvcích na sociálních médiích.

Strojové učení se stále více používá k zastavení šíření dezinformací, ale stále existuje jedna velká překážka spojená s problémem černých skříněk, ke kterému dochází. To znamená, že výzkumníci nerozumí, jak stroj dospěje ke stejnému rozhodnutí jako lidský trenér.

Detekce dezinformací pomocí statistických modelů

Zois Boukouvalas, asistent profesora na katedře matematiky a statistiky Americké univerzity, použil dataset z Twitteru s dezinformačními tweety o COVID-19, aby ukázal, jak statistické modely mohou detekovat dezinformace na sociálních médiích během významných událostí, jako je pandemie nebo katastrofa.

Boukouvalas a jeho kolegové, včetně studentky Americké univerzity Caitlin Moroney a profesora počítačových věd Nathalie Japkowicz, demonstrovali, jak rozhodnutí modelu souhlasí s rozhodnutími lidí v nově zveřejněném výzkumu.

“Chtěli bychom vědět, co stroj myslí, když činí rozhodnutí, a jak a proč souhlasí s lidmi, kteří ho trénovali,” řekl Boukouvalas. “Nechceme zablokovat někoho na sociálních médiích, protože model činí zaujaté rozhodnutí.”

Metoda, kterou tým použil, je typ strojového učení, který se opírá o statistiku. Statistické modely jsou účinné a poskytují další způsob, jak bojovat proti dezinformacím.

Model dosáhl vysoké předpovědní výkonnosti a klasifikoval testovací sadu 112 skutečných a dezinformačních tweetů s téměř 90% přesností.

“Co je významné na tomto zjištění, je to, že náš model dosáhl přesnosti a současně nabídl transparentnost o tom, jak detekoval tweety, které byly dezinformacemi,” pokračoval Boukouvalas. “Metody hlubokého učení nemohou dosáhnout této úrovně přesnosti s transparentností.”

Školení a příprava modelu

Výzkumníci připravili model na školení před testováním na datasetu, protože informace poskytnuté lidmi mohou zavést zkreslení a černé skříňky.

Tweety byly označeny výzkumníky jako dezinformace nebo skutečné na základě předem stanovených pravidel o jazyku použitým v dezinformacích. Tým také zvažoval nuance lidského jazyka a lingvistické rysy spojené s dezinformacemi.

Před školením modelu identifikoval socio-lingvista profesor Christine Mallinson z University of Maryland Baltimore County tweety pro styly psaní spojené s dezinformacemi, zkreslením a méně spolehlivými zdroji v novinách.

“Jakmile přidáme tyto vstupní údaje do modelu, snaží se pochopit základní faktory, které vedou k rozlišení dobré a špatné informace,” řekla Japkowicz. “Učí se kontext a jak slova interagují.”

Výzkumníci se nyní budou snažit vylepšit uživatelské rozhraní modelu, stejně jako jeho schopnost detekovat dezinformace v příspěvcích na sociálních médiích, které zahrnují obrázky nebo jiná multimédia. Statistický model bude muset naučit, jak různé prvky interagují, aby vytvořily dezinformace.

Oba Boukouvalas a Japkowicz říkají, že lidská inteligence a novinářská gramotnost jsou klíčové pro zastavení šíření dezinformací.

“Prostřednictvím naší práce navrhujeme nástroje založené na strojovém učení, aby upozornily a vzdělaly veřejnost, aby eliminovaly dezinformace, ale pevně věříme, že lidé musí hrát aktivní roli v tom, aby se nezúčastnili šíření dezinformací už od začátku,” řekl Boukouvalas.