Inženýři umělé inteligence vyvinuli metodu, která může detekovat záměr těch, kteří šíří dezinformace

Řešení problému dezinformací v digitální éře je složitý problém. Dezinformace musí být nejen identifikovány, označeny a opraveny, ale také by měl být rozlišován záměr těch, kteří jsou odpovědní za šíření těchto informací. Osoba může nevědomě šířit dezinformace, nebo pouze vyjadřovat své názory na určitou otázku, i když jsou později označeny jako fakt. Nedávno tým výzkumníků a inženýrů z Dartmouthu vytvořil rámec, který lze použít k odvození názoru z „falešných zpráv“.

Jak uvádí ScienceDaily, studie týmu z Dartmouthu byla nedávno zveřejněna v časopise Journal of Experimental & Theoretical Artificial Intelligence. Zatímco předchozí studie se pokusily identifikovat falešné zprávy a bojovat proti klamání, tato studie je možná první, která se pokusila identifikovat záměr mluvčího v novinovém článku. Zatímco pravdivý příběh může být zkreslen do různých dezinformačních forem, je důležité rozlišit, zda byl záměr klamat. Výzkumný tým argumentuje, že záměr je důležitý, když se考虑uje dezinformace, protože klamání je možné pouze tehdy, pokud existuje záměr oklamat. Pokud jedinec nevěděl, že šíří dezinformace, nebo pokud pouze vyjadřoval své názory, nemůže být dezinformace.

Eugene Santos Jr., profesor inženýrství na Thayer School of Engineering na Dartmouthu, vyjádřil se pro ScienceDaily o důvodu, proč jejich model snaží rozlišit dezinformační záměr:

“Dezinformační záměr oklamat posluchače úmyslně představuje mnohem větší hrozbu než neúmyslné chyby. Naše znalosti jsou takové, že náš algoritmus je jediným způsobem, jak detekovat klamání a zároveň rozlišit škodlivé činy od neškodných činů.”

Pro konstrukci svého modelu analyzoval výzkumný tým rysy dezinformačního uvažování. Výsledný algoritmus mohl rozlišit záměr oklamat od ostatních forem komunikace zaměřením na rozdíly mezi minulými argumenty osoby a jejími současnými prohlášeními. Model vytvořený výzkumným týmem potřebuje velké množství dat, které lze použít k měření, jak osoba odchyluje od svých minulých argumentů. Trénovací data, která tým použil k trénování svého modelu, se skládala z dat z průzkumu názorů na kontroverzní témata. Více než 100 lidí vyjádřilo své názory na tyto kontroverzní otázky. Data byla také získána z recenzí 20 různých hotelů, skládajících se z 400 fiktivních recenzí a 800 skutečných recenzí.

Podle Santose by mohl být rámec vyvinutý výzkumníky upraven a použit novinami a čtenáři, aby mohli analyzovat obsah „falešných zpráv“. Čtenáři by mohli prozkoumat články na přítomnost názorů a sami určit, zda byl použit logický argument. Santos také uvedl, že tým chce prozkoumat dopad dezinformací a jejich dopad.

Populární kultura často zobrazuje neverbální chování, jako jsou mimické výrazy, jako indikátory toho, že někdo lže, ale autoři studie uvádějí, že tyto behaviorální náznaky nejsou vždy spolehlivými indikátory lži. Deqing Li, spoluautor studie, vysvětlil, že jejich výzkum ukázal, že modely založené na záměru uvažování jsou lepšími indikátory lži než behaviorální a verbální rozdíly. Li vysvětlil, že modely založené na záměru uvažování jsou „lepší při rozlišování úmyslných lží od ostatních typů informačních zkreslení“.

Práce výzkumníků z Dartmouthu není jediným nedávným pokrokem v boji proti dezinformacím pomocí umělé inteligence. Články s titulky, které lákají na kliknutí, často skrývají dezinformace. Například často naznačují, že se udál jeden událost, zatímco ve skutečnosti se udál jiný.

Jak uvádí AINews, tým výzkumníků z Arizonské státní univerzity a Pensylvánské státní univerzity spolupracoval na vytvoření umělé inteligence, která může detekovat titulky, které lákají na kliknutí. Výzkumníci požádali lidi, aby napsali své vlastní titulky, které lákají na kliknutí, a také napsali program, který generuje titulky, které lákají na kliknutí. Oba typy titulků byly poté použity k trénování modelu, který může účinně detekovat titulky, které lákají na kliknutí, bez ohledu na to, zda byly napsány lidmi nebo stroji.

Podle výzkumníků byl jejich algoritmus přibližně o 14,5 % přesnější při detekci titulků, které lákají na kliknutí, než jiné umělé inteligence v minulosti. Vedoucí výzkumník projektu a docent na College of Information Sciences and Technology na Pensylvánské státní univerzitě Dongwon Lee vysvětlil, jak jejich experiment demonstruje užitku generování dat pomocí umělé inteligence a jejich opětovného použití v trénovacím procesu.

„Tento výsledek je bastante zajímavý, protože jsme úspěšně prokázali, že strojově generovaná trénovací data pro titulky, které lákají na kliknutí, lze opětovně použít v trénovacím procesu pro školení široké škály modelů strojového učení s lepšími výkony,“ vysvětlil Lee.