Naukowcy opracowali narzędzie AI, które pomaga identyfikować fałszywe wiadomości

Zostało opracowane nowe narzędzie sztucznej inteligencji, które może pomóc sieciom społecznościowym i organizacjom medialnym oznaczać fałszywe historie.

Narzędzie to zostało opracowane przez naukowców z Uniwersytetu w Waterloo. Opiera się ono na algorytmach głębokiego uczenia, aby określić, czy pewne twierdzenia w postach i historiach są poparte. Technologia robi to, sprawdzając, czy są one wspierane przez inne posty i historie dotyczące tego samego tematu.

Alexander Wong jest profesorem inżynierii systemów na Uniwersytecie w Waterloo.

„Jeśli są one wspaniałe, to prawdopodobnie jest to prawdziwa historia”, powiedział Wong. „Ale jeśli większość innych materiałów nie jest wspierająca, to jest to silny wskaźnik, że mamy do czynienia z fałszywymi wiadomościami”.

Naukowcy zdecydowali się opracować to narzędzie ze względu na ilość online’owych postów i historii, które są ujawniane jako fałszywe lub sfabrykowane. Historie są często wysyłane, aby oszukać lub wprowadzić w błąd czytelników, i są one zwykle używane z powodów politycznych lub ekonomicznych.

Opracowany system jest częścią ciągłych wysiłków, aby opracować w pełni zautomatyzowaną technologię, która jest w stanie wykryć fałszywe wiadomości. W jednym z kluczowych obszarów badań, znanym jako wykrywanie stanowiska, system ma 90-procentową dokładność.

System jest najpierw podawany twierdzenie z jednego postu lub historii i innych postów i historii na ten sam temat. Te są zebrane do porównania, a system jest w stanie określić, czy twierdzenie lub historia jest wspierana czy nie przez inne. Potrafi to robić dziewięć razy na dziesięć.

To jest teraz nowy benchmark dla dokładności, a naukowcy używają dużej bazy danych, która została stworzona dla naukowej konkursu z 2017 roku zwanego Fake News Challenge.

Technologia opracowana przez naukowców z Waterloo może stać się narzędziem do sprawdzania używanym przez ludzkich sprawdzających fakty. Większość sieci społecznościowych i organizacji medialnych używa ludzkich sprawdzających fakty, ale często przegapiają pewne rzeczy, które technologia mogłaby wykryć. To przychodzi w czasie, gdy naukowcy na całym świecie pracują nad stworzeniem w pełni zautomatyzowanego systemu do oznaczania i wykorzeniania fałszywych wiadomości.

Wong jest założycielem Waterloo Artificial Intelligence Institute.

„Uzupełnia ich możliwości i oznacza informacje, które nie wyglądają zbyt dobrze do weryfikacji”, powiedział Wong. „Nie jest zaprojektowany, aby zastąpić ludzi, ale aby im pomóc w sprawdzaniu faktów szybciej i bardziej niezawodnie”.

Algorytmy AI, które są podstawą systemu, zostały pokazane dziesiątki tysięcy różnych twierdzeń. Twierdzenia te zostały pokazane wraz z historiami, które albo wspierały, albo nie wspierały ich, a system był w końcu w stanie nauczyć się, jak określić wspieranie lub brak wspierania. Przeniósł to do nowych par twierdzeń-historii, które zostały mu pokazane.

Chris Dulhanty jest studentem studiów podyplomowych, a on prowadził projekt, który opracował tę technologię.

„Musimy dać dziennikarzom możliwość odkrywania prawdy i informowania nas”, powiedział. „To reprezentuje jeden wysiłek w większym korpusie pracy, aby złagodzić rozpowszechnianie dezinformacji”.