Výzkumníci vyvinuli nástroj AI pro identifikaci falešných zpráv

Byl vyvinut nový nástroj umělé inteligence, který může pomoci sociálním médiím a zpravodajským organizacím označit falešné zprávy.

Nástroj byl vyvinut výzkumníky na Univerzitě Waterloo. Základ nástroje tvoří algoritmy hlubokého učení, které určují, zda určitá tvrzení v příspěvcích a zprávách jsou podporována jinými příspěvky a zprávami na stejné téma.

Alexander Wong je profesor systémového designu na Waterloo.

„Pokud jsou skvělé, je to pravděpodobně skutečná zpráva,” řekl Wong. „Ale pokud většina ostatních materiálů není podpůrná, je to silné znamení, že se jedná o falešné zprávy.”

Výzkumníci se rozhodli vyvinout nástroj kvůli množství online příspěvků a zpravodajských článků, které jsou odhaleny jako falešné nebo vymyšlené. Zpravodajské články jsou často rozesílány, aby oklamaly nebo zmátly čtenáře, a obvykle se používají z politických nebo ekonomických důvodů.

Nově vyvinutý systém je součástí probíhajícího úsilí vyvinout plně automatizovanou technologii, která je schopná detekovat falešné zprávy. V jednom z hlavních oblastí výzkumu, známého jako detekce postoje, má systém přesnost 90 procent.

Systém je nejprve dán tvrzením z jednoho příspěvku nebo zprávy a dalšími příspěvky a zprávami na stejné téma. Tyto jsou shromážděny pro srovnání a systém je schopen určit, zda tvrzení nebo zpráva je podporována nebo nikoli ostatními. Schopný je to udělat devět z deseti krát.

To je nyní nová míra přesnosti a výzkumníci používají velkou datovou sadu, která byla vytvořena pro vědeckou soutěž Fake News Challenge v roce 2017.

Technologie vyvinutá výzkumníky z Waterloo by mohla být použitelná jako screeningový nástroj pro lidské faktické ověřovatele. Většina sociálních médií a zpravodajských organizací používá lidské faktické ověřovatele, ale často přehlíží určité věci, které by technologie mohla zachytit. To přichází v době, kdy vědci po celém světě pracují na vytvoření plně automatizovaného systému pro označení a odstranění falešných zpráv.

Wong je zakládajícím členem Waterloo Artificial Intelligence Institute.

„Zvyšuje jejich schopnosti a označí informace, které nevypadají zcela správně, pro ověření,” řekl Wong. „Není určen k nahrazení lidí, ale k pomoci jim ověřovat fakta rychleji a spolehlivěji.”

Algoritmy umělé inteligence, které jsou základem systému, byly ukázány desítky tisíc různých tvrzení. Tvrzení byla ukázána spolu se zprávami, které je buď podporovaly, nebo nepodporovaly, a systém se nakonec naučil, jak sám určit podporu nebo nepodporu. Přenesl to na nová tvrzení-zprávou páry, která mu byla ukázána.

Chris Dulhanty je doktorand a vedl projekt, který vyvinul technologii.

„Musíme dát novinářům možnost odhalit pravdu a informovat nás,” řekl. „To představuje jeden pokus v rámci většího celku práce na zmírnění šíření dezinformací.”