Forskare utvecklar AI-verktyg för att identifiera falska nyheter

Ett nytt artificiellt intelligensverktyg har utvecklats som kan hjälpa sociala medier och nyhetsorganisationer att flagga falska berättelser.

Verktyget utvecklades av forskare vid University of Waterloo. Det förlitar sig på djupinlärningsalgoritmer för att bestämma om vissa påståenden i inlägg och berättelser stöds. Teknologin gör detta genom att se om de stöds av andra inlägg och berättelser som rör samma ämne.

Alexander Wong är professor i systemdesign vid Waterloo.

“Om de är bra, är det troligen en riktig berättelse”, sa Wong. “Men om de flesta andra materialen inte är stödjande, är det ett starkt tecken på att man har att göra med falska nyheter.”

Forskarna beslutade att utveckla verktyget på grund av den mängd onlineinlägg och nyhetsartiklar som avslöjas som falska eller fabricerade. Nyhetsartiklar skickas ofta ut för att bedra eller vilseleda läsarna, och de används vanligtvis av politiska eller ekonomiska skäl.

Det nyligen utvecklade systemet är en del av ett pågående arbete för att utveckla fullt automatiserad teknik som kan upptäcka falska nyheter. I ett av de viktigaste områdena för forskning, som kallas ställningstagande, har systemet en noggrannhetsgrad på 90 procent.

Systemet får först ett påstående från ett inlägg eller en berättelse och andra inlägg och berättelser om samma ämne. Dessa samlas in för jämförelse, och systemet kan bestämma om påståendet eller berättelsen stöds eller inte av de andra. Det kan göra detta nio av tio gånger.

Detta är nu den nya måttstocken för noggrannhet, och forskarna använder en stor dataset som skapades för en vetenskaplig tävling 2017 som kallas Fake News Challenge.

Teknologin som utvecklats av forskarna vid Waterloo kan bli ett verktyg som används av mänskliga faktakontrollanter. De flesta sociala medier och nyhetsorganisationer använder mänskliga faktakontrollanter, men de missar ofta vissa saker som teknologin kan upptäcka. Detta sker i en tid när forskare runt om i världen arbetar för att skapa ett fullt automatiserat system för att flagga och bekämpa falska nyheter.

Wong är en av grundarna till Waterloo Artificial Intelligence Institute.

“Det förbättrar deras förmågor och flaggar information som inte ser rätt ut för verifiering”, sa Wong. “Det är inte avsett att ersätta människor, utan att hjälpa dem att faktakontrollera snabbare och mer tillförlitligt.”

De AI-algoritmer som ligger till grund för systemet visades tiotusentals olika påståenden. Påståendena visades tillsammans med berättelser som antingen stödde eller inte stödde dem, och systemet kunde så småningom lära sig att bestämma stöd eller icke-stöd på egen hand. Det överförde detta till nya påstående-berättelsepar som det visades.

Chris Dulhanty är en doktorand, och han ledde projektet som utvecklade teknologin.

“Vi måste ge journalister möjlighet att avslöja sanningen och hålla oss informerade”, sa han. “Detta representerar ett försök i ett större arbete för att motverka spridningen av desinformation.”