Forskere udvikler AI-værktøj til at identificere falske nyheder

Et nyt kunstig intelligens-værktøj er blevet udviklet, der kan hjælpe sociale medier og nyhedsorganisationer med at flagge falske historier.

Værktøjet er udviklet af forskere ved University of Waterloo. Det afhænger af dyb-lærings-algoritmer for at bestemme, om visse påstande i indlæg og historier holder stik.

Alexander Wong er professor i systemdesign ved Waterloo.

“Hvis de er store, er det sandsynligvis en rigtig historie,” sagde Wong. “Men hvis de fleste af de andre materiale ikke er støttende, er det et stærkt tegn på, at man har med falske nyheder at gøre.”

Forskere besluttede at udvikle værktøjet på grund af mængden af online-indlæg og nyhedsartikler, der afsløres som falske eller fabrikerede. Nyhedsartikler sendes ofte ud for at bedrage eller mislede læserne, og de bruges typisk til politiske eller økonomiske formål.

Det nyligt udviklede system er en del af en pågående indsats for at udvikle fuldt automatiseret teknologi, der kan detektere falske nyheder. I et af de vigtigste forskningsområder, kendt som holdningsdetektion, har systemet en nøjagtighed på 90 procent.

Systemet får først en påstand fra et indlæg eller en historie og andre indlæg og historier om samme emne. Disse indsamles til sammenligning, og systemet kan bestemme, om påstanden eller historien er støttet eller ej af de andre. Det kan gøre dette ni ud af ti gange.

Dette er nu den nye standard for nøjagtighed, og forskerne bruger en stor dataset, der blev oprettet til en videnskabelig konkurrence i 2017 kaldet Fake News Challenge.

Teknologien, der er udviklet af Waterloo-forskerne, kan blive et screeningsværktøj, der bruges af menneskelige faktatjekker. De fleste sociale medier og nyhedsorganisationer bruger menneskelige faktatjekker, men de kan ofte overse visse ting, som teknologien kan opdage. Dette sker på et tidspunkt, hvor videnskabsmænd over hele verden arbejder på at skabe et fuldt automatiseret system til at flagge og udrydde falske nyheder.

Wong er en grundlæggende medlem af Waterloo Artificial Intelligence Institute.

“Det udvider deres evner og flagger oplysninger, der ikke ser helt rigtige ud, til verificering,” sagde Wong. “Det er ikke designet til at erstatte mennesker, men til at hjælpe dem med at faktatjekke hurtigere og mere pålideligt.”

De AI-algoritmer, der er grundlaget for systemet, blev vist titusinder af forskellige påstande. Påstandene blev vist sammen med historier, der enten støttede eller ikke støttede dem, og systemet kunne til sidst lære at bestemme støtte eller ikke-støtte selv. Det overførte dette til nye påstand-historie-par, der blev vist.

Chris Dulhanty er en ph.d.-studerende, og han ledte projektet, der udviklede teknologien.

“Vi har brug for at give journalister mulighed for at afsløre sandheden og holde os informerede,” sagde han. “Dette repræsenterer en indsats i et større arbejde for at mindske spredningen af desinformation.”