Forskere utvikler AI-verktøy for å identifisere falske nyheter

Et nytt kunstig intelligens-verktøy er utviklet som kan hjelpe sosiale medier og nyhetsorganisasjoner å merke falske historier.

Verktøyet ble utviklet av forskere ved University of Waterloo. Det bruker dyp-læring AI-algoritmer for å bestemme om visse påstander i innlegg og historier holder vann. Teknologien gjør dette ved å se om de støttes av andre innlegg og historier som handler om samme emne.

Alexander Wong er professor i systemdesign ved Waterloo.

“Hvis de er bra, er det sannsynligvis en ekte historie,” sa Wong. “Men hvis de fleste andre materialet ikke er støttende, er det et sterkt tegn på at du har å gjøre med falske nyheter.”

Forskerne bestemte seg for å utvikle verktøyet på grunn av mengden av online-innlegg og nyhetsartikler som avsløres som falske eller fabrikkerte. Nyhetsartikler sendes ofte ut for å bedra eller misle lesere, og de brukes vanligvis for politiske eller økonomiske årsaker.

Det nylig utviklede systemet er en del av en pågående innsats for å utvikle fullstendig automatisert teknologi som kan detektere falske nyheter. I ett av de viktigste forskningsområdene, kjent som holdningsdeteksjon, har systemet en nøyaktighetsrate på 90 prosent.

Systemet får først en påstand fra ett innlegg eller en historie og andre innlegg og historier om samme emne. Disse samles inn for sammenligning, og systemet kan bestemme om påstanden eller historien støttes eller ikke av de andre. Det kan gjøre dette ni av ti ganger.

Dette er nå den nye benchmarken for nøyaktighet, og forskerne bruker en stor datasett som ble laget for en vitenskapelig konkurranse i 2017 kalt Fake News Challenge.

Teknologien utviklet av Waterloo-forskerne kan bli et skjermingsverktøy brukt av menneskelige faktasjekker. De fleste sosiale medier og nyhetsorganisasjoner bruker menneskelige faktasjekker, men de kan ofte overse ting som teknologien kan oppdage. Dette skjer på et tidspunkt når vitenskapsmenn over hele verden arbeider for å skape et fullstendig automatisert system for å merke og rykke ut falske nyheter.

Wong er en av grunnleggerne av Waterloo Artificial Intelligence Institute.

“Det utvider deres evner og merker informasjon som ikke ser helt riktig ut for verifisering,” sa Wong. “Det er ikke designet for å erstatte mennesker, men for å hjelpe dem å faktasjekke raskere og mer pålitelig.”

AI-algoritmene som er grunnlaget for systemet ble vist titusener av forskjellige påstander. Påstandene ble vist sammen med historier som enten støttet eller ikke støttet dem, og systemet lærte til slutt å bestemme støtte eller ikke-støtte selv. Det tok dette med over til nye påstand-historie-par som det ble vist.

Chris Dulhanty er en masterstudent, og han ledet prosjektet som utviklet teknologien.

“Vi må gi journalister mulighet til å avdekke sannheten og holde oss informert,” sa han. “Dette representerer ett forsøk i et større arbeid for å begrense spredningen av desinformasjon.”