Onderzoekers ontwikkelen AI-hulpmiddel om nepnieuws te identificeren

Een nieuw artificial intelligence-hulpmiddel is ontwikkeld dat sociale medianetwerken en nieuwsorganisaties kan helpen om valse verhalen te markeren. 

Het hulpmiddel is ontwikkeld door onderzoekers aan de Universiteit van Waterloo. Het vertrouwt op deep-learning AI-algoritmen om te bepalen of bepaalde claims in berichten en verhalen standhouden. De technologie doet dit door te zien of ze worden ondersteund door andere berichten en verhalen over hetzelfde onderwerp. 

Alexander Wong is een professor in systeemontwerp aan Waterloo. 

“Als ze geweldig zijn, is het waarschijnlijk een echt verhaal,” zei Wong. “Maar als de meeste andere materialen niet ondersteunend zijn, is het een sterk indicatie dat je te maken hebt met nepnieuws.”

Onderzoekers besloten het hulpmiddel te ontwikkelen vanwege het aantal online berichten en nieuwsverhalen dat als vals of gefabriceerd wordt onthuld. Nieuwsverhalen worden vaak verstuurd om lezers te misleiden of te bedriegen, en ze worden meestal gebruikt voor politieke of economische redenen. 

Het nieuw ontwikkelde systeem maakt deel uit van een voortdurende inspanning om volledig geautomatiseerde technologie te ontwikkelen die in staat is om nepnieuws te detecteren. In een van de belangrijkste onderzoeksgebieden, bekend als stance detection, heeft het systeem een nauwkeurigheidspercentage van 90 procent. 

Het systeem krijgt eerst een claim van een bericht of verhaal en andere berichten en verhalen over hetzelfde onderwerp. Die worden verzameld voor vergelijking, en het systeem kan bepalen of de claim of het verhaal al dan niet wordt ondersteund door de anderen. Het kan dit doen negen van de tien keer. 

Dat is nu de nieuwe benchmark voor nauwkeurigheid, en onderzoekers gebruiken een grote dataset die is gemaakt voor een wetenschappelijke competitie in 2017 genaamd de Fake News Challenge. 

De technologie die is ontwikkeld door de onderzoekers van Waterloo kan een screeningshulpmiddel worden dat door menselijke fact-checkers wordt gebruikt. De meeste sociale medianetwerken en nieuwsorganisaties gebruiken menselijke fact-checkers, maar ze missen vaak bepaalde dingen die de technologie kan oppikken. Dit gebeurt op een moment waarop wetenschappers over de hele wereld werken aan het creëren van een volledig geautomatiseerd systeem voor het markeren en uitroeien van nepnieuws. 

Wong is een oprichtend lid van het Waterloo Artificial Intelligence Institute.

“Het versterkt hun mogelijkheden en markeert informatie die er niet helemaal goed uitziet voor verificatie,” zei Wong. “Het is niet bedoeld om mensen te vervangen, maar om hen te helpen sneller en betrouwbaarder feiten te controleren.”

De AI-algoritmen die de basis vormen van het systeem, werden getoond aan tienduizenden verschillende claims. De claims werden getoond samen met verhalen die ze wel of niet ondersteunden, en het systeem leerde uiteindelijk hoe het zelf ondersteuning of niet-ondersteuning kon bepalen. Het zette dit voort bij nieuwe claim-verhaalparen die het werd getoond. 

Chris Dulhanty is een doctoraalstudent, en hij leidde het project dat de technologie ontwikkelde. 

“We moeten journalisten in staat stellen om de waarheid te ontdekken en ons te informeren,” zei hij. “Dit vertegenwoordigt een inspanning in een groter corpus van werk om de verspreiding van desinformatie te mitigeren.”