AI kan desinformatie en vooroordelen in nieuws bestrijden

Desinformatie en vooroordelen in nieuws zijn een van de grootste uitdagingen waar de samenleving de afgelopen jaren mee te maken heeft gekregen. Dingen als informatie-operaties, deepfakes, financiële invloed en de exploitatie van sociale spanningen zijn nieuwe instrumenten die zowel door individuen als door staatsoevereine actoren over de hele wereld worden gebruikt.

Desinformatie is een algemene term voor valse informatie, en het speelt een belangrijke rol bij de manipulatie van de publieke opinie. Tegelijkertijd wordt het gebruikt als een aanval tegen politieke leiders en verergert het de scheidingen tussen groepen in verschillende landen. Meer dan ooit tevoren heeft desinformatie de stemhokjes bereikt, en het is ongelooflijk effectief geworden.

Desinformatie, dat een beetje anders is dan desinformatie, is opzettelijk misleidende of bevooroordeelde informatie. Het kan gemanipuleerde verhalen en feiten omvatten. Met andere woorden, het is propaganda.

Een rapport uit 2019 van onderzoekers van de Universiteit van Oxford beschreef georganiseerde desinformatiecampagnes in 70 verschillende landen, waaronder Rusland, China, Vietnam en Guatemala.

De digitale economie heeft geleid tot een toename van desinformatie en vooroordelen in nieuws, met AI-technologieën en sociale media-platforms die manieren zijn om het naar de massa’s te brengen.

We hebben veel voorbeelden hiervan gezien. Zo waren de twee voorgaande Amerikaanse presidentsverkiezingen vol van desinformatie en vooroordelen, en dit zal ongetwijfeld in de toekomst doorgaan. Financiële markten zijn ook onderhevig aan korte-termijnmanipulatie door desinformatie en vooroordelen, en buitenlandse zaken worden steeds gespannener als gevolg van hun gebruik. Sociale spanningen worden veroorzaakt door valse informatie tegen aanhangers en tegenstanders van specifieke oorzaken, en nepnieuws is overal in bijna elk land te vinden.

Onze afhankelijkheid van sociale media en algoritmes heeft ons extreem kwetsbaar gemaakt voor desinformatie en vooroordelen, en het is gemakkelijk geworden om grote groepen mensen te manipuleren.

Volgens een essay met de titel Biases Make People Vulnerable to Misinformation Spread by Social Media, gepubliceerd door The Conversation, een netwerk van non-profit media-uitgevers, zijn er drie soorten vooroordelen die het sociale media-ecosysteem kwetsbaar maken voor opzettelijke en onopzettelijke desinformatie. Het is belangrijk om te erkennen dat het merendeel van ons nieuws nu van sociale media komt.

De drie soorten vooroordelen zijn:

1. Vooroordeel in de hersenen: “Cognitieve vooroordelen ontstaan door de manier waarop de hersenen de informatie verwerken die elke persoon elke dag tegenkomt.”
   
2. Vooroordeel in de samenleving: “Wanneer mensen rechtstreeks met hun gelijken in contact komen, beïnvloeden de sociale vooroordelen die hun selectie van vrienden bepalen de informatie die ze zien.
   
3. Vooroordeel in de machine: “De derde groep vooroordelen ontstaat rechtstreeks uit de algoritmes die worden gebruikt om te bepalen wat mensen online zien. Zowel sociale media-platforms als zoekmachines gebruiken ze.”

Deze combinatie van vooroordelen heeft de perfecte omgeving gecreëerd voor slechte actoren om onze huidige nieuwsplatforms te gebruiken als een manier om desinformatie te verspreiden. Maar het is belangrijk om te erkennen dat vooroordelen ook buiten deze sfeer aanwezig zijn. Reguliere nieuwsberichten en artikelen lopen het risico bevooroordeeld te zijn vanwege de eigen neigingen van een auteur of publicatie. Dit is niets nieuws.

AI-oplossingen voor desinformatie en vooroordelen

De opkomst van kunstmatige intelligentie heeft ons veel nieuwe en innovatieve instrumenten gegeven die kunnen worden gebruikt om desinformatie en vooroordelen in nieuws te bestrijden.

Bijvoorbeeld, wanneer het goed is ontworpen, kan AI effectief bepaalde desinformatie en andere problematische inhoud online detecteren en verwijderen. Het wordt al gebruikt om nep-bots te identificeren door bedrijven zoals Google (GOOGL ), Twitter en Facebook. En nep-bots worden vaak gebruikt om desinformatie en bevooroordeeld nieuws te verspreiden.

Nieuwe AI-kaders moeten worden onderzocht om dit probleem aan te pakken, en bestaande kaders moeten worden verbeterd, omdat veel ervan zijn gebleken problematisch te zijn. Deze problemen worden nog gevaarlijker wanneer conflicten ontstaan. Bijvoorbeeld, militaire conflicten, zoals het huidige conflict tussen Rusland en Oekraïne, leiden tot de verspreiding van desinformatie met een ongelooflijk hoge snelheid.

Er zijn verschillende AI-gebaseerde instrumenten in aantocht. Bijvoorbeeld, NT CONNECT, een internationale technologieontwikkelaar, heeft onlangs de lancering van zijn nieuwsaggregatie-app aangekondigd, NOOZ.AI. De AI-gebaseerde taalanalysemotor heeft tot doel transparantie te brengen in de polariserende vooroordelen die in de hedendaagse nieuwsmedia worden aangetroffen. Het probeert dit te bereiken door lezers te informeren over de invloed van de nieuwsmedia voordat ze een artikel lezen.

“Auteurs of journalisten hebben de neiging om naar een bepaald vooroordeel te neigen – vaak zonder dat de lezer het weet,” zegt het persbericht van het bedrijf. “Door de historische vooroordelen van de auteur en de nieuwsbronnen te kennen, kunnen consumenten het artikel met een meer objectieve geest bekijken en weerstand bieden aan manipulatie om op een bepaalde manier over een onderwerp te denken.”

Het NOOZ.AI-instrument is gebaseerd op vier belangrijke pijlers:

• Meningsanalyse: Het helpt lezers om de aanwezigheid van persoonlijke gevoelens, meningen, overtuigingen of oordelen in het schrijven van een journalist te bepalen.

• Sentimentanalyse: Het instrument gebruikt sentimentanalyse om lezers te helpen de steun of oppositie van een schrijver voor de algemene nieuwsinhoud of een specifiek onderwerp te meten.

• Propaganda-analyse: Het kan potentieel desinformatie detecteren door het gebruik van maximaal 18 mogelijke overtuigingstechnieken te identificeren.

• Revisie-analyse: Lezers kunnen de evolutie van een nieuwsverhaal en de manipulatie van mening en sentiment over tijd onderzoeken.

De app biedt scores voor elk artikel, met meningscores die variëren van 0 tot 100 en sentimentcores die variëren van -100 tot 100. Het volgt ook alle tekstbewerkingen voor elke revisie en geeft lezers de mogelijkheid om verschillende versies te vergelijken.

Volgens Garry Paxinos, CTO bij NT CONNECT:

“Bevooroordeeld rapporteren is een groot probleem in de huidige samenleving. Desinformatie is het meest gebruikte buzzwoord. Maar de realiteit is dat taal zelf kan worden gebruikt om de gewone lezer te manipuleren en te overtuigen. Door objectief taal te analyseren, vermijden we het subjectieve vooroordeel dat in andere benaderingen wordt aangetroffen. In plaats van desinformatie subjectief te labelen, is onze benadering om te laten zien hoe iemand kan worden gemanipuleerd met overdreven koppen, revisiegeschiedenis en artikeltekst.”