Vroegwaarschuwingssysteem voor desinformatie ontwikkeld met AI

Onderzoekers aan de University of Notre Dame werken aan een project om desinformatie online te bestrijden, waaronder mediacampagnes om geweld aan te wakkeren, tweedracht te zaaien en in te grijpen in democratische verkiezingen.

Het team van onderzoekers vertrouwde op kunstmatige intelligentie (AI) om een vroegwaarschuwingssysteem te ontwikkelen. Het systeem kan gemanipuleerde afbeeldingen, deepfake-video’s en desinformatie online identificeren. Het is een schaalbaar, geautomatiseerd systeem dat gebruikmaakt van content-gebaseerde afbeeldingopname. Het kan vervolgens computer-vision-technieken toepassen om politieke memes op meerdere sociale medianetwerken te identificeren.

Tim Weninger is een associate professor in de afdeling Computer Science and Engineering aan Notre Dame.

“Memes zijn gemakkelijk te maken en nog gemakkelijker te delen,” zei Weninger. “Wanneer het gaat om politieke memes, kunnen deze worden gebruikt om de opkomst te stimuleren, maar ze kunnen ook worden gebruikt om onnauwkeurige informatie te verspreiden en schade aan te richten.”

Weninger werkte samen met Walter Scheirer, een assistant professor in de afdeling Computer Science and Engineering aan Notre Dame, evenals met leden van het onderzoeksteam.

Algemene verkiezingen in Indonesië 2019

Het team testte het systeem met de algemene verkiezingen in Indonesië in 2019. Ze verzamelden meer dan twee miljoen afbeeldingen en inhoud vanuit verschillende bronnen op Twitter en Instagram die verband hielden met de verkiezingen.

Bij de verkiezingen won de linkse, centristische zittende president het van de conservatieve, populistische kandidaat. Na de verkiezingen braken gewelddadige protesten uit, waarbij acht mensen om het leven kwamen en honderden anderen gewond raakten. De studie van het team toonde aan dat er spontane en gecoördineerde campagnes op sociale media waren gelanceerd met als doel de verkiezingen te beïnvloeden en geweld aan te wakkeren.

De gecoördineerde campagnes maakten gebruik van gemanipuleerde afbeeldingen, die valse claims projecteerden en bepaalde gebeurtenissen verkeerd voorstelden. Nieuwsverhalen en memes werden gefabriceerd met het gebruik van legitieme nieuwslogos, met als doel burgers en aanhangers van beide partijen te provoceren.

De rest van de wereld

De algemene verkiezingen in Indonesië in 2019 zijn een voorbeeld van wat er in de rest van de wereld kan gebeuren. Desinformatie, vooral via sociale media, kan democratische processen bedreigen.

Het onderzoeksteam van Notre Dame bestond uit digitale forensische experts en specialisten in vredesstudies. Volgens het team wordt het systeem ontwikkeld om gemanipuleerde inhoud te markeren, met als doel geweld te voorkomen en journalisten of verkiezingswaarnemers te waarschuwen voor potentiële bedreigingen.

Het systeem is nog in de onderzoeks- en ontwikkelingsfase, maar het zal uiteindelijk schaalbaar en persoonlijk voor gebruikers zijn om inhoud te monitoren. Een van de grootste uitdagingen bij de ontwikkeling van het systeem is het bepalen van de beste manier om gegevensinname en -verwerking op te schalen. Volgens Scheirer wordt het systeem momenteel geëvalueerd, met als volgende stap de overgang naar operationeel gebruik.

Er is een kans dat het systeem kan worden gebruikt om de algemene verkiezingen in de Verenigde Staten in 2020 te monitoren, die naar verwachting een enorme hoeveelheid desinformatie en manipulatie zullen zien.

“De leeftijd van desinformatie is hier,” zei Scheirer. “Een deepfake die acteurs in een populaire film vervangt, kan leuk en lichtzinnig lijken, maar stel je voor dat een video of een meme wordt gemaakt met als enige doel om een wereldleider tegen een andere te zetten – door woorden te zeggen die ze niet daadwerkelijk hebben gezegd. Stel je voor hoe snel die inhoud kan worden gedeeld en verspreid over platforms. Overweeg de gevolgen van die acties.”