Tidig varningssystem för desinformation utvecklat med AI

Forskare vid University of Notre Dame arbetar på ett projekt för att bekämpa desinformation på internet, inklusive mediekampanjer för att väcka våld, så split och blanda sig i demokratiska val. 

Forskarteamet förlitade sig på artificiell intelligens (AI) för att utveckla ett tidigt varningssystem. Systemet kommer att kunna identifiera manipulerade bilder, deepfake-videor och desinformation på internet. Det är ett skalbart, automatiserat system som använder innehållsbaserad bildsökning. Det kan sedan tillämpa datorseende-baserade tekniker för att identifiera politiska memes på flera sociala medienätverk. 

Tim Weninger är en biträdande professor i datavetenskap och teknik vid Notre Dame. 

“Memes är lätta att skapa och ännu lättare att dela,” sa Weninger. “När det gäller politiska memes kan dessa användas för att hjälpa till att få ut röster, men de kan också användas för att sprida felaktig information och orsaka skada.”

Weninger samarbetade med Walter Scheirer, en biträdande professor i datavetenskap och teknik vid Notre Dame, tillsammans med medlemmar i forskarteamet. 

2019 års allmänna val i Indonesien

Teamet testade systemet med 2019 års allmänna val i Indonesien. De samlade in över två miljoner bilder och innehåll från olika källor på Twitter och Instagram som var relaterade till valet. 

I valet vann den vänsterinriktade, centristiska sittande presidenten över den konservative, populistiska kandidaten. Efter valet bröt våldsamma protester ut, där åtta personer dog och hundratals fler skadades. Teamets studie fann att det fanns spontana och koordinerade kampanjer som lanserades på sociala medier med målet att påverka valet och väcka våld. 

De koordinerade kampanjerna använde manipulerade bilder, som projicerade falska påståenden och missrepresenterade vissa händelser. Nyhetsartiklar och memes fabricerades med användning av legitima nyhetslogotyper, med målet att provocera medborgare och anhängare från båda parter. 

Resten av världen

2019 års allmänna val i Indonesien är en representation av vad som kan hända i resten av världen. Desinformation, särskilt spridd via sociala medier, kan hota demokratiska processer. 

Forskarteamet vid Notre Dame inkluderade digitala kriminaltekniska experter och specialister inom fredsstudier. Enligt teamet utvecklas systemet för att flagga manipulerat innehåll, med målet att förhindra våld och varna journalister eller valövervakare om potentiella hot. 

Systemet är fortfarande i forsknings- och utvecklingsfasen, men det kommer att bli skalbart och anpassat för användare att övervaka innehåll. Några av de största utmaningarna i att utveckla systemet inkluderar att bestämma det bästa sättet att skala upp datainmatning och bearbetning. Enligt Scheirer utvärderas systemet för närvarande, med nästa steg som en övergång till operativ användning. 

Det finns en möjlighet att systemet kan användas för att övervaka 2020 års allmänna val i USA, som förväntas se stora mängder desinformation och manipulation.

“Desinformationens era är här,” sa Scheirer. “En deepfake som ersätter skådespelare i en populär film kan tyckas rolig och lättsam, men tänk på en video eller en meme som skapats för att sätta en världsledare mot en annan – säga ord som de inte faktiskt sa. Tänk på hur snabbt det innehållet kan delas och spridas över plattformar. Överväg konsekvenserna av dessa handlingar.”