Tidlig Advarselssystem for Desinformation Udviklet med AI

Forskere ved University of Notre Dame arbejder på et projekt for at bekæmpe desinformation på nettet, herunder medie-kampagner til at anstifte vold, så diskord og blande sig i demokratiske valg. 

Forskerholdet har brugt kunstig intelligens (AI) til at udvikle et tidligt advarselssystem. Systemet vil være i stand til at identificere manipulerede billeder, deepfake-videoer og desinformation på nettet. Det er et skalerbart, automatiseret system, der bruger indholdsbaseret billedgenkendelse. Det kan derefter anvende computer-vision-baserede teknikker til at identificere politiske memes på flere sociale medie-netværk. 

Tim Weninger er en associate professor i afdelingen for datalogi og ingeniørvidenskab på Notre Dame. 

“Memes er lette at oprette og endnu lettere at dele,” sagde Weninger. “Når det kommer til politiske memes, kan disse bruges til at hjælpe med at få folk til at stemme, men de kan også bruges til at sprede urigtig information og forårsage skade.”

Weninger samarbejdede med Walter Scheirer, en assistant professor i afdelingen for datalogi og ingeniørvidenskab på Notre Dame, samt medlemmer af forskerholdet. 

Præsidentvalget i Indonesien i 2019

Holdet testede systemet med præsidentvalget i Indonesien i 2019. De samlede over to millioner billeder og indhold fra forskellige kilder på Twitter og Instagram i forbindelse med valget. 

I valget vandt den venstreorienterede, centristiske siddende præsident over den konservative, populistiske kandidat. Efter valget brød voldelige demonstrationer ud, hvor otte mennesker døde og hundredvis mere blev såret. Holdets studie fandt, at der var spontane og koordinerede kampagner, der blev lanceret på sociale medier med det formål at påvirke valget og anstifte vold. 

De koordinerede kampagner brugte manipulerede billeder, der projicerede falske påstande og misrepræsenterede visse begivenheder. Nyhedsartikler og memes blev fabrikeret med brug af legitime nyhedslogomer, med det formål at provokere borgere og tilhængere fra begge parter. 

Resten af verden

Præsidentvalget i Indonesien i 2019 er et eksempel på, hvad der kan ske i resten af verden. Desinformation, især når den spreder sig via sociale medier, kan true demokratiske processer. 

Forskerholdet på Notre Dame inkluderede digitale kriminalteknikereksperter og specialister i fredsstudier. Ifølge holdet udvikles systemet for at flagge manipuleret indhold, med det formål at forhindre vold og advare journalister eller valgovervågere om potentielle trusler. 

Systemet er stadig i forsknings- og udviklingsfasen, men det vil til sidst være skalerbart og tilpasset brugere til at overvåge indhold. Nogle af de største udfordringer i udviklingen af systemet inkluderer at bestemme den bedste måde at skale op data-indtagelse og -behandling. Ifølge Scheirer bliver systemet i øjeblikket evaluereet, og det næste skridt er en overgang til operationel brug. 

Der er en chance for, at systemet kan bruges til at overvåge præsidentvalget i USA i 2020, som forventes at se massive mængder af desinformation og manipulation.

“Desinformationens tidsalder er her,” sagde Scheirer. “En deepfake, der erstatter skuespillere i en populær film, kan synes sjov og let, men forestil dig en video eller en meme, der er skabt med det ene formål at sætte en verdensleder mod en anden – sige ord, de ikke faktisk sagde. Forestil dig, hvor hurtigt det indhold kan deles og sprede sig over platforme. Overvej konsekvenserne af disse handlinger.”