Tidlig varslingssystem for desinformasjon utviklet med AI

Forskere ved University of Notre Dame arbeider på et prosjekt for å bekjempe desinformasjon på nettet, inkludert mediekampanjer for å utløse vold, så disharmoni og blande seg inn i demokratiske valg. 

Forskerlaget har benyttet kunstig intelligens (AI) for å utvikle et tidlig varslingssystem. Systemet vil kunne identifisere manipulerte bilder, deepfake-videoer og desinformasjon på nettet. Det er et skalerbart, automatisert system som bruker innholdsbasert bildehenting. Det kan deretter bruke datadrevne tekniker for å identifisere politiske memes på flere sosiale medienettverk. 

Tim Weninger er en assosiert professor i avdelingen for datateknikk og ingeniørvitenskap ved Notre Dame. 

“Memes er enkle å lage og enda enklere å dele,” sa Weninger. “Når det gjelder politiske memes, kan disse brukes til å hjelpe med å få ut stemmer, men de kan også brukes til å spre uakkurate opplysninger og forårsake skade.”

Weninger samarbeidet med Walter Scheirer, en assisterende professor i avdelingen for datateknikk og ingeniørvitenskap ved Notre Dame, samt medlemmer av forskerlaget. 

2019-valget i Indonesia

Laget testet ut systemet med 2019-valget i Indonesia. De samlet inn over to millioner bilder og innhold fra ulike kilder på Twitter og Instagram i forbindelse med valget. 

I valget vant den venstreorienterte, sentrumssinnede sittende kandidaten over den konservative, populistiske kandidaten. Etter valget brøt det ut voldelige protester, hvor åtte mennesker døde og hundrevis flere ble skadet. Lagets studie fant at det ble lansert spontane og koordinerte kampanjer på sosiale medier med mål om å påvirke valget og utløse vold. 

De koordinerte kampanjene brukte manipulerte bilder, som projiserte feilaktige påstander og misrepresenterte visse hendelser. Nyhetsartikler og memes ble fabrikkert med bruk av legitime nyhetslogoer, med mål om å provosere borgere og støttespillere fra begge partier. 

Resten av verden

2019-valget i Indonesia er et eksempel på hva som kan skje i resten av verden. Desinformasjon, spesielt spredt gjennom sosiale medier, kan true demokratiske prosesser. 

Forskerlaget ved Notre Dame inkluderte digitale kriminalteknikere og spesialister i fredsstudier. Ifølge laget utvikles systemet for å flagge manipulert innhold, med mål om å forhindre vold og advare journalister eller valgovervåkere om potensielle trusler. 

Systemet er fortsatt i forsknings- og utviklingsfasen, men det vil til slutt bli skalerbart og tilpasset for brukere å overvåke innhold. Noen av de største utfordringene i å utvikle systemet inkluderer å bestemme den beste måten å skalerer opp datainntak og -behandling. Ifølge Scheirer blir systemet for tiden evaluert, med neste skritt som overgang til operativ bruk. 

Det er en sjanse for at systemet kan brukes til å overvåke 2020-valget i USA, som forventes å se massive mengder desinformasjon og manipulering.

“Desinformasjonsalderen er her,” sa Scheirer. “En deepfake som erstatter skuespillere i en populær film kan synes morsom og lett, men forestill deg en video eller en meme skapt for det eneste formålet å sette en verdensleder mot en annen – siende ord de ikke faktisk sa. Forestill deg hvor raskt innholdet kan deles og spres over plattformene. Vurdér konsekvensene av disse handlingene.”