Varhaisvaroitusjärjestelmä valeuutisille kehitetty AI:n avulla

Notre Damen yliopiston tutkijat työskentelevät projektissa, jossa kehitetään verkkovaleuutisien torjuntajärjestelmää, mukaan lukien median kampanjat, joilla pyritään herättämään väkivaltaa, lisäämään eripuraa ja vaikuttamaan demokraattisiin vaaleihin.

Tutkijaryhmä on luottanut tekoälyyn (AI) varhaisvaroitusjärjestelmän kehittämisessä. Järjestelmä pystyy tunnistamaan muokatut kuvat, deepfake-videot ja verkkovaleuutiset. Se on skaalautuva, automaattinen järjestelmä, joka käyttää sisällön perusteella tapahtuvaa kuvanhakua. Se voi soveltaa tietokoneen näön perusteella olevia tekniikoita poliittisten meemien tunnistamiseen useilla sosiaalisilla mediaverkoilla.

Tim Weninger on apulaisprofessori tietokoneiden ja ohjelmistojen osastolla Notre Damessa.

“Meemit ovat helppoja luoda ja jaettava, ja ne voivat olla hyödyllisiä vaalikampanjoissa”, sanoi Weninger. “Poliittiset meemit voivat kuitenkin myös levittää epätarkkaa tietoa ja aiheuttaa vahinkoa.”

Weninger työskenteli yhdessä Walter Scheirerin, tietokoneiden ja ohjelmistojen osaston apulaisprofessorin, ja tutkimusryhmän jäsenten kanssa.

Indonesian yleinen vaali 2019

Tutkijaryhmä testasi järjestelmää Indonesian yleisvaaleissa 2019. He keräsivät yli kaksi miljoonaa kuvaa ja sisältöä eri lähteistä Twitteristä ja Instagramista vaaleihin liittyen.

Vaaleissa vasemmistolainen, keskustalainen istuva voitti konservatiivisen, populistisen ehdokkaan. Vaalien jälkeen puhkesi väkivaltaisia mellakoita, joissa kahdeksan ihmistä kuoli ja satoja loukkaantui. Tutkimusryhmän tutkimus osoitti, että sosiaalisessa mediassa käynnistettiin spontaaneja ja koordinoituja kampanjoita vaalien vaikuttamiseksi ja väkivallan herättämiseksi.

Koordinoiduissa kampanjoissa käytettiin muokattuja kuvia, joissa esitettiin väärä tieto ja vääristeltiin tiettyjä tapahtumia. Uutisartikkeleita ja meemejä valmistettiin käyttäen aitoja uutislogojen kanssa, tavoitteena provosoida kansalaisia ja kannattajia molemmista puolueista.

Muuta maailmaa

Indonesian yleinen vaali 2019 edustaa sitä, mitä voi tapahtua muualla maailmassa. Verkkovaleuutiset, erityisesti sosiaalisessa mediassa, voivat uhata demokraattisia prosesseja.

Notre Damen tutkimusryhmään kuului digitaalisen forensiikan asiantuntijoita ja rauhan tutkimuksen erikoistuja. Ryhmän mukaan järjestelmää kehitetään lippuamaan muokattua sisältöä, tavoitteena estää väkivaltaa ja varoittaa toimittajia tai vaalitarkkailijoita mahdollisista uhista.

Järjestelmä on edelleen tutkimus- ja kehitysvaiheessa, mutta se tulee olemaan skaalautuva ja henkilökohtainen käyttäjille sisällön seuraamiseksi. Järjestelmän kehittämisen suurimpia haasteita on määrittää paras tapa skaalata dataa ja prosessointia. Scheirerin mukaan järjestelmää arvioidaan parhaillaan, ja seuraava askel on siirtyminen operatiiviseen käyttöön.

On mahdollista, että järjestelmää voidaan käyttää Yhdysvaltain vuoden 2020 vaalien seuraamiseen, jossa odotetaan suuria määriä valeuutisointia ja manipulointia.

“Valeuutisoinnin aika on täällä”, sanoi Scheirer. “Deepfake, joka korvaa näyttelijät suositussa elokuvassa, voi vaikuttaa hauskalta ja kevyeltä, mutta kuvittele video tai meemi, joka on luotu ainoastaan yhden maailman johtajan asettamiseksi toista vastaan – sanomassa asioita, joita he eivät todella ole sanoneet. Kuvittele, kuinka nopeasti tällainen sisältö voisi levitä ja jaeta sosiaalisen median alustoilla. Harkitse näiden toimien seurauksia.”