Sustav ranog upozoravanja na dezinformacije razvijen pomoću umjetne inteligencije

Istraživači sa Sveučilišta Notre Dame rade na tome projekt borbe protiv dezinformacija na internetu, uključujući medijske kampanje za poticanje nasilja, sijanje razdora i miješanje u demokratske izbore. 

Tim istraživača oslonio se na umjetnu inteligenciju (AI) kako bi razvio sustav ranog upozorenja. Sustav će moći identificirati manipulirane slike, deepfake videozapise i dezinformacije na internetu. To je skalabilni, automatizirani sustav koji koristi dohvaćanje slika temeljeno na sadržaju. Zatim može primijeniti tehnike temeljene na računalnom vidu za prepoznavanje političkih mema na više mreža društvenih medija. 

Tim Weninger je izvanredni profesor na Odsjeku za računalne znanosti i inženjerstvo na Notre Dameu. 

“Meme je lako stvoriti, a još ih je lakše dijeliti”, rekao je Weninger. "Kada je riječ o političkim memovima, oni se mogu koristiti za izlazak na izbore, ali se također mogu koristiti za širenje netočnih informacija i nanošenje štete."

Weninger je surađivao s Walterom Scheirerom, asistentom na Odsjeku za računalne znanosti i inženjerstvo na Notre Dameu, zajedno s članovima istraživačkog tima. 

Opći izbori u Indoneziji 2019

Tim je testirao sustav na općim izborima 2019. u Indoneziji. Prikupili su više od dva milijuna slika i sadržaja koji dolaze iz različitih izvora na Twitteru i Instagramu vezano uz izbore. 

Na izborima je ljevičarski centristički aktualni predsjednik pobijedio konzervativnog, populističkog kandidata. Nakon izbora izbili su nasilni prosvjedi u kojima je osam ljudi poginulo, a stotine ih je ozlijeđeno. Istraživanje tima pokazalo je da su na društvenim mrežama pokrenute spontane i koordinirane kampanje s ciljem utjecanja na izbore i poticanja nasilja. 

Koordinirane kampanje koristile su manipulirane slike koje su projicirale lažne tvrdnje i krivo prikazivale određene događaje. Vijesti i memeovi izmišljeni su upotrebom legitimnih logotipa vijesti, s ciljem provociranja građana i pristaša obje strane. 

Ostatak svijeta

Opći izbori 2019. u Indoneziji prikaz su onoga što se može dogoditi u ostatku svijeta. Dezinformacije, osobito širene putem društvenih medija, mogu ugroziti demokratske procese. 

Istraživački tim u Notre Dameu uključivao je stručnjake za digitalnu forenziku i stručnjake za mirovne studije. Prema navodima tima, sustav se razvija kako bi se označio manipulirani sadržaj, s ciljem sprječavanja nasilja i upozoravanja novinara ili promatrača izbora na potencijalne prijetnje. 

Sustav je još uvijek u fazi istraživanja i razvoja, ali će s vremenom biti skalabilan i personaliziran za praćenje sadržaja korisnicima. Neki od najvećih izazova u razvoju sustava uključuju određivanje najboljeg načina za povećanje unosa i obrade podataka. Prema Scheireru, sustav se trenutno procjenjuje, a sljedeći korak je prelazak na operativnu upotrebu. 

Postoji šansa da se sustav može koristiti za praćenje općih izbora 2020. u Sjedinjenim Državama, za koje se očekuje da će vidjeti ogromne količine dezinformacija i manipulacija.

“Došlo je doba dezinformacija”, rekao je Scheirer. “Deepfake koji zamjenjuje glumce u popularnom filmu može se činiti zabavnim i bezbrižnim, ali zamislite video ili meme stvoren s jedinom svrhom suprotstavljanja jednog svjetskog vođe protiv drugoga — govoreći riječi koje oni zapravo nisu rekli. Zamislite koliko bi se brzo taj sadržaj mogao dijeliti i širiti na platformama. Razmotrite posljedice tih postupaka.”