Sistem de avertizare timpurie pentru dezinformare dezvoltat cu IA

Cercetătorii de la Universitatea Notre Dame lucrează la un proiect pentru a combate dezinformarea online, inclusiv campanii media pentru a incita la violență, a semăna discordie și a interveni în alegerile democratice.

Echipa de cercetători s-a bazat pe inteligența artificială (IA) pentru a dezvolta un sistem de avertizare timpurie. Sistemul va fi capabil să identifice imagini manipulate, videouri deepfake și dezinformare online. Este un sistem escalabil, automatizat, care utilizează recuperarea bazată pe conținutul imaginilor. Apoi, poate aplica tehnici bazate pe viziunea calculatorului pentru a identifica meme-uri politice pe multiple rețele sociale.

Tim Weninger este profesor asociat în Departamentul de Știință și Inginerie a Calculatorului de la Notre Dame.

“Meme-urile sunt ușor de creat și și mai ușor de partajat”, a spus Weninger. “Când vine vorba de meme-uri politice, acestea pot fi utilizate pentru a ajuta la vot, dar pot fi utilizate și pentru a răspândi informații inexacte și a cauza prejudicii.”

Weninger a colaborat cu Walter Scheirer, profesor asistent în Departamentul de Știință și Inginerie a Calculatorului de la Notre Dame, împreună cu membrii echipei de cercetare.

Alegerile generale din 2019 în Indonezia

Echipa a testat sistemul cu alegerile generale din 2019 în Indonezia. Ei au colectat peste două milioane de imagini și conținut, provenind din diverse surse de pe Twitter și Instagram, legate de alegeri.

În alegeri, candidatul de centru-stânga, centrist, a câștigat împotriva candidatului conservator, populist. După alegeri, au izbucnit proteste violente, în care opt persoane au murit și sute de alte persoane au fost rănite. Studiul echipei a arătat că au fost lansate campanii spontane și coordonate pe rețelele sociale, cu scopul de a influența alegerile și a incita la violență.

Campaniile coordonate au utilizat imagini manipulate, care au proiectat afirmații false și au reprezentat în mod inexact anumite evenimente. Povestiri și meme-uri au fost fabricate cu utilizarea logourilor de știri legitime, cu scopul de a provoca cetățenii și susținătorii din ambele părți.

Restul lumii

Alegerile generale din 2019 în Indonezia reprezintă ceea ce se poate întâmpla în restul lumii. Dezinformarea, în special cea răspândită prin rețelele sociale, poate amenința procesele democratice.

Echipa de cercetare de la Notre Dame a inclus experți în forensică digitală și specialiști în studii de pace. Conform echipei, sistemul este dezvoltat pentru a semnala conținutul manipulat, cu scopul de a preveni violența și a avertiza jurnaliștii sau monitorii alegerilor cu privire la posibilele amenințări.

Sistemul se află încă în faza de cercetare și dezvoltare, dar va fi în cele din urmă escalabil și personalizat pentru utilizatori, pentru a monitoriza conținutul. Unele dintre cele mai mari provocări în dezvoltarea sistemului includ determinarea modului cel mai bun de a scala ingineria și procesarea datelor. Conform lui Scheirer, sistemul este în prezent evaluat, următorul pas fiind trecerea la utilizarea operațională.

Există o șansă ca sistemul să poată fi utilizat pentru a monitoriza alegerile generale din 2020 din Statele Unite, care se așteaptă să vadă cantități masive de dezinformare și manipulare.

“Epoca dezinformării a sosit”, a spus Scheirer. “Un deepfake care înlocuiește actori într-un film popular poate părea amuzant și ușor, dar imaginați-vă un videoclip sau o meme creată cu scopul exclusiv de a pune un lider mondial împotriva altuia – spunând cuvinte pe care nu le-au spus în realitate. Imaginați-vă cât de repede acest conținut poate fi partajat și răspândit pe platforme. Luați în considerare consecințele acelor acțiuni.”