Wczesny system ostrzegania o dezinformacji opracowany z użyciem sztucznej inteligencji

Naukowcy z Uniwersytetu Notre Dame pracują nad projektem walki z dezinformacją w sieci, w tym kampaniami medialnymi, które mają na celu wywołanie przemocy, zasianie niezgody i ingerencję w demokratyczne wybory.

Zespół naukowców wykorzystał sztuczną inteligencję do opracowania systemu wczesnego ostrzegania. System będzie w stanie identyfikować manipulowane obrazy, deepfake oraz dezinformację w sieci. Jest to skalowalny, zautomatyzowany system, który wykorzystuje techniki oparte na zawartości obrazu. Może również stosować techniki oparte na komputerowym widzeniu do identyfikacji memów politycznych na różnych sieciach społecznościowych.

Tim Weninger jest associate profesorem w Departamencie Informatyki i Inżynierii na Uniwersytecie Notre Dame.

“Memy są łatwe do stworzenia i jeszcze łatwiejsze do udostępnienia”, powiedział Weninger. “Jeśli chodzi o memy polityczne, mogą one być wykorzystywane do pomocy w wyborach, ale mogą również być wykorzystywane do rozpowszechniania nieprecyzyjnych informacji i powodowania szkód.”

Weninger współpracował z Walterem Scheirerem, asystentem profesora w Departamencie Informatyki i Inżynierii na Uniwersytecie Notre Dame, oraz członkami zespołu badawczego.

Wybory ogólne w Indonezji w 2019 roku

Zespół przetestował system podczas wyborów ogólnych w Indonezji w 2019 roku. Zebrali ponad dwa miliony obrazów i treści, pochodzących z różnych źródeł na Twitterze i Instagramie, związanych z wyborami.

W wyborach zwyciężył lewicowy, centrowy kandydat, pokonując konserwatywnego, populistycznego kandydata. Po wyborach wybuchły gwałtowne protesty, w których zginęło osiem osób, a setki innych zostały ranne. Badanie zespołu wykazało, że na sieciach społecznościowych uruchomiono spontaniczne i zorganizowane kampanie, mające na celu wpływanie na wynik wyborów i wywołanie przemocy.

Zorganizowane kampanie wykorzystywały manipulowane obrazy, które przedstawiały fałszywe twierdzenia i nieprawidłowo przedstawiały pewne wydarzenia. Artykuły i memy były fabrykowane z użyciem logotypów prawdziwych mediów, w celu prowokowania obywateli i zwolenników obu partii.

Reszta świata

Wybory ogólne w Indonezji w 2019 roku są przykładem tego, co może się wydarzyć na całym świecie. Dezinformacja, szczególnie rozpowszechniana za pośrednictwem sieci społecznościowych, może zagrażać procesom demokratycznym.

Zespół badawczy z Uniwersytetu Notre Dame składał się z ekspertów od analizy cyfrowej i specjalistów od studiów pokojowych. Zgodnie z oświadczeniem zespołu, system jest opracowywany w celu oznaczenia manipulowanych treści, z celem zapobiegania przemocy i ostrzegania dziennikarzy lub obserwatorów wyborów o potencjalnych zagrożeniach.

System jest nadal w fazie badań i rozwoju, ale ostatecznie będzie skalowalny i dostosowany do potrzeb użytkowników, aby monitorować treści. Niektóre z największych wyzwań w opracowaniu systemu to określenie najlepszych sposobów skalowania danych i przetwarzania. Według Scheirera, system jest obecnie oceniany, a następnym krokiem będzie przejście do użytku operacyjnego.

Istnieje możliwość, że system może być wykorzystany do monitorowania wyborów ogólnych w Stanach Zjednoczonych w 2020 roku, które spodziewają się ogromnych ilości dezinformacji i manipulacji.

“Era dezinformacji jest już tutaj”, powiedział Scheirer. “Deepfake, który zastępuje aktorów w popularnym filmie, może się wydawać zabawny i lekki, ale wyobraź sobie film lub mem stworzony wyłącznie w celu konfrontacji jednego przywódcy świata z innym – mówiącego słowa, których nie powiedział. Wyobraź sobie, jak szybko taka treść mogłaby być udostępniana i rozpowszechniana na platformach. Zastanów się nad konsekwencjami takich działań.”