Frühwarnsystem für Desinformation mit KI entwickelt

Forscher an der University of Notre Dame arbeiten an einem Projekt, um Desinformation im Internet zu bekämpfen, einschließlich Medienkampagnen, die zu Gewalt aufrufen, Zwietracht säen und sich in demokratische Wahlen einmischen. 

Das Team der Forscher verließ sich auf künstliche Intelligenz (KI), um ein Frühwarnsystem zu entwickeln. Das System kann manipulierte Bilder, Deepfake-Videos und Desinformation im Internet identifizieren. Es handelt sich um ein skalierbares, automatisiertes System, das Inhalts-basierte Bildabrufverfahren verwendet. Es kann dann computer-vision-basierte Techniken anwenden, um politische Memes in mehreren sozialen Medien-Netzwerken zu identifizieren. 

Tim Weninger ist Associate Professor im Department of Computer Science and Engineering an der Notre Dame. 

“Memes sind leicht zu erstellen und noch leichter zu teilen”, sagte Weninger. “Wenn es um politische Memes geht, können diese verwendet werden, um die Menschen zum Wählen zu ermutigen, aber sie können auch verwendet werden, um ungenaue Informationen zu verbreiten und Schaden anzurichten.”

Weninger arbeitete mit Walter Scheirer, einem Assistant Professor im Department of Computer Science and Engineering an der Notre Dame, zusammen mit Mitgliedern des Forschungsteams. 

Parlamentswahl 2019 in Indonesien

Das Team testete das System mit der Parlamentswahl 2019 in Indonesien. Sie sammelten über zwei Millionen Bilder und Inhalte, die von verschiedenen Quellen auf Twitter und Instagram im Zusammenhang mit der Wahl stammten. 

Bei der Wahl besiegte der linksorientierte, zentristische Amtsinhaber den konservativen, populistischen Kandidaten. Nach der Wahl brachen gewaltsame Proteste aus, bei denen acht Menschen starben und Hunderte mehr verletzt wurden. Die Studie des Teams ergab, dass es spontane und koordinierte Kampagnen auf sozialen Medien gab, die darauf abzielten, die Wahl zu beeinflussen und Gewalt zu provozieren. 

Die koordinierten Kampagnen verwendeten manipulierte Bilder, die falsche Behauptungen verbreiteten und bestimmte Ereignisse falsch darstellten. Nachrichten und Memes wurden mit dem Logo legitimer Nachrichtenquellen gefälscht, um Bürger und Anhänger beider Parteien zu provozieren. 

Der Rest der Welt

Die Parlamentswahl 2019 in Indonesien ist ein Beispiel dafür, was in der restlichen Welt passieren kann. Desinformation, insbesondere diejenige, die über soziale Medien verbreitet wird, kann demokratische Prozesse bedrohen. 

Das Forschungsteam an der Notre Dame umfasste Experten für digitale Forensik und Spezialisten für Friedensstudien. Laut dem Team wird das System entwickelt, um manipulierten Inhalt zu markieren, mit dem Ziel, Gewalt zu verhindern und Journalisten oder Wahlbeobachter über mögliche Bedrohungen zu warnen. 

Das System befindet sich noch in der Forschungs- und Entwicklungsphase, aber es wird letztendlich skalierbar und personalisiert für Benutzer sein, um Inhalte zu überwachen. Einige der größten Herausforderungen bei der Entwicklung des Systems sind die Bestimmung der besten Möglichkeit, Daten zu skalieren und zu verarbeiten. Laut Scheirer wird das System derzeit ausgewertet, der nächste Schritt ist der Übergang zum operativen Einsatz. 

Es besteht die Möglichkeit, dass das System verwendet wird, um die Parlamentswahl 2020 in den Vereinigten Staaten zu überwachen, bei der massive Mengen an Desinformation und Manipulation erwartet werden.

“Das Zeitalter der Desinformation ist da”, sagte Scheirer. “Ein Deepfake, der Schauspieler in einem beliebten Film ersetzt, mag lustig und harmlos erscheinen, aber stell dir vor, ein Video oder ein Meme, das ausschließlich dazu erstellt wurde, um einen Weltführer gegen einen anderen auszuspielen – Worte, die sie tatsächlich nicht gesagt haben. Stell dir vor, wie schnell dieser Inhalt geteilt und verbreitet werden könnte. Denke an die Konsequenzen dieser Handlungen.”