KI-Modell kann Verbreiter von Fehlinformationen identifizieren, bevor sie handeln

Ein von Forschern der University of Sheffield erstelltes KI-Modell kann potenziell bestimmen, welche Twitter-Nutzer Fehlinformationen posten, bevor sie dies tun. Wenn das Modell zuverlässig ist, könnte es verwendet werden, um bestehende Methoden zur Bekämpfung von Fehlinformationen in sozialen Medien zu ergänzen.

Laut TechXplore wurde die Studie von Forschern der Abteilung für Informatik der University of Sheffield geleitet, darunter Dr. Nikos Aletras und Yida Mu. Die Studie wurde im Journal PeerJ veröffentlicht und beschreibt die Methoden, die verwendet wurden, um vorherzusagen, ob ein Nutzer von sozialen Medien wahrscheinlich Fehlinformationen verbreitet, indem er Inhalte aus unzuverlässigen Nachrichtenquellen postet.

Das Forschungsteam sammelte über 1 Million Tweets von über 6000 Twitter-Nutzern, die alle öffentlich zugänglich waren. Das Team wendete Techniken der natürlichen Sprachverarbeitung an, um die Daten für die Ausbildung eines KI-Modells vorzubereiten. Das KI-Modell war ein binäres Klassifizierungsmodell, das Nutzer als wahrscheinlich oder nicht wahrscheinlich einordnete, Informationen aus unzuverlässigen Quellen zu teilen. Nachdem das Modell auf den Daten trainiert worden war, erreichte es eine Klassifizierungsgenauigkeit von etwa 79,7%.

Bei der Analyse der Ergebnisse der Modellleistung fanden die Forscher heraus, dass Nutzer, die häufig unhöfliche Sprache verwendeten und ständig über Religion und Politik twitterten, wahrscheinlicher waren, Informationen aus unzuverlässigen Quellen zu posten. Insbesondere wurde häufig Wörter wie “liberal”, “Medien”, “Regierung”, “Israel” und “Islam” verwendet. Im Gegensatz dazu neigten Nutzer, die Informationen aus zuverlässigen Quellen posteten, dazu, Wörter wie “I’ll”, “gonna”, “wanna”, “Mood”, “excited” und “Geburtstag” zu verwenden. Darüber hinaus teilten sie häufig Geschichten über ihr persönliches Leben, wie Interaktionen mit Freunden, ihre Emotionen oder Informationen über ihre Hobbys.

Die Ergebnisse der Studie könnten soziale Medienunternehmen wie Facebook (META ), Reddit und Twitter dabei helfen, neue Wege zur Bekämpfung der Verbreitung von Fehlinformationen im Internet zu entwickeln. Die Forschung könnte auch Psychologen und Sozialwissenschaftlern helfen, das Verhalten zu verstehen, das zur weitverbreiteten Verbreitung von Fehlinformationen in sozialen Netzwerken führt.

Wie Aletras laut TechXplore erklärte, hat sich soziales Medium zu einer der vorherrschenden Wege entwickelt, auf denen Menschen ihre Nachrichten erhalten. Millionen von Nutzern weltweit erhalten ihre Nachrichtengeschichten täglich über Facebook und Twitter, aber diese Plattformen sind auch zu Werkzeugen für die Verbreitung von Fehlinformationen in der Gesellschaft geworden. Aletras erklärte weiter, dass die zuverlässige Identifizierung bestimmter Trends im Nutzerverhalten dazu beitragen könne, Fehlinformationen zu bekämpfen. Wie Aletras erklärte, kann die Korrelation zwischen der Verwendung unhöflicher Sprache und der Verbreitung unzuverlässiger Inhalte auf hohe Online-Politik-Feindseligkeit zurückgeführt werden.

Laut Mu kann die Analyse des Verhaltens von Nutzern, die unzuverlässige Informationen teilen, sozialen Medienplattformen helfen, bestehende Faktenprüfmethoden zu ergänzen und Fehlinformationen auf Benutzerebene zu modellieren. Wie Mu über TechXplore sagte:

“Das Studium und die Analyse des Verhaltens von Nutzern, die Inhalte aus unzuverlässigen Nachrichtenquellen teilen, kann sozialen Medienplattformen helfen, die Verbreitung von Fake-News auf Benutzerebene zu verhindern und bestehende Faktenprüfmethoden zu ergänzen, die auf der Post- oder Nachrichtenquellenebene arbeiten.”

Die von Aletras und Mu durchgeführte Forschung könnte ein Beispiel für die Verwendung von KI zur Bekämpfung von Fehlinformationen sein, die von KI generiert werden. In den letzten Monaten gab es einen Anstieg von Fehlinformationen über lokale und nationale Politik, wobei viel von diesem Inhalt von KI-Algorithmen generiert und verbreitet wurde. Tiefe neuronale Netze wurden eingesetzt, um realistische Fotos und Profile für gefälschte Konten zu erstellen, die als Verbreiter von Fehlinformationen dienen. Die Forschung, mit der sich Aletras und Mu befassen, könnte soziale Medienunternehmen helfen, herauszufinden, welche Konten gefälscht sind, also Bot-Konten, die mit dem Ziel erstellt wurden, schädliche Propaganda und Fehlinformationen zu verbreiten.