KI-Ingenieure entwickeln Methode, um die Absicht von Personen zu erkennen, die Fehlinformationen verbreiten

Die Bekämpfung von Fehlinformationen im digitalen Zeitalter ist ein komplexes Problem. Nicht nur müssen Fehlinformationen identifiziert, markiert und korrigiert werden, sondern auch die Absicht derjenigen, die die Behauptung aufstellen, sollte unterschieden werden. Eine Person kann unbeabsichtigt Fehlinformationen verbreiten oder einfach ihre Meinung zu einem Thema äußern, auch wenn sie später als Tatsache berichtet wird. Kürzlich entwickelte ein Team von KI-Forschern und -Ingenieuren an der Dartmouth University einen Rahmen, der verwendet werden kann, um Meinungen aus “falschen Nachrichten” abzuleiten.

Wie ScienceDaily berichtet, wurde die Studie des Dartmouth-Teams kürzlich im Journal of Experimental & Theoretical Artificial Intelligence veröffentlicht. Während frühere Studien versucht haben, falsche Nachrichten zu identifizieren und Täuschung zu bekämpfen, könnte dies die erste Studie sein, die darauf abzielt, die Absicht des Sprechers in einem Nachrichtenartikel zu identifizieren. Während eine wahre Geschichte in verschiedene täuschende Formen verdreht werden kann, ist es wichtig, zu unterscheiden, ob Täuschung beabsichtigt war oder nicht. Das Forschungsteam argumentiert, dass die Absicht wichtig ist, wenn man Fehlinformationen in Betracht zieht, da Täuschung nur möglich ist, wenn es eine Absicht gab, zu täuschen. Wenn eine Person nicht realisierte, dass sie Fehlinformationen verbreitete, oder wenn sie einfach ihre Meinung äußerte, kann es keine Täuschung geben.

Eugene Santos Jr., ein Ingenieurprofessor an der Thayer School of Engineering der Dartmouth University, erklärte ScienceDaily, warum ihr Modell versucht, täuschende Absichten zu unterscheiden:

“Täuschende Absicht, die Zuhörer absichtlich zu täuschen, stellt eine viel größere Bedrohung dar als unbeabsichtigte Fehler. Soweit wir wissen, ist unser Algorithmus die einzige Methode, die Täuschung erkennt und gleichzeitig bösartige Handlungen von harmlosen Handlungen unterscheidet.”

Um ihr Modell zu erstellen, analysierte das Forschungsteam die Merkmale täuschender Argumentation. Der resultierende Algorithmus konnte die Absicht zu täuschen von anderen Formen der Kommunikation unterscheiden, indem er sich auf Widersprüche zwischen den vergangenen Argumenten einer Person und ihren aktuellen Aussagen konzentrierte. Das Modell, das das Forschungsteam entwickelte, benötigt große Mengen an Daten, die verwendet werden können, um zu messen, wie sehr eine Person von ihren vergangenen Argumenten abweicht. Die Trainingsdaten, die das Team verwendet hat, um ihr Modell zu trainieren, bestanden aus Daten, die aus einer Umfrage zu kontroversen Themen stammten. Mehr als 100 Menschen gaben ihre Meinung zu diesen kontroversen Themen ab. Daten wurden auch aus Bewertungen von 20 verschiedenen Hotels gezogen, die aus 400 fiktiven Bewertungen und 800 echten Bewertungen bestanden.

Laut Santos könnte das von den Forschern entwickelte Rahmenwerk verfeinert und von Nachrichtenorganisationen und Lesern verwendet werden, um den Inhalt von “falschen Nachrichten”-Artikeln zu analysieren. Leser könnten Artikel auf die Anwesenheit von Meinungen untersuchen und für sich selbst bestimmen, ob ein logisches Argument verwendet wurde. Santos sagte auch, dass das Team die Auswirkungen von Fehlinformationen und die Welleneffekte, die sie haben, untersuchen möchte.

Die Popkultur stellt oft non-verbale Verhaltensweisen wie Gesichtsausdrücke als Indikatoren dar, dass jemand lügt, aber die Autoren der Studie betonen, dass diese Verhaltenshinweise nicht immer zuverlässige Indikatoren für Lügen sind. Deqing Li, Co-Autor des Papiers, erklärte, dass ihre Forschung ergab, dass Modelle, die auf Argumentationsabsicht basieren, bessere Indikatoren für Lügen sind als Verhaltens- und verbale Unterschiede. Li erklärte, dass Argumentationsabsichtsmodelle “besser darin sind, absichtliche Lügen von anderen Arten von Informationsverzerrung zu unterscheiden”.

Die Arbeit der Dartmouth-Forscher ist nicht die einzige jüngste Entwicklung im Kampf gegen Fehlinformationen mit KI. Nachrichtenartikel mit klickbait-Titeln verbergen oft Fehlinformationen. Zum Beispiel implizieren sie oft, dass etwas passiert ist, obwohl tatsächlich ein anderes Ereignis stattgefunden hat.

Wie AINews berichtet, arbeitete ein Team von Forschern von der Arizona State University und der Penn State University zusammen, um eine KI zu erstellen, die klickbait-Titel erkennen kann. Die Forscher baten Menschen, ihre eigenen klickbait-Titel zu schreiben, und schrieben auch ein Programm, um klickbait-Titel zu generieren. Sowohl die von Menschen als auch die von Maschinen generierten Titel wurden verwendet, um ein Modell zu trainieren, das klickbait-Titel effektiv erkennen kann, unabhängig davon, ob sie von Maschinen oder Menschen geschrieben wurden.

Laut den Forschern war ihr Algorithmus etwa 14,5% genauer bei der Erkennung von klickbait-Titeln als andere KI-Systeme in der Vergangenheit. Der Leitforscher des Projekts und Associate Professor am College of Information Sciences and Technology der Penn State, Dongwon Lee, erklärte, wie ihr Experiment die Nützlichkeit von generierten Daten mit einer KI und deren Rückführung in eine Trainingspipeline demonstriert.

“Dieses Ergebnis ist ziemlich interessant, da wir erfolgreich demonstrierten, dass maschinengenerierte klickbait-Trainingsdaten in die Trainingspipeline zurückgeführt werden können, um eine Vielzahl von maschinellen Lernmodellen zu trainieren und ihre Leistung zu verbessern”, erklärte Lee.