Forscher entwickeln AI-Tool, um gefälschte Nachrichten zu identifizieren

Ein neues KI-Tool wurde entwickelt, das soziale Medien und Nachrichtenorganisationen dabei helfen kann, falsche Geschichten zu identifizieren.

Das Tool wurde von Forschern an der Universität Waterloo entwickelt. Es basiert auf Deep-Learning-KI-Algorithmen, um zu bestimmen, ob bestimmte Behauptungen in Beiträgen und Geschichten haltbar sind. Die Technologie tut dies, indem sie überprüft, ob sie von anderen Beiträgen und Geschichten zu demselben Thema unterstützt werden.

Alexander Wong ist Professor für Systemdesign an der Universität Waterloo.

“Wenn sie großartig sind, ist es wahrscheinlich eine wahre Geschichte”, sagte Wong. “Aber wenn die meisten anderen Materialien nicht unterstützend sind, ist es ein starker Hinweis darauf, dass man es mit gefälschten Nachrichten zu tun hat.”

Die Forscher entschieden sich, das Tool zu entwickeln, weil viele Online-Beiträge und Nachrichten als gefälscht oder erfunden entlarvt werden. Nachrichten werden oft verschickt, um Leser zu täuschen oder zu irreführen, und sie werden in der Regel aus politischen oder wirtschaftlichen Gründen verwendet.

Das neu entwickelte System ist Teil einer laufenden Bemühung, vollautomatisierte Technologie zu entwickeln, die in der Lage ist, gefälschte Nachrichten zu erkennen. In einem der wichtigsten Forschungsbereiche, der Stance-Erkennung, hat das System eine Genauigkeitsrate von 90 Prozent.

Das System wird zunächst eine Behauptung aus einem Beitrag oder einer Geschichte und andere Beiträge und Geschichten zu demselben Thema gegeben. Diese werden für den Vergleich gesammelt, und das System kann bestimmen, ob die Behauptung oder Geschichte unterstützt oder nicht wird. Es kann dies neun von zehn Malen tun.

Das ist jetzt der neue Benchmark für Genauigkeit, und die Forscher verwenden eine große Datenmenge, die für einen wissenschaftlichen Wettbewerb im Jahr 2017 namens Fake News Challenge erstellt wurde.

Die von den Waterloo-Forschern entwickelte Technologie könnte zu einem Screening-Tool werden, das von menschlichen Faktenprüfern verwendet wird. Die meisten sozialen Medien und Nachrichtenorganisationen verwenden menschliche Faktenprüfer, aber sie verpassen oft Dinge, die die Technologie aufdecken könnte. Dies kommt zu einer Zeit, in der Wissenschaftler auf der ganzen Welt daran arbeiten, ein vollautomatisiertes System zur Identifizierung und Bekämpfung von gefälschten Nachrichten zu entwickeln.

Wong ist Gründungsmitglied des Waterloo Artificial Intelligence Institute.

“Es ergänzt ihre Fähigkeiten und markiert Informationen, die nicht ganz richtig aussehen, zur Überprüfung”, sagte Wong. “Es ist nicht dazu gedacht, Menschen zu ersetzen, sondern ihnen zu helfen, Fakten zu überprüfen, schneller und zuverlässiger.”

Die KI-Algorithmen, die die Grundlage des Systems bilden, wurden mit Zehntausenden von verschiedenen Behauptungen gezeigt. Die Behauptungen wurden zusammen mit Geschichten gezeigt, die sie unterstützten oder nicht unterstützten, und das System konnte schließlich lernen, Unterstützung oder Nicht-Unterstützung selbst zu bestimmen. Es übertrug dies auf neue Behauptung-Geschichte-Paare, die es gezeigt wurden.

Chris Dulhanty ist ein Graduiertenschüler und leitete das Projekt, das die Technologie entwickelte.

“Wir müssen Journalisten befähigen, die Wahrheit aufzudecken und uns zu informieren”, sagte er. “Dies ist ein Teil einer größeren Arbeit, um die Verbreitung von Fehlinformationen zu bekämpfen.”