KI kann Fehlinformationen und Voreingenommenheit in Nachrichten bekämpfen

Fehlinformationen und Voreingenommenheit in Nachrichten sind zu einer der größten Herausforderungen geworden, denen die Gesellschaft in den letzten Jahren gegenübersteht. Dinge wie Informationsoperationen, Deepfakes, finanzieller Einfluss und die Ausnutzung sozialer Spannungen sind neue Werkzeuge, die von Einzelpersonen und staatlichen Akteuren auf der ganzen Welt verwendet werden.

Fehlinformationen sind ein allgemeiner Begriff für falsche Informationen, und sie spielen eine wichtige Rolle bei der Manipulation der öffentlichen Meinung. Gleichzeitig werden sie als Angriff gegen politische Führer eingesetzt und verschärfen die Spaltungen zwischen Gruppen in verschiedenen Ländern. Mehr als je zuvor treffen Fehlinformationen auf die Wahlurne und sind unglaublich effektiv.

Desinformation, die sich leicht von Fehlinformationen unterscheidet, ist absichtlich irreführende oder voreingenommene Informationen. Sie kann manipulierte Narrative und Fakten enthalten. Mit anderen Worten, es ist Propaganda.

Ein Bericht von Forschern der Universität Oxford aus dem Jahr 2019 beschrieb organisierte Desinformationskampagnen in 70 verschiedenen Ländern, darunter Russland, China, Vietnam und Guatemala.

Die digitale Wirtschaft hat zu einer Zunahme von Fehlinformationen und Voreingenommenheit in Nachrichten geführt, wobei KI-Technologien und soziale Medienplattformen zu Mitteln geworden sind, um sie an die Massen zu verbreiten.

Wir haben viele Beispiele dafür gesehen. Zum Beispiel waren die beiden letzten Präsidentschaftswahlen in den USA voller Fehlinformationen und Voreingenommenheit, und dies wird sicherlich in der Zukunft weitergehen. Finanzmärkte wurden auch von kurzfristiger Manipulation durch Fehlinformationen und Voreingenommenheit betroffen, und auswärtige Angelegenheiten werden aufgrund ihrer Verwendung immer angespannter. Soziale Spannungen werden durch falsche Informationen gegen Unterstützer und Gegner bestimmter Ursachen hervorgerufen, und gefälschte Nachrichten sind in fast jedem Land verbreitet.

Unsere Abhängigkeit von sozialen Medien und Algorithmen hat uns unglaublich verletzlich für Fehlinformationen und Voreingenommenheit gemacht, und es ist leicht geworden, große Gruppen von Menschen zu manipulieren.

Laut einem Essay mit dem Titel „Voreingenommenheit macht Menschen anfällig für Fehlinformationen, die durch soziale Medien verbreitet werden“, der von The Conversation, einem Netzwerk von nicht-gewinnorientierten Medien, veröffentlicht wurde, gibt es drei Arten von Voreingenommenheit, die das soziale Medien-Ökosystem anfällig für absichtliche und unabsichtliche Fehlinformationen machen. Es ist wichtig zu erkennen, dass die meisten unserer Nachrichten jetzt aus sozialen Medien stammen.

Die drei Arten von Voreingenommenheit sind:

1. Voreingenommenheit im Gehirn: „Kognitive Voreingenommenheit entsteht durch die Art und Weise, wie das Gehirn die Informationen verarbeitet, die jeder Mensch jeden Tag erlebt.“
2. Voreingenommenheit in der Gesellschaft: „Wenn Menschen direkt mit ihren Peers in Kontakt treten, beeinflussen die sozialen Voreingenommenheiten, die ihre Auswahl von Freunden leiten, die Informationen, die sie sehen.“
3. Voreingenommenheit in der Maschine: „Die dritte Gruppe von Voreingenommenheiten entsteht direkt durch die Algorithmen, die verwendet werden, um zu bestimmen, was Menschen online sehen. Sowohl soziale Medienplattformen als auch Suchmaschinen verwenden sie.“

Diese Kombination von Voreingenommenheiten hat die perfekte Umgebung für böswillige Akteure geschaffen, um unsere aktuellen Nachrichtenplattformen als Mittel zur Verbreitung von Fehlinformationen zu nutzen. Aber es ist wichtig zu erkennen, dass Voreingenommenheit auch außerhalb dieses Bereichs vorhanden ist. Reguläre Nachrichtenberichte und Artikel riskieren, aufgrund der eigenen Neigungen eines Autors oder einer Veröffentlichung voreingenommen zu sein. Das ist nichts Neues.

KI-Lösungen für Fehlinformationen und Voreingenommenheit

Der Aufstieg der künstlichen Intelligenz hat uns viele neue und innovative Werkzeuge gegeben, die zur Bekämpfung von Fehlinformationen und Voreingenommenheit in Nachrichten eingesetzt werden können.

Zum Beispiel können KI-Systeme, wenn sie richtig konzipiert sind, bestimmte Fehlinformationen und andere problematische Inhalte im Internet effektiv erkennen und entfernen. Sie werden bereits von Unternehmen wie Google, Twitter und Facebook verwendet, um gefälschte Bots zu identifizieren. Und gefälschte Bots werden oft verwendet, um Fehlinformationen und voreingenommene Nachrichten zu verbreiten.

Neue KI-Rahmenbedingungen müssen erforscht werden, um dieses Problem zu bekämpfen, und bestehende müssen verbessert werden, da viele sich als problematisch erwiesen haben. Diese Probleme werden noch gefährlicher, wenn Konflikte entstehen. Zum Beispiel führt der aktuelle Russland-Ukraine-Konflikt zu einer Verbreitung von Fehlinformationen in unglaublich hoher Geschwindigkeit.

Es gibt verschiedene KI-gestützte Werkzeuge, die in Zukunft entwickelt werden. Zum Beispiel hat NT CONNECT, ein internationaler Technologieentwickler, kürzlich den Start seiner Nachrichten-Aggregator-Anwendung NOOZ.AI angekündigt. Der KI-gestützte Sprachanalyse-Motor zielt darauf ab, Transparenz über die polarisierende Voreingenommenheit in den heutigen Nachrichtenmedien zu schaffen. Er versucht, dies zu erreichen, indem er Leser über den Einfluss der Nachrichtenmedien informiert, bevor sie einen Artikel lesen.

„Autoren oder Journalisten neigen oft zu einer bestimmten Voreingenommenheit – oft ohne das Wissen des Lesers“, sagt die Pressemitteilung des Unternehmens. „Indem der Leser die historische Voreingenommenheit des Autors und der Nachrichtenquellen kennt, kann er den Artikel mit einem objektiveren Geist lesen und widerstehen, in eine bestimmte Richtung manipuliert zu werden.“

Das NOOZ.AI-Tool basiert auf vier Schlüsselsäulen:

• Meinungsanalyse: Es hilft Lesern, die Anwesenheit von persönlichen Gefühlen, Ansichten, Überzeugungen oder Urteilen in der Schreibweise eines Journalisten zu bestimmen.
• Sentiment-Analyse: Das Tool verwendet Sentiment-Analyse, um Lesern zu helfen, die Unterstützung oder Opposition eines Schriftstellers zu allgemeinen Nachrichteninhalten oder spezifischen Themen zu beurteilen.
• Propaganda-Analyse: Es kann potenzielle Desinformation durch die Identifizierung der Verwendung von bis zu 18 möglichen Überzeugungstechniken erkennen.
• Revision-Analyse: Leser können die Entwicklung einer Nachrichtengeschichte und die Manipulation von Meinung und Sentiment im Laufe der Zeit untersuchen.

Die App bietet Bewertungen für jeden Artikel, wobei Meinungsbewertungen von 0 bis 100 und Sentiment-Bewertungen von -100 bis 100 reichen. Sie verfolgt auch alle Textbearbeitungen für jede Revision und gibt Lesern die Möglichkeit, verschiedene Versionen zu vergleichen.

Laut Garry Paxinos, CTO bei NT CONNECT:

„Voreingenommene Berichterstattung ist ein großes Anliegen in der heutigen Gesellschaft. Fehlinformationen sind das am häufigsten (falsch) verwendete Schlagwort. Aber die Realität ist, dass die Sprache selbst verwendet werden kann, um den Leser zu manipulieren und zu überzeugen. Durch die objektive Analyse der Sprache vermeiden wir die subjektive Voreingenommenheit, die in anderen Ansätzen zu finden ist. Anstatt Fehlinformationen subjektiv zu kennzeichnen, ist unser Ansatz, zu zeigen, wie man durch übertriebene Überschriften, Revisionsgeschichte und Text von Artikeln manipuliert werden kann.“