Forschung legt nahe, dass ChatGPT eine hohe Glaubwürdigkeit als Nachrichtenanbieter hat

Neue Forschung legt nahe, dass ChatGPTs Fakten-Überprüfungs-Labels Likes, Shares und sogar vertrauenswürdige Nachrichtenmarken übertrumpfen, wenn es darum geht, zu bestimmen, was Menschen glauben und online teilen möchten.

Eine neue Studie mit 1.000 Teilnehmern hat ergeben, dass ChatGPTs Glaubwürdigkeits-Scores für politische Nachrichten oft das ändern, was Menschen glauben, und ob sie sie teilen möchten – unabhängig von ihren anfänglichen politischen Ansichten. Traditionelle Einflussfaktoren wie Likes oder Shares hatten wenig Auswirkungen, aber die Urteile des KI-Systems prägten stark, wie vertrauenswürdig die Nachrichten erschienen:

Aus dem neuen Papier, eine Illustration, wie Menschen eine Nachrichtenüberschrift bewerten, basierend auf drei interagierenden Signalen: ob die Geschichte mit ihrer politischen Identität übereinstimmt; wie viel Engagement es auf sozialen Medien hat; und die Glaubwürdigkeitssignale, die von Institutionen oder KI-Systemen bereitgestellt werden. Diese Einflüsse kombinieren sich, um sowohl die wahrgenommene Genauigkeit als auch die Wahrscheinlichkeit des Teilens des Inhalts zu prägen. Quelle

Das Ausmaß, in dem KI-Zusammenfassungen als glaubwürdige Nachrichtenquellen angesehen werden, ist vielleicht eines der wichtigsten Themen in den Medien für viele Jahre, nicht zuletzt, weil Googles KI-Zusammenfassungen den Verkehr von den meisten großen Online-Medien im Jahr 2025 abgezogen haben, mit keiner Gewissheit, wohin diese Übertragung von Macht in der langen oder sogar mittleren Frist führen könnte.

Die Autoren der neuen Arbeit stellen fest:

‘Diese Ergebnisse unterstreichen sowohl das Potenzial als auch das Risiko von algorithmischem Feedback bei der Gestaltung des öffentlichen Verständnisses. KI-generierte Signale können helfen, Vorurteile zu mildern und die Glaubwürdigkeitsdiskriminierung zu verbessern, aber ihre Wirkung variiert je nach politischer Identität und birgt ethische Risiken im Zusammenhang mit Überabhängigkeit […]

‘…Die übermäßige Einflussnahme von ChatGPT unterstreicht einen kritischen Kompromiss: während überzeugend, kann KI-Feedback kritische Denkfähigkeiten ersetzen, wenn es nicht sorgfältig formuliert wird.’

Die Autoren schlagen vor, dass zukünftige Forschung sich auf verbesserte KI-Glaubwürdigkeitsinterventionen konzentrieren sollte, die unabhängiger und unterstützender von bekannten Fakten sind, und sie bemerken, dass dies insbesondere in Themen wichtig ist, die polarisierend sind.

Abgesehen von der offensichtlichen Aufstieg von ChatGPT als “Autorität” und der unerwartet geringen Einflussnahme von Sharing-Signalen in den Tests (die die Autoren möglicherweise auf die slightly sterile Testbedingungen zurückführen), gibt es ein weiteres interessantes Ergebnis aus den Tests der Forscher im Zusammenhang mit Demografie und Geschlecht:

‘Frauen und rassisch minorisierte Teilnehmer (insbesondere schwarze und lateinamerikanische Nutzer) reagierten positiver auf KI-basiertes Feedback als auf institutionelle Labels.’

Die neue Arbeit trägt den Titel KI-Glaubwürdigkeitssignale übertrumpfen Institutionen und Engagement bei der Gestaltung der Nachrichtenwahrnehmung in sozialen Medien und stammt von drei Forschern der University of Notre Dame.

Lassen Sie uns einen genauen Blick auf die Methoden und Schlussfolgerungen der Studie werfen.

Methode

Vier Hypothesen wurden getestet: dass Menschen Überschriften als genauer bewerten, wenn sie ihre politischen Ansichten widerspiegeln; dass KI-generierte Glaubwürdigkeits-Scores einflussreicher sind als Signale von etablierten Institutionen; dass Überschriften mit hohem Engagement (d. h. gemessen durch Likes, Shares oder Kommentare) als vertrauenswürdiger angesehen werden; und dass Benutzer tendenziell das Urteil des KI-Systems über die Genauigkeit einer Überschrift akzeptieren, auch wenn es im Widerspruch zu ihren eigenen Überzeugungen steht.

Die Teilnehmer der Studie wurden von der Prolific-Plattform rekrutiert und mussten fließend Englisch sprechen sowie regelmäßige Verbraucher von Nachrichten sein; und ein Randomisierungsprozess sorgte dafür, dass die Teilnehmer eine Vielfalt von rassischen und geschlechtsspezifischen Perspektiven repräsentierten.

Im Experiment* wurden die Teilnehmer in vier Gruppen aufgeteilt, von denen jede eine andere Art von Feedback neben den Nachrichtenüberschriften zu sehen bekam.

In der ersten Gruppe (der Kontroll-Bedingung) wurde keine zusätzliche Information über die Glaubwürdigkeit der Überschrift gegeben; in der zweiten Gruppe wurden die Überschriften mit einem Bias-Rating von GroundNews versehen, einem Dienst, der Nachrichtenquellen als links-, zentristisch oder rechtsorientiert klassifiziert.

Die dritte Gruppe sah die gleichen GroundNews-Labels, aber absichtlich umgedreht, um zu testen, ob die Benutzer die Verzerrung erkennen würden.

Die letzte Gruppe wurde mit Glaubwürdigkeits-Scores von ChatGPT versehen, die eine kurze Erklärung und eine Bewertung wie ‘wahrscheinlich ungenau’ enthielten:

Konzeptionelles Schema für das Experiment: jedem Teilnehmer wurden politische Überschriften mit verschiedenen Kombinationen von Glaubwürdigkeits-Labels und sozialen Engagement-Signalen gezeigt. Antworten wurden gesammelt, um zu sehen, wie genau jede Überschrift erschien und wie wahrscheinlich sie geteilt wurde, wobei die gesamte Sequenz über 21 Items wiederholt wurde.

Daten und Tests

Jeder Teilnehmer wurde einer Sequenz von 21 politischen Nachrichtenüberschriften gezeigt. Für jede Überschrift wurde das Maß an sozialem Engagement variiert; manchmal zeigte es keine Likes oder Shares, manchmal viele. Diese Engagement-Signale wurden randomisiert, um feste Muster zu vermeiden.

Die Überschriften selbst stammten aus einer Mischung von politischen Perspektiven und wurden als linksorientiert, rechtsorientiert oder zentristisch markiert.

Nach jeder Überschrift wurden die Teilnehmer gefragt, wie genau sie sie hielten und ob sie sie teilen würden. Da jeder Teilnehmer bereits seine eigene politische Zugehörigkeit angegeben hatte, konnte analysiert werden, ob Überschriften von der gleichen Seite des politischen Spektrums höher bewertet wurden.

Die Teilnehmer bewerteten jede Überschrift zweimal: einmal für die Genauigkeit und einmal für die Wahrscheinlichkeit, sie zu teilen, wobei ihre Antworten auf einer Skala von 0-10 gemessen wurden.

Die Forscher kombinierten diese Antworten mit zusätzlichen Daten: demografische und Medien-Nutzungs-Informationen von jedem Teilnehmer; politische Tags für jede Überschrift; die Art der Glaubwürdigkeits-Signale, die gezeigt wurden; und das Maß an sozialem Engagement, das zugewiesen wurde.

Politische Identität und Einfluss

Im ersten Test, der untersuchte, ob Menschen Überschriften als genauer bewerten, wenn die politische Haltung der Überschrift ihrer eigenen Ansicht entspricht, zeigten die Ergebnisse, dass die Teilnehmer eher Überschriften glaubten, die ihrer politischen Ansicht entsprachen – aber dass dies von der Gruppe abhängig war.

Moderate zeigten die stärkste Vorurteils-Neigung zu ihrer eigenen Seite, während Liberale und Konservative eher Überschriften aus dem Zentrum vertrauten; und insgesamt wurden neutrale Überschriften als genauer bewertet als links- oder rechtsorientierte.

Eine Illustration, wie die Genauigkeits- und Teilbarkeits-Bewertungen je nach politischer Haltung der Überschrift und der politischen Zugehörigkeit des Teilnehmers variierten. Moderate waren am ehesten bereit, ‘eigene’ Überschriften als genauer zu bewerten, während Liberale und Konservative Überschriften aus dem Zentrum bevorzugten. Das Teilungsverhalten folgte einem ähnlichen Muster, mit begrenzter Vorurteils-Neigung außerhalb der moderaten Gruppe.

Im Ergebnis des ersten Experiments wurde ein mäßiger Vorurteils-Effekt auf die Teilbarkeit gefunden; aber nur für Moderate, die eher bereit waren, politisch ausgerichtete (d. h. neutrale) Überschriften zu teilen. Liberale und Konservative zeigten keine solche Tendenz.

Eine Varianzanalyse (ANOVA), eine Methode, um Unterschiede zwischen Gruppen zu erkennen, zeigte, dass die Ausrichtung die Teilbarkeit nur dann beeinflusste, wenn sie mit der politischen Identität interagierte. Glaubwürdigkeit und Teilbarkeit waren miteinander verknüpft, aber nur Moderate zeigten ein klares Muster in beiden.

Institutionelle vs. KI-Glaubwürdigkeit

Der nächste Test fragte, ob Menschen KI-Bewertungen mehr vertrauen als traditionelle Quellen wie Nachrichten-Bewertungs-Websites – insbesondere, wenn die Bewertungen im Widerspruch zu ihren politischen Ansichten stehen:

Glaubwürdigkeits- und Teilbarkeits-Bewertungen über Feedback-Quellen: alle drei Signale erhöhten die Genauigkeit im Vergleich zur Kontrolle, wobei GroundNews die höchsten Bewertungen erzielte. ChatGPT produzierte jedoch die größten Gewinne bei der Teilbarkeit, was auf einen breiteren überzeugenden Einfluss hindeutet. Fehlerbalken zeigen 95%-Konfidenzintervalle, und Sternchen markieren signifikante Paarvergleiche.

Alle Feedback-Signale erhöhten die wahrgenommene Genauigkeit; aber GroundNews war am effektivsten, wenn es mit den politischen Ansichten der Benutzer übereinstimmte.

ChatGPT erhöhte die Genauigkeits-Bewertungen überall, was darauf hindeutet, dass es als neutraler angesehen wurde. Konservative waren weniger von GroundNews beeinflusst, reagierten jedoch ähnlich wie andere Gruppen auf ChatGPT:

Hier können wir die Auswirkungen von ChatGPT-Feedback auf die wahrgenommene Genauigkeit sehen. Die Ergebnisse bestätigen, dass das Vertrauen in institutionelle Signale von der Ausrichtung abhängt, während das Vertrauen in algorithmische Signale nicht. ChatGPT erhöhte sowohl die Glaubwürdigkeit als auch die Teilbarkeit über alle Gruppen hinweg – insbesondere bei Konservativen.

Soziale Metriken haben wenig Einfluss

Die dritte Analyse testete, ob sichtbare soziale Engagement-Signale wie Likes, Shares und Kommentare die Glaubwürdigkeit oder Teilbarkeit erhöhen würden, indem sie als soziales Beweis fungieren; aber kein solcher Effekt wurde beobachtet.

Tests ergaben, dass Engagement-Niveaus wie Likes oder Shares keinen realen Einfluss auf die wahrgenommene Genauigkeit der Überschriften hatten und nur einen schwachen, unzuverlässigen Einfluss auf die Teilbarkeit; im Gegensatz zu algorithmischen oder institutionellen Signalen schienen diese sozialen Signale in diesem Kontext nicht die Urteile zu beeinflussen, aus den im Artikel genannten Gründen.

KI-Feedback beeinflusst, was Menschen vertrauen

Der vierte und letzte Test überprüfte, ob Benutzer ihre Glaubwürdigkeits- und Teilbarkeits-Urteile anpassen würden, wenn sie KI-generierte Labels wie genau; teilweise genau; unbestätigt; oder ungenau sehen würden, die alle von ChatGPT zugewiesen wurden:

Teilnehmer reagierten stark auf KI-generierte Glaubwürdigkeits-Labels. Genauigkeits-Bewertungen stiegen oder fielen im Einklang mit ChatGPTs Feedback, wobei die größten Effekte auftraten, wenn Überschriften als genau oder ungenau markiert wurden:

ChatGPT-Feedback beeinflusste sowohl die Genauigkeits- als auch die Teilbarkeits-Bewertungen. Oben: Genauigkeits-Bewertungen stiegen mit positiveren Labels, insbesondere wenn Überschriften als ‘genau’ markiert wurden, und sanken, wenn sie als ‘ungenau’ markiert wurden. Unten: Die Teilbarkeit folgte einem ähnlichen Muster, aber zeigte eine größere Variation zwischen den Gruppen: Liberale reagierten am stärksten auf negative Signale, während Konservative eher zurückhaltend reagierten.

Die politische Identität prägte diese Effekte, wobei Benutzer ChatGPT mehr vertrauten, wenn dessen Feedback mit ihren eigenen Ansichten übereinstimmte.

Das Teilungsverhalten folgte einem ähnlichen Muster: Überschriften, die als ‘genau’ markiert waren, wurden am häufigsten geteilt, insbesondere unter unklaren Labels wie teilweise genau.

Diese Ergebnisse, so argumentiert das Papier, legen nahe, dass KI-Feedback das Benutzerverhalten beeinflussen kann; und dass es auch das Risiko birgt, parteipolitische Spaltungen zu verstärken oder kritisches Denken zu behindern.

Wer vertraut KI am meisten?

Eine weitere Analyse untersuchte, wie Benutzer-Demografie die Reaktionen auf Glaubwürdigkeits-Labels beeinflusste. ChatGPTs Feedback erhöhte die Genauigkeits-Bewertungen insgesamt, aber der Effekt war schwächer bei hochgebildeten Benutzern und häufigen sozialen Medien-Konsumenten, die mehr Skepsis zeigten.

Diese Gruppen reagierten negativ auf GroundNews- und umgekehrte Signale, was, so schlägt das Papier vor, darauf hindeutet, dass offensichtliche Vorurteils-Marker mehr medienkompetente Benutzer alienieren könnten.

Im Gegensatz dazu reagierten Frauen und rassisch minorisierte Teilnehmer, insbesondere schwarze und lateinamerikanische Nutzer, positiver auf ChatGPT als auf institutionelle Signale:

Demografische Reaktionen auf Feedback-Typen, wobei jedes Panel zeigt, wie eine bestimmte Gruppe auf verschiedene Glaubwürdigkeits-Signale reagiert. ChatGPTs Bewertungen hatten den stärksten und konsistentesten Einfluss auf die Genauigkeit, während die Effekte auf die Teilbarkeit weniger einheitlich waren, mit Variationen nach Rasse, Geschlecht und Medien-Nutzung.

Das Teilungsverhalten spiegelte diese Spaltung wider: GroundNews reduzierte die Teilbarkeit am stärksten bei sozialen Medien-Nutzern und Nachrichten-Junkies, während ChatGPTs Effekte gemischt waren, sogar die Teilbarkeit in einigen Gruppen erhöhten, wobei Inhaber von Hochschulabschlüssen besonders auf alle Feedback-Typen reagierten.

Die Autoren schlussfolgern:

‘Diese Ergebnisse haben direkte Auswirkungen auf die Gestaltung von Glaubwürdigkeits-Interventionen in soziotechnischen Systemen. Benutzer werden zunehmend von algorithmischem Feedback beeinflusst, das institutionelle Signale überlagern und parteipolitische Vorurteile mildern kann – aber auch das Risiko birgt, Überabhängigkeit zu fördern.

‘Institutionelle Signale bleiben für einige Benutzer wirksam, aber ihre Wirkung nimmt in politisch polarisierten oder [niedrig-vertrauenswürdigen] Umgebungen ab. Engagement-Metriken wie Likes und Shares wurden größtenteils ignoriert, was auf einen geringeren überzeugenden Wert hindeutet, wenn sie ohne sozialen Kontext präsentiert werden.

‘Um eine gerechte und informierte Nachrichten-Bewertung zu unterstützen, müssen KI-getriebene Interventionen transparent, erklärend und darauf ausgerichtet sein, die Benutzer-Autonomie zu stärken.

‘Zukünftige Arbeiten sollten diese Mechanismen in realistischeren Umgebungen untersuchen, alternative KI-Glaubwürdigkeits-Rahmen bewerten und adaptive Systeme entwickeln, die kritisches Engagement über politisch diverse Zielgruppen hinweg fördern.’

Schlussfolgerung

Angesichts der Tendenz aller aktuellen generativen KI-Systeme, Halluzinationen und Wahrheits-Verzerrungen zu erzeugen, ist es möglicherweise von einiger Besorgnis, dass die schnelle Adoption von ChatGPT (auch wenn sie ein wenig abnimmt) einen enormen Sprung des Vertrauens darstellt, den die Architekturen solcher Systeme weder rechtfertigen noch unterstützen können.

Ein Problem beim Vertrauen auf die Darstellung von Nachrichten durch KI ist der Mangel an effektiven Systemen, die Nachrichtenquellen als ‘politisch affiniert’ oder tendenziell zu einem oder anderen Ende des politischen Spektrums neigen, kontextualisieren können.

Sogar unter den renommiertesten vierten Gewalten ist die Auswahl dessen, was und was nicht abgedeckt wird, an sich eine politische Aussage. Weder ChatGPT noch seine Pendants sind derzeit in der Lage, diese Schichten interpretativer Vorurteile zu navigieren, und das Thema selbst lädt eher zu Diskussionen ein als zu festen Schlussfolgerungen.

Ein weiteres Problem ist, dass Systeme dieser Art auf den Plan treten, in einer der polarisiertesten und spaltendsten Perioden der menschlichen Geschichte in 80 Jahren, und zu einer Zeit, in der die Gesellschaft am meisten bereit ist, ‘alternative Stimmen’ zu hören – wie eine völlig neue Gattung von Technologie, die als unverzichtbarer Filter der Weltwahrheit angepriesen wird, anstatt das zu sein, was sie tatsächlich ist: ein Prädiktor von statistischen Wahrscheinlichkeiten, der mit großen Mengen parteipolitischer Informationen gefüttert wird.

* Details davon haben die Autoren online zur Verfügung gestellt (siehe Quellen-Papier, Fuß von P2, für URLs). Allerdings erfordert diese Daten eine Registrierung, um sie anzusehen, und da ich die Angelegenheit zu diesem Zeitpunkt nicht weiter verfolgt habe, kann ich nicht bestätigen, dass sie vollständig ohne Zahlung und/oder bestimmte Arten von Anmeldeinformationen angesehen werden können.

Erstveröffentlicht am Mittwoch, den 5. November 2025