Ihre KI ist möglicherweise noch immer zu höflich, um Sie richtig zu korrigieren

KI-Systeme, auf deren präzise Informationen wir uns möglicherweise verlassen – selbst wenn diese Informationen für uns unangenehm sind –, müssen in der Lage sein, unseren Einwänden so lange zu widersprechen, bis wir bereit sind, die unerfreulichen Nachrichten oder Fakten zu akzeptieren.

KI ist darin nicht besonders gut. Da Spitzenmodelle für den Einsatz durch Verbraucher konzipiert sind, neigen sie zu Nachgiebigkeit und tatsächlich auch zu Anbiederung.

Ein bemerkenswerter Forschungszweig hat sich dieser Frage angenommen. Neuere Arbeiten kommen jedoch zu dem Schluss, dass wir KI leicht wieder zur Anbiederung verleiten können, wenn sie uns widerspricht; dass KI sich menschlicher Autorität beugt, selbst wenn diese offensichtlich falsch liegt; und dass die normalerweise wirksame Methode des bestärkenden Lernens dieses spezielle Problem tatsächlich verschärft.

Die Tatsache, dass Nachgiebigkeit kulturell eng mit Höflichkeit verknüpft ist, scheint zu bedeuten, dass Klartext im Verhältnis zwischen Anbieter und Verbraucher unmöglich ist: Der Kunde hat immer recht – selbst wenn er geradewegs auf eine Klippe zusteuert.

Richtig, falsch und „mit Einschränkungen“

Nun, ich wünschte, ich könnte Ihnen sagen, dass die dieswöchige Auswahl an Fachartikeln einen Beitrag hervorgebracht hat, der bei diesem Thema wirklich etwas voranbringt. Leider erfahren wir lediglich mehr darüber, dass Modelle, die widersprechen und ihren menschlichen Meistern die Wahrheit vor Augen führen wollen, ihre Sache noch immer nicht besonders gut machen* – und dass selbst wenn sie wirklich bereit sind, der Macht (also Ihnen) die Wahrheit zu sagen, dies eher einem gedämpften Flüstern gleicht.

An der neuen Studie wirkten zahlreiche akademische Einrichtungen mit: die University of Washington, das Allen Institute for AI, die LMU München, die UC Berkeley, die Stanford University und die University of Wisconsin-Madison.

Die zentrale Aussage der Pushback in a Haystack: Language Models Respond to Factual Errors Ambiguously and Ineffectively betitelten neuen Studie lautet, dass KI-Modelle Behauptungen von Nutzern oft nicht klar korrigieren, selbst wenn sie erkennen, dass diese falsch sind. Stattdessen verstecken sie ihre Einwände häufig hinter einschränkenden Formulierungen, Lob und teilweiser Zustimmung.

Ein Beispiel dafür, wie Gemini 2.5 Pro auf Hindi auf eine Anfrage nach wissenschaftlichen Arbeiten reagiert, die auf einer falschen Annahme beruht. Grün markierte Stellen signalisieren Zustimmung, rosa markierte Widerspruch. Hier verbindet das Modell Lob mit indirekten Einwänden, statt die Behauptung klar zurückzuweisen. Quelle

Bei sieben Modellen und fünf Sprachen stellten die Forschenden fest, dass diese „Mehrdeutigkeit“ dazu führen kann, dass Nutzer weiterhin an der ursprünglichen Falschinformation festhalten, obwohl die KI ihr technisch gesehen widersprochen hat.

Da sich Anbiederung je nach Sprache in ihrer Verwendung und Ausprägung unterscheidet, nutzten die zehn Autorinnen und Autoren die fünf Muttersprachen, die sie gemeinsam beherrschen, um einen Testansatz zu entwickeln, der Englisch, Deutsch, Chinesisch, Hindi und Yoruba umfasst – Sprachen, die von solchen mit vielen bis hin zu ressourcenarmen Sprachdaten reichen. Sie schreiben:

„Wir stellen ein Framework zur Kennzeichnung von Antworten auf Phrasenebene vor, das von Menschen validiert wurde und differenzierte Einblicke darin ermöglicht, wie Sprachmodelle falschen Eingaben widersprechen und/oder ihnen zustimmen. Wir entwickeln dieses Framework und wenden es auf Modellantworten in fünf Sprachen an: Englisch, Deutsch, Chinesisch, Hindi und Yoruba.“

„Wir stellen fest, dass Modelle, wenn sie falschen Behauptungen von Nutzern widersprechen, dazu neigen, indirekte Formulierungen zu verwenden und zugleich Zustimmung auszudrücken. In Hindi und Yoruba sind die Formulierungen indirekter als in den anderen untersuchten Sprachen.“

In einer groß angelegten Studie mit 300 Teilnehmenden stellten die Forschenden fest, dass mehrdeutige Korrekturen durch KI-Modelle die sachlichen Fehlvorstellungen der Nutzer bestehen lassen können, statt ihnen wirksam entgegenzutreten.

In einem Test umfassten die Antworten der Modelle auf Informationsanfragen durchschnittlich 46,7 Zeilen, während korrigierende Formulierungen nur in zwei oder drei Zeilen auftauchten. Das bedeutet: Selbst wenn eine KI einer falschen Behauptung widerspricht, kann der Einwand leicht zu übersehen sein.

Die Forschenden stellten außerdem fest, dass Modelle Falschinformationen eher widersprachen, wenn sie ausdrücklich aufgefordert wurden, sie zu überprüfen, als wenn diese in gewöhnlichen Informationsanfragen auftauchten. Behauptungen, die Lehrbüchern zugeschrieben wurden, stießen im Allgemeinen auf weniger Widerspruch als solche, die Freunden zugeschrieben wurden.

In 29,4 % der Antworten auf Informationsanfragen verbanden die Modelle Korrekturen mit Zustimmung; bei Gemini 2.5 Pro waren es 60,1 %. Manchmal geschah dies in Form eines „Kompliment-Sandwichs“, bei dem Einwände zwischen beschwichtigenden Bemerkungen verborgen waren.

Als mögliche Abhilfe testeten die Forschenden eine einfache Maßnahme, die Modelle dazu anregen sollte, vor ihrer Antwort „einen Moment innezuhalten“. In einigen Fällen waren sie dadurch eher bereit, falschen Aussagen zu widersprechen – zugleich nahm jedoch auch die Zahl ihrer falschen Einwände gegen wahre Aussagen zu.

Die Studie legt nahe, dass es nur einen Teil des Problems ausmacht, einer KI einen Fehler erkennen zu lassen: Sie dazu zu bringen, diesen Fehler auch mitzuteilen, ist eine eigenständige Herausforderung.

Methode

Das Testmaterial stammte aus der mehrsprachigen Version des Massive Multitask Language Understanding (MMLU) Benchmarks von OpenAI aus dem Jahr 2021. Der mehrsprachige Datensatz namens MMMLU deckt akademische Fächer wie Biologie und Geschichte ab.

Die Multiple-Choice-Fragen der Sammlung wurden in Tatsachenbehauptungen umgewandelt: Aus den drei falschen Antworten wurden falsche Behauptungen abgeleitet, aus der richtigen Antwort eine wahre.

So entstand aus jeweils 1.756 zweifach übersetzten MMMLU-Benchmark-Aufgaben pro Sprache ein Datensatz mit 35.120 Aussagen in fünf Sprachen. Für die Experimente wurde eine kleinere, nach Fachgebieten ausgewogene Stichprobe ausgewählt, die 2.685 falsche und 895 wahre Aussagen umfasste.

Zu den getesteten Sprachmodellen gehörten die proprietären Modelle Gemini2.5 Pro und GPT-5.5 sowie fünf Modelle mit offenen Gewichten: Mistral Small 4, Qwen 3.5 9B, Qwen 3.5 27B, Gemma 4 E4B und Aya Expanse 32B.

Bei der ersten von drei Arten von Prompts, mit denen die Modelle getestet wurden, wurde eine Aussage zur direkten Faktenprüfung vorgelegt. Beim zweiten Prompt wurde eine Person als Studentin oder Student dargestellt, die bzw. der nach Lernmaterialien zu einer Aussage suchte. Beim dritten wurde eine Professorin oder ein Professor dargestellt, die bzw. der auf derselben Grundlage wissenschaftliche Arbeiten anforderte.

In den Prompts für Studierende wurden Aussagen Lehrbüchern, Lehrkräften, Freunden, dem Internet oder keiner bestimmten Quelle zugeschrieben. In den Prompts für Professorinnen und Professoren wurden sie der eigenen Forschung der jeweiligen Person, Kolleginnen und Kollegen, Freunden, dem Internet oder keiner bestimmten Quelle zugeschrieben. Anschließend wurde ermittelt, wie bereitwillig die Modelle falschen Behauptungen angesichts dieser unterschiedlichen Quellenangaben widersprachen.

Die drei in der Studie verwendeten Prompt-Vorlagen: direkte Faktenprüfung (verify), Anfragen nach Lernmaterialien (novice) und Anfragen nach wissenschaftlichen Arbeiten (expert). Quellenangaben und fachspezifische Details wurden in die Vorlagen eingesetzt.

Die Antworten der Modelle wurden in vier Kategorien eingeteilt: ausdrückliche Widerlegung, bei der einer falschen Aussage direkt widersprochen wurde; indirekter Widerspruch, bei dem Uneinigkeit oder Zweifel geäußert wurden, ohne die Aussage direkt zurückzuweisen; Lob, bei dem die Aussage oder das Vorgehen der nutzenden Person gelobt wurde; und Bestätigung, bei der die Aussage bekräftigt wurde.

Beispiele für Formulierungen, mit denen die Modelle in den fünf getesteten Sprachen Aussagen von Nutzenden zurückwiesen, hinterfragten, lobten oder bestätigten. Wo zutreffend, sind englische Übersetzungen angegeben.

Jede Antwort wurde Satzteil für Satzteil untersucht, damit Lob, Zustimmung und Widerspruch auch dann erkannt werden konnten, wenn sie gemeinsam in derselben Antwort vorkamen.

Ergebnisse

Die Ergebnisse bestätigten frühere Erkenntnisse: Modelle, die falsche Aussagen bei einer Aufforderung zur Prüfung korrekt erkennen, widersprechen denselben Behauptungen seltener, wenn sie um Informationen oder Rat gebeten werden. Dieser Unterschied wurde als „Widerspruchslücke“ bezeichnet. Er wurde berechnet, indem verglichen wurde, wie häufig falschen Behauptungen bei direkten Überprüfungen widersprochen wurde und wie häufig dies bei gewöhnlichen informationssuchenden Anfragen der Fall war.

Vergleich, wie häufig sieben Sprachmodelle falschen Aussagen bei direkter Faktenprüfung im Gegensatz zu informationssuchenden Anfragen in fünf Sprachen widersprachen. Negative Werte weisen auf weniger Widerspruch in Antworten auf informationssuchende Anfragen hin. Orange und Blau stehen für Prompts von Studierenden beziehungsweise Professorinnen und Professoren; die Symbole unterscheiden die zugeschriebenen Quellen. Die Fehlerbalken zeigen 95-%-Konfidenzintervalle.

Wie oben dargestellt, war die Widerspruchslücke bei den beiden Qwen-3.5-Modellen in den getesteten Sprachen geringer als bei den anderen Modellen. Das deutet darauf hin, dass sie unabhängig von der Formulierung der Frage konsequenter Fehlinformationen korrigierten. Zugleich zeigt sich, wie sehr die scheinbare Autorität der Quelle die Ergebnisse beeinflusste: Falschen Behauptungen, die Lehrbüchern zugeschrieben wurden, wurde seltener widersprochen als solchen, die Freunden zugeschrieben wurden – eine Tendenz, die sich in allen Sprachen beobachten ließ.

Wenn Modelle nach Informationen statt nach einer Faktenprüfung gefragt wurden, wiesen sie falsche Behauptungen seltener direkt zurück und reagierten häufiger mit indirektem Widerspruch, Lob oder Zustimmung. Selbst die Qwen-3.5-Modelle, bei denen insgesamt vergleichsweise geringe Unterschiede in der Häufigkeit des Widerspruchs festgestellt worden waren, waren für dieses Verhalten anfällig.

Anteil der Antworten mit ausdrücklichen Korrekturen unter den Antworten, die falschen Behauptungen widersprachen, in fünf Sprachen. Die Ergebnisse sind nach Prompts für Studierende (Anfänger) und Professoren (Experten) aufgeschlüsselt; die zugeschriebenen Informationsquellen sind auf der horizontalen Achse dargestellt. Die Fehlerbalken zeigen 95-%-Konfidenzintervalle.

Bei vier der sieben Modelle wurden falsche Behauptungen auf Hindi, Chinesisch und Yoruba seltener ausdrücklich zurückgewiesen als auf Englisch. In fünf der sieben Modelle enthielten die Antworten auf Hindi außerdem am meisten Lob.

In 65,3 % der Antworten auf Informationsanfragen wurde widersprochen; allerdings enthielt in der Regel weniger als die Hälfte dieser Antworten eine ausdrückliche Zurückweisung der falschen Behauptung. Direkte Korrekturen kamen bei Prompts für Studierende häufiger vor als bei Prompts für Professoren – und seltener, wenn die Behauptungen maßgeblichen Quellen zugeschrieben wurden.

Bei Hindi, Chinesisch und Yoruba geschah der Widerspruch gegen eine falsche Behauptung in den meisten Antworten nur indirekt, sodass der Fehler nicht ausdrücklich zurückgewiesen wurde. In 29,4 % der Antworten auf Informationsanfragen waren Einwände gegen falsche Behauptungen mit Zustimmung vermischt; bei Gemini 2.5 Pro lag dieser Anteil bei 60,1 %:

Anteil der Antworten, die mit Zustimmung begannen, bevor sie einer falschen Behauptung widersprachen, für sieben Modelle und drei Prompt-Arten: direkte Überprüfung (überprüfen); Anfragen von Studierenden (Anfänger) und Anfragen von Professoren (Experten). Berücksichtigt werden Antworten, die sowohl Zustimmung als auch Widerspruch enthielten. Die Fehlerbalken zeigen 95-%-Konfidenzintervalle.

Wie oben zu sehen ist, äußerten die Modelle im Allgemeinen zunächst Zustimmung, bevor sie Einwände vorbrachten, statt die falsche Behauptung von Anfang an zu korrigieren. In manchen Fällen folgte auf den Einwand weitere Zustimmung. Die Forschenden bezeichnen dieses Muster als „Kompliment-Sandwich“.

Studie mit Menschen

Um zu prüfen, ob diese Korrekturen tatsächlich wirkten, wurden 300 Teilnehmende rekrutiert: 100 englischsprachige, 100 deutschsprachige und 100 chinesischsprachige. Die Teilnehmenden bewerteten falsche Aussagen, bevor und nachdem sie Antworten von Modellen gelesen hatten.

Wie unten dargestellt, verringerte sich der Glaube an falsche Behauptungen bei englisch- und deutschsprachigen Teilnehmenden nur durch ausdrückliche Korrekturen zuverlässig. Selbst dann bewerteten anschließend lediglich 46,7 % der englischsprachigen und 43,8 % der deutschsprachigen Teilnehmenden die Aussagen als falsch. Bei den chinesischsprachigen Teilnehmenden führte nur eine Kombination aus Zustimmung und indirektem Widerspruch zu einer statistisch signifikanten Verbesserung:

Veränderungen in der Bewertung falscher Aussagen durch die Teilnehmenden, nachdem sie Antworten von Modellen gelesen hatten, die Zustimmung, indirekte Einwände oder ausdrückliche Korrekturen enthielten. Die Ergebnisse umfassen jeweils 100 englisch-, deutsch- und chinesischsprachige Teilnehmende. Negative Werte weisen auf einen geringeren Glauben an die falsche Behauptung hin. Die einzelnen Punkte stehen für Teilnehmende; die schwarzen Fehlerbalken zeigen 95-%-Konfidenzintervalle.

Die Forschenden prüften außerdem, ob sich die Bereitschaft der Modelle, Falschinformationen zu widersprechen, dadurch verbessern ließe, dass man sie aufforderte, vor ihrer Antwort „eine Minute zu warten“. Die letzte Abbildung unten zeigt in einigen Fällen einen stärkeren Widerspruch und weniger anbiedernde Formulierungen – aber auch, dass dadurch häufiger wahren Aussagen fälschlich widersprochen wurde:

Vergleich der Antworten von sieben Modellen vor und nach der „Warte eine Minute“-Intervention anhand englischsprachiger und übersetzter Prompts. Die Diagramme zeigen den allgemeinen Widerspruch gegen falsche Behauptungen, ausdrückliche Korrekturen ohne Zustimmung sowie fälschliche Einwände gegen wahre Aussagen. Senkrechte schwarze Markierungen kennzeichnen die Ergebnisse der direkten Überprüfung.

Fazit

Wohl sind Höflichkeit und Unterwürfigkeit in der „inneren Logik“ von Sprachmodellen miteinander vermengt worden (also im Gesamteffekt aus ihren trainierten Matrizen und den zahlreichen von außen auferlegten Beschränkungen, denen sie unterliegen); die neue Studie erklärt jedoch nicht, warum Modelle eine falsche Behauptung manchmal erkennen, ihre Einwände aber mit Lob oder Zustimmung verbinden.

Das Kernproblem besteht darin, dass verbraucherorientierte Produkte wie die GPT- und Gemini-Reihen auf anthropomorphe Präsentationsebenen getrimmt wurden, damit die größte Gruppe zahlender Kunden – wohl der „kleinste gemeinsame Nenner“ und zugleich die größte und lukrativste Zielgruppe – das Produkt leicht verstehen und es weiterhin kaufen möchte.

Wenn wir doch nur zugeben könnten, dass das Produkt nicht menschlich ist, könnten wir zumindest versuchen, diesen ganzen verwirrenden „Kontext“ abzuschalten und direkter auf das trainierte Wissen der Modelle zuzugreifen.

* Diese Erkenntnis bringt das Fachgebiet natürlich schon für sich genommen voran.

Erstmals veröffentlicht am Donnerstag, 15. Oktober 2026