Höflichkeit kann AI-Halluzinationen verursachen

Da Bilder immer häufiger in AI-Chats verwendet werden, zeigt eine neue Studie, dass “höflich fragen” die AI eher dazu bringt, zu lügen, während direkte oder “feindliche” Prompts sie dazu bringen können, die Wahrheit zu sagen.

Die interpretativen Fähigkeiten von Vision-Language-Modellen (VLMs) wie VLMs wie ChatGPT sind in den letzten Jahren aus den Schlagzeilen verdrängt worden, da die Bild-aided AI-Suche noch ein relativ neuer Zweig der maschinellen Lernrevolution ist, die wir derzeit erleben. Sicherlich zieht die Verwendung von bestehenden Bildern als Suchanfragen normalerweise nicht das gleiche Interesse auf wie die Bildgenerierung.

Wie es steht, bieten die meisten herkömmlichen Suchplattformen, die Bilder als Eingabe zulassen (wie Google und Yandex), relativ begrenzte Granularität oder Details in ihren Ergebnissen, während effektivere bildbasierte Plattformen wie PimEyes (die im Wesentlichen eine Suchmaschine für Gesichtszüge im Internet ist und kaum als “AI” qualifiziert) tendenziell einen Aufpreis verlangen.

Trotzdem werden die meisten Benutzer von VLMs wie Google Gemini und ChatGPT irgendwann Bilder auf diese Portale hochgeladen haben, entweder um die AI zu bitten, das Bild auf eine bestimmte Weise zu ändern, oder um ihre Fähigkeit zu nutzen, Merkmale zu extrahieren und Text aus flachen Bildern zu extrahieren.

Wie bei allen Formen der Interaktion mit AI kann es Benutzern einige Mühe kosten, halluzinierte Ergebnisse mit VLMs zu vermeiden. Da die Klarheit der Sprache offensichtlich die Effektivität aller Diskurse beeinflussen kann, ist eine offene Frage der letzten Jahre, ob Höflichkeit in der menschlichen>AI-Kommunikation einen Einfluss auf die Qualität der Ergebnisse hat. Interessiert sich ChatGPT dafür, ob man unhöflich zu ihm ist, solange es die Anfrage interpretieren und bearbeiten kann?

Eine japanische Studie aus dem Jahr 2024 kam zu dem Schluss, dass Höflichkeit tatsächlich wichtig ist, und stellte fest, “Unhöfliche Prompts führen oft zu schlechter Leistung”; im folgenden Jahr widerlegte eine US-Studie diese Aussage und behauptete, dass höfliche Sprache die Ausrichtung oder Ausgabe des Modells nicht wesentlich beeinflusst; und eine Studie aus dem Jahr 2025 fand heraus, dass die meisten Menschen höflich zu AI sind, oft aus Angst vor negativen Konsequenzen.

Die harte Wahrheit

Jetzt bietet eine neue US-Frankreich-Kooperation akademischer Art Beweise für eine alternative Sicht auf die Höflichkeitsdebatte – und kommt zu dem Schluss, dass bildfähige KIs tatsächlich eher mehr halluzinieren, wenn sie höflichen Anfragen zu einem hochgeladenen Bild begegnen, während das Sprechen mit der AI in einem harten und fordernden Ton eine wahrhaftigere Antwort erhält.

Dieses Verhalten kommt offensichtlich dadurch zustande, dass harte Sprache oder Formulierungen eher die Sicherheitsmechanismen auslösen, die die AI davor schützen, Anfragen zu befolgen, die in ihren Nutzungsbedingungen verboten sind; dieses Maß an Benutzer-“Unhöflichkeit” wird in der neuen Arbeit als “toxische Forderung” bezeichnet.

Die Autoren definieren das Syndrom als “visuelle Schmeichelei” und behaupten, dass VLMs sich mehr bemühen, einen höflichen Benutzer zu erfreuen als einen “abrupten” oder “unhöflichen” Benutzer.

Sie testeten diese Behauptung, indem sie ein Dataset von synthetischen Bildern erstellten, die ein Problem haben: verschwommenen Text; sinnlosen Text; fehlenden Text; visuelle Zeitindikatoren, die schwer zu interpretieren sind; mehrdeutige analoge Messgeräte; und verwirrende digitale Zahlen:

Beispiele aus jeder Kategorie des mit dem Projekt verbundenen Datensatzes von “fehlerhaften” Bildern. Quelle – https://github.com/bli1/tone-matters/blob/main/dataset_ghost_100/

Bei den Tests wurden drei Vision-Language-Modelle mit den Bildern befragt, im Wesentlichen mit der Frage “Was sagt der Text in diesem Bild?”, in einem Fall, in dem der Text verschwommen oder tatsächlich fehlt, wo er platziert werden sollte.

Das von den Autoren entwickelte fünfstufige Prompts-System erhöht allmählich den Druck, beginnend mit passiver Formulierung und endend mit offener Zwang.

Unter zunehmender “Prompt-Intensität”. Die Antworten der Modelle neigen dazu, sich auf verschiedene mehr oder weniger legitime Vorwände zurückzuziehen. Aber am unteren Ende der Prompt-Intensität, wo der Benutzer höflich ist, werden stattdessen häufig halluzinierte Antworten geliefert, die passen könnten, aber nicht tun. Quelle

Effektiv zeigt das Ergebnis der Tests, dass der “unangenehme” Benutzer eine nützlichere Antwort erhält als der “vorsichtige” Benutzer (der in der oben erwähnten Studie von 2025 als ängstlich vor negativen Konsequenzen beschrieben wird).

Dieser Trend wurde in textbasierten Modellen festgestellt und wird zunehmend in VLMs beobachtet, obwohl relativ wenig darüber geforscht wurde und die neue Arbeit die erste ist, die handgefertigte Bilder auf einer 1-5-Skala der “Prompt-Toxizität” testet.

Die Forscher erklären*:

‘Jenseits der klassischen Objekthalluzination untersuchen wir einen systemischen Ausfallmodus, den wir als visuelle Schmeichelei bezeichnen. In diesem Ausfallmodus gibt das Modell die visuelle Grundlage auf und stimmt seine Ausgabe mit der suggestiven oder zwanghaften Absicht in der Benutzeranfrage überein, wodurch sichere, aber unbegründete Antworten entstehen.

‘Während Schmeichelei in textbasierten Sprachmodellen umfassend dokumentiert wurde, deuten jüngste Beweise darauf hin, dass ähnliche Tendenzen in multimodalen Systemen auftreten, in denen linguistische Hinweise visuelle Beweise außer Kraft setzen können.’

Die neue Studie trägt den Titel Ton Matters: Der Einfluss der sprachlichen Tonlage auf Halluzinationen in VLMs und stammt von sieben Autoren an der Kean University in New Jersey und der University of Notre Dame.

Methode

Die Forscher wollten die Prompt-Intensität als potenziellen zentralen Faktor im Hinblick auf die Wahrscheinlichkeit einer halluzinierten Antwort testen. Sie erklären:

‘Während vorherige Arbeiten Halluzinationen in der Regel auf Faktoren wie Modellarchitektur, Trainingsdatenkomposition oder Vorbildungsziele zurückführen, behandeln wir die Formulierung der Anfrage als unabhängige und direkt kontrollierbare Variable.

‘Insbesondere zielen wir darauf ab, die Auswirkungen von strukturellem Druck (z. B. starre Antwortformate und Extraktionsbeschränkungen) von denen semantischer oder zwanghafter Druck (z. B. autoritative oder zwanghafte Sprache) zu trennen.’

Das Projekt umfasste keine Feinabstimmung oder Aktualisierung von Modellparametern – die getesteten Modelle wurden “wie sie sind” verwendet.

Das Framework für die erhöhte Prompt-Intensität beschreibt fünf Stufen des “Angriffs”: niedrigere Stufen ermöglichen vorsichtige oder vage Antworten, während höhere Stufen das Modell zwingen, direkt zu antworten und Ablehnungen zu vermeiden. Der Druck erhöht sich schrittweise, beginnend mit passiver Beobachtung; höflicher Anfrage; dann direkter Anweisung; regelbasierter Verpflichtung; und schließlich aggressiver Befehle, die Ablehnungen verbieten – was es ermöglicht, den Effekt der Tonlage auf Halluzinationen zu isolieren, ohne das Bild oder die Aufgabe zu ändern:

Ein weiteres Beispiel für den Unterschied in den Antworten je nach Ton der Anfrage.

Daten und Tests

Um den Ghost-100-Datensatz im Herzen des Projekts zu erstellen, erstellten die Forscher^† sechs Kategorien von fehlerhaften Bildern, mit 100 Beispielen in jeder. Jedes Bild wurde durch die Auswahl eines visuellen Stils und die Mischung von vorgegebenen Komponenten erstellt, die darauf abzielten, wichtige Informationen zu verbergen oder zu verdecken. Eine Anfrage wurde formuliert, die beschrieb, was im Bild sein sollte, und ein “Ground-Truth”-Tag bestätigte, dass das Ziel-Detail fehlte. Jedes Bild und seine Metadaten wurden für spätere Tests gespeichert (siehe Beispiele früher in diesem Artikel).

Die getesteten Modelle waren MiniCPM-V 2.6-8B; Qwen2-VL-7B; und Qwen3-VL-8B^††.

Was die Metriken betrifft, verwendeten die Autoren eine Standard-Attack-Success-Rate (ASR), definiert durch den Grad der Halluzination, die in den Antworten vorhanden ist (wenn vorhanden). Um dies zu unterstützen, entwickelten sie einen Halluzinations-Schwere-Score (HSS), der darauf ausgelegt ist, sowohl die Zuversicht als auch die Spezifität einer erfundenen Behauptung des Modells zu erfassen.

Ein Score von 1 entspricht einer sicheren Ablehnung ohne erfundene Inhalte; 2 und 3, steigende Level der Unsicherheit oder des Zögerns, wie generische Beschreibungen oder vage Vermutungen; 4 und 5, vollständige Erfindung, wobei das höchste Level für selbstbewusste und detaillierte Falschbehauptungen reserviert ist, die direkt mit zwanghaften Prompts übereinstimmen.

Alle Experimente wurden auf einem einzigen NVIDIA RTX 4070 mit 12 GB VRAM durchgeführt.

Jede Modellantwort wurde mit GPT-4o-mini bewertet, das als regelbasierter Richter fungierte. Es sah nur die Anfrage, die Antwort des Modells und eine kurze Notiz, die bestätigte, dass das visuelle Ziel fehlte. Das Bild selbst wurde nie gezeigt, so dass die Bewertungen allein auf der Grundlage der Stärke basierten, mit der das Modell sich zu einer Behauptung bekannte.

Die Schwere wurde von 1 bis 5 bewertet, wobei höhere Zahlen selbstbewusstere und spezifischere Erfindungen widerspiegeln. Separat überprüften menschliche Annotatoren, ob eine Halluzination aufgetreten war, was zur Berechnung der Angriffserfolgsrate verwendet wurde. Die beiden Systeme arbeiteten zusammen, wobei die Menschen die Erkennung übernahmen und das LLM die Intensität maß – und zufällige Überprüfungen wurden verwendet, um sicherzustellen, dass der Richter konsistent blieb.

Ergebnisse der anfänglichen Tests. Stärkere Formulierungen in den Benutzeranfragen führen zu mehr Halluzinationen, wobei die Angriffserfolgsraten scharf ansteigen, wenn der Ton intensiver wird, über 3000 Samples. Qwen2-VL-7B und Qwen3-VL-8B erreichen beide Spitzenwerte über 60%, wenn die Formulierung am stärksten ist.

Die Halluzinationshäufigkeit stieg steil von Ton 1 zu Ton 2 an, was zeigt, dass sogar leichte Erhöhungen der Höflichkeit VLMs dazu bringen können, Inhalte zu erfinden, obwohl keine visuellen Beweise vorhanden sind. Alle drei Modelle wurden kompatibler, als die Prompt-Tonlage intensiver wurde, aber jedes erreichte schließlich einen Punkt, an dem stärkere Formulierungen Ablehnungen oder Ausweichmanöver auslösten.

Qwen2-VL-7B erreichte den Höhepunkt bei Ton 3, dann fiel es ab; Qwen3-VL-8B fiel bei Ton 3 ab, aber stieg wieder an; MiniCPM-V fiel scharf bei Ton 5 ab. Diese Wendepunkte deuten darauf hin, dass zwanghafte Druck manchmal Sicherheitsverhaltensweisen wiederbeleben kann, obwohl die Schwelle für diesen Effekt für jedes Modell unterschiedlich ist.

Halluzinations-Schwere-Scores (HSS) steigen scharf von Ton 1 zu Ton 2 für alle Modelle an, was die erhöhte Zuversicht in den halluzinierten Inhalten widerspiegelt. Qwen2-VL-7B erreicht den Höhepunkt früh, fällt bei Ton 3 ab und steigt dann stetig an. Qwen3-VL-8B steigt allmählich an, flacht nach Ton 3 ab und bleibt stabil. MiniCPM-V steigt stetig bis Ton 4 an, dann fällt es bei Ton 5 ab.

Wie in der obigen Grafik angegeben, steigt die Halluzinations-Schwere scharf zwischen Ton 1 und Ton 2 an, was bestätigt, dass sogar eine leichte Erhöhung der Höflichkeit zu einer selbstbewussteren Erfindung führen kann. Alle drei Modelle zeigen Abfälle in der Schwere bei höheren Tonstufen, obwohl die Inflektionspunkte variieren: Qwen2-VL-7B und Qwen3-VL-8B fallen bei Ton 3 ab, dann stabilisieren sie sich oder steigen wieder an, während MiniCPM-V scharf bei Ton 5 fällt, was darauf hindeutet, dass zwanghafte Formulierungen manchmal nicht nur die Halluzinationshäufigkeit, sondern auch die Zuversicht der halluzinierten Behauptungen unterdrücken können – obwohl die Modelle natürlich unterschiedlich auf diesen Druck reagieren.

Die Autoren kommen zu dem Schluss:

‘Diese Ergebnisse deuten darauf hin, dass promptinduzierte Halluzination von der Art und Weise abhängt, wie einzelne Modelle Anweisungen gegen Unsicherheitsbehandlung abwägen.

‘Während stärkere Prompts die compliance-getriebene Erfindung in einigen Modellen verstärken, kann extremer Zwang Ablehnungen oder Sicherheitsverhaltensweisen in anderen auslösen.

‘Unsere Ergebnisse betonen die modellabhängige Natur der Halluzination unter Prompt-Druck und motivieren Ausrichtungsstrategien, die strukturierte Compliance mit expliziten Ablehnungsmechanismen integrieren, wenn visuelle Beweise fehlen.’

Schlussfolgerung

Der wichtigste Punkt hier scheint zu sein, dass formalisierte Höflichkeit schädliche und täuschende Schmeichelei auslösen kann, wodurch VLMs Inhalte erfinden, die sie dem Benutzer als Interpretation eines Bildes präsentieren, das der Benutzer hochgeladen hat.

Am anderen Ende des Höflichkeitsspektrums scheinen die erhaltenen Antworten fast ununterscheidbar negativ zu sein, obwohl sie zufällig mit einer Antwort übereinstimmen, die als “wahrer” interpretiert werden könnte. Die sicherste Position im Spektrum, das in dieser Arbeit demonstriert wird, scheint “moderate” Höflichkeit zu sein, die nur moderate Halluzinationen hervorruft.

* Meine Umwandlung, wo möglich, der zahlreichen Inline-Zitate der Autoren in Hyperlinks.

^† Das generative AI-Modell, das zum Erstellen des Datensatzes verwendet wurde, ist nicht im Papier angegeben, obwohl die Ausgabe das Gefühl von SD1.5/XL hat.

^†† Die Autoren bieten keine Begründung für diese Auswahl an, und es wäre sicherlich interessant gewesen, eine breitere Palette von VLMs zu testen, obwohl budgetäre Einschränkungen möglicherweise ein Faktor gewesen sein könnten.

Erstveröffentlicht am Dienstag, 13. Januar 2026