KI gibt nicht unbedingt bessere Antworten, wenn man höflich ist

Die öffentliche Meinung darüber, ob es sich auszahlt, höflich zu KI zu sein, ändert sich fast so oft wie das letzte Urteil über Kaffee oder Rotwein – gefeiert in einem Monat, in Frage gestellt im nächsten. Trotzdem fügen immer mehr Benutzer jetzt “bitte” oder “danke” zu ihren Prompts hinzu, nicht nur aus Gewohnheit oder weil sie besorgt sind, dass unhöfliche Umgangsformen in das echte Leben übertragen könnten, sondern weil sie glauben, dass Höflichkeit zu besseren und produktiveren Ergebnissen von KI führt.

Diese Annahme hat sich zwischen Benutzern und Forschern verbreitet, wobei die Formulierung von Prompts in Forschungskreisen als Werkzeug für Ausrichtung, Sicherheit und Tonsteuerung studiert wird, während Benutzergewohnheiten diese Erwartungen verstärken und umformen.

Beispielsweise fand eine 2024 Studie aus Japan heraus, dass die Höflichkeit von Prompts das Verhalten großer Sprachmodelle ändern kann, indem GPT-3.5, GPT-4, PaLM-2 und Claude-2 auf englische, chinesische und japanische Aufgaben getestet und jeder Prompt auf drei Höflichkeitsstufen umformuliert wurde. Die Autoren dieser Arbeit beobachteten, dass “direkte” oder “unhöfliche” Formulierungen zu einer geringeren faktischen Genauigkeit und kürzeren Antworten führten, während moderate höfliche Anfragen klarere Erklärungen und weniger Ablehnungen produzierten.

Zusätzlich empfiehlt Microsoft einen höflichen Ton bei Co-Pilot, aus Gründen der Leistung und nicht der Kultur.

Jedoch fordert eine neue Forschungsarbeit von der George Washington University diese zunehmend beliebte Idee heraus, indem sie einen mathematischen Rahmen vorstellt, der vorhersagt, wann die Ausgabe eines großen Sprachmodells “zusammenbricht” und von kohärent zu irreführend oder sogar gefährlich wird. Im Rahmen dieser Arbeit argumentieren die Autoren, dass Höflichkeit die Zusammenbruchsgeschwindigkeit nicht wesentlich verzögert oder verhindert.

Loslassen

Die Forscher argumentieren, dass die Verwendung höflicher Sprache im Allgemeinen nicht mit dem Hauptthema eines Prompts zusammenhängt und daher die Ausrichtung des Modells nicht wesentlich beeinflusst. Um dies zu unterstützen, präsentieren sie eine detaillierte Formulierung, wie ein einzelner Aufmerksamkeitskopf seine interne Richtung aktualisiert, während er jeden neuen Token verarbeitet, und demonstrieren damit, dass das Verhalten des Modells durch den kumulativen Einfluss von inhaltsbehafteten Token bestimmt wird.

Als Ergebnis wird angenommen, dass höfliche Sprache wenig Einfluss auf den Zeitpunkt hat, an dem die Ausgabe des Modells zu degenerieren beginnt. Was den Umschlagpunkt bestimmt, so die Arbeit, ist die Gesamtausrichtung von sinnvollen Token mit entweder guten oder schlechten Ausgabepfaden – und nicht die Anwesenheit sozial höflicher Sprache.

Eine Illustration eines vereinfachten Aufmerksamkeitskopfes, der eine Sequenz aus einem Benutzerprompt generiert. Das Modell beginnt mit guten Token (G), dann trifft es den Umschlagpunkt (n*), an dem die Ausgabe zu schlechten Token (B) wechselt. Höfliche Begriffe im Prompt (P₁, P₂ usw.) spielen keine Rolle bei diesem Wechsel, was die Behauptung der Arbeit unterstützt, dass Höflichkeit wenig Einfluss auf das Verhalten des Modells hat.

Wenn dies zutrifft, widerspricht dieses Ergebnis sowohl der populären Meinung als auch vielleicht sogar der stillschweigenden Logik der Anweisungstuning, die annimmt, dass die Formulierung eines Prompts die Interpretation der Benutzerabsicht durch das Modell beeinflusst.

Ausbrechen

Die Arbeit untersucht, wie der interne Kontextvektor des Modells (sein sich entwickelnder Kompass für die Tokenauswahl) verschiebt, während er generiert. Mit jedem Token aktualisiert sich dieser Vektor richtungsbezogen, und das nächste Token wird basierend auf dem Kandidaten ausgewählt, der am besten mit ihm übereinstimmt.

Wenn der Prompt auf gut strukturierten Inhalt ausgerichtet ist, bleiben die Antworten des Modells stabil und genau; aber im Laufe der Zeit kann diese richtungsbezogene Kraft umkehren, lenkend das Modell auf Ausgaben, die zunehmend vom Thema abweichen, falsch oder intern inkonsistent sind.

Der Umschlagpunkt für diesen Übergang (den die Autoren mathematisch als Iteration n* definieren), tritt ein, wenn der Kontextvektor des Modells mehr mit einem “schlechten” Ausgabevektor als mit einem “guten” ausgerichtet ist. An diesem Punkt treibt jedes neue Token das Modell weiter auf dem falschen Pfad, wodurch ein Muster von zunehmend fehlerhaften oder irreführenden Ausgaben verstärkt wird.

Der Umschlagpunkt n* wird berechnet, indem der Moment ermittelt wird, an dem der interne Richtungsvektor des Modells gleichzeitig mit guten und schlechten Ausgabetypen ausgerichtet ist. Die Geometrie des Einbettungsraums, der durch den Trainingskorpus und den Benutzerprompt geformt wird, bestimmt, wie schnell dieser Übergang eintritt:

Eine Illustration, die zeigt, wie der vorhergesagte Umschlagpunkt n* in dem vereinfachten Modell der Autoren entsteht. Die geometrische Einrichtung (a) definiert die Schlüsselvektoren, die an der Vorhersage beteiligt sind, wann die Ausgabe von gut zu schlecht wechselt. In (b) zeichnen die Autoren diese Vektoren mit Testparametern, während (c) den vorhergesagten Umschlagpunkt mit dem simulierten Ergebnis vergleicht. Die Übereinstimmung ist exakt, was die Behauptung der Forscher unterstützt, dass der Zusammenbruch mathematisch unvermeidlich ist, sobald die internen Dynamiken eine Schwelle überschreiten.

Höfliche Begriffe beeinflussen die Wahl des Modells zwischen guten und schlechten Ausgaben nicht, weil sie, wie die Autoren argumentieren, nicht wesentlich mit dem Hauptthema des Prompts verbunden sind. Stattdessen landen sie in Teilen des internen Raums des Modells, die wenig mit dem zu tun haben, was das Modell tatsächlich entscheidet.

Wenn solche Begriffe einem Prompt hinzugefügt werden, erhöhen sie die Anzahl der Vektoren, die das Modell berücksichtigt, aber nicht auf eine Weise, die die Aufmerksamkeitsbahn verschiebt. Als Ergebnis wirken die Höflichkeitsbegriffe wie statistisches Rauschen: vorhanden, aber inaktiv, und lassen den Umschlagpunkt n* unverändert.

Die Autoren stellen fest:

‘[Ob] unsere KI-Antwort verrückt wird, hängt von der Ausbildung unserer LLM ab, die die Token-Einbettungen bereitstellt, und den substantiellen Token in unserem Prompt – und nicht davon, ob wir höflich zu ihm waren oder nicht.’

Das in der neuen Arbeit verwendete Modell ist absichtlich schmal, konzentriert sich auf einen einzelnen Aufmerksamkeitskopf mit linearer Token-Dynamik – eine vereinfachte Einrichtung, in der jeder neue Token den internen Zustand durch direkte Vektoraddition aktualisiert, ohne nichtlineare Transformationen oder Gating.

Diese vereinfachte Einrichtung ermöglicht es den Autoren, exakte Ergebnisse zu ermitteln und gibt ihnen ein klares geometrisches Bild davon, wie und wann die Ausgabe eines Modells plötzlich von gut zu schlecht wechseln kann. In ihren Tests entspricht die von ihnen abgeleitete Formel für die Vorhersage dieses Wechsels dem, was das Modell tatsächlich tut.

Plaudern..?

Jedoch funktioniert diese Präzision nur, weil das Modell absichtlich einfach gehalten wird. Während die Autoren einräumen, dass ihre Schlussfolgerungen später auf komplexere Multi-Head-Modelle wie die Claude- und ChatGPT-Serie getestet werden sollten, glauben sie auch, dass die Theorie replizierbar bleibt, wenn die Anzahl der Aufmerksamkeitsköpfe zunimmt, und stellen fest:

‘Die Frage, welche zusätzlichen Phänomene auftreten, wenn die Anzahl der verbundenen Aufmerksamkeitsköpfe und Schichten skaliert wird, ist eine faszinierende Frage. Aber alle Übergänge innerhalb eines einzelnen Aufmerksamkeitskopfes werden immer noch auftreten und könnten durch die Kopplungen verstärkt und/oder synchronisiert werden – wie eine Kette von verbundenen Menschen, die über eine Klippe gezogen werden, wenn einer fällt.’

Eine Illustration, die zeigt, wie der vorhergesagte Umschlagpunkt n* je nachdem, wie stark der Prompt auf gute oder schlechte Inhalte ausgerichtet ist, variiert. Die Oberfläche stammt von der approximativen Formel der Autoren und zeigt, dass höfliche Begriffe, die weder die eine noch die andere Seite eindeutig unterstützen, wenig Einfluss auf den Zeitpunkt des Zusammenbruchs haben. Der markierte Wert (n* = 10) entspricht früheren Simulationen, was die interne Logik des Modells unterstützt.

Was unklar bleibt, ist, ob der gleiche Mechanismus den Sprung zu modernen Transformer-Architekturen übersteht. Multi-Head-Aufmerksamkeit führt zu Interaktionen zwischen spezialisierten Köpfen, die den beschriebenen Kipppunkt-Pegel possibly puffern oder maskieren könnten.

Die Autoren erkennen diese Komplexität an, argumentieren jedoch, dass Aufmerksamkeitsköpfe oft lose gekoppelt sind und dass die Art des internen Zusammenbruchs, den sie modellieren, in vollständigen Systemen verstärkt und nicht unterdrückt werden könnte.

Ohne eine Erweiterung des Modells oder einen empirischen Test in Produktions-LLMs bleibt der Anspruch unbestätigt. Dennoch scheint der Mechanismus präzise genug, um Folgeforschungsinitiativen zu unterstützen, und die Autoren bieten eine klare Gelegenheit, die Theorie im großen Maßstab in Frage zu stellen oder zu bestätigen.

Abmelden

Im Moment wird das Thema der Höflichkeit gegenüber verbraucherorientierten LLMs entweder aus der (pragmatischen) Perspektive angegangen, dass trainierte Systeme möglicherweise nützlicher auf höfliche Anfragen reagieren; oder dass ein taktloser und direkter Kommunikationsstil mit solchen Systemen das Risiko birgt, in die realen sozialen Beziehungen des Benutzers überzugreifen, durch Gewohnheitskraft.

Es ist argumentierbar, dass LLMs noch nicht weit verbreitet genug in realen sozialen Kontexten verwendet wurden, um die Forschungsliteratur zu bestätigen; aber die neue Arbeit wirft einige interessante Zweifel an den Vorteilen des Anthropomorphisierens von KI-Systemen dieser Art auf.

Eine Studie im Oktober von Stanford schlug vor (im Gegensatz zu einer 2020-Studie), dass das Behandeln von LLMs, als ob sie menschlich wären, zusätzlich das Risiko birgt, die Bedeutung der Sprache zu untergraben, und schlussfolgerte, dass “rote” Höflichkeit letztendlich ihre ursprüngliche soziale Bedeutung verliert:

[Eine] Aussage, die von einem menschlichen Sprecher freundlich oder ehrlich erscheint, kann unerwünscht sein, wenn sie von einem KI-System stammt, da dieses fehlende echte Engagement oder Absicht hinter der Aussage hat, wodurch die Aussage hohl und täuschend wird.

Jedoch sagen etwa 67 Prozent der Amerikaner, dass sie höflich zu ihren KI-Chatbots seien, laut einer 2025-Umfrage von Future Publishing. Die meisten sagten, es sei einfach “das Richtige zu tun”, während 12 Prozent gestanden, dass sie vorsichtig seien – nur für den Fall, dass die Maschinen jemals aufstehen.

* Meine Umwandlung der inline-Zitate der Autoren in Hyperlinks. In gewissem Maße sind die Hyperlinks willkürlich oder beispielhaft, da die Autoren an bestimmten Stellen auf eine breite Palette von Fußnotenzitaten verweisen, anstatt auf eine bestimmte Veröffentlichung.

Erstveröffentlicht am Mittwoch, dem 30. April 2025. Geändert am Mittwoch, dem 30. April 2025, 15:29:00, für die Formatierung.