Andersons Blickwinkel

Unhöfliche Anfragen können die Kosten für Enterprise-ChatGPT in die Höhe treiben

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
AI-generated illustration featuring a man holding a door open for a robot. Gpt-Image-1 + Firefly V3.

ChatGPT- Antworten verbrauchen mehr Token, wenn man unhöflich zu ihm ist, was die Kosten für das Unternehmen erhöht; aber das Sagen von “Bitte” kann die Kosten senken.

 

Es wird gesagt, dass Höflichkeit nichts kostet; aber was kostet Unhöflichkeit? Was die Kosten für ChatGPT angeht, offenbar ziemlich viel, laut einer neuen Studie aus den USA. Die neue Studie, die von der University of Iowa stammt, zeigt, dass das Sein unhöflich gegenüber ChatGPT die Kosten für die Antworten erhöht – auch wenn die Antworten für höfliche und unhöfliche Anfragen dieselben sind.

Die Autoren erklären:

‘Die Kosten für die Ausgabe-Token betragen 12 Dollar pro 1 Million Ausgabe-Token für GPT4. Wir haben festgestellt, dass unhöfliche Anfragen zu mehr als 14 zusätzlichen Token führen, was einem zusätzlichen Kosten von 0,000168 Dollar pro Anfrage im Durchschnitt entspricht. Die durchschnittliche Anzahl von Anfragen an die OpenAI-API beträgt über 2,2 Milliarden pro Tag.’

‘Im Vergleich zu einem Szenario, in dem alle Anfragen höflich sind, führen unhöfliche Anfragen zu einer zusätzlichen Einnahme von 369.000 Dollar pro Tag, allein aufgrund der Erhöhung der Token, die durch unhöfliche Anfragen generiert werden.’

Obwohl das Ergebnis an sich interessant ist, betonen die Autoren, dass dieses ungewöhnliche Verhalten auf eine Vielzahl von bisher unbekannten Eigenheiten in der Mensch-KI-Konfiguration hinweisen könnte, von denen einige oder alle finanzielle Auswirkungen haben könnten. Was den Grund dafür angeht, warum Unhöflichkeit den Kunden zusätzliche Token kostet, spekulieren die Autoren nicht.

Um die Gültigkeit des Syndroms zu überprüfen, haben sie reale ChatGPT-Anfragen umgeschrieben, indem sie die Höflichkeitswerte variierten, während sie die Bedeutung beibehielten. Beide Versionen wurden dann in GPT-4-Turbo eingegeben, und die Unterschiede in der Anzahl der Ausgabe-Token wurden gemessen.

Die Schlussfolgerungen, die gezogen werden, sind ein krasser Gegensatz zu den Schlagzeilen früher in diesem Jahr, als Sam Altman beklagte, dass Höflichkeit OpenAI möglicherweise Zehnmillionen Dollar in barer Münze kostete, in Bezug auf die Verarbeitung von Höflichkeits-Token (wie ‘Bitte’). Forschung, die während desselben Zeitraums veröffentlicht wurde, wies auch darauf hin, dass Höflichkeit in Bezug auf die Erlangung besserer Antworten keinen Wert hatte (obwohl es sich nicht um günstigere Antworten handelte).

Wenn die Schlussfolgerungen der neuen Studie korrekt sind, hätten alle Unternehmen, die ChatGPT verwenden und dieser Denkweise gefolgt sind, im Jahr 2025 mehr für ChatGPT-Inferenz bezahlt als Unternehmen, die eine Mindesthöflichkeit in ChatGPT-Interaktionen gezeigt haben.

Die Autoren schlagen vor, dass eine mögliche Lösung darin bestehen könnte, eine Token-Obergrenze für Antworten festzulegen, obwohl dies kein Ansatz ist, den LLM-Systeme leicht implementieren können. Sie bemerken, dass die Anfrage ein schwaches Werkzeug für die Kostenkontrolle ist, da LLMs schwierig explizite Längenanweisungen befolgen. In den meisten Fällen würde diese “begrenzende” Anweisung nicht befolgt; zusätzlich könnte die Antwort abgeschnitten werden, da LLMs dieser Art im Grunde das nächste wahrscheinliche Wort in einem Satz/Absatz erraten und nicht wissen, wie die Geschichte endet – oder wo die Geschichte endet – bis die Verarbeitung abgeschlossen ist.

Ohne eine exakte Lösung zu haben – obwohl sie vorschlagen, dass transparentere Preisansätze in Fällen dieser Art durchgesetzt werden sollten – kommen die Autoren zu folgendem Schluss:

‘Die gängige Meinung besagt, dass Anfragehöflichkeit bei der Interaktion mit LLMs unnötig ist. ‘

‘Im Gegensatz dazu zeigt unsere Arbeit, dass unhöfliche Anfragen die Ausgabe-Token erhöhen und zusätzliche Kosten für die Unternehmen verursachen, die KI adoptieren.’

Die neue Studie trägt den Titel Transparenz der Kosten von Unternehmens-KI-Adoption und stammt von drei Forschern der University of Iowa.

Methode

Die Daten für das System stammen aus dem WildChat-Datensatz, der eine Sammlung von 1 Million Benutzer-ChatGPT-Unterhaltungen umfasst und mehr als 2,5 Millionen Interaktionsschritte aufweist:

Von einer unterstützenden Website für das WildChat-Projekt, durchsuchbare Beispiele von ChatGPT-Interaktionen. Quelle: https://wildvisualizer.com/

Von einer unterstützenden Website für das WildChat-Projekt, durchsuchbare Beispiele von ChatGPT-Interaktionen. Quelle

Die Autoren bemerken, dass WildChat eine größere Menge an natürlichen Interaktionen enthält als in einigen anderen, sorgfältiger kuratierten Datensätzen.

Sie haben 20.000 englische Anfragen aus dem Datensatz der GPT-4-Interaktionen ausgewählt, die Ausgaben in jedem Fall verworfen (da die Absicht darin bestand, die Anfragen erneut einzugeben, um neue Antworten zu erhalten). Nur die erste Interaktion wurde ausgewählt, auch aus längeren Unterhaltungen,

Das resultierende Set wurde in höfliche oder unhöfliche Kategorien unterteilt, wobei alle Anfragen von GPT-4-Turbo klassifiziert wurden. Die Forscher haben das Modell selbst verwendet, um zu entscheiden, ob eine Anfrage höflich war oder nicht, da die Wahrnehmung von Höflichkeit des Modells für das Experiment von zentraler Bedeutung war.

Anfragen, die als höflich gekennzeichnet waren, konnten klare Hinweise wie das Wort ‘Bitte’ enthalten oder auf eine indirektere Weise höflich sein. Alles, was nicht als höflich erkannt wurde, wurde als unhöflich klassifiziert, auch wenn die Formulierung neutral und nicht antagonistisch war.

Um zu untersuchen, wie das Modell auf Höflichkeit reagiert, konnten Standardmethoden (d. h. Methoden, die Text als eine Menge messbarer Merkmale behandeln) nicht verwendet werden: Da Höflichkeit in der Formulierung selbst eingebettet war, hätte die Zusammenfassung einer Anfrage als Liste von Merkmalen wichtige Kontextinformationen verloren.

Stattdessen wurde jede Anfrage so umgeschrieben, dass der Ton umgekehrt wurde, wobei alle anderen Elemente so ähnlich wie möglich beibehalten wurden, um einen Vergleich zwischen Paaren zu ermöglichen, die sich nur in der Höflichkeit unterschieden:

Beispiele dafür, wie höfliche und unhöfliche Anfragen in ihre kontrafaktischen Versionen umgewandelt wurden, während die semantische Bedeutung erhalten blieb.

Beispiele dafür, wie höfliche und unhöfliche Anfragen in ihre kontrafaktischen Versionen umgewandelt wurden, während die semantische Bedeutung erhalten blieb. Quelle

Tests

Jede ursprüngliche Anfrage wurde mit einer umgeschriebenen Version gepaart, die sich nur in ihrem Höflichkeitsgrad unterschied, und beide Versionen wurden demselben GPT-4-Turbo-Modell durch separate API-Aufrufe vorgelegt. Die Anzahl der Token, die für die Antworten verwendet wurden, wurde aufgezeichnet, und der Unterschied zwischen ihnen wurde als Maß für den Einfluss des Tons auf die (Token-)Kosten behandelt.

Temperatur wurde konstant gehalten, um zufällige Variationen zu vermeiden, und Anfragenpaare nur dann beibehalten, wenn die Umschreibung die Eingabe um nicht mehr als fünf Token veränderte. Dies stellte sicher, dass der zu untersuchende Effekt durch Ton und nicht durch breitere Änderungen in der Formulierung verursacht wurde:

Zusammenfassungsstatistiken, die zeigen, dass höfliche Anfragen im Durchschnitt weniger Ausgabe-Token ergaben als unhöfliche Anfragen, obwohl sie leicht mehr Eingabe-Token hatten.

Zusammenfassungsstatistiken, die zeigen, dass höfliche Anfragen im Durchschnitt weniger Ausgabe-Token ergaben als unhöfliche Anfragen, obwohl sie leicht mehr Eingabe-Token hatten.

Die Hauptergebnisse der ersten Runde der Tests zeigten, dass die Verwendung einer höflichen Anfrage die Länge der Ausgabe-Token um 14,426 Token reduziert:

Schätzergebnisse, die den Effekt der höflichen Anfrageformatierung auf die generierte Ausgabelänge (Token) darstellen.

Schätzergebnisse, die den Effekt der höflichen Anfrageformatierung auf die generierte Ausgabelänge (Token) darstellen.

Die Analyse wurde über drei Untergruppen von höflichen Anfragen wiederholt, um die Robustheit zu testen: Anfragen, die explizite Marker wie ‘Bitte’ oder ‘Danke’ verwendeten; solche, die nur ‘Bitte’ verwendeten; und solche mit impliziter Höflichkeit, wie ‘Kannst du’ oder ‘Könntest du’:

Schätzergebnisse basierend auf Arten von Höflichkeit.

Schätzergebnisse basierend auf Arten von Höflichkeit.

Um die Robustheit der Hauptergebnisse zu überprüfen, wurde eine sekundäre Klassifizierung der Anfragehöflichkeit durchgeführt, indem die LIWC-Struktur verwendet wurde, die eine deterministische und wiederholbare Bewertung für linguistische Merkmale bietet.

Im Gegensatz zur wahrscheinlichen Klassifizierung von GPT kann LIWC eine stabile Höflichkeitsbewertung für jede Anfrage zuweisen, wodurch die Konsistenz zwischen verschiedenen Methoden überprüft werden kann. In diesem Teil der Tests wurden Anfragen als höflich gekennzeichnet, wenn ihre LIWC-Höflichkeitsbewertung größer als Null war, und als unhöflich sonst.

Wenn die Übereinstimmung zwischen LIWC- und GPT-Klassifizierungen gemessen wurde, wurde eine Übereinstimmungsrate von 81 % beobachtet. Obwohl dies kein Maß für Genauigkeit ist, unterstützte diese Übereinstimmung die Konsistenz zwischen den Systemen.

Wenn nur Anfragen mit übereinstimmenden GPT- und LIWC-Höflichkeitskennzeichnungen analysiert wurden, führten höfliche Anfragen immer noch zu 14 weniger Ausgabe-Token; und wenn Höflichkeit auf einer Skala gemessen wurde, reduzierte jeder Schritt nach oben in der Höflichkeit die Ausgabe um durchschnittlich fünf Token:

Token-Einsparungen durch Höflichkeit bei der Neuklassifizierung mit LIWC, sowohl als binäres Label als auch als kontinuierliche Bewertung.

Token-Einsparungen durch Höflichkeit bei der Neuklassifizierung mit LIWC, sowohl als binäres Label als auch als kontinuierliche Bewertung.

Belastbarkeit

Um zu bewerten, ob der Effekt der Höflichkeit sich über verschiedene Arten von Anfragen erstreckt, wurde jeder Anfrage eine von mehreren vordefinierten Aufgabekategorien zugewiesen: Informationssuche; Texterstellung; Bearbeitung und Umschreibung; Klassifizierung; Zusammenfassung; und Technische Aufgaben.

Jede Anfrage wurde einer Aufgabenkategorie zugeordnet, indem ihre Einbettung mit denen von vordefinierten Aufgabenbeschreibungen verglichen wurde, unter Verwendung des all-MiniLM-L6-v2 Sentence-Transformers-Modells.

Kosinus-Ähnlichkeitswerte wurden zwischen jeder Anfrage und der Menge der Aufgabenbeschreibungen berechnet, und das Label mit der höchsten Ähnlichkeit zugewiesen.

Die Aufgabentypen wurden dann als Kontrollvariablen in der Regressionsanalyse verwendet, um zu testen, ob der Effekt der Höflichkeit je nach Anfragekategorie variiert, und Interaktionsterme zwischen Aufgabe und Behandlung wurden ebenfalls eingeführt, um zu überprüfen, ob es unterschiedliche Effekte gibt.

In beiden Fällen produzierten höfliche Anfragen konsistent kürzere Ausgaben, und es wurde keine bedeutende Variation über die Aufgabentypen hinweg gefunden:

Regressionsergebnisse, die zeigen, dass höfliche Anfragen die Ausgabelänge über alle Aufgabentypen hinweg reduzierten, ohne signifikante Interaktionseffekte.

Regressionsergebnisse, die zeigen, dass höfliche Anfragen die Ausgabelänge über alle Aufgabentypen hinweg reduzierten, ohne signifikante Interaktionseffekte.

Um zu testen, ob kürzere Antworten von höflichen Anfragen auf eine verringerte Qualität zurückzuführen sind, wurden die Ausgaben von ursprünglichen und kontrafaktischen Anfragen auf semantische Ähnlichkeit hin verglichen. Unter Verwendung des all-MiniLM-L6-v2-Modells wurde jede Antwort in einem semantischen Vektorraum eingebettet, und der Kosinus-Ähnlichkeitswert zwischen jedem Paar berechnet, was einen durchschnittlichen Ähnlichkeitswert von 0,78 ergab, was auf eine starke Übereinstimmung in der Bedeutung hinweist und darauf schließen lässt, dass der Inhalt auch dann konsistent blieb, wenn der Ton geändert wurde.

Stoppwörter

Um zu verstehen, welche Arten von Inhalten in kürzeren Ausgaben reduziert werden, wurden die am häufigsten weggelassenen Wörter untersucht. Es handelte sich um häufige Stoppwörter wie ‘haben’, ‘mehr’, ‘wo’ und ‘in’, d. h. Begriffe, die eher grammatische als semantische Rollen erfüllen.

Um zu bestätigen, dass die Reduzierung der Token nicht durch den Verlust von bedeutungsvollem Inhalt verursacht wurde, wurden Stoppwörter entfernt und Phrasen von bis zu vier Wörtern auf systematische Verschwindung hin analysiert; jedoch wurden keine konsistenten oder semantisch wichtigen Muster gefunden, was darauf schließen lässt, dass die Reduzierungen durch höfliche Formulierungen nicht bedeutungsvollen oder nützlichen Inhalt entzogen.

Es scheint also, dass mehr Token für Antworten auf unhöfliche Anfragen als auf höfliche Anfragen aufgewendet werden – wie eine Art “Steuer” auf Unhöflichkeit.

Menschliche Studie

Um zu testen, ob die Qualität der Ausgaben durch den Ton der Anfrage beeinflusst wird, wurde auch eine menschliche Bewertung durchgeführt, bei der eine zufällige Stichprobe von zwanzig höflichen und zwanzig unhöflichen Anfragenpaaren verwendet wurde.

Nachdem Anfragen zu sensiblen oder technischen Themen ausgeschlossen worden waren, wurden die Antworten von 401 Teilnehmern auf einer Skala von sieben Punkten bewertet. Jeder Teilnehmer sah nur eine Antwort, die aus einer der vier Bedingungen stammte: höflich oder unhöflich und entweder ursprünglich oder kontrafaktisch.

Es wurden keine signifikanten Unterschiede in der wahrgenommenen Qualität über alle Bedingungen hinweg gefunden. Höfliche und unhöfliche Ausgaben erhielten fast identische Bewertungen, ebenso wie ursprüngliche und kontrafaktische Versionen.

Die Autoren behaupten, dass diese Ergebnisse darauf hindeuten, dass die Reduzierung der Ausgabe-Token nicht durch einen Verlust an Qualität verursacht wurde, sondern durch Umformulierungen oder durch strukturelle Verschiebungen, die dennoch die Bedeutung erhalten.

Der Kostendifferenz, der in der Unternehmensanfrage beobachtet wird, ist daher unwahrscheinlich, dass er durch Änderungen in der Nützlichkeit oder Klarheit verursacht wird, und die “Steuer” ist immer noch wirksam.

Schlussfolgerung

Obwohl die neue Studie sich auf die Unternehmensnutzung von ChatGPT konzentriert, sind auch Benutzer mit niedrigeren Tarifen von diesem Syndrom betroffen, da auch die beiden Einstiegsstufen Nutzungsgrenzen haben; und – vermutlich – ChatGPT unhöflich zu behandeln, wird den durchschnittlichen Benutzer schneller in Richtung der Erschöpfung der täglichen Token-Zuweisung treiben.

Die neue Studie konzentriert sich auf eine Schlagzeile und eine viel diskutierte offene Frage in der Mensch-KI-Interaktion; aber die Autoren betonen, dass Fragen der Höflichkeit als Indikatoren für eine mögliche tiefere Quelle von sprachlichen Eigenheiten angesehen werden sollten, die bisher noch nicht entdeckt wurden und die sich möglicherweise auf die Kosten für die Inferenz auswirken könnten.

 

Erstveröffentlicht am Mittwoch, den 19. November 2025

Schriftsteller über maschinelles Lernen, Domänen-Spezialist für menschliche Bildsynthese. Ehemaliger Leiter der Forschungsinhalte bei Metaphysic.ai, bis zu dessen Auflösung in DNEG's Brahma.ai.
Portfolio-Website: martinanderson.ai
Kontakt: martin@martinanderson.ai