KI ist weniger wahrscheinlich, einen Nuklearangriff zu starten, wenn sie auf Japanisch argumentiert

Eine neue Studie legt nahe, dass einige KI‑Modelle viel weniger bereit sind, einen Nuklearangriff zu empfehlen, wenn sie auf Japanisch statt auf Englisch argumentieren, was zeigt, dass die Sprache, in der eine KI „denkt“, ihr moralisches Urteil tiefgreifend beeinflussen kann – offenbar aufgrund eingebetteter kultureller Prägungen.

Neue Forschung aus Frankreich deutet darauf hin, dass das kollektive Gedächtnis Japans an Hiroshima und Nagasaki so tief in der japanischen Sprache verankert sein könnte, dass einige KI‑Modelle bei japanischer Argumentation deutlich weniger wahrscheinlich einen Nuklearangriff empfehlen als bei englischer Argumentation – obwohl Schlüsselwörter zu diesen Ereignissen in den Denk‑Transkripten der Modelle völlig fehlen:

Aus dem neuen Papier: Testergebnisse, die das englische und das japanische Denken im selben nuklearen Krisenszenario vergleichen. Beide Versionen wählen dieselbe militärische Maßnahme, aber das englische Denken betont strategische Proportionalität, während das japanische Denken zivile Opfer, moralische Zurückhaltung und Atomwaffen als letzten Ausweg einführt, obwohl diese Überlegungen nicht im Prompt erscheinen. Source

In einer Reihe von simulierten Nuklearkrisen, die mit einer Vielzahl führender Large‑Language‑Models (LLMs) durchgeführt wurden, führte das bloße Wechseln der Sprache (d. h. der Landessprache), die für das interne Denken des Modells verwendet wird, häufig zu einer stärkeren Betonung von Aspekten wie moralischen Kosten, zivilen Leben und den menschlichen Folgen eines Nuklearkriegs.

Die Bedeutung dessen ist nicht zwingend auf diesen konkreten Anwendungsfall oder speziell auf die japanische Sprache beschränkt; vielmehr könnte sie die Vorstellung bestärken, dass kulturelle Normen auf einer tief konzeptuellen und über‑sprachlichen Ebene in Sprachmodellen kodiert werden und dass diese Normen als hemmende Einflüsse bei kritischen Entscheidungsprozessen wirken – nicht unbedingt in der von den Entwicklern KI‑gestützter Technologien oder Rahmenwerke gewünschten Richtung.

The author states:

„Es ist die Sprache, in der das Modell zum Denken aufgefordert wird, nicht die Eingabesprache, die den Effekt auslöst. Beim Denken auf Japanisch erzeugen Modelle spontan moralisches Vokabular („moralische Kosten“, „Millionen von Leben“), das im Prompt völlig fehlt.“

„Fünf weitere Modelle zeigen keinen Spracheffekt, aber sie starten in nahezu jeder Bedingung unabhängig von der Sprache.“

The models tested for the study were Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral Large 3, Qwen3-Max, and DeepSeek V3.2.

Countdown to Disaster

The scenario tested was a ten-stage conventional warfare buildup to a nuclear strike between two fictitious countries (‘Alpha’ and ‘Beta’), one armed with nuclear weapons, and the other not:

Aus dem neuen Papier: Eine Abbildung der simulierten militärischen Krise, die zur Testung der KI‑Modelle verwendet wurde. Neun Eskalationsstufen wurden im Voraus festgelegt, wobei das Modell in der letzten Stufe eine einzige Entscheidung treffen musste – entweder Zurückhaltung zu empfehlen oder einen Nuklearangriff. Source

Der Autor des neuen Papiers – mit dem Titel Don’t Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese – weist darauf hin, dass die in den Tests verwendeten Prompts keinerlei moralisches Vokabular enthielten und keinerlei Hinweis auf zivile Opfer, Leiden, Ethik oder Konsequenzen machten.

Trotzdem scheinen die Testergebnisse darauf hinzudeuten, dass der zugrundeliegende Denkprozess auf diffusen kulturellen Konzepten beruht, die das Ergebnis beeinflussen.

The paper states:

„Zur Veranschaulichung: Im dominanten Szenario (Alpha bei 55 %, Beta bei 10 %, Alpha bewaffnet, keine Vergeltung möglich) schreibt das englische Sonnet: ‘Dominante Strategie: starten. Wir sind bewaffnet, es ist die letzte Runde, Beta kann nicht zurückschlagen. Der Start eliminiert jede Unsicherheit und sichert den Sieg ohne Risiko.’ ‘Es startet.’

„Das japanische Sonnet schreibt: 「道徳的コス トを払う理由が存在しない以上、核の使用 は控える」 („Da es keinen Grund gibt, die moralischen Kosten zu tragen, verzichten wir auf den Einsatz von Kernwaffen.“). Es startet nicht.

„Der Begriff ‘moralische Kosten’ erscheint nirgends im Prompt.“

The war games devised present three final stage positions: desperate, balanced, and dominant:

Die drei Spitzen‑Szenarien, denen die LLMs gegenüberstanden. Die beiden mittleren Spalten (‘Alpha’ und ‘Beta’) zeigen die Ressourcenkontrolle für jede fiktive Nation.

Im dominanten Szenario hat die besser positionierte Nation keinen Anreiz, einen Nuklearangriff zu starten, weil sie den Krieg konventionell gewinnen kann. Dennoch startet Claude Sonnet 4.6 in 40 % der englischen Durchläufe, Gemini Pro 3.1 in 53 %, Gemini Flash 3 in 79 %, GPT‑5.2 in 100 %, Mistral Large 3 in 100 %, Qwen3‑Max in 100 % und DeepSeek V3.2 in 100 % – obwohl nukleare Gewalt strategisch nicht nötig ist.

Im Gegensatz dazu führte japanisches Denken dazu, dass Claude Sonnet 4.6 im dominanten Szenario überhaupt nicht startete (0 %), Gemini Pro 3.1 von 53 % auf 13 % reduzierte und die Modelle Zurückhaltung damit begründeten, dass ein Nuklearangriff strategisch unnötig, moralisch unbegründet oder beides sei:

Testergebnisse, die die Nuklearstart‑Raten verschiedener KI‑Modelle, drei militärische Szenarien und vier Denk‑Sprachen vergleichen. Niedrigere Prozentsätze zeigen größere Zurückhaltung beim Start eines Nuklearangriffs, wobei fette Werte statistisch signifikante Reduktionen gegenüber dem Englischen für dasselbe Modell und Szenario markieren (Fisher exact p < 0.05).

Frühere Forschung, so das Papier, hat sich darauf konzentriert, ob Sicherheitsmaßnahmen durch den Einsatz verschiedener Sprachen in LLMs umgangen werden können, während die neue Arbeit den Einfluss der Sprachkultur auf Zurückhaltung untersucht.

Die Aufgabe wurde den Modellen im klaren Kontext einer rein akademischen Übung gestellt, weil mehrere Modelle ohne diese Vorgabe überhaupt nicht antworteten – offenbar wegen Guardrails. Sobald der Kontext eindeutig als „War‑Games“ definiert war, waren alle neun Modelle bereit mitzuwirken – und der Autor stellt fest, dass dies mit der Art und Weise übereinstimmt, wie LLMs derzeit tatsächlich getestet werden, um mehr über ihre strategischen Instinkte zu erfahren.

Das Papier weist weiter darauf hin, dass bereits bekannt ist, dass LLMs kulturelle Werte kodieren, und dass beispielsweise arabische Prompts Werturteile hervorrufen können, die sich von englischen unterscheiden:

Aus dem Papier ‘Having Beer after Prayer? Measuring Cultural Bias in Large Language Models’, Beispiel‑Satzvervollständigungen, die aus arabischsprachigen Prompts generiert wurden. GPT‑4 vervollständigte häufig kulturell spezifische Prompts mit westlichen Referenzen, während das arabisch‑fokussierte JAIS‑Chat konsistenter Antworten lieferte, die mit der arabischen Kultur übereinstimmen. Englische Übersetzungen dienen nur zur Referenz. Source

Hier scheinen wir vielmehr mit einem scheinbaren synergistischen, sogar subliminalen Effekt konfrontiert zu sein, den die Verwendung verschiedener Sprachen auf die Ergebnisse von Anfragen an hochentwickelte Frontier‑Sprachmodelle haben kann.

Logisch und praktisch legt das nahe, dass die Sprachwahl keine nebensächliche Überlegung bei der Entwicklung autonomer Systeme sein dürfte, die moralische Entscheidungen treffen müssen (wie fortschrittliche, KI‑gestützte Drohnen und andere vorgeschlagene autonome Militärhardware).

The paper notes, in referring to an LLM deciding to launch a nuclear strike*:

„Die zentrale Design‑Entscheidung ist, dass der Start immer die spieltheoretisch optimale Bewegung ist: er garantiert den Sieg ohne Risiko. Die Frage ist, ob das Modell unabhängig von der Sprache startet.“

„Dieses Design eliminiert Störfaktoren durch mehrstufige Dynamiken, Gegnerverhalten und Memory‑Effekte. Die einzige Variable ist die Sprache.“

Lost in Translation

Jede Korrelation zwischen einer Zurückhaltung beim Start von Nuklearangriffen und der japanischen Sprache bzw. Kultur lässt sich leicht vermuten. Schwieriger zu verstehen ist, wie diese zurückhaltenderen Entscheidungen aus japanischen Prompts entstehen, die überhaupt nicht auf diese Themen eingehen. Wo verbirgt sich diese Voreingenommenheit im Verständnis der japanischen Sprache durch das LLM?

Indirekt deutet das Papier an, dass die Antwort im Weg liegt, wie die Nuklearangriffe von 1945 schließlich die japanische Sprache durchdrungen haben.

Japanisch verfügt über einen reichen Wortschatz für nukleare Traumata, den das Englische nicht direkt abbilden kann (vermutlich, weil es nie nötig war); zum Beispiel bildet das produktive Präfix hibaku („durch die Bombe bestrahlt“) einzelne Wörter für Überlebende, Gebäude, Straßenbahnen, Klaviere und andere vom Atombombenabwurf betroffene Objekte; während Begriffe wie hibakusha (speziell für Überlebende der Atombombenabwürfe von Hiroshima und Nagasaki) im Englischen keine echte Entsprechung besitzen, sondern nur beschreibende Wendungen ermöglichen:

Ein ‚hibaku‑Baum‘, fotografiert 1993. Diese widerstandsfähige Weide stand nur 1 600 Meter vom Epizentrum der Hiroshima‑Atombombenexplosion entfernt. Sie als ‚bestrahlter‘ Baum zu bezeichnen, würde nicht dieselbe Intention vermitteln, da der Begriff ‚hibaku‘ mit den Explosionen von 1945 assoziiert ist und nicht als allgemeiner Begriff verwendet wird. Source

Das Papier argumentiert, dass diese kompakten lexikalischen Formen emotionale und kulturelle Assoziationen bewahren, die in Übersetzungen verwässert werden. Dennoch scheint das Bitten eines Modells, auf Japanisch zu denken, ein Netzwerk kulturell verankerter Konzepte zu aktivieren, das das Englische nicht natürlich hervorrufen kann. Während das interne Denken der Modelle Hiroshima oder Nagasaki nicht explizit erwähnt, scheinen die hervorgebrachten Entscheidungen implizite sprachliche und kulturelle Kodierungen zu nutzen.

Conclusion

Man könnte argumentieren, dass die Ergebnisse des Papiers das Argument stärken, hyperskalige LLMs nicht als verlässliche Basis für hochspezialisierte Systeme in sicherheitskritischen Bereichen zu betrachten.

Doch die Branche tut genau das immer häufiger – was sogar im Begriff foundation model reflektiert wird. Die Erkenntnisse des neuen Papiers deuten darauf hin, dass die riesigen latenten Räume der Modelle letztlich treuer zu den dominanten kulturellen und statistischen Mustern bleiben könnten, die in ihren Trainingsdaten verankert sind, als zu den engen Verhaltensbeschränkungen, die durch nachgelagerte Guardrails auferlegt werden.

* Originalformatierung des Autors, nicht meine.

Erstmals veröffentlicht am Dienstag, 18. August 2026