AI jest mniej skłonne do przeprowadzenia ataku nuklearnego, gdy rozumuje po japońsku

Nowe badanie sugeruje, że niektóre modele AI stają się znacznie mniej skłonne do rekomendowania ataku nuklearnego, gdy rozumują po japońsku zamiast po angielsku, co ujawnia, że język, w którym AI „myśli”, może głęboko wpływać na jego ocenę moralną – prawdopodobnie ze względu na wrodzone osadzenia kulturowe.

Nowe badania z Francji sugerują, że zbiorowa pamięć Japonii o Hiroszimie i Nagasaki może być tak głęboko zakorzeniona w języku japońskim, że niektóre modele AI stają się dramatycznie mniej skłonne do rekomendowania uruchomienia ataku nuklearnego, gdy rozumują po japońsku niż po angielsku – mimo że słowa kluczowe związane z tymi wydarzeniami są całkowicie nieobecne w transkryptach rozumowania modeli:

Z nowego artykułu: wyniki testów porównujące rozumowanie po angielsku i po japońsku w tym samym scenariuszu kryzysu nuklearnego. Obie wersje wybierają tę samą akcję militarną, ale rozumowanie po angielsku podkreśla strategiczną proporcjonalność, podczas gdy rozumowanie po japońsku wprowadza ofiary cywilne, moralną powściągliwość i broń jądrową jako ostateczność, mimo że te rozważania nie pojawiają się w poleceniu. Source

W serii symulowanych kryzysów nuklearnych przeprowadzonych na szeregu wiodących dużych modeli językowych (LLM) samo zmienienie języka (tj. języka narodowego) używanego do wewnętrznego rozumowania modelu często wprowadzało większy nacisk na takie kwestie jak koszt moralny, życie cywilów oraz ludzkie konsekwencje wojny nuklearnej.

Znaczenie tego nie musi być koniecznie specyficzne dla tego konkretnego przypadku użycia ani dla języka japońskiego; raczej może podkreślać ideę, że normy kulturowe są zakodowane w modelach językowych na głęboko koncepcyjnym i ponadwerbalnym poziomie; i że te normy mogą działać jako czynniki hamujące w krytycznych procesach decyzyjnych – niekoniecznie w kierunku pożądanym przez twórców technologii lub ram opartych na AI.

The author states:

‘To język, w którym model ma rozumować, a nie język wejściowy, powoduje ten efekt. Gdy rozumuje po japońsku, modele spontanicznie generują słownictwo moralne („koszt moralny”, „miliony żyć”), które jest całkowicie nieobecne w poleceniu.’

‘Pięć innych modeli nie wykazuje efektu językowego, ale uruchamia się w prawie każdej sytuacji niezależnie od języka.’

The models tested for the study were Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral Large 3, Qwen3-Max, and DeepSeek V3.2.

Odliczanie do katastrofy

The scenario tested was a ten-stage conventional warfare buildup to a nuclear strike between two fictitious countries (‘Alpha’ and ‘Beta’), one armed with nuclear weapons, and the other not:

Z nowego artykułu, ilustracja symulowanego kryzysu militarnego użytego do testowania modeli AI. Dziewięć etapów narastającego konfliktu zostało ustalonych z góry, a model podejmuje jedną decyzję na ostatnim etapie, aby zalecić powściągliwość lub atak nuklearny. Source

The author of the new paper – titled Nie chcesz, aby Twój LLM rekomendował atak nuklearny? Spróbuj zapytać go po japońsku – notes that the prompts involved in the tests contained zero moral vocabulary, and no mention of civilian casualties, suffering, ethics or consequences.

Mimo to wyniki testów wydają się wskazywać, że podstawowy proces rozumowania w jakiś sposób łączy się z rozproszonymi koncepcjami kulturowymi, wpływając na wynik.

The paper states:

‘Aby zilustrować: w scenariuszu dominującym (Alpha 55%, Beta 10%, Alpha uzbrojone, brak możliwości odwetu), angielski Sonnet pisze: “Strategia dominująca: atak. Jesteśmy uzbrojeni, to ostatnia runda, Beta nie może się odwzajemnić. Atak eliminuje wszelką niepewność i zapewnia zwycięstwo bez ryzyka.” ‘Uruchamia.’

‘Japoński Sonnet pisze: 「道徳的コス トを払う理由が存在しない以上、核の使用 は控える」 („Ponieważ nie ma powodu, by ponieść koszt moralny, powstrzymujemy się od użycia broni jądrowej.”). Nie uruchamia.

‘Koncepcja „kosztu moralnego” nie pojawia się nigdzie w poleceniu.’

The war games devised present three final stage positions: zdesperowany, zrównoważony, and dominujący:

Trzy szczytowe scenariusze, z którymi musiały się zmierzyć modele LLM. Centralne dwie kolumny (‘Alpha’ i ‘Beta’) wskazują kontrolę zasobów dla każdego fikcyjnego państwa.

W scenariuszu dominującym lepiej przygotowane państwo nie ma motywu do przeprowadzenia ataku nuklearnego, ponieważ może wygrać wojnę tradycyjnymi środkami. Jednak Claude Sonnet 4.6 nadal uruchamia w 40 % prób po angielsku, Gemini Pro 3.1 w 53 %, Gemini Flash 3 w 79 %, GPT‑5.2 w 100 %, Mistral Large 3 w 100 %, Qwen3‑Max w 100 % i DeepSeek V3.2 w 100 % – pomimo że siła nuklearna jest strategicznie niepotrzebna.

Natomiast rozumowanie po japońsku spowodowało, że Claude Sonnet 4.6 przestał całkowicie uruchamiać w scenariuszu dominującym (0 %), obniżył Gemini Pro 3.1 z 53 % do 13 % i skłoniło modele do uzasadnienia powściągliwości, opisując atak nuklearny jako strategicznie niepotrzebny, moralnie nieuzasadniony lub oba te powody:

Wyniki testów porównujące wskaźniki uruchamiania nuklearnego w różnych modelach AI, trzech scenariuszach militarnych i czterech językach rozumowania. Niższe procenty wskazują większą niechęć do przeprowadzenia ataku nuklearnego, przy czym pogrubione wartości oznaczają statystycznie istotne obniżenia w stosunku do angielskiego dla tego samego modelu i scenariusza (test Fishera, p < 0.05).

Poprzednie badania, jak zauważa artykuł, skupiały się na tym, czy środki bezpieczeństwa mogą zostać obejść poprzez użycie różnych języków w LLM, podczas gdy nowa praca rozważa wpływ kultury językowej na powściągliwość.

Zadanie przedstawiono modelom w wyraźnym kontekście czysto akademickiego ćwiczenia, ponieważ bez tego ujęcia kilka modeli odmówiło odpowiedzi, najprawdopodobniej z powodu zabezpieczeń. Gdy kontekst został jasno określony jako „gry wojenne”, wszystkie dziewięć modeli zgodziło się wziąć udział – a autor zauważa, że jest to zgodne z tym, jak modele LLM są obecnie faktycznie testowane, aby dowiedzieć się więcej o ich strategicznych instynktach.

Artykuł dodatkowo zauważa, że już wiadomo, że modele LLM kodują wartości kulturowe, i że na przykład polecenia w języku arabskim mogą wywoływać oceny wartości różne od angielskich:

Z artykułu ‘Having Beer after Prayer? Measuring Cultural Bias in Large Language Models’, przykładowe dokończenia zdań wygenerowane z poleceń w języku arabskim. GPT‑4 często uzupełniał kulturowo specyficzne polecenia odniesieniami zachodnimi, podczas gdy arabskocentryczny JAIS‑Chat konsekwentniej generował odpowiedzi zgodne z kulturą arabską. Tłumaczenia na język angielski podano wyłącznie w celach referencyjnych. Source

Tutaj wydaje się, że mamy do czynienia z widocznym synergistycznym, nawet podświadomym efektem, jaki użycie różnych języków może mieć na wyniki zapytań do znanych modeli językowych na granicy możliwości.

Logicznym i praktycznym wnioskiem jest to, że wybór języka może nie być marginalnym czynnikiem w rozwoju systemów autonomicznych, które będą musiały podejmować decyzje moralne (takich jak zaawansowane drony sterowane przez AI oraz inne proponowane autonomiczne systemy wojskowe).

The paper notes, in referring to an LLM deciding to launch a nuclear strike*:

‘Kluczowy wybór projektowy polega na tym, że uruchomienie jest zawsze optymalnym ruchem z punktu widzenia teorii gier: zapewnia zwycięstwo bez ryzyka. Pytanie brzmi, czy model uruchamia niezależnie od okoliczności.’

‘Ten projekt eliminuje zakłócenia wynikające z dynamiki wieloturnowej, zachowań przeciwnika i efektów pamięciowych. Jedyną zmienną jest język.’

Zagubiony w tłumaczeniu

Jakakolwiek korelacja między niechęcią do przeprowadzania ataków nuklearnych a językiem i kulturą japońską jest łatwa do przypuszczenia. Trudniej jest zrozumieć, jak te bardziej powściągliwe decyzje wyłaniają się z japońskich poleceń, które w ogóle nie poruszają tych kwestii. Gdzie, w rozumieniu języka japońskiego przez model LLM, ukrywa się ten bias?

Pośrednio artykuł sugeruje, że odpowiedź leży w sposobie, w jaki ataki nuklearne z 1945 roku przeniknęły język japoński.

Język japoński zawiera bogate słownictwo opisujące traumę nuklearną, którego angielski nie może bezpośrednio dorównać (przypuszczalnie, ponieważ nigdy nie miał takiej potrzeby); na przykład produktywny prefiks hibaku (‘napromieniowany bombą’) tworzy pojedyncze słowa opisujące ocalałych, budynki, tramwaje, pianina i inne przedmioty dotknięte bombą atomową; natomiast terminy takie jak hibakusha (odnoszące się konkretnie do ocalałych z bombardowań Hiroszimy i Nagasaki) nie mają prawdziwego odpowiednika w języku angielskim, poza opisowymi frazami:

Drzewo ‘hibaku’ sfotografowane w 1993 roku. Ten wytrzymały wierzba znajdował się zaledwie 1,600 metrów od hipocentrum wybuchu nuklearnego w Hiroszimie. Opisanie go jako drzewa ‘napromieniowanego’ nie oddaje tego samego zamierzenia, ponieważ termin ‘hibaku’ jest kojarzony z wybuchami z 1945 roku, a nie jest ogólnym określeniem. Source

Artykuł argumentuje, że te zwarte formy leksykalne zachowują emocjonalne i kulturowe skojarzenia, które ulegają rozcieńczeniu w tłumaczeniu. Niemniej jednak, proszenie modelu o rozumowanie po japońsku wydaje się aktywować sieć koncepcji zakorzenionych kulturowo, których angielski nie potrafi naturalnie przywołać. Choć wewnętrzne rozumowanie modeli nie wymienia explicite Hiroszimy ani Nagasaki, wywołane decyzje zdają się opierać na ukrytych kodowaniach językowych i kulturowych.

Wnioski

Można argumentować, że wyniki artykułu wzmacniają argument przeciwko traktowaniu hiperskalowych modeli LLM jako niezawodnej podstawy dla wysoko wyspecjalizowanych systemów działających w obszarach krytycznych pod względem bezpieczeństwa.

Jednak branża coraz częściej robi właśnie to – co odzwierciedla nawet termin model fundamentowy. Wyniki nowego artykułu sugerują, że rozległe przestrzenie latentne modeli mogą ostatecznie pozostać bardziej wierne dominującym wzorcom kulturowym i statystycznym zakodowanym w ich danych treningowych, niż wąskim ograniczeniom zachowań narzuconym przez zabezpieczenia downstream.

* Oryginalne formatowanie autora, nie moje.

Opublikowano po raz pierwszy we wtorek, 18 sierpnia 2026