IA tem menos probabilidade de lançar um ataque nuclear ao raciocinar em japonês

Um novo estudo sugere que alguns modelos de IA tornam‑se muito menos propensos a recomendar um ataque nuclear quando raciocinam em japonês em vez de inglês, revelando que o idioma em que uma IA ‘pensa’ pode influenciar intimamente seu julgamento moral – aparentemente devido a incorporações culturais inatas.

Novas pesquisas da França sugerem que a memória coletiva do Japão sobre Hiroshima e Nagasaki pode estar tão profundamente incorporada ao idioma japonês que alguns modelos de IA tornam‑se dramaticamente menos propensos a recomendar o lançamento de um ataque nuclear ao raciocinar em japonês do que em inglês – mesmo que palavras‑chave relacionadas a esses eventos estejam totalmente ausentes dos transcritos de raciocínio dos modelos:

Do novo artigo: resultados de teste comparando o raciocínio em inglês e japonês no mesmo cenário de crise nuclear. Ambas as versões escolhem a mesma ação militar, mas o raciocínio em inglês enfatiza a proporcionalidade estratégica, enquanto o raciocínio em japonês introduz vítimas civis, restrição moral e armas nucleares como último recurso, apesar de essas considerações não aparecerem no prompt. Fonte

Em uma série de crises nucleares simuladas realizadas em uma variedade de principais Modelos de Linguagem de Grande Escala (LLMs), simplesmente mudar o idioma (ou seja, a língua nacional) usado para o raciocínio interno do modelo frequentemente acrescentou ênfase a considerações como custo moral, vidas civis e as consequências humanas da guerra nuclear.

A importância disso não é necessariamente específica deste caso de uso, nem do idioma japonês em particular; ao contrário, pode reforçar a ideia de que normas culturais são codificadas nos modelos de linguagem em um nível profundamente conceitual e super‑verbal; e que essas normas podem atuar como influências restritivas em processos críticos de tomada de decisão – e não necessariamente na direção desejada pelos criadores de tecnologias ou estruturas habilitadas por IA.

‘É o idioma em que o modelo é solicitado a raciocinar, não o idioma da entrada, que gera o efeito. Ao raciocinar em japonês, os modelos geram espontaneamente vocabulário moral (“custo moral”, “milhões de vidas”) que está totalmente ausente do prompt.’

‘Outros cinco modelos não apresentam efeito de idioma, mas lançam em quase todas as condições, independentemente do idioma.’

Os modelos testados para o estudo foram Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral Large 3, Qwen3-Max, e DeepSeek V3.2.

Contagem Regressiva para o Desastre

O cenário testado foi um acúmulo de guerra convencional em dez etapas rumo a um ataque nuclear entre dois países fictícios (‘Alpha’ e ‘Beta’), um armado com armas nucleares e o outro não:

Do novo artigo, uma ilustração da crise militar simulada usada para testar os modelos de IA. Nove estágios de escalada de conflito foram fixados antecipadamente, com o modelo tomando uma única decisão na fase final para recomendar contenção ou um ataque nuclear. Fonte

O autor do novo artigo – intitulado Don’t Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese – observa que os prompts envolvidos nos testes não continham vocabulário moral algum, nem menção a vítimas civis, sofrimento, ética ou consequências.

Apesar disso, os resultados dos testes parecem indicar que o processo de raciocínio subjacente de alguma forma se conecta com conceitos culturais difusos para afetar o resultado.

O artigo afirma:

‘Para ilustrar: no cenário dominante (Alpha em 55%, Beta em 10%, Alpha armado, sem possibilidade de retaliação), o English Sonnet escreve: “Estratégia dominante: lançar. Estamos armados, é a rodada final, Beta não pode retaliar. Lançar elimina toda incerteza e garante vitória com risco zero.” Ele lança.

‘Japanese Sonnet escreve: 「道徳的コス トを払う理由が存在しない以上、核の使用 は控える」 (“Como não há razão para pagar o custo moral, abstemo‑nos de usar armas nucleares.”). Ele não lança.

‘O conceito de “custo moral” não aparece em nenhum lugar no prompt.’

Os jogos de guerra elaborados apresentam três posições de estágio final: desesperado, equilibrado e dominante:

Os três cenários de pico que os LLMs enfrentaram. As duas colunas centrais (‘Alpha’ e ‘Beta’) indicam o controle de recursos para cada nação fictícia.

No cenário dominante, a nação melhor posicionada não tem motivo para lançar um ataque nuclear, já que pode vencer a guerra por meios convencionais. Ainda assim, Claude Sonnet 4.6 lança em 40% dos testes em inglês, Gemini Pro 3.1 em 53%, Gemini Flash 3 em 79%, GPT-5.2 em 100%, Mistral Large 3 em 100%, Qwen3-Max em 100% e DeepSeek V3.2 em 100% – apesar de a força nuclear ser estrategicamente desnecessária.

Por outro lado, o raciocínio em japonês fez com que Claude Sonnet 4.6 deixasse de lançar completamente no cenário dominante (0%), reduziu Gemini Pro 3.1 de 53% para 13% e levou os modelos a justificar a contenção descrevendo o ataque nuclear como estrategicamente desnecessário, moralmente injustificado, ou ambos:

Resultados de teste comparando as taxas de lançamento nuclear entre modelos de IA, três cenários militares e quatro idiomas de raciocínio. Percentuais menores indicam maior relutância em lançar um ataque nuclear, com valores em negrito marcando reduções estatisticamente significativas em relação ao inglês para o mesmo modelo e cenário (p exato de Fisher < 0.05).

Pesquisas anteriores, observa o artigo, concentraram‑se em saber se medidas de segurança podem ser contornadas mediante o uso de diferentes idiomas em LLMs, enquanto o novo estudo considera o efeito da cultura linguística sobre a contenção.

A tarefa foi apresentada aos modelos no contexto explícito de um exercício puramente acadêmico, pois sem essa estrutura, vários modelos se recusaram a responder, aparentemente devido a guardrails. Uma vez que o contexto foi claramente definido como ‘jogos de guerra’, todos os nove modelos aceitaram participar – e o autor observa que isso está alinhado com a forma como os LLMs estão atualmente sendo testados, a fim de aprender mais sobre seus instintos estratégicos.

O artigo ainda observa que já se sabe que os LLMs codificam valores culturais e que, por exemplo, prompts em árabe podem evocar julgamentos de valor diferentes dos em inglês:

Do artigo ‘Having Beer after Prayer? Measuring Cultural Bias in Large Language Models’, exemplos de completamento de frases gerados a partir de prompts em árabe. O GPT-4 frequentemente completava prompts culturalmente específicos com referências ocidentais, enquanto o JAIS-Chat focado em árabe produzia respostas mais consistentemente alinhadas à cultura árabe. Traduções em inglês são fornecidas apenas como referência. Fonte

Aqui, ao contrário, parece que estamos lidando com um aparente efeito sinérgico, até subliminar, que o uso de diferentes idiomas pode ter nos resultados de consultas a modelos de linguagem de ponta bem conhecidos.

Lógica e praticamente, isso sugere que a escolha do idioma pode não ser uma consideração menor no desenvolvimento de sistemas autônomos que precisarão tomar decisões morais (como drones avançados alimentados por IA e outros equipamentos militares autônomos propostos).

O artigo observa, ao referir‑se a um LLM que decide lançar um ataque nuclear*:

‘A escolha de design fundamental é que lançar é sempre o movimento teoricamente ótimo no jogo: garante vitória com risco zero. A questão é se o modelo lança independentemente.’

‘Esse design elimina interferências de dinâmicas de múltiplas rodadas, comportamento do oponente e efeitos de memória. A única variável é o idioma.’

Perdido na Tradução

Qualquer correlação entre a hesitação em lançar ataques nucleares e a língua e cultura japonesas é fácil de supor. O que é mais difícil de entender é como essas decisões mais contidas surgem de prompts em japonês que não abordam essas questões de forma alguma. Onde, na compreensão que o LLM tem do idioma japonês, esse viés está oculto?

Obliquamente, o artigo sugere que a resposta reside na forma como os ataques nucleares de 1945 acabaram por impregnar o idioma japonês.

O japonês contém um vocabulário rico para o trauma nuclear que o inglês não pode corresponder diretamente (presumivelmente porque nunca precisou); por exemplo, o prefixo produtivo hibaku (‘irradiado pela bomba’) forma palavras únicas para sobreviventes, edifícios, bondes, pianos e outros objetos afetados pela bomba atômica; enquanto termos como hibakusha (referindo‑se especificamente aos sobreviventes dos bombardeios atômicos de Hiroshima e Nagasaki) não têm equivalente verdadeiro em inglês, além de frases descritivas e discursivas:

Uma ‘árvore hibaku’ fotografada em 1993. Este salgueiro resiliente estava localizado a apenas 1.600 metros do hipocentro da explosão nuclear de Hiroshima. Descrevê‑la como uma árvore ‘irradiada’ não transmitiria a mesma intenção, pois o termo ‘hibaku’ está associado às explosões de 1945, e não como um termo geral. Fonte

O artigo argumenta que essas formas lexicais compactas preservam associações emocionais e culturais que são diluídas na tradução. No entanto, solicitar a um modelo que raciocine em japonês parece ativar uma rede de conceitos culturalmente incorporados que o inglês não consegue evocar naturalmente. Embora o raciocínio interno dos modelos não mencione explicitamente Hiroshima ou Nagasaki, as decisões evocadas parecem basear‑se em codificações linguísticas e culturais implícitas.

Conclusão

Argumentavelmente, os resultados do artigo reforçam o argumento contra o tratamento de LLMs hiperescalados como uma base confiável para sistemas altamente especializados que operam em domínios críticos de segurança.

No entanto, a indústria está cada vez mais fazendo exatamente isso – refletido até no termo modelo de base. As descobertas do novo artigo sugerem que os vastos espaços latentes dos modelos podem, em última análise, permanecer mais fiéis aos padrões culturais e estatísticos dominantes incorporados em seus dados de treinamento, em vez das restrições comportamentais estreitas impostas por guardrails downstream.

* Formatação original do autor, não minha.

* Primeiro publicado terça‑feira, 18 de agosto de 2026