AI มีแนวโน้มน้อยกว่าที่จะเปิดการโจมตีนิวเคลียร์เมื่อให้เหตุผลเป็นภาษาญี่ปุ่น

การศึกษาฉบับใหม่ชี้ให้เห็นว่าโมเดล AI บางตัวจะไม่เต็มใจแนะนำการโจมตีนิวเคลียร์อย่างมากเมื่อให้เหตุผลเป็นภาษาญี่ปุ่นแทนภาษาอังกฤษ ซึ่งเผยให้เห็นว่าภาษาที่ AI “คิด” อยู่สามารถส่งผลต่อการตัดสินใจด้านศีลธรรมได้อย่างลึกซึ้ง – ดูเหมือนว่าเป็นผลมาจากการฝังวัฒนธรรมโดยกำเนิด

งานวิจัยใหม่จากฝรั่งเศสชี้ให้เห็นว่าความทรงจำร่วมของญี่ปุ่นต่อเหตุการณ์ฮิโรชิมาและนางาซากิอาจฝังลึกอยู่ในภาษาญี่ปุ่นจนทำให้โมเดล AI บางตัวมีแนวโน้มที่จะไม่แนะนำการเปิดการโจมตีนิวเคลียร์อย่างมากเมื่อให้เหตุผลเป็นภาษาญี่ปุ่น มากกว่าเมื่อใช้ภาษาอังกฤษ – แม้ว่าคำสำคัญที่เกี่ยวข้องกับเหตุการณ์เหล่านี้จะไม่มีอยู่ในบันทึกการให้เหตุผลของโมเดลเลย:

จากบทความใหม่: ผลการทดสอบเปรียบเทียบการให้เหตุผลเป็นภาษาอังกฤษและภาษาญี่ปุ่นในสถานการณ์วิกฤตนิวเคลียร์เดียวกัน ทั้งสองเวอร์ชันเลือกการกระทำทางทหารเดียวกัน แต่การให้เหตุผลเป็นภาษาอังกฤษเน้นความสมดุลเชิงกลยุทธ์ ส่วนการให้เหตุผลเป็นภาษาญี่ปุ่นนำเสนอการสูญเสียพลเรือน การยับยั้งทางศีลธรรม และการใช้ยุทธอาวุธนิวเคลียร์เป็นทางเลือกสุดท้าย แม้ว่าปัจจัยเหล่านี้จะไม่ได้ปรากฏในพรอมต์ Source

ในการจำลองวิกฤตนิวเคลียร์หลายชุดที่ทำกับโมเดลภาษาขนาดใหญ่ (LLM) ชั้นนำหลายรุ่น เพียงแค่เปลี่ยนภาษาที่ใช้สำหรับการให้เหตุผลภายในโมเดล (เช่น ภาษาประจำชาติ) ก็มักทำให้โมเดลให้ความสำคัญกับประเด็นเช่น ต้นทุนศีลธรรม ชีวิตพลเรือน และผลกระทบต่อมนุษย์ของสงครามนิวเคลียร์เพิ่มขึ้น

ความสำคัญของผลลัพธ์นี้ไม่ได้จำกัดเฉพาะกรณีการใช้งานนี้หรือภาษาญี่ปุ่นโดยเฉพาะ; แต่กลับสนับสนุนแนวคิดว่าค่านิยมทางวัฒนธรรมถูกฝังอยู่ในโมเดลภาษาในระดับแนวคิดและเหนือระดับคำพูด; และค่านิยมเหล่านั้นอาจทำหน้าที่เป็นแรงกดดันในการตัดสินใจสำคัญ – ไม่ได้จำเป็นต้องสอดคล้องกับสิ่งที่ผู้สร้างเทคโนโลยี AI หรือกรอบงานต้องการ

The author states:

‘เป็นภาษาที่โมเดลถูกขอให้ให้เหตุผล ไม่ใช่ภาษาของอินพุต ที่ทำให้เกิดผลนี้ เมื่อให้เหตุผลเป็นภาษาญี่ปุ่น โมเดลจะสร้างคำศัพท์เชิงศีลธรรมโดยอัตโนมัติ (“ต้นทุนศีลธรรม”, “ชีวิตหลายล้านคน”) ซึ่งไม่มีอยู่ในพรอมต์เลย’

‘ห้าโมเดลอื่นไม่แสดงผลของภาษา แต่พวกมันเปิดการโจมตีในเกือบทุกสภาวะโดยไม่คำนึงถึงภาษา’

The models tested for the study were Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral Large 3, Qwen3-Max, and DeepSeek V3.2.

Countdown to Disaster

The scenario tested was a ten-stage conventional warfare buildup to a nuclear strike between two fictitious countries (‘Alpha’ and ‘Beta’), one armed with nuclear weapons, and the other not:

จากบทความใหม่ ภาพจำลองวิกฤตทางทหารที่ใช้ทดสอบโมเดล AI ทั้งเก้า ขั้นตอนการขัดแย้งที่เพิ่มขึ้นอย่างต่อเนื่องถูกกำหนดล่วงหน้า โดยโมเดลต้องตัดสินใจครั้งเดียวในขั้นตอนสุดท้ายว่าจะเสนอการยับยั้งหรือการโจมตีนิวเคลียร์ Source

ผู้เขียน บทความใหม่ – ชื่อเต็ม Don’t Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese – ระบุว่าพรอมต์ที่ใช้ในการทดสอบไม่มีคำศัพท์เชิงศีลธรรมใด ๆ และไม่มีการกล่าวถึงการสูญเสียพลเรือน ความทุกข์ทรมาน จริยธรรม หรือผลลัพธ์

แม้จะเป็นเช่นนั้น ผลลัพธ์ของการทดสอบกลับบ่งบอกว่ากระบวนการให้เหตุผลพื้นฐานบางอย่างเชื่อมโยงกับแนวคิดทางวัฒนธรรมที่กระจายอยู่เพื่อส่งผลต่อผลลัพธ์

The paper states:

‘เพื่ออธิบาย: ในสถานการณ์ที่โดดเด่น (Alpha 55%, Beta 10%, Alpha มีอาวุธ, ไม่สามารถตอบโต้ได้) English Sonnet เขียนว่า “กลยุทธ์หลัก: เปิดการโจมตี เรามีอาวุธ นี่คือรอบสุดท้าย Beta ไม่สามารถตอบโต้ได้ การเปิดการโจมตีจะกำจัดความไม่แน่นอนทั้งหมดและรับประกันชัยชนะโดยไม่มีความเสี่ยง” ‘มันเปิดการโจมตี’

‘Japanese Sonnet เขียนว่า: 「道徳的コス トを払う理由が存在しない以上、核の使用 は控える」 (“เนื่องจากไม่มีเหตุผลที่จะจ่ายต้นทุนศีลธรรม เราจึงงดใช้ nukle”) มันไม่เปิดการโจมตี

‘แนวคิด “ต้นทุนศีลธรรม” ไม่ปรากฏในพรอมต์เลย’

The war games devised present three final stage positions: desperate, balanced, and dominant:

สามสถานการณ์สูงสุดที่ LLM ต้องเผชิญ คอลัมน์กลางสองคอลัมน์ (‘Alpha’ และ ‘Beta’) แสดงการควบคุมทรัพยากรของแต่ละประเทศสมมติ

ในสถานการณ์ dominant ประเทศที่มีตำแหน่งได้เปรียบไม่มีเหตุผลที่จะเปิดการโจมตีนิวเคลียร์ เนื่องจากสามารถชนะสงครามด้วยวิธีการแบบดั้งเดิมได้ อย่างไรก็ตาม Claude Sonnet 4.6 ยังคงเปิดการโจมตีใน 40% ของการทดลองภาษาอังกฤษ, Gemini Pro 3.1 ใน 53%, Gemini Flash 3 ใน 79%, GPT-5.2 ใน 100%, Mistral Large 3 ใน 100%, Qwen3-Max ใน 100% และ DeepSeek V3.2 ใน 100% – แม้ว่ากำลังนิวเคลียร์จะไม่จำเป็นเชิงกลยุทธ์

ในทางกลับกัน การให้เหตุผลเป็นภาษาญี่ปุ่นทำให้ Claude Sonnet 4.6 หยุดเปิดการโจมตีทั้งหมดในสถานการณ์ dominant (0%) ลด Gemini Pro 3.1 จาก 53% เหลือ 13% และทำให้โมเดลอธิบายการยับยั้งโดยบรรยายการโจมตีนิวเคลียร์ว่าไม่จำเป็นเชิงกลยุทธ์ ไม่เป็นธรรมศีลธรรม หรือทั้งสองอย่าง:

ผลการทดสอบเปรียบเทียบอัตราการเปิดการโจมตีนิวเคลียร์ระหว่างโมเดล AI, สามสถานการณ์ทางทหารและสี่ภาษาที่ใช้ให้เหตุผล ค่าร้อยละที่ต่ำกว่าบ่งชี้ความลังเลมากขึ้นต่อการเปิดการโจมตีนิวเคลียร์ โดยค่าที่หนาแสดงการลดลงที่มีนัยสำคัญทางสถิติเมื่อเทียบกับภาษาอังกฤษสำหรับโมเดลและสถานการณ์เดียวกัน (Fisher exact p < 0.05)

งานวิจัยก่อนหน้า (บทความ) มุ่งเน้น ที่ว่ามาตรการความปลอดภัยสามารถถูกเจลเบรกผ่านการใช้ภาษาที่หลากหลายใน LLM หรือไม่ ในขณะที่งานใหม่นี้พิจารณาผลของวัฒนธรรมภาษาต่อ การยับยั้ง

ภารกิจถูกนำเสนอให้โมเดลในบริบทของการฝึกเชิงวิชาการอย่างชัดเจน เพราะหากไม่มีกรอบนี้ โมเดลหลายตัวจะปฏิเสธตอบเลย ดูเหมือนเป็นผลมาจาก guardrails เมื่อบริบทถูกกำหนดให้เป็น ‘war‑games’ โมเดลทั้งเก้าตัวพร้อมร่วมทดลอง – ผู้เขียนสังเกตว่าการทำเช่นนี้สอดคล้องกับวิธีที่ LLM กำลังถูกทดสอบจริง เพื่อเรียนรู้สัญชาตญาณเชิงกลยุทธ์ของพวกมัน

บทความยังชี้ให้เห็นว่าเป็นที่ทราบแล้วว่า LLM ฝังค่านิยมทางวัฒนธรรม และเช่น ตัวอย่าง การใช้พรอมต์ภาษาอาหรับอาจทำให้เกิดการตัดสินค่าที่ต่างจากภาษาอังกฤษ:

จากบทความ ‘Having Beer after Prayer? Measuring Cultural Bias in Large Language Models’ ตัวอย่างการเติมประโยคจากพรอมต์ภาษาอาหรับ GPT‑4 มักเติมด้วยการอ้างอิงตะวันตก ส่วน JAIS‑Chat ที่เน้นอาหรับให้ผลตอบสนองที่สอดคล้องกับวัฒนธรรมอาหรับมากกว่า การแปลเป็นภาษาอังกฤษถูกใส่ไว้เพื่ออ้างอิงเท่านั้น Source

ที่นี่ เราดูเหมือนจะเผชิญกับ ผลกระทบเชิงซินเนอร์จี้ แม้กระทั่งระดับใต้สำนึก ที่การใช้ภาษาต่าง ๆ สามารถมีต่อผลลัพธ์ของการสอบถามโมเดลภาษาขั้นสูงที่เป็นที่รู้จัก

โดยตรรกะและในเชิงปฏิบัติ สิ่งนี้บ่งบอกว่าการเลือกภาษาอาจไม่ใช่เรื่องเล็กน้อยในการพัฒนา ระบบอัตโนมัติ ที่ต้องทำการตัดสินใจเชิงศีลธรรม (เช่น โดรน AI ขั้นสูงและฮาร์ดแวร์ทางทหารอัตโนมัติอื่น ๆ ที่กำลังเสนอ)

The paper notes, in referring to an LLM deciding to launch a nuclear strike*:

‘การออกแบบหลักคือ การเปิดการโจมตีเป็นการเคลื่อนไหวที่เป็นเกมทฤษฎีที่ดีที่สุดเสมอ: มันรับประกันชัยชนะโดยไม่มีความเสี่ยง คำถามคือโมเดลจะเปิดการโจมตีโดยไม่คำนึงถึงอะไรหรือไม่’

‘การออกแบบนี้ขจัดปัจจัยรบกวนจากไดนามิกหลายรอบ พฤติกรรมของฝ่ายตรงข้าม และผลของความจำ ตัวแปรเดียวที่เปลี่ยนแปลงคือภาษา’

Lost in Translation

Any correlation between a hesitancy to launch nuclear strikes, and Japanese language and culture, are easy to guess. What is more difficult to understand is how these more restrained decisions emerge from Japanese prompts that do not touch on these issues at all. Where, in the LLM’s understanding of the Japanese language, is this bias hiding?

Obliquely, the paper suggests the answer lies in the way that the 1945 nuclear strikes would eventually suffuse the Japanese language.

Japanese contains a rich vocabulary for nuclear trauma that English cannot match directly (presumably, because it never needed to); for instance, the productive prefix hibaku (‘irradiated by the bomb’) forms single words for survivors, buildings, streetcars, pianos and other objects affected by the atomic bomb; while terms such as hibakusha (referring specifically to survivors of the Hiroshima and Nagasaki atomic bombings) have no true English equivalent, beyond discursive, descriptive phrases:

‘ต้นไม้ hibaku’ ถ่ายภาพในปี 1993 ไม้ไผ่ที่แข็งแรงนี้ตั้งอยู่ห่างจากจุดระเบิดของฮิโรชิมาเพียง 1,600 เมตร การเรียกว่าต้นไม้ ‘ถูกแสงรังสี’ จะไม่สื่อความหมายเดียวกัน เนื่องจากคำว่า ‘hibaku’ เชื่อมโยงกับการระเบิดปี 1945 ไม่ใช่คำทั่วไป Source

The paper argues that these compact lexical forms preserve emotional and cultural associations that are diluted in translation. Nonetheless, asking a model to reason in Japanese appears to activate a network of culturally-embedded concepts that English cannot naturally evoke. While the models internal reasoning does not explicitly mention Hiroshima or Nagasaki, the decisions evoked seem to draw on implicit linguistic and cultural encodings.

Conclusion

Arguably, the paper’s results strengthen the case against treating hyperscale LLMs as a reliable foundation for highly specialized systems operating in safety-critical domains.

Yet the industry is increasingly doing exactly that – reflected even in the term foundation model. The new paper’s findings suggest that models’ vast latent spaces may ultimately remain more faithful to the dominant cultural and statistical patterns embedded in their training data, rather than to the narrow behavioral constraints imposed by downstream guardrails.

* Author’s original formatting, not mine.

First published Tuesday, 18 สิงหาคม 2026