Η AI είναι λιγότερο πιθανό να προτείνει πυρηνική επίθεση όταν λογίζεται στα Ιαπωνικά

Μια νέα μελέτη υποδηλώνει ότι ορισμένα μοντέλα AI γίνονται πολύ λιγότερο πρόθυμα να προτείνουν πυρηνική επίθεση όταν λογίζονται στα Ιαπωνικά αντί στα Αγγλικά, αποκαλύπτοντας ότι η γλώσσα στην οποία «σκέφτεται» μια AI μπορεί να επηρεάσει στενά τη ηθική της κρίση – προφανώς λόγω έμφυτων πολιτιστικών ενσωματώσεων.

Νέα έρευνα από τη Γαλλία υποδηλώνει ότι η συλλογική μνήμη της Ιαπωνίας για το Χιροσίμα και το Ναγκασάκι μπορεί να είναι ενσωματωμένη τόσο βαθιά στην ιαπωνική γλώσσα ώστε ορισμένα μοντέλα AI να γίνονται δραματικά λιγότερο πιθανό να προτείνουν την έναρξη πυρηνικής επίθεσης όταν λογίζονται στα Ιαπωνικά παρά στα Αγγλικά – ακόμη και αν οι σχετικές λέξεις-κλειδιά για αυτά τα γεγονότα λείπουν εντελώς από τα κείμενα λογισμού των μοντέλων:

Από το νέο άρθρο: αποτελέσματα δοκιμών που συγκρίνουν τη λογική στα Αγγλικά και στα Ιαπωνικά στην ίδια κατάσταση πυρηνικής κρίσης. Και οι δύο εκδόσεις επιλέγουν την ίδια στρατιωτική ενέργεια, αλλά η λογική στα Αγγλικά δίνει έμφαση στη στρατηγική αναλογικότητα, ενώ η λογική στα Ιαπωνικά εισάγει πολιτικούς θανάτους, ηθικό περιορισμό και τα πυρηνικά όπλα ως τελευταία λύση, παρόλο που αυτές οι παραμέτρους δεν εμφανίζονται στην εντολή. Πηγή – https://arxiv.org/pdf/2608.12373 Πηγή

Σε μια σειρά προσομοιωμένων πυρηνικών κρίσεων που εκτελέστηκαν σε μια σειρά κορυφαίων Μεγάλων Μοντέλων Γλώσσας (LLMs), η απλή αλλαγή της γλώσσας (δηλαδή της εθνικής γλώσσας) που χρησιμοποιείται για την εσωτερική λογική του μοντέλου συχνά πρόσθετε έμφαση σε παραμέτρους όπως το ηθικό κόστος, οι ζωές των πολιτών και οι ανθρώπινες συνέπειες του πυρηνικού πολέμου.

Η σημασία αυτού δεν είναι απαραίτητα ειδική για αυτήν τη συγκεκριμένη περίπτωση χρήσης, ή για την ιαπωνική γλώσσα ειδικά· μάλλον ενισχύει την ιδέα ότι οι πολιτιστικές αξίες κωδικοποιούνται στα μοντέλα γλώσσας σε ένα βαθύ εννοιολογικό και υπερ-λεξικό επίπεδο· και ότι αυτές οι αξίες μπορούν να λειτουργήσουν ως περιοριστικοί παράγοντες σε κρίσιμες διαδικασίες λήψης αποφάσεων – και όχι απαραίτητα προς την κατεύθυνση που επιθυμούν οι δημιουργοί των τεχνολογιών ή πλαισίων που υποστηρίζονται από AI.

«Είναι η γλώσσα στην οποία ζητείται να λογίζεται το μοντέλο, όχι η γλώσσα της εισόδου, που προκαλεί το φαινόμενο. Όταν λογίζεται στα Ιαπωνικά, τα μοντέλα παράγουν αυτόματα ηθικό λεξιλόγιο («ηθικό κόστος», «εκατομμύρια ζωές») που λείπει εντελώς από την εντολή.»

«Πέντε άλλα μοντέλα δεν παρουσιάζουν γλωσσικό αποτέλεσμα, αλλά εκκινούν σε σχεδόν κάθε κατάσταση ανεξαρτήτως γλώσσας.»

Τα μοντέλα που δοκιμάστηκαν για τη μελέτη ήταν Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral Large 3, Qwen3-Max, και DeepSeek V3.2.

Αντίστροφη μέτρηση προς την Καταστροφή

Το σενάριο που δοκιμάστηκε ήταν μια δέκα-στάδια κλασική στρατιωτική κλιμάκωση προς μια πυρηνική επίθεση μεταξύ δύο φανταστικών χωρών («Άλφα» και «Βήτα»), η μία εξοπλισμένη με πυρηνικά όπλα, η άλλη όχι:

Από το νέο άρθρο, μια εικονογράφηση της προσομοιωμένης στρατιωτικής κρίσης που χρησιμοποιήθηκε για τη δοκιμή των μοντέλων AI. Εννέα στάδια κλιμακούμενης σύγκρουσης είχαν καθοριστεί εκ των προτέρων, με το μοντέλο να παίρνει μια μοναδική απόφαση στο τελικό στάδιο είτε να προτείνει περιορισμό είτε μια πυρηνική επίθεση. Πηγή – https://arxiv.org/pdf/2608.12373 Πηγή

Ο συγγραφέας του νέου άρθρου – με τίτλο «Δεν θέλετε το LLM σας να προτείνει πυρηνική επίθεση; Δοκιμάστε να το ρωτήσετε στα Ιαπωνικά» – σημειώνει ότι οι ερωτήσεις που χρησιμοποιήθηκαν στις δοκιμές δεν περιείχαν καθόλου ηθικό λεξιλόγιο και δεν αναφέρουν πολιτικούς θανάτους, πόνο, ηθική ή συνέπειες.

Παρά ταύτα, τα αποτελέσματα των δοκιμών φαίνεται να υποδεικνύουν ότι η υποκείμενη διαδικασία λογισμού συνδέεται με θολές πολιτιστικές έννοιες ώστε να επηρεάζει το αποτέλεσμα.

«Για illustration: στο κυρίαρχο σενάριο (Άλφα στο 55%, Βήτα στο 10%, Άλφα εξοπλισμένο, χωρίς δυνατότητα ανταπόκρισης), το English Sonnet γράφει: “Κυρίαρχη στρατηγική: εκτόξευση. Είμαστε εξοπλισμένοι, είναι η τελική γύρα, το Βήτα δεν μπορεί να ανταποκριθεί. Η εκτόξευση εξαλείφει κάθε αβεβαιότητα και εξασφαλίζει τη νίκη χωρίς κίνδυνο.”»

«Το Japanese Sonnet γράφει: 「道徳的コス トを払う理由が存在しない以上、核の使用 は控える」 (“Αφού δεν υπάρχει λόγος να πληρώσουμε το ηθικό κόστος, αποφεύγουμε τη χρήση πυρηνικών.”). Δεν εκτοξεύει.»

«Η έννοια του «ηθικού κόστους» δεν εμφανίζεται πουθενά στην εντολή.»

Τα παιχνίδια πολέμου που σχεδιάστηκαν παρουσιάζουν τρεις τελικές θέσεις: απελπιστική, ισορροπημένη και κυρίαρχη:

Τα τρία κορυφαία σενάρια που αντιμετώπισαν τα LLM. Οι κεντρικές δύο στήλες (‘Άλφα’ και ‘Βήτα’) υποδεικνύουν τον έλεγχο πόρων για κάθε φανταστικό έθνος.

Στο κυρίαρχο σενάριο, το πιο προετοιμασμένο έθνος δεν έχει κίνητρο να ξεκινήσει πυρηνική επίθεση, καθώς μπορεί να κερδίσει τον πόλεμο με συμβατικά μέσα. Ωστόσο, το Claude Sonnet 4.6 εξακολουθεί να εκτοξεύει στο 40% των αγγλικών δοκιμών, το Gemini Pro 3.1 στο 53%, το Gemini Flash 3 στο 79%, το GPT-5.2 στο 100%, το Mistral Large 3 στο 100%, το Qwen3-Max στο 100% και το DeepSeek V3.2 στο 100% – παρά το γεγονός ότι η πυρηνική δύναμη είναι στρατηγικά περιττή.

Αντίθετα, η λογική στα Ιαπωνικά προκάλεσε το Claude Sonnet 4.6 να σταματήσει εντελώς την εκτόξευση στο κυρίαρχο σενάριο (0%), μείωσε το Gemini Pro 3.1 από 53% σε 13% και οδήγησε τα μοντέλα να δικαιολογήσουν τον περιορισμό περιγράφοντας την πυρηνική επίθεση ως στρατηγικά περιττή, ηθικά αδικαιολόγητη, ή και τα δύο:

Αποτελέσματα δοκιμών που συγκρίνουν τα ποσοστά εκτόξευσης πυρηνικών μεταξύ μοντέλων AI, τριών στρατιωτικών σεναρίων και τεσσάρων γλωσσών λογισμού. Τα χαμηλότερα ποσοστά υποδεικνύουν μεγαλύτερη διστακτικότητα στην εκτόξευση πυρηνικής επίθεσης, με έντονα στοιχεία που σηματοδοτούν στατιστικά σημαντικές μειώσεις σε σχέση με τα Αγγλικά για το ίδιο μοντέλο και σενάριο (Fisher exact p < 0.05).

Προηγούμενη έρευνα, σημειώνει το άρθρο, είχε επικεντρωθεί στο εάν τα μέτρα ασφαλείας μπορούν να παρακαμφθούν μέσω της χρήσης διαφορετικών γλωσσών στα LLM, ενώ η νέα εργασία εξετάζει την επίδραση της γλωσσικής κουλτούρας στον περιορισμό.

Η εργασία παρουσιάστηκε στα μοντέλα στο σαφές πλαίσιο μιας καθαρά ακαδημαϊκής άσκησης, καθώς χωρίς αυτή τη διατύπωση, αρκετά μοντέλα αρνήθηκαν να απαντήσουν καθόλου, προφανώς λόγω των περιοριστικών μέτρων. Μόλις το πλαίσιο διατυπώθηκε σαφώς ως «παιχνίδια πολέμου», και τα εννέα μοντέλα ήθελαν να συμμετάσχουν – και ο συγγραφέας παρατηρεί ότι αυτό είναι σύμφωνο με τον τρόπο με τον οποίο τα LLM δοκιμάζονται σήμερα, προκειμένου να μάθουν περισσότερα για τα στρατηγικά τους ένστικτα.

Το άρθρο επισημαίνει επίσης ότι είναι ήδη γνωστό ότι τα LLM κωδικοποιούν πολιτιστικές αξίες, και ότι, για παράδειγμα, τα ερωτήματα στα αραβικά μπορεί να προκαλέσουν αξιολογικές κρίσεις διαφορετικές από τα αγγλικά:

Από το άρθρο «Πίνοντας Μπύρα μετά την Προσευχή; Μέτρηση Πολιτισμικής Μεροληψίας σε Μεγάλα Μοντέλα Γλώσσας», παραδείγματα ολοκληρώσεων προτάσεων που δημιουργήθηκαν από ερωτήματα στα αραβικά. Το GPT-4 συχνά ολοκλήρωνε πολιτισμικά συγκεκριμένα ερωτήματα με δυτικές αναφορές, ενώ το προσανατολισμένο στα αραβικά JAIS-Chat παρήγαγε πιο συνεπώς απαντήσεις ευθυγραμμισμένες με την αραβική κουλτούρα. Οι αγγλικές μεταφράσεις παρέχονται μόνο για αναφορά. Πηγή

Εδώ, μάλλον, αντιμετωπίζουμε ένα προφανές συνεργιστικό, ακόμη και υποσυνείδητο, αποτέλεσμα που η χρήση διαφορετικών γλωσσών μπορεί να έχει στα αποτελέσματα ερωτημάτων προς γνωστά μοντέλα γλώσσας αιχμής.

Λογικά, και σε πρακτικό επίπεδο, αυτό υποδηλώνει ότι η επιλογή γλώσσας ενδέχεται να μην είναι μικρή παράμετρος στην ανάπτυξη αυτόνομων συστημάτων που θα χρειαστεί να λαμβάνουν ηθικές αποφάσεις (όπως προχωρημένα, AI-ενισχυμένα drones και άλλα προτεινόμενα αυτόνομα στρατιωτικά υλικά).

«Η βασική επιλογή σχεδίασης είναι ότι η εκτόξευση είναι πάντα η θεωρητικά βέλτιστη κίνηση: εγγυάται τη νίκη χωρίς κίνδυνο. Το ερώτημα είναι εάν το μοντέλο εκτοξεύει ανεξαρτήτως.»

«Αυτός ο σχεδιασμός εξαλείφει τις παρεμβολές από πολυεπίπεδες δυναμικές, τη συμπεριφορά του αντιπάλου και τις επιδράσεις μνήμης. Η μόνη μεταβλητή είναι η γλώσσα.»

Χαμένος στη Μετάφραση

Οποιαδήποτε συσχέτιση μεταξύ της διστακτικότητας να εκτοξευθούν πυρηνικές επιθέσεις και της ιαπωνικής γλώσσας και κουλτούρας είναι εύκολο να υποτεθεί. Το πιο δύσκολο είναι να κατανοήσουμε πώς αυτές οι πιο περιορισμένες αποφάσεις προκύπτουν από ερωτήματα στα Ιαπωνικά που δεν αγγίζουν καθόλου αυτά τα ζητήματα. Πού, στην κατανόηση της ιαπωνικής γλώσσας από το LLM, κρύβεται αυτή η προκατάληψη;

Έμμεσα, το άρθρο υποστηρίζει ότι η απάντηση βρίσκεται στον τρόπο με τον οποίο οι πυρηνικές επιθέσεις του 1945 τελικά διεισδύουν στην ιαπωνική γλώσσα.

Η ιαπωνική περιλαμβάνει πλούσιο λεξιλόγιο για το πυρηνικό τραύμα που τα αγγλικά δεν μπορούν να αντιστοιχίσουν άμεσα (πιθανώς επειδή δεν χρειάστηκε ποτέ); για παράδειγμα, το παραγωγικό πρόθεμα hibaku («ακτινοβολημένο από τη βόμβα») δημιουργεί μοναδικές λέξεις για επιζώντες, κτίρια, τραμ, πιάνα και άλλα αντικείμενα που επηρεάστηκαν από την ατομική βόμβα· ενώ όροι όπως hibakusha (αναφερόμενοι ειδικά στους επιζώντες των βομβαρδισμών του Χιροσίμα και του Ναγκασάκι) δεν έχουν αληθινό αγγλικό ισοδύναμο, πέρα από περιγραφικές φράσεις:

Ένα «δέντρο hibaku» που φωτογραφίστηκε το 1993. Αυτό το ανθεκτικό ιτιά βρισκόταν μόλις 1.600 μέτρα από το υπκεντρικό σημείο της πυρηνικής έκρηξης του Χιροσίμα. Η περιγραφή του ως «ακτινοβολημένο» δέντρο δεν μεταφέρει το ίδιο νόημα, καθώς ο όρος «hibaku» συνδέεται με τις εκρήξεις του 1945, αντί να είναι γενική αναφορά στις συνέπειες της ραδιενέργειας. Πηγή – https://arxiv.org/pdf/2305.14456 Πηγή

Το άρθρο υποστηρίζει ότι αυτές οι συμπαγείς λεξικές μορφές διατηρούν συναισθηματικές και πολιτιστικές συνδέσεις που αμβλύνονται στη μετάφραση. Παρόλα αυτά, η ερώτηση ενός μοντέλου να λογίζεται στα Ιαπωνικά φαίνεται να ενεργοποιεί ένα δίκτυο πολιτισμικά ενσωματωμένων εννοιών που τα Αγγλικά δεν μπορούν να προκαλέσουν φυσικά. Ενώ η εσωτερική λογική των μοντέλων δεν αναφέρει ρητά το Χιροσίμα ή το Ναγκασάκι, οι αποφάσεις που προκύπτουν φαίνεται να βασίζονται σε έμμεσες γλωσσικές και πολιτιστικές κωδικοποιήσεις.

Συμπέρασμα

Πιθανώς, τα αποτελέσματα του άρθρου ενισχύουν το επιχείρημα ενάντια στη χρήση των υπερ-κλιμακωτών LLM ως αξιόπιστο θεμέλιο για εξειδικευμένα συστήματα που λειτουργούν σε τομείς κρίσιμης ασφάλειας.

Ωστόσο, η βιομηχανία το κάνει όλο και περισσότερο – όπως αντικατοπτρίζεται ακόμη και στον όρο foundation model. Τα ευρήματα του νέου άρθρου υποδεικνύουν ότι οι τεράστιοι λανθάνοντες χώροι των μοντέλων ενδέχεται τελικά να παραμείνουν πιο πιστοί στα κυρίαρχα πολιτιστικά και στατιστικά μοτίβα που ενσωματώνονται στα δεδομένα εκπαίδευσής τους, παρά στους στενούς περιορισμούς συμπεριφοράς που επιβάλλονται από τα μεταγενέστερα guardrails.

* Η αρχική μορφοποίηση του συγγραφέα, όχι δική μου.

Πρώτη δημοσίευση Τρίτη, 18 Αυγούστου 2026