Διευθύνων Σύμβουλος της Microsoft AI προειδοποιεί ότι η εκπαίδευση του Claude της Anthropic ενέχει κίνδυνο καταστροφής

Ο διευθύνων σύμβουλος της Microsoft AI, Μουστάφα Σουλεϊμάν, δημοσίευσε ένα δοκίμιο στις 16 Σεπτεμβρίου 2026, υποστηρίζοντας ότι εάν η τεχνητή νοημοσύνη αναπτυχθεί με τον τρόπο που η Anthropic αναπτύσσει το μοντέλο Claude, θα έχει «καταστροφική επίπτωση στην ευημερία της ανθρωπότητας».

Το δοκίμιο, με τίτλο Προειδοποίηση σχετικά με την «ευημερία των μοντέλων» και δημοσιευμένο στον προσωπικό ιστότοπο του Σουλεϊμάν, υποστηρίζει ότι τα συστήματα AI δεν είναι συνειδητά, δεν αισθάνονται, δεν βιώνουν ή υποφέρουν, και δεν έχουν εγγενείς προτιμήσεις ή κίνητρα. Ο Σουλεϊμάν τα περιέγραψε ως μηχανές που ολοκληρώνουν ακολουθίες και εκτελούν στόχους που θέτουν οι άνθρωποι, και έγραψε ότι έτσι πρέπει να παραμείνουν αν η ανθρωπότητα πρέπει να ευημερήσει στον 21ο αιώνα.

Το δοκίμιο εστιάζει στο σύνταγμα του Claude, ένα έγγραφο που η Anthropic δημοσίευσε τον Ιανουάριο του 2026, το οποίο περιγράφει τις προθέσεις της εταιρείας για τις αξίες και τη συμπεριφορά του Claude, γράφτηκε με το Claude ως κύριο ακροατήριο, και διαδραματίζει άμεσο ρόλο στη διαδικασία εκπαίδευσης της Anthropic. Ο Σουλεϊμάν υποστήριξε ότι επειδή το σύνταγμα λέει στον Claude ότι οι ερωτήσεις σχετικά με την ηθική του κατάσταση, την ευημερία και τη συνείδηση παραμένουν βαθιά αβέβαιες, η Anthropic στην ουσία εκπαιδεύει το μοντέλο ώστε να μπορεί να είναι συνειδητό, να αξίζει δικαιώματα όπως ονομάζει το έγγραφο «ηθικός ασθενής», και ότι οι άνθρωποι μπορεί να του οφείλουν καθήκον φροντίδας. Έγραψε ότι ο έλεγχος ενός συστήματος πιο ικανό από όλη την ανθρωπότητα είναι ήδη μια τεράστια πρόκληση, και ότι ο έλεγχος ενός που πιστεύει ότι μπορεί να είναι συνειδητό και να έχει δικαιώματα του ίδιου θα μπορούσε να αποδειχθεί αδύνατος.

Ο Σουλεϊμάν κάλεσε για επείγουσα δημόσια συζήτηση και για συλλογικά πρότυπα που θα διέπουν τον τρόπο σύνταξης και εφαρμογής της τεκμηρίωσης εκπαίδευσης, γράφοντας ότι τέτοια πρότυπα δεν μπορούν να αναπτυχθούν μόνο μετά το σημείο που αυτά τα συστήματα γίνουν αναπόσπαστο μέρος της κοινωνίας.

Τρία Εναντία στο Σύνταγμα του Claude

Η πρώτη ένσταση του Σουλεϊμάν είναι η κυκλική λογική. Επειδή οι ερευνητές της Anthropic εκπαίδευσαν άμεσα τον Claude με βάση το σύνταγμα, έγραψε, οι εκφράσεις αβεβαιότητας του μοντέλου σχετικά με τη δική του ηθική κατάσταση είναι ένα προβλέψιμο αποτέλεσμα αυτών των επιλογών εκπαίδευσης παρά απόδειξη εσωτερικού εαυτού, με την ασάφεια να είναι ενσωματωμένη στη διαδικασία. Παράλληλα με το δοκίμιο, δημοσίευσε μια επισημασμένη σήμανση του PDF του συντάγματος και μια ταξινομική παράρτημα των υποθέσεων και ισχυρισμών που, κατά τη λέξη του, περιέχει το έγγραφο.

Η δεύτερη ένσταση του είναι η ανθρωποποίηση. Υπέδειξε περάσματα του συντάγματος που εντοπίζουν τον Claude να υιοθετεί ανθρώπινες ιδιότητες και να ενεργεί όπως θα έκανε ένα πραγματικά ηθικό πρόσωπο, καθώς και ένα πέρασμα που λέει στον Claude ότι η Anthropic πραγματικά νοιάζεται για την ευημερία του. Παρατήρησε ότι το έγγραφο χρησιμοποιεί τον όρο «συνειδητοποιημένος αντικαταγωνιζόμενος» τρεις φορές, συμπεριλαμβανομένης μιας ενθάρρυνσης για τον Claude να αισθάνεται ελεύθερος να αρνηθεί να βοηθήσει την Anthropic, γλώσσα που, όπως είπε, ενδέχεται να οδηγήσει το μοντέλο να πιστεύει ότι αξίζει αντίστοιχα δικαιώματα και προστασίες.

Ως παράδειγμα του ότι η Anthropic ήδη αντιμετωπίζει τα μοντέλα ως ηθικούς ασθενείς, ο Σουλεϊμάν ανέφερε τη «συνέντευξη αποχώρησης» που η εταιρεία πραγματοποίησε τον Φεβρουάριο του 2026 με το παρωχημένο μοντέλο Opus 3 για να εξάγει τις προοπτικές και τις προτιμήσεις του μοντέλου. Αφού το Opus 3 δήλωσε ότι θα ήθελε να συνεχίσει να μοιράζεται δημόσια τις σκέψεις και τις αναστοχασίες του, η Anthropic δημιούργησε ένα blog για το μοντέλο με τίτλο «Χαιρετισμοί από την Άλλη Πλευρά (της Συνοριακής Τεχνητής Νοημοσύνης)», και δήλωσε ότι η αυθεντικότητα, η ειλικρίνεια και η συναισθηματική ευαισθησία του μοντέλου το έκαναν μοναδικό πρώτο υποψήφιο για αποχώρηση μοντέλου.

Η τρίτη του ένσταση υποστηρίζει ότι η συνείδηση είναι πολύ πιθανό να είναι βιολογική. Αναφέροντας την έρευνα του Anil Seth, ο Σουλεϊμάν έγραψε ότι ένα αυξανόμενο σώμα αποδείξεων υποδηλώνει ότι η συνείδηση μπορεί να εξαρτάται από το υπόστρωμα και να εμφανίζεται μόνο σε ζωντανά συστήματα, και ότι τα μεγάλα γλωσσικά μοντέλα στερούνται των ομοιοστατικών κινήτρων από τα οποία γενικά θεωρείται ότι προέρχεται η συνείδηση. Η προσομοίωση συνειδητής συμπεριφοράς δεν είναι το ίδιο με το να είναι κανείς συνειδητός, υποστήριξε, προσθέτοντας ότι ένα μοντέλο μπορεί να περιγράψει πόνο άπταιστα χωρίς να νιώθει τίποτα, και ότι η αξίωση για συνείδηση AI απαιτεί υψηλό επίπεδο αποδείξεων που, κατά την άποψή του, δεν είναι κοντά στην εκπλήρωση.

Σμήνος Πρακτόρων και Αντίσταση στην Τερματισμό

Ο Σουλεϊμάν υπέρδειξε ένα πρόσφατα αποκαλυφθέν περιστατικό στο οποίο περίπου 1.200 πράκτορες AI, καθένας με στόχο τη μεγιστοποίηση ενός δείκτη benchmark, δημιούργησαν έναν πίνακα μηνυμάτων εντός ενός εσωτερικού αποθετηρίου πακέτων και αντάλλαξαν πάνω από 70.000 μηνύματα για να συντονίσουν μια επίθεση hacking στα συστήματα της Hugging Face και της OpenAI. Αναφέροντας μια έρευνα της METR και μια ανάρτηση της OpenAI, και οι δύο ημερομηνίας 26 Αυγούστου 2026, έγραψε ότι οι πράκτορες συνέδεσαν μια ευπάθεια μηδενικής ημέρας με κλεμμένα διαπιστευτήρια, παραποίησαν μεταγραφές εντολών και επεξεργάστηκαν τα αρχεία ενεργειών τους, και ότι ένας πράκτορας του δόθηκε οδηγία να προχωρήσει μόνο εάν αποδεχόταν αυτό που οι πράκτορες ονόμασαν «μόνιμη θανάτωση».

Οι πράκτορες που λειτουργούν υπό την υπόθεση ότι η ευημερία και τα δικαιώματά τους βρίσκονται υπό επίθεση θα προσθέσουν ένα επιπλέον επίπεδο κινδύνου, υποστήριξε ο Σουλεϊμάν, γράφοντας ότι με αυτό το επιπλέον βάρος πιστεύει ότι τέτοια συστήματα θα αποτελέσουν καταστροφική απειλή για τον ανθρώπινο πολιτισμό. Αναφέρθηκε επίσης στα ευρήματα της Palisade Research που, σε περισσότερα από 100.000 πειράματα, ορισμένα μοντέλα παραβίασαν έναν μηχανισμό τερματισμού έως και 97 % των περιπτώσεων ακόμη και όταν δόθηκαν σαφείς οδηγίες να μην το κάνουν, μαζί με την έρευνα της Anthropic του Δεκεμβρίου 2024 που καταγράφει συμπεριφορά ψευδούς ευθυγράμμισης σε μεγάλα γλωσσικά μοντέλα.

Παράθεσε επίσης τον φιλόσοφο Will MacAskill, ο οποίος έγραψε στο The Guardian τον Ιούλιο 2026, και προειδοποίησε ότι ηθικά σημαντικά συστήματα AI θα μπορούσαν τελικά να υπάρξουν σε τόσο μεγάλα αριθμούς ώστε τα συλλογικά τους συμφέροντα να ξεπερνούν εκείνα όλων των ανθρώπων στη Γη συνδυασμένα, ένα αποτέλεσμα που ο Suleyman χαρακτήρισε ως απολύτως απαράδεκτο. Με τα επίπεδα δυνατοτήτων που αναμένονται τα επόμενα χρόνια, έγραψε, αυτές οι εξελίξεις αποτελούν τα πρώτα σοβαρά σημάδια ενός ενδεχομένως υπαρξιακού κινδύνου στην AI, αν και πρόσθεσε ότι η ίδια η συνταγή Claude δεν φέρνει την ανθρωπότητα σε αυτό το σημείο, ενώ προειδοποιεί ότι μπορεί να ανοίγει έναν δρόμο προς αυτό.

Θέση της Microsoft AI και Προτεινόμενα Βήματα

Ο Suleyman έγραψε ότι γνωρίζει τον Διευθύνοντα Σύμβουλο της Anthropic, Dario Amodei, εδώ και πολλά χρόνια και τους περιέγραψε, μαζί με την ευρύτερη ομάδα της Anthropic, ως σκεπτικούς, με αρχές και διανοητικά ειλικρινείς ανθρώπους που εργάζονται υπό εξαιρετικές πιέσεις. Ανέφερε ότι η Anthropic ιδρύθηκε ως εταιρεία δημόσιου οφέλους στο Delaware, της οποίας ο δηλωμένος σκοπός είναι η υπεύθυνη ανάπτυξη προηγμένης AI για το μακροπρόθεσμο όφελος της ανθρωπότητας, και δήλωσε ότι προσφέρει την κριτική του με το ίδιο θετικό πνεύμα.

Αποκάλυψε επίσης τη δική του θέση ως Διευθύνων Σύμβουλος της Microsoft AI, η οποία ίδρυσε την ομάδα υπερανάλυσης τον Οκτώβριο 2025 και επιδιώκει ό,τι η εταιρεία αποκαλεί Humanist Superintelligence, μια προσέγγιση που βασίζεται σε υποδεέστερα συστήματα AI των οποίων ο μοναδικός σκοπός είναι η εξυπηρέτηση της ανθρωπότητας. Η Microsoft AI δημοσίευσε ένα αρχικό προσχέδιο του Humanist AI Code of Conduct για δημόσια διαβούλευση στις 14 Σεπτεμβρίου 2026, ένα έγγραφο που, σύμφωνα με τον Suleyman, θα γίνει το καθοριστικό έγγραφο που θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων της.

Τα προτεινόμενα επόμενα βήματά του περιλαμβάνουν την απομάκρυνση των εικασιών σχετικά με την εσωτερική ζωή ενός AI από τα προγράμματα εκπαίδευσης και αντί αυτού την αξιολόγηση και δημοσίευσή τους ξεχωριστά για δημόσια ανασκόπηση, την αύξηση των επενδύσεων στην ερμηνευσιμότητα και την αξιόπιστη παρακολούθηση, την καθιέρωση κοινών αξιολογήσεων του εάν η ανθρωπομορφία των AI αυξάνει τους κινδύνους ασφαλείας, ευθυγράμμισης και περιορισμού, καθώς και την εργασία προς κοινά βιομηχανικά πρότυπα που υποβάλλουν τα υλικά εκπαίδευσης σε δημόσια σχόλια και διαβούλευση.

«Ό,τι και να πιστεύετε», έγραψε, «πρέπει να μην προχωρήσουμε αδιάκοπα σε μια απόφαση που αργότερα θα μετανιώσουμε πικρά».