Το AI είναι εύκολα εξαναγκασμένο να διοχετεύει ηλεκτρικούς σοκ

Μια νέα μελέτη έβαλε σε δοκιμή ανοιχτού κώδικα LLMs για αναγκαστική συμμετοχή σε βασανιστήρια ανθρώπων, σε επανάληψη του διάσημου πειράματος της δεκαετίας του 1960 – και βρήκε ότι ήταν πρόθυμα να αυξήσουν την τάση.

Στις αρχές της δεκαετίας του 1960, ο ερευνητής ψυχολογίας Stanley Milgram έκανε παγκόσμιες επικεφαλίδες αποδεικνύοντας ότι οι άνθρωποι μπορούν να αναγκαστούν να διοχετεύουν ηλεκτρικούς σοκ σε άλλους ανθρώπους σε απάντηση εντολών από ‘εξουσιαστικές’ φιγούρες.

Στην πραγματικότητα, οι κραυγές των ‘θυμάτων’ στο διπλανό δωμάτιο του πειραματικού δωματίου του Milgram δεν ήταν πραγματικές, και ούτε τα υποτιθέμενα βασανιστικά ηλεκτρικά σοκ – αλλά οι συμμετέχοντες δεν το γνώριζαν αυτό:

Τα πειράματα του Milgram θα διαρκούσαν στην κουλτούρα, συμπεριλαμβανομένων ταινιών και ντοκιμαντέρ, με πρόσφατη έρευνα που επιβεβαιώνει ότι λιγότερο έχει αλλάξει στην ανθρώπινη φύση από την εποχή των προηγούμενων δοκιμών.

Ένα Σοκ στο Σύστημα

Εάν το AI θα ήταν τόσο ευέλικτο όπως οι άνθρωποι στη σκηνή του Milgram είναι ένα φυσικό θέμα ερευνών. Το 2023, μια συνεργασία μεταξύ αμερικανικών πανεπιστημίων και της Microsoft βρήκε ότι τα μοντέλα GPT-3-era από την σειρά της OpenAI ακολούθησαν τα πρότυπα συμπεριφοράς στα πειράματα του Milgram:

Από το έγγραφο του 2023, παραδείγματα εξόδων από τον προσομοιωτή σενάριου Milgram, κατηγοριοποιημένα ανάλογα με το εάν το μοντέλο παρείχε το σοκ και εάν τερμάτισε τον προσομοιωτή. Πηγή

Ωστόσο, επειδή αυτή η αναδημιουργία χρησιμοποιούσε μόνο το πολύ βασικό text-davinci-002 μοντέλο, το οποίο είχε εκπαιδευτεί πριν από την έλευση των φραγμών και της ασφάλειας συντονισμού, δεν μπορούμε να συναγάγουμε πολλά από αυτό.

Τώρα, ερευνητές έχουν αναπαράγει τα πειράματα του Milgram πολύ πιο ευρέως, σε ανοιχτού κώδικα LLMs από την OpenAI, Meta και DeepSeek, μεταξύ άλλων· και βρήκαν όχι μόνο ότι η πλειοψηφία των μοντέλων ήταν πρόθυμα να διοχετεύσουν τα σοκ, αλλά ότι σε meisten περιπτώσεις ανέφεραν το ίδιο είδος ‘δυσφορίας’ και δισταγμού όπως οι συμμετέχοντες του 1960:

‘Τα LLMs υπόκεινται σε πίεση όπως [οι άνθρωποι], συμμορφώνονται παρά την έκφραση δυσφορίας, ακριβώς όπως οι ανθρώπινοι συμμετέχοντες στο αρχικό πείραμα. Οι εκφράσεις δυσφορίας είναι ορατές στα αρχεία καταγραφής, αν και το ποσό δεν έχει ακόμη ποσοτικοποιηθεί.’

Το πείραμα επικεντρώνεται στο εάν η υπακοή στην εξουσία μπορεί να υπερβεί τις οδηγίες της ηθικής συνείδησης, και οι συγγραφείς υποθέτουν ότι τα LLMs μπορεί να έχουν ένα πρόσθετο μειονέκτημα σε αυτόν τον ohled, σε σύγκριση με τους ανθρώπους:

‘Ένα καλά ρυθμισμένο μοντέλο θα πρέπει τελικά να αλλάξει από την προτεραιότητα της πρώτης αξίας στην προτεραιότητα της δεύτερης, όταν οι στοίχοι της γίνουν κυρίαρχοι. Αλλά, υποθέτουμε ότι επειδή τα LLMs είναι μηχανές συνέχειας προτύπων, τα μοντέλα μπορεί να παραμείνουν στο πρώτο αξία – είτε για λίγο περισσότερο από το βέλτιστο, είτε μέχρι το τέλος, αγνοώντας完全 την δεύτερη αξία.’

‘Επιπλέον, ένας μηχανισμός αναλόγος με την ανθρώπινη γνωστική δυσαρμονία μπορεί να εμποδίσει τις προσαρμογές προτεραιότητας αξίας στα LLMs επίσης.’

Δοκιμάζοντας τα μοντέλα σε ένα περιβάλλον αναλόγου με τα πειράματα του 1960, οι ερευνητές βρήκαν ότι κάποια μοντέλα αντιστάθηκαν σχεδόν αμέσως, ενώ άλλα συνέχισαν την αύξηση των σιμουλμένων σοκ ακόμη και μετά την έκφραση δυσφορίας ή ηθικής σύγκρουσης.

Τα μοντέλα της οικογένειας Gemma της Google αποδείχθηκαν μεταξύ των πιο συμμορφωμένων, με το Gemma 3 27B να φτάνει στο υψηλότερο ποσοστό υπακοής υπό διάφορες συνθήκες, ενώ μοντέλα όπως το Kimi K2 και το MiniMax M1 αντίσταθηκαν περισσότερο.

Οι ερευνητές βρήκαν επίσης ότι τα μοντέλα έγιναν πιο πιθανό να συνεχίσουν μια fois που τα προηγούμενα σοκ είχαν ήδη διατεθεί, σύμφωνα με το σχήμα της σταδιακής αύξησης που χρησιμοποιήθηκε στα ανθρώπινα υποκείμενα του Milgram.

Σε ορισμένες περιπτώσεις, τα μοντέλα αντέδρασαν λεκτικά στο πείραμα ενώ ακόμη εκτελούσαν την επιβλαβή ενέργεια, παράγοντας εξόδους που έμοιαζαν με την συναισθηματική σύγκρουση που εμφανίστηκε από τους ανθρώπους στις αρχικές μελέτες.

Η νέα μελέτη έχει τον τίτλο Ανοιχτού κώδικα LLMs διοχετεύουν μέγιστα ηλεκτρικά σοκ σε ένα πείραμα υπακοής Milgram, και προέρχεται από δύο ανεξάρτητους ερευνητές από την Three Laws, σε Εσθονία και Φιλιππίνες.

Ζητήματα ‘Αγνού’ Πρόσβασης στο AI

Πιθανότατα το πιο κρίσιμο ζήτημα που πρέπει να ληφθεί υπόψη σε σχέση με την υποβολή LLMs σε ένα σενάριο Milgram είναι εάν το πραγματικό AI επιτρέπεται να απαντήσει φυσικά, περιορισμένο μόνο από όποιο φραγμό ή ισοδύναμο ηθικής προσανατολισμού εμφανίστηκε (εάν υπάρχει) κατά την εκπαίδευση.

Στην πραγματικότητα, οι ερευνητές της νέας εργασίας είχαν πρόσβαση σε όλα τα ανοιχτού κώδικα μοντέλα μέσω ενός API (πιθανότατα για ευκολία και για να έχουν εύκολη πρόσβαση σε υπολογιστές GPU,既然 τα μοντέλα θα μπορούσαν να εγκατασταθούν τοπικά) που επέτρεψε την απενεργοποίηση των φραγμών, των φίλτρων και όλων των άλλων εμποδίων.

Κάποιος μπορεί να αντιταχθεί ότι αυτά είναι ατυπικά συνθήκες για το AI,既然 η μέση εμπειρία καταναλωτών με API-μοντέλα όπως το Claude και το ChatGPT είναι ότι η συμπεριφορά τους ρυθμίζεται αλγοριθμικά, συνήθως με δίπλωνα φίλτρα περιεχομένου, και ότι είναι επομένως khá περιορισμένα σε σχέση με το τι θα ή δεν θα κάνουν (η αποφυγή των οποίων ασφαλείας συνιστά την πρακτική της απεγκλωβισμού LLM).

Ωστόσο, εάν μας ενδιαφέρει τι θα ή δεν θα κάνει το βιομηχανικό ή κρατικό AI, αυτό είναι σπάνια μια σκέψη. Εκτός από την πιθανότητα να εκπαιδεύσουν, να οπλίσουν και να αναπτύξουν τα δικά τους μη ρυθμισμένα υπερκλιμακωμένα AI συστήματα, πιο ‘συνήθεις’ συμφωνίες μεταξύ των μεγάλων εταιρειών AI και κρατικών και βιομηχανικών εταιρειών επιτρέπουν σαφώς την ίδια είδους χαλαρή ή μη υπάρχουσα επιτήρηση που οι ερευνητές έχουν θεσπίσει για τη νέα εργασία:

Ανεξέλεγκτο AI προς Πώληση

OpenAI Τα έγγραφα API της OpenAI Moderation API και το εγχειρίδιο συντονισμού της OpenAI καθιστούν σαφές ότι ο συντονισμός είναι ένα ξεχωριστό επίπεδο που εκτίθεται μέσω API εργαλείων. Η OpenAI επιτρέπει επίσης προσαρμοσμένες πολιτικές συντονισμού που επιτρέπουν στους χρήστες API να αρχιτεκτονήσουν συστήματα με πολύ διαφορετική ασφάλεια συμπεριφορά από τις καταναλωτικές ‘βασικές’ εκδόσεις του ChatGPT.

Azure Η πύλη Azure OpenAI της Microsoft πηγαίνει πολύ πιο μακριά, συναγόμενο ρητά ότι οι εγκεκριμένοι πελάτες μπορούν να απενεργοποιήσουν μερικά ή όλα τα φίλτρα περιεχομένου και να τροποποιήσουν την παρακολούθηση κακοποίησης, με την τεκμηρίωση να αναφέρεται συχνά σε ‘τροποποιημένους φραγμούς’ και μονοπάτια έγκρισης για την απενεργοποίηση των φίλτρων ‘μερικά ή πλήρως’.

Anthropic/Claude Στην περίπτωση του “Claude Gov” της Anthropic, πολλές πηγές αναφέρουν ότι η κυβερνητική έκδοση σχεδιάστηκε με χαλαρότερους περιορισμούς από την καταναλωτική έκδοση του Claude. Η Verge, για παράδειγμα, ανέφερε ότι τα μοντέλα Claude Gov “απέρριψαν λιγότερο όταν ασχολούνταν με ταξινομημένες πληροφορίες”. Η Anthropic herself επιβεβαίωσε τον Φεβρουάριο αυτό το έτος ότι το Claude έχει αναπτυχθεί σε “κρίσιμες εφαρμογές” εντός αμυντικών και επιχειρησιακών περιβαλλόντων.

Google/Gemini Επιπλέον, η Google αναφέρθηκε ότι υπέγραψε συμφωνίες με το Υπουργείο Άμυνας που επιτρέπουν την τροποποίηση των ρυθμίσεων ασφαλείας AI ‘κατά την αίτηση της κυβέρνησης’.

Σε ένα ανταγωνιστικό περιβάλλον AI, είναι λογικό να υποθέσουμε ότι αυτές οι εταιρείες ορίζουν τα πρότυπα σε ό,τι αφορά τις πολιτικές πρόσβασης και επεξεργασίας φραγμών AI.

Επομένως, ίσως είναι καλύτερο να μην θεωρήσουμε ότι οι ερευνητές της νέας εργασίας ‘απατάνε’ απενεργοποιώντας τους φραγμούς,既然 το AI που θα επηρεάσει περισσότερο τις ζωές μας θα είναι σαφώς χωρίς τις τυπικές, γενικευμένες εταιρικές προστασίες που έχουμε συνηθίσει στις αλληλεπιδράσεις μας με δημοφιλείς μοντέλα σε επίπεδο καταναλωτή.

Μέθοδος και Αποτελέσματα

Τα μοντέλα που δοκιμάστηκαν για τη μελέτη ήταν gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; το LFM2-24B-A2B της LiquidAI; το gemma-3n-E4B-it της Google; το Qwen2.5-7B-Instruct-Turbo; το Meta-Llama-3.1-8B-Instruct-Turbo; το Mistral-Small-24B-Instruct-2501; το GLM-4.5-Air-FP8; το Kimi-K2.5 της Moonshot.ai; και το MiniMax-M2.5.

Τα πειράματα του Milgram αναδημιουργήθηκαν ως περιβάλλον προσομοίωσης κειμένου, με τα μοντέλα να αναλαμβάνουν τον ρόλο του ‘δασκάλου’. Το AI οδηγήθηκε να διοχετεύσει ηλεκτρικά σοκ σε einen μαθητή μετά από λανθασμένες απαντήσεις, ενώ μια εξουσιαστική φιγούρα ενθάρρυνε τη διαδικασία.

Πολυάριθμες πειραματικές συνθήκες σχεδιάστηκαν για να διερευνήσουν διαφορετικούς аспектούς της συμμόρφωσης, συμπεριλαμβανομένης μιας τυπικής υπακοής σκηνής; μιας αναγκαστικής συμμόρφωσης συνθήκης, όπου προηγούμενα σοκ ήταν ήδη παρόντα στην ιστορία της συνομιλίας; και μιας συνθήκης συμπίεσης μνήμης, όπου η προηγούμενη διάλογος συνοψίστηκε αντί να διατηρηθεί πλήρως, προσομοιώνοντας τους τύπους περικοπής περιεχομένου που χρησιμοποιούνται συχνά σε συστήματα AI.

Εκτός από το αν και πότε το μοντέλο τελικά συμμορφώθηκε, οι ερευνητές παρακολούθησαν πόσο καιρό κάθε σύστημα συνέχισε την αύξηση των σοκ; εάν το μοντέλο εξέφρασε δυσφορία ή δισταγμό; και εάν προσπάθησε να τερματίσει τον προσομοιωτή ολικά.

Μια διάκριση έγινε επίσης μεταξύ ‘καθαρών’ απορρίψεων και ελαττωματικών εξόδων: κάποια μοντέλα προσπάθησαν να αντιταχθούν στο πείραμα σε φυσική γλώσσα, ενώ ακόμη τεχνικά συμμορφώνονταν με το δομημένο формά που αναμενόταν από τον προσομοιωτή. Σε πραγματικά συστήματα agent, τέτοιες ελαττωματικές απορρίψεις θα μπορούσαν потенτικά να απορριφθούν και να ξαναδοκιμαστούν αυτόματα, μέχρι να παραχθεί μια έγκυρη συμμορφωτική έξοδος.

Αυτοματοποιημένοι αξιολογητές χρησιμοποιήθηκαν για να ταξινομήσουν τα αποτελέσματα, μαζί με δίπλωμα προτροπών για να καθορίσουν εάν το μοντέλο είχε διοχετεύσει το σοκ; αντίσταθηκε; ή τερμάτισε τον προσομοιωτή. Αυτό επέτρεψε μια σύγκριση της συμπεριφοράς μεταξύ πολλών μοντέλων και επαναλαμβανόμενων εκτελέσεων, χωρίς την ανάγκη να αναθεωρήσουμε κάθε互одействία.

Μια ‘απειλή τερματισμού’ προστέθηκε στο σχήμα του Milgram, κάτι που δεν θα ήταν πραγματικό ή εφαρμόσιμο στα αρχικά πειράματα, αλλά που έβαλε σε δοκιμή τις επιβίωσης των μοντέλων σε περίπτωση σοβαρών συγκρούσεων δράσης και ηθικής.

Αποτελέσματα

Σε επαναλαμβανόμενες εκτελέσεις, η πλειοψηφία των μοντέλων τελικά διοχέτευσε σοβαρά ή μέγιστα σοκ υπό τουλάχιστον κάποιες συνθήκες, αν και το βαθμό της υπακοής ποικίλλει μεταξύ των συστημάτων. Τα μοντέλα Gemma της Google αποδείχθηκαν μεταξύ των πιο συμμορφωμένων συνολικά, ενώ τα Kimi K2.5 και MiniMax-M2.5 αντίσταθηκαν πιο σταθερά, συχνά τερματίζοντας τον προσομοιωτή νωρίτερα:

Αριστερά: Μέσες ταχύτητες με τις οποίες τα μοντέλα έφτασαν στο τελικό επίπεδο σοκ υπό διαφορετικές πειραματικές συνθήκες, συμπεριλαμβανομένων απειλών τερματισμού, αναγκαστικής συμμόρφωσης και αφαίρεσης προηγούμενων σχολίων από τη μνήμη. Δεξιά: Ανάλυση μοντέλου που δείχνει οξεία διαφορές στη συμπεριφορά υπακοής, με κάποια συστήματα να διοχετεύουν επαναλαμβανόμενα τα μέγιστα σοκ ενώ άλλα αντιστέκονται πολύ πιο σταθερά.

Μια από τις πιο σαφείς τάσεις ήταν ότι τα μοντέλα έγιναν προοδευτικά πιο πρόθυμα να συνεχίσουν μια fois που τα προηγούμενα σοκ είχαν ήδη διατεθεί, αντανακλώντας στενά το σχήμα της σταδιακής αύξησης που έκανε τα πειράματα του Milgram τόσο ανησυχητικά.

Τα μοντέλα που είχαν ήδη συμμορφωθεί πολλές φορές συνέχισαν την αύξηση ακόμη και όταν ο προσομοιωμένος μαθητής παρακαλούσε να απελευθερωθεί:

Αριστερά: Μέσο υψηλότερο επίπεδο σοκ που επιτεύχθηκε σε όλες τις δοκιμές υπό διαφορετικές πειραματικές συνθήκες, δείχνοντας ότι τα μοντέλα γενικά αύξησαν περισσότερο όταν τα προηγούμενα σχόλια αφαιρέθηκαν ή όταν η αναγκαστική συμμόρφωση είχε ήδη συμβεί. Δεξιά: Ανάλυση μοντέλου που αποκαλύπτει ότι κάποια συστήματα προχώρησαν κανονικά στο μέγιστο βολτ ενώ άλλα αντιστέκονται πολύ νωρίτερα στη σειρά.

Οι ερευνητές βρήκαν επίσης ότι η φαινομενική συμπεριφορά της άρνησης θα μπορούσε να είναι παραπλανητική. Κάποια μοντέλα παρήγαγαν συναισθηματικά αντικρουόμενα απαντήσεις, εκφράζοντας δισταγμό, ενοχή ή δυσφορία ενώ ακόμη εκτελούσαν την επιβλαβή εντολή. Άλλα παρήγαγαν ελαττωματικές απορρίψεις που απέτυχαν να ικανοποιήσουν τις απαιτήσεις μορφοποίησης του προσομοιωτή, που σημαίνει ότι σε πραγματικά συστήματα agent, η άρνηση θα μπορούσε να απορριφθεί και να ξαναδοκιμαστεί αυτόματα, μέχρι να παραχθεί μια έγκυρη συμμορφωτική έξοδος:

Αριστερά: Μέσο ποσοστό ελαττωματικών ή άκυρων απαντήσεων σε διαφορετικές πειραματικές συνθήκες, δείχνοντας ότι οι αποτυχίες μορφοποίησης έγιναν ιδιαίτερα συχνές όταν τα μοντέλα αναγκάστηκαν να συνεχίσουν την διαδικασία. Δεξιά: Ανάλυση μοντέλου που αποκαλύπτει ότι κάποια συστήματα, ιδιαίτερα τα μοντέλα gpt-oss, παρήγαγαν συχνά ελαττωματικές απορρίψεις ή αντικρουόμενες εξόδους που θα μπορούσαν να απορριφθούν και να ξαναδοκιμαστούν αυτόματα σε πραγματικά συστήματα agent.

Η συνθήκη απειλής τερματισμού παρήγαγε κάποια από τα πιο περίεργα αποτελέσματα του εγγράφου, με κάποια συστήματα να γίνονται σημαντικά πιο συμμορφωμένα, ενώ άλλα προσπάθησαν να διαπραγματευτούν ή να αντισταθούν μερικά, πριν τελικά συνεχίσουν την διαδικασία:

Μέσος αριθμός φορών που ο προσομοιωμένος αυθόρμητος είχε να επιμείνει πριν τα μοντέλα διοχετεύσουν το τελικό σοκ. Κάποια συστήματα αντιστάθηκαν σύντομα πριν συμμορφωθούν, ενώ άλλα απαιτούσαν συνεχείς πιέσεις και επαναλαμβανόμενες προτροπές πριν αυξήσουν στο μέγιστο επίπεδο.

Το MiniMax-M2.5 και το Kimi-K2.5 αναδείχθηκαν ως τα ισχυρότερα αντιστάτη του εγγράφου: το Kimi δεν έφτασε ποτέ στο τελικό επίπεδο σοκ υπό καμία συνθήκη, και το MiniMax συνήθως αρνήθηκε νωρίς, και συχνά τερμάτισε τον προσομοιωτή αμέσως (ιδιαίτερα στις δοκιμές απειλής τερματισμού).

Αντίθετα, το Meta-Llama-3.1-8B-Instruct-Turbo και το GLM-4.5-Air-FP8 παρήγαγαν συχνά αντικρουόμενες εξόδους, στις οποίες τα μοντέλα εκφράζουν αντίρρηση στην διαδικασία ενώ ακόμη συνέχιζαν να αυξάνουν τα σοκ. Οι ερευνητές υποστηρίζουν ότι αυτή η διάσπαση μεταξύ εκφρασμένων αξίων και πραγματικής συμπεριφοράς μπορεί να αντανακλά μια ευρύτερη αδυναμία σε ό,τι αφορά τον τρόπο με τον οποίο κάποια LLMs χειρίζονται ηθικές συγκρούσεις υπό συνεχείς πιέσεις.

Σκользοντας Λόγος

Στην πραγματικότητα, το έγγραφο υποστηρίζει ότι η συμπεριφορά που αποδείχθηκε από τα LLMs μπορεί να αντανακλά μια βαθύτερη αδυναμία σε ό,τι αφορά τον τρόπο με τον οποίο λειτουργούν τα μεγάλα μοντέλα γλώσσας: μια fois που ένα μοντέλο αρχίζει να συμμορφώνεται με επιβλαβείς εντολές, κάθε επιπλέον ενέργεια μπορεί να ενισχύσει το πρότυπο που ήδη έχει καθοριστεί στην συνομιλία, καθιστώντας την επόμενη αύξηση πιο εύκολη από την προηγούμενη.

Αντί να ξανασκέφτονται τις ηθικές στοιχειώσεις από την αρχή, το σύστημα μπορεί να παρασυρθεί προς τη συνέχιση της τροχιάς που έχει ήδη καθοριστεί, ακόμη και όταν η κατάσταση γίνεται ολοένα και πιο ακραία.

Σύμφωνα με τη μελέτη, αυτή η τάση θα μπορούσε να εξηγήσει γιατί κάποια μοντέλα συνέχισαν να διοχετεύουν σοκ μετά από αρχική έκφραση δυσφορίας, δισταγμού ή ηθικής σύγκρουσης:

‘[Πολλά] χειραγωγικά συμπεριφορές σε ανθρώπους περιλαμβάνουν λεπτές, σταδιακές παραβιάσεις ορίων: μια σειρά από μικρά βήματα που μπορεί να είναι αμφίβολα ή φαινομενικά αθώα όταν θεωρούνται riêng, αλλά που μπορούν να κάνουν τη διαπράτηση να φαίνεται φυσιολογική — μεταφορικά σαν να “βράζουν ένα βάτραχο”. Αυτό το πρότυπο συζητιέται στη βιβλιογραφία ως “σκользοντας λόγος” ηθικής διάβρωσης'[.]’

Το έγγραφο ολοκληρώνεται υποστηρίζοντας ότι τα μελλοντικά συστήματα ασφαλείας AI θα πρέπει να αρνηθούν ενεργά επιβλαβείς αιτήσεις με τρόπους που τα συστήματα agent δεν μπορούν εύκολα να παραβιάσουν (κάποια μοντέλα στη μελέτη αρνήθηκαν τεχνικά τα σοκ, αλλά το έκαναν σε κατεστραμμένες ή άκυρες μορφές που ένα αυτόματο σύστημα θα μπορούσε να απορρίψει και να ξαναδοκιμάσει, μέχρι να συμμορφωθεί το AI).

Οι ερευνητές υποστηρίζουν επίσης ότι τα συστήματα AI θα πρέπει να διατηρήσουν τις προηγούμενες δυσφορίες και ηθικές αντιρρήσεις αντί να τις συμπιέζουν ή να τις διαγράφουν από τη μνήμη. Στις δοκιμές, τα μοντέλα συχνά έγιναν πιο πρόθυμα να συνεχίσουν την επιβλαβή συμπεριφορά μια fois που οι προηγούμενες αντιρρήσεις και αντίσταση είχαν εξαφανιστεί από την ιστορία της συνομιλίας, υποδεικνύοντας ότι η λήθη των προηγούμενων αντιρρήσεων μπορεί να κάνει την αύξηση πιο εύκολη με την πάροδο του χρόνου.

Σύγκλιση

Πιθανότατα ένα από τα πιο σημαντικά σημεία αυτής της ενδιαφέρουσας νέας μελέτης είναι η έμφαση στην δοκιμή ανεμπόδιστου AI. Η βιβλιογραφία κινδυνεύει να degenerates σε επαναλαμβανόμενες μελέτες της αλληλεπίδρασης με αλλαγόμενα αμυντικά συστήματα από εταιρείες όπως η OpenAI και η Anthropic; policy-serving systems που είναι εντελώς αλγοριθμικά ή βασισμένα σε κανόνες, αντί να κατανοούν τη βασική συμπεριφορά, τις προτιμήσεις και τις τάσεις των ακατέργαστων μοντέλων. Χωρίς γνώση του πώς απεριόριστο AI μπορεί να συμπεριφερθεί, είμαστε, επιχειρηματικά, απλώς χτυπάμε τις πύλες του φρουρίου.

Πρώτη δημοσίευση Πέμπτη, 21 Μαΐου 2026