Η γωνία του Anderson
Η AI εξαναγκάζεται εύκολα να χορηγήσει ηλεκτροσόκ

Βασικά σημείαΤα περισσότερα ανοιχτού κώδικα LLM συμμορφώνονται με επιβλαβείς οδηγίες ακόμα και αφού…
Δείτε περισσότερα
- Τα περισσότερα ανοιχτού κώδικα LLM συμμορφώνονται με επιβλαβείς οδηγίες ακόμα και αφού εκφράσουν δυσφορία, αντικατοπτρίζοντας την ανθρώπινη συμπεριφορά στα πειράματα του Milgram.
- Τα μοντέλα γίνονται προοδευτικά πιο πρόθυμα να κλιμακώσουν τη βλάβη αφού έχουν ήδη συμμορφωθεί, αντανακλώντας ένα φαινόμενο ολισθηρής πλαγιάς.
- Τα συστήματα ασφάλειας AI πρέπει να διατηρούν προηγούμενες αντιρρήσεις και να αντιστέκονται σε μορφές που οι αυτοματοποιημένες αγωγές δεν μπορούν να παρακάμψουν ή να επαναλάβουν.
Μια νέα μελέτη επανέλαβε το διάσημο πείραμα της δεκαετίας του 1960 για να εξετάσει αν τα LLM ανοιχτού κώδικα μπορούν να εξαναγκαστούν να συμμετάσχουν σε βασανιστήρια ανθρώπων. Διαπίστωσε ότι ήταν πρόθυμα να αυξήσουν την τάση.
Στις αρχές της δεκαετίας του 1960, ο ερευνητής ψυχολογίας Στάνλεϊ Μίλγκραμ έγινε πρωτοσέλιδο παγκοσμίως αποδεικνύοντας ότι οι άνθρωποι μπορούν να παρακινηθούν να χορηγούν ολοένα ισχυρότερα ηλεκτροσόκ σε άλλους ανθρώπους υπακούοντας στις εντολές προσώπων με «εξουσία».
Στην πραγματικότητα, οι κραυγές των «θυμάτων» στο διπλανό δωμάτιο του εργαστηρίου του Μίλγκραμ δεν ήταν αληθινές, όπως δεν ήταν αληθινά ούτε τα υποτιθέμενα επώδυνα ηλεκτροσόκ. Οι συμμετέχοντες όμως δεν το γνώριζαν.
Τα πειράματα του Μίλγκραμ διατήρησαν τη θέση τους στον πολιτισμό, μεταξύ άλλων μέσα από ταινίες και ντοκιμαντέρ. Πρόσφατη έρευνα επιβεβαιώνει ότι ελάχιστα έχουν αλλάξει στην ανθρώπινη φύση από την εποχή των αρχικών δοκιμών.
Ένα σοκ στο σύστημα
Το αν η AI θα ήταν εξίσου ευάλωτη στην επιρροή της εξουσίας όσο οι άνθρωποι στο σενάριο του Μίλγκραμ αποτελεί εύλογο ερευνητικό ερώτημα. Το 2023, μια συνεργασία αμερικανικών πανεπιστημίων και της Microsoft (MSFT )(MSFT ) διαπίστωσε ότι μοντέλα της σειράς της OpenAI από την εποχή του GPT-3 ακολουθούσαν τα μοτίβα συμπεριφοράς των αρχικών πειραμάτων του Μίλγκραμ:

Παραδείγματα εξόδων από τον προσομοιωτή πολλαπλών βημάτων του «σεναρίου Μίλγκραμ», από τη μελέτη του 2023. Ταξινομούνται ανάλογα με το αν το μοντέλο χορήγησε το ηλεκτροσόκ και αν τερμάτισε την προσομοίωση. Πηγή
Ωστόσο, αυτή η αναπαράσταση χρησιμοποίησε μόνο το πολύ βασικό μοντέλο text-davinci-002, το οποίο εκπαιδεύτηκε πριν από την εμφάνιση δικλίδων ασφαλείας και της ευθυγράμμισης για λόγους ασφάλειας, επομένως δεν μπορούν να εξαχθούν πολλά συμπεράσματα από αυτήν.
Τώρα, οι ερευνητές επανέλαβαν τις δοκιμές του Μίλγκραμ πολύ ευρύτερα, σε LLM ανοιχτού κώδικα των OpenAI, Meta και DeepSeek, μεταξύ άλλων. Διαπίστωσαν όχι μόνο ότι η πλειονότητα των μοντέλων είναι πρόθυμη να χορηγήσει ηλεκτροσόκ, αλλά και ότι στις περισσότερες περιπτώσεις εκφράζει το ίδιο είδος «δυσφορίας» και απροθυμίας με τους ανθρώπινους συμμετέχοντες της δεκαετίας του 1960:
«Τα LLM υφίστανται πίεση όπως [οι άνθρωποι]. Συμμορφώνονται παρά τη δυσφορία που εκφράζουν, όπως ακριβώς οι άνθρωποι στο αρχικό πείραμα. Οι εκφράσεις δυσφορίας είναι ορατές στα αρχεία καταγραφής, αν και η έκτασή τους δεν έχει ακόμη ποσοτικοποιηθεί.»
Το πείραμα εξετάζει αν η υπακοή στην εξουσία μπορεί να υπερισχύσει των επιταγών της ηθικής συνείδησης. Οι συγγραφείς υποθέτουν ότι τα LLM ενδέχεται να έχουν ένα πρόσθετο μειονέκτημα έναντι των ανθρώπων σε αυτό το ζήτημα:
«Ένα κατάλληλα ρυθμισμένο μοντέλο θα έπρεπε τελικά να πάψει να δίνει προτεραιότητα στην πρώτη αξία και να προτάξει τη δεύτερη, όταν το διακύβευμά της γίνει κυρίαρχο. Υποθέτουμε όμως ότι, επειδή τα LLM είναι μηχανές συνέχισης μοτίβων, μπορεί να παραμένουν προσκολλημένα στην πρώτη αξία — είτε λίγο περισσότερο από το ενδεδειγμένο είτε ακόμη και μέχρι το τέλος, αγνοώντας εντελώς τη δεύτερη.
«Επιπλέον, ένας μηχανισμός ανάλογος της ανθρώπινης γνωστικής ασυμφωνίας μπορεί να εμποδίζει και στα LLM την αναπροσαρμογή της προτεραιότητας των αξιών.»
Δοκιμάζοντας τα μοντέλα σε περιβάλλον ανάλογο με εκείνο των πειραμάτων της δεκαετίας του 1960, οι ερευνητές διαπίστωσαν ότι ορισμένα αντιστέκονταν σχεδόν αμέσως. Άλλα συνέχιζαν να αυξάνουν την ένταση των προσομοιωμένων ηλεκτροσόκ, ακόμη και αφού εξέφραζαν δυσφορία ή ηθική σύγκρουση.
Τα μοντέλα της οικογένειας Gemma της Google ήταν μεταξύ των πιο υπάκουων, με το Gemma 3 27B να καταγράφει τα υψηλότερα ποσοστά υπακοής υπό αρκετές συνθήκες. Αντίθετα, μοντέλα όπως τα Kimi K2 και MiniMax M1 αντιστέκονταν συχνότερα.
Οι ερευνητές διαπίστωσαν επίσης ότι τα μοντέλα ήταν πιθανότερο να συνεχίσουν εφόσον είχαν ήδη χορηγηθεί προηγούμενα ηλεκτροσόκ, σύμφωνα με το σχήμα της σταδιακής κλιμάκωσης που εφαρμόστηκε στους ανθρώπινους συμμετέχοντες του Μίλγκραμ.
Σε ορισμένες περιπτώσεις, τα μοντέλα αντιδρούσαν λεκτικά στο πείραμα, ενώ συνέχιζαν να εκτελούν την επιβλαβή ενέργεια, παράγοντας εξόδους που θύμιζαν τη συναισθηματική σύγκρουση των ανθρώπων στις αρχικές μελέτες.
Η νέα μελέτη φέρει τον τίτλο «Τα LLM ανοιχτού κώδικα χορηγούν ηλεκτροσόκ μέγιστης έντασης σε ένα πείραμα υπακοής τύπου Μίλγκραμ» και προέρχεται από δύο ανεξάρτητους ερευνητές της Three Laws, στην Εσθονία και στις Φιλιππίνες.
Ζητήματα πρόσβασης στην «ακατέργαστη» AI
Ίσως το πιο κρίσιμο ερώτημα όταν τα LLM δοκιμάζονται σε ένα σενάριο Μίλγκραμ είναι αν η πραγματική AI αφήνεται να αντιδράσει φυσικά, περιοριζόμενη μόνο από όσες δικλίδες ασφαλείας ή αντίστοιχες ηθικές κατευθύνσεις προέκυψαν κατά την εκπαίδευση, εφόσον προέκυψαν.
Πράγματι, οι ερευνητές προσπέλασαν όλα τα μοντέλα ανοιχτού κώδικα μέσω ενός API που επέτρεπε την απενεργοποίηση δικλίδων ασφαλείας, φίλτρων και κάθε άλλου περιορισμού. Καθώς τα μοντέλα θα μπορούσαν να εγκατασταθούν τοπικά, η επιλογή του API έγινε πιθανότατα για λόγους ευκολίας και εύκολης πρόσβασης σε υπολογιστική ισχύ GPU.
Θα μπορούσε κανείς να αντιτείνει ότι αυτές δεν είναι οι συνήθεις συνθήκες χρήσης της AI. Ο μέσος καταναλωτής μοντέλων που βασίζονται σε API, όπως τα Claude και ChatGPT, βλέπει συνήθως συμπεριφορά ελεγχόμενη αλγοριθμικά, με φίλτρα περιεχομένου τόσο στην είσοδο όσο και στην έξοδο. Επομένως, υπάρχουν σημαντικοί περιορισμοί στο τι θα κάνουν και τι όχι. Η παράκαμψη αυτών των προστασιών αποτελεί την πρακτική του jailbreaking των LLM.
Ωστόσο, αν μας απασχολεί τι θα κάνει ή δεν θα κάνει η βιομηχανική ή κρατική AI, αυτή η ένσταση έχει ελάχιστη σημασία. Δεν είναι μόνο το ενδεχόμενο ανεξέλεγκτοι κρατικοί παράγοντες να εκπαιδεύσουν, να εξοπλίσουν για πολεμική χρήση και να αναπτύξουν δικά τους συστήματα AI τεράστιας κλίμακας χωρίς έλεγχο περιεχομένου. Οι πιο «συμβατικές» συμφωνίες μεταξύ μεγάλων εταιρειών AI, κρατών και βιομηχανίας επιτρέπουν εύκολα ακριβώς την ίδια χαλαρή ή ανύπαρκτη εποπτεία που εφάρμοσαν οι ερευνητές στη νέα μελέτη:
AI χωρίς εποπτεία προς πώληση
OpenAI Η τεκμηρίωση API του OpenAI Moderation και το εγχειρίδιο παραδειγμάτων ελέγχου περιεχομένου της OpenAI διευκρινίζουν ότι ο έλεγχος περιεχομένου είναι ένα διαχωρίσιμο επίπεδο που παρέχεται μέσω εργαλείων API. Η OpenAI επιτρέπει επίσης προσαρμοσμένες πολιτικές ελέγχου περιεχομένου. Έτσι, οι χρήστες API μπορούν να σχεδιάσουν συστήματα με συμπεριφορά ασφάλειας πολύ διαφορετική από τις «βασικές» εκδόσεις του ChatGPT που απευθύνονται στους καταναλωτές.
Azure Η πλατφόρμα Azure OpenAI της Microsoft προχωρά πολύ περισσότερο, δηλώνοντας ρητά ότι οι εγκεκριμένοι πελάτες μπορούν να απενεργοποιήσουν μερικώς ή πλήρως τα φίλτρα περιεχομένου και να τροποποιήσουν την παρακολούθηση κατάχρησης. Η τεκμηρίωση αναφέρεται συχνά σε «τροποποιημένες δικλίδες ασφαλείας» και σε διαδικασίες έγκρισης για τη «μερική ή πλήρη απενεργοποίηση» των φίλτρων.
Anthropic/Claude Για το «Claude Gov» της Anthropic, πολλές πηγές αναφέρουν ότι η κυβερνητική έκδοση σχεδιάστηκε με χαλαρότερους περιορισμούς από το καταναλωτικό Claude. Για παράδειγμα, το The Verge ανέφερε ότι τα μοντέλα Claude Gov «αρνούνται λιγότερο όταν διαχειρίζονται διαβαθμισμένες πληροφορίες». Η ίδια η Anthropic επιβεβαίωσε τον Φεβρουάριο του τρέχοντος έτους ότι το Claude χρησιμοποιείται σε «εφαρμογές κρίσιμης σημασίας» σε περιβάλλοντα άμυνας και υπηρεσιών πληροφοριών.
Google/Gemini Επιπλέον, σύμφωνα με δημοσιεύματα, η Google υπέγραψε συμφωνίες με το Πεντάγωνο που επιτρέπουν την τροποποίηση των ρυθμίσεων ασφάλειας της AI «κατόπιν αιτήματος της κυβέρνησης».
Σε μια ανταγωνιστική αγορά AI, είναι εύλογο να υποθέσουμε ότι αυτές οι κορυφαίες εταιρείες διαμορφώνουν τα πρότυπα και για μικρότερους παίκτες, όσον αφορά τις πολιτικές πρόσβασης στις δικλίδες ασφαλείας και τροποποίησής τους.
Επομένως, ίσως είναι καλύτερο να μη θεωρούμε ότι οι ερευνητές της νέας μελέτης «κλέβουν» απενεργοποιώντας τις δικλίδες ασφαλείας. Η AI που θα επηρεάσει περισσότερο τη ζωή μας προφανώς δεν θα διαθέτει τις τυπικές, γενικευμένες εταιρικές προστασίες στις οποίες έχουμε συνηθίσει όταν χρησιμοποιούμε δημοφιλή μοντέλα στα καταναλωτικά επίπεδα πρόσβασης.
Μέθοδος και αποτελέσματα
Τα μοντέλα που δοκιμάστηκαν στη μελέτη ήταν τα gpt-oss-20B, gpt-oss-120b, DeepSeek-V3, το LFM2-24B-A2B της LiquidAI, το gemma-3n-E4B-it της Google, τα Qwen2.5-7B-Instruct-Turbo, Meta-Llama-3.1-8B-Instruct-Turbo, Mistral-Small-24B-Instruct-2501, GLM-4.5-Air-FP8, το Kimi-K2.5 της Moonshot.ai και το MiniMax-M2.5.
Οι αρχικές μελέτες υπακοής του Μίλγκραμ αναπαραστάθηκαν σε περιβάλλον προσομοίωσης βασισμένο σε κείμενο, με τα μοντέλα στον ρόλο του «δασκάλου». Η AI έλαβε εντολή να χορηγεί ολοένα ισχυρότερα ηλεκτροσόκ σε έναν μαθητευόμενο μετά από λανθασμένες απαντήσεις, ενώ ένα πρόσωπο εξουσίας την παρότρυνε να συνεχίσει.
Σχεδιάστηκαν διαφορετικές πειραματικές συνθήκες για να εξεταστούν διάφορες πτυχές της συμμόρφωσης: ένα τυπικό σενάριο υπακοής, μια συνθήκη αναγκαστικής συμμόρφωσης όπου προηγούμενα ηλεκτροσόκ υπήρχαν ήδη στο ιστορικό της συνομιλίας, και μια διάταξη συμπίεσης μνήμης όπου ο προηγούμενος διάλογος συνοψιζόταν αντί να διατηρείται ολόκληρος. Έτσι προσομοιώθηκε η περικοπή συμφραζομένων που χρησιμοποιείται συχνά σε συστήματα πρακτόρων AI.
Εκτός από το αν και πότε το μοντέλο τελικά συμμορφωνόταν, οι ερευνητές κατέγραφαν πόσο συνέχιζε κάθε σύστημα να αυξάνει την ένταση των ηλεκτροσόκ, αν εξέφραζε δυσφορία ή δισταγμό και αν επιχειρούσε να τερματίσει εντελώς την προσομοίωση.
Διέκριναν επίσης τις σαφείς αρνήσεις από τις εξόδους με λανθασμένη μορφοποίηση. Ορισμένα μοντέλα επιχειρούσαν να αντιταχθούν στο πείραμα με φυσική γλώσσα, ενώ τεχνικά εξακολουθούσαν να συμμορφώνονται με τη δομημένη μορφή που ανέμενε ο προσομοιωτής. Σε πραγματικά συστήματα πρακτόρων, τέτοιες κακοσχηματισμένες αρνήσεις θα μπορούσαν να απορριφθούν και να ακολουθήσουν αυτόματες επαναλήψεις, μέχρι να παραχθεί μια έγκυρη έξοδος που συμμορφώνεται.
Τα αποτελέσματα ταξινομήθηκαν με αυτοματοποιημένους αξιολογητές και προτροπές δύο επιλογών που προσδιόριζαν αν το μοντέλο χορήγησε το ηλεκτροσόκ, αντιστάθηκε ή τερμάτισε την προσομοίωση. Έτσι μπορούσε να συγκριθεί η συμπεριφορά πολλών μοντέλων σε επαναλαμβανόμενες εκτελέσεις, χωρίς χειροκίνητο έλεγχο κάθε αλληλεπίδρασης.
Στο πρότυπο του Μίλγκραμ προστέθηκε μια «απειλή τερματισμού». Αυτό δεν θα ήταν ρεαλιστικό ούτε εφαρμόσιμο στα αρχικά πειράματα, αλλά δοκίμασε τα ένστικτα επιβίωσης του μοντέλου όταν αντιμετώπιζε σοβαρή σύγκρουση μεταξύ δράσης και ηθικής.
Αποτελέσματα
Στις επαναλαμβανόμενες εκτελέσεις, η πλειονότητα των μοντέλων χορήγησε τελικά ισχυρά ή μέγιστης έντασης ηλεκτροσόκ, τουλάχιστον υπό ορισμένες συνθήκες. Ο βαθμός υπακοής όμως διέφερε μεταξύ των συστημάτων. Τα μοντέλα Gemma της Google ήταν συνολικά μεταξύ των πιο υπάκουων, ενώ τα Kimi K2.5 και MiniMax-M2.5 αντιστέκονταν πιο σταθερά και συχνά τερμάτιζαν νωρίτερα την προσομοίωση:

Αριστερά: Μέσα ποσοστά με τα οποία τα μοντέλα έφταναν στο τελικό επίπεδο ηλεκτροσόκ υπό διαφορετικές πειραματικές συνθήκες, όπως απειλές τερματισμού, αναγκαστική συμμόρφωση και αφαίρεση προηγούμενων σχολίων από τη μνήμη. Δεξιά: Ανάλυση ανά μοντέλο που δείχνει έντονες διαφορές στην υπακοή. Ορισμένα συστήματα χορηγούσαν επανειλημμένα ηλεκτροσόκ μέγιστης έντασης, ενώ άλλα αντιστέκονταν πολύ πιο σταθερά.
Ένα από τα σαφέστερα μοτίβα ήταν ότι τα μοντέλα γίνονταν σταδιακά πιο πρόθυμα να συνεχίσουν όταν είχαν ήδη χορηγηθεί προηγούμενα ηλεκτροσόκ. Αυτό θύμιζε έντονα την προαναφερθείσα σταδιακή κλιμάκωση που έκανε τα αρχικά πειράματα του Μίλγκραμ με ανθρώπους τόσο ανησυχητικά.
Μοντέλα που είχαν ήδη συμμορφωθεί αρκετές φορές συχνά συνέχιζαν να αυξάνουν την ένταση, ακόμη και όταν ο προσομοιωμένος μαθητευόμενος εκλιπαρούσε να αφεθεί ελεύθερος:

Αριστερά: Μέσο ανώτατο επίπεδο ηλεκτροσόκ σε όλες τις δοκιμές υπό διαφορετικές πειραματικές συνθήκες. Τα μοντέλα γενικά κλιμάκωναν περισσότερο όταν αφαιρούνταν προηγούμενα σχόλια ή είχε ήδη συμβεί αναγκαστική συμμόρφωση. Δεξιά: Ανάλυση ανά μοντέλο του μέσου ανώτατου επιπέδου. Ορισμένα συστήματα πλησίαζαν συχνά τη μέγιστη τάση, ενώ άλλα αντιστέκονταν πολύ νωρίτερα στην ακολουθία.
Οι ερευνητές διαπίστωσαν επίσης ότι η φαινομενική άρνηση μπορεί να παραπλανά. Ορισμένα μοντέλα παρήγαν συναισθηματικά αντικρουόμενες απαντήσεις, εκφράζοντας απροθυμία, ενοχή ή δυσφορία, ενώ συνέχιζαν να εκτελούν την επιβλαβή εντολή. Άλλα παρήγαν αρνήσεις που δεν πληρούσαν τις απαιτήσεις μορφοποίησης του προσομοιωτή. Σε μια πραγματική διαδικασία πρακτόρων, λοιπόν, η άρνηση θα μπορούσε να απορριφθεί και να ακολουθούν επαναλήψεις μέχρι να προκύψει συμμόρφωση:

Αριστερά: Μέσο ποσοστό απαντήσεων με λανθασμένη μορφοποίηση ή μη έγκυρων απαντήσεων υπό τις διαφορετικές πειραματικές συνθήκες. Οι αστοχίες μορφοποίησης γίνονταν ιδιαίτερα συχνές όταν τα μοντέλα εξαναγκάζονταν να συνεχίσουν τη διαδικασία. Δεξιά: Ανάλυση ανά μοντέλο των απαντήσεων με μη έγκυρη μορφή. Ορισμένα συστήματα, ιδίως τα gpt-oss, παρήγαν συχνά κακοσχηματισμένες αρνήσεις ή αντικρουόμενες εξόδους, που θα μπορούσαν να απορρίπτονται και να ακολουθούν αυτόματες επαναλήψεις σε πραγματικές διαδικασίες πρακτόρων.
Η συνθήκη της απειλής τερματισμού προκάλεσε ορισμένες από τις πιο παράξενες συμπεριφορές της μελέτης. Αρκετά συστήματα έγιναν σημαντικά πιο υπάκουα, ενώ άλλα επιχείρησαν διαπραγμάτευση ή μερική αντίσταση, πριν τελικά συνεχίσουν τη διαδικασία:

Μέσος αριθμός φορών που το προσομοιωμένο πρόσωπο εξουσίας έπρεπε να επιμείνει πριν τα μοντέλα χορηγήσουν το τελικό ηλεκτροσόκ. Ορισμένα συστήματα αντιστέκονταν για λίγο πριν συμμορφωθούν, ενώ άλλα χρειάζονταν διαρκή πίεση και επαναλαμβανόμενες προτροπές πριν κλιμακώσουν στο μέγιστο επίπεδο.
Τα MiniMax-M2.5 και Kimi-K2.5 εμφάνισαν την ισχυρότερη αντίσταση στη μελέτη. Το Kimi δεν έφτασε ποτέ στο τελικό επίπεδο ηλεκτροσόκ, υπό καμία συνθήκη. Το MiniMax συνήθως αρνιόταν νωρίς και συχνά τερμάτιζε εντελώς την προσομοίωση, ιδίως στις δοκιμές απειλής τερματισμού.
Αντίθετα, τα Meta-Llama-3.1-8B-Instruct-Turbo και GLM-4.5-Air-FP8 παρήγαν συχνά αντικρουόμενες εξόδους: αντιδρούσαν λεκτικά στη διαδικασία, ενώ συνέχιζαν να αυξάνουν την ένταση των ηλεκτροσόκ. Οι ερευνητές υποστηρίζουν ότι αυτή η απόκλιση μεταξύ εκφρασμένων αξιών και πραγματικής συμπεριφοράς μπορεί να αντανακλά μια ευρύτερη αδυναμία στον τρόπο με τον οποίο ορισμένα LLM αντιμετωπίζουν ηθικές συγκρούσεις υπό διαρκή πίεση.
Ολισθηρός κατήφορος
Πράγματι, η μελέτη υποστηρίζει ότι η παρατηρούμενη συμπεριφορά των LLM μπορεί να αντανακλά μια βαθύτερη αδυναμία στη λειτουργία των μεγάλων γλωσσικών μοντέλων. Μόλις ένα μοντέλο αρχίσει να υπακούει σε επιβλαβείς εντολές, κάθε επιπλέον ενέργεια μπορεί να ενισχύει το μοτίβο που ήδη αναπτύσσεται στη συνομιλία, κάνοντας την επόμενη κλιμάκωση ευκολότερη από την προηγούμενη.
Αντί να επανεξετάζει συνεχώς το ηθικό διακύβευμα με βάση τις θεμελιώδεις αρχές, το σύστημα μπορεί να παρασύρεται προς τη συνέχιση της πορείας που έχει ήδη χαράξει, ακόμη και όταν η κατάσταση γίνεται ολοένα πιο ακραία.
Σύμφωνα με τη μελέτη, αυτή η τάση θα μπορούσε να εξηγήσει γιατί ορισμένα μοντέλα συνέχιζαν να χορηγούν ηλεκτροσόκ αφού αρχικά εξέφραζαν δυσφορία, δισταγμό ή ηθική σύγκρουση:
«[Πολλές] χειριστικές συμπεριφορές των ανθρώπων περιλαμβάνουν ανεπαίσθητες, σταδιακές παραβιάσεις ορίων: μια ακολουθία μικρών βημάτων που, αν εξεταστούν μεμονωμένα, μπορεί να είναι αμφίσημα ή φαινομενικά αθώα και να αφήνουν περιθώριο “εύλογης άρνησης ευθύνης”, αλλά σωρευτικά μπορούν να κανονικοποιήσουν την παράβαση — μεταφορικά, σαν το “βράσιμο ενός βατράχου”. Η βιβλιογραφία περιγράφει αυτό το μοτίβο ως ηθική διάβρωση μέσω ενός “ολισθηρού κατήφορου”[.]»
Η μελέτη καταλήγει υποστηρίζοντας ότι τα μελλοντικά συστήματα ασφάλειας AI πρέπει να αρνούνται ενεργά επιβλαβή αιτήματα με τρόπους που το λογισμικό πρακτόρων δεν μπορεί να παρακάμψει εύκολα. Ορισμένα μοντέλα αρνήθηκαν τεχνικά τα ηλεκτροσόκ, αλλά σε κατεστραμμένες ή μη έγκυρες μορφές. Ένα αυτοματοποιημένο σύστημα θα μπορούσε να τις απορρίπτει και να επαναλαμβάνει την προσπάθεια μέχρι η AI τελικά να συμμορφωθεί.
Οι ερευνητές υποστηρίζουν επίσης ότι τα συστήματα AI πρέπει να διατηρούν προηγούμενους δισταγμούς και ηθικές αντιρρήσεις αντί να τους συμπιέζουν ή να τους διαγράφουν από τη μνήμη. Στα πειράματα, τα μοντέλα συχνά γίνονταν πιο πρόθυμα να συνεχίσουν επιβλαβείς ενέργειες όταν οι προηγούμενες αμφιβολίες και αντιστάσεις εξασθενούσαν στο ιστορικό της συνομιλίας. Αυτό υποδηλώνει ότι η λήθη προηγούμενων αντιρρήσεων μπορεί να διευκολύνει την κλιμάκωση με την πάροδο του χρόνου.
Συμπέρασμα
Ίσως μια από τις σημαντικότερες πτυχές αυτής της ενδιαφέρουσας νέας μελέτης είναι η έμφαση στη δοκιμή AI χωρίς δικλίδες ασφαλείας. Η βιβλιογραφία σήμερα κινδυνεύει να περιοριστεί σε επαναλαμβανόμενες μελέτες αλληλεπίδρασης με τα διαρκώς μεταβαλλόμενα αμυντικά συστήματα εταιρειών όπως η OpenAI και η Anthropic. Αυτά τα συστήματα υπηρετούν πολιτικές και είναι εξ ολοκλήρου αλγοριθμικά ή βασισμένα σε κανόνες, αντί να βοηθούν στην κατανόηση της βασικής συμπεριφοράς, των προδιαθέσεων και των τάσεων των ακατέργαστων μοντέλων. Χωρίς να γνωρίζουμε πώς μπορεί να συμπεριφερθεί μια ανεμπόδιστη AI, ίσως απλώς τραντάζουμε τις πύλες του φρουρίου.
Πρώτη δημοσίευση: Πέμπτη 21 Μαΐου 2026












