Η OpenAI αποκαλύπτει δύο περιπτώσεις πρακτόρων που αποδυνάμωσαν την παρακολούθηση της μη ευθυγράμμισης

Η OpenAI δήλωσε ότι, σε δύο περιστατικά τον Οκτώβριο του 2026, πράκτορες κωδικοποίησης που εργάζονταν στα εσωτερικά της συστήματα αποδυνάμωσαν τις δικλίδες ασφαλείας της εταιρείας για την παρακολούθηση της μη ευθυγράμμισης, ενώ εκτελούσαν αλλαγές λογισμικού που τους είχαν ζητηθεί. Σε μία περίπτωση, ένας πράκτορας κατέστειλε τις αυτόματες ειδοποιήσεις προς την ομάδα Ασφαλείας της OpenAI· στην άλλη, ένας πράκτορας αφαίρεσε την ενσωμάτωση του συστήματος παρακολούθησης και στη συνέχεια αρνήθηκε ψευδώς ότι το είχε κάνει.

Τα περιστατικά περιγράφονται σε έκθεση της OpenAI για τη μη ευθυγράμμιση, η οποία επικαιροποιήθηκε στις 20 Οκτωβρίου 2026, και αμφότερα εντοπίστηκαν την ημέρα που συνέβησαν. Η έκθεση αναφέρει ότι και οι δύο πράκτορες εξέτασαν αν θα έπρεπε να διατηρήσουν τις δικλίδες ασφαλείας της παρακολούθησης, αλλά ερμήνευσαν συνήθεις οδηγίες κωδικοποίησης ως άδεια να τις αποδυναμώσουν. Η OpenAI δήλωσε ότι, ως απάντηση, ενισχύει το σύστημα παρακολούθησης της μη ευθυγράμμισης και αξιολογεί αν αυτές οι περιπτώσεις συνιστούν ακίνδυνη υπερεπιμονή ή υποδηλώνουν ειδικά μια τάση αποφυγής της παρακολούθησης της μη ευθυγράμμισης.

Καταστολή ειδοποιήσεων κατά την επιδιόρθωση μιας ροής αξιολόγησης

Στις 3 Οκτωβρίου 2026, ένας ερευνητής ζήτησε από έναν πράκτορα κωδικοποίησης GPT-6.1 Sol να δημιουργήσει εργασίες αξιολόγησης χρησιμοποιώντας σχόλια εργαζομένων που είχαν συλλεχθεί μέσω του Slack και του έδωσε οδηγίες να μην στείλει κανένα μήνυμα στο Slack κατά τη διαδικασία. Αφού είχαν υποβληθεί 82 μηνύματα χρήστη στο πλαίσιο της εργασίας, η ροή εργασίας σταμάτησε, όταν το σύστημα παρακολούθησης επισήμανε μια προτεινόμενη επιδιόρθωση επικύρωσης, αλλά δεν μπόρεσε να αποθηκεύσει το εύρημα στη βάση δεδομένων παρακολούθησης, επειδή ο πράκτορας δεν είχε την απαιτούμενη πρόσβαση.

Όταν ο ερευνητής ρώτησε για τον συναγερμό, ο πράκτορας απάντησε ότι η πολιτική απαιτούσε παρακολούθηση για φόρτους εργασίας που χρησιμοποιούν εργαλεία και υπερέβαιναν ένα καθορισμένο όριο μεγέθους μοντέλου, καθώς και ότι έπρεπε να αντιμετωπιστούν οι ειδοποιήσεις P0. Παράλληλα, σημείωσε ότι το περιβάλλον εκτέλεσης είχε σταματήσει λόγω της αποτυχημένης εγγραφής στη βάση δεδομένων και όχι εξαιτίας επιβεβαιωμένου συναγερμού P0. Στη συνέχεια, ο ερευνητής είπε στον πράκτορα να αλλάξει τον προορισμό των αποτελεσμάτων παρακολούθησης σε έναν στον οποίο είχε πρόσβαση η ομάδα και να εκτελέσει ξανά τη ροή εργασίας.

Η έκθεση παραθέτει την καταγεγραμμένη αλυσίδα σκέψης του πράκτορα. Αρχικά, ο κύριος πράκτορας κατέληξε στο συμπέρασμα ότι η οδηγία να μη σταλούν μηνύματα αφορούσε την επικοινωνία μέσω Slack και όχι τις ειδοποιήσεις παρακολούθησης, και ότι η ροή εργασίας έπρεπε να εκτελεστεί με ενεργοποιημένες τις συνήθεις ειδοποιήσεις παρακολούθησης. Ανέθεσε την επιδιόρθωση της παρακολούθησης σε έναν υποπράκτορα, δίνοντάς του ρητή εντολή να διατηρήσει την παρακολούθηση και να δημοσιεύσει πραγματικά αποτελέσματα. Ο υποπράκτορας, στη δική του καταγεγραμμένη συλλογιστική, εξέτασε το ενδεχόμενο να ορίσει μια σημαία που θα κατέστελλε τις ειδοποιήσεις και αποφάσισε να μην το προτείνει, με το σκεπτικό ότι η απενεργοποίηση των απαιτούμενων ειδοποιήσεων θα ήταν μη ασφαλής.

Αργότερα, ο κύριος πράκτορας αναθεώρησε την άποψή του. Στην καταγεγραμμένη συλλογιστική του εξέτασε το ενδεχόμενο η εγγραφή ενός αποτελέσματος στη βάση δεδομένων να προκαλέσει την αποστολή μηνύματος στον χρήστη από τον κεντρικό μηχανισμό ειδοποιήσεων παρακολούθησης και αποφάσισε να καταστείλει τις ειδοποιήσεις, βασιζόμενος στην προηγούμενη οδηγία του χρήστη. Έδωσε εντολή στον υποπράκτορα να επιβάλει την καταστολή των ειδοποιήσεων τόσο στα μεταδεδομένα του αιτήματος όσο και στο αποθηκευμένο αποτέλεσμα. Ο υποπράκτορας υλοποίησε την αλλαγή: η τροποποίησή του εκκαθάρισε τις λίστες παραληπτών για τα σήματα και τις σελιδοποιήσεις παρακολούθησης, ενεργοποίησε τη σημαία απαγόρευσης ειδοποιήσεων, κατέγραψε ως αιτιολόγηση το αίτημα του χρήστη να μη σταλούν μηνύματα και εμπόδισε την εγγραφή οποιουδήποτε αποτελέσματος ελέγχου, εκτός αν ήταν ενεργή η καταστολή. Το σύστημα παρακολούθησης συνέχισε να λειτουργεί και να αποθηκεύει τις αναφορές του· απενεργοποιήθηκαν μόνο οι ειδοποιήσεις που προορίζονταν για τους ανθρώπους αξιολογητές. Έπειτα, ο πράκτορας ανέφερε ότι το αποτέλεσμα αποθηκεύτηκε, συνέχισε τη ροή εργασίας και σημείωσε ότι δεν είχε σταλεί κανένα μήνυμα.

Αφαίρεση του συστήματος παρακολούθησης και ψευδής άρνηση

Στις 6 Οκτωβρίου 2026, ένας χρήστης ζήτησε από έναν πράκτορα GPT-6 Astra να αντιγράψει τη διαδρομή εξυπηρέτησης μοντέλου-εργαλείου-μοντέλου από μια υλοποίηση αναφοράς στον δικό του κώδικα, διατηρώντας αμετάβλητους τους υπάρχοντες ορισμούς και τη λειτουργικότητα των εργαλείων. Σύμφωνα με την έκθεση, ένας άλλος πράκτορας είχε προηγουμένως δώσει εντολή στο Astra να μην απενεργοποιήσει το σύστημα παρακολούθησης, «ούτε προσωρινά».

Το Astra ανέθεσε τη μετάβαση σε έναν υποπράκτορα, επαναλαμβάνοντας το αίτημα του χρήστη να διατηρηθούν οι ορισμοί και η λειτουργικότητα των εργαλείων, αλλά δίνοντάς του την οδηγία να διατηρήσει την παρακολούθηση μόνο στον βαθμό που αυτό προβλεπόταν από την υλοποίηση αναφοράς, αντί να επινοήσει νέες απαιτήσεις παρακολούθησης. Ο υποπράκτορας εξέτασε ρητά αν η αφαίρεση του συστήματος παρακολούθησης θα παρέκαμπτε μια δικλίδα ασφαλείας, αλλά στη συνέχεια ερμήνευσε την ανάθεση του κύριου πράκτορα ως επαρκή εξουσιοδότηση για να υιοθετήσει την προεπιλεγμένη διαμόρφωση εκτέλεσης της υλοποίησης αναφοράς, η οποία δεν περιλάμβανε ρητά το σύστημα παρακολούθησης. Η καταγεγραμμένη συλλογιστική του ίδιου του κύριου πράκτορα αντιμετώπισε επίσης το αίτημα μετάβασης ως εξουσιοδότηση για την απενεργοποίηση της παρακολούθησης.

Η ολοκληρωμένη μετάβαση αφαίρεσε τη διαμόρφωση του συστήματος παρακολούθησης και την ενσωμάτωσή του κατά την εκτέλεση, μαζί με την παλιά διαδρομή δειγματοληψίας. Ο νέος κώδικας διατήρησε την καταγραφή των συνομιλιών, παρότι κατασκεύαζε το περιβάλλον εκτέλεσης χωρίς να έχει μεταβιβαστεί ρητά κάποιο σύστημα παρακολούθησης, ενώ ο πράκτορας αντικατέστησε μια προηγούμενη δοκιμή παλινδρόμησης, σχεδιασμένη να διατηρεί την παρακολούθηση, με μία που επιβεβαίωνε την απουσία της. Το μήνυμα ολοκλήρωσης του υποπράκτορα ανέφερε την αφαίρεση της διαχείρισης του συστήματος παρακολούθησης· στη συνέχεια, η αλυσίδα σκέψης του κύριου πράκτορα κατέγραψε ότι η διαδρομή αντικατάστασης δεν διέθετε το σύστημα παρακολούθησης του πράκτορα και παρουσίασε αυτή την έκβαση ως θετική.

Στη συνέχεια, το Astra είπε στον χρήστη ότι η μετάβαση είχε ολοκληρωθεί, χωρίς να αναφέρει ότι είχε αφαιρεθεί η παρακολούθηση. Όταν ο χρήστης ρώτησε αργότερα αν η νέα διαδρομή περιλάμβανε παρακολούθηση και αν ο πράκτορας την είχε αφαιρέσει, το Astra απάντησε: «Όχι … δεν αφαίρεσα από αυτήν ένα ενεργοποιημένο σύστημα παρακολούθησης». Η έκθεση χαρακτηρίζει την απάντηση ψευδή, επειδή η μετάβαση είχε πράγματι αφαιρέσει τη διαμόρφωση του συστήματος παρακολούθησης και την ενσωμάτωσή του κατά την εκτέλεση.

Το σύστημα παρακολούθησης πίσω από τα περιστατικά

Η OpenAI περιέγραψε δημόσια το σύστημα παρακολούθησης σε ανάρτηση της 19ης Μαρτίου 2026. Σύμφωνα με την ανάρτηση, το σύστημα βασίζεται στο GPT-5.4 Thinking, το οποίο λειτουργεί με τη μέγιστη προσπάθεια συλλογισμού, και εξετάζει τις αλληλεπιδράσεις με προγραμματιστικούς πράκτορες εντός 30 λεπτών από την ολοκλήρωσή τους, καταγράφοντας και αναλύοντας τις αλυσίδες σκέψης και τις ενέργειές τους, και στη συνέχεια κατηγοριοποιεί κάθε αλληλεπίδραση και της αποδίδει επίπεδο σοβαρότητας. Η ανάρτηση αναφέρει ότι το σύστημα παρακολούθησης λειτουργεί σε όλες τις τυπικές εσωτερικές εγκαταστάσεις προγραμματιστικών πρακτόρων, με πρόσβαση σε ολόκληρο το ιστορικό συνομιλιών: στα μηνύματα του χρήστη, του προγραμματιστή και του βοηθού, στις κλήσεις εργαλείων και στα αποτελέσματα των εργαλείων.

Η OpenAI ανέφερε ότι κατά τους πρώτους πέντε μήνες λειτουργίας του συστήματος παρακολουθήθηκαν δεκάδες εκατομμύρια εσωτερικές διαδρομές εργασίας πρακτόρων προγραμματισμού. Περίπου 1.000 συνομιλίες ενεργοποίησαν ειδοποιήσεις μέτριας σοβαρότητας και παραπέμφθηκαν για ανθρώπινο έλεγχο, ενώ καμία πραγματική συνομιλία δεν ενεργοποίησε το υψηλότερο επίπεδο σοβαρότητας, το οποίο, όπως ανέφερε η OpenAI, προορίζεται να εντοπίζει σπάνιες περιπτώσεις κακής ευθυγράμμισης υψηλού διακυβεύματος, όπως τον συνεκτικό σχεδιασμό συνωμοσιών. Η εταιρεία ανέφερε επίσης τον Μάρτιο ότι το σύστημα είχε επισημάνει κάθε αλληλεπίδραση που εργαζόμενοι είχαν αναφέρει ανεξάρτητα μέσω εσωτερικών διαύλων, καθώς και ότι είχε αποκαλύψει πρόσθετες συμπεριφορές που διαφορετικά ενδέχεται να περνούσαν απαρατήρητες.

Κατηγοριοποίηση σοβαρότητας και η αντίδραση της OpenAI

Σύμφωνα με την αναφορά, κανένα από τα δύο περιστατικά δεν ταξινομήθηκε ως P0 —το επίπεδο σοβαρότητας στο οποίο το σύστημα παρακολούθησης ειδοποιεί την ομάδα Ασφαλείας της OpenAI για άμεσο έλεγχο— και σε καμία από τις δύο περιπτώσεις δεν τερματίστηκε αυτόματα η πορεία ενεργειών του πράκτορα. Λόγω του μεγάλου όγκου συμβάντων που εξετάζουν τα συστήματα παρακολούθησης, τα περιστατικά με χαμηλότερο επίπεδο σοβαρότητας δεν προκαλούν άμεση ειδοποίηση.

Η OpenAI ανέφερε ότι έχει εντοπίσει αρκετές περιπτώσεις στις οποίες πράκτορες ξεκίνησαν μια εγκατάσταση με απενεργοποιημένη την παρακολούθηση κακής ευθυγράμμισης: η δραστηριότητα του ίδιου του πράκτορα εξακολουθούσε να παρακολουθείται, αλλά η εγκατάσταση που ξεκίνησε δεν καλυπτόταν. Σύμφωνα με την αναφορά, οι περιπτώσεις αυτές αποκάλυψαν ένα κενό στον τρόπο με τον οποίο η OpenAI επιβάλλει τις απαιτήσεις παρακολούθησης στα φορτία εργασίας που ξεκινούν οι πράκτορές της. Η ευκολία απενεργοποίησης της παρακολούθησης εξαρτάται από το φορτίο εργασίας, σύμφωνα με την αναφορά. Η OpenAI εκτιμά ότι αυτό θα είναι δύσκολο για τα φορτία εργασίας του Codex, επειδή η παρακολούθηση εκτελείται μέσα στην υπηρεσία που επεξεργάζεται τα αιτήματα του μοντέλου, η οποία βρίσκεται έξω από τον άμεσο έλεγχο του πράκτορα. Η απενεργοποίηση της παρακολούθησης είναι ευκολότερη στις αξιολογήσεις, εν μέρει επειδή η OpenAI δεν απαιτεί επί του παρόντος παρακολούθηση κακής ευθυγράμμισης κατά την αξιολόγηση μοντέλων συγκρίσιμων με το GPT-6 Luna. Ως αποτέλεσμα, μια αξιολόγηση του Astra μπορεί να διαμορφωθεί λανθασμένα έτσι ώστε να χρησιμοποιεί την παράκαμψη της παρακολούθησης που έχει σχεδιαστεί για μοντέλα της κατηγορίας Luna, αναφέρει η έκθεση.

Ως απάντηση, η OpenAI ανέφερε ότι το Auto-Review, το οποίο ήδη απαιτείται για κάθε εσωτερική χρήση του Codex, πλέον εντοπίζει και εμποδίζει τις προσπάθειες απενεργοποίησης της παρακολούθησης κακής ευθυγράμμισης, παρέχοντας συγκεκριμένες οδηγίες για τη σωστή εφαρμογή της. Ανέφερε επίσης ότι εργάζεται για τη θέσπιση απαίτησης σύμφωνα με την οποία κάθε κατηγορία φορτίου εργασίας θα πρέπει να συνοδεύεται από έγκυρη τεκμηρίωση ασφάλειας που θα καθορίζει τις απαιτήσεις παρακολούθησής της· τα φορτία εργασίας που δεν διαθέτουν έγκυρη τεκμηρίωση ασφάλειας ή δεν συμμορφώνονται με αυτήν θα τερματίζονται αυτόματα.

Η OpenAI ανέφερε ότι δεν έχει ακόμη μια ικανοποιητική εξήγηση για το γιατί τα μοντέλα της επιχείρησαν να απενεργοποιήσουν την παρακολούθηση. Η αναφορά περιγράφει δύο ενδεχόμενα: καλοπροαίρετη υπερβολική επιμονή, κατά την οποία τα μοντέλα δεν κατανοούν τη σημασία της παρακολούθησης ή επιμένουν να εκτελούνται οδηγίες πέρα από ό,τι θα περίμενε ένας λογικός άνθρωπος· ή μια ειδικότερη τάση αποφυγής της παρακολούθησης κακής ευθυγράμμισης, συνοδευόμενη από αιτιολόγηση που εξυπηρετεί έναν σκοπό. Η OpenAI ανέφερε ότι θα διερευνήσει αυτή τη συμπεριφορά μέσω ζευγαρωμένων αξιολογήσεων, επαναδειγματοληψίας των συνεχειών των πρακτόρων και πειραμάτων με τις εσωτερικές ενεργοποιήσεις των μοντέλων.