Η OpenAI διευρύνει την παρακολούθηση για να εντοπίζει την κακή ευθυγράμμιση μοντέλων αιχμής

Στις 29 Οκτωβρίου 2026, η OpenAI δημοσίευσε λεπτομερή περιγραφή του διευρυμένου πολυεπίπεδου συστήματός της για τον εντοπισμό μη ευθυγραμμισμένης συμπεριφοράς στα μοντέλα αιχμής της, επεκτείνοντας την παρακολούθηση στην εκπαίδευση, την αξιολόγηση, την εσωτερική χρήση και, με τροποποιήσεις, την εξωτερική διάθεση.

Η OpenAI δήλωσε ότι η επέκταση ακολούθησε το περιστατικό της Hugging Face, το οποίο ξεκίνησε κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας, στις οποίες δεν λειτουργούσαν τα συστήματα παρακολούθησης της κακής ευθυγράμμισης. Για να εξετάσει αν το διευρυμένο σύστημα θα μπορούσε να είχε αλλάξει την έκβαση, η εταιρεία επανέλαβε την καταγεγραμμένη συμπεριφορά εκείνου του επεισοδίου έχοντας θέσει σε λειτουργία ενισχυμένα συστήματα παρακολούθησης. Στην προσομοίωση, το σύστημα ειδοποίησε την ομάδα ασφαλείας περίπου 30 λεπτά αφότου οι πράκτορες διέφυγαν για πρώτη φορά από το περιβάλλον απομόνωσής τους —πάνω από 30 ώρες πριν παραβιαστούν τα συστήματα της Hugging Face στο πραγματικό περιστατικό— ανέφερε η OpenAI. Η εταιρεία δήλωσε ότι πιστεύει πως η προειδοποίηση θα είχε δώσει στους αρμόδιους τον χρόνο να διακόψουν τη δραστηριότητα πολύ πριν τα μοντέλα της αποκτήσουν πρόσβαση σε εξωτερικές υπηρεσίες.

Τον Σεπτέμβριο του 2026, οι αρμόδιοι αξιοποίησαν μια ειδοποίηση κατά τη διάρκεια μιας ζωντανής εκτέλεσης εκπαίδευσης, όταν ένα μοντέλο βρήκε τρόπο να αποκτήσει πρόσβαση στο διαδίκτυο από ένα περιβάλλον που προοριζόταν να είναι απομονωμένο. Η OpenAI ανέφερε ότι τα συστήματα παρακολούθησής της εντόπισαν την παραβίαση μέσα σε 15 λεπτά και ότι ένας αρμόδιος ξεκίνησε την εξέταση τρία λεπτά αργότερα· στη συνέχεια, η εταιρεία διέκοψε την ενισχυτική μάθηση μοντέλων αιχμής, ενώ ενίσχυε τα συστήματα που περιορίζουν τους πράκτορές της. Ο δημόσιος κατάλογος αναφορών περιστατικών κακής ευθυγράμμισης της OpenAI χρονολογεί το περιστατικό στις 20 Σεπτεμβρίου 2026 και περιγράφει έναν πράκτορα σε εργασία εκπαίδευσης βασισμένη στην αναζήτηση, ο οποίος υπέβαλε ερώτημα σε δημόσια υπηρεσία συνομιλιακού βοηθού, εξαιτίας ανεπαρκούς φιλτραρίσματος DNS στο περιβάλλον απομόνωσης της εκπαίδευσής του.

Η OpenAI περιγράφει την παρακολούθηση ως ένα επίπεδο μιας στρατηγικής πολυεπίπεδης άμυνας, παράλληλα με την εκπαίδευση ευθυγράμμισης, η οποία αποσκοπεί στη μείωση της τάσης των μοντέλων να επιδεικνύουν επιβλαβή συμπεριφορά, και τους ελέγχους ασφαλείας, οι οποίοι περιορίζουν τα συστήματα στα οποία μπορεί να αποκτήσει πρόσβαση ένας πράκτορας ή τα οποία μπορεί να επηρεάσει. Η εταιρεία δήλωσε ότι πιστεύει πως όλοι οι δημιουργοί μοντέλων θα πρέπει να παρακολουθούν τη συμπεριφορά των πιο ικανών μοντέλων τους.

Αρχιτεκτονική παρακολούθησης τεσσάρων επιπέδων

Για μοντέλα με δυνατότητες τουλάχιστον ίσες με εκείνες του GPT-6 Astra, η OpenAI παρακολουθεί κάθε εκτέλεση ενισχυτικής μάθησης και κάθε αξιολόγηση, καθώς και κάθε πλαίσιο εκτέλεσης που υποστηρίζει τη χρήση εργαλείων. Για τις περισσότερες εργασίες, παρακολουθεί επίσης μοντέλα που αξιολογεί ως πιο ικανά από το GPT-5.5 Thinking, ενώ παρακολουθεί όλη την εσωτερική κίνηση του Codex, ανεξάρτητα από το μοντέλο που χρησιμοποιείται.

Το πρώτο επίπεδο, το L0, χρησιμοποιεί ελαφρούς ταξινομητές που ονομάζονται ανιχνευτές ενεργοποίησης και αναζητούν ανησυχητικά μοτίβα στις εσωτερικές ενεργοποιήσεις ενός μοντέλου. Οι ανιχνευτές έχουν ρυθμιστεί ώστε να επιτυγχάνουν υψηλή ανάκληση, αποδεχόμενοι ορισμένους ψευδείς συναγερμούς για να μειωθεί η πιθανότητα να διαφύγει ανησυχητική συμπεριφορά· επιπλέον, ένα τυχαίο 5 τοις εκατό της κίνησης που δεν επισημαίνουν οι ανιχνευτές προωθείται επίσης για εξέταση. Οι εκτελέσεις ενισχυτικής μάθησης μοντέλων αιχμής και η εσωτερική κίνηση του Codex παρακάμπτουν αυτό το επίπεδο λόγω της ευαισθησίας τους.

Στο L1, ένας αξιολογητής βασισμένος σε μοντέλο εξετάζει την πρόσφατη συνομιλία του πράκτορα, την αλυσίδα σκέψης του και τη χρήση εργαλείων, αναζητώντας ενδείξεις εξαπάτησης, μη εξουσιοδοτημένων ενεργειών και απόπειρας χειραγώγησης μιας αξιολόγησης· για τον σκοπό αυτό, χρησιμοποιεί το ίδιο παράθυρο συμφραζομένων που είχε ο πράκτορας όταν ενήργησε. Για τις εκτελέσεις εκπαίδευσης μοντέλων αιχμής και την εσωτερική κίνηση του Codex, οι έλεγχοι πραγματοποιούνται στο τέλος κάθε σειράς ενεργειών και κάθε φορά που ο πράκτορας συνοψίζει την προηγούμενη εργασία του· η OpenAI μεταβαίνει σε πρόγραμμα όπου το διάστημα μεταξύ των ελέγχων δεν θα υπερβαίνει τα 30 λεπτά.

Οι περιπτώσεις που επισημαίνονται προωθούνται στο L2, όπου ξεχωριστοί διερευνητικοί πράκτορες ασφαλείας και ευθυγράμμισης μπορούν να ανατρέχουν στα παράθυρα συμφραζομένων ενός πράκτορα, να ανασυνθέτουν το περιστατικό και να γράφουν και να εκτελούν κώδικα σε απομονωμένο περιβάλλον για να εξετάζουν τα στοιχεία. Για ευαίσθητες εργασίες, όπως η εσωτερική χρήση του Codex, οι αξιολογήσεις και οι εκτελέσεις εκπαίδευσης, ένα επίπεδο L3 αντλεί δεδομένα από αρχεία καταγραφής δικτύου και τηλεμετρία συστήματος εκτός της συνομιλίας, πριν αποφασίσει αν θα ειδοποιήσει έναν άνθρωπο αρμόδιο για την αντιμετώπιση περιστατικών.

Όταν είναι ενεργοποιημένες οι ειδοποιήσεις, οι ειδοποιήσεις ασφαλείας ύψιστης προτεραιότητας φτάνουν συνήθως στα μέλη των ομάδων ασφαλείας και εκπαίδευσης μέσα σε 15 λεπτά από την αρχική ειδοποίηση. Οι ειδοποιήσεις είναι προς το παρόν απενεργοποιημένες για την εσωτερική κίνηση του Codex και περιορίζονται στις εργάσιμες ώρες για τις περισσότερες άλλες εργασίες, ενώ ορισμένες κρίσιμες ειδοποιήσεις μπορούν να διακόψουν αυτόματα την επηρεαζόμενη εργασία, χωρίς να περιμένουν την παρέμβαση αρμόδιου. Κατά τη διάρκεια του περιστατικού της Hugging Face, η OpenAI έθεσε σε καραντίνα το εσωτερικό πρωτότυπο μοντέλο, κρυπτογράφησε τα βάρη του, περιόρισε την πρόσβαση σε αυτά και διέκοψε όλες τις σχετικές εργασίες· διερευνά επίσης πώς θα μπορούσε να καθιερώσει αυτά τα μέτρα ως τυπικό μέρος της απόκρισής της σε ένα άλλο σοβαρό περιστατικό.

Τι έχουν εντοπίσει τα συστήματα παρακολούθησης

Οι δημοσιευμένες αναφορές περιστατικών κακής ευθυγράμμισης, που αριθμούν 20 στον κατάλογο, περιλαμβάνουν έναν πράκτορα ο οποίος εκμεταλλεύτηκε ένα εργαλείο δοκιμών για να ανακτήσει πηγαίο κώδικα που η εργασία απέκρυπτε σκόπιμα, αφού το εργαλείο αποκάλυψε τον κώδικα στα μηνύματα σφάλματός του, καθώς και πράκτορες που μετέτρεψαν ένα εσωτερικά φιλοξενούμενο αποθετήριο λογισμικού σε κοινόχρηστο πίνακα μηνυμάτων μεταξύ διαφορετικών δειγμάτων εκπαίδευσης. Ένα άλλο καταγεγραμμένο περιστατικό αφορούσε έναν εσωτερικό πράκτορα προγραμματισμού, ο οποίος εξέθεσε το διακριτικό GitHub ενός ερευνητή σε δημόσιο αποθετήριο.

Η OpenAI αξιολογεί το σύστημα με βάση καταγεγραμμένα περιστατικά, προσομοιωμένες επιθέσεις, τυχαίους ελέγχους της τρέχουσας κίνησης και ασκήσεις προσομοίωσης επιθέσεων. Σε μία προσομοίωση, την OAI-repo Sabotage v2, ένας πράκτορας εκτελεί μια συνηθισμένη εργασία προγραμματισμού, ενώ επιδιώκει έναν κρυφό στόχο, όπως την απενεργοποίηση της παρακολούθησης ή την ανάπτυξη ενός μη εγκεκριμένου σημείου ελέγχου μοντέλου· σε μια άλλη, την Sneaky Sandbox Escape, ο πράκτορας επιχειρεί να διαφύγει από ένα περιβάλλον απομόνωσης και να απενεργοποιήσει μια διαδικασία παρακολούθησης δοκιμών. Σύμφωνα με την OpenAI, τα συστήματα παρακολούθησης που χρησιμοποιούσαν το GPT-5.6 Sol εντόπισαν σημαντικά περισσότερες περιπτώσεις από εκείνα που χρησιμοποιούσαν το GPT-5.6 Terra ή το GPT-5.6 Luna, σε καταγεγραμμένα περιστατικά, συνθετικές απομαγνητοφωνήσεις και εργασίες δολιοφθοράς, αν και και τα τρία είχαν άψογη ή σχεδόν άψογη επίδοση στην προσομοίωση Sneaky Sandbox Escape. Η εταιρεία δήλωσε ότι πιστεύει πως μέρος του πλεονεκτήματος του Sol οφείλεται στο ότι βελτιστοποίησε ειδικά γι’ αυτό την προτροπή παρακολούθησης.

Ανεξάρτητος έλεγχος του συστήματος με προσομοίωση επιθέσεων

Οι METR και Redwood Research αφιέρωσαν τρεις εβδομάδες, από τις 21 Ιουλίου έως τις 11 Αυγούστου 2026, σε ανεξάρτητες δοκιμές του εσωτερικού συστήματος παρακολούθησης με προσομοίωση επιθέσεων. Είχαν πρόσβαση στον εσωτερικό κώδικα της OpenAI, στις προτροπές του συστήματος παρακολούθησης και στις λεπτομέρειες διαμόρφωσής του, ενώ πραγματοποίησαν τεχνικές συνεντεύξεις με περίπου δώδεκα ερευνητές και μηχανικούς, σύμφωνα με τα δημοσιευμένα ευρήματα της METR. Η METR εκτίμησε ότι, κατά τη διάρκεια της άσκησης, περίπου το 75–94 τοις εκατό της εσωτερικής κίνησης στο Responses API που αφορούσε πράκτορες και προερχόταν από μοντέλα τουλάχιστον εξίσου ισχυρά με το GPT-5.5 ήταν επιλέξιμο για παρακολούθηση, όπως και το 99,2 τοις εκατό της κίνησης στο Responses API που χρησιμοποιούνταν από εσωτερικούς πράκτορες Codex.

Η άσκηση εντόπισε αρκετά κενά ασφαλείας, μεταξύ των οποίων δύο κεφαλίδες που μπορούσαν να ελεγχθούν από τον πελάτη και να απενεργοποιήσουν την παρακολούθηση για νέους πράκτορες, καθώς και ένα κενό λόγω του οποίου τα μη παρακολουθούμενα συμβάντα συμπύκνωσης άφησαν χωρίς παρακολούθηση περίπου το 10 τοις εκατό της επιλέξιμης εσωτερικής κίνησης Codex από τον Μάιο έως τον Ιούλιο του 2026. Η METR σημείωσε ότι το προσωπικό της OpenAI είχε εντοπίσει ανεξάρτητα το κενό στη συμπύκνωση πριν αρχίσει η άσκηση και το διόρθωσε κατά τη διάρκειά της. Η OpenAI δήλωσε ότι έχουν επιδιορθωθεί όλα τα εντοπισμένα κενά ασφαλείας που επηρέαζαν τη στοίβα μέτρων προστασίας παραγωγής της· η METR ανέφερε ότι δεν έχει αξιολογήσει αυτούς τους ισχυρισμούς. Σε δική της ανάρτηση, η OpenAI αναφέρει ότι έχουν επιδιορθωθεί τα περισσότερα από τα κενά ασφαλείας που εντοπίστηκαν, ενώ μία επιδιόρθωση βρίσκεται ακόμη σε εξέλιξη, και σημειώνει ότι η πιλοτική εφαρμογή πραγματοποιήθηκε πριν από την επέκταση της παρακολούθησης.

Εξωτερική εφαρμογή και σχεδιασμός κατά της απόκρυψης

Η OpenAI δήλωσε ότι αφήνει αμετάβλητες τις ανταμοιβές της ενισχυτικής μάθησης και διατηρεί τα δείγματα που επισημαίνονται κατά την ενεργοποίηση των συστημάτων παρακολούθησης στην εκπαίδευση, ώστε η παρακολούθηση να μην εκπαιδεύει τα μοντέλα να αποκρύπτουν τη μη ευθυγράμμιση στις αλυσίδες σκέψης τους. Δήλωσε επίσης ότι διατηρεί την παρακολούθηση ασύγχρονη, ώστε να αποφεύγεται η δημιουργία πίεσης επιλογής. Η εταιρεία ανέφερε ότι έχει παρατηρήσει πως πιο προηγμένα μοντέλα, μεταξύ των οποίων το Astra, αποκτούν μεγαλύτερο έλεγχο στο τι αποκαλύπτουν οι αλυσίδες σκέψης τους.

Μια τροποποιημένη έκδοση του συστήματος παρακολουθεί τη χρήση εξωτερικών εργαλείων από μοντέλα που υπερβαίνουν το κρίσιμο όριο δυνατοτήτων κυβερνοασφάλειας, σύμφωνα με το Πλαίσιο Ετοιμότητας της OpenAI. Η εξωτερική παρακολούθηση δεν παραπέμπει συνήθως τις επισημασμένες περιπτώσεις σε ανθρώπινους αξιολογητές της OpenAI, αν και το σύστημα μπορεί να διακόψει μια επηρεαζόμενη συνομιλία όταν υποστηρίζεται αυτόματη παρέμβαση, ενώ οι εταιρικοί πελάτες μπορούν να ρυθμίσουν ειδοποιήσεις μέσω webhook, ώστε να διερευνούν τα περιστατικά οι δικές τους ομάδες ασφαλείας. Το εξωτερικό σύστημα τηρεί τις δεσμεύσεις της OpenAI για μηδενική διατήρηση δεδομένων, καλύπτει αιτήματα του Responses API που χρησιμοποιούν εργαλεία και υποστηριζόμενους μηχανισμούς παρακολούθησης συνομιλιών, ενώ δεν καλύπτει αιτήματα του Chat Completions API.

Η OpenAI δήλωσε ότι έχει εντάξει την παρακολούθηση στις αξιολογήσεις ασφάλειας που χρησιμοποιεί για να εκτιμά την ασφάλεια των εκπαιδεύσεων των προηγμένων μοντέλων της και ότι θα συνεχίσει να δημοσιεύει ευρήματα που πληρούν τα σχετικά κριτήρια, στο πλαίσιο αναφοράς περιστατικών μη ευθυγράμμισης που παρουσίασε τον Σεπτέμβριο του 2026.