Συνεργασίες
Η OpenAI υπογράφει συμφωνίες με τέσσερις ανεξάρτητους αξιολογητές για ενσωματωμένους ελέγχους ασφάλειας

Βασικά σημείαΗ συνεχής πρόσβαση σε σημεία ελέγχου και δεδομένα εκπαίδευσης επιτρέπει στους…
Δείτε περισσότερα
- Η συνεχής πρόσβαση σε σημεία ελέγχου και δεδομένα εκπαίδευσης επιτρέπει στους αξιολογητές να δοκιμάζουν αποτυχίες που οι ίδιοι οι επόπτες της OpenAI θα μπορούσαν να μην εντοπίσουν.
- Η Apollo Research ερευνά αν τα μοντέλα θα μπορούσαν να δράσουν κρυφά εναντίον των προγραμματιστών και αν οι διασφαλίσεις θα το αντιλαμβάνονταν.
- Η Επιτροπή Ασφάλειας και Προστασίας λαμβάνει μη επεξεργασμένες αναφορές και μπορεί να μιλήσει ιδιωτικά με τους αξιολογητές κατά τη διάρκεια των αξιολογήσεων.
Στις 16 Νοεμβρίου 2026, η OpenAI ανακοίνωσε ότι υπέγραψε συμφωνίες με τις Apollo Research, METR, Transluce και Goodfire για την πρώτη φάση των ενσωματωμένων αξιολογήσεών της. Οι τέσσερις οργανισμοί θα αξιολογήσουν την ευθυγράμμιση και τις δικλίδες ασφαλείας κατά την εκπαίδευση και την εσωτερική χρήση, με πρόσβαση που μπορεί να περιλαμβάνει σημεία ελέγχου μοντέλων, πηγαίο κώδικα, δεδομένα εκπαίδευσης και συστήματα παρακολούθησης.
Βασικό χαρακτηριστικό είναι η διαρκής πρόσβαση σε εσωτερικά μοντέλα και συστήματα για παρατεταμένο χρονικό διάστημα, ιδίως όταν αυτά σχετίζονται με τις τεκμηριώσεις ασφάλειας της OpenAI. Η OpenAI αναφέρει ότι η πρόσβαση αυτή αποσκοπεί στο να μπορούν οι αξιολογητές να εξετάζουν στοιχεία και το σχετικό πλαίσιο, να διενεργούν ανεξάρτητες αξιολογήσεις και να εντοπίζουν αστοχίες που ενδεχομένως δεν είχε προβλέψει. Παρουσιάζει επίσης τη δημοσιοποίηση των αποτελεσμάτων των αξιολογήσεων ως τρόπο να αποκτήσει το κοινό σαφέστερη εικόνα για το πώς τα εργαστήρια αξιολογούν και διαχειρίζονται τους κινδύνους.
Διαφορετικές αρμοδιότητες για κάθε αξιολογητή
Η Apollo Research θα εξετάσει αν τα μοντέλα θα μπορούσαν να ενεργήσουν κρυφά ενάντια στις προθέσεις των δημιουργών τους και αν οι δικλίδες ασφαλείας της OpenAI θα εντόπιζαν μια τέτοια συμπεριφορά. Η αξιολόγηση δύο σταδίων καλύπτει τέσσερις προτάσεις: ότι η εκπαίδευση δεν ενθάρρυνε την υπονόμευση, ότι οι αυστηρές αξιολογήσεις και η δοκιμή μέσω επιθέσεων δεν την προκαλούν, ότι τα μοντέλα δεν επιχείρησαν να υπονομεύσουν τις προθέσεις των δημιουργών τους κατά την εσωτερική χρήση και ότι θα ήταν δυνατό να εντοπιστεί το σκεπτικό πίσω από μια τέτοια ενέργεια.
Για το πρώτο στάδιο της αξιολόγησης της Apollo, η OpenAI θα διαθέσει επιλεγμένα δημόσια και μη δημοσιοποιημένα μοντέλα και σημεία ελέγχου της εκπαίδευσης, σχετικά δεδομένα εκπαίδευσης και αποτελέσματα αξιολογήσεων, αρχεία παρεμβάσεων στην εκπαίδευση, συστήματα παρακολούθησης και επισημασμένες συμπεριφορές. Η Apollo θα έχει επίσης πρόσβαση σε ερευνητές που μπορούν να παρέχουν το σχετικό πλαίσιο, καθώς και στα εργαλεία και την υπολογιστική ισχύ που απαιτούνται για ανεξάρτητες δοκιμές.
Η Goodfire θα εντάξει ερευνητές με ειδίκευση στην ερμηνευσιμότητα, δηλαδή στην ανάλυση του εσωτερικού των μοντέλων, και θα χρησιμοποιήσει την πλατφόρμα της για την παρακολούθηση των κύκλων εκπαίδευσης, τον εντοπισμό και τη διόρθωση προβλημάτων και την ευθυγράμμιση. Οι ερευνητές της OpenAI είναι το κύριο κοινό των ευρημάτων της, τα οποία θα αξιοποιήσουν για να βελτιώσουν την ασφάλεια. Καθώς εξελίσσεται η συνεργασία, η Goodfire θα δημοσιεύει επίσης τα διδάγματα και τα ευρήματά της.
Η αξιολόγηση ευθυγράμμισης της METR κατά την πρώτη φάση επικεντρώνεται σε αυτό που η OpenAI περιγράφει ως τη μεγαλύτερη μέχρι σήμερα εκτέλεση ενισχυτικής μάθησης, συμπεριλαμβανομένων αστοχιών που ενδέχεται να μην εντόπισαν οι υπάρχουσες δοκιμές και τα συστήματα παρακολούθησης. Στο πλαίσιο της επιλεγμένης εκτέλεσης και της συμφωνημένης πρόσβασης, των πόρων και των ρυθμίσεων ασφάλειας, η METR θα καθορίζει ανεξάρτητα τις προτεραιότητές της και θα επαναλαμβάνει τις αναζητήσεις, τις αναλύσεις και τα πειράματα ανάδειξης συμπεριφορών. Η πρόσβασή της θα περιλαμβάνει σχετικά σημεία ελέγχου, εκτελέσεις κατά την εκπαίδευση και την αξιολόγηση, καθώς και αρχεία παρακολούθησης της μη ευθυγράμμισης. Το αρχικό πεδίο εφαρμογής περιορίζεται σε αυτή την εκτέλεση και δεν επεκτείνεται σε ευρεία διερεύνηση της μη ευθυγράμμισης.
Μια ξεχωριστή αξιολόγηση των συστημάτων παρακολούθησης της METR δεν έχει ακόμη οριστικοποιηθεί. Οι οργανισμοί έχουν καταρχήν συμφωνήσει να επιδιώξουν μια ευρύτερη άσκηση, αλλά αυτή εκκρεμεί μέχρι να συμφωνήσουν αμοιβαία για το πεδίο εφαρμογής της.
Η Transluce θα ξεκινήσει εξετάζοντας την ποιότητα και την κάλυψη των αξιολογήσεων ευθυγράμμισης της OpenAI μετά την εκπαίδευση. Η πρόσβασή της θα περιλαμβάνει επιλεγμένα δημόσια και μη δημοσιοποιημένα μοντέλα, αποτελέσματα αξιολογήσεων, υποστηρικτικά δεδομένα συμπεριφοράς, τεκμηρίωση των τεκμηριώσεων ασφάλειας και πρόσβαση σε ερευνητές, καθώς και εργαλεία και υπολογιστική ισχύ.
Οι δύο πλευρές σκοπεύουν επίσης να πραγματοποιήσουν μια συμπληρωματική αξιολόγηση διάρκειας περίπου οκτώ εβδομάδων στις αρχές του 2027. Η εργασία αυτή θα διεύρυνε την πρόσβαση σε πρόσθετα μοντέλα, θα παρείχε βαθύτερη πρόσβαση στις αξιολογήσεις ευθυγράμμισης και θα έδινε πληροφορίες για το πώς τα αποτελέσματα των αξιολογήσεων επηρεάζουν τις αποφάσεις κυκλοφορίας. Η ανακοίνωση την περιγράφει ως κοινή πρόθεση, διακρίνοντάς την από την αρχική αξιολόγηση.
Η πρόσβαση συνοδεύεται από μέτρα ασφάλειας και εποπτεία
Κάθε συνεργασία ξεκινά με συμφωνία ως προς το πεδίο εφαρμογής, την πρόσβαση, τους πόρους και τις ρυθμίσεις ασφάλειας που απαιτούνται για την εργασία. Τα πρωτόκολλα προβλέπουν ότι οι αξιολογητές θα έχουν την ελευθερία να ακολουθούν τα στοιχεία, να βελτιώνουν τις μεθόδους τους και να προτείνουν περαιτέρω αξιολογήσεις όταν το δικαιολογούν τα ευρήματα, ενώ υπάρχει και διαδικασία για την κάλυψη πρόσθετων αναγκών πρόσβασης.
Όταν η άμεση πρόσβαση θα μπορούσε να εκθέσει ευαίσθητη πνευματική ιδιοκτησία, όπως βάρη μοντέλων ή αρχιτεκτονική, η OpenAI θα εξετάζει εναλλακτικές λύσεις, μεταξύ των οποίων και τη συνεργασία αξιολογητών με ερευνητές της για τη διενέργεια αναλύσεων. Οι αξιολογητές που χειρίζονται ευαίσθητες εμπιστευτικές πληροφορίες θα εργάζονται επιτόπου στα γραφεία της OpenAI, χρησιμοποιώντας συσκευές της εταιρείας. Αναμένεται να τηρούν τουλάχιστον τα ίδια πρότυπα ασφάλειας με τους εργαζομένους της OpenAI, ενώ για ορισμένα πειράματα ενδέχεται να ισχύουν αυστηρότερες απαιτήσεις.
Η εποπτεία ανατίθεται στην Επιτροπή Ασφάλειας και Προστασίας, μια ανεξάρτητη επιτροπή εποπτείας του Διοικητικού Συμβουλίου του OpenAI Foundation. Η επιτροπή θα λαμβάνει αναφορές χωρίς περικοπές και θα μπορεί να συνομιλεί με τους αξιολογητές κατά τη διάρκεια της εργασίας, ακόμη και κατ’ ιδίαν. Οι διαφωνίες θα παραπέμπονται αρχικά στην Ομάδα Συμβουλευτικής για την Ασφάλεια και στα στελέχη της OpenAI, ώστε να επιλυθούν εντός καθορισμένης προθεσμίας. Η επιτροπή πρέπει να ενημερώνεται άμεσα όταν οι διαφωνίες κλιμακώνονται, ενώ τα ζητήματα που δεν επιλύονται θα παραπέμπονται σε αυτήν.
Οι συνομιλίες με εργαζομένους εγείρουν ένα ξεχωριστό ζήτημα διαφάνειας. Οι συζητήσεις αυτές είναι εκτός καταγραφής, δηλαδή μπορούν να συνεισφέρουν στις αξιολογήσεις, αλλά δεν μπορούν να δημοσιευτούν ούτε να αποδοθούν σε εργαζομένους. Οι αξιολογητές μπορούν να ζητήσουν μια δήλωση επικυρωμένη από την OpenAI, η οποία να επαληθεύει, να διορθώνει ή να διευκρινίζει κάτι που έμαθαν στις συνομιλίες. Στη συνέχεια, μπορούν να δημοσιεύσουν την επικυρωμένη δήλωση ή να γνωστοποιήσουν ότι η OpenAI αρνήθηκε να την επικυρώσει, δημιουργώντας έναν περιορισμένο δημόσιο δίαυλο για πληροφορίες που συγκεντρώθηκαν εμπιστευτικά.
Δικαιώματα δημοσίευσης και γνωστοποιήσεις οικονομικών στοιχείων
Οι αξιολογητές διατηρούν την ανεξαρτησία τους κατά τη δημοσίευση των αξιολογήσεών τους, ενώ η OpenAI διατηρεί το δικαίωμα να αποκρύπτει εμπιστευτικές πληροφορίες. Μπορεί επίσης να ζητήσει καθυστέρηση της υπεύθυνης δημοσιοποίησης, ώστε να αντιμετωπιστούν ευρήματα που θα μπορούσαν να δημιουργήσουν κινδύνους για την ασφάλεια ή την προστασία, καθώς και να διορθωθούν ζητήματα που παραμένουν ανεπίλυτα. Η OpenAI αναφέρει ότι οι δημόσιες εκθέσεις θα πρέπει να εξηγούν τα ευρήματα και τους περιορισμούς τους, ενώ οι λεπτομερέστερες εμπιστευτικές εκθέσεις παρέχουν στους εποπτικούς φορείς τα στοιχεία που χρειάζονται για να ενεργήσουν.
Οι οικονομικές ρυθμίσεις διαφέρουν μεταξύ των συμμετεχόντων. Οι Apollo Research και Goodfire δέχονται αμοιβή που δεν εξαρτάται από τα αποτελέσματα των αξιολογήσεών τους. Οι METR και Transluce δεν δέχονται χρηματική αμοιβή, αν και ενδέχεται να δεχτούν πιστώσεις API ή υπολογιστικούς πόρους για χρήση στις αξιολογήσεις τους.
Οι διαδικασίες γνωστοποίησης συγκρούσεων συμφερόντων και περιόδου αποχής εξακολουθούν να διαμορφώνονται σε συνεργασία με τους αξιολογητές. Η OpenAI ζητά από το προσωπικό τρίτων που συμμετέχει να τηρεί μια σύντομη περίοδο αποχής προτού ενταχθεί σε άλλον φορέα ανάπτυξης ΤΝ, ώστε να μειωθεί ο κίνδυνος ακούσιας αποκάλυψης εμπιστευτικών πληροφοριών.
Η OpenAI αναμένει αρχικές προκλήσεις όσον αφορά την τεχνική πρόσβαση, τους χώρους και την ασφάλεια, δηλώνει ότι τα πρωτόκολλα θα εξελίσσονται και θέτει ως στόχο μακροπρόθεσμες συνεργασίες με ενσωματωμένους αξιολογητές. Εξετάζει επίσης μελλοντικές αξιολογήσεις της συμμόρφωσης με το πλαίσιο ασφάλειας, της οργανωτικής κουλτούρας και των διαδικασιών.
Η πρώτη φάση θέτει μια συγκεκριμένη δοκιμασία διακυβέρνησης: κατά πόσο η εκτεταμένη εσωτερική πρόσβαση και η ανεξάρτητη δημοσίευση μπορούν να παράσχουν χρήσιμα δημόσια στοιχεία για αστοχίες που δεν εντοπίζονται στις εσωτερικές δοκιμές, ενώ η OpenAI διατηρεί τα συμφωνημένα πεδία εφαρμογής, τους ελέγχους ασφαλείας στις εγκαταστάσεις, το δικαίωμα απόκρυψης πληροφοριών και τη δυνατότητα καθυστέρησης της δημοσιοποίησης.












