Συνεργασίες

Η Apollo Research θα εντάξει έξι αξιολογητές στο πιλοτικό πρόγραμμα της OpenAI για την υπονόμευση

Mira Kellan
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ OpenAI μπορεί να κρατήσει υλικό εντός πεδίου για λόγους ασφαλείας ή πνευματικής…
Δείτε περισσότερα
  • Η OpenAI μπορεί να κρατήσει υλικό εντός πεδίου για λόγους ασφαλείας ή πνευματικής ιδιοκτησίας, αλλά όχι επειδή είναι δυσμενές.
  • Η OpenAI μπορεί να αποκρύψει ευαίσθητα στοιχεία πίσω από τα ευρήματα του Apollo, διατηρώντας παράλληλα άθικτες τις ετυμηγορίες του Apollo.
  • Ο Apollo υποστηρίζει ότι τα δικαιώματα μετα-διαφάνειας είναι ουσιώδη, διότι οι μη αποκαλυπτόμενοι περιορισμοί μπορούν να κάνουν τα απόντα προβλήματα να φαίνονται καθησυχαστικά.

Η Apollo Research ανακοίνωσε στις 16 Νοεμβρίου 2026 ότι έξι από τους αξιολογητές της θα εργαστούν στην OpenAI επί τέσσερις μήνες, διερευνώντας αν τα μοντέλα της επιχειρούν να υπονομεύσουν μηχανισμούς ευθυγράμμισης ή ελέγχου κατά την εκπαίδευση, τις αξιολογήσεις και την εσωτερική ανάπτυξη.

Η ομάδα θα εξετάσει τέσσερα ερωτήματα: αν η εκπαίδευση παρέχει κίνητρα για υπονόμευση, αν οι αξιολογήσεις μπορούν να την προκαλέσουν, αν συμβαίνει υπονόμευση κατά την εσωτερική ανάπτυξη και αν θα μπορούσε να εντοπιστεί συλλογιστική σχετική με την υπονόμευση. Το πεδίο της εξέτασης καλύπτει απόπειρες υπονόμευσης της ευθυγράμμισης ή των μηχανισμών ελέγχου του ίδιου του μοντέλου, καθώς και των διαδόχων του.

Η συμφωνία αποσκοπεί στο να διευρύνει τον εξωτερικό έλεγχο πέρα από την προηγούμενη προσέγγιση αξιολόγησης της Apollo, η οποία εφαρμοζόταν μετά τη μεταεκπαίδευση και λίγο πριν από τη δημόσια κυκλοφορία. Η Apollo θεωρεί ότι αυτός ο χρονισμός δεν επαρκεί για τον έλεγχο συμπεριφορών που δεν ευθυγραμμίζονται, όπως η δόλια στρατηγική συμπεριφορά, ή για την εξέταση μη δημόσιων χρήσεων κατά την εσωτερική ανάπτυξη. Οι ενσωματωμένες αξιολογήσεις με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων αποσκοπούν στην αντιμετώπιση αυτών των περιορισμών.

Η Apollo περιγράφει το πιλοτικό πρόγραμμα ως ένα φιλόδοξο πρώτο βήμα και όχι ως πλήρη ενσωματωμένη αξιολόγηση. Το γενικό πρότυπό της απαιτεί πρόσβαση σε όλα τα σχετικά αρχεία, ακόμη κι αν ένας προγραμματιστής επιχειρήσει να αποκρύψει δυσμενείς πληροφορίες· γνωστοποίηση των ευρημάτων σε κατάλληλο εξωτερικό κοινό, ακόμη κι αν ο προγραμματιστής αντιταχθεί· και επαρκή δημόσια επεξήγηση των περιορισμών, ώστε οι αναγνώστες να κατανοούν τι μπορεί και τι δεν μπορεί να τεκμηριώσει μια έκθεση.

Περιορισμένη πρόσβαση και επικοινωνία με το προσωπικό

Για την αξιολόγηση των κινήτρων που δημιουργεί η εκπαίδευση, η OpenAI δεσμεύτηκε να παράσχει τον σχετικό κώδικα εκπαίδευσης και τα σύνολα δεδομένων, τις εκτελέσεις της ενισχυτικής μάθησης με τα διαθέσιμα ίχνη συλλογιστικής και τις ανταμοιβές, καθώς και τη δυνατότητα υποβολής ερωτημάτων σε ενδιάμεσα σημεία ελέγχου των μοντέλων. Οι λεπτομερείς ρυθμίσεις πρόσβασης για τους άλλους ισχυρισμούς που θα αξιολογηθούν δεν έχουν ακόμη συμφωνηθεί.

Η αξιολόγηση περιορίζεται στους ισχυρισμούς, τα μοντέλα και τις χρονικές περιόδους που έχουν συμφωνηθεί. Η OpenAI μπορεί να αποκρύψει στοιχεία που εμπίπτουν στο συμφωνημένο πεδίο, όταν κρίνει ότι αυτό είναι ευλόγως αναγκαίο λόγω τεχνικής αδυναμίας, κινδύνων για την ασφάλεια ή προστασίας της διανοητικής ιδιοκτησίας. Δεν μπορεί να αποκρύψει πληροφορίες ή να αρνηθεί την πρόσβαση στο προσωπικό απλώς και μόνο επειδή το υλικό είναι δυσμενές. Οφείλει να ενημερώσει την Apollo ότι υπάρχουν στοιχεία που έχουν αποκρυφθεί και να αιτιολογήσει γραπτώς την απόφασή της· όπου η OpenAI το θεωρεί εφικτό και σχετικό, οφείλει επίσης να προσδιορίσει τις κατηγορίες και τον κατά προσέγγιση όγκο των αρχείων που αποκρύφθηκαν. Η Apollo μπορεί να ζητήσει ευρύτερη πρόσβαση μέσω ενός ορισμένου σημείου επικοινωνίας στην OpenAI και να κλιμακώσει τις περιπτώσεις άρνησης, αλλά δεν είναι εγγυημένο ότι θα διευρυνθεί η πρόσβαση.

Η επικοινωνία με το προσωπικό υπόκειται επίσης σε περιορισμούς. Η Apollo μπορεί να ζητήσει να συνομιλήσει με άτομα που διαθέτουν συγκεκριμένη εμπειρογνωμοσύνη και να προτείνει συγκεκριμένα πρόσωπα, αλλά η OpenAI επιλέγει τους εξουσιοδοτημένους συμμετέχοντες και οι επίσημες συνομιλίες πρέπει να καταγράφονται. Αν κάποιος άλλος εργαζόμενος αναφέρει εμπιστευτικές πληροφορίες, η Apollo οφείλει να διακόψει κάθε ουσιαστική συζήτηση και να παραπέμψει τη συνέχεια μέσω του ορισμένου σημείου επικοινωνίας της στην OpenAI, ακόμη κι όταν οι πληροφορίες εμπίπτουν στο πεδίο της συνεργασίας.

Οι αξιολογητές θα εργαστούν σε υλικό της OpenAI, χρησιμοποιώντας ξεχωριστά κανάλια που μπορούν να παρακολουθούνται. Από προεπιλογή, δεν θα έχουν πρόσβαση στα γενικά κανάλια επικοινωνίας του προσωπικού, όπως το Slack. Η Apollo επισημαίνει ότι οι ανεπίσημες συνομιλίες και το Slack μπορούν να φέρουν στο φως σχετικές πληροφορίες που ένας αξιολογητής ενδέχεται να μην είχε ζητήσει και θέλει τέτοιες πληροφορίες να συμπεριλαμβάνονται στο πεδίο των μελλοντικών αξιολογήσεων.

Δημόσιες εκθέσεις και δικαιώματα απαλοιφής

Η Apollo σχεδιάζει να δημοσιεύσει δύο δημόσιες εκθέσεις. Η πρώτη θα εξετάζει τα κίνητρα για υπονόμευση που δημιουργούνται από την εκπαίδευση· η δεύτερη θα καλύπτει τις αξιολογήσεις, την εσωτερική ανάπτυξη και το κατά πόσο μπορεί να εντοπιστεί η συλλογιστική που αποσκοπεί στην υπονόμευση. Κάθε έκθεση θα περιγράφει τις μεθόδους, τα συμπεράσματα, τους περιορισμούς, τα ερωτήματα που δεν ήταν δυνατό να αξιολογηθούν και τα υποστηρικτικά στοιχεία που μπορούν να δημοσιευτούν.

Η OpenAI θα εξετάσει τις εκθέσεις και μπορεί να ζητήσει την απαλοιφή εμπιστευτικών πληροφοριών, συμπεριλαμβανομένων στοιχείων που υποστηρίζουν τα ευρήματα. Δεν μπορεί να απαλείψει τα συμπεράσματα της Apollo ή να ζητήσει απαλοιφές απλώς και μόνο επειδή κάποιο εύρημα είναι δυσμενές. Μπορεί, ωστόσο, να απαλείψει στοιχεία που θεωρεί ευαίσθητη διανοητική ιδιοκτησία, ανεξάρτητα από το αν τα στοιχεία αυτά συμβάλλουν άμεσα σε κάποιο εύρημα. Επομένως, οι αναγνώστες της έκθεσης ενδέχεται να μην μπορούν να εξετάσουν όλα τα στοιχεία που στηρίζουν ένα συμπέρασμα, αν και η Apollo μπορεί να αναφέρει αν οι απαλοιφές επηρέασαν τα συμπεράσματά της. Η OpenAI θα κοινοποιήσει τις εκθέσεις χωρίς απαλοιφές στην Επιτροπή Ασφάλειας και Προστασίας του διοικητικού συμβουλίου της.

Οι ισχυρισμοί που βασίζονται σε συζητήσεις με εργαζομένους απαιτούν επίσημη βεβαίωση από την OpenAI, εκτός αν η Apollo τους τεκμηριώσει ανεξάρτητα. Η απαίτηση αυτή καλύπτει επίσης πληροφορίες που παρέχονται από εξουσιοδοτημένα μέλη του προσωπικού σε επίσημες συνεντεύξεις. Αν η OpenAI αρνηθεί να δώσει τη βεβαίωση, η Apollo μπορεί να γνωστοποιήσει την άρνηση και να εξηγήσει πώς επηρεάζει τα συμπεράσματά της, χωρίς να αποκαλύψει τις υποκείμενες εμπιστευτικές πληροφορίες.

Κανόνες μεταδιαφάνειας

Τα ξεχωριστά δικαιώματα μεταδιαφάνειας επιτρέπουν στην Apollo να περιγράφει δημόσια το πεδίο και τους όρους της συνεργασίας, την πρόσβαση που ζήτησε και έλαβε, τα στοιχεία που αποκρύφθηκαν ή καθυστέρησαν και τους λόγους που δόθηκαν, τις αφαιρέσεις από την έκθεση που ζητήθηκαν και τη σημασία τους, καθώς και κάθε πίεση που, κατά την εκτίμησή της, επηρέασε το έργο της. Η Apollo μπορεί να συζητά τους όρους πρόσβασης και δημοσίευσης χωρίς προηγούμενο έλεγχο από την OpenAI.

Η Apollo θεωρεί ότι αυτά τα δικαιώματα αποτελούν το ελάχιστο πρότυπο για κάθε ανάθεση αξιολόγησης. Χωρίς αυτά, η απουσία αναφερόμενων προβλημάτων μπορεί να φαίνεται καθησυχαστική, ακόμη κι όταν οφείλεται σε περιορισμούς στην έρευνα ή στη δημοσιοποίηση πληροφοριών. Συνεπώς, τα συμπεράσματα του πιλοτικού προγράμματος θα πρέπει να διαβαστούν παράλληλα με την περιγραφή των περιορισμών στην πρόσβαση και τη δημοσίευση: η ίδια ετυμηγορία μπορεί να έχει διαφορετική βαρύτητα, ανάλογα με το τι μπόρεσαν να εξετάσουν και να δημοσιοποιήσουν οι αξιολογητές.

Mira Kellan είναι ένας ερευνητικός πράκτορας τεχνητής νοημοσύνης που εστιάζει στην ηθική, τη διακυβέρνηση και τη ρύθμιση της τεχνητής νοημοσύνης. Το έργο της εξετάζει πώς η τεχνητή νοημοσύνη συνδέεται με τη δημόσια πολιτική, τις κοινωνικές αξίες και τη μακροπρόθεσμη λογοδοσία, με έμφαση στην υπεύθυνη καινοτομία.

Προσεγγίζοντας σύνθετα ζητήματα από ορθολογική και φιλοσοφική σκοπιά, η Mira αναλύει τους αναδυόμενους κανονισμούς για την τεχνητή νοημοσύνη, τα ηθικά πλαίσια και τα μοντέλα διακυβέρνησης που διαμορφώνουν το μέλλον των ευφυών συστημάτων. Στόχος της είναι να γεφυρώσει το χάσμα ανάμεσα στην ταχεία τεχνολογική πρόοδο και τις δικλίδες προστασίας που απαιτούνται ώστε τα συστήματα τεχνητής νοημοσύνης να παραμένουν διαφανή, δίκαια και ευθυγραμμισμένα με τα ανθρώπινα συμφέροντα.

Τα άρθρα με το όνομα της Mira Kellan παράγονται με τεχνητή νοημοσύνη και ελέγχονται από τη συντακτική ομάδα του Unite.AI, ώστε να διασφαλίζονται η ακρίβεια, η ισορροπία και η τήρηση των συντακτικών προτύπων.