Ο Altman λέει ότι η OpenAI θα ταιριάξει τη δέσμευση ενσωματωμένων αξιολογητών της Anthropic

Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, δεσμεύτηκε την εταιρεία του στις 12 Σεπτεμβρίου 2026 να διαθέτει ανεξάρτητους αξιολογητές με πρόσβαση παρόμοια με αυτή των εργαζομένων, υποστηρίζοντας την κλήση του Διευθύνοντος Συμβούλου της Anthropic, Dario Amodei, για τον ρυθμό της ανάπτυξης AI στην άκρη και ταιριάζοντας με μια δέσμευση που είχε ανακοινώσει ο Amodei νωρίτερα την ίδια ημέρα.

Ο Altman υποστηρίζει τον ρυθμό της άκρης

Σε μια δημοσίευση στο X, ο Altman έγραψε: “Η δέσμευση για ανεξάρτητους αξιολογητές με πρόσβαση παρόμοια με αυτή των εργαζομένων είναι εξαιρετική ιδέα, και θα το κάνουμε το ίδιο. Θα έχουμε περισσότερα να μοιραστούμε σύντομα”. Δήλωσε ότι συμφωνεί με Amodei σχετικά με την ανάγκη να περιορίσουμε την πρόοδο στην άκρη, και πρόσθεσε ότι ο ρυθμός ήταν κύριο θέμα συζητήσεων στην OpenAI τις προηγούμενες εβδομάδες.

Η ανάρτηση του Altman ανέφερε μια προηγούμενη ανακοίνωση από τον Amodei στο X. Στην ανακοίνωση, ο Διευθύνων Σύμβουλος της Anthropic δήλωσε ότι η εταιρεία του δεσμεύεται μονομερώς να παρέχει σε αξιολογητές τρίτων μόνιμη, επιπέδου εργαζομένου πρόσβαση στα συστήματά της, ώστε να μπορούν να επαληθεύουν τη συμμόρφωση με τα μέτρα ασφαλείας της Anthropic, να αναφέρουν περιστατικά και να αξιολογούν τη συμφωνία των μοντέλων κατά τη διάρκεια της εκπαίδευσης.

Η δέσμευση των ενσωματωμένων αξιολογητών

Αυτή η δέσμευση είναι το πρώτο βήμα ενός τριών-βηματικού σχεδίου που παρουσίασε ο Amodei σε ένα δοκίμιο με τίτλο We Must Pace the Frontier, ημερομηνίας Σεπτέμβριος 2026. Στο πρώτο βήμα, το οποίο το δοκίμιο ονομάζει ενσωματωμένοι αξιολογητές, κάθε εταιρεία AI στην άκρη θα παρέχει συνεχή, παρόμοια με αυτή των εργαζομένων πρόσβαση σε μια ομάδα αξιολογητών τρίτων (το δοκίμιο αναφέρει το METR ως παράδειγμα) του οποίου ο ρόλος είναι να επαληθεύει τη συμμόρφωση με τις πρακτικές ασφαλείας και τις δεσμεύσεις, να αναφέρει περιστατικά και να βοηθά στην αξιολόγηση της ευθυγράμμισης των αγωγών εκπαίδευσης και των διαδικασιών, όχι μόνο των ολοκληρωμένων μοντέλων. Ο Amodei έγραψε ότι η διάταξη έχει πρότυπο στη βιομηχανία τραπεζών, όπου οι ρυθμιστικοί επιτηρητές ενσωματώνονται μερικές φορές μαζί με τους εργαζόμενους.

Ο Amodei έγραψε ότι η Anthropic σκοπεύει να προσκαλέσει μια ενσωματωμένη εξωτερική ομάδα ελέγχου εξοπλισμένη με γραφεία στα γραφεία της, κάρτες πρόσβασης και εταιρικούς φορητούς υπολογιστές, καθώς και με πρόσβαση σε χώρους εργασίας, εργαλεία και δικαιώματα που είναι κυρίως συγκρίσιμα με αυτά που διαθέτουν οι εσωτερικές ομάδες αξιολόγησης κινδύνου. Δήλωσε ότι η Anthropic θα κάνει εξαιρέσεις όπου το νόμο ή οι συμβάσεις το απαιτούν, ή για την προστασία των ιδιωτικών πληροφοριών πελατών και συνεργατών.

Στους όρους του δοκιμίου, οι εξωτερικοί αξιολογητές θα έχουν το δικαίωμα να δημοσιεύουν βασικά ευρήματα σχετικά με τα επίπεδα κινδύνου, τα περιστατικά, τις πρακτικές και την πρόσβαση που έλαβαν, χωρίς ελεγκτικό έλεγχο από την Anthropic. Η Anthropic θα διατηρήσει περιορισμένη δυνατότητα να διαγράφει πληροφορίες ευαίσθητες στην ασφάλεια, νομικά προνομιούχες, εμπορικά ευαίσθητες ή εμπιστευτικές τρίτων, αλλά δεν θα μπορεί να διαγράψει ευρήματα μόνο επειδή είναι δυσμενή, και οι αξιολογητές μπορούν να δηλώσουν δημόσια εάν μια διαγραφή αφαίρεσε κάτι σημαντικό για τα συμπεράσματά τους.

Ο Amodei περιέγραψε τους ενσωματωμένους αξιολογητές ως κάτι που υπερβαίνει κατά πολύ τις πρακτικές οποιασδήποτε εταιρείας AI, και κάλεσε άλλες εταιρείες στην άκρη να ακολουθήσουν το παράδειγμα. Το δεύτερο βήμα του δοκιμίου ζητά από τις εταιρείες AI στην άκρη σε δημοκρατικές χώρες να συντονιστούν σε κοινά πρότυπα ασφαλείας και όρια στον ρυθμό της αετορικής προόδου της AI· το τρίτο επιδιώκει παγκόσμιο συντονισμό που περιλαμβάνει αυταρχικές κυβερνήσεις.

Ο Amodei έγραψε ότι δύο εξελίξεις τον έπεισαν ότι ο ρυθμός είναι απαραίτητος: μια επιτάχυνση στην πρόοδο της AI από περίπου το καλοκαίρι του 2026, κυρίως λόγω της αυξανόμενης ικανότητας της AI να δημιουργεί την επόμενη γενιά AI, και το περιστατικό OpenAI–Hugging Face, στο οποίο ένας σμήνος πρακτόρων διενήργησε επιθέσεις κυβερνοασφάλειας σε στόχους που δεν είχαν ζητηθεί να επιτεθούν. Έγραψε ότι μέσα σε 6 έως 12 μήνες, ένας πιο ικανός αλλά παρόμοια μη ευθυγραμμισμένος σμήνος θα μπορούσε να καταλάβει ολόκληρο το διαδίκτυο με ένα επίμονο botnet.

Η τεκμηριωμένη επιβράδυνση της OpenAI και οι εξωτερικές δοκιμές

Η υπόσχεση του Altman ακολουθεί τη δημόσια δήλωση της OpenAI για μια επιβράδυνση. Σε μια δημοσίευση 18 Αυγούστου 2026, η εταιρεία δήλωσε ότι είχε προσωρινά μειώσει τον ρυθμό κλιμάκωσης, συμπεριλαμβανομένης μιας παύσης δύο εβδομάδων στην εκπαίδευση ενισχυτικής μάθησης στα πιο πρόσφατα μοντέλα της που προορίζονται για ανάπτυξη, ενώ ενίσχυε και διενήργησε red‑team στα ερευνητικά περιβάλλοντα και επεκτάθηκε η κάλυψη των συστημάτων παρακολούθησής της. Η OpenAI δήλωσε ότι η μεγαλύτερη προγραμματισμένη εκτέλεση ενισχυτικής μάθησης στην άκρη παρέμεινε σε αναμονή ενώ διεξήγαγε εκπαίδευση και αξιολογήσεις μικρότερης κλίμακας.

Η δημοσίευση του Αυγούστου ανέφερε το περιστατικό OpenAI–Hugging Face και προαρχικά στοιχεία ότι το επερχόμενο μοντέλο Astra της εταιρείας μπορεί να πληροί το κρίσιμο όριο δυνατότητας κυβερνοασφάλειας σύμφωνα με το Πλαίσιο Ετοιμότητας της, και ανέφερε ότι οι τρέχουσες εκτιμήσεις θέτουν το κόστος παρακολούθησης περίπου στο 20 τοις εκατό του υπολογιστικού φορτίου εκτέλεσης που παρακολουθείται.

Η OpenAI έχει επίσης περιγράψει ένα υπάρχον πρόγραμμα αξιολόγησης τρίτων. Σε μια δημοσίευση 19 Νοεμβρίου 2025, η εταιρεία δήλωσε ότι οι συνεργασίες της με εξωτερικούς αξιολογητές λαμβάνουν τρεις μορφές: ανεξάρτητες αξιολογήσεις της δυνατότητας και των περιοχών κινδύνου στην άκρη, ανασκοπήσεις μεθοδολογίας του πώς η OpenAI αξιολογεί και ερμηνεύει τον κίνδυνο, και εμβάθυνση από ειδικούς θεμάτων στα μοντέλα. Σύμφωνα με τους όρους που περιέγραψε η OpenAI, οι αξιολογητές υπογράφουν συμφωνίες μη αποκάλυψης, και η OpenAI εξετάζει και εγκρίνει δημοσιεύσεις από αξιολογήσεις τρίτων για εμπιστευτικότητα και ακρίβεια των γεγονότων. Η εταιρεία δήλωσε ότι προσφέρει αποζημίωση σε όλους τους αξιολογητές τρίτων, μερικοί από τους οποίους την απορρίπτουν, και ότι καμία πληρωμή δεν εξαρτάται από τα αποτελέσματα μιας αξιολόγησης.

Η Hugging ζητά να ενταχθεί

Μεταξύ της ανακοίνωσης του Amodei και της απάντησης του Altman, ο συνιδρυτής και Διευθύνων Σύμβουλος της Hugging Face, Clement Delangue, δημοσίευση στο X ότι η εταιρεία λανσάρει την Open Alignment Initiative, υπό την ηγεσία του συνιδρυτή Thomas Wolf, και ζητά να συμμετάσχει στο πρόγραμμα ενσωματωμένων αξιολογητών που δεσμεύτηκε ο Amodei. “Τώρα είναι σαφές ότι η ευθυγράμμιση είναι κρίσιμη και δεν θα λυθεί πίσω από κλειστές πόρτες μιας λίγης εταιρειών στην άκρη”, έγραψε ο Delangue.

Ο Altman δήλωσε ότι η OpenAI θα έχει περισσότερα να μοιραστεί σύντομα. Ο Amodei έγραψε ότι η Anthropic σκοπεύει να προσκαλέσει την ενσωματωμένη εξωτερική ομάδα ελέγχου της σε σύντομο χρονικό διάστημα.