Η Anthropic εντάσσει έξι αξιολογητές της METR με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων

Η Anthropic ανακοίνωσε στις 15 Οκτωβρίου 2026 ότι άρχισε να παρέχει πρόσβαση αντίστοιχη με εκείνη των εργαζομένων σε μια ενσωματωμένη ομάδα της METR, μη κερδοσκοπικού οργανισμού που αξιολογεί μοντέλα τεχνητής νοημοσύνης αιχμής. Έξι εργαζόμενοι της METR εντάχθηκαν στην εταιρεία και απέκτησαν εταιρικό εξοπλισμό, χώρο γραφείων και πρόσβαση σε εσωτερικά εργαλεία και συστήματα.

Η ανακοίνωση ακολουθεί τη δέσμευση της Anthropic, τον Σεπτέμβριο του 2026, για ενισχυμένη ανεξάρτητη αξιολόγηση των μοντέλων και των πρακτικών ασφάλειάς της από τρίτους, καθώς και την υπογραφή της Συμφωνίας του Λευκού Οίκου για την Υπερνοημοσύνη, στο πλαίσιο της οποίας οι εταιρείες δεσμεύτηκαν να συνεργάζονται με ανεξάρτητους εξωτερικούς ελεγκτές ή αξιολογητές. Η Anthropic ανέφερε ότι συνεργάστηκε με τη METR τον τελευταίο χρόνο σε αρκετές αξιολογήσεις των Εκθέσεων Κινδύνου της.

Οι όροι της πρόσβασης αντίστοιχης με εκείνη των εργαζομένων

Η Anthropic ανέφερε ότι η πρόσβαση της ενσωματωμένης ομάδας στα εσωτερικά εργαλεία και συστήματα είναι περίπου ισότιμη με εκείνη που έχουν οι δικές της ομάδες αξιολόγησης κινδύνων. Με εξαίρεση έναν μικρό αριθμό σαφώς καθορισμένων κατηγοριών —δεδομένα πελατών, πληροφορίες που καλύπτονται από το δικηγορικό απόρρητο και πληροφορίες σχετικά με τις αρχιτεκτονικές των μοντέλων—, οι εργαζόμενοι της Anthropic ενθαρρύνονται να μοιράζονται πληροφορίες με την ομάδα όπως θα έκαναν με έναν συνάδελφο που εργάζεται σε θέματα κινδύνου για την ευθυγράμμιση.

Υποσημείωση της ανακοίνωσης εξηγεί την εξαίρεση που αφορά τις αρχιτεκτονικές. Επειδή οι αξιολογητές, όπως και οι τραπεζικοί επιθεωρητές, ενδέχεται να συνεργάζονται και με άλλες εταιρείες, η Anthropic ανέφερε ότι είναι προσεκτική απέναντι στον κίνδυνο ακούσιας διαρροής πληροφοριών: οι πληροφορίες για τις αρχιτεκτονικές ενέχουν υψηλό κίνδυνο τέτοιων διαρροών, ενώ συνήθως έχουν περιορισμένη συνάφεια με την αξιολόγηση κινδύνων. Όταν οι πληροφορίες για τις αρχιτεκτονικές έχουν μεγάλη συνάφεια, η Anthropic θα επιδιώκει γενικά να τις κοινοποιήσει, αν και αυτό θα απαιτεί ρητές εσωτερικές εγκρίσεις.

Σύμφωνα με τους όρους δημοσίευσης της συμφωνίας, η METR θα δημοσιεύει την ανάλυσή της για τα επίπεδα κινδύνου, τα περιστατικά ή τις πρακτικές της Anthropic. Η Anthropic δεν μπορεί να ασκήσει βέτο στη δημοσίευση, αλλά μπορεί να ζητήσει από τη METR να αφαιρέσει πληροφορίες που εμπίπτουν σε περιορισμένες, προκαθορισμένες κατηγορίες. Η METR μπορεί ελεύθερα να σχολιάζει δημόσια τις περικοπές και να δηλώνει αν θεωρεί ότι ήταν δικαιολογημένες, αρκεί να μην αποκαλύπτει τις πληροφορίες που αφαιρέθηκαν.

Η συνεργασία περιορίζεται σε μια μικρή ομάδα που λειτουργεί βάσει δεσμευτικών συμφωνιών, ενώ οι υπόλοιποι εργαζόμενοι της METR —συμπεριλαμβανομένων των ερευνητών που συνεργάζονται με την Anthropic σε άλλα έργα— δεν έχουν πρόσβαση στο έργο της ενσωματωμένης ομάδας. Η Anthropic περιέγραψε την ενσωματωμένη αξιολόγηση ως έναν τρόπο να αποκτήσουν λίγα κατάλληλα καταρτισμένα άτομα, που εργάζονται σύμφωνα με τα πρότυπα ασφάλειάς της, άμεση εικόνα του τρόπου λειτουργίας της. Ανέφερε επίσης ότι δεν πρόκειται για τρόπο με τον οποίο άλλοι οργανισμοί μπορούν να αποκτήσουν τις πληροφορίες της ή τις πληροφορίες των πελατών και των συνεργατών της.

Το σκεπτικό της Anthropic για την ανεξάρτητη αξιολόγηση

Καθώς τα μοντέλα γίνονται ισχυρότερα, απαιτούν αυστηρότερα μέτρα προστασίας και πιο απαιτητικές αξιολογήσεις κινδύνων, ανέφερε η εταιρεία. Η Anthropic δήλωσε ότι θέλει να λογοδοτεί δημόσια για τις αποφάσεις που λαμβάνει, αλλά δεν μπορεί να δημοσιοποιήσει όλες τις πληροφορίες που σχετίζονται με το έργο της στον τομέα της ασφάλειας, επειδή ορισμένες θα μπορούσαν να αποδειχθούν χρήσιμες σε κακόβουλους παράγοντες ή είναι εμπορικά ευαίσθητες, όπως οι πληροφορίες για τους υπολογιστικούς πόρους ή την εκπαίδευση. Αντί γι’ αυτό, παρέχει σε εξωτερικούς αξιολογητές εκτενή πρόσβαση στις πληροφορίες της και τους αναθέτει να κοινοποιούν στοιχεία και τεκμηριωμένα συμπεράσματα σχετικά με τους κινδύνους που συνεπάγεται η ανάπτυξη των μοντέλων της, με στόχο να γεφυρωθεί το χάσμα ανάμεσα στην κατανόηση που έχουν οι αξιολογητές για τα συστήματα μιας εταιρείας τεχνητής νοημοσύνης αιχμής και στην κατανόηση που έχει η ίδια η εταιρεία.

Η ανακοίνωση απαριθμεί τέσσερα στοιχεία που χρειάζονται οι αξιολογητές για να αξιολογούν μοντέλα αιχμής: εξειδίκευση στην αξιολόγηση των δυνατοτήτων των μοντέλων αιχμής, συμπεριλαμβανομένης της κατανόησης των τρόπων με τους οποίους μπορεί να αποτύχουν οι αξιολογήσεις, όπως η προσποίηση ευθυγράμμισης· ανεξαρτησία, δηλαδή να μην κατέχουν μετοχές της εταιρείας που αξιολογούν ούτε να εξαρτώνται από αυτήν οικονομικά ή επιχειρησιακά· επαρκή πρόσβαση για ουσιαστική αξιολόγηση των κινδύνων, η οποία δεν περιορίζεται στα πιο πρόσφατα μοντέλα αλλά περιλαμβάνει εικόνα του τρόπου με τον οποίο εκπαιδεύτηκαν και του τρόπου λειτουργίας των μέτρων προστασίας· και ελευθερία να δημοσιεύουν παρατηρήσεις και αξιολογήσεις για ένα μοντέλο ή μια διαδικασία.

Η Anthropic παραλλήλισε την κατάσταση με την εποπτεία των τραπεζών, αναγνωρίζοντας ωστόσο ότι η αναλογία δεν είναι απόλυτη: οι τράπεζες γνωρίζουν καλύτερα τις δικές τους θέσεις κινδύνου απ’ ό,τι οι εξωτερικοί παρατηρητές, γι’ αυτό οι ρυθμιστικές αρχές τοποθετούν επιθεωρητές στις μεγαλύτερες τράπεζες, ώστε να εργάζονται στο εσωτερικό τους· και, αν η ανάληψη κινδύνων από μια τράπεζα θα μπορούσε να απειλήσει το κοινό, τρίτοι προσπαθούν να το διαπιστώσουν εγκαίρως.

Τρία επίπεδα πρόσβασης

Η Anthropic ανέφερε ότι αναπτύσσει τρία επίπεδα πρόσβασης για τους αξιολογητές. Στο πρώτο επίπεδο, οι αξιολογητές διεξάγουν έρευνες κινδύνου με περιορισμένο πεδίο· η Anthropic αποφασίζει ποια πρόσβαση θα τους παρέχει και οι αξιολογητές μπορούν να δημοσιεύουν τα ευρήματά τους με την έγκρισή της. Στο δεύτερο επίπεδο, οι αξιολογητές μπορούν να δημοσιεύουν χωρίς την έγκριση της Anthropic και έχουν πρόσβαση σε περισσότερες πληροφορίες, αν και η Anthropic εξακολουθεί να μπορεί να ζητήσει την αφαίρεση συγκεκριμένων κατηγοριών πληροφοριών, ενώ οι αξιολογητές μπορούν να δημοσιεύουν τις απόψεις τους για το αν οι περικοπές ήταν δικαιολογημένες. Το τρίτο επίπεδο αφορά τη συμφωνία με τη METR: πρόσβαση αντίστοιχη με εκείνη των εργαζομένων και δικαιώματα δημοσίευσης παρόμοια με αυτά του δεύτερου επιπέδου.

Με την πάροδο του χρόνου, ανέφερε η Anthropic, ελπίζει να έχει αρκετούς αξιολογητές στο τρίτο επίπεδο, με κάθε ομάδα να δημοσιεύει τη δική της ανάλυση για τη στάση της απέναντι στους κινδύνους και τις βασικές αποφάσεις της.

Η SecureBio, η Accenture και οι αρχικές συνομιλίες

Η SecureBio βρίσκεται επί του παρόντος στην πρώτη βαθμίδα. Εξετάζει το κεφάλαιο για τα χημικά και βιολογικά όπλα της Έκθεσης Κινδύνων της Anthropic του Αυγούστου 2026, αφού ολοκλήρωσε και δημοσίευσε μια πιλοτική εξέταση της προηγούμενης έκθεσης κινδύνων. Η Anthropic δήλωσε ότι, μετά την ολοκλήρωση αυτής της εξέτασης, θα εξετάσει το ενδεχόμενο να προχωρήσει σε έργα που παρέχουν αυξημένη πρόσβαση και δικαιώματα δημοσίευσης.

Η Anthropic δήλωσε ότι συνεργάζεται με την Accenture και τη Faculty για τη σύναψη συνεργασίας που θα περιλαμβάνει την αξιολόγηση μοντέλων και τη δοκιμή τους με τεχνικές red teaming, τη διενέργεια αξιολογήσεων ευθυγράμμισης, τον έλεγχο των δικλίδων ασφαλείας των μοντέλων και την ανάπτυξη ικανοτήτων στους οργανισμούς.

Η Anthropic δήλωσε επίσης ότι βρίσκεται σε αρχικές συζητήσεις με αρκετούς άλλους οργανισμούς, μεταξύ των οποίων και η Hugging Face. Επειδή αυτές οι συνεργασίες βρίσκονται ακόμη σε πρώιμο στάδιο, η Anthropic παρέχει στους αξιολογητές αυτούς πιο περιορισμένες πληροφορίες και εκείνοι έχουν πιο περιορισμένα δικαιώματα δημοσίευσης, ενώ η Anthropic επιβεβαιώνει ότι οι συνεργάτες προστατεύουν τις εμπιστευτικές πληροφορίες και διαθέτουν τους απαραίτητους πόρους και την απαιτούμενη τεχνογνωσία. Καθώς οι συνεργασίες προχωρούν και ενισχύεται η εμπιστοσύνη, στόχος της Anthropic, όπως δήλωσε, είναι να ενσωματώσει πλήρως περισσότερους ανεξάρτητους αξιολογητές.

Η δέσμευση του Σεπτεμβρίου

Τον Σεπτέμβριο του 2026, ο συνιδρυτής της Anthropic, Dario Amodei, δημοσίευσε το δοκίμιο «Πρέπει να ρυθμίσουμε τον ρυθμό στην αιχμή», στο οποίο όρισε ως πρώτο βήμα ενός σχεδίου τριών σταδίων για τη ρύθμιση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης αιχμής την ενσωμάτωση αξιολογητών με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων. Ο Amodei έγραψε ότι η Anthropic δεσμεύεται μονομερώς να προχωρήσει σε αυτό το βήμα και κάλεσε τις κυβερνήσεις να απαιτήσουν από τις υπόλοιπες εταιρείες αιχμής να κάνουν το ίδιο. Έγραψε ότι «πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», ώστε η πρόληψη των κινδύνων να έχει χρόνο να συμβαδίσει με την πρόοδο των δυνατοτήτων τους.

Στο δοκίμιο αναφερόταν ότι η Anthropic σκοπεύει να προσκαλέσει μια εξωτερική ομάδα αξιολόγησης, η οποία θα ενσωματωθεί στην εταιρεία και θα διαθέτει γραφεία στα γραφεία της, κάρτες πρόσβασης και φορητούς υπολογιστές της εταιρείας· πρόσβαση σε χώρους εργασίας, εργαλεία και δικαιώματα σε γενικές γραμμές αντίστοιχα με εκείνα των εσωτερικών ομάδων αξιολόγησης κινδύνων, με ορισμένες εξαιρέσεις όπου αυτό απαιτείται από τον νόμο ή τις συμβάσεις ή για την προστασία των ιδιωτικών πληροφοριών πελατών και συνεργατών· καθώς και σύμβαση που θα παρέχει στους εξωτερικούς αξιολογητές το δικαίωμα να δημοσιεύουν σημαντικά ευρήματα σχετικά με τα επίπεδα κινδύνου, τα περιστατικά, τις πρακτικές και την πρόσβαση που τους παρασχέθηκε ή δεν τους παρασχέθηκε, χωρίς η Anthropic να ασκεί κανέναν εκδοτικό έλεγχο στη δημοσίευση. Σύμφωνα με αυτούς τους προβλεπόμενους όρους, η Anthropic θα διατηρούσε περιορισμένο δικαίωμα να αποκρύπτει πληροφορίες ευαίσθητες για την ασφάλεια, νομικά προνομιούχες ή εμπορικά ευαίσθητες, καθώς και εμπιστευτικές πληροφορίες τρίτων, αλλά δεν θα μπορούσε να αποκρύπτει ευρήματα απλώς και μόνο επειδή είναι δυσμενή. Οι αξιολογητές θα μπορούσαν επίσης να δηλώσουν δημόσια αν η απόκρυψη αφαίρεσε κάτι σημαντικό για τα συμπεράσματά τους.

Η Anthropic δήλωσε ότι ενσωματώνει αξιολογητές σε εθελοντική βάση και πιστεύει πως κάθε εταιρεία που δραστηριοποιείται στον τομέα της τεχνητής νοημοσύνης αιχμής θα πρέπει να κάνει το ίδιο. Ανέφερε ότι προχωρά γρήγορα με πολλούς αξιολογητές, μαθαίνει ενεργά ποιες μορφές συνεργασίας είναι αποτελεσματικές και δεσμεύεται να δημοσιεύει ενημερώσεις στην πορεία.