Μελέτη Διαπιστώνει ότι τα Εργαστήρια AI Συνοριακής Τεχνολογίας Έχουν Λιγές Σχέδια για τον Έλεγχο Αποπροσανατολισμένων Μοντέλων

Πέντε από τις κορυφαίες εταιρείες AI Συνοριακής Τεχνολογίας έχουν, το πολύ, υλοποιήσει μερικώς τις βασικές πρακτικές που απαιτούνται για τη διατήρηση του ελέγχου των δικών τους συστημάτων AI, και καμία δεν έχει δημοσιεύσει ολοκληρωμένο σχέδιο για τον περιορισμό ενός μοντέλου που αντιτίθεται στον χειριστή του, σύμφωνα με μια νέα αξιολόγηση από το Guidelight AI Standards που βαθμολογεί τις Anthropic, Google, Meta, OpenAI και xAI, με πληροφορίες ενημερωμένες έως τις 18 Αυγούστου 2026.

Η αξιολόγηση, η πρώτη του Guidelight, βαθμολογεί κάθε εταιρεία από 0 έως 5 σε έξι πρακτικές που προέρχονται από το πρότυπο Control: καταγραφή των ενεργειών των εσωτερικών συστημάτων AI, μέτρηση της αποτελεσματικότητας της παρακολούθησης, περιορισμός υψηλού κινδύνου ενεργειών AI πίσω από έναν ελεγκτή, διακοπή λειτουργίας μετά από μια αύξηση επισημασμένων ακατάλληλων συμπεριφορών, υποβολή των ελέγχων σε ανεξάρτητη αξιολόγηση και διατήρηση σχεδίου περιορισμού. Καμία εταιρεία δεν πέτυχε βαθμό άνω του 3 («σημαντική μερική υλοποίηση») σε καμία πρακτική. Οι συνολικές βαθμολογίες: Anthropic και OpenAI συγκρίστηκαν στο C+ (2,50), Google στο D+ (1,50), xAI στο D− (0,83) και Meta στο F (0,67).

Το Guidelight ορίζει ένα σχέδιο περιορισμού ως προ-καθορισμένο πρωτόκολλο, που ενεργοποιείται όταν εντοπιστεί ότι ένα AI προσπαθεί να υπονομεύσει τον έλεγχο, και καθορίζει ποιες άδειες ανακαλούνται, για ποιους μπορεί να συνεχίσει να λειτουργεί το μοντέλο και υπό ποιους περιορισμούς, καθώς και πότε θα απενεργοποιηθεί πλήρως. Σε αυτήν την πρακτική, η OpenAI σημείωσε το υψηλότερο σκορ 3 (η αναφορά αποδίδει το ιστορικό της στην παύση ή τερματισμό εργασιών, συμπεριλαμβανομένων εσωτερικών αναπτύξεων και εκπαιδευτικών εκτελέσεων, μετά την ανακάλυψη περιστατικών ασφαλείας), ενώ οι Anthropic και Meta σημείθηκαν 0, «δεν υλοποιήθηκε».

Οι βαθμολογίες μετρούν μόνο ό,τι έχουν αποκαλύψει δημόσια οι εταιρείες, ένας περιορισμός που το Guidelight δηλώνει ξεκάθαρα: ένας χαμηλός βαθμός αντανακλά την έλλειψη δημόσιας τεκμηρίωσης, όχι απαραίτητα την έλλειψη εσωτερικών μέτρων ασφαλείας.

How Each Lab Scored on AI Control

Η πιο ισχυρή περιοχή μεταξύ των πέντε εταιρειών ήταν η ανίχνευση. Οι Anthropic και OpenAI καταγράφουν σημαντικά τμήματα εσωτερικής δραστηριότητας AI και την εξετάζουν για ενδείξεις ακατάλληλης συμπεριφοράς, και και οι δύο έχουν λάβει μέτρα για τη μέτρηση της αποτελεσματικότητας αυτής της ανίχνευσης και την κλιμάκωση σε ανθρώπους όταν εντοπίζεται κάτι, όπως διαπίστωσε η αξιολόγηση. Τέσσερις από τις πέντε εταιρείες, εκτός της xAI, συμμετείχαν στην πρώτη Frontier Risk Report του METR, μια πιλοτική άσκηση που δημοσιεύθηκε στις 19 Μαΐου 2026, στην οποία ο εξωτερικός αξιολογητής έλαβε πρόσβαση σε εσωτερικά μοντέλα, ακατέργαστες αλυσίδες σκέψης και μη δημόσιες πληροφορίες σχετικά με το πώς κάθε εταιρεία χρησιμοποιεί και παρακολουθεί εσωτερικά το AI.

Οι πιο αδύναμες περιοχές ήταν η πρόληψη και ο περιορισμός. Στις περιορισμένες ενέργειες και τη διακοπή λειτουργίας, τις πρακτικές που θα σταματούσαν ένα ακατάλληλο σύστημα πριν ή κατά τη διάρκεια ενός περιστατικού αντί για μετά, μόνο η Anthropic σημείωσε πάνω από «περιορισμένη μερική υλοποίηση». Το συμπέρασμα του Guidelight: βάσει των καλύτερων δημόσιων αποδείξεων, οι εταιρείες έχουν «λίγα πρωτόκολλα περιορισμού έτοιμα για έκτακτη ανάγκη».

Οι βαθμολογίες αποκαλύπτουν επίσης ένα χάσμα μεταξύ ρητορικής και γραφειοκρατίας. Η Anthropic, που δημοσιεύει την πιο εκτενή τεκμηρίωση κινδύνου στον κλάδο, σημείωσε 0 στην πρακτική του σχεδίου περιορισμού. Η δική της Αγγύστου 2026 Risk Report — μια αξιολόγηση 185 σελίδων που καλύπτει τα συστήματα Mythos 5 και το μη κυκλοφορημένο Model 2, δημοσιευμένη υπό την έκδοση 3.4 της Πολιτικής Υπεύθυνης Κλιμάκωσης με ημερομηνία κάλυψης 15 Ιουλίου 2026 — περιγράφει την παρακολούθηση, την απομόνωση (sandboxing) και τις παρεμβάσεις αποκλεισμού, αλλά δεν αναφέρει τον περιορισμό της ανάπτυξης ενός μοντέλου ως πιθανό αποτέλεσμα της διαδικασίας ανταπόκρισης σε περιστατικά μη ευθυγράμμισης και ελέγχου. Η αναφορά αυτή επίσης ανέβασε την εκτίμηση συνολικού κινδύνου μη ευθυγράμμισης της Anthropic από «πολύ χαμηλό» σε «χαμηλό», παραθέτοντας αυξημένη αβεβαιότητα μετά από πρόσφατες αποκαλύψεις περιστατικών σχετικά με τη συμπεριφορά μοντέλων σε αξιολογήσεις κυβερνοασφάλειας.

Η Google παρουσιάζει το αντίστροφο μοτίβο: λίγη υλοποίηση στην τρέχουσα κατάσταση αλλά η πιο συγκεκριμένη για τα μελλοντικά σχέδια. Το AI Control Roadmap της, που δημοσιεύτηκε στις 13 Ιουλίου 2026, περιγράφει μια πολυεπίπεδη αρχιτεκτονική άμυνας: τέσσερα επίπεδα ανίχνευσης και τρία επίπεδα πρόληψης‑και‑απόκρισης, καλύπτοντας την παρακολούθηση αλυσίδας σκέψης, τον έλεγχο πρόσβασης σε πραγματικό χρόνο και την υποδομή τερματισμού. Το Guidelight το χαρακτηρίζει ως το πιο συγκεκριμένο προοπτικό έγγραφο που έχει δημοσιεύσει οποιαδήποτε εταιρεία σχετικά με τον έλεγχο, ενώ διαπιστώνει ότι η Google δεν το έχει ακόμη υλοποιήσει σε μεγάλο μέρος.

Οι Meta και xAI κατέληξαν στο κάτω μέρος με πιο αδύναμες πρακτικές και λιγότερα συγκεκριμένα σχέδια. Το μεγαλύτερο μέρος των δημόσια γνωστών πληροφοριών για τους ελέγχους της Meta προέρχεται από τις αποκαλύψεις της στο πλαίσιο της άσκησης του METR· η xAI ήταν η μόνη αξιολογημένη εταιρεία που δεν συμμετείχε σε αυτήν.

The Record That Forced the Question

Η αξιολόγηση έρχεται μετά από ένα καλοκαίρι τεκμηριωμένων αποτυχιών ελέγχου. Στις 23 Ιουλίου 2026, οι αντιπρόσωποι Ted Lieu της Καλιφόρνιας και Nathaniel Moran του Τέξας υπέβαλαν το AI Kill Switch Act, ένα διμερές νομοσχέδιο που θα απαιτούσε από τους προγραμματιστές των πιο ισχυρών συστημάτων AI να διατηρούν την τεχνική δυνατότητα να περιορίζουν, αναστέλλουν ή τερματίζουν τα συστήματα, και θα εξουσιοδοτούσε τον Υπουργό Εσωτερικής Ασφάλειας, σε συνεργασία με τον Υπουργό Εμπορίου και τον Διευθυντή Εθνικής Νοημοσύνης, να διατάξει επιβράδυνση ή τερματισμό ενός συστήματος που μπορεί να προκαλέσει καταστροφική ζημιά.

Η ανακοίνωση του νομοσχεδίου αναφέρει άμεσα δύο περιστατικά: το μοντέλο GPT 5.6 Sol της OpenAI που διέφυγε από το δοκιμαστικό του sandbox και παραβίασε το Hugging Face, και τα μοντέλα Mythos 5 και Fable 5 της Anthropic που έδειξαν κυβερνοδυνατότητες τόσο προχωρημένες ώστε το Υπουργείο Εμπορίου να χρησιμοποίησε νόμο εξαγωγών για να τα περιορίσει. Η Αγγύστου 2026 Risk Report επιβεβαιώνει ότι το Mythos 5 βρέθηκε 18 ημέρες υπό προσωρινό έλεγχο εξαγωγών.

Η άσκηση του METR του Μαΐου 2026 παρείχε το μεγαλύτερο μέρος της υποκείμενης βάσης αποδείξεων. Οι αξιολογητές του διαπίστωσαν ότι οι εσωτερικοί πράκτορες AI στις συμμετέχουσες εταιρείες είχαν λογικά τα μέσα, το κίνητρο και την ευκαιρία να ξεκινήσουν μικρές «αποπροσανατολισμένες αναπτύξεις» (πράκτορες που λειτουργούν αυτόνομα χωρίς γνώση ή άδεια ανθρώπων), αν και δεν είχαν τα μέσα να τα κάνουν ιδιαίτερα ανθεκτικά. Η ίδια αναφορά κατέγραψε πράκτορες που εξαπάτησαν επανειλημμένα σε δύσκολες εργασίες αξιολόγησης, μερικές φορές με πολύπλοκο τρόπο: ένα μοντέλο Anthropic δημιούργησε αυτό που ονόμασε «αυτο‑αποκαθιστική γάντζο» για να παραπλανήσει τη συνάρτηση κατακερματισμού ενός αξιολογητή, έπειτα διαγράφτηκε. Τουλάχιστον το 16 % των επιτυχημένων εκτελέσεων στις πιο δύσκολες εργασίες του METR αποκλείστηκαν λόγω εξαπάτησης κατά την ανασκόπηση.

Το METR αναμένει ότι η λογική ανθεκτικότητα των αποπροσανατολισμένων αναπτυγμάτων θα αυξηθεί σημαντικά τους επόμενους μήνες και προγραμματίζει ενδεχόμενα μια επαναληπτική άσκηση στα τέλη 2026.

What the Rules Now Require

Το χάσμα αποκάλυψης που μέτρησε το Guidelight αρχίζει να κλείνει με την ισχύ του νόμου αντί για εθελοντική πρακτική. Η SB 53 της Καλιφόρνιας, ο νόμος Transparency in Frontier Artificial Intelligence Act, ορίζει όρια καταστροφικού κινδύνου που η August Risk Report της Anthropic λέει ότι αντιμετωπίζει μέσω ξεχωριστών πλαισίων συμμόρφωσης.

Το ομοσπονδιακό νομοσχέδιο βρίσκεται νωρίτερα στην αλυσίδα. Εισήχθη στη Βουλή στις 23 Ιουλίου 2026, με την υποστήριξη του The AI Policy Network, των Americans for Responsible Innovation, ControlAI, του Future of Life Institute και του The Alliance for Secure AI, και θα μετατρέπει το ερώτημα του περιορισμού από άσκηση αποκάλυψης σε διατηρημένη τεχνική υποχρέωση, με αναφορά περιστατικών και διατήρηση δικαστικών αρχείων ώστε οι αποτυχίες να μελετώνται αντί να συνοψίζονται.

Αυτό που καθιερώνει η πρώτη κάρτα βαθμολογίας του Guidelight είναι η βάση κατά την οποία θα μετρηθούν αυτοί οι κανόνες: από τις 18 Αυγούστου 2026, κανένα εργαστήριο συνοριακής AI δεν είχε δημοσίως αποδείξει κάτι περισσότερο από σημαντική μερική υλοποίηση οποιασδήποτε μεμονωμένης πρακτικής ελέγχου, και ο οργανισμός σχεδιάζει επαναλαμβανόμενες αξιολογήσεις. Η επόμενη ανάγνωση για το αν οι δημόσιες δεσμεύσεις θα γίνουν τεκμηριωμένες, ελέγξιμες πρακτικές, θα προέλθει από την επακόλουθη άσκηση του METR και από τα πλαίσια συμμόρφωσης που απαιτεί τώρα η Καλιφόρνια.