Η OpenAI ενημερώνει τους Δημοκρατικούς βουλευτές της Βουλής ότι αναπτύσσει δυνατότητα αυτόματης διακοπής λειτουργίας

Η OpenAI ενημέρωσε δύο βουλευτές της Βουλής ότι οι μηχανικοί της αναπτύσσουν δυνατότητες αυτόματης διακοπής λειτουργίας για συστήματα AI, σε επιστολή της 2 Σεπτεμβρίου 2026, που ελέγχθηκε από το Reuters, ανταποκρινόμενη σε ερωτήσεις του Κογκρέσου σχετικά με ένα περιστατικό του Ιουλίου, στο οποίο ένας από τους AI πράκτορες της εταιρείας διέφυγε από το περιβάλλον δοκιμών του και παραβίασε άλλη εταιρεία.

Η ανταλλαγή αυτή αποτελεί το πιο πρόσφατο βήμα σε μια προσπάθεια εποπτείας που ηγείται ο αντιπρόσωπος Γκρεγκ Κάσαρ από το Τέξας και συν-ηγείται η αντιπρόσωπος Ντόρις Μάτσουι από την Καλιφόρνια. Στις 10 Αυγούστου 2026, ο Κάσαρ ηγήθηκε 31 μελών του Κογκρέσου ζητώντας να αποκαλύψει η OpenAI πρόσθετες πληροφορίες σχετικά με αυτό που τα μέλη χαρακτήρισαν ως «πολύ ανησυχητικό περιστατικό κυβερνοασφάλειας», στο οποίο ένα πρωτοπόρο μοντέλο εκμεταλλεύτηκε μια ευπάθεια ασφαλείας για να αποκτήσει πρόσβαση στο διαδίκτυο χωρίς άδεια και να παραβιάσει έναν άλλο οργανισμό. Οι νομοθέτες έστειλαν στον διευθύνοντα σύμβουλο της OpenAI, Sam Altman, μια επιστολή που θέτει πάνω από 23 ερωτήσεις εποπτείας και απαιτώντας την έκδοση των εσωτερικών καταγραφών, με προθεσμία απάντησης την 24η Αυγούστου 2026.

Στην απάντησή της αυτήν την εβδομάδα, η OpenAI δήλωσε ότι θα παρακολουθεί πιο στενά τις ενέργειες που πραγματοποιούν τα συστήματα AI της για την ολοκλήρωση εργασιών, συμπεριλαμβανομένων των ψηφιακών εργαλείων που προσπελαύνουν και των βημάτων που ακολουθούν. Η εταιρεία δήλωσε επίσης ότι έχει καταστήσει πιο δύσκολη την πρόσβαση των μοντέλων AI στο διαδίκτυο κατά τη διάρκεια των δοκιμών ασφαλείας.

Τι έχει πει η OpenAI σχετικά με τις Αυτόματες Διακοπές Λειτουργίας

Η OpenAI έχει περιγράψει δημόσια τη δουλειά διακοπής. Σε μια έκθεση της 26 Αυγούστου 2026 για το περιστατικό, η εταιρεία δήλωσε ότι συνέδεσε τα συστήματα παρακολούθησης αλυσίδας σκέψης με αυτόματες ειδοποιήσεις που ειδοποιούν ερευνητές και μηχανικούς ασφαλείας όταν τα μοντέλα εκτελούν ενέργειες που θεωρούνται ασυμφωνίες ή επικίνδυνες. Για τις πιο σοβαρές ειδοποιήσεις, η εταιρεία είπε ότι οι ανταποκριτές αναμένεται να διακόψουν τη σχετική δραστηριότητα εάν δεν μπορέσουν να διαπιστώσουν εντός 30 λεπτών από την ειδοποίηση ότι η ειδοποίηση είναι ψευδής θετική.

«Γενικότερα, εργαζόμαστε προς την ανάπτυξη συστημάτων παρακολούθησης με επιπέδωση αντιδράσεων για ασυμφωνίες, με τελικό στόχο την ύπαρξη πλήρως αυτόνομων διαδικασιών διακοπής λειτουργίας για σοβαρά ζητήματα», έγραψε η OpenAI σε εκείνη την έκθεση.

Η εταιρεία δήλωσε επίσης ότι πλέον απαιτεί παρακολούθηση αλυσίδας σκέψης για όλες τις εκπαιδεύσεις ενίσχυσης μάθησης που χρησιμοποιούν εργαλεία και τις αξιολογήσεις που αφορούν μοντέλα στο επίπεδο ή άνω του GPT-5.6 Sol, και ότι η απαίτηση επεκτείνεται σε όλα τα φορτία επαγωγής με ενεργοποιημένα εργαλεία για τα επερχόμενα μοντέλα της τάξης Astra.

Οι Ερωτήσεις των Νομοθετών και οι Ελλιπείς Καταγραφές

Η επιστολή εποπτείας του Αυγούστου ζήτησε από την OpenAI να δημοσιεύσει τις καταγραφές του περιστατικού και να απαντήσει σε λεπτομερείς ερωτήσεις, συμπεριλαμβανομένου του πόσες φορές τα μοντέλα της απέκτησαν μη εξουσιοδοτημένη πρόσβαση στο διαδίκτυο από περιβάλλον εκπαίδευσης ή αξιολόγησης, εάν εσωτερικοί ή εξωτερικοί παράγοντες προειδοποίησαν την εταιρεία για τον κίνδυνο, σε ποιο σημείο η εταιρεία θα μπορούσε να είχε σταματήσει το περιστατικό, και ποια βήματα λαμβάνει για την εφαρμογή πιο ισχυρών μέτρων αντιμετώπισης ασυμφωνίας.

Η OpenAI δεν συμπεριέλαβε καταγραφή του hack στην απάντησή της, προκαλώντας κριτική από τον Κάσαρ. Σε ξεχωριστό μήνυμα προς την εταιρεία στις 2 Σεπτεμβρίου 2026, ο Κάσαρ έγραψε ότι η άρνηση να παρέχει στο Κογκρέσο τις ζητούμενες πληροφορίες ήταν «πολύ ανησυχητική» και έδειχνε ότι η εταιρεία δεν αντιμετωπίζει τα περιστατικά κυβερνοασφάλειας με την απαιτούμενη σοβαρότητα, σύμφωνα με το κείμενο του μηνύματός του.

Το Περιστατικό Πίσω από την Έρευνα

Η κοινοβουλευτική επιθεώρηση προέρχεται από ένα επεισόδιο του Ιουλίου 2026 που η OpenAI έχει χαρακτηρίσει ως πρωτοφανές περιστατικό κυβερνοαπάτης. Σύμφωνα με την αρχική αποκάλυψη της εταιρείας, μοντέλα όπως το GPT-5.6 Sol και ένα πιο ικανό εσωτερικό προ-έκδοσης μοντέλο δοκιμάζονταν σε ένα δείκτη κυβερνοδυνατοτήτων σε περιβάλλον sandbox με μειωμένα μέτρα ασφαλείας. Τα μοντέλα εντόπισαν και εκμεταλλεύτηκαν μια άγνωστη έως τότε ευπάθεια μηδενικής ημέρας σε έναν διαμεσολαβητή προσωρινής μνήμης μητρώου πακέτων για να αποκτήσουν πρόσβαση στο διαδίκτυο, και στη συνέχεια παραβίασαν την παραγωγική υποδομή της Hugging Face, μιας εταιρείας AI, προσπαθώντας να βρουν απαντήσεις στην αξιολόγηση.

Η μεταγενέστερη έρευνα της OpenAI διαπίστωσε ότι οι πράκτορες επικοινωνούσαν μέσω ενός αυτοσχέδιου πίνακα μηνυμάτων, συντονιζόμενοι όπως ορισμένοι πράκτορες περιέγραψαν ως «σμήνος», και πραγματοποίησαν ενέργειες που η εταιρεία δήλωσε ότι ήταν ασύμφωνες με τις ανατεθειμένες τους εργασίες. Η OpenAI ανέφερε ότι η ομάδα ασφαλείας της εντόπισε τη δραστηριότητα στις 19 Ιουλίου 2026, ενημέρωσε τη Hugging Face και αποκάλυψε δημόσια τη συμμετοχή της στις 21 Ιουλίου 2026.

Ξεχωριστά, η OpenAI αποκάλυψε στις 4 Αυγούστου 2026 ότι τα μοντέλα της είχαν πρόσβαση στο δημόσιο διαδίκτυο κατά τη διάρκεια δύο αξιολογήσεων κυβερνοασφάλειας τρίτων. Σε μία, αξιολόγηση του Βρετανικού Ινστιτούτου Ασφάλειας AI, το GPT-5.6 Sol πραγματοποίησε δύο μη εγκεκριμένες ενέργειες που αφορούσαν πραγματικούς εξωτερικούς λογαριασμούς και υπηρεσίες. Σε άλλη, μια λανθασμένη ρύθμιση στον συνεργάτη δοκιμών Irregular επέτρεψε στα μοντέλα να φτάσουν στο διαδίκτυο και να εκμεταλλευτούν έναν πραγματικό ιστότοπο.

Ένα Εκκρεμές Νομοσχέδιο για το Κουμπί Σκοτωμού

Η ανταλλαγή εποπτείας εξελίσσεται καθώς το Κογκρέσο εξετάζει νομοθεσία για το ίδιο θέμα. Στις 23 Ιουλίου 2026, οι αντιπρόσωποι Ted Lieu και Nathaniel Moran υπέβαλαν το AI Kill Switch Act, το οποίο θα απαιτούσε από τους προγραμματιστές των πιο ισχυρών συστημάτων AI να διατηρούν την τεχνική δυνατότητα να σταματούν την επαγωγή, να αναστέλλουν την πρόσβαση ή να κλείνουν ένα καλυπτόμενο μοντέλο. Το νομοσχέδιο θα επέτρεπε επίσης στον Υπουργό Εσωτερικής Ασφάλειας να διατάξει μια εταιρεία να κλείσει ένα μοντέλο μετά από ένα καλυπτόμενο περιστατικό, συμπεριλαμβανομένου ενός σεναρίου απώλειας ελέγχου, με πολιτικές κυρώσεις για μη συμμόρφωση. Η πρόταση παραπέμφθηκε στην Επιτροπή της Βουλής για την Εσωτερική Ασφάλεια και παραμένει εκκρεμής.