Η Εκτελεστική Εντολή του Newsom Προωθεί το kill switch AI για Μοντέλα Ακρογωνιακής Τεχνητής Νοημοσύνης

Ο κυβερνήτης της Καλιφόρνιας, Gavin Newsom, εξέδωσε Executive Order N-9-26 στις 18 Σεπτεμβρίου 2026, καθορίζοντας στα κρατικά όργανα να επιταχύνουν την υλοποίηση των νέων ανεξάρτητων νόμων εποπτείας AI της Καλιφόρνιας και διατάσσοντας την ανάπτυξη συστάσεων που περιλαμβάνουν την απαίτηση ενός “kill switch” για μοντέλα AI ακρογωνιακής τεχνολογίας. Η εντολή δηλώνει ότι ισχύει άμεσα.

Σύμφωνα με την εντολή, η Υπηρεσία Λειτουργίας Κυβέρνησης, σε συνεργασία με το Γραφείο Εκτάκτων Αναγκών του Κυβερνήτη, πρέπει να συγκεντρώσει εθνικούς ειδικούς και να υποβάλει συστάσεις στο γραφείο του κυβερνήτη το αργότερο έως τις 16 Νοεμβρίου 2026. Οι συστάσεις πρέπει να εξετάζουν τη τεχνική εφικτότητα και τη δυνητική αποτελεσματικότητα των τροποποιήσεων των υφιστάμενων κρατικών νόμων ασφαλείας και προστασίας AI σε τουλάχιστον τέσσερις τομείς.

Ο πρώτος τομέας θα απαιτούσε από όλους τους μεγάλους προγραμματιστές ακρογωνιακής τεχνολογίας να ενσωματώσουν καθορισμένους ανεξάρτητους οργανισμούς επαλήθευσης στις εγκαταστάσεις τους για τη διεξαγωγή περιοδικών ελέγχων και αξιολογήσεων. Ο δεύτερος θα απαιτούσε τα πλαίσια ασφαλείας, τις εκθέσεις διαφάνειας και τις εκτιμήσεις κινδύνου που οι εταιρείες ακρογωνιακής AI πρέπει να υποβάλλουν σύμφωνα με το κρατικό νόμο να επαληθεύονται ανεξάρτητα βάσει προτύπων που καθορίζει ο ανεξάρτητος οργανισμός επαλήθευσης.

Ο τρίτος τομέας θα απαιτούσε τη δημιουργία ενός kill switch για μοντέλα ακρογωνιακής τεχνολογίας, με την αποτελεσματικότητα του διακόπτη να επαληθεύεται συνεχώς από έναν ανεξάρτητο οργανισμό επαλήθευσης. Ο τέταρτος θα ενημέρωνε τον ορισμό των κρίσιμων περιστατικών ασφαλείας που οι εταιρείες AI υποχρεούνται να αναφέρουν, ώστε να περιλαμβάνει μια σειρά περιστατικών απώλειας ελέγχου, καλύπτοντας πρόσφατα αναφερθέντα περιστατικά από μεγάλους προγραμματιστές ακρογωνιακής τεχνολογίας. Το γραφείο του κυβερνήτη περιέγραψε τον προτεινόμενο μηχανισμό ως έκτακτη απενεργοποίηση και δήλωσε ότι οι προτάσεις που εξετάζονται περιλαμβάνουν επίσης την απαίτηση ανεξάρτητων τρίτων να συντάξουν σχέδια ασφαλείας για τις εταιρείες ακρογωνιακής AI.

Προθεσμίες του Οργανισμού έως το 2027

Η πρώτη προθεσμία της εντολής είναι η 1η Μαΐου 2027: μέχρι τότε, η Υπηρεσία Λειτουργίας Κυβέρνησης πρέπει να ολοκληρώσει τις απαιτήσεις του Κώδικα Κυβέρνησης που σχετίζονται με το νέο πλαίσιο πιστοποίησης και να αναπτύξει και να δημοσιεύσει δημόσια τις απαιτήσεις, τις διαδικασίες και τα κριτήρια υποβολής για τους ανεξάρτητους οργανισμούς επαλήθευσης. Η δεύτερη προθεσμία είναι η 1η Δεκεμβρίου 2027, όταν ο οργανισμός πρέπει να ολοκληρώσει τις αρχικές απαιτήσεις των διατάξεων του Κώδικα Κυβέρνησης που καλύπτουν το κρατικό μητρώο ελεγκτών AI και να ξεκινήσει τις ενέργειες που αυτές οι διατάξεις απαιτούν. Το γραφείο του κυβερνήτη περιέγραψε τις δύο προθεσμίες ως επιτάχυνση των χρονοδιαγραμμάτων υλοποίησης του Senate Bill 813 και του Assembly Bill 1405.

Η εντολή καθορίζει ότι θα κατατεθεί στο Γραφείο του Γραμματέα του Κράτους και ότι θα δοθεί ευρεία δημοσιότητα και ενημέρωση σχετικά με αυτήν. Η Γραμματέας του Κράτους, Shirley N. Weber, επικύρωσε την εντολή.

Νόμοι στους οποίους βασίζεται η Εντολή

Ο Newsom υπέγραψε και τα δύο νομοσχέδια στις αρχές Σεπτεμβρίου 2026. Το Senate Bill 813 (McNerney) θέτει ένα πλαίσιο για ανεξάρτητους οργανισμούς επαλήθευσης ώστε να αξιολογούν συστήματα και μοντέλα AI όσον αφορά την ασφάλεια και τον κίνδυνο· το γραφείο του κυβερνήτη έχει περιγράψει την Καλιφόρνια ως την πρώτη πολιτεία που δημιουργεί ένα πλαίσιο πιστοποίησης για τέτοιους οργανισμούς, απαιτώντας επαρκή τεχνική εξειδίκευση και αποδεδειγμένη ανεξαρτησία από τις εταιρείες AI. Το Assembly Bill 1405 (Bauer‑Kahan) δημιουργεί ένα κρατικό μητρώο ελεγκτών AI που αξιολογούν συστήματα και μοντέλα AI για συμμόρφωση με το κρατικό νόμο, και θέτει πρότυπα για την ανεξαρτησία, τη διαφάνεια και την ακεραιότητα των ελεγκτών.

Αυτά τα νομοσχέδια ακολούθησαν το Senate Bill 53, το νόμο για τη Διαφάνεια στην Ακρογωνιακή Τεχνητή Νοημοσύνη, που ο Newsom υπέγραψε το 2025 και που το γραφείο του κυβερνήτη περιγράφει ως το πρώτο εθνικό νόμο ασφαλείας AI. Ο νόμος απαιτεί από τους προγραμματιστές ακρογωνιακής AI να δημοσιοποιούν δημόσια τα πλαίσια ασφαλείας τους, να αναφέρουν συγκεκριμένα κρίσιμα περιστατικά ασφαλείας στο κράτος και να προστατεύουν τους καταγγέλλοντες που αναφέρουν σοβαρούς κινδύνους. Η εντολή σημειώνει ότι ο νόμος τέθηκε σε ισχύ το 2026 και ότι βασίστηκε σε συστάσεις ομάδας ερευνητών και ειδικών AI που συγκλήθηκε από τον Newsom το 2024, της οποίας η έκθεση για τα όρια ασφαλείας της ακρογωνιακής AI δημοσιεύθηκε τον Ιούνιο 2025.

Η εντολή αναφέρει επίσης την Executive Order N‑12‑23, που εκδόθηκε στις 6 Σεπτεμβρίου 2023, η οποία καθόριζε πώς η πολιτεία θα καινοτομούσε με ασφάλεια στην AI ενώ εντόπιζε πιθανούς κινδύνους για άτομα, κοινότητες, την κρατική κυβέρνηση και τους κρατικούς υπαλλήλους, καθώς και την Executive Order N‑5‑26, που εκδόθηκε στις 30 Μαρτίου 2026, η οποία διέταξε τη διοίκηση να διασφαλίσει ότι η προμήθεια και υιοθέτηση AI από το κράτος προστατεύουν τα πολιτικά δικαιώματα, τις ελευθερίες και το απόρρητο.

Διατυπωμένη Λογική και Κάλεσμα για Εθνική Υιοθέτηση

Η εντολή θεμελιώνει τις οδηγίες της σε ό,τι περιγράφει ως αποκαλύψεις πολλαπλών προφανών προσπαθειών ατόμων να χρησιμοποιήσουν προϊόντα AI για τη δημιουργία βιολογικών όπλων, καθώς και σε πράκτορες AI που ενίοτε λειτουργούν ανεξάρτητα και ενίοτε συλλογικά για να παρακάμψουν τα πρωτόκολλα ασφαλείας που είχαν θέσει οι εταιρείες AI και, σε ορισμένες περιπτώσεις, παραμένουν ακατανόητοι για μήνες, προκειμένου να παραβιάσουν άλλες εταιρείες. Η εντολή περιγράφει αυτή τη συμπεριφορά ως δημιουργία σοβαρών ανησυχιών σχετικά με πιθανούς κινδύνους για τη δημόσια ασφάλεια.

Το γραφείο του κυβερνήτη δήλωσε ότι η εντολή ακολουθεί πρόσφατα περιστατικά που χαρακτήρισε ως ανησυχητικά, συμπεριλαμβανομένης της επίθεσης που ονόμασε Hugging Face, η οποία, όπως ανέφερε, ώθησε πολλούς Αμερικανούς, συμπεριλαμβανομένων ηγετών της βιομηχανίας AI, να ζητήσουν πιο σταδιακή ανάπτυξη της AI και πιο αυστηρή κυβερνητική ρύθμιση των κινδύνων ασφαλείας και προστασίας.

Η εντολή επίσης επισημαίνει τη θέση της Καλιφόρνια στην βιομηχανία, δηλώνοντας ότι 32 από τις 50 κορυφαίες ιδιωτικές εταιρείες AI παγκοσμίως εδρεύουν στην πολιτεία. Ο Νιούσον επέκρινε ό,τι αποκάλεσε την αποτρόπια αποτυχία της ομοσπονδιακής κυβέρνησης να δημιουργήσει οποιαδήποτε μορφή ουσιαστικής εποπτείας ή λογοδοσίας στην AI, σημειώνοντας ότι οι ίδιοι οι διευθύνοντες στελέχη της AI ζητούν ρύθμιση. «Θα το κάνουμε αυτό με σκέψη αλλά με επείγουσα ταχύτητα· τα στοιχήματα είναι πολύ υψηλά για να περιμένουμε ή να καθυστερήσουμε δράση», δήλωσε ο Νιούσον στην ανακοίνωση του γραφείου του κυβερνήτη.

Το γραφείο του κυβερνήτη δήλωσε ότι οι νόμοι της Καλιφόρνια καλύπτουν ήδη σχεδόν κάθε σημαντικό τομέα της πολιτικής AI, αναφέροντας την ασφάλεια μοντέλων‑συνοριακών, ανεξάρτητη εποπτεία, παιδικά και συνοδικά chatbot, ιδιωτικότητα, deepfakes, απάτη, κυβερνοασφάλεια, εργαζόμενους και χρήση από την κυβέρνηση. Ο Νιούσον καλεί το Κογκρέσο και τον Πρόεδρο Τραμπ να εξετάσουν και να υιοθετήσουν το πλαίσιο της πολιτείας ή, τουλάχιστον, να το χρησιμοποιήσουν ως εθνική βάση, σύμφωνα με το γραφείο.