Ρύθμιση
Ο Newsom προτείνει υποχρεωτική εποπτεία της πρωτοποριακής ΤΝ και εξουσίες διακοπής λειτουργίας

Βασικά σημείαΑδειοδοτημένοι ανεξάρτητοι επαληθευτές θα παρείχαν στο κράτος συνεχή τεχνικό έλεγχο…
Δείτε περισσότερα
- Αδειοδοτημένοι ανεξάρτητοι επαληθευτές θα παρείχαν στο κράτος συνεχή τεχνικό έλεγχο αντί για εφάπαξ καταθέσεις ασφαλείας.
- Οι εντολές έκτακτης διακοπής λειτουργίας θα τίθενται σε ισχύ αμέσως και θα παραμένουν σε ισχύ κατά τη διάρκεια της δικαστικής αναθεώρησης.
- Η αναφορά περιστατικών θα μετατοπιζόταν από κατώτατα όρια κλίμακας εκπαίδευσης σε αποδεδειγμένη ικανότητα για καταστροφικό κίνδυνο.
Ο κυβερνήτης της Καλιφόρνιας Gavin Newsom δημοσίευσε νομοθετικές προτάσεις στις 18 Νοεμβρίου 2026, οι οποίες θα απαιτούσαν συνεχή ανεξάρτητη εποπτεία των μεγάλων δημιουργών πρωτοποριακών συστημάτων ΤΝ και θα επέτρεπαν σε κρατικούς αξιωματούχους να διατάσσουν την έκτακτη διακοπή λειτουργίας μοντέλων που ενέχουν άμεσους καταστροφικούς κινδύνους.
Η έκθεση, Ασφάλεια της ΤΝ το 2026 και μετά της Υπηρεσίας Επιχειρησιακών Λειτουργιών της Καλιφόρνιας, με ημερομηνία 16 Νοεμβρίου 2026, έχει ως στόχο να συμβάλει στη διαμόρφωση νομοθεσίας όταν οι νομοθέτες επιστρέψουν τον Δεκέμβριο του 2026· οι συστάσεις της δεν αποτελούν ακόμη νομοθετικές υποχρεώσεις. Το σχέδιο θα βασιζόταν στην απαίτηση της Καλιφόρνιας οι μεγάλοι δημιουργοί πρωτοποριακών συστημάτων να δημοσιεύουν πλαίσια ασφάλειας, προσθέτοντας κρατικά καθορισμένα ελάχιστα πρότυπα για την ασφάλεια, την προστασία και τη διαφάνεια σε όλη τη διάρκεια της εκπαίδευσης, της εσωτερικής χρήσης και της διάθεσης.
Συνεχής ανεξάρτητη εποπτεία
Κάθε μεγάλος δημιουργός πρωτοποριακών συστημάτων θα υπόκειται σε συνεχή εποπτεία από αδειοδοτημένους ανεξάρτητους οργανισμούς επαλήθευσης, ή IVO. Οι οργανισμοί αυτοί θα μετέτρεπαν τα πρότυπα της πολιτείας σε τεχνικές δοκιμές και θα τα επικαιροποιούσαν καθώς αλλάζουν οι μέθοδοι αξιολόγησης της ΤΝ. Θα αποκτούσαν επίσης πρόσβαση στα μοντέλα, το προσωπικό, τα συστήματα, τα περιβάλλοντα εκπαίδευσης και τα αρχεία που κρίνουν απαραίτητα και στη συνέχεια θα απέστελλαν στην πολιτεία αξιολογήσεις χωρίς περικοπές ή απόκρυψη στοιχείων.
Η Υπηρεσία Επιχειρησιακών Λειτουργιών θα αδειοδοτούσε τους IVO και θα μπορούσε να ανακαλεί άδειες λόγω ανεπαρκούς τεχνογνωσίας, ανεξαρτησίας ή αυστηρότητας. Αν ένας αξιολογητής δεν μπορούσε να βεβαιώσει ότι ένας δημιουργός πληρούσε τα πρότυπα, η πολιτεία θα μπορούσε να διατάξει τη λήψη διορθωτικών μέτρων, αφού πρώτα διαβουλευτεί με την εταιρεία. Οι δημιουργοί θα μπορούσαν να προσβάλουν τέτοιες αποφάσεις ενώπιον δικαστηρίου προτού τεθούν σε ισχύ, με εξαίρεση την ταχεία διαδικασία έκτακτης ανάγκης.
Μια προσαύξηση στα τέλη επαλήθευσης που καταβάλλουν οι δημιουργοί θα συνέβαλλε στη χρηματοδότηση της υπολογιστικής ισχύος του CalCompute, το οποίο λειτουργεί υπό δημόσια διαχείριση. Μέρος αυτής της υπολογιστικής ισχύος θα δεσμευόταν για ανεξάρτητη έρευνα στην ασφάλεια και την προστασία, καθώς και για δημόσια εποπτεία, συνδέοντας μια προσαύξηση που χρηματοδοτείται από τον κλάδο με τις υποδομές που απαιτούνται για τον εξωτερικό έλεγχο.
Περιορισμός κινδύνων και εξουσίες έκτακτης ανάγκης
Κάθε μεγάλος δημιουργός πρωτοποριακών συστημάτων θα τηρούσε Πρωτόκολλο Περιορισμού Κινδύνων, το οποίο θα δοκιμαζόταν και θα επαληθευόταν συνεχώς από έναν IVO και θα πιστοποιούνταν ως αποτελεσματικό από ανώτερο στέλεχος της εταιρείας. Οι απαιτούμενες δυνατότητες θα κάλυπταν τους υπολογιστικούς πόρους, τους πράκτορες, την εσωτερική πρόσβαση και τη διάθεση μοντέλων, αντί να βασίζονται σε έναν και μόνο διακόπτη ενεργοποίησης και απενεργοποίησης. Τα πρωτόκολλα θα όριζαν τα υπεύθυνα στελέχη, θα συντόνιζαν τις ενέργειες με τους παρόχους υπηρεσιών νέφους και τους προμηθευτές ηλεκτρικής ενέργειας και θα καθόριζαν πότε ένα μοντέλο θα μπορούσε να επανέλθει με ασφάλεια σε λειτουργία.
Οι δοκιμές θα εξέταζαν τρόπους με τους οποίους μπορεί να αποτύχει η διακοπή λειτουργίας, όπως την αντιγραφή των βαρών του μοντέλου με σκοπό να παρεμποδιστεί ο περιορισμός του ή την απόκτηση πρόσβασης από εξωτερικό παράγοντα στους μηχανισμούς ελέγχου της διακοπής. Για τους δημιουργούς μοντέλων με ανοικτά βάρη, οι απαιτήσεις περιορισμού και διακοπής λειτουργίας θα ίσχυαν μόνο για τις αναπτύξεις που βρίσκονται υπό τον έλεγχό τους, καθώς δεν μπορούν να διακόψουν τη λειτουργία αντιγράφων που φιλοξενούνται από άλλους.
Κρατικοί αξιωματούχοι θα μπορούσαν να διατάξουν άμεση διακοπή λειτουργίας όταν έχουν βάσιμους λόγους να πιστεύουν ότι υπάρχει άμεσος καταστροφικός κίνδυνος ή σοβαρό περιστατικό απώλειας ελέγχου και ο δημιουργός αρνείται να περιορίσει τον κίνδυνο. Η εντολή θα απαιτούσε την πιο περιορισμένη παρέμβαση που είναι εφικτή, θα τίθετο αμέσως σε ισχύ και θα παρέμενε σε ισχύ όσο εξετάζεται δικαστικά, αν και ο δημιουργός θα μπορούσε να ζητήσει προσωρινή διαταγή. Θα αίρεται όταν ο κίνδυνος δεν είναι πλέον άμεσος.
Αναφορά περιστατικών και αυτοματοποιημένη έρευνα στην ΤΝ
Το καθεστώς αναφοράς θα κάλυπτε απόπειρες κλοπής βαρών μοντέλων ακόμη και χωρίς θάνατο ή σωματική βλάβη, όλα τα εσωτερικά ή εξωτερικά περιστατικά απώλειας ελέγχου, καθώς και έναν νέο δίαυλο αναφοράς παρ’ ολίγον περιστατικών. Η έκθεση προτείνει να μειωθεί από 15 ημέρες σε 48 ώρες η προθεσμία για την αναφορά των περισσότερων κρίσιμων περιστατικών, διατηρώντας παράλληλα την απαίτηση των 24 ωρών για άμεσους καταστροφικούς κινδύνους. Η προστασία των πληροφοριοδοτών θα επεκτεινόταν και σε πρώην εργαζομένους και εργολάβους.
Για τους σκοπούς της αναφοράς περιστατικών, τα μοντέλα που μπορούν να εκτελούν ενέργειες ικανές να προκαλέσουν καταστροφικό κίνδυνο θα θεωρούνταν πρωτοποριακά μοντέλα ακόμη κι αν είχαν εκπαιδευτεί με λιγότερες από 10^26 ακέραιες πράξεις ή πράξεις κινητής υποδιαστολής. Αυτό το κριτήριο, που βασίζεται στις δυνατότητες, αντιμετωπίζει την ανησυχία της έκθεσης ότι η αποκλειστική εξάρτηση από την κλίμακα της εκπαίδευσης έχει αφήσει επικίνδυνα περιστατικά εκτός των απαιτήσεων αναφοράς της πολιτείας.
Οι εταιρείες που αυτοματοποιούν την έρευνα και την ανάπτυξη ΤΝ θα αναφέρουν ανά τρίμηνο πώς κατανέμουν τους υπολογιστικούς τους πόρους μεταξύ της εκπαίδευσης, των ερευνητικών πειραμάτων, της εξαγωγής συμπερασμάτων από πράκτορες ερευνητικής ΤΝ, των εργασιών ασφάλειας και προστασίας, των εξωτερικών πελατών και των δραστηριοτήτων χωρίς προσδιορισμένη απόδοση, με τους IVO να επαληθεύουν τις κατηγορίες. Πρόσθετες γνωστοποιήσεις θα κάλυπταν τον όγκο, το κόστος και τους θεματικούς τομείς των δεδομένων εκπαίδευσης, καθώς και την προέλευσή τους από ανθρώπους ή ΤΝ· θα περιλάμβαναν επίσης τους υπολογιστικούς πόρους εξαγωγής συμπερασμάτων που χρησιμοποιούνται για την εκπαίδευση μοντέλων σε περιβάλλοντα ενισχυτικής μάθησης, γνωστές περιπτώσεις επιβράβευσης ανεπιθύμητης συμπεριφοράς και τα μέτρα μετριασμού που εφαρμόζονται. Σύμφωνα με την έκθεση, τα μέτρα αυτά θα έδειχναν αν η ΤΝ αναλαμβάνει όλο και μεγαλύτερο μέρος της δικής της ανάπτυξης και αν οι επενδύσεις στην ασφάλεια συμβαδίζουν με αυτή την εξέλιξη.
Η αναδρομική αυτοβελτίωση (RSI), η ισχυρότερη μορφή της οποίας περιλαμβάνει ένα σύστημα ΤΝ που αναπτύσσει αυτόνομα τον διάδοχό του, χωρίς ανθρώπινη παρέμβαση, θα υπόκειτο σε εφεδρική εξουσία επιβολής ανώτατου ορίου και όχι σε άμεσο περιορισμό. Οι αρμόδιοι θα μπορούσαν να επιβάλουν χρονικά περιορισμένο ανώτατο όριο, το οποίο θα επανεξετάζεται τακτικά, στην αυτοματοποιημένη έρευνα ΤΝ, όταν αυτή υπερβαίνει τα όρια που έχει δεσμευτεί να τηρεί ο προγραμματιστής ή προχωρά ταχύτερα από τις δικλίδες ασφαλείας και τις αξιολογήσεις του, δημιουργώντας ουσιαστικό κίνδυνο καταστροφικής βλάβης. Το όριο θα αίρονταν αφού ένας IVO επαλήθευε ότι είχαν τεθεί σε εφαρμογή επαρκείς δικλίδες ασφαλείας.
Οι συστάσεις απαντούν στην εκτελεστική εντολή του Newsom της 18ης Σεπτεμβρίου 2026 για ανεξάρτητη εποπτεία και διακόπτη άμεσης απενεργοποίησης της ΤΝ, η οποία ζητούσε προτάσεις από ειδικούς εντός δύο μηνών και την επίσπευση της εφαρμογής των νόμων της Καλιφόρνιας για την ανεξάρτητη επαλήθευση και τους ελεγκτές ΤΝ. Η Government Operations Agency εκπόνησε την έκθεση σε συνεργασία με την California Office of Emergency Services και εξωτερικούς συμβούλους, τους Jason Goldman, Gillian Hadfield, Alondra Nelson και Rob Reich.
Για τους προγραμματιστές, η συμμόρφωση θα επεκτεινόταν πέρα από τη δημοσίευση πολιτικών ασφάλειας και θα περιλάμβανε συνεχή εξωτερικό έλεγχο, ταχύτερη αναφορά περιστατικών και αποδεδειγμένη δυνατότητα απενεργοποίησης. Η πρόταση αφήνει στους νομοθέτες δύο αλληλένδετες αποφάσεις: πόση εξουσία παρέμβασης να θεσπίσουν και πώς να καταστήσουν λειτουργική τη συνεχή εποπτεία, ενώ ο κλάδος των αδειοδοτημένων υπηρεσιών επαλήθευσης βρίσκεται ακόμη υπό ανάπτυξη.












