Ρύθμιση
Η Fathom ζητά την ταχεία εφαρμογή του σχεδίου της Καλιφόρνιας για την εποπτεία της ΤΝ

Βασικά σημείαΗ Fathom θέλει η Καλιφόρνια να επιβάλλει υποχρεωτικές ανεξάρτητες αξιολογήσεις…
Δείτε περισσότερα
- Η Fathom θέλει η Καλιφόρνια να επιβάλλει υποχρεωτικές ανεξάρτητες αξιολογήσεις καταστροφικού κινδύνου για προγραμματιστές αιχμής τεχνητής νοημοσύνης αντί να βασίζεται σε εθελοντικές αξιολογήσεις.
- Το κράτος θα αδειοδοτεί και θα εποπτεύει τους αξιολογητές, ενώ θα καθορίζει τα αποτελέσματα ασφάλειας στον νόμο και θα επιτρέπει στους IVO να επικαιροποιούν τις τεχνικές μεθόδους δοκιμών.
- Η Fathom προτείνει τη σταδιακή εισαγωγή των υποχρεώσεων καθώς αυξάνεται η ικανότητα των αξιολογητών, ώστε η εγγυημένη εργασία να προσελκύει κεφάλαια και ταλέντο.
Η ομάδα διακυβέρνησης της ΤΝ Fathom δήλωσε στις 18 Νοεμβρίου 2026 ότι ο νέος οδικός χάρτης του κυβερνήτη Gavin Newsom για την ΤΝ αιχμής ενσωμάτωνε πολλές από τις συστάσεις της, και κάλεσε την Καλιφόρνια να θεσπίσει γρήγορα υποχρεωτικές ανεξάρτητες αξιολογήσεις για τους καταστροφικούς κινδύνους.
Η Fathom ανέπτυξε και υποστήριξε το μοντέλο ανεξάρτητου οργανισμού επαλήθευσης (IVO), σύμφωνα με το οποίο ανεξάρτητοι αξιολογητές εξετάζουν μοντέλα και συστήματα ΤΝ ως προς τους κινδύνους. Ο διευθύνων σύμβουλος και συνιδρυτής Andrew Freedman χαρακτήρισε την έκθεση συγκεκριμένο σχέδιο για την εφαρμογή της ανεξάρτητης εποπτείας στην πράξη και ζήτησε να προχωρήσει «με κάθε δυνατή ταχύτητα, αλλά με τη δέουσα προσοχή». Ανέφερε ως εκκρεμή ζητήματα τη νομοθεσία, την κανονιστική διαδικασία, τις αρμοδιότητες της πολιτείας και της ομοσπονδιακής κυβέρνησης, τα πρακτικά ζητήματα, το χρονοδιάγραμμα και το κόστος, και δήλωσε ότι η Fathom θα πιέσει τις πολιτειακές και ομοσπονδιακές κυβερνήσεις για διαφάνεια, υποχρεωτική μέτρηση των κινδύνων από IVO και εγγυήσεις που θα επιβάλλονται από την κυβέρνηση.
Η έκθεση της Υπηρεσίας Κυβερνητικών Λειτουργιών της Καλιφόρνιας (GovOps), με ημερομηνία 16 Νοεμβρίου 2026 και δημοσιευμένη στις 18 Νοεμβρίου, προτείνει νομοθετικές αλλαγές αντί να επιβάλλει η ίδια απαιτήσεις. Το ευρύτερο πακέτο περιλαμβάνει βασικά πρότυπα, εξουσία έκτακτης διακοπής λειτουργίας και πιθανούς περιορισμούς στην αναδρομική αυτοβελτίωση, αξιοποιώντας το πλαίσιο IVO του SB 813 και το μητρώο ελεγκτών ΤΝ του AB 1405.
Πού αντικατοπτρίζει ο οδικός χάρτης το μοντέλο της Fathom
Η κεντρική σύσταση της έκθεσης για την εποπτεία θα απαιτούσε από κάθε μεγάλο προγραμματιστή ΤΝ αιχμής να υποβάλλεται σε συνεχιζόμενους ελέγχους από αδειοδοτημένους IVO, αντικαθιστώντας την ισχύουσα εθελοντική προσέγγιση για αυτούς τους προγραμματιστές. Η GovOps θα αδειοδοτούσε και θα εποπτεύει διαρκώς τους αξιολογητές, με την εξουσία να ανακαλεί τις άδειές τους όταν δεν διαθέτουν επαρκή τεχνογνωσία, ανεξαρτησία ή αυστηρότητα. Οι IVO θα υποβάλλουν στην πολιτεία μη περικομμένες αξιολογήσεις, και η πολιτεία θα αποφασίζει αν δικαιολογούνται διορθωτικά μέτρα, αφού διαβουλευτεί με τον προγραμματιστή.
Όσον αφορά τόσο τον καταμερισμό των αρμοδιοτήτων όσο και το νομικό κριτήριο, η Fathom αναφέρει ότι η έκθεση ακολουθεί το υπόμνημά της για την εφαρμογή, της 30ής Οκτωβρίου 2026. Η Καλιφόρνια θα ορίζει με νόμο τα αποδεκτά αποτελέσματα ασφάλειας, ενώ οι IVO θα αναπτύσσουν και θα επικαιροποιούν τις τεχνικές μεθόδους και τις δοκιμές που χρησιμοποιούνται για την αξιολόγηση της συμμόρφωσης. Το προτεινόμενο πρότυπο εξετάζει αν είναι «απίθανο ένα μοντέλο αιχμής να αυξήσει τον κίνδυνο καταστροφικής βλάβης πάνω από το επίπεδο που θα υπήρχε χωρίς το μοντέλο» και αν τα αναμενόμενα οφέλη του υπερτερούν των υπολειπόμενων κινδύνων. Ο σχεδιασμός αποσκοπεί στο να μπορούν οι μέθοδοι δοκιμών να εξελίσσονται μαζί με την τεχνολογία, διατηρώντας παράλληλα το αποτέλεσμα που ορίζει νομοθετικά η πολιτεία.
Η αναδρομική αυτοβελτίωση (RSI), δηλαδή το σημείο στο οποίο η αυτοματοποιημένη ανάπτυξη ΤΝ γίνεται αυτοσυντηρούμενη, είναι ένας ακόμη τομέας σύγκλισης. Η έκθεση θα ανέθετε αρχικά στους IVO την επαλήθευση μετρικών της αυτοματοποιημένης έρευνας και ανάπτυξης ΤΝ, καθώς και την αξιολόγηση των αυξανόμενων κινδύνων. Το υπόμνημα της Fathom ζητούσε επίσης έλεγχο της εσωτερικής και της εξωτερικής χρήσης, με προκαθορισμένα όρια δυνατοτήτων που θα ενεργοποιούσαν την ενημέρωση της πολιτείας και την αναστολή περαιτέρω εσωτερικής κλιμάκωσης έως ότου ολοκληρωθεί νέα αξιολόγηση.
Ο σχεδιασμός εφαρμογής της Fathom
Το υπόμνημα προτείνει τη σταδιακή εφαρμογή κάθε υποχρέωσης, μόλις η GovOps κρίνει ότι οι ορισμένοι αξιολογητές διαθέτουν επαρκή ικανότητα και τεχνογνωσία στον σχετικό τομέα κινδύνου. Υποστηρίζει ότι η αξιόπιστη προοπτική υποχρεωτικής ανάθεσης έργου θα προσελκύσει το κεφάλαιο και το ταλέντο που απαιτούνται για την επέκταση της ανεξάρτητης επαλήθευσης, αντί να αναμένεται η ωρίμανση της αγοράς για κάθε κατηγορία κινδύνου.
Αρχικά, η πολιτεία θα ανέθετε έναν IVO από έναν προκαθορισμένο κατάλογο, ενώ ο προγραμματιστής θα κατέβαλλε απευθείας την αμοιβή, με χρέωση βάσει χρόνου και υλικών και σε τιμές αναφοράς που θα καθόριζε η πολιτεία. Σε μεταγενέστερες φάσεις, οι προγραμματιστές θα είχαν περισσότερες επιλογές καθώς θα διευρυνόταν ο κατάλογος, αλλά η πολιτεία θα διατηρούσε την εξουσία να ασκεί βέτο στις επιλογές, να απαιτεί εναλλαγή αξιολογητών, να θέτει όρια στη συγκέντρωση, να διορίζει πρόσθετους αξιολογητές και να αφαιρεί την πιστοποίηση από όσους δεν επιδεικνύουν αυστηρότητα ή ανεξαρτησία. Οι πληρωμές δεν θα εξαρτώνταν από το αποτέλεσμα της αξιολόγησης.
Οι αξιολογητές που θα εντάσσονταν στους οργανισμούς θα είχαν συνεχή πρόσβαση στα αναγκαία αρχεία, στο προσωπικό και στα συστήματα, συμπεριλαμβανομένης της δυνατότητας φυσικής παρουσίας σε προκαθορισμένα σημεία λήψης αποφάσεων, με τη στήριξη νομοθετικών εγγυήσεων εμπιστευτικότητας και προστασίας από αντίποινα. Η επιβολή θα παρέμενε αρμοδιότητα της πολιτείας: ο Γενικός Εισαγγελέας θα μπορούσε να ζητά δικαστικές απαγορεύσεις και αστικές κυρώσεις, ενώ οι IVO θα διατύπωναν πορίσματα, θα όριζαν διορθωτικά μέτρα και θα παρέπεμπαν άμεσους κινδύνους, αντί να ζητούν οι ίδιοι δικαστικές απαγορεύσεις ή να καθιστούν τα πορίσματά τους αυτομάτως εκτελεστά.
Το πρακτικό τεστ βρίσκεται πλέον ενώπιον του νομοθετικού σώματος και της GovOps: να μετατρέψουν τις συστάσεις σε δεσμευτικές υποχρεώσεις, αναπτύσσοντας παράλληλα επαρκή αριθμό αδειοδοτημένων αξιολογητών και διαφυλάσσοντας την αξιόπιστη επιβολή από την πολιτεία. Ο σχεδιασμός της Fathom καθιστά αυτά τα βήματα αλληλεξαρτώμενα, καθώς κάθε υποχρέωση προϋποθέτει διαθέσιμη τεχνογνωσία και τα πορίσματα ενός IVO απαιτούν κρατική παρέμβαση προτού αποκτήσουν δεσμευτικές συνέπειες.












