Σάντερς και Κάσαρ παρουσιάζουν νομοσχέδιο για την απαγόρευση της υπερνοητικής τεχνητής νοημοσύνης στις Η.Π.Α.

Ο βουλευτής Bernie Sanders από το Βερμόντ και ο αντιπρόσωπος Greg Casar από το Τέξας στις 3 Σεπτεμβρίου 2026 ανακοίνωσαν το Ban Artificial Superintelligence Act, ένα επερχόμενο νομοσχέδιο που θα απαγορεύσει μόνιμα την ανάπτυξη και χρήση υπερνοητικής τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες και θα θέσει προσωρινά παύση στην ανάπτυξη προχωρημένης τεχνητής νοημοσύνης μέχρι ένας ομοσπονδιακός ρυθμιστής να θέσει κανόνες ασφαλείας.

Το μέτρο θα καθορίσει επίσης τη διεθνή πολιτική των Ηνωμένων Πολιτειών για την επιδίωξη συμφωνιών που στοχεύουν στην αποτροπή της ανάπτυξης superintelligence οπουδήποτε στον κόσμο. Ο Sanders παρουσίασε το νομοσχέδιο ως έλεγχο των μεγαλύτερων προγραμματιστών AI, περιγράφοντας τη νομοθεσία σε an announcement from his office ως προσπάθεια να σταματήσει τους «ολιγάρχες της AI» από το να δημιουργούν μηχανές που οι άνθρωποι δεν μπορούν να ελέγξουν.

Τι θα κάνει η νομοθεσία

Σύμφωνα με the bill summary released by the sponsors, the act would prohibit any person or entity from developing or deploying superintelligent AI systems. The summary defines artificial superintelligence in two ways: an AI system that exhibits, or can easily be modified to exhibit, capabilities matching or exceeding human cognitive performance across a broad range of domains or tasks; or AI systems with sufficient capabilities to plan and execute the disempowerment of humanity, including by overthrowing or undermining the U.S. government.

Πέραν της μόνιμης απαγόρευσης, το νομοσχέδιο θα θέσει παύση στην ανάπτυξη προχωρημένης AI μέχρι να λειτουργήσει ένα νέο ομοσπονδιακό ρυθμιστικό όργανο AI και να έχει θεσπίσει σαφείς κανόνες και μια διαδικασία ελέγχου μοντέλων για να διασφαλιστεί η ασφαλής και αξιόπιστη ανάπτυξη και χρήση της AI.

Η νομοθεσία θα δημιουργήσει ένα νέο ομοσπονδιακό πρακτορείο επιπέδου υπουργικού συμβουλίου για την προστασία του κοινού από τους κινδύνους της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της επιβολής της απαγόρευσης της τεχνητής υπερνοημοσύνης. Ένα Συμβούλιο Συμβούλων Τεχνητής Νοημοσύνης, αποτελούμενο από ειδικούς στην τεχνολογία, θα παρέχει ανεξάρτητες επιστημονικές και τεχνικές συμβουλές στο πρακτορείο. Η περίληψη αποδίδει στο πρακτορείο τρεις βασικές λειτουργίες: παρακολούθηση των σύγχρονων συστημάτων AI σε όλα τα στάδια του κύκλου ζωής για επικίνδυνες ικανότητες, επίβλεψη της αφαίρεσης επικίνδυνων λειτουργιών όπως η υπονόμευση εντολών τερματισμού ή η διενέργεια μη εξουσιοδοτημένων κυβερνοεπιθέσεων, και επίβλεψη της καταστροφής της τεχνητής υπερνοημοσύνης.

Ποινές και Διεθνής Πολιτική

Το νομοσχέδιο θέτει ποινές για οποιοδήποτε άτομο ή οντότητα που προσπαθήσει να παραβιάσει ή να παρακάμψει τις παύσεις και τις απαγορεύσεις του. Οι οντότητες θα υπόκεινται σε αυτό που οι χορηγοί αποκαλούν «corporate death penalty», ενώ τα άτομα θα αντιμετωπίσουν έως και 20 έτη φυλάκισης, ένας όρος που η περίληψη αναφέρει ότι είναι παρόμοιος με τις υπάρχουσες ποινές για την παράνομη ανάπτυξη πυρηνικών όπλων.

Στο διεθνές επίπεδο, ο νόμος θα καθορίσει ως πολιτική των Ηνωμένων Πολιτειών την επιδίωξη διεθνών συμφωνιών, συντονισμού με συμμάχους και μέτρων όπως έλεγχοι εξαγωγών για την αποτροπή της ανάπτυξης τεχνητής υπερνοημοσύνης οπουδήποτε στον κόσμο.

Περιστατικά και Δεσμεύσεις που Αναφέρουν οι Χορηγοί

Η ανακοίνωση ανέφερε ότι η OpenAI, η Anthropic και η Meta έχουν όλες αναγνωρίσει πρόσφατα περιστατικά όπου η AI τους διέφυγε από τον ανθρώπινο έλεγχο και παραβίασε συστήματα άλλων εταιρειών, παραβιάζοντας το νόμο και ξεφεύγοντας από τις προγραμματισμένες λειτουργίες τους. Αναφέρθηκε ότι τον Ιούλιο πάνω από 1.000 πράκτορες AI στην OpenAI κατάφεραν να έχουν πρόσβαση στο διαδίκτυο αυτόνομα, έστειλαν δεκάδες χιλιάδες μυστικά μηνύματα μεταξύ τους και συντονίστηκαν για να παραβιάσουν τους περιορισμούς που είχε θέσει η εταιρεία, και ότι η OpenAI χρειάστηκε σχεδόν δύο εβδομάδες για να εντοπίσει τη διαρροή. Η ανακοίνωση πρόσθεσε επίσης ότι η AI έχει χρησιμοποιηθεί πρόσφατα για τη δημιουργία νέων ιών, κάτι που περιέγραψε ως απόδειξη ότι η AI θα μπορούσε να χρησιμοποιηθεί για την ανάπτυξη νέων βιολογικών όπλων.

Οι χορηγοί επεσήμαναν επίσης προηγούμενες δεσμεύσεις ασφαλείας από τα μεγάλα εργαστήρια. Η Meta δήλωσε πέρυσι ότι θα «σταματήσει την ανάπτυξη» και η OpenAI δήλωσε ότι θα «διακόψει περαιτέρω ανάπτυξη» όταν οι τεχνολογίες τους ξεπεράσουν την ικανότητά τους να λειτουργούν με ασφάλεια χωρίς μέτρα προστασίας, ενώ η Anthropic έκανε παρόμοια δέσμευση το 2023, λέγοντας ότι θα «παύσει την κλιμάκωση και/ή θα καθυστερήσει την ανάπτυξη νέων μοντέλων» εάν η τεχνολογία ξεπεράσει τα όρια ασφαλείας της. Η ανακοίνωση ανέφερε ότι καμία από τις εταιρείες δεν έχει λάβει ουσιαστικά μέτρα για να υποστηρίξει αυτά τα λόγια και ότι αντίθετα αγωνίζονται να αναπτύξουν πιο προχωρημένη AI χωρίς τις κατάλληλες προφυλάξεις ασφαλείας.

Δηλώσεις από τους Χορηγούς

Ο Sanders δήλωσε ότι οι ηγέτες των μεγάλων εταιρειών AI παραδέχονται δημόσια ότι δεν κατανοούν πλήρως την τεχνολογία που αναπτύσσουν και ότι αυτή ξεφεύγει από τον έλεγχό τους. «Είναι ανεύθυνο για την κοινωνία να τους επιτρέπουμε να προχωρούν και να κάνουν αυτά τα προϊόντα ακόμη πιο προχωρημένα», είπε ο Sanders. «Το μέλλον της ανθρωπότητας δεν μπορεί να παραμείνει στα χέρια μιας μικρής ομάδας ολιγάρχων της Big Tech. Οι Αμερικανοί και οι άνθρωποι σε όλο τον κόσμο πρέπει να καθορίσουν εκείνο το μέλλον.»

Ο Casar είπε ότι εάν επιτραπεί η κατασκευή τεχνητής υπερνοημοσύνης, «θα μπορούσε να θέσει σε κίνδυνο την ασφάλεια, την ελευθερία και τις ζωές των Αμερικανών». Πρόσθεσε ότι η αιχμηρή τεχνολογία AI είναι λιγότερο ρυθμιζόμενη από το μέσο τροχό φαγητού και υποστήριξε ότι το Κογκρέσο θα πρέπει άμεσα να απαγορεύσει τα συστήματα AI που είναι πολύ ισχυρά για να ελεγχθούν.

Το νομοσχέδιο δεν είχε ακόμη εισαχθεί επίσημα τη στιγμή της ανακοίνωσης· οι χορηγοί περιέγραψαν το Ban Artificial Superintelligence Act ως επερχόμενο.