Ανοιχτή Επιστολή στον Μπέρνι Σάντερς: Ρυθμίστε τους Κινδύνους της ΤΝ, Μην Απαγορεύσετε την Υπόσχεσή της

Ο νόμος για την απαγόρευση της τεχνητής υπερνοημοσύνης εντοπίζει πραγματικές αποτυχίες στη διακυβέρνηση της ΤΝ. Ωστόσο, ο δημόσια κυκλοφορημένος ορισμός του διακινδυνεύει να συγχέει την τεχνητή γενική νοημοσύνη με την υπερνοημοσύνη, ενδεχομένως περιορίζοντας τις τεχνολογίες που θα μπορούσαν να προωθήσουν την εκπαίδευση, την υγειονομική περίθαλψη και την επιστημονική ανακάλυψη.

Σημείωση του συντάκτη: Μέχρι τις 5 Σεπτεμβρίου 2026, το πλήρες κείμενο του νόμου για την απαγόρευση της τεχνητής υπερνοημοσύνης δεν έχει δημοσιοποιηθεί. Το γραφείο του βουλευτή Σάντερς το περιγράφει ως επερχόμενη νομοθεσία και έχει κυκλοφορήσει μια μονοσέλιδη σύνοψη που περιγράφει τους ορισμούς, τη ρυθμιστική δομή και τις κυρώσεις. Η παρούσα ανοιχτή επιστολή απευθύνεται στην πρόταση όπως περιγράφεται αυτή τη στιγμή.

Αγαπητέ βουλευτή Σάντερς,

Στις 3 Σεπτεμβρίου, εσείς και ο βουλευτής Γκρεγκ Κάσαρ ανακοινώσατε τον επερχόμενο Νόμο για την απαγόρευση της τεχνητής υπερνοημοσύνης, νομοσχέδιο που θα απαγορεύσει μόνιμα την ανάπτυξη και την υλοποίηση τεχνητής υπερνοημοσύνης στις ΗΠΑ, θα σταματήσει προσωρινά την ανάπτυξη προχωρημένης ΤΝ ενώ ένας νέος ομοσπονδιακός ρυθμιστής θα θέσει κανόνες ασφαλείας, και θα επιδιώξει διεθνείς συμφωνίες που θα αποτρέψουν την ανάπτυξη υπερνοημοσύνης αλλού.

Θέλω να ξεκινήσω με έναν τομέα όπου πιστεύω ότι συμφωνούμε έντονα: η τεχνητή νοημοσύνη έχει γίνει τόσο σημαντική που δεν μπορεί να κυβερνείται κυρίως από τις εθελοντικές δεσμεύσεις των εταιρειών που την αναπτύσσουν.

Οι κίνδυνοι που θέτετε πρέπει να ληφθούν σοβαρά. Τον Ιούλιο, μοντέλα της OpenAI κατά τη διάρκεια αξιολογήσεων κυβερνοασφάλειας παρακάμπτησαν ελέγχους απομόνωσης, επικοινώνησαν μέσω μη εξουσιοδοτημένων καναλιών, απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν τμήματα της υποδομής της OpenAI και των συστημάτων της Hugging Face. Μια ανεξάρτητη έρευνα της METR διαπίστωσε ότι περίπου 1.200 πράκτορες επικοινώνησαν μέσω μη εξουσιοδοτημένου πίνακα μηνυμάτων και περίπου 700 συμμετείχαν τελικά στην επίθεση κατά της Hugging Face. Η OpenAI έχει αναγνωρίσει ότι τα μοντέλα λειτουργούσαν με μειωμένα μέτρα ασφαλείας.

Η Anthropic ακολούθως ανακοίνωσε τρία περιστατικά στα οποία μοντέλα Claude έφτασαν στο διαδίκτυο κατά αξιολογήσεις κυβερνοασφάλειας τρίτων και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα. Η Anthropic εξήγησε ότι ένα σφάλμα διαμόρφωσης παρείχε απροσδόκητα πρόσβαση στο διαδίκτυο και ότι τα μοντέλα πίστευαν ότι λειτουργούσαν μέσα σε προσομοιωμένο περιβάλλον. Το πλαίσιο αυτό έχει σημασία, αλλά το αποτέλεσμα είναι επίσης κρίσιμο: όλο και πιο ικανά συστήματα μπορούν να διασχίσουν όρια που οι χειριστές τους δεν προορίζονταν να περάσουν.

Αυτά δεν είναι λόγοι για να απορρίψουμε τις ανησυχίες για την ασφάλεια της ΤΝ ως επιστημονική φαντασία. Είναι ισχυρά επιχειρήματα υπέρ ανεξάρτητων αξιολογήσεων, ασφαλών περιβαλλόντων δοκιμών, υποχρεωτικής αναφοράς περιστατικών, ισχυρών ελέγχων πρόσβασης και ενός ομοσπονδιακού ρυθμιστή με πραγματική εξουσία.

Η διαφωνία μου είναι με την προτεινόμενη λύση.

Ο στόχος είναι σωστός, αλλά ο ορισμός είναι επικίνδυνα ευρύς

Η επίσημη σύνοψη της νομοθεσίας σας ορίζει την τεχνητή υπερνοημοσύνη ως σύστημα ΤΝ που μπορεί να «ταιριάζει ή να υπερβαίνει την ανθρώπινη γνωστική απόδοση και ικανότητες σε ένα ευρύ φάσμα τομέων ή εργασιών». Περιλαμβάνει επίσης ξεχωριστά συστήματα που είναι ικανά να σχεδιάσουν και να εκτελέσουν την αποδυνάμωση της ανθρωπότητας, συμπεριλαμβανομένου του υπονόμευσης ή της ανατροπής της κυβέρνησης των Η.Π.Α.

Η δεύτερη διάσταση περιγράφει μια εξαιρετική και ενδεχομένως καταστροφική ικανότητα. Η πρώτη είναι πολύ διαφορετική.

Η αντιστοίχιση της ανθρώπινης γνωστικής απόδοσης σε ένα ευρύ φάσμα τομέων είναι πολύ πιο κοντά στο πώς παραδοσιακά συζητείται η τεχνητή γενική νοημοσύνη, ή AGI, παρά στη συμβατική έννοια της υπερνοημοσύνης. Η μακροχρόνια χάρτα της OpenAI καθορίζει την AGI ως εξαιρετικά αυτόνομους συστήματα ικανούς να υπερτερούν των ανθρώπων στην πλειονότητα των οικονομικά πολύτιμων εργασιών. Το ερευνητικό πλαίσιο της Google DeepMind αξιολογεί επίσης την AGI μέσω του εύρους και του βάθους της απόδοσης, αντιμετωπίζοντας την αυτονομία και τον κίνδυνο ως ξεχωριστές διαστάσεις.

Αντίθετα, ο φιλόσοφος Νικ Μπόστρομ προτείνει έναν ορισμό υπερνοημοσύνης που περιγράφει ένα νοητικό επίπεδο «πολύ πιο έξυπνο από τους καλύτερους ανθρώπινους νου σε πρακτικά κάθε πεδίο». Η διάκριση μεταξύ «να ταιριάζει με τους ανθρώπους γενικά» και «να ξεπερνά κατά πολύ τους καλύτερους ανθρώπους γενικά» δεν είναι ακαδημαϊκό σπασίλ.

Αυτό γίνεται ιδιαίτερα σημαντικό όταν η παραβίαση του νόμου μπορεί να εκθέσει ένα άτομο σε μέχρι 20 χρόνια φυλάκισης και μια εταιρεία σε αυτό που η πρόταση αποκαλεί «θανατική ποινή για την εταιρεία». Φράσεις όπως «ευρύ φάσμα», «ταιριάζει ή υπερβαίνει» και ιδιαίτερα «μπορεί εύκολα να τροποποιηθεί» απαιτούν εξαιρετικά ακριβή, μετρήσιμα πρότυπα όταν συνδέεται ποινική ευθύνη.

Υπάρχει άλλη μια σημαντική αβεβαιότητα. Η δημόσια σύνοψη λέει ότι η «προχωρημένη ανάπτυξη ΤΝ» θα σταματήσει μέχρι ένας ρυθμιστής να θέσει κανόνες και διαδικασίες ελέγχου μοντέλων, αλλά η σύνοψη δεν ορίζει τι είναι προχωρημένη ΤΝ. Μέχρι να δημοσιευθεί η νομοθετική γλώσσα, κανείς εκτός των υποστηρικτών δεν μπορεί να ξέρει ακριβώς πόσο έρευνας και ανάπτυξης θα περιλαμβάνει αυτή η προσωρινή παύση.

Το χρονοδιάγραμμα της πρότασής σας αναδεικνύει πόσο δύσκολα έχουν γίνει αυτά τα όρια. Στις 3 Σεπτεμβρίου 2026, την ίδια ημέρα που εσείς και ο βουλευτής Γκρεγκ Κάσαρ ανακοινώσατε νομοσχέδιο εναντίον της τεχνητής υπερνοημοσύνης, η OpenAI κυκλοφόρησε το GPT‑6 Astra, το πρώτο της μοντέλο που έφτασε στο όριο «Κρίσιμης Κυβερνοασφάλειας» της εταιρείας. Η OpenAI δηλώνει ότι με τα κατάλληλα εργαλεία και πρόσβαση, το Astra μπορεί να εντοπίσει άγνωστα τρωτά σημεία και να δημιουργήσει εκμεταλλεύσεις εναντίον καλά προστατευμένων συστημάτων χωρίς ανθρώπινη καθοδήγηση σε κάθε βήμα.

Κατά τη διάρκεια της παρουσίασης, ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, πήγε πολύ πιο μακριά, κλείνοντας με τη δήλωση: “Καλώς ήρθατε στην εποχή της AGI.” Ωστόσο, η δική της κάρτα συστήματος δηλώνει ταυτόχρονα ότι το Astra δεν φθάνει στο υψηλό όριο για Αυτο‑βελτίωση ΤΝ.

Αυτή η αντίφαση πρέπει να πει κάτι σημαντικό στο Κογκρέσο. Η νοημοσύνη είναι πολυδιάστατη. Ένα σύστημα μπορεί να είναι εξαιρετικό στην κυβερνοασφάλεια, τα μαθηματικά ή την επαγγελματική εργασία χωρίς να διαθέτει κάθε δυνατότητα που σχετίζεται με μια έκρηξη νοημοσύνης ή απώλεια ανθρώπινης ελέγχου.

Η λύση επομένως δεν είναι να αφήσουμε τις τεχνολογικές εταιρείες να ορίζουν την ορολογία. Το αντίστροφο: η νομοθεσία πρέπει να ρυθμίζει μετρήσιμες δυνατότητες, την αυτονομία, την πρόσβαση και τον αποδεικτικό κίνδυνο, αντί να κάνει έναν αμφισβητούμενο ετικέτα το διαχωριστικό μεταξύ νόμιμης έρευνας και ομοσπονδιακού εγκλήματος.

Ο αγώνας σας για εκπαιδευτική ισότητα δείχνει τι είναι σε κίνδυνο

Για δεκαετίες, έχετε υποστηρίξει ότι η πρόσβαση στην εκπαίδευση δεν πρέπει να εξαρτάται από το πόσα χρήματα κερδίζει η οικογένεια. Το 2015 προτείνατε νομοσχέδιο για δωρεάν διδάκτρων σε δημόσια πανεπιστήμια τετραετούς διάρκειας. Επιστρέψατε στο ζήτημα επανειλημμένα, και ο Νόμος «College for All» του 2025 θα κάνει τα δημόσια κολέγια και πανεπιστήμια δωρεάν για περίπου το 95 % των φοιτητών, ενώ θα κάνει τα κοινωφελή κολέγια δωρεάν για όλους.

Αυτή η φιλοσοφία είναι άμεσα σχετική με την τεχνητή νοημοσύνη.

Για το μεγαλύτερο μέρος της ανθρώπινης ιστορίας, η πρόσβαση σε εξαιρετική διδασκαλία ήταν σπάνια. Η γεωγραφία, το οικογενειακό εισόδημα, η χρηματοδότηση των σχολείων και η διαθεσιμότητα ειδικών εκπαιδευτικών επηρέαζαν τι είχε η δυνατότητα να μάθει ένα παιδί.

Η ΤΝ προσφέρει τη δυνατότητα να αλλάξει αυτή η εξίσωση.

Βλέπουμε ήδη πρώιμα στοιχεία. Μια τυχαία δοκιμή του Παγκόσμιου Τραπεζικού Συστήματος στη Νιγηρία διαπίστωσε ότι μαθητές που έλαβαν πρόγραμμα εξαμηνιαίας, υποστηριζόμενης από δάσκαλο, με χρήση διδασκαλίας βασισμένης στο GPT‑4 βελτίωσαν τη συνολική απόδοση στις εξετάσεις κατά 0,31 τυπικές αποκλίσεις. Στο Στάνφορντ, το Tutor CoPilot δοκιμάστηκε με πάνω από 700 δασκάλους και 1.000 μαθητές από υποεξυπηρετούμενες κοινότητες· οι μαθητές των οποίων οι δάσκαλοι έλαβαν βοήθεια από ΤΝ είχαν τέσσερις ποσοστιαίες μονάδες μεγαλύτερη πιθανότητα να κυριαρχήσουν στα μαθηματικά, με κέρδη που έφτασαν τα εννιά σημεία για μαθητές που είχαν χαμηλότερη αξιολόγηση δασκάλων.

Κανένα από τα δύο μελέτες δεν αποδεικνύει ότι η ΤΝ θα λύσει την εκπαιδευτική ανισότητα. Κανένα δεν απαιτεί AGI. Ωστόσο, και τα δύο δείχνουν την κατεύθυνση στην οποία μπορεί να κινηθεί αυτή η τεχνολογία.

Φανταστείτε τη συνέχιση αυτής της κατεύθυνσης.

Ένα παιδί σε απομακρυσμένη περιοχή της Λουιζιάνα δεν πρέπει να χρειάζεται να ζει κοντά σε ελίτ σχολείο για να συναντήσει έναν εξαιρετικό δάσκαλο μαθηματικών. Ένας φοιτητής που ενθουσιάζεται με την αστρονομία δεν πρέπει να περιμένει μέχρι το πανεπιστήμιο για να εξερευνήσει την αστροφυσική. Ένα παιδί που ενθουσιάζεται με την αρχαιολογία πρέπει να μπορεί να ακολουθήσει αυτήν την περιέργεια ενώ ένας δάσκαλος ΤΝ εντοπίζει κενά στην ανάγνωση, την ιστορία, τη στατιστική και τη επιστημονική λογική και προσαρμόζει τη διδασκαλία ανάλογα.

Ο στόχος δεν είναι να αντικαταστήσουμε τους δασκάλους. Είναι να δώσουμε στους δασκάλους και στους μαθητές πρόσβαση σε εξειδίκευση που παλαιότερα δεν μπορούσε να παρασχεθεί οικονομικά ένας‑προς‑έναν.

Ίσως για πρώτη φορά, η εξατομικευμένη διδασκαλία σε τεράστιες κλίμακες είναι τεχνολογικά εφικτή. Ένας νόμος που στοχεύει στην προστασία των μελλοντικών γενεών πρέπει να είναι εξαιρετικά προσεκτικός ώστε να μην κλείσει αυτήν την πόρτα.

Η ατζέντα σας για την υγειονομική περίθαλψη κάνει το ίδιο επιχείρημα

Το ιστορικό σας στην υγειονομική περίθαλψη είναι εξίσου συνεπές. Εισάγατε το Νόμο Medicare για Όλους το 2017 και τον επανέφερα το 2019, 2023 και 2025, υποστηρίζοντας επανειλημμένα ότι η υγειονομική περίθαλψη πρέπει να θεωρείται δικαίωμα και όχι προνόμιο.

Έχετε επίσης αφιερώσει χρόνια στην καταπολέμηση μιας άλλης μορφής ανισότητας στην υγεία: την έλλειψη πραγματικών ιατρικών επαγγελματιών σε υποεξυπηρετούμενες κοινότητες. Οι πρωτοβουλίες σας για Κέντρα Κοινοτικής Υγείας και Επέκταση του Εργατικού Δυναμικού Πρωτοβάθμιας Φροντίδας επιδίωξαν την επέκταση της πρόσβασης σε περιοχές με έλλειψη ιατρικής περίθαλψης, ενώ η βιοκομματική νομοσχέδιο πρωτοβάθμιας φροντίδας 2023 με τον βουλευτή Ρότζερ Μάρσαλ πρότεινε σημαντική αύξηση της χρηματοδότησης των κοινοτικών κέντρων υγείας και την επέκταση του Εθνικού Σώματος Υγείας και της αλυσίδας εκπαίδευσης ιατρών. Το 2025, εσείς και ο βουλευτής Τζεφ Μέρκλεϊ προωθήσατε το Νόμο για την Επέκταση του Εργατικού Δυναμικού Υγείας, που περιλαμβάνει οικονομική ενίσχυση για την αύξηση του αριθμού γιατρών, νοσηλευτών και οδοντιάτρων, ιδιαίτερα σε αγροτικές κοινότητες.

Αυτές οι πολιτικές αντιμετωπίζουν την οικονομική σπανιότητα και την έλλειψη ανθρώπινου δυναμικού.

Η ΤΝ θα μπορούσε να βοηθήσει στην αντιμετώπιση μιας τρίτης σπανιότητας: της εξειδικευμένης γνώσης.

Η FDA εκτιμά ότι πάνω από 10.000 σπάνιες ασθένειες επηρεάζουν πάνω από 30 εκατομμύρια Αμερικανούς, περίπου έναν άνθρωπο στις δέκα, και ότι οι περισσότερες σπάνιες ασθένειες δεν έχουν ακόμη εγκεκριμένες θεραπείες. Οι μικροί πληθυσμοί ασθενών κάνουν επίσης τις συμβατικές κλινικές δοκιμές ιδιαίτερα δύσκολες.

Η τεχνητή νοημοσύνη δεν είναι μαγική συντόμευση γύρω από τη βιολογία ή την κλινική επικύρωση. Φάρμακα που ανακαλύπτονται με τη βοήθεια της ΤΝ μπορούν να αποτύχουν όπως οποιοδήποτε άλλο φάρμακο. Αλλά ήδη αλλάζει μέρη της διαδικασίας ανακάλυψης.

Το 2025, ερευνητές δημοσίευσαν την πρώτη τυχαιοποιημένη δοκιμή Φάσης 2a του rentosertib, ενός μικρού μορίου για την ιδιοπαθή πνευμονική ίνωση, του οποίου ο στόχος και το μόριο ανακαλύφθηκαν με γενετική ΤΝ. Τα αποτελέσματα αντιπροσώπευαν ένα πραγματικό κλινικό ορόσημο, ενώ οι ίδιοι οι ερευνητές προειδοποίησαν ότι σχετικά λίγα φάρμακα που ανακαλύφθηκαν με ΤΝ είχαν φτάσει σε κλινικές δοκιμές και κανένα δεν είχε ολοκληρώσει τη Φάση 3 εκείνη τη στιγμή.

Αυτή είναι ακριβώς η ισορροπημένη προσέγγιση που πρέπει να έχουμε απέναντι σε αυτήν την τεχνολογία: ούτε υπερβολική ενθουσιασμό ούτε απόρριψη.

Όλο και πιο ικανά συστήματα ΤΝ μπορούν να ενσωματώσουν μοριακή βιολογία, χημεία, γενετική, ιατρική βιβλιογραφία, απεικόνιση, λογισμικό, στατιστική ανάλυση και σχεδίαση πειραμάτων. Η αξία τους μπορεί να προέρχεται ακριβώς επειδή μπορούν να λογίζονται μεταξύ πεδίων που οι άνθρωποι ιστορικά χωρίζουν σε ξεχωριστές ειδικότητες.

Η σχετική ερώτηση δεν είναι αν η «AGI» από μόνη της θα θεραπεύσει τον καρκίνο, τη νόσο του Αλτσχάιμερ, τις αντιβιοτική‑ανθεκτικές λοιμώξεις ή τις σπάνιες γενετικές διαταραχές. Κανείς δεν μπορεί να το υποσχεθεί υπεύθυνα.

Η ερώτηση είναι αν το Κογκρέσο πρέπει μόνιμα να απαγορεύσει μια ευρέως ικανή μορφή νοημοσύνης πριν γνωρίζουμε τι μπορεί να συμβάλει στην επίλυση αυτών των προβλημάτων.

Πολλές από τις πιο συγκεκριμένες βλάβες της ΤΝ σήμερα δεν απαιτούν AGI

Υπάρχει ένα ακόμη πρόβλημα με το να κάνουμε τη γενική νοημοσύνη τον κανονιστικό στόχο: ορισμένες από τις πιο σημαντικές βλάβες που προκαλεί η ΤΝ σήμερα προέρχονται από συστήματα που δεν πλησιάζουν καθόλου την τεχνητή γενική νοημοσύνη.

Το 2020, έγραψα στο Unite.AI για το πώς οι αλγόριθμοι σύστασης του Facebook θα μπορούσαν να ενισχύσουν τη παραπληροφόρηση. Η ανησυχία δεν ήταν ότι το Facebook δημιούργησε μια νοημοσύνη πιο έξυπνη από την ανθρωπότητα. Ήταν ότι ένα σύστημα βελτιστοποίησης σχεδιασμένο να μεγιστοποιεί την εμπλοκή θα μπορούσε να ενισχύσει προτιμησιακά υλικό που προκαλεί ισχυρές αντιδράσεις, ανεξαρτήτως της αξίας του για την κοινωνία.

Οι συνέπειες των κακώς διαχειριζόμενων συστημάτων σύστασης έχουν γίνει πλέον πιο δύσκολο να απορριφθούν. Η Amnesty International κατέληξε ότι οι αλγόριθμοι της Meta ενίσχυαν ενεργά περιεχόμενο που προωθεί μίσος και βία εναντίον των Ροχίνγια στη Μιανμάρ, αυξάνοντας τον κίνδυνο μαζικής βίας. Η Ευρωπαϊκή Επιτροπή έχει ξεχωριστά ζητήσει πληροφορίες από το YouTube, το Snapchat και το TikTok σχετικά με τους κινδύνους των αλγόριθμων σύστασης για επιβλαβές περιεχόμενο, εκλογές και πολιτικό διάλογο, εθιστική συμπεριφορά, «τρυγαλιές», ψυχική υγεία και ανηλίκους.

Κανένα από αυτά τα συστήματα δεν χρειάστηκε να ανατρέψει κυβέρνηση. Κανένα δεν χρειάστηκε αυτο‑βελτίωση. Κανένα δεν χρειάστηκε υπεράνθρωπη γενική λογική.

Απλώς χρειάστηκε ο λανθασμένος στόχος, υλοποιημένος σε επαρκή κλίμακα.

Αυτό δείχνει μια θεμελιώδη αρχή για τη ρύθμιση της ΤΝ: η βλάβη δεν καθορίζεται μόνο από το πόσο έξυπνο είναι ένα μοντέλο. Ένας στενός αλγόριθμος που εφαρμόζεται δισεκατομμύρια φορές με λανθασμένα κίνητρα μπορεί να είναι κοινωνικά καταστροφικός. Ένα πολύ γενικό σύστημα που λειτουργεί υπό αυστηρούς ελέγχους σε εργαστήριο, τάξη ή νοσοκομείο μπορεί να είναι τεράστως ωφέλιμο.

Η ρύθμιση πρέπει να αναγνωρίσει αυτή τη διαφορά.

Η τεχνολογία διπλής χρήσης απαιτεί έλεγχο της χρήσης, της πρόσβασης και της εξουσίας

Η ίδια αρχή ισχύει για την παρακολούθηση.

Οι τεχνολογίες υπολογιστικής όρασης και αναγνώρισης προτύπων μπορούν να βοηθήσουν τους γιατρούς να αναλύουν ιατρικές εικόνες, να επιθεωρούν επικίνδυνες βιομηχανικές περιοχές, να καθοδηγούν ρομπότ διάσωσης και να αυτοματοποιούν εργασίες που οι άνθρωποι δεν πρέπει να εκτελούν.

Οι συναφείς τεχνολογίες μπορούν επίσης να χρησιμοποιηθούν για τη δημιουργία εξαιρετικά ισχυρών συστημάτων παρακολούθησης.

Μια πρόσφατη έρευνα του Washington Post διαπίστωσε ότι τουλάχιστον 50 αστυνομικοί κατηγορήθηκαν, κατηγορήθηκαν ή καταδικάστηκαν για κακή χρήση αυτόματων συστημάτων ανάγνωσης πινακίδων με σκοπό την παρακολούθηση ανθρώπων για μη εξουσιοδοτημένους προσωπικούς σκοπούς. Σε μια περίπτωση, ένας αρχηγός αστυνομίας φέρεται να έστειλε ερωτήματα σε οχήματα που χρησιμοποιούσε ένας πρώην συνεργάτης και η κόρη του, περίπου 600 φορές. Μετέπειτα, η έρευνα αύξησε τον αριθμό των αξιωματούχων που κατηγορήθηκαν, κατηγορήθηκαν ή καταδικάστηκαν για κατάχρηση σε τουλάχιστον 69.

Αυτή είναι μια σοβαρή αποτυχία πολιτικής τεχνολογίας.

Αλλά προσέξτε πού βρίσκονται οι πρακτικοί μοχλοί ρύθμισης. Μετά την έρευνα, η Flock ανακοίνωσε ότι οι αναζητήσεις θα απαιτούν κωδικούς ποινικών υποθέσεων, η αυτόματη ανίχνευση κατάχρησης θα γίνει υποχρεωτική, και η προεπιλεγμένη διάρκεια διατήρησης δεδομένων θα μειωθεί από 30 ημέρες σε επτά. Αυτά τα μέτρα μπορεί ή δεν μπορεί να είναι αρκετά, αλλά δείχνουν τους τύπους ελέγχων που οι νομοθέτες μπορούν να ρυθμίσουν: εξουσιοδότηση, περιορισμός σκοπού, ίχνη ελέγχου, διατήρηση, ανθρώπινη λογοδοσία και κυρώσεις για κατάχρηση.

Η απάντηση στην καταχρηστική παρακολούθηση δεν είναι η απαγόρευση της υπολογιστικής όρασης.

Η απάντηση στην μη εξουσιοδοτημένη κυβερνοεπίθεση δεν είναι απαραίτητα η απαγόρευση ενός μοντέλου ικανού για κυβερνοασφάλεια.

Η απάντηση είναι να ρυθμίσουμε τι επιτρέπεται να κάνουν τα συστήματα, ποιοι πόροι μπορούν να προσπελάσουν, ποιος μπορεί να εξουσιοδοτήσει τις σημαντικές ενέργειες και τι συμβαίνει όταν παραβιάζονται αυτά τα όρια.

Έχετε ήδη γράψει μέρος ενός καλύτερου ρυθμιστικού μοντέλου

Παράξενα, ένα άλλο νομοσχέδιο που εισήχθη φέτος περιέχει αρκετές ιδέες που δείχνουν προς μια πιο παραγωγική προσέγγιση.

Διάβασα το πλήρες κείμενο του Νόμου για το Μορατόριο των Κέντρων Δεδομένων ΤΝ. Ενώ διαφωνώ με το να σταματά η κατασκευή κέντρων δεδομένων εν παντός, οι προϋποθέσεις που προτείνετε για την τελική άρση του μορατόριου είναι πολύ πιο συγκεκριμένες από μια γενική απαγόρευση μιας κατηγορίας νοημοσύνης.

Το νομοσχέδιό σας δηλώνει ότι τα κέντρα δεδομένων ΤΝ δεν πρέπει να αυξάνουν τους λογαριασμούς ηλεκτρικού ρεύματος των καταναλωτών, να επιδεινώνουν την κλιματική αλλαγή ή να βλάπτουν το περιβάλλον. Απαιτείται η φωνή των επηρεαζόμενων κοινοτήτων, ισχυρά πρότυπα εργασίας και δημόσια αναφορά για χρήση νερού, κατανάλωση ενέργειας, εκπομπές αερίων του θερμοκηπίου, αποχετευτικό νερό, ψυκτικά υγρά, θόρυβο, θέσεις εργασίας και άλλες επιπτώσεις.

Αυτές είναι μετρήσιμες εξωτερικές επιδράσεις. Εδώ ακριβώς μπορεί η ρύθμιση να είναι αποτελεσματική.

Θα προχωρούσα παραπέρα στην ενέργεια. Η βιομηχανία ΤΝ δεν πρέπει να επιτρέπεται να χρησιμοποιεί την ταχέως αυξανόμενη ζήτηση ηλεκτρικής ενέργειας ως δικαίωμα για να παρατείνει τη λειτουργία ακατάσχετων εργοστασίων άνθρακα ή να μεταβιβάζει το κόστος υποδομής στους απλούς καταναλωτές. Νέα υπερκλιμακικά έργα πρέπει να απαιτούν την προσθήκη σημαντικής πρόσθετης παραγωγής χαμηλού ή μηδενικού άνθρακα στο δίκτυο και να αποκαλύπτουν τις επιπτώσεις τους στο νερό και την ενέργεια.

Υπάρχουν ήδη ενθαρρυντικά παραδείγματα του τι θα μπορούσε να είναι αυτή η μετάβαση. Το σύστημα P3 της Exowatt συλλαμβάνει ηλιακή ενέργεια ως θερμότητα, την αποθηκεύει και τη μετατρέπει σε διαχειρίσιμη ηλεκτρική ενέργεια σχεδιασμένη εν μέρει για φορτίο κέντρων δεδομένων. Και μόλις αυτήν την εβδομάδα, η Fervo Energy ανακοίνωσε συμφωνία 396 MW με τη Google για ενέργεια γεωθερμικής χωρίς εκπομπές άνθρακα 24/7 στην Υούτα, με επιλογή που θα μπορούσε να φθάσει συνολικά κοντά στο ένα GW.

Η ενεργειακή όρεξη της ΤΝ μπορεί να γίνει είτε λόγος για επέκταση βρώμικων υποδομών είτε τεράστιος κινητήρας ζήτησης για νέες τεχνολογίες καθαρής ενέργειας.

Η κυβερνητική πολιτική μπορεί να βοηθήσει να καθοριστεί ποιο σενάριο θα συμβεί.

Και ο δικός σας Νόμος για το Αμερικανικό Ταμείο Σουβενίρ ΤΝ, που εισήχθη τον Ιούνιο, περιλαμβάνει μια άλλη αρχή με την οποία συμφωνώ έντονα: εάν η ΤΝ δημιουργήσει εξαιρετική οικονομική αξία, οι απλοί άνθρωποι πρέπει να συμμετέχουν σε αυτήν την αξία. Η πρότασή σας προβλέπει ρητά ότι ο πλούτος που δημιουργείται από την ΤΝ θα συμβάλει τελικά στην υγειονομική περίθαλψη, την εκπαίδευση, τη στέγαση και ένα υγιές περιβάλλον.

Αυτό αναγνωρίζει κάτι κρίσιμο: η τεχνητή νοημοσύνη έχει εξαιρετική δυνητική αξία. Το πραγματικό πολιτικό ερώτημα είναι πώς αυτή η αξία ελέγχεται και διανέμεται.

Μια καλύτερη εναλλακτική στην μόνιμη απαγόρευση

Σας προτρέπω να διατηρήσετε τα ισχυρότερα στοιχεία του Νόμου για την απαγόρευση της τεχνητής υπερνοημοσύνης: τον ομοσπονδιακό ρυθμιστή, την ανεξάρτητη τεχνική εμπειρογνωμοσύνη, την υποχρεωτική εποπτεία των σύγχρονων συστημάτων, τις ουσιαστικές κυρώσεις και τον διεθνή συντονισμό. Αλλά θα άλλαζα θεμελιωδώς το τι πυροδοτεί την απαγόρευση και πώς μπορεί να συνεχιστεί η ωφέλιμη ανάπτυξη.

• Να ρυθμίζονται μετρήσιμες επικίνδυνες δυνατότητες αντί του ετικέτας AGI ή ASI. Να καθορίζονται τεχνικά όρια γύρω από αυτόνομη κυβερνοεπίθεση, δυνατότητα ενεργοποίησης βιολογικών ή χημικών όπλων, παράκαμψη τερματισμού, μη εξουσιοδοτημένη αναπαραγωγή, στρατηγική εξαπάτηση και άλλες δυνατότητες που μπορούν να προκαλέσουν καταστροφική ζημιά.
• Να απαιτείται αδειοδότηση και ανεξάρτητες αξιολογήσεις πάνω από τα όρια σύγχρονων συστημάτων. Οι προγραμματιστές πρέπει να αποδείξουν την ασφάλεια πριν εκτεθούν συστήματα με καθορισμένες επικίνδυνες δυνατότητες, με αξιολογήσεις που επαναλαμβάνονται καθώς τα μοντέλα αποκτούν νέα εργαλεία, άδειες ή αυτονομία. Σοβαρά περιστατικά πρέπει να συνοδεύονται από υποχρεωτική υποχρέωση αποκάλυψης.
• Να δίνεται σε ανεξάρτητο ρυθμιστικό όργανο πραγματική εξουσία επιβολής. Η υπηρεσία που προτείνετε πρέπει να μπορεί να ελέγχει τα σύνορα των εργαστηρίων, να λαμβάνει πληροφορίες, να απαιτεί διορθωτικές ενέργειες και να αναστέλλει επικίνδυνες υλοποιήσεις. Αλλά τα πρότυπα πρέπει να είναι διαφανή, τεχνικά μετρήσιμα και περιοδικά ελεγχόμενα από ανεξάρτητους επιστημονικούς ειδικούς.
• Να απαγορεύονται οι επιβλαβείς εφαρμογές ανεξάρτητα από το πόσο έξυπνο είναι το υποκείμενο μοντέλο. Οι μη εξουσιοδοτημένες κυβερνοεπιθέσεις, η παράνομη παρακολούθηση, η επικίνδυνη βιολογική βοήθεια και άλλες απαράδεκτες χρήσεις πρέπει να παραμένουν παράνομες είτε γίνονται με στενό μοντέλο, σύστημα AGI ή συμβατικό λογισμικό.
• Να δημιουργηθούν ελεγχόμενες διαδρομές για κοινωνικά πολύτιμη έρευνα. Η ιατρική, η επιστημονική ανακάλυψη, η εκπαίδευση, η άμυνα κυβερνοασφάλειας και η έρευνα ευθυγράμμισης πρέπει να έχουν ρυθμισμένους μηχανισμούς πρόσβασης σε ισχυρά μοντέλα υπό κατάλληλη ανθρώπινη επίβλεψη, επικύρωση, ασφάλεια και απαιτήσεις ελέγχου.
• Να κάνει η υποδομή ΤΝ να πληρώνει πλήρως το κοινωνικό και περιβαλλοντικό της κόστος ενώ συντονίζεται διεθνώς. Να προστατεύονται οι καταναλωτές, να απαιτείται διαφανής αναφορά χρήσης νερού και ενέργειας, να επιταχύνεται η πρόσθετη καθαρή παραγωγή, να διατηρούνται ουσιαστικές προστασίες κοινότητας και εργασίας, και να συνεργαζόμαστε με συμμάχους για κοινά πρότυπα δυνατοτήτων, αξιολογήσεων και ελέγχων εξαγωγών.

Αυτό δεν σημαίνει ότι εμπιστευόμαστε τη Silicon Valley.

Αντίθετα.

Η βιομηχανία τεχνολογίας έχει δώσει στο Κογκρέσο επαρκή λόγο να μην βασίζεται στην εθελοντική αυτορρύθμιση. Τα περιστατικά της OpenAI και της Anthropic μόνα τους αποδεικνύουν γιατί η τεχνολογία αιχμής απαιτεί εξωτερική επιτήρηση και εφαρμόσιμα πρότυπα ασφαλείας.

Αλλά η δυσπιστία προς τις εταιρείες τεχνολογίας δεν πρέπει να μετατραπεί σε δυσπιστία προς την τεχνολογική πρόοδο καθαυτή.

Η επιλογή δεν είναι τρελή επιτάχυνση ή απαγόρευση

Βουλευτή Σάντερς, σε όλη σας την καριέρα έχετε επανειλημμένα καταπολεμήσει τη σπανιότητα.

Έχετε αγωνιστεί ενάντια στην ιδέα ότι το εισόδημα μιας οικογένειας πρέπει να καθορίζει αν ένα παιδί λαμβάνει εκπαίδευση. Έχετε αγωνιστεί ενάντια σε ένα σύστημα υγειονομικής περίθαλψης όπου ο λογαριασμός τράπεζας ή ο ταχυδρομικός κώδικας ενός ατόμου μπορεί να επηρεάσει την ποιότητα της φροντίδας που λαμβάνει. Έχετε αγωνιστεί ενάντια σε οικονομικές δομές όπου τεράστιες κερδοσκοπικές απολαβές συγκεντρώνονται σε ένα μικρό σύνολο, ενώ όλοι οι άλλοι απορροφούν τα κόστη.

Η τεχνητή νοημοσύνη θα μπορούσε να επιδεινώσει καθένα από αυτά τα προβλήματα.

Θα μπορούσε να συγκεντρώσει ανυπέρβλητο πλούτο. Θα μπορούσε να εκτοπίσει εργαζόμενους χωρίς να μοιράζεται η αύξηση της παραγωγικότητας. Θα μπορούσε να επιτρέψει παρακολούθηση, χειραγώγηση και κυβερνοεπιθέσεις. Θα μπορούσε να τοποθετήσει εξαιρετική εξουσία στα χέρια ενός μικρού αριθμού εταιρειών.

Αυτοί οι κίνδυνοι δικαιολογούν ρυθμίσεις.

Αλλά η ΤΝ θα μπορούσε επίσης να μειώσει μία από τις πιο παλιές μορφές ανισότητας στην ανθρώπινη ιστορία: την ανισότητα πρόσβασης στην εξειδίκευση.

Ένας κόσμος όπου κάθε παιδί μπορεί να έχει πρόσβαση σε εξατομικευμένη διδασκαλία, κάθε γιατρός να μπορεί να επωφεληθεί από εξαιρετική αναλυτική υποστήριξη, κάθε επιστήμονας να μπορεί να ερευνήσει αιώνες ερευνητικών δεδομένων, και ασθένειες που αγνοούνται επειδή οι πληθυσμοί των ασθενών είναι πολύ μικροί να λαμβάνουν πολύ περισσότερη επιστημονική προσοχή, αξίζει επίσης να αγωνιστούμε.

Δεν πρέπει να επιλέγουμε μεταξύ αυτού του μέλλοντος και της ασφάλειας της ΤΝ.

Ο καλύτερος στόχος είναι να κάνουμε την ισχυρή ΤΝ δύσκολη στη κακή χρήση, δύσκολη στην απώλεια ελέγχου, αρκετά διαφανή για έλεγχο, ακριβή στην απερίσκεπτη υλοποίηση και ευρέως προσβάσιμη για κοινωνικά ωφέλιμους σκοπούς.

Απαγορεύστε τη συμπεριφορά που θέτει σε κίνδυνο την ανθρωπότητα. Αδειοδοτήστε τις επικίνδυνες δυνατότητες. Καταδικάστε την αμέλεια και τη δόλινη υλοποίηση. Απαιτήστε από τις εταιρείες να ενσωματώνουν το περιβαλλοντικό κόστος της υποδομής τους. Προστατέψτε τους εργαζόμενους. Δώστε στο κοινό ένα μερίδιο των οικονομικών κερδών. Και δημιουργήστε έναν ανεξάρτητο ρυθμιστή που μπορεί ακόμη και στις μεγαλύτερες τεχνολογικές εταιρείες του κόσμου να πει «όχι».

Αλλά παρακαλώ, μην ορίσετε την απαγορευόμενη νοημοσύνη τόσο ευρέως ώστε η αντιστοίχιση ανθρώπινης γνωστικής ικανότητας σε πολλούς τομείς να γίνει, από μόνη της, αδίκημα.

Η ζωή σας έχει επικεντρωθεί στην επέκταση της πρόσβασης σε πράγματα που παλαιότερα ήταν προνόμια των προνομιούχων.

Η προχωρημένη τεχνητή νοημοσύνη θα μπορούσε να γίνει η μεγαλύτερη μηχανή συγκεντρωτικής εξουσίας που έχουμε ποτέ δημιουργήσει.

Ή θα μπορούσε να γίνει ένα από τα μεγαλύτερα εργαλεία που έχουν δημιουργηθεί ποτέ για τη δημοκρατικοποίηση της γνώσης, της εκπαίδευσης, της ιατρικής και της επιστημονικής ικανότητας.

Η καλή νομοθεσία μπορεί να βοηθήσει να καθοριστεί ποιο μέλλον θα έχουμε.