Τα Αδύναμα Σημεία του Προσχέδιου Νομοσχεδίου της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη

Μια νέα νομική κριτική του προσχέδιου νομοσχεδίου της Ευρωπαϊκής Ένωσης για την τεχνητή νοημοσύνη καταθέτει μια ευρεία γκάμα κριτικών στις προτεινόμενες ρυθμίσεις που κυκλοφόρησαν τον Απρίλιο, καταλήγοντας στο συμπέρασμα ότι ένα μεγάλο μέρος του εγγράφου είναι «ραμμένο» από σπάνια εφαρμόσιμες κανονιστικές ρυθμίσεις της δεκαετίας του 1980· ότι στην πραγματικότητα προάγει ένα ακαδημαϊκό περιβάλλον τεχνητής νοημοσύνης στην Ευρώπη, αντί να φέρει τον κλάδο υπό συνεκτική ρύθμιση· και – μεταξύ einer σειράς άλλων κριτικών – ότι οι προτάσεις χαρτογραφούν ένα μελλοντικό ρυθμιστικό πλαίσιο τεχνητής νοημοσύνης που έχει «λιγότερη σημασία και επίδραση».

Με τίτλο Απομυθοποίηση του Προσχέδιου Νομοσχεδίου της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη, το πρόχειρο είναι μια συνεργασία ερευνητών από το UCL Λονδίνο και το Πανεπιστήμιο Radboud στο Νίμεγκεν.

Το έγγραφο προσθέτει σε μια αυξανόμενη σώμα αρνητικών απόψεων για την προτεινόμενη εφαρμογή (αντί του πολύ θαυμασμένου σκοπού) ενός ρυθμιστικού πλαισίου τεχνητής νοημοσύνης, συμπεριλαμβανομένης της άποψης τον Απρίλιο ενός από τους συντάκτες του προσχέδιου κανονιστικής ρύθμισης ότι οι προτεινόμενες οδηγίες είναι «χλιαρές, στενόμυαλες και σκόπιμα ασαφείς», που χαρακτηρίζουν το έγγραφο της Ευρωπαϊκής Επιτροπής ως υποστηρικτή της «ψευδούς ηθικής».

Μανιπουλατικές Συστήματα Τεχνητής Νοημοσύνης

Το νέο έγγραφο υποστηρίζει ότι οι προτεινόμενες περιορισμοί του νομοσχεδίου για τα «μανιπουλατικά συστήματα» είναι ελαττωματικοί λόγω μιας ασαφούς και ακόμη και αντίθετης ορισμού του «βλάβης», σχολιάζοντας ότι «[ένας] σκεπτικιστής μπορεί να πιστεύει ότι η Επιτροπή ενδιαφέρεται περισσότερο για την ρητορική αξία των απαγορεύσεων παρά για την πρακτική τους επίδραση».

Οι προσχέδιο κανονιστικών ρυθμίσεων περιγράφουν δύο υποτιθέμενες απαγορευμένες πρακτικές:

(α) η τοποθέτηση στην αγορά, η θέση σε λειτουργία ή η χρήση ενός συστήματος τεχνητής νοημοσύνης που χρησιμοποιεί υποliminal τεχνικές πέρα από την συνείδηση ενός ατόμου, προκειμένου να διαστρεβλώσει ουσιωδώς τη συμπεριφορά ενός ατόμου με τρόπο που προκαλεί ή πιθανόν να προκαλέσει σε αυτό το άτομο ή άλλο άτομο σωματική ή ψυχολογική βλάβη·

(β) η τοποθέτηση στην αγορά, η θέση σε λειτουργία ή η χρήση ενός συστήματος τεχνητής νοημοσύνης που εκμεταλλεύεται οποιαδήποτε από τις αδυναμίες ενός συγκεκριμένου ομάδας ατόμων λόγω της ηλικίας, σωματικής ή ψυχολογικής αναπηρίας, προκειμένου να διαστρεβλώσει τη συμπεριφορά ενός ατόμου που ανήκει σε αυτήν την ομάδα με τρόπο που προκαλεί ή πιθανόν να προκαλέσει σε αυτό το άτομο ή άλλο άτομο σωματική ή ψυχολογική βλάβη;

Οι ερευνητές υποστηρίζουν ότι αυτοί οι περιορισμοί δεν αντιμετωπίζουν το εάν οι υπηρεσίες ή το λογισμικό ενός παρόχου τεχνητής νοημοσύνης είναι επιτυχημένα στην προώθηση των δικών τους στόχων, αλλά μόνο εάν ο τελικός χρήστης υποφέρει «βλάβη» κατά τη διαδικασία. Προσθέτουν ότι ο ορισμός της βλάβης στο πρόχειρο είναι θανασίμως περιορισμένος σε ατομικούς χρήστες, αντί του είδους της συλλογικής ή κοινωνικής βλάβης που μπορεί να συναχθεί合理 από μια σειρά από συστήματα τεχνητής νοημοσύνης των τελευταίων ετών, όπως η υπόθεση Cambridge Analytica.

Το έγγραφο παρατηρεί ότι «Στην πραγματική ζωή, η βλάβη μπορεί να συσσωρευτεί χωρίς ένα μόνο γεγονός να ξεπεράσει ένα όριο σοβαρότητας, αφήνοντας το δύσκολο να αποδειχθεί».

Βλαβερά Συστήματα Τεχνητής Νοημοσύνης Επιτρέπονται, αλλά όχι για Κατανάλωση στην ΕΕ

Το νομοσχέδιο για την τεχνητή νοημοσύνη προτείνει να εφαρμόσει απαγόρευση σε «πραγματικό χρόνο» βιομετρικά συστήματα σε δημόσιους χώρους από τις αρχές επιβολής του νόμου. Αν και κάποια δημόσια σκεπτικισμός έχει στρεφθεί στις εξαιρέσεις που κάνουν οι προτάσεις για αντι-τρομοκρατία, παιδική तसIMO και την επιδίωξη ενός ευρωπαϊκού εντάλματος σύλληψης, οι ερευνητές σημειώνουν επίσης ότι τίποτα δεν θα εμπόδιζε τους προμηθευτές να πουλήσουν αντίθετα βιομετρικά συστήματα σε καταπιεστικές καθεστώτα.

Το έγγραφο παρατηρεί ότι αυτό είναι ήδη ιστορική πρακτική, όπως αποκαλύφθηκε σε μια έκθεση του 2020 από την Amnesty International.

Λέει επίσης ότι η ορισμός του νομοσχεδίου για τα «πραγματικό χρόνο» βιομετρικά συστήματα είναι αυθαίρετος και εξαιρεί τα off-line αναλυτικά συστήματα, όπως η μεταγενέστερη επεξεργασία βίντεο από γεγονότα διαμαρτυρίας.

Επιπλέον, σημειώνεται ότι οι προτάσεις δεν προσφέρουν κανένα μηχανισμό για να περιοριστούν τα βιομετρικά συστήματα που δεν σχετίζονται με τις αρχές επιβολής του νόμου, τα οποία αντίθετα ανατίθενται με λασπερότητα στην GDPR· και ότι η GDPR herself «θέτει einen απαίτηση υψηλής ποιότητας, ατομικής συναίνεσης για κάθε σκαναρισμένο άτομο, η οποία είναι αποτελεσματικά αδύνατο να εκπληρωθεί».

Η ορολογία αυτής της ενότητας του νομοσχεδίου για την τεχνητή νοημοσύνη επίσης έρχεται σε κριτική από τους ερευνητές. Το πρόχειρο ορίζει ότι θα απαιτείται προ-εξουσιοδότηση για την ανάπτυξη βιομετρικών συστημάτων για τις αρχές επιβολής του νόμου «ατομική χρήση» τέτοιων συστημάτων – αλλά δεν διευκρινίζει τι σημαίνει «ατομική χρήση» σε αυτό το контέκστο. Το έγγραφο σημειώνει ότι οι αμφισβητούμενες εντάλματα μπορεί να είναι θεματικά, και να σχετίζονται με ευρείες οργανώσεις, σκοπούς και τόπους.

Επιπλέον, το πρόχειρο κανονιστικών ρυθμίσεων δεν ορίζει κανένα μηχανισμό διαφάνειας για τον αριθμό και τον τύπο των εξουσιοδοτήσεων που εκδίδονται, καθιστώντας τη δημόσια εποπτεία προβληματική.

Εξαγωγή Ρυθμίσεων σε ‘Εναρμονισμένες Προδιαγραφές’

Η έρευνα αναφέρει ότι τα πιο σημαντικά οντότητες στο νομοσχέδιο για την τεχνητή νοημοσύνη είναι στην πραγματικότητα δεν αναφέρονται ούτε μια φορά στο πρόχειρο κανονιστικών ρυθμίσεων: CEN (Ευρωπαϊκή Επιτροπή για την Τυποποίηση) και CENELEC (Ευρωπαϊκή Επιτροπή για την Ηλεκτροτεχνική Τυποποίηση) – δύο από τις τρεις Ευρωπαϊκές Οργανώσεις Τυποποίησης (ESOs) που η Ευρωπαϊκή Επιτροπή μπορεί να εντολήσει να διαμορφώσουν εναρμονισμένες προδιαγραφές, οι οποίες σε πολλές περιπτώσεις θα παραμείνουν τα κυρίαρχα ρυθμιστικά πλαισιά για certains τύπους υπηρεσιών και αναπτύξεων τεχνητής νοημοσύνης.

Αυτό σημαίνει στην πραγματικότητα ότι οι παραγωγοί τεχνητής νοημοσύνης μπορούν να επιλέξουν να ακολουθήσουν τις προδιαγραφές των ανταγωνιστικών αντί των συμπληρωματικών κανονιστικών ρυθμίσεων, αντί να ικανοποιούν τις απαραίτητες απαιτήσεις που περιγράφονται στο νομοσχέδιο για την τεχνητή νοημοσύνη. Αυτό επιτρέπει στους παρόχους να ερμηνεύσουν πιο χαλαρά τις προτεινόμενες ρυθμίσεις όταν θα τεθούν σε ισχύ το 2024-5.

Οι ερευνητές του εγγράφου υποστηρίζουν επίσης ότι τα μεσολαβικά χρόνια της βιομηχανικής λόμπυ giữa τα σώματα τυποποίησης είναι πιθανό να ανασχεδιάσουν αυτές τις «απαραίτητες προδιαγραφές» σημαντικά, και προτείνουν ότι «ιδεώδεις» ρυθμίσεις θα πρέπει να αρχίσουν από ένα υψηλότερο επίπεδο ηθικής και νομικής σαφήνειας, αν και μόνο για να λογαριαστούν για αυτήν την αναπόφευκτη διαδικασία της φθοράς.

Νομιμοποίηση της Πλάνης των Συστημάτων Αναγνώρισης Συναισθημάτων

Το νομοσχέδιο για την τεχνητή νοημοσύνη περιλαμβάνει διατάξεις κατά της ανάπτυξης συστημάτων αναγνώρισης και κατηγοριοποίησης συναισθημάτων – πλαισίων που μπορεί να μην αναγνωρίζουν απαραίτητα ένα άτομο, αλλά να ισχυρίζονται ότι κατανοούν τι αισθάνονται ή να μπορούν να τα κατηγοριοποιήσουν με βάση το φύλο, την εθνικότητα και διάφορα άλλα οικονομικά και κοινωνικά σημεία.

Οι ερευνητές υποστηρίζουν ότι αυτή η διάταξη είναι άχρηστη,既然 η GDPR ήδη υποχρεώνει τους παρόχους τέτοιων συστημάτων να παρέχουν στους χρήστες σαφείς πληροφορίες για τη χρήση τέτοιων συστημάτων, ώστε οι χρήστες να possono opt out (που μπορεί να περιλαμβάνει τη μη χρήση μιας online υπηρεσίας ή τη μη είσοδο σε μια περιοχή όπου τέτοια συστήματα ανακοινώνονται να υπάρχουν).

Περισσότερο σημαντικά, το έγγραφο ισχυρίζεται ότι αυτή η διάταξη νομιμοποιεί μια αποψευδμένη τεχνολογία, και συνεχίζει να χαρακτηρίζει FACS-style συστήματα αναγνώρισης συναισθημάτων υπό το φως της αισχρής ιστορίας της φренологии και άλλων近-σαμανιστικών προσεγγίσεων για την κοινωνική κατηγοριοποίηση από την πρώιμη βιομηχανική εποχή.

‘Αυτοί που ισχυρίζονται ότι ανιχνεύουν συναισθήματα χρησιμοποιούν απλοποιημένα, αμφισβητούμενα ταξινόμηση· λανθασμένα υποθέτουν την καθολικότητα σε διαφορετικές κουλτούρες και συνθήκες· και κινδυνεύουν να «[πάρουν] μας πίσω στο φренологичесικό παρελθόν» της ανάλυσης χαρακτηριστικών από προσώπια. Οι διατάξεις του νομοσχεδίου για την αναγνώριση συναισθημάτων και τη βιομετρική κατηγοριοποίηση φαίνονται ανεπαρκείς για να μετριάσουν τους κινδύνους.’

Μια Πολύ Μόδητη Πρόταση

Εκτός από αυτά, οι ερευνητές αντιμετωπίζουν άλλες ανεπαρκούς στο νομοσχέδιο για την τεχνητή νοημοσύνη σε σχέση με τη ρύθμιση των deepfakes, την έλλειψη εποπτείας για τις εκπομπές διοξειδίου του άνθρακα των συστημάτων τεχνητής νοημοσύνης, τη διπλή ρυθμιστική εποπτεία με άλλα πλαισιά, και την ανεπαρκή ορισμό των δικονομικών οντοτήτων.

Παρακαλούν τους νομοθέτες και τους πολιτικούς ακτιβιστές να λάβουν δράση για να διορθώσουν τα προβλήματα που έχουν αναγνωριστεί, και σημειώνουν επίσης ότι ακόμη και η εκτεταμένη ανάλυση του προσχέδιου κανονιστικών ρυθμίσεων έχει πρέπει να παραλείψει πολλά άλλα θέματα, λόγω έλλειψης χώρου.

Παρά ταύτα, το έγγραφο επαινεί την προσπάθεια του νομοσχεδίου να εισαγάγει ένα σύστημα οριζόντιων ρυθμίσεων για τα συστήματα τεχνητής νοημοσύνης, αναφέροντας τα πολλά «λογικά στοιχεία», όπως η δημιουργία μιας ιεραρχίας επιπέδων αξιολόγησης κινδύνων, η δέσμευση για την εισαγωγή απαγορεύσεων, και η πρόταση για μια δημόσια βάση δεδομένων συστημάτων στα οποία οι πωλητές θα πρέπει να συμβάλλουν για να κερδίσουν ευρωπαϊκή νομιμότητα, αν και σημειώνουν τις νομικές δυσκολίες που αυτή η τελευταία απαίτηση είναι πιθανό να προκαλέσει.