Η ΕΕ να Εκδώσει τον Πρώτο Κανονισμό για την Τεχνητή Νοημοσύνη

Στις 21 Απριλίου, η Ευρωπαϊκή Ένωση θα ανακοινώσει το πρώτο κανονιστικό πλαίσιο που διέπει τη χρήση της τεχνητής νοημοσύνης. Οι νέες κανονιστικές προδιαγραφές θα απαγορεύσουν εντελώς τα συστήματα μηχανικής μάθησης “υψηλού κινδύνου” και θα εισαγάγουν ελάχιστες προδιαγραφές για άλλες τεχνολογίες μηχανικής μάθησης, επιβάλλοντας πρόστιμα 20 εκατομμυρίων ευρώ ή 4% του κύκλου εργασιών της εταιρείας για παραβάσεις.

Ένα προσχέδιο της νέας νομοθεσίας, που απέκτησε η Politico, θα ζητήσει να προωθήσει την καινοτομία και την ανάπτυξη συστημάτων τεχνητής νοημοσύνης για το γενικό όφελος της οικονομίας και της κοινωνίας της ΕΕ, σε τομείς όπως η παραγωγή, η βελτίωση της ενεργειακής απόδοσης και η μοντελοποίηση της κλιματικής αλλαγής, αλλά θα απαγορεύσει τη χρήση της μηχανικής μάθησης σε συστήματα αξιολόγησης πιστωτικής αξιολόγησης, αυτοματοποιημένης αξιολόγησης ποινικών προτάσεων και αξιολόγησης της καταλληλότητας για κοινωνικές επιδοτήσεις και αιτήσεις ασύλου ή βίζας, μεταξύ άλλων απαγορεύσεων που θα ανακοινωθούν αργότερα.

Το προσχέδιο αναφέρει ρητά ότι κινεζικού τύπου συστήματα κοινωνικής αξιολόγησης για άτομα και εταιρείες είναι αντίθετα με τις αξίες της Ευρωπαϊκής Ένωσης και θα απαγορευτούν με τον κανονισμό, μαζί με τεχνολογίες “μαζικής επιτήρησης” που τροφοδοτούνται από την τεχνητή νοημοσύνη.

Επιβλέπουσα Εποπτεία

Μετά τη διορισμό μιας उच्च επιπέδου ομάδας εμπειρογνωμόνων για την τεχνητή νοημοσύνη τον Μάρτιο του 2021, η ΕΕ επίσης σκοπεύει να ιδρύσει μια νέα Ευρωπαϊκή Επιτροπή Τεχνητής Νοημοσύνης, με κάθε κράτος μέλος να αντιπροσωπεύεται, μαζί με einen εκπρόσωπο της Ευρωπαϊκής Επιτροπής και της αρχής προστασίας δεδομένων της ΕΕ.

Πιθανώς η πιο ριζοσπαστική και потенτικά αμφιλεγόμενος διορισμός στο προσχέδιο είναι ότι απαγορεύει τα συστήματα που προκαλούν ζημιά στους πληθυσμούς της ΕΕ με “τη χειραγώγηση της συμπεριφοράς, των απόψεων ή των αποφάσεων”, το οποίο θα μπορούσε να περιλαμβάνει πολλές τεχνολογίες που τροφοδοτούν την ανάλυση της εμπορικής και πολιτικής διαφήμισης.

Οι κανονισμοί θα κάνουν εξαιρέσεις για την καταπολέμηση της σοβαρής εγκληματικότητας, επιτρέποντας τις προκαθορισμένες αναπτύξεις συστημάτων αναγνώρισης προσώπου, εντός ορίων εμβέλειας και διάρκειας χρήσης.

Όπως και με την ευρεία εμβέλεια του GDPR, φαίνεται ότι αυτοί οι νέοι κανονισμοί μπορεί να είναι αρκετά γενικοί ώστε να προκαλέσουν ένα “ψυχολογικό αποτρόπαιο” σε περιοχές όπου δεν existουν σαφείς οδηγίες για τη χρήση της τεχνητής νοημοσύνης, με τις εταιρείες να κινδυνεύουν με έκθεση όπου η χρήση της μηχανικής μάθησης πέφτει σε μια πιθανή γκρίζα ζώνη εντός των κανονισμών.

Συμπεριφορά Υπό τους Νέους Κανονισμούς Τεχνητής Νοημοσύνης της ΕΕ

Ωστόσο, το μεγαλύτερο πρόβλημα και πιθανό νομικό αδιέξοδο έρχεται με τη μορφή της προδιαγραφής του προσχέδιου ότι τα συνόλα δεδομένων δεν πρέπει “να ενσωματώνουν οποιαδήποτε εσκεμμένη ή ακούσια προκατάληψη” που μπορεί να διευκολύνει την διάκριση.

Προκατάληψη δεδομένων είναι ένα από τα πιο δύσκολα ζητήματα στην ανάπτυξη συστημάτων μηχανικής μάθησης – δύσκολο να αποδειχθεί, δύσκολο να αντιμετωπιστεί, και βαθιά συνδεδεμένο με τις κεντρικές κουλτούρες των σωμάτων συλλογής δεδομένων. Το ζήτημα τοποθετεί ολοένα και περισσότερο ιδιωτικές και κρατικές ερευνητικές εταιρείες σε μια αντίφαση μεταξύ της ανάγκης να αντιπροσωπεύουν ακριβώς διαφορετικές ομάδες (πρακτικά το ιδρυτικό αντικείμενο των μαθηματικών και της εμπειρικής στατιστικής ανάλυσης) και του πιθανού να προωθήσουν τη φυλετική προφίλωση και την πολιτιστική δαιμονοποίηση, μεταξύ άλλων.

Επομένως, είναι πιθανό ότι οι μη-Ευρωπαϊκές αγορές θα ελπίζουν ότι ο νέος κανονισμός θα παρέχει τουλάχιστον κάποιες συγκεκριμένες περιοχές οδηγιών και ένα εύρος εφαρμοστέων ορισμών σε αυτό το ζήτημα.

Εξωτερική Αντίσταση στον Κανονισμό Τεχνητής Νοημοσύνης της ΕΕ

Ο νέος κανονισμός πιθανό να έχει einen βαθύ αντίκτυπο στις νομικές επιπτώσεις της χρήσης της μηχανικής μάθησης για την ανάλυση δεδομένων που αντιμετωπίζουν το κοινό – καθώς και στα δεδομένα που θα εξακολουθούν να είναι δυνατό να εξαχθούν από τους χρήστες του ιντερνέτ στην εποχή που εισάγεται από την Apple, Firefox και (σε μικρότερο βαθμό), Chrome.

Η δικαιοδοσία μπορεί να χρειαστεί να οριστεί σαφώς, για παράδειγμα σε περιπτώσεις όπου οι γίγαντες FAANG συλλέγουν δεδομένα χρηστών σύμφωνα με το GDPR, αλλά επεξεργάζονται αυτά τα δεδομένα μέσω συστημάτων μηχανικής μάθησης εκτός της Ευρωπαϊκής Ένωσης. Δεν είναι σαφές αν οι αλγόριθμοι που προέρχονται από τέτοια συστήματα θα μπορούσαν να εφαρμοστούν σε πλατφόρμες εντός της ΕΕ και ακόμη λιγότερο σαφές πώς μια τέτοια εφαρμογή θα μπορούσε να αποδειχθεί.

Στην περίπτωση της χρήσης της τεχνητής νοημοσύνης για την ενημέρωση αποφάσεων κράτησης και ποινής, μια αυξανόμενη τάση στις Ηνωμένες Πολιτείες, οι περιστασιακές πειραματισμοί της Βρετανίας σε αυτόν τον τομέα θα είχαν καλύπτει από τους νέους κανονισμούς εάν η χώρα δεν είχε εξέλθει από την Ευρωπαϊκή Ένωση.

Το 2020, ένα προσχέδιο μεμονοίας της Αμερικανικής Κυβέρνησης για τον κανονισμό της τεχνητής νοημοσύνης ανέφερε την αμερικανική περίπτωση για χαμηλούς κανονισμούς της τεχνητής νοημοσύνης, δηλώνοντας ότι ‘Οι ομοσπονδιακές υπηρεσίες πρέπει να αποφεύγουν τις κανονιστικές ή μη κανονιστικές ενέργειες που απαραίτητα εμποδίζουν την καινοτομία και την ανάπτυξη της τεχνητής νοημοσύνης’. Πιθανότατα, αυτή η στάση φαίνεται να θα επιβιώσει της διοίκησης Trump, υπό την οποία το προσχέδιο δημοσιεύθηκε, αλλά αντανακλά την επερχόμενη τριβή μεταξύ των ΗΠΑ και της ΕΕ μετά τον νέο κανονισμό.

Παρόμοια, το ‘Οδικό Χάρτη Τεχνητής Νοημοσύνης’ του Συμβουλίου Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου εκφράζει μεγάλη ενθουσιασμό για τα οικονομικά οφέλη της υιοθέτησης της τεχνητής νοημοσύνης, αλλά μια γενική ανησυχία ότι οι νέοι κανονισμοί δεν θα πρέπει να επιτρέπεται να εμποδίσουν αυτή την πρόοδο.

Ο Πρώτος Πραγματικός Νόμος για την Τεχνητή Νοημοσύνη

Η δέσμευση της ΕΕ σε μια νομική στάση για την τεχνητή νοημοσύνη είναι καινοτόμος. Τα τελευταία δέκα χρόνια χαρακτηρίστηκαν από einen χιονοθύελλα λευκών βιβλίων και προκαταρκτικών ευρημάτων και συστάσεων από κυβέρνεις σε όλο τον κόσμο, που επικεντρώνονται στις ηθικές της τεχνητής νοημοσύνης, με λίγους πραγματικούς νόμους να έχουν ψηφιστεί.

Γεωγραφική κατανομή των εκδοτών οδηγιών ηθικής τεχνητής νοημοσύνης ανά αριθμό εγγράφων, σε μια έρευνα από το 2019.  Ο μεγαλύτερος αριθμός οδηγιών ηθικής εκδόθηκε στις Ηνωμένες Πολιτείες και στην Ευρωπαϊκή Ένωση, ακολουθούμενος από το Ηνωμένο Βασίλειο και την Ιαπωνία. Ο Καναδάς, η Ισλανδία, η Νορβηγία, τα Ηνωμένα Αραβικά Εμιράτα, η Ινδία, η Σιγκαπούρη, η Νότια Κορέα, η Αυστραλία αντιπροσωπεύονται με 1 έγγραφο το καθένα. Having contributed to a specific G7 statement, member states of G7 countries are highlighted separately. Source: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Επιπλέον Ανάγνωση

Εθνικές πολιτικές και στρατηγικές τεχνητής νοημοσύνης (OECD)