Μπράντφορντ Νιούμαν, Πρόεδρος της Πρακτικής Εμπορικών Μυστικών της Βόρειας Αμερικής – Σειρά Συνεντεύξεων

Ο Μπράντφορντ Νιούμαν ειδικεύεται σε θέματα που αφορούν τα εμπορικά μυστικά και την Τεχνητή Νοημοσύνη. Είναι Πρόεδρος της Υποεπιτροπής Τεχνητής Νοημοσύνης του Αμερικανικού Νομικού Συλλόγου. Αναγνωρισμένος από το Daily Journal (DJCO ) το 2019 ως ένας από τους 20 καλύτερους δικηγόρους Τεχνητής Νοημοσύνης στην Καλιφόρνια, ο Μπράντφορντ Νιούμαν έχει παίξει καθοριστικό ρόλο στην πρόταση ομοσπονδιακής νομοθεσίας για την Τεχνητή Νοημοσύνη στον χώρο εργασίας και την πνευματική ιδιοκτησία, η οποία το 2018 μετατράπηκε σε einen Discussion Draft του Αμερικανικού Βουλή των Αντιπροσώπων. Έχει επίσης αναπτύξει τις καλύτερες πρακτικές για την επιτήρηση και την εταιρική διακυβέρνηση της Τεχνητής Νοημοσύνης, με στόχο να διασφαλιστεί η αλγοριθμική ισότητα.

Τι ήταν αυτό που αρχικά σας ενέπνευσε να ενδιαφερθείτε για την Τεχνητή Νοημοσύνη;

Έχω εκπροσωπήσει τους ηγέτες και τους παραγωγούς των προϊόντων και της τεχνολογίας της Τεχνητής Νοημοσύνης για πολλά χρόνια. Το ενδιαφέρον μου ήταν πάντα να κατανοήσω τις νομικές και τεχνικές πτυχές της μηχανικής μάθησης και να παρακολουθήσω την εξέλιξη της Τεχνητής Νοημοσύνης. Με fascinates τι είναι δυνατό για εφαρμογές σε διάφορους τομείς.

Είστε ένας έντονος υποστηρικτής της ρητής ρύθμισης της Τεχνητής Νοημοσύνης, ιδιαίτερα σε ρύθμιση που προστατεύει την δημόσια υγεία. Μπορείτε να συζητήσετε μερικά από τα κύρια προβλήματα που έχετε;

Πιστεύω ότι βρισκόμαστε στις αρχές μιας από τις πιο σημαντικές επαναστάσεις που έχει ζήσει η ανθρωπότητα. Η Τεχνητή Νοημοσύνη έχει τη δυνατότητα να επηρεάσει κάθε аспект της ζωής μας, από τη στιγμή που ξυπνάμε το πρωί μέχρι τη στιγμή που κοιμηθούμε — και επίσης, ενώ κοιμόμαστε. Πολλές από τις εφαρμογές της Τεχνητής Νοημοσύνης θα επηρεάσουν θετικά την ποιότητα της ζωής μας και πιθανώς τη μακροζωία του είδους μας.

Τώρα, από την πλευρά της πληροφορικής και της μηχανικής μάθησης, οι άνθρωποι είναι ακόμη πολύ εμπλεγμένοι στη διαδικασία, από την κωδικοποίηση των αλγορίθμων, στην κατανόηση των συνόλων δεδομένων, στη διεργασία των αποτελεσμάτων, στην αναγνώριση των ελαττωμάτων και στη δημιουργία της τεχνολογίας.

Αλλά είμαστε σε μια διεκδίκηση του χρόνου σε δύο κύριες πλευρές. Πρώτον, το λεγόμενο “πρόβλημα του μαύρου κουτιού”: η εμπλοκή και η κατανόηση της Τεχνητής Νοημοσύνης από τους ανθρώπους θα μειωθεί με τον καιρό, καθώς η Τεχνητή Νοημοσύνη εξελίσσεται. Και δεύτερον, η χρήση της Τεχνητής Νοημοσύνης από τις κυβερνήσεις και τα ιδιωτικά συμφέροντα θα αυξηθεί.

Το πρόβλημά μου είναι ότι η Τεχνητή Νοημοσύνη θα χρησιμοποιηθεί, τόσο σκόπιμα όσο και ασκόπιμα, με τρόπους που είναι αντίθετοι με τις δυτικές δημοκρατικές ιδέες της ατομικής ελευθερίας και ελευθερίας.

Πώς μπορούμε να αντιμετωπίσουμε αυτά τα προβλήματα;

Η κοινωνία έχει φτάσει σε ένα σημείο όπου πρέπει να λύσουμε όχι τι είναι δυνατό με την Τεχνητή Νοημοσύνη, αλλά τι πρέπει να απαγορευτεί ή να περιοριστεί.

Πρώτον, πρέπει να προσδιορίσουμε συγκεκριμένα τις αποφάσεις που δεν μπορούν ποτέ να ληφθούν ολόκληρες ή εν μέρει από την αλγοριθμική έξοδο που παράγεται από την Τεχνητή Νοημοσύνη. Αυτό σημαίνει ότι ακόμη και σε καταστάσεις όπου κάθε εμπειρός συμφωνεί ότι τα δεδομένα είσοδος και έξοδος είναι完全 αμερόληπτα, διαφανή και ακριβή, πρέπει να υπάρχει μια νομική απαγόρευση για την उपयποίηση τους για οποιοδήποτε είδος προβλέψιμης ή ουσιαστικής λήψης αποφάσεων.

Αναγνωρίζω ότι αυτό είναι αντίθετο με τον κόσμο όπου επιδιώκουμε μαθηματική βεβαιότητα, αλλά η καθιέρωση μιας “ζώνης απαγόρευσης” για την Τεχνητή Νοημοσύνη είναι απαραίτητη για τη διατήρηση των ελευθεριών που όλες οι κοινωνίες θεωρούν ιερές και που αποτελούν την βάση της κοινωνίας μας.

Δεύτερον, για άλλες αποφάσεις που βασίζονται σε αναλύσεις της Τεχνητής Νοημοσύνης που δεν απαγορεύονται ρητά, χρειαζόμαστε νομοθεσία που να ορίζει σαφώς εκείνες στις οποίες πρέπει να εμπλακεί ένας άνθρωπος στη διαδικασία λήψης αποφάσεων.

Έχετε παίξει καθοριστικό ρόλο στην πρόταση ομοσπονδιακής νομοθεσίας για την Τεχνητή Νοημοσύνη στον χώρο εργασίας και την πνευματική ιδιοκτησία, η οποία το 2018 μετατράπηκε σε einen Discussion Draft του Αμερικανικού Βουλή των Αντιπροσώπων. Μπορείτε να συζητήσετε μερικά από αυτά τα προτεινόμενα;

Ο Νόμος Προστασίας Δεδομένων της Τεχνητής Νοημοσύνης έχει ως στόχο να προωθήσει την καινοτομία και να σχεδιαστεί για (1) την αύξηση της διαφάνειας στη φύση και τη χρήση της Τεχνητής Νοημοσύνης και να χτίσει την εμπιστοσύνη του κοινού στην Τεχνητή Νοημοσύνη, (2) να αντιμετωπίσει την επίδραση της Τεχνητής Νοημοσύνης στην αγορά εργασίας και (3) να προστατεύσει την δημόσια υγεία και ασφάλεια.

Έχει πολλά βασικά στοιχεία. Για παράδειγμα, απαγορεύει την αποκλειστική εξάρτηση των εταιρειών από την Τεχνητή Νοημοσύνη για την λήψη ορισμένων αποφάσεων, συμπεριλαμβανομένης μιας απόφασης σχετικά με την απασχόληση ατόμων ή την απόρριψη ή τον περιορισμό της ιατρικής θεραπείας, και απαγορεύει στους ασφαλιστές να λαμβάνουν αποφάσεις σχετικά με την κάλυψη μιας ιατρικής θεραπείας αποκλειστικά με βάση τις αναλύσεις της Τεχνητής Νοημοσύνης. Επίσης, ιδρύει το Συμβούλιο Τεχνητής Νοημοσύνης — một νέα ομοσπονδιακή υπηρεσία που έχει συγκεκριμένες ευθύνες για τη ρύθμιση της Τεχνητής Νοημοσύνης όσον αφορά την δημόσια υγεία και ασφάλεια. Και απαιτεί από τις εταιρείες να διορίσουν einen Chief Artificial Intelligence Officer.

Έχετε επίσης αναπτύξει τις καλύτερες πρακτικές για την επιτήρηση και την εταιρική διακυβέρνηση της Τεχνητής Νοημοσύνης, με στόχο να διασφαλιστεί η αλγοριθμική ισότητα. Μπορείτε να συζητήσετε μερικά από τα τρέχοντα ζητήματα που βλέπετε σχετικά με την ισότητα ή την προκατάληψη στα συστήματα Τεχνητής Νοημοσύνης;

Αυτό το θέμα έχει sido το επίκεντρο της έρευνας από ακαδημαϊκούς και τώρα λαμβάνει το ενδιαφέρον των αμερικανικών κυβερνητικών υπηρεσιών, όπως η Equal Employment Opportunity Commission (EEOC), και του δικηγορικού σώματος. Τα περισσότερα από τα προβλήματα οφείλονται είτε σε ελαττώματα στα συνόλα δεδομένων είτε στην έλλειψη κατανόησης και διαφάνειας στο περιβάλλον δοκιμών. Αυτό ενισχύεται από την έλλειψη κεντρικής ιδιοκτησίας και επιτήρησης της Τεχνητής Νοημοσύνης από την ανώτατη διοίκηση.

Αυτή η έλλειψη τεχνικής κατανόησης και επιτήρησης είναι ένα σημαντικό ζήτημα ευθύνης. Έχω μιλήσει με几个 προεξέχοντες δικηγόρους που είναι στην αναζήτηση περιπτώσεων προκατάληψης της Τεχνητής Νοημοσύνης.

Η βαθιά μάθηση συχνά πλήττεται από το πρόβλημα του “μαύρου κουτιού”, όπου εισάγουμε δεδομένα σε ένα Artificial Neural Network (ANN) και λαμβάνουμε μια έξοδο, χωρίς να γνωρίζουμε πώς παράχθηκε αυτή η έξοδος. Πιστεύετε ότι αυτό είναι ένα σημαντικό πρόβλημα;

Ναι. Και καθώς οι αλγόριθμοι και τα νευρωνικά δίκτυα εξελίσσονται, και οι άνθρωποι δεν είναι πλέον “στην πηγή”, υπάρχει πραγματικός κίνδυνος να ξεπεράσουμε το σημείο όπου δεν θα μπορούμε πλέον να κατανοήσουμε κρίσιμα στοιχεία της λειτουργίας και της έξοδου.

Με τον COVID-19, οι χώρες σε όλο τον κόσμο έχουν εισαγάγει συστήματα επιτήρησης του κράτους που βασίζονται στην Τεχνητή Νοημοσύνη. Πόσο προβληματικό είναι αυτό για σας;

Είναι αφελές και, στην πραγματικότητα, ανεύθυνο από την πλευρά των ατομικών δικαιωμάτων και της ελευθερίας, να αγνοήσουμε ή να υποτιμήσουμε τον κίνδυνο της κακοποίησης. Ενώ η ανίχνευση επαφών φαίνεται σοφία στη μέση μιας πανδημίας, και η αναγνώριση προσώπου με βάση την Τεχνητή Νοημοσύνη παρέχει einen αποτελεσματικό μέτρο για να κάνει αυτό που οι άνθρωποι δεν θα μπορούσαν να επιτύχουν μόνοι τους, η κοινωνία πρέπει να θεσπίσει νομικές απαγορεύσεις για την κακοποίηση μαζί με αποτελεσματικά μέτρα επιτήρησης και εφαρμογής. Διαφορετικά, παραδίδουμε στον κράτος einen βασικό στοιχείο των ατομικών μας θεμελιωδών δικαιωμάτων. Μόλις δοθεί μαζικά, αυτό το βασικό στοιχείο της ελευθερίας και της ιδιωτικής ζωής μας δεν θα επιστρέψει.

Προηγουμένως δήλωσατε ότι “Πρέπει να καθιερώσουμε μια ζώνη απαγόρευσης για την Τεχνητή Νοημοσύνη, αν θέλουμε να διατηρήσουμε τις ελευθερίες που όλοι οι Αμερικανοί θεωρούν ιερές και που αποτελούν την βάση της κοινωνίας μας.” Μπορείτε να μοιραστείτε μερικά από αυτά τα προβλήματα που έχετε;

Όταν συζητάμε για την Τεχνητή Νοημοσύνη, πρέπει πάντα να επικεντρωθούμε στο βασικό σκοπό της: να παράγει ακριβείς προβλέψιμες αναλύσεις από rất μεγάλες συνόλα δεδομένων, οι οποίες στη συνέχεια χρησιμοποιούνται για να ταξινομήσουν τους ανθρώπους και να ληφθούν αποφάσεις. Επόμενο, πρέπει να εξετάσουμε ποιους είναι οι λήπτες αποφάσεων, τι αποφασίζουν και με βάση τι αποφασίζουν.

Αν κατανοήσουμε ότι οι λήπτες αποφάσεων είναι εκείνοι με την μεγαλύτερη επίδραση στην υγεία, την εργασία και τις ελευθερίες μας — εργοδότες, ιδιοκτήτες, γιατροί, ασφαλιστές, αστυνομία και κάθε άλλη ιδιωτική, εμπορική και κυβερνητική επιχείρηση που μπορεί να παράγει, συλλέγει ή αγοράζει αναλύσεις της Τεχνητής Νοημοσύνης — γίνεται εύκολο να δούμε ότι σε μια δυτική δημοκρατία, αντίθετα με ένα тоталιταριανό καθεστώς, υπάρχουν αποφάσεις που δεν πρέπει και δεν πρέπει να αφήνονται αποκλειστικά στην Τεχνητή Νοημοσύνη.

Ενώ πολλές φανερές αποφάσεις έρχονται στο μυαλό, όπως η απαγόρευση της φυλάκισης κάποιου πριν από την τέλεση ενός εγκλήματος, η ευρεία υιοθέτηση της Τεχνητής Νοημοσύνης σε κάθε аспект της ζωής μας παρουσιάζει πολλά περισσότερα προβληματικά παραδείγματα ηθικών γκρίζων. Για παράδειγμα, αν ένας αλγόριθμος προβλέπει ότι οι εργαζόμενοι που ανεβάζουν φωτογραφίες σε κοινωνικά δίκτυα από τις διακοπές τους στην παραλία, όπου πίνουν αλκοόλ, εγκαταλείπουν ή απολύονται από τις δουλειές τους κατά μέσο όρο 3,5 χρόνια νωρίτερα από εκείνους που ανεβάζουν φωτογραφίες από το γυμναστήριο, πρέπει να απορριφθεί η προαγωγή ή η αύξηση του πρώτου κατηγορίας με βάση μόνο την αλγοριθμική έξοδο; Αν ένας αλγόριθμος καθορίζει ότι οι έφηβοι που παίζουν βιντεοπαιχνίδια κατά μέσο όρο περισσότερο από 2 ώρες την ημέρα είναι λιγότερο πιθανό να αποφοιτήσουν από ένα τετραετές πανεπιστήμιο, πρέπει να απορριφθεί η εισαγωγή τους; Αν οι Ασιάτισσες γυναίκες στις ηλικίες των 60 τους, που εισάγονται στο ΜΚΟ για συμπτώματα COVID-19, έχουν υψηλότερο ποσοστό επιβίωσης από τους Αφροαμερικανούς άνδρες στις ηλικίες των 70, πρέπει να λάβουν προτιμητική ιατρική θεραπεία;

Αυτά τα απλοποιημένα παραδείγματα είναι μόνο quelques από τα πολλά παραδείγματα αποφάσεων όπου η εξάρτηση από την Τεχνητή Νοημοσύνη μόνο αντιβαίνει τις απόψεις μας για τα ατομικά ανθρώπινα δικαιώματα.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε σχετικά με την Τεχνητή Νοημοσύνη ή το Baker McKenzie;

Είμαι εξαιρετικά ενεργοποιημένος για να βοηθήσω στην ηγεσία της πραγματικά διεθνούς πρακτικής της Τεχνητής Νοημοσύνης του Baker McKenzie στη midst της εξελισσόμενης τοπίου. Αναγνωρίζουμε ότι οι πελάτες μας είναι πεινασμένοι για οδηγίες σε όλα τα θέματα της Τεχνητής Νοημοσύνης, από τη διαπραγμάτευση συμβάσεων, στην καθιέρωση εσωτερικής επιτήρησης, στην αποφυγή ισχυρισμών προκατάληψης, στην κατανόηση του εξελισσόμενου εθνικού και διεθνούς ρυθμιστικού πλαισίου.

Οι εταιρείες θέλουν να κάνουν το σωστό, αλλά υπάρχουν πολύ λίγες νομικές εταιρείες που έχουν την απαραίτητη εμπειρία και κατανόηση της Τεχνητής Νοημοσύνης και της μηχανικής μάθησης για να μπορέσουν να τις βοηθήσουν. Για εκείνους από εμάς που είμαστε και θαυμαστές της Τεχνητής Νοημοσύνης και δικηγόροι, αυτή είναι μια συναρπαστική εποχή για να προσφέρουμε πραγματική αξία στους πελάτες μας.

Ευχαριστούμε για τις φανταστικές απαντήσεις σχετικά με μερικά από αυτά τα σημαντικά κοινωνικά προβλήματα που αφορούν την Τεχνητή Νοημοσύνη. Οι αναγνώστες που επιθυμούν να μάθουν περισσότερα για τον Μπράντφορντ Νιούμαν μπορούν να κάνε κλικ εδώ.