Ριντ Μπλάκμαν, Ph.D, Ιδρυτής και Διευθύνων Σύμβουλος της Virtue Consultants – Σειρά Συνεντεύξεων

Ριντ Μπλάκμαν είναι ο Ιδρυτής και Διευθύνων Σύμβουλος της Virtue Consultants. Σε αυτή τη δυνατότητα, έχει συνεργαστεί με εταιρείες για την ενσωμάτωση της ηθικής και της μείωσης του ηθικού κινδύνου στην εταιρική κουλτούρα και την ανάπτυξη, ανάπτυξη και απόκτηση προϊόντων τεχνολογίας. Είναι επίσης Ανώτερος Σύμβουλος στην Ernst & Young και συμμετέχει στο Συμβούλιο Επιχειρηματικής Ηθικής της εταιρείας, και είναι μέλος της Πρωτοβουλίας Ηθικής Σχεδίασης του IEEE.

Το έργο του Ριντ έχει παρουσιαστεί στο The Wall Street Journal και στο Dell Perspectives και έχει συνεισφέρει άρθρα στο The Harvard Business Review, TechCrunch, VentureBeat, και Risk & Compliance Magazine. Έχει αναφερθεί σε πολλά άρθρα ενημερώσεων, και μιλάει τακτικά σε διάφορα μέρη, συμπεριλαμβανομένου του Παγκόσμιου Οικονομικού Φόρουμ, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University, και AIG.

Ήταν καθηγητής Φιλοσοφίας στο Πανεπιστήμιο Colgate από το 2009 έως το 2018. Σε ποιο σημείο ξεκινήσατε να ενσωματώνετε την ηθική της τεχνητής νοημοσύνης στις τάξεις σας;

Συχνά δίδασκα ένα μάθημα για τη Κοινωνική και Πολιτική Φιλοσοφία, όπου καλύπτω τον Μάρξ. Một από τις κεντρικές αξίες του Μάρξ είναι ότι ο καπιταλισμός θα δώσει τελικά τη θέση του στον κομμουνισμό, λόγω της μεγάλης αύξησης των “μέσων παραγωγής”. Σε άλλες λέξεις, ο καπιταλισμός ωθεί μεγαλύτερη και μεγαλύτερη αποτελεσματικότητα με το όνομα της ανταγωνιστικότητας και της ανοίγματος νέων αγορών, που σημαίνει αύξηση της δημιουργίας τεχνολογιών που μπορούν να παραγάγουν περισσότερα και περισσότερα σε μικρότερο και μικρότερο χρόνο. Ο Μάρξ προέβλεψε επίσης ότι αυτό θα οδηγήσει σε μια αύξηση του χρήματος στα χέρια των λίγων και θα ωθήσει περισσότερους και περισσότερους ανθρώπους στην φτώχεια, στο σημείο που οι καπιταλιστικές δομές θα ανατραπούν από μια επανάσταση που θα ηγηθεί από τις αυξανόμενες μάζες των φτωχών. Όλα αυτά οδηγούν σε μια συζήτηση γύρω από την ηθική της τεχνολογίας που αντικαθιστά την ανάγκη για ανθρώπινη εργασία, η οποία είναι ένα κεντρικό στοιχείο της ηθικής της τεχνητής νοημοσύνης.

Μικρή πλευρική ιστορία, αν σας ενδιαφέρει: Πίσω στο 2002, ήμουν μεταπτυχιακός φοιτητής που ηγήθηκε μιας συζήτησης για τον Μάρξ με προπτυχιακούς φοιτητές στο Πανεπιστήμιο Northwestern. Σε κάποιο σημείο, ένας φοιτητής ανέβηκε το χέρι του και είπε: “Τελικά δεν θα χρειαζόμαστε ανθρώπους για να κάνουμε καμία δουλειά.” Η τάξη ήταν μπερδεμένη. Εγώ ήμουν μπερδεμένος. Έτσι είπα: “Λοιπόν, ποιος θα κάνει τη δουλειά;” Απάντησε με έναν πολύ φυσικό τρόπο: “Ρομπότ.” Η τάξη έσπασε σε γέλια. Εγώ κατέστειλα το δικό μου γέλιο. Αλλά είναι πολύ φανερό ποιος είχε το τελευταίο γέλιο.

Το 2018, ξεκινήσατε την Virtue Consultants, μια εταιρεία ηθικής που ενδυναμώνει τους ηγέτες Δεδομένων και Τεχνητής Νοημοσύνης για την αναγνώριση και μείωση των ηθικών κινδύνων των προϊόντων τους. Τι σας ενέπνευσε να ξεκινήσετε αυτή την επιχειρηματική οδύσσεια;

Ζήλεια. Λίγο. Ξεκίνησα μια εταιρεία πυροτεχνημάτων όταν ήμουν μεταπτυχιακός φοιτητής, νομίζω γύρω στο 2003 ή 2004. Αυτό πήγε καλύτερα από ότι περίμενα, και η εταιρεία vẫn υπάρχει, αν και τώρα είμαι σύμβουλος και δεν αναλαμβάνω την ημερήσια λειτουργία. Εν πάση περιπτώσει, είναι σχετικό επειδή εξηγεί πώς ήμουν μέντορας σε startups στο πρόγραμμα επιχειρηματικότητας του Colgate (που ονομάζεται TIA, Thought Into Action, που διευθύνεται από δύο εξαιρετικούς VC, Andy Greenfield και Wills Hapworth, που διευθύνουν την TIA Ventures). Jako μέντορας, είδα φοιτητές που ξεκίνησαν συναρπαστικά προγράμματα καθώς προσπαθούσαν να κατανοήσουν πώς να ιδρύσουν και να κλιμακώσουν τις επιχειρήσεις τους και σκέφτηκα: “Θέλω αυτό!” Αλλά τι θα ήταν η νέα μου επιχείρηση; Έπρεπε να μιλήσει στην αγάπη μου για τη φιλοσοφία και την ηθική, και το πρώτο που είχε νόημα ήταν μια εταιρεία ηθικής. Δεν είδα την αγορά για τέτοιες υπηρεσίες εκείνη την εποχή, επειδή δεν υπήρχε, και έτσι περίμενα. Και τότε η Cambridge Analytica, το BLM και το #MeToo έγιναν εθνικά νέα, και ξαφνικά υπήρχε μια μεγαλύτερη ευαισθητοποίηση της ανάγκης.

Πόσο σημαντικό είναι για τις εταιρείες να εισαγάγουν μια Δήλωση Ηθικής Τεχνητής Νοημοσύνης;

Μια Δήλωση Ηθικής Τεχνητής Νοημοσύνης δεν είναι απαραίτητη, αλλά είναι ένα εξαιρετικά χρήσιμο εργαλείο για τη ρύθμιση των στόχων σας. Όταν εισαγάγετε ένα πρόγραμμα ηθικής τεχνητής νοημοσύνης στην εταιρεία σας, θέλετε να αναγνωρίσετε και να μετριάσετε και να διαχειριστείτε διάφορους ηθικούς, φήμης, ρυθμιστικών και νομικών κινδύνους. Αυτή είναι η основная λειτουργία του. Μια δήλωση ηθικής βοηθά στην артикуляση των πραγμάτων που θα μοιάζουν όταν έχετε την υποδομή, τη διαδικασία και τις πρακτικές στη θέση για να επιτύχετε αυτή τη λειτουργία. Όσο μια στρατηγική χρειάζεται ένα στόχο – που πάντα το κάνει – μια Δήλωση Ηθικής Τεχνητής Νοημοσύνης είναι ένας ωραίος τρόπος για να артикуляσει αυτούς τους στόχους, αν και δεν είναι ο único τρόπος.

Πώς μπορούν οι εταιρείες να διασφαλίσουν ότι η δήλωση ηθικής μεταφέρεται σε διαδικασία και πρακτική;
Μια δήλωση ηθικής είναι μόνο ένα μικρό βήμα στην σωστή κατεύθυνση. Αν θέλετε να συνεχίσετε, το επόμενο φυσικό βήμα είναι να κάνετε μια αξιολόγηση του πού βρίσκεστε σχετικά με τους στόχους που артикуляρονται σε αυτή τη δήλωση. Μόλις γνωρίσετε πού είναι οι μεγαλύτερες, πιο κινδυνεύουσες lacunes – δηλαδή, πού είναι πιο πιθανό να αποτύχετε να επιτύχετε τους στόχους σας – τότε μπορείτε να αρχίσετε να σχεδιάζετε τις λύσεις για να στενεύσετε αυτές τις lacunes. Ίσως είναι μια ηθική επιτροπή. Ίσως είναι μια διαδικασία due diligence κατά τη διάρκεια της ανάπτυξης του προϊόντος. Ίσως είναι να γίνει καλύτερος στο πώς χειρίζεστε τα δεδομένα σε μη-προϊοντικά τμήματα, όπως η μάρκετινγκ και η Ανθρώπινη Πόρος. Πιθανότατα είναι όλα αυτά και περισσότερα.

Τι λύσεις πρέπει να εφαρμόσουν οι εταιρείες για να αποφύγουν την προκατάληψη στο πραγματικό αλγόριθμο της τεχνητής νοημοσύνης;

Υπάρχουν πολλά τεχνικά εργαλεία εκεί έξω για την αναγνώριση της προκατάληψης, αλλά είναι περιορισμένα. Θα σας επιτρέψουν να συγκρίνετε τα αποτελέσματα του μοντέλου σας με δεκάδες ποσοτικά μέτρα που έχουν προσφερθεί στην ακαδημαϊκή βιβλιογραφία της ηθικής της μηχανικής μάθησης, αλλά πρέπει να باشید προσεκτικοί επειδή αυτά τα μέτρα δεν είναι αμοιβαία συμβατά. Έτσι, μια ουσιαστική, ηθική απόφαση πρέπει να ληφθεί: ποιο, αν υπάρχει, από αυτά τα μέτρα είναι το κατάλληλο σε αυτό το контέκστ;

Εκτός από τη χρήση ενός εργαλείου όπως αυτό, που συμπληρώνεται με έναν υπεύθυνο τρόπο για να απαντήσετε σε αυτό το ερώτημα, οι ομάδες προϊόντων θα πρέπει να σκεφτούν πού μπορεί να μπει η προκατάληψη πριν από την έναρξη της κατασκευής. Πώς μπορεί να περιοριστεί ή να αντικατοπτρισθεί στα σύνολα δεδομένων εκπαίδευσης; Πώς για την καθορισμό της αντικειμενικής συνάρτησης; Τι για την καθορισμό του ορίου; Υπάρχουν πολλά μέρη όπου μπορεί να μπει η προκατάληψη. Η προσπάθεια για την αναγνώριση και μείωση της προκατάληψης είναι απαραίτητη για την αναγνώριση και μείωση της προκατάληψης.

Οι εταιρείες της τεχνητής νοημοσύνης είναι γνωστές για το ότι κυριαρχούνται από λευκούς άνδρες που μπορεί να προγραμματίσουν ακούσια κάποιες προκαταλήψεις στο σύστημα της τεχνητής νοημοσύνης. Για να αποφύγουν αυτό, ποια χαρακτηριστικά πρέπει τα τμήματα ανθρώπινων πόρων να ψάξουν;

Είμαι υπέρ της μεγαλύτερης ευκαιρίας και της μεγαλύτερης ποικιλίας μεταξύ των μηχανικών και των ομάδων προϊόντων γενικά. Đó said, νομίζω ότι αυτό είναι ένα λάθος πρίσμα. Το основικό πρόβλημα όταν πρόκειται για προκατειλημμένα αλγόριθμα είναι όχι ότι κάποιος λευκός άντρας προγραμματίζει προκαταλήψεις στο κώδικα. Είναι ότι τα σύνολα δεδομένων εκπαίδευσης είναι προκατειλημμένα. Στην πραγματικότητα, μια πρόσφατη μελέτη στο Πανεπιστήμιο Κολούμπια – “Προκατειλημμένοι προγραμματιστές; Ή προκατειλημμένα δεδομένα; Ένα πεδινό πείραμα στην επιχειρησιακή ηθική της τεχνητής νοημοσύνης” – κατέληξε στο συμπέρασμα ότι “[ο]ι προγραμματιστές που κατανοούν τις τεχνικές οδηγίες μειώνουν επιτυχώς την προκατάληψη”, και ότι “[ο]ι προβλέψεις των αλγορίθμων από γυναικείους και μειονοτικούς προγραμματιστές δεν εμφανίζουν λιγότερη αλγορίθμικη προκατάληψη ή διακρίσεις”. Έτσι, ενώ τα τμήματα ανθρώπινων πόρων πρέπει να προσεχθούν τις διακρίσεις, δεν είναι καθόλου σαφές ότι οι στρατηγικές για τη μείωση των προκατειλημμένων εξόδων της τεχνητής νοημοσύνης πρέπει να εστιάσουν πρωτίστως – ή ακόμη και αποκλειστικά – στις αποφάσεις πρόσληψης σε σχέση με τις προσπάθειες για τη διακρίση.

Μπορείτε να συζητήσετε τι είναι η ηθική due diligence και γιατί οι εταιρείες πρέπει να την εφαρμόσουν;

Η ηθική due diligence είναι μια προσπάθεια να αναγνωρίσετε τους διάφορους ηθικούς κινδύνους που μπορούν να πραγματοποιηθούν με το προϊόν που δημιουργείτε, συμπεριλαμβανομένου του πώς αναπτύσσεται, πώς μπορεί να χρησιμοποιηθεί και να καταχραστεί, κ.λπ. Θέλετε να εστιάσετε στις ιδιότητες του προϊόντος – και αυτές που έχει και αυτές που δεν έχει – και τους τρόπους με τους οποίους μπορούν να οδηγήσουν, όταν αναπτύσσονται σε διάφορους контέκστ, σε ηθικές ατασθαλίες. Όταν γίνεται καλά, είναι μια συστηματική και εξαντλητική επιθεώρηση. Βέβαια, ενώ μπορείτε να προσπαθήσετε το καλύτερο σας για να κοιτάξετε γύρω από τη γωνία, υπάρχουν πιθανότατα κάποια πράγματα που θα χάσετε, και γι’ αυτό η συνεχής παρακολούθηση είναι σημαντική.

Όσον αφορά το γιατί οι εταιρείες πρέπει να την εφαρμόσουν: απλά πρέπει να σκεφτούν τους ηθικούς, φήμης, ρυθμιστικών και νομικών κινδύνους για το αν δεν το κάνουν. Σκεφτείτε την Optum στα νέα και υπό ρυθμιστική έρευνα για einen (αλήθεια) προκατειλημμένο αλγόριθμο που πρότεινε στους ιατρούς να δώσουν περισσότερη προσοχή στους λευκούς ασθενείς παρά στους μαύρους ασθενείς. Ή στη Goldman Sachs (GS ), υπό έρευνα για τα όρια πίστωσης για την Apple (AAPL ) Card, τα οποία (αλήθεια) διακρίνουν τις γυναίκες. Ή στο λογισμικό προσλήψεων της Amazon (AMZN ), το οποίο ακυρώθηκε λόγω ανησυχιών για προκατάληψη πριν από την ανάπτυξή του. Ή στην IBM, η οποία κατηγορείται από το Λος Άντζελες για την (αλήθεια) αθέμιτη χρήση δεδομένων που συλλέχθηκαν από την εφαρμογή Καιρού της. Ή στη Facebook (META ) …

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί σχετικά με την Virtue Consultants;

Η Virtue βοηθά τους ανώτερους ηγέτες να εφαρμόσουν την ηθική της τεχνητής νοημοσύνης στην πράξη, είτε αυτό σημαίνει να βοηθήσει στην εκπαίδευση και την ανάπτυξη των ανθρώπων στο θέμα, είτε να γράψει μια Δήλωση Ηθικής Τεχνητής Νοημοσύνης, είτε να δημιουργήσει και να εφαρμόσει ένα δράσιμο ηθικό πλαίσιο κινδύνου, είτε απλά να υπηρετήσει ως σύμβουλοι για την ηθική της τεχνητής νοημοσύνης. Αν αυτό ακούγεται ενδιαφέρον, οι άνθρωποι πρέπει να έρθουν να πουν γεια.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα για τον Ριντ πρέπει να επισκεφθούν τον Ριντ Μπλάκμαν, ή μπορεί να επισκεφθούν την Virtue Consultants.