Reid Blackman, Ph.D, Fondatore e Amministratore Delegato di Virtue Consultants – Serie di Interviste

Reid Blackman è il Fondatore e Amministratore Delegato di Virtue Consultants. In questa veste, ha lavorato con aziende per integrare l’etica e la mitigazione del rischio etico nella cultura aziendale e nello sviluppo, nella distribuzione e nell’acquisto di prodotti tecnologici emergenti. È anche Consulente Senior di Ernst & Young e fa parte del loro Consiglio di Amministrazione per l’Intelligenza Artificiale, e è membro dell’iniziativa “Ethically Aligned Design” dell’IEEE.

Il lavoro di Reid è stato presentato sul Wall Street Journal e su Dell Perspectives, e ha scritto articoli per The Harvard Business Review, TechCrunch, VentureBeat e Risk & Compliance Magazine. È stato citato in numerosi articoli di notizie e parla regolarmente in vari luoghi, tra cui il World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University e AIG.

Lei è stato professore di Filosofia al Colgate University dal 2009 al 2018. A che punto ha iniziato a incorporare l’etica dell’intelligenza artificiale nelle sue lezioni?

Spesso insegnavo un corso di Filosofia Sociale e Politica, in cui trattavo di Marx. Una delle affermazioni centrali di Marx è che il capitalismo alla fine cederà il passo al comunismo, a causa di un enorme aumento dei “mezzi di produzione”. In altre parole, il capitalismo spinge verso una maggiore efficienza nel nome della concorrenza e dell’apertura di nuovi mercati, il che significa un aumento nella creazione di tecnologie che possono produrre sempre più in tempi sempre più brevi. Marx ha anche previsto che ciò avrebbe messo sempre più denaro in mano a pochi e avrebbe spinto sempre più persone nella povertà, al punto in cui le strutture capitalistiche sarebbero state rovesciate da una rivoluzione guidata dalle crescenti masse di disoccupati. Tutto ciò porta a una discussione sull’etica della tecnologia che annulla la necessità del lavoro umano, che è un elemento centrale dell’etica dell’intelligenza artificiale.

Racconto breve se siete interessati: nel 2002 ero uno studente di dottorato che guidava una discussione su Marx con studenti universitari alla Northwestern University. A un certo punto, uno studente ha alzato la mano e ha detto: “Alla fine non avremo più bisogno di esseri umani per lavorare”. La classe era confusa. Io ero confuso. Quindi ho detto: “Allora, chi farà il lavoro?” Ha risposto in un modo molto fattuale: “I robot”. La classe è scoppiata a ridere. Io ho soffocato la mia risata. Ma è abbastanza ovvio chi ha avuto l’ultima risata.

Nel 2018, ha lanciato Virtue Consultants, una società di consulenza etica che aiuta i leader dei dati e dell’intelligenza artificiale a identificare e mitigare i rischi etici dei loro prodotti. Cosa l’ha ispirato a intraprendere questo percorso imprenditoriale?

Gelosia. Beh, in un certo senso. Ho iniziato una società di commercio di fuochi d’artificio quando ero uno studente di dottorato, credo intorno al 2003 o 2004. È andata meglio di quanto mi aspettassi, e la società esiste ancora, anche se adesso sono solo un consulente e non mi occupo più delle operazioni quotidiane. Comunque, è rilevante perché spiega come sono diventato un mentore per le startup nel programma di imprenditorialità del Colgate (chiamato TIA, Thought Into Action, guidato da due fantastici VC, Andy Greenfield e Wills Hapworth, che gestiscono TIA Ventures). Come mentore, ho visto gli studenti impegnati in progetti emozionanti mentre cercavano di capire come stabilire e far crescere le loro startup profit o non profit, e ho pensato: “Vorrei farlo anche io!” Ma cosa sarebbe stato il mio nuovo progetto? Doveva essere qualcosa che parlasse del mio amore per la filosofia e l’etica, e la prima cosa che aveva senso era una società di consulenza etica. Non vedevo il mercato per tali servizi al momento, perché non c’era, quindi ho aspettato. E poi sono arrivati Cambridge Analytica, BLM e #MeToo, e all’improvviso c’è stata una maggiore consapevolezza della necessità.

Quanto è importante per le aziende introdurre una Dichiarazione di Etica dell’Intelligenza Artificiale?

Una Dichiarazione di Etica dell’Intelligenza Artificiale non è essenziale, ma è uno strumento molto utile per stabilire i propri obiettivi. Quando si introduce un programma di etica dell’intelligenza artificiale nella propria organizzazione, si vuole identificare e mitigare e gestire vari rischi etici, reputazionali, regolatori e legali. Questa è la sua funzione principale. Una dichiarazione di etica aiuta a esprimere come saranno le cose una volta che si avranno le infrastrutture, i processi e le prassi in atto per raggiungere quella funzione. In quanto una strategia necessita di un obiettivo – il che è sempre il caso – una Dichiarazione di Etica dell’Intelligenza Artificiale è un buon modo per esprimere quegli obiettivi, anche se non è l’unico modo.

Come possono le aziende assicurarsi che la dichiarazione di etica venga trasferita in processi e prassi?
Una dichiarazione di etica è solo un piccolo passo nella direzione giusta. Se si vuole continuare, il passo successivo naturale è fare una valutazione di dove ci si trova rispetto agli obiettivi espressi in quella dichiarazione. Una volta che si conosce dove sono le lacune più grandi e più rischiose – ovvero, dove si è più a rischio di non raggiungere gli obiettivi – allora si può iniziare a elaborare le soluzioni per ridurre quelle lacune. Forse si tratta di un comitato di etica. Forse si tratta di un processo di due diligence durante lo sviluppo del prodotto. Forse si tratta di migliorare la gestione dei dati nei dipartimenti non produttivi, come marketing e risorse umane. Probabilmente è tutto ciò e altro ancora.

Quali sono alcune soluzioni che le aziende dovrebbero implementare per evitare i pregiudizi nell’algoritmo di intelligenza artificiale?

Ci sono un mucchio di strumenti tecnici lì fuori per identificare i pregiudizi, ma sono limitati. Consentono di confrontare gli output del modello con le decine di metriche quantitative offerte nella letteratura accademica sull’etica dell’apprendimento automatico, ma bisogna essere cauti perché quelle metriche non sono mutualmente compatibili. Quindi, una decisione etica sostanziale deve essere presa: quale, se alcuna di queste metriche, è appropriata in questo contesto?

A parte l’uso di uno strumento del genere, integrato con un modo responsabile di rispondere a quella domanda, i team di prodotto farebbero bene a pensare a dove i pregiudizi possono insinuarsi prima di iniziare a costruire. Come potrebbe essere contenuto o riflesso nei set di dati di allenamento? Come nella determinazione della funzione obiettivo? Cosa riguarda la determinazione della soglia? Ci sono molti posti in cui i pregiudizi possono insinuarsi. La previdenza su dove potrebbe essere nel proprio progetto attuale e come potrebbe entrarci è essenziale per identificare e mitigare i pregiudizi.

Le aziende di intelligenza artificiale sono note per essere dominate da uomini bianchi che potrebbero involontariamente programmare alcuni pregiudizi nel sistema di intelligenza artificiale. Per evitare ciò, quali caratteristiche dovrebbero cercare i dipartimenti delle risorse umane?

Sono tutto per maggiori opportunità e maggiore diversità tra gli ingegneri e i team di prodotto in generale. Tuttavia, penso che questo stia guardando le cose attraverso la lente sbagliata. Il problema principale quando si tratta di algoritmi pregiudizievoli non è che i pregiudizi di qualche uomo bianco portino a codice pregiudizievole. È che i set di dati di allenamento sono pregiudizievoli. In effetti, un recente articolo della Columbia – “Programmatori pregiudizievoli? O dati pregiudizievoli? Un esperimento sul campo per operazionalizzare l’etica dell’IA” – ha concluso che “[i] programmatori che comprendono la guida tecnica riducono con successo i pregiudizi” e che “[l]e previsioni algoritmiche dei programmatori di intelligenza artificiale femminili e delle minoranze non esibiscono meno pregiudizi algoritmici o discriminazione”. Quindi, mentre il dipartimento delle risorse umane dovrebbe prestare attenzione alle questioni di diversità, è lontano dall’essere chiaro che le strategie per ridurre le uscite pregiudizievoli dell’IA dovrebbero concentrarsi principalmente – per non dire esclusivamente – sulle decisioni di assunzione relative agli sforzi di diversità.

Potrebbe discutere cosa sia la due diligence del rischio etico e perché le aziende dovrebbero implementarla?

La due diligence del rischio etico è un tentativo di individuare i vari rischi etici che possono essere realizzati con il prodotto che si sta creando, compreso come viene distribuito, come potrebbe essere utilizzato e mal utilizzato, ecc. Si vuole concentrare sulle caratteristiche del prodotto – sia quelle che possiede che quelle che mancano – e sui modi in cui possono portare, quando distribuiti in vari contesti, a violazioni etiche. Quando viene fatto bene, è un’ispezione sistematica e completa. Naturalmente, mentre si può cercare di guardare oltre l’angolo, ci sono probabilmente alcune cose che si potrebbero perdere, ed è per questo che il monitoraggio continuo è importante.

Per quanto riguarda il motivo per cui le aziende dovrebbero implementarla: non hanno bisogno di fare altro che considerare i rischi etici, reputazionali, regolatori e legali per non farlo. Pensate a Optum sulle notizie e sotto indagine regolatoria per un algoritmo (presuntamente) pregiudizievole che ha raccomandato ai professionisti sanitari di prestare più attenzione ai pazienti bianchi che ai pazienti neri più malati. O a Goldman Sachs (GS ), sotto indagine per i limiti di credito per la carta Apple (AAPL ), che (presuntamente) discriminano le donne. O al software di assunzione di Amazon (AMZN ), che è stato eliminato a causa di preoccupazioni relative ai pregiudizi prima di essere distribuito. O a IBM, citata in giudizio da Los Angeles per aver (presuntamente) utilizzato indebitamente i dati raccolti dal suo applicazione del tempo. O Facebook (META ) …

C’è qualcos’altro che lei vorrebbe condividere su Virtue Consultants?

Virtue aiuta i leader senior a mettere in pratica l’etica dell’intelligenza artificiale, sia aiutando a educare e formare le persone su questo argomento, sia scrivendo una Dichiarazione di Etica dell’Intelligenza Artificiale, creando e implementando un quadro di rischio etico azionabile, o semplicemente fungendo da consulenti sull’etica dell’intelligenza artificiale. Se questo suona interessante, le persone dovrebbero venire a salutare.

Grazie per la grande intervista, i lettori che desiderano saperne di più su Reid possono visitare Reid Blackman, o possono visitare Virtue Consultants.