Bradford Newman, Presidente della Pratica di Segreti Commerciali dell’America del Nord – Serie di Interviste

Bradford si occupa di questioni relative ai segreti commerciali e all’intelligenza artificiale. È il presidente del sottocomitato di intelligenza artificiale dell’American Bar Association. Riconosciuto dal Daily Journal (DJCO ) nel 2019 come uno dei 20 migliori avvocati di intelligenza artificiale in California, Bradford ha giocato un ruolo fondamentale nella proposta di legislazione federale sull’intelligenza artificiale sul posto di lavoro e sulla proprietà intellettuale che nel 2018 è stata trasformata in un disegno di legge della Camera dei rappresentanti degli Stati Uniti. Ha anche sviluppato le migliori pratiche di controllo e governance aziendale per l’intelligenza artificiale progettate per garantire l’equità algoritmica.

Cosa ha inizialmente acceso il tuo interesse per l’intelligenza artificiale?

Ho rappresentato i principali innovatori e produttori di prodotti e tecnologie di intelligenza artificiale per molti anni. Il mio interesse è sempre stato quello di andare dietro le quinte e capire gli aspetti giuridici e tecnici dell’apprendimento automatico, e osservare l’evoluzione dell’intelligenza artificiale. Sono affascinato da ciò che è possibile per le applicazioni in vari domini.

Sei un forte sostenitore della regolamentazione razionale dell’intelligenza artificiale, in particolare nella regolamentazione che protegge la salute pubblica, puoi discutere alcune delle tue principali preoccupazioni?

Credo che siamo alle prime fasi di una delle più profonde rivoluzioni che l’umanità abbia mai sperimentato. L’intelligenza artificiale ha il potenziale di impattare ogni aspetto della nostra vita, dal momento in cui ci svegliamo al mattino al momento in cui andiamo a dormire – e anche mentre dormiamo. Molte delle applicazioni dell’intelligenza artificiale avranno un impatto positivo sulla qualità della nostra vita e probabilmente sulla nostra longevità come specie.

Al momento, dal punto di vista della scienza informatica e dell’apprendimento automatico, gli esseri umani sono ancora molto coinvolti nel processo, dalla codifica degli algoritmi alla comprensione degli insiemi di dati di training, all’elaborazione dei risultati, al riconoscimento dei limiti e alla commercializzazione della tecnologia.

Ma siamo in una corsa contro il tempo su due fronti principali. In primo luogo, ciò che viene comunemente definito come il “problema della scatola nera”: l’involvimento e la comprensione umana dell’intelligenza artificiale diminuiranno nel tempo man mano che la sofisticazione dell’intelligenza artificiale (come le reti neurali artificiali) evolverà. E in secondo luogo, l’uso dell’intelligenza artificiale da parte dei governi e degli interessi privati aumenterà.

La mia preoccupazione è che l’intelligenza artificiale sarà utilizzata, sia intenzionalmente che involontariamente, in modi che sono in contrasto con gli ideali democratici occidentali di libertà e libertà individuali.

Come affrontiamo queste preoccupazioni?

La società è al punto in cui dobbiamo risolvere non ciò che è possibile con riguardo all’intelligenza artificiale, ma ciò che dovrebbe essere proibito e/o parzialmente limitato.

Innanzitutto, dobbiamo identificare specificamente le decisioni che non possono mai essere prese interamente o in parte dall’output algoritmico generato dall’intelligenza artificiale. Ciò significa che anche in situazioni in cui ogni esperto concorda che i dati in ingresso e in uscita sono completamente imparziali, trasparenti e accurati, deve esserci una proibizione legislativa sull’utilizzo di tali dati per qualsiasi tipo di decisione predittiva o sostanziale.

Ammetto che questo è controintuitivo in un mondo in cui aneliamo alla certezza matematica, ma stabilire una “zona di divieto di volo” per l’intelligenza artificiale è essenziale per preservare le libertà che tutti noi teniamo care e che servono come base per la nostra società.

In secondo luogo, per altre decisioni identificate basate sull’analisi dell’intelligenza artificiale che non sono completamente proibite, abbiamo bisogno di una legislazione che definisca chiaramente quelle in cui un essere umano deve essere coinvolto nel processo decisionale.

Hai giocato un ruolo fondamentale nella proposta di legislazione federale sull’intelligenza artificiale sul posto di lavoro e sulla proprietà intellettuale che nel 2018 è stata trasformata in un disegno di legge della Camera dei rappresentanti degli Stati Uniti. Puoi discutere alcune di queste proposte?

Il Data Protection Act dell’intelligenza artificiale è destinato a promuovere l’innovazione e progettato per (1) aumentare la trasparenza nella natura e nell’uso dell’intelligenza artificiale e per costruire la fiducia pubblica nell’intelligenza artificiale; (2) affrontare l’impatto dell’intelligenza artificiale sul mercato del lavoro e (3) proteggere la salute e la sicurezza pubblica.

Ha diversi componenti chiave. Ad esempio, proibisce alle società coperte di fare affidamento esclusivamente sull’intelligenza artificiale per prendere determinate decisioni, tra cui una decisione relativa all’assunzione di individui o al rifiuto o alla limitazione del trattamento medico, e proibisce agli assicuratori di salute di prendere decisioni relative alla copertura di un trattamento medico esclusivamente in base all’analisi dell’intelligenza artificiale. Stabilisce inoltre il Consiglio dell’intelligenza artificiale – una nuova agenzia federale incaricata di responsabilità specifiche per la regolamentazione dell’intelligenza artificiale in relazione alla salute e alla sicurezza pubblica. E richiede alle società coperte di nominare un Ufficiale capo dell’intelligenza artificiale.

Hai anche sviluppato le migliori pratiche di controllo e governance aziendale per l’intelligenza artificiale progettate per garantire l’equità algoritmica. Quali sono alcune delle attuali questioni che vedi con la equità o il pregiudizio nei sistemi di intelligenza artificiale?

Questo argomento è stato al centro di un’intensa attenzione da parte degli accademici e sta ora ricevendo l’interesse delle agenzie governative degli Stati Uniti, come la Commissione per le pari opportunità di lavoro (EEOC), e degli studi legali. La maggior parte delle volte, la causalità deriva da un difetto negli insiemi di dati di training o dalla mancanza di comprensione e trasparenza nell’ambiente di testing. Ciò è aggravato dalla mancanza di proprietà centrale e di controllo dell’intelligenza artificiale da parte della dirigenza aziendale.

Questa mancanza di comprensione tecnica e di consapevolezza situazionale è una preoccupazione significativa per la responsabilità. Ho parlato con diversi importanti avvocati che stanno cercando casi di pregiudizio dell’intelligenza artificiale.

L’apprendimento profondo spesso soffre del problema della “scatola nera”, in cui inseriamo dati in una rete neurale artificiale e riceviamo un output, senza sapere come è stato generato. Credi che questo sia un problema importante?

Sì. E man mano che gli algoritmi e le reti neurali continuano a evolversi e gli esseri umani non sono più “nel loop”, c’è un rischio reale di superare il punto di non ritorno in cui non saremo più in grado di comprendere elementi critici della funzione e dell’output.

Con il COVID-19, i paesi di tutto il mondo hanno introdotto sistemi di sorveglianza statale basati sull’intelligenza artificiale. Quanto è grande il problema del potenziale abuso di questo tipo di sorveglianza?

È ingenuo, e francamente, irresponsabile dal punto di vista dei diritti e delle libertà individuali, ignorare o minimizzare il rischio di abuso. Mentre il tracciamento dei contatti sembra prudente in mezzo a una pandemia globale, e il riconoscimento facciale basato sull’intelligenza artificiale fornisce una misura efficace per fare ciò che gli esseri umani da soli non sarebbero in grado di realizzare, la società deve istituire proibizioni legali sull’abuso insieme a meccanismi di controllo e applicazione efficaci. Altrimenti, stiamo cedendo allo stato un elemento fondamentale dei nostri diritti e della nostra libertà fondamentali. Una volta concesso in modo globale, questo elemento fondamentale della nostra libertà e della nostra privacy non sarà restituito.

Hai affermato in precedenza che “Dobbiamo stabilire una ‘zona di divieto di volo’ per l’intelligenza artificiale se vogliamo preservare le libertà che gli americani tengono care e che servono come base per la nostra società.” Potresti condividere alcune di queste preoccupazioni che hai?

Quando si discute di intelligenza artificiale, dobbiamo sempre concentrarci sul suo scopo essenziale: produrre analisi predittive accurate da grandi insiemi di dati che vengono utilizzati per classificare gli esseri umani e prendere decisioni. Successivamente, dobbiamo esaminare chi sono i responsabili delle decisioni, cosa stanno decidendo e su cosa si basano le loro decisioni.

Se capiamo che i responsabili delle decisioni sono coloro che hanno il maggior impatto sulla nostra salute, sul nostro sostentamento e sulle nostre libertà – datori di lavoro, locatori, medici, assicuratori, forze dell’ordine e ogni altra impresa privata, commerciale e governativa che può generare, raccogliere o acquistare analisi dell’intelligenza artificiale – diventa facile vedere che in una democrazia liberale occidentale, a differenza di un regime totalitario, ci sono decisioni che non dovrebbero e non devono essere lasciate esclusivamente all’intelligenza artificiale.

Mentre molte decisioni ovvie vengono in mente, come proibire l’incarcerazione di qualcuno prima che un reato sia commesso, l’adozione generalizzata dell’intelligenza artificiale in ogni aspetto della nostra vita presenta molti altri esempi di dilemma etico. Ad esempio, se un algoritmo prevede con accuratezza che i lavoratori che pubblicano foto sui social media di vacanze al mare in cui stanno bevendo alcol lasciano il lavoro o vengono licenziati in media 3,5 anni prima di coloro che pubblicano foto di sé stessi che lavorano, dovrebbe la prima categoria essere negata una promozione o un aumento basato esclusivamente sull’output algoritmico? Se un algoritmo determina con accuratezza che gli adolescenti che giocano ai videogiochi per più di 2 ore al giorno sono meno probabili di diplomarsi in un’università di quattro anni, dovrebbero tali studenti essere negati l’ammissione? Se le donne asiatiche di oltre 60 anni ricoverate in terapia intensiva per sintomi legati al COVID-19 hanno un tasso di sopravvivenza più alto rispetto agli uomini afroamericani di oltre 70 anni, dovrebbero le donne ricevere un trattamento medico preferenziale?

Questi esempi semplificati sono solo alcuni dei numerosi casi in cui l’affidamento esclusivo all’intelligenza artificiale contraddice le nostre opinioni su cosa richiedono i diritti umani individuali.

C’è qualcos’altro che vorresti condividere riguardo all’intelligenza artificiale o a Baker McKenzie?

Sono estremamente entusiasta di guidare la pratica di intelligenza artificiale di Baker McKenzie in mezzo al paesaggio in evoluzione. Riconosciamo che i nostri clienti sono affamati di indicazioni su tutto ciò che riguarda l’intelligenza artificiale, dalla negoziazione dei contratti all’istituzione di un controllo interno, all’evitamento di reclami di pregiudizio, alla comprensione del quadro normativo emergente nazionale e internazionale.

Le aziende vogliono fare la cosa giusta, ma ci sono pochissimi studi legali che hanno le competenze e la comprensione necessarie dell’intelligenza artificiale e dell’apprendimento automatico per essere in grado di aiutarle. Per coloro di noi che sono sia appassionati di intelligenza artificiale che avvocati, questo è un momento emozionante per aggiungere valore reale per i nostri clienti.

Grazie per le fantastiche risposte riguardo a queste preoccupazioni sociali importanti che coinvolgono l’intelligenza artificiale. I lettori che desiderano saperne di più su Bradford Newman possono cliccare qui.