Andrew Pery, Ethics Evangelist, ABBYY – Intervista alla serie

Andrew Pery, è l’Evangelista dell’Etica presso ABBYY, un’azienda di intelligenza digitale. Consentono alle organizzazioni di accedere alle informazioni preziose, ma spesso difficili da ottenere, sulle loro operazioni che consentono una vera trasformazione aziendale.

ABBYY ha recentemente lanciato una Iniziativa Globale per la Promozione dello Sviluppo di Intelligenza Artificiale Affidabile. Abbiamo deciso di chiedere ad Andrew domande riguardanti l’etica nell’IA, gli abusi dell’IA e cosa l’industria dell’IA può fare riguardo a queste preoccupazioni in futuro.

Cosa è stato che ha inizialmente suscitato il tuo interesse per l’etica dell’IA?

Ciò che ha inizialmente suscitato il mio interesse per l’etica dell’IA è stato un profondo interesse per l’intersezione tra legge e tecnologia dell’IA. Ho iniziato la mia carriera nel sistema di giustizia penale, rappresentando imputati indigenti che non avevano i mezzi finanziari per permettersi servizi legali. Poi mi sono trasferito nella tecnologia, concentrandomi sull’applicazione della ricerca avanzata e dell’IA nella pratica della legge. In quanto professionista certificato in materia di protezione dei dati, sono particolarmente appassionato di diritto alla privacy e dell’uso corretto della tecnologia dell’IA che si allinea con e rafforza i diritti alla privacy.

La tecnologia di riconoscimento facciale è spesso abusata da fonti di autorità, compreso il governo degli Stati Uniti. Quanto grande dovrebbe essere questa preoccupazione sociale?

Le implicazioni della tecnologia di riconoscimento facciale dovrebbero essere una preoccupazione sociale significativa, poiché questa tecnologia può impattare molti diritti fondamentali, compresi i diritti economici, sociali e di sicurezza.

C’è una chiara e convincente prova che gli algoritmi di riconoscimento facciale sono inaffidabili. Uno studio NIST sugli algoritmi di riconoscimento facciale ha scoperto che gli afroamericani erano fino a 100 volte più probabili di essere identificati erroneamente. Uno studio simile della Georgetown Law School ha scoperto che gli algoritmi di riconoscimento facciale basati su foto segnaletiche producevano un alto numero di falsi positivi associati a individui afroamericani, e uno studio del 2018 del MIT sul software di riconoscimento facciale di Amazon ha scoperto che mentre gli uomini bianchi erano identificati correttamente il 99% delle volte, gli individui dalla pelle scura generavano fino al 35% di falsi positivi.

Per queste ragioni, i regolatori stanno iniziando a prendere misure per vietare l’uso della tecnologia di riconoscimento facciale, in particolare nel contesto della sorveglianza e del profiling. Ad esempio, il Senato della California ha approvato un divieto statale sull’uso della tecnologia di riconoscimento facciale e di altri metodi di sorveglianza biometrica.

C’è anche un’impulso all’interno della comunità tecnologica per ritirarsi dalla commercializzazione del software di riconoscimento facciale. IBM ha annunciato che smetterà di vendere il software di riconoscimento facciale, affermando che viola i diritti umani fondamentali e le libertà fondamentali. Microsoft ha annunciato una decisione simile per interrompere la vendita della sua tecnologia di riconoscimento facciale, citando anch’essa i diritti umani fondamentali.

Il software COMPAS, che è stato utilizzato dai tribunali degli Stati Uniti per la valutazione del rischio criminale, ha etichettato erroneamente i minoranze visibili come più probabili di recidivare rispetto ai bianchi. Sapendo questo, l’uso dell’IA nei tribunali dovrebbe essere un’opzione?

Studi sul COMPAS hanno scoperto che non è migliore nel prevedere i crimini rispetto a persone casuali. Mentre l’analisi predittiva fornisce un valore significativo in un contesto commerciale, si è dimostrata risultare in disparità nella sua applicazione alla giustizia penale. Ciò è evidente in un rapporto pubblicato da Pro Publica che ha scoperto che COMPAS, il software più popolare utilizzato dai tribunali degli Stati Uniti per la valutazione del rischio criminale, ha etichettato erroneamente i minoranze visibili come più probabili di recidivare al doppio del tasso rispetto ai bianchi.

Queste disparità hanno sollevato preoccupazioni presso l’allora Procuratore Generale Eric Holder, che ha espresso preoccupazioni sulla correttezza e l’equità dell’applicazione della tecnologia dell’IA per prevedere i tassi di recidiva all’interno della popolazione di detenuti.

Come può la società evitare di programmazione involontaria di pregiudizi negativi nei sistemi di IA?

Innanzitutto, ci deve essere un riconoscimento che l’IA può avere la tendenza a produrre pregiudizi involontari, noti come pregiudizi inconsci. Mitigare il loro impatto negativo richiede un approccio olistico che consiste nello sviluppo di linee guida etiche per l’IA, come proposto dal quadro etico dell’OCSE. Ciò si basa su sette principi fondamentali, tra cui l’agenzia umana e la supervisione, la robustezza tecnica e la sicurezza, la privacy e la governance, la trasparenza, la diversità e la non discriminazione, il benessere sociale e la responsabilità.

In secondo luogo, l’adesione ai quadri giuridici che proteggono contro il profiling automatizzato è fondamentale. Ad esempio, l’UE ha una lunga storia di rispetto e protezione dei diritti alla privacy, con l’espressione più recente e potente rappresentata dal Regolamento Generale sulla Protezione dei Dati (GDPR), che protegge specificamente contro la decisione automatizzata.

In terzo luogo, c’è bisogno di responsabilità industriale per come la tecnologia dell’IA viene sviluppata e di un impegno a fornire trasparenza senza impattare i diritti di proprietà intellettuale. Ci sono sviluppi positivi in questo senso. Ad esempio, il Partnership on AI è un’organizzazione con oltre 80 membri in 13 paesi dedicata alla ricerca e alla discussione su questioni chiave dell’IA.

Infine, le organizzazioni tecnologiche dovrebbero sostenere un impegno a svolgere una valutazione dell’impatto dei pregiudizi prima del rilascio commerciale degli algoritmi dell’IA, in particolare quando le loro applicazioni impattano i diritti alla privacy e alla sicurezza. Le domande che i leader tecnologici dovrebbero considerare prima di rilasciare nuove applicazioni abilitate all’IA includono: Il dataset su cui questa tecnologia è stata addestrata è sufficientemente diversificato? Come verrà rilevato il pregiudizio? Come viene testato e da chi? Quali sono gli incentivi per gli sviluppatori? Chi trarrà beneficio commercialmente da esso?

È importante ricordare che le soluzioni dell’IA riflettono i dati sottostanti su cui queste applicazioni sono state addestrate, quindi assicurarsi che questi dati non siano distorti e riflettano correttamente la diversità dei costituenti che la soluzione servirà è fondamentale. In parole del ricercatore di IA, Professor Joanna Bryson, “se i dati sottostanti riflettono stereotipi, o se si addestra l’IA dalla cultura umana, si troverà il pregiudizio. E se non siamo attenti, rischiamo di integrare quel pregiudizio nei programmi informatici che stanno rapidamente prendendo il controllo di tutto, dalle strutture sanitarie alle scuole alle prigioni – programmi che dovrebbero eliminare quei pregiudizi per prima cosa.”

ABBYY ha recentemente lanciato un’iniziativa globale per la promozione dell’IA affidabile. Quanto è importante questa iniziativa per il futuro di ABBYY?

La decisione di sviluppare la nostra iniziativa globale per l’IA affidabile è una decisione importante guidata dalla nostra convinzione che, in quanto organizzazione le cui tecnologie impattano le imprese in tutto il mondo e servono decine di migliaia di utenti individuali, abbiamo l’obbligo di essere buoni cittadini aziendali con una coscienza sociale. Non solo ciò aiuta a generare una maggiore fiducia da parte dei nostri clienti e partner globali, ma aiuta anche a garantire che le nostre tecnologie continuino ad avere un impatto profondo in modo da beneficiare il bene comune.

È anche un buon senso commerciale promuovere e sostenere l’uso affidabile dell’IA. Rafforza il nostro capitale di marca, genera fiducia con la nostra costituenza di clienti e partner globali. La fiducia si traduce in affari ripetuti e in una crescita sostenibile.

Parte di questa iniziativa è l’impegno di ABBYY a coltivare una cultura che promuova l’uso etico dell’IA e la sua utilità sociale. Cosa deve essere fatto perché altre aziende coltivino una cultura simile?

Le aziende tecnologiche devono costruire un quadro per l’uso etico dell’IA. La portata di tale impegno dipende dalle applicazioni previste degli algoritmi dell’IA. Il modo migliore per valutare il suo impatto è applicare il principio del “non nuocere” e avere un impegno dall’alto verso l’uso affidabile dell’IA.

È altrettanto importante un impegno per la trasparenza. Mentre i diritti di proprietà intellettuale dovrebbero essere bilanciati con il principio dell’IA affidabile, l’importanza della trasparenza e della responsabilità per l’uso responsabile dell’IA dovrebbe essere chiaramente articolata e comunicata in tutta l’organizzazione.

Una delle iniziative a cui ABBYY si è impegnata è quella di fornire tecnologie dell’IA che siano socialmente ed economicamente benefiche. Ciò può essere un equilibrio difficile da raggiungere. Come possono le aziende implementare meglio questo?

I leader possono raggiungere questo equilibrio prendendo in considerazione le raccomandazioni offerte da Deloitte: progettare l’etica nell’IA inizia con la determinazione di ciò che conta per gli stakeholder, come clienti, dipendenti, regolatori e pubblico in generale. Le aziende dovrebbero istituire un comitato di governance e consulenza dell’IA composto da leader cross-funzionali e consulenti esterni che potrebbero impegnarsi con gruppi di lavoro multi-stakeholder e stabilire e sovrintendere alla governance delle soluzioni abilitate all’IA, compresa la loro progettazione, sviluppo, distribuzione e utilizzo.

Il modo in cui bilanciamo i nostri interessi commerciali e il bene sociale è stato recentemente esemplificato durante la pandemia di Coronavirus. Abbiamo reso disponibili molte delle nostre tecnologie gratuitamente o a tariffe scontate per aiutare individui e organizzazioni a navigare nella crisi, mantenere la continuità aziendale e supportare i loro clienti in circostanze imprevedibili.

Abbiamo anche recentemente reso disponibili i nostri framework tecnologici attraverso NeoML, la nostra libreria di apprendimento automatico open-source cross-platform che consente ai sviluppatori software di sfruttare modelli provati e affidabili per avanzare l’innovazione dell’IA.

Potresti condividere le tue opinioni sull’uso dell’IA per le app di tracciamento dei contatti per il COVID-19 e il bisogno di bilanciare il diritto alla privacy?

Questa è una questione particolarmente complicata. Ci sono coloro che sostengono che l’implementazione di applicazioni di tracciamento mobile rappresenta un’intrusione indesiderata nella privacy. D’altra parte, quando si tratta di sicurezza pubblica, ci sono sempre limiti ai diritti in generale. È un compromesso tra diritti e responsabilità. Tuttavia, i diritti non sono assoluti. La contenimento di una pandemia globale richiede un’azione coordinata e l’applicazione di risorse e tecnologie che possono essere utilizzate in modo responsabile per proteggere la popolazione in generale.

Questo equilibrio tra i diritti alla privacy individuali e il bene comune è riconosciuto all’interno di un quadro giuridico. Ad esempio, il GDPR identifica sei basi per l’elaborazione legittima delle informazioni personali, compresa una disposizione che quando l’elaborazione è indispensabile per l’interesse pubblico, tale elaborazione di informazioni personali è giustificata senza ottenere il consenso del soggetto dei dati.

Inoltre, il Considerando 46 del GDPR stabilisce direttamente che l’elaborazione delle informazioni personali è giustificata senza ottenere il consenso del soggetto dei dati in emergenze umanitarie, comprese le epidemie. Tuttavia, è importante notare che il Considerando 46 costruisce l’applicazione della disposizione dell’interesse pubblico in modo molto limitato, notando che dovrebbe avvenire solo quando non può essere basata su un’altra base giuridica.

A parte l’equilibrio dei diritti alla privacy con l’interesse pubblico, è anche fondamentale per il settore tecnologico e per i responsabili politici implementare linee guida eticamente solide, trasparenti e eque relative all’uso del profiling dell’IA e alla condivisione di informazioni sanitarie altamente sensibili. Le grandi aziende tecnologiche, comprese Google e Facebook, hanno già iniziato iniziative per tracciare i movimenti degli utenti per identificare come il virus si sta diffondendo e valutare l’efficacia delle misure di distanziamento sociale.

Credo che finché le informazioni sono anonime, il loro uso abbia un’utilità sociale.

C’è qualcos’altro che ti piacerebbe condividere riguardo alla nuova Iniziativa Globale di ABBYY per la Promozione dello Sviluppo di Intelligenza Artificiale Affidabile?

Le norme tendono a seguire l’innovazione tecnologica, quindi le aziende devono svolgere un ruolo proattivo nel promuovere la trasparenza e la responsabilità nelle tecnologie dell’IA e nel loro impatto sui diritti alla privacy e alla sicurezza. La nostra iniziativa riflette il nostro impegno in questo sforzo. Dal nostro inizio, abbiamo creato tecnologie innovative che preservano le informazioni preziose e le trasformano in conoscenze azionabili.

Inoltre, l’uso etico delle tecnologie dell’IA non dovrebbe essere considerato solo su base legale, ma anche come un obbligo morale e un imperativo commerciale. Se le tue soluzioni hanno un grande impatto e influenzano funzioni aziendali critiche, dovrebbe essere uno standard industriale essere trasparenti nell’applicazione delle tecnologie dell’IA.

Grazie mille per aver risposto a queste importanti domande. Per visualizzare i principi guida e l’approccio di ABBYY per l’adesione e la promozione di principi di IA affidabili, clicca qui. Chiunque desideri saperne di più su ABBYY in generale può visitare il sito web di ABBYY.