Cosa significa il Bill of Rights sull’AI della Casa Bianca per l’America e il resto del mondo

L’Ufficio per la politica scientifica e tecnologica della Casa Bianca (OSTP) ha recentemente pubblicato un whitepaper intitolato “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”. Questo quadro è stato pubblicato un anno dopo che l’OSTP ha annunciato il lancio di un processo per sviluppare “un bill of rights per un mondo alimentato dall’AI”.

Il prologo di questo bill illustra chiaramente che la Casa Bianca comprende le minacce imminenti alla società poste dall’AI. Ecco cosa è scritto nel prologo:

“Tra le grandi sfide poste alla democrazia oggi c’è l’uso della tecnologia, dei dati e dei sistemi automatizzati in modi che minacciano i diritti del pubblico americano. Troppo spesso, questi strumenti vengono utilizzati per limitare le nostre opportunità e impedire l’accesso a risorse o servizi critici. Questi problemi sono ben documentati. In America e nel mondo, i sistemi destinati ad aiutare l’assistenza ai pazienti si sono rivelati insicuri, inefficaci o distorti. Gli algoritmi utilizzati nelle decisioni di assunzione e di credito sono stati trovati riflettere e riprodurre le disuguaglianze esistenti o incorporare nuovi pregiudizi e discriminazioni dannose. La raccolta di dati dei social media non controllata è stata utilizzata per minacciare le opportunità delle persone, compromettere la loro privacy o tracciare in modo pervasivo la loro attività – spesso senza la loro conoscenza o consenso”.

Cosa questo Bill of Rights e il quadro che propone significherà per il futuro dell’AI rimane da vedere. Quello che sappiamo è che nuovi sviluppi stanno emergendo a un ritmo esponenzialmente crescente. Quello che un tempo era considerato impossibile, la traduzione istantanea del linguaggio, è ora una realtà, e allo stesso tempo abbiamo una rivoluzione nella comprensione del linguaggio naturale (NLU) guidata da OpenAI e dalla loro famosa piattaforma GPT-3.

Da allora abbiamo visto la generazione istantanea di immagini tramite una tecnica chiamata Stable Diffusion che potrebbe presto diventare un prodotto di consumo mainstream. In sostanza, con questa tecnologia un utente può semplicemente digitare qualsiasi query che possa immaginare, e come per magia l’AI genera un’immagine che corrisponde alla query.

Quando si considera la crescita esponenziale e la Legge dell’accelerazione dei ritorni, presto verrà un momento in cui l’AI avrà preso il controllo di ogni aspetto della vita quotidiana. Gli individui e le aziende che sanno questo e ne approfittano saranno i primi a trarne vantaggio. Purtroppo, un’ampia fascia della società potrebbe cadere vittima di conseguenze intenzionali e non intenzionali dell’AI.

Il Bill of Rights sull’AI è destinato a sostenere lo sviluppo di politiche e pratiche che proteggono i diritti civili e promuovono i valori democratici nella costruzione, nella distribuzione e nella governance dei sistemi automatizzati. Come questo bill si confronta con l’approccio della Cina rimane da vedere, ma è un bill of Rights che ha il potenziale per cambiare il panorama dell’AI e probabilmente sarà adottato da alleati come l’Australia, il Canada e l’UE.

Tuttavia, è stato dichiarato che il Bill of Rights sull’AI è non vincolante e non costituisce una politica del governo degli Stati Uniti. Non sostituisce, modifica o dirige l’interpretazione di qualsiasi statuto, regolamento, politica o strumento internazionale esistente. Ciò significa che sarà compito delle aziende e dei governi attenersi alle politiche delineate in questo whitepaper.

Questo bill ha identificato cinque principi che dovrebbero guidare la progettazione, l’uso e la distribuzione dei sistemi automatizzati per proteggere il pubblico americano nell’era dell’intelligenza artificiale. Di seguito, delineeremo i 5 principi:

1. Sistemi sicuri ed efficaci

C’è un pericolo chiaro e presente per la società rappresentato dai sistemi AI abusivi, in particolare quelli che si affidano al deep learning. Ciò è tentato di essere affrontato con questi principi:

“Dovresti essere protetto da sistemi insicuri o inefficaci. I sistemi automatizzati dovrebbero essere sviluppati con la consultazione di comunità, stakeholder e esperti di dominio diversificati per identificare preoccupazioni, rischi e potenziali impatti del sistema. I sistemi dovrebbero subire test di pre-distribuzione, identificazione e mitigazione dei rischi e monitoraggio continuo che dimostrino che sono sicuri ed efficaci in base al loro uso previsto, alla mitigazione degli esiti insicuri, compresi quelli al di fuori dell’uso previsto, e all’adesione agli standard specifici del dominio. Gli esiti di queste misure di protezione dovrebbero includere la possibilità di non distribuire il sistema o di rimuoverlo dall’uso. I sistemi automatizzati non dovrebbero essere progettati con l’intento o la possibilità ragionevole di mettere in pericolo la tua sicurezza o la sicurezza della tua comunità. Dovrebbero essere progettati per proteggerti proattivamente da danni derivanti da usi non intenzionali, ma prevedibili, o impatti dei sistemi automatizzati. Dovresti essere protetto da un uso di dati inappropriato o non pertinente nella progettazione, sviluppo e distribuzione dei sistemi automatizzati, e dal danno composto del loro riutilizzo. La valutazione indipendente e la relazione che confermano che il sistema è sicuro ed efficace, compresa la relazione dei passi intrapresi per mitigare i danni potenziali, dovrebbero essere eseguite e i risultati resi pubblici ogni volta che possibile.”

2. Protezioni contro la discriminazione algoritmica

Queste politiche affrontano alcuni degli elefanti nella stanza quando si tratta di aziende che sfruttano gli individui.

Un problema comune quando si assume personale utilizzando sistemi AI è che il sistema di deep learning si allenerà spesso su dati distorti per raggiungere conclusioni di assunzione. Ciò significa essenzialmente che le cattive pratiche di assunzione nel passato porteranno a discriminazioni di genere o razziali da parte di un agente di assunzione. Uno studio ha indicato la difficoltà di tentare di de-genderare i dati di addestramento.

Un altro problema fondamentale con i dati distorti da parte dei governi è il rischio di arresto illegittimo, o anche algoritmi di previsione della criminalità che offrono condanne più lunghe alle minoranze.

“Dovresti non affrontare la discriminazione da parte degli algoritmi e i sistemi dovrebbero essere utilizzati e progettati in modo equo. La discriminazione algoritmica si verifica quando i sistemi automatizzati contribuiscono a trattamenti o impatti ingiustificati che sfavoriscono le persone in base alla loro razza, colore, etnia, sesso (compresa la gravidanza, il parto e le condizioni mediche correlate, l’identità di genere, lo stato intersex, l’orientamento sessuale) religione, età, origine nazionale, disabilità, stato di veterano, informazioni genetiche o qualsiasi altra classificazione protetta dalla legge. A seconda delle circostanze specifiche, una tale discriminazione algoritmica può violare le protezioni legali. I progettisti, gli sviluppatori e i distributori di sistemi automatizzati dovrebbero adottare misure proattive e continue per proteggere gli individui e le comunità dalla discriminazione algoritmica e per utilizzare e progettare i sistemi in modo equo. Questa protezione dovrebbe includere valutazioni di equità proattive come parte della progettazione del sistema, l’uso di dati rappresentativi e la protezione contro i proxy per le caratteristiche demografiche, garantendo l’accessibilità per le persone con disabilità nella progettazione e nello sviluppo, test di disparità pre-distribuzione e mitigazione continua, e una chiara supervisione organizzativa. La valutazione indipendente e la relazione in linguaggio piano in forma di valutazione di impatto algoritmico, compresi i risultati dei test di disparità e le informazioni di mitigazione, dovrebbero essere eseguite e rese pubbliche ogni volta che possibile per confermare queste protezioni.”

3. Protezione dei dati

Questo principio di protezione dei dati è quello che probabilmente influenzerà il segmento più ampio della popolazione. La prima metà del principio sembra occuparsi della raccolta di dati, in particolare con i dati raccolti su Internet, un problema noto soprattutto per le piattaforme di social media. Questi stessi dati possono quindi essere utilizzati per vendere annunci, o anche peggio per manipolare l’opinione pubblica e influenzare le elezioni.

“Dovresti essere protetto da pratiche di dati abusive tramite protezioni integrate e dovresti avere il controllo su come i dati su di te vengono utilizzati. Dovresti essere protetto da violazioni della privacy attraverso scelte di progettazione che garantiscano che tali protezioni siano incluse per impostazione predefinita, compreso l’assicurarsi che la raccolta dei dati si conformi alle aspettative ragionevoli e che solo i dati strettamente necessari per il contesto specifico vengano raccolti. I progettisti, gli sviluppatori e i distributori di sistemi automatizzati dovrebbero cercare il tuo consenso e rispettare le tue decisioni riguardanti la raccolta, l’uso, l’accesso, il trasferimento e la cancellazione dei tuoi dati in modi appropriati e nella misura più ampia possibile; laddove non sia possibile, dovrebbero essere utilizzate salvaguardie alternative di progettazione della privacy. I sistemi non dovrebbero impiegare decisioni di progettazione e di esperienza utente che oscurino la scelta dell’utente o gravino l’utente con impostazioni predefinite che invadono la privacy. Il consenso dovrebbe essere utilizzato solo per giustificare la raccolta di dati nei casi in cui possa essere dato in modo appropriato e significativo. Le richieste di consenso dovrebbero essere brevi, essere comprensibili in linguaggio piano e darti il controllo sulla raccolta dei dati e sul contesto specifico di utilizzo; le pratiche di notifica e scelta attuali per usi ampi dei dati dovrebbero essere modificate.”

4. Notifica e spiegazione

Questo dovrebbe essere il grido di allarme per le aziende per schierare un consiglio consultivo di etica dell’AI, nonché spingere ad accelerare lo sviluppo di AI spiegabile. L’AI spiegabile è necessario nel caso in cui un modello di AI commetta un errore, capire come funziona l’AI consente la facile diagnosi di un problema.

L’AI spiegabile permetterà anche la condivisione trasparente di informazioni su come i dati vengono utilizzati e perché una decisione è stata presa dall’AI. Senza AI spiegabile sarà impossibile conformarsi a queste politiche a causa del problema del blackbox del deep learning.

Le aziende che si concentrano sul miglioramento di questi sistemi trarranno anche vantaggio dalla comprensione delle sfumature e delle complessità dietro a una decisione specifica presa da un algoritmo di deep learning.

“Dovresti sapere che un sistema automatizzato è in uso e capire come e perché contribuisce agli esiti che ti riguardano. I progettisti, gli sviluppatori e i distributori di sistemi automatizzati dovrebbero fornire documentazione in linguaggio piano e accessibile, comprese descrizioni chiare del funzionamento generale del sistema e del ruolo dell’automazione, notifica dell’uso di tali sistemi, l’individuazione o l’organizzazione responsabile del sistema e spiegazioni degli esiti che siano chiare, tempestive e accessibili. Una tale notifica dovrebbe essere mantenuta aggiornata e le persone interessate dal sistema dovrebbero essere informate dei cambiamenti significativi nell’uso o nella funzionalità principale. Dovresti sapere come e perché un esito che ti riguarda è stato determinato da un sistema automatizzato, compreso quando il sistema automatizzato non è l’unico input che determina l’esito. I sistemi automatizzati dovrebbero fornire spiegazioni che siano tecnicamente valide, significative e utili per te e per qualsiasi operatore o altro che necessiti di comprendere il sistema, e calibrate al livello di rischio in base al contenuto. La relazione che include informazioni riassuntive su questi sistemi automatizzati in linguaggio piano e valutazioni della chiarezza e della qualità della notifica e delle spiegazioni dovrebbe essere resa pubblica ogni volta che possibile.”

5. Alternative umane, considerazione e fallback

A differenza della maggior parte dei principi sopra, questo principio è più applicabile alle entità governative o alle istituzioni privatizzate che lavorano per conto del governo.

Anche con un consiglio di etica dell’AI e un’AI spiegabile, è importante fare affidamento alla revisione umana quando sono in gioco le vite. C’è sempre il potenziale per l’errore e avere una revisione umana di un caso quando richiesto potrebbe evitare uno scenario come un’AI che manda le persone sbagliate in prigione.

Il sistema giudiziario e quello penale hanno il maggior margine per causare danni irreparabili ai membri marginalizzati della società e dovrebbero prendere particolarmente nota di questo principio.

“Dovresti essere in grado di opt-out, quando appropriato, e avere accesso a una persona che possa considerare rapidamente e rimediare ai problemi che incontri. Dovresti essere in grado di opt-out dai sistemi automatizzati in favore di un’alternativa umana, quando appropriato. L’adeguatezza dovrebbe essere determinata in base a aspettative ragionevoli in un contesto dato e con un focus sull’assicurarsi di garantire un’ampia accessibilità e proteggere il pubblico da impatti particolarmente dannosi. In alcuni casi, un’alternativa umana potrebbe essere richiesta dalla legge. Dovresti avere accesso a una considerazione umana tempestiva e a un rimedio per un problema di fallback se un sistema automatizzato non funziona, produce un errore o desideri appellarti o contestare il suo impatto su di te. La considerazione umana e il fallback dovrebbero essere accessibili, equi, efficaci, mantenuti, accompagnati da una formazione operativa appropriata e non dovrebbero imporre un onere eccessivo sul pubblico. I sistemi automatizzati con un uso previsto all’interno di domini sensibili, compresi, ma non limitati a, sistema penale, assunzione, istruzione e salute, dovrebbero inoltre essere adattati allo scopo, fornire un accesso significativo alla supervisione, includere la formazione per le persone che interagiscono con il sistema e incorporare la considerazione umana per le decisioni avverse o ad alto rischio. La relazione che include una descrizione di questi processi di governance umana e una valutazione della loro tempestività, accessibilità, esiti e efficacia dovrebbe essere resa pubblica ogni volta che possibile.”

Riepilogo

L’OSTP dovrebbe essere accreditato per aver tentato di introdurre un quadro che collega i protocolli di sicurezza necessari per la società, senza introdurre anche politiche draconiane che potrebbero ostacolare il progresso nello sviluppo del machine learning.

Dopo che i principi sono stati delineati, il bill continua fornendo un compagno tecnico alle questioni discusse, nonché informazioni dettagliate su ogni principio e i migliori modi per procedere all’attuazione di questi principi.

I proprietari di aziende e le aziende astute dovrebbero prendere nota di studiare questo bill, poiché può essere solo vantaggioso implementare queste politiche il prima possibile.

L’AI spiegabile continuerà a dominare in importanza, come può essere visto da questo citazione del bill.

“In tutto il governo federale, le agenzie stanno conducendo e sostenendo la ricerca su sistemi di AI spiegabili. Il NIST sta conducendo ricerche fondamentali sulla spiegabilità dei sistemi di AI. Un team multidisciplinare di ricercatori mira a sviluppare metodi di misurazione e best practice per supportare l’attuazione dei principi fondamentali dell’AI spiegabile. La Defense Advanced Research Projects Agency ha un programma su Explainable Artificial Intelligence che mira a creare una suite di tecniche di apprendimento automatico che producono modelli più spiegabili, mantenendo allo stesso tempo un alto livello di prestazioni di apprendimento (accuratezza della previsione), e consentono agli utenti umani di comprendere, fidarsi appropriatamente e gestire efficacemente la nuova generazione di partner artificiali intelligenti. Il programma della National Science Foundation su Fairness in Artificial Intelligence include anche un interesse specifico nella ricerca sui fondamenti dell’AI spiegabile.”

Ciò che non dovrebbe essere trascurato è che alla fine i principi delineati qui diventeranno il nuovo standard.