Cosa significa il Bill of Rights dell’AI della Casa Bianca per l’America e il resto del mondo

L’Ufficio per la scienza e la tecnologia della Casa Bianca (OSTP) ha recentemente pubblicato un whitepaper intitolato “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”. Questo framework è stato pubblicato un anno dopo che l’OSTP ha annunciato il lancio di un processo per sviluppare “un bill of rights per un mondo alimentato dall’AI”.

La prefazione di questo bill illustra chiaramente che la Casa Bianca comprende le minacce imminenti per la società poste dall’AI. Ecco cosa è scritto nella prefazione:

“Tra le grandi sfide poste alla democrazia oggi c’è l’uso della tecnologia, dei dati e dei sistemi automatizzati in modi che minacciano i diritti del pubblico americano. Troppo spesso, questi strumenti sono utilizzati per limitare le nostre opportunità e prevenire l’accesso a risorse o servizi critici. Questi problemi sono ben documentati. In America e nel mondo, i sistemi destinati ad aiutare con le cure dei pazienti si sono rivelati insicuri, inefficaci o distorti. Gli algoritmi utilizzati nelle decisioni di assunzione e di credito sono stati trovati a riflettere e riprodurre disuguaglianze indesiderate o incorporare nuovi pregiudizi e discriminazioni dannose. La raccolta di dati non controllata dei social media è stata utilizzata per minacciare le opportunità delle persone, compromettere la loro privacy o monitorare in modo pervasivo la loro attività – spesso senza la loro conoscenza o consenso”.

Cosa questo Bill of Rights e il framework che propone significherà per il futuro dell’AI, rimane da vedere. Quello che sappiamo è che nuovi sviluppi stanno emergendo a un ritmo esponenziale. Quello che un tempo era considerato impossibile, la traduzione istantanea del linguaggio è ora una realtà, e allo stesso tempo abbiamo una rivoluzione nella comprensione del linguaggio naturale (NLU) guidata da OpenAI e dalla sua famosa piattaforma GPT-3.

Da allora abbiamo visto la generazione istantanea di immagini tramite una tecnica chiamata Stable Diffusion che potrebbe presto diventare un prodotto di consumo di massa. In sostanza, con questa tecnologia, un utente può semplicemente digitare qualsiasi query che possa immaginare, e come per magia l’AI genererà un’immagine che corrisponde alla query.

Quando si considera la crescita esponenziale e la legge dei ritorni accelerati, verrà un momento in cui l’AI avrà preso il controllo di ogni aspetto della vita quotidiana. Gli individui e le aziende che sanno questo e ne approfittano saranno quelli che trarranno vantaggio. Purtroppo, un’ampia parte della società potrebbe cadere vittima di conseguenze intenzionali e non intenzionali dell’AI.

Il Bill of Rights dell’AI è destinato a sostenere lo sviluppo di politiche e pratiche che proteggono i diritti civili e promuovono i valori democratici nella costruzione, nella distribuzione e nella governance dei sistemi automatizzati. Come questo bill si confronta con l’approccio della Cina rimane da vedere, ma è un bill of rights che ha il potenziale di cambiare il paesaggio dell’AI e probabilmente sarà adottato da alleati come l’Australia, il Canada e l’UE.

Detto questo, il Bill of Rights dell’AI non è vincolante e non costituisce una politica del governo degli Stati Uniti. Non sostituisce, modifica o interpreta alcuna legge, regolamento, politica o strumento internazionale esistente. Cosa significa che sarà fino alle aziende e ai governi adottare le politiche delineate in questo whitepaper.

Questo bill ha identificato cinque principi che dovrebbero guidare la progettazione, l’uso e la distribuzione dei sistemi automatizzati per proteggere il pubblico americano nell’era dell’intelligenza artificiale, di seguito li elencheremo:

1. Sistemi sicuri ed efficaci

C’è un pericolo chiaro e presente per la società rappresentato dai sistemi di intelligenza artificiale abusivi, in particolare quelli che si basano sull’apprendimento profondo. Ciò è tentato di essere affrontato con questi principi:
“Dovresti essere protetto da sistemi insicuri o inefficaci. I sistemi automatizzati dovrebbero essere sviluppati in consultazione con comunità, stakeholder e esperti di dominio diversi per identificare preoccupazioni, rischi e potenziali impatti del sistema. I sistemi dovrebbero subire test di pre-distribuzione, identificazione e mitigazione dei rischi e monitoraggio continuo che dimostrino che sono sicuri ed efficaci in base al loro uso previsto, alla mitigazione degli esiti insicuri, compresi quelli al di fuori dell’uso previsto, e all’aderenza agli standard specifici del dominio. Gli esiti di queste misure di protezione dovrebbero includere la possibilità di non distribuire il sistema o di rimuoverlo dall’uso. I sistemi automatizzati non dovrebbero essere progettati con l’intento o la possibilità ragionevole di mettere in pericolo la tua sicurezza o la sicurezza della tua comunità. Dovrebbero essere progettati per proteggerti proattivamente da danni derivanti da usi non intenzionali o prevedibili dei sistemi automatizzati. Dovresti essere protetto da un uso di dati inappropriato o non pertinente nella progettazione, sviluppo e distribuzione dei sistemi automatizzati e dal danno composto del loro riutilizzo. La valutazione indipendente e la relazione che confermano che il sistema è sicuro ed efficace, compresi i passaggi intrapresi per mitigare i danni potenziali, dovrebbero essere eseguiti e i risultati resi pubblici quando possibile.

2. Protezioni contro la discriminazione algoritmica

Queste politiche affrontano alcuni degli elefanti nella stanza quando si tratta di aziende che abusano degli individui.

Un problema comune quando si assume personale utilizzando sistemi di intelligenza artificiale è che il sistema di apprendimento profondo si baserà spesso su dati distorti per raggiungere conclusioni di assunzione. Ciò significa essenzialmente che le cattive pratiche di assunzione nel passato porteranno a discriminazione di genere o razziale da parte di un agente di assunzione. Uno studio ha indicato la difficoltà di tentare di de-genderare i dati di formazione.

Un altro problema fondamentale con i dati distorti da parte dei governi è il rischio di incarcerazione ingiusta, o anche peggio algoritmi di previsione della criminalità che offrono condanne più lunghe alle minoranze.

“Non dovresti affrontare la discriminazione da parte degli algoritmi e i sistemi dovrebbero essere utilizzati e progettati in modo equo. La discriminazione algoritmica si verifica quando i sistemi automatizzati contribuiscono a trattamenti differenziati ingiustificati o impatti sfavorevoli nei confronti delle persone in base alla loro razza, colore, etnia, sesso (compresa la gravidanza, il parto e le condizioni mediche correlate, l’identità di genere, lo stato intersex, l’orientamento sessuale) religione, età, origine nazionale, disabilità, stato di veterano, informazioni genetiche o qualsiasi altra classificazione protetta dalla legge. A seconda delle circostanze specifiche, la discriminazione algoritmica può violare le protezioni legali. I progettisti, gli sviluppatori e i distributori di sistemi automatizzati dovrebbero adottare misure proattive e continue per proteggere gli individui e le comunità dalla discriminazione algoritmica e utilizzare e progettare i sistemi in modo equo. Questa protezione dovrebbe includere valutazioni di equità proattive come parte della progettazione del sistema, utilizzo di dati rappresentativi e protezione contro proxy per caratteristiche demografiche, garantendo l’accessibilità per le persone con disabilità nella progettazione e nello sviluppo, test di disparità e mitigazione pre-distribuzione e continua, e chiara supervisione organizzativa. La valutazione indipendente e la relazione in lingua semplice, nella forma di una valutazione di impatto algoritmico, compresi i risultati dei test di disparità e le informazioni di mitigazione, dovrebbero essere eseguiti e resi pubblici quando possibile per confermare queste protezioni.

Dovrebbe essere notato che gli Stati Uniti hanno adottato un approccio molto trasparente quando si tratta di intelligenza artificiale, queste sono politiche progettate per proteggere il pubblico in generale, un chiaro contrasto con gli approcci all’AI adottati dalla Cina.

3. Protezione dei dati

Questo principio di protezione dei dati è quello che probabilmente avrà il maggior impatto sul segmento più ampio della popolazione. La prima metà del principio sembra occuparsi della raccolta di dati, in particolare con i dati raccolti su Internet, un problema noto soprattutto per le piattaforme dei social media. Questi stessi dati possono quindi essere utilizzati per vendere pubblicità, o anche peggio per manipolare l’opinione pubblica e influenzare le elezioni.

“Dovresti essere protetto da pratiche di dati abusive tramite protezioni integrate e dovresti avere il controllo su come i dati su di te vengono utilizzati. Dovresti essere protetto da violazioni della privacy attraverso scelte di progettazione che garantiscano che tali protezioni siano incluse per impostazione predefinita, compreso il fatto che la raccolta di dati si conformi alle aspettative ragionevoli e che solo i dati strettamente necessari per il contesto specifico vengano raccolti. I progettisti, gli sviluppatori e i distributori di sistemi automatizzati dovrebbero cercare il tuo permesso e rispettare le tue decisioni riguardo alla raccolta, all’uso, all’accesso, al trasferimento e alla cancellazione dei tuoi dati in modi appropriati e nella misura più ampia possibile; quando non è possibile, dovrebbero essere utilizzate alternative di salvaguardia della privacy per progettazione. I sistemi non dovrebbero impiegare decisioni di progettazione e di esperienza utente che oscurino la scelta dell’utente o gravino gli utenti con impostazioni predefinite che sono invasive della privacy. Il consenso dovrebbe essere utilizzato solo per giustificare la raccolta di dati nei casi in cui può essere dato in modo appropriato e significativo. Le richieste di consenso dovrebbero essere brevi, essere comprensibili in lingua semplice e darti il controllo sulla raccolta di dati e sul contesto specifico di utilizzo; le pratiche di notifica e scelta attuali per usi ampi di dati dovrebbero essere modificate.

La seconda metà del principio di protezione dei dati sembra essere preoccupata per la sorveglianza da parte dei governi e delle aziende.

Attualmente, le aziende sono in grado di monitorare e spiare i dipendenti, in alcuni casi potrebbe essere per migliorare la sicurezza sul lavoro, durante la pandemia di COVID-19 è stato per far rispettare l’uso delle maschere, più spesso è semplicemente fatto per monitorare come il tempo di lavoro viene utilizzato. In molti di questi casi, i dipendenti si sentono come se stessero essere monitorati e controllati oltre ciò che è ritenuto accettabile.

“Protezioni e restrizioni avanzate per i dati e le inferenze relative a domini sensibili, compresi la salute, il lavoro, l’istruzione, la giustizia penale e le finanze, e per i dati relativi ai giovani dovrebbero mettere te per primo. Nei domini sensibili, i tuoi dati e le relative inferenze dovrebbero essere utilizzati solo per funzioni necessarie e dovresti essere protetto da revisione etica e da proibizioni di utilizzo. Tu e le tue comunità dovrebbero essere liberi da una sorveglianza incontrollata; le tecnologie di sorveglianza dovrebbero essere soggette a una supervisione rafforzata che includa almeno una valutazione pre-distribuzione dei loro potenziali danni e limiti di portata per proteggere la privacy e le libertà civili. La sorveglianza e il monitoraggio continui non dovrebbero essere utilizzati nell’istruzione, nel lavoro, nell’abitazione o in altri contesti in cui l’uso di tali tecnologie di sorveglianza è probabile che limiti i diritti, le opportunità o l’accesso. Quando possibile, dovresti avere accesso a relazioni che confermino che le tue decisioni sui dati sono state rispettate e forniscono una valutazione dell’impatto potenziale delle tecnologie di sorveglianza sui tuoi diritti, opportunità o accesso.

Dovrebbe essere notato che l’AI può essere utilizzata per proteggere la privacy delle persone.

4. Notifica e spiegazione

Questo dovrebbe essere il grido di allarme per le aziende per schierare un consiglio di etica dell’AI, nonché spingere ad accelerare lo sviluppo di intelligenza artificiale spiegabile. L’intelligenza artificiale spiegabile è necessaria nel caso in cui un modello di intelligenza artificiale commetta un errore, capire come funziona l’AI consente la facile diagnosi di un problema.

L’intelligenza artificiale spiegabile consentirà anche la condivisione trasparente di informazioni su come i dati vengono utilizzati e perché una decisione è stata presa dall’AI. Senza intelligenza artificiale spiegabile sarà impossibile rispettare queste politiche a causa del problema della scatola nera dell’apprendimento profondo.

Le aziende che si concentrano sull’miglioramento di questi sistemi trarranno anche vantaggio dalla comprensione delle sfumature e delle complessità dietro a una decisione specifica di un algoritmo di apprendimento profondo.

“Dovresti sapere che un sistema automatizzato è in uso e capire come e perché contribuisce agli esiti che ti riguardano. I progettisti, gli sviluppatori e i distributori di sistemi automatizzati dovrebbero fornire documentazione in lingua semplice e accessibile, comprese descrizioni chiare del funzionamento generale del sistema e del ruolo dell’automazione, notifica dell’uso di tali sistemi, l’individuo o l’organizzazione responsabile del sistema e spiegazioni degli esiti che sono chiari, tempestivi e accessibili. Tale notifica dovrebbe essere mantenuta aggiornata e le persone interessate dal sistema dovrebbero essere informate dei cambiamenti significativi nell’uso o nella funzionalità principale. Dovresti sapere come e perché un esito che ti riguarda è stato determinato da un sistema automatizzato, compreso quando il sistema automatizzato non è l’unico input che determina l’esito. I sistemi automatizzati dovrebbero fornire spiegazioni che sono tecnicamente valide, significative e utili per te e per qualsiasi operatore o altro che debba capire il sistema, e calibrate al livello di rischio in base al contenuto. Le relazioni che includono informazioni riassuntive su questi sistemi automatizzati in lingua semplice e valutazioni della chiarezza e della qualità della notifica e delle spiegazioni dovrebbero essere rese pubbliche quando possibile.

5. Alternative umane, considerazione e fallback

A differenza della maggior parte dei principi sopra, questo principio è più applicabile alle entità governative o alle istituzioni privatizzate che lavorano per conto del governo.

Anche con un consiglio di etica dell’AI e un’intelligenza artificiale spiegabile, è importante fare affidamento alla revisione umana quando sono in gioco le vite. C’è sempre il potenziale per errori e avere un umano che esamina un caso quando richiesto potrebbe evitare uno scenario come un’AI che manda le persone sbagliate in prigione.

Il sistema giudiziario e quello penale hanno più spazio per causare danni irreparabili ai membri marginalizzati della società e dovrebbero prendere particolarmente nota di questo principio.

“Dovresti essere in grado di opt-out, quando appropriato, e avere accesso a una persona che possa considerare rapidamente e risolvere i problemi che incontri. Dovresti essere in grado di opt-out dai sistemi automatizzati in favore di un’alternativa umana, quando appropriato. L’adeguatezza dovrebbe essere determinata in base a aspettative ragionevoli in un contesto dato e con un focus sull’assicurare un’ampia accessibilità e proteggere il pubblico da impatti particolarmente dannosi. In alcuni casi, un’alternativa umana può essere richiesta dalla legge. Dovresti avere accesso a una considerazione umana tempestiva e a un rimedio per un fallback e un problema di escalation se un sistema automatizzato fallisce, produce un errore o se desideri appellarti o contestare il suo impatto su di te. La considerazione umana e il fallback dovrebbero essere accessibili, equi, efficaci, mantenuti, accompagnati da una formazione appropriata per gli operatori e non dovrebbero imporre un onere eccessivo sul pubblico. I sistemi automatizzati con un uso previsto all’interno di domini sensibili, compresi, ma non limitati a, sistema penale, occupazione, istruzione e salute, dovrebbero inoltre essere adattati allo scopo, fornire un accesso significativo alla supervisione, includere la formazione per le persone che interagiscono con il sistema e incorporare la considerazione umana per le decisioni avverse o ad alto rischio. Le relazioni che includono una descrizione di questi processi di governance umana e una valutazione della loro tempestività, accessibilità, esiti e efficacia dovrebbero essere rese pubbliche quando possibile.

Riepilogo

L’OSTP dovrebbe essere accreditato per aver tentato di introdurre un framework che collega i protocolli di sicurezza necessari per la società senza introdurre politiche draconiane che potrebbero ostacolare il progresso nello sviluppo dell’apprendimento automatico.

Dopo che i principi sono stati delineati, il bill continua fornendo un compagno tecnico alle questioni discusse, nonché informazioni dettagliate su ogni principio e i migliori modi per implementare questi principi.

I proprietari di aziende e le aziende intelligenti dovrebbero prendere nota di studiare questo bill, poiché può essere solo vantaggioso implementare queste politiche il più presto possibile.

L’intelligenza artificiale spiegabile continuerà a dominare in importanza, come può essere visto da questo citazione del bill.

“In tutto il governo federale, le agenzie stanno conducendo e sostenendo la ricerca su sistemi di intelligenza artificiale spiegabili. Il NIST sta conducendo ricerche fondamentali sulla spiegabilità dei sistemi di intelligenza artificiale. Un team multidisciplinare di ricercatori mira a sviluppare metodi di misurazione e best practice per supportare l’implementazione dei principi fondamentali dell’intelligenza artificiale spiegabile. L’Agenzia per la ricerca e lo sviluppo avanzato della difesa ha un programma su Intelligenza Artificiale Spiegabile che mira a creare una serie di tecniche di apprendimento automatico che producono modelli più spiegabili, mantenendo allo stesso tempo un alto livello di prestazioni di apprendimento (accuratezza della previsione), e consentire agli utenti umani di capire, fidarsi appropriatamente e gestire efficacemente la nuova generazione di partner intelligenti artificiali. Il programma della National Science Foundation su Fairness in Artificial Intelligence include anche un interesse specifico per le fondamenta di ricerca per l’intelligenza artificiale spiegabile.

Cosa non dovrebbe essere trascurato è che alla fine i principi delineati qui diventeranno il nuovo standard.