Juliette Powell & Art Kleiner, Autori di The AI Dilemma – Serie di Interviste

The AI Dilemma è scritto da Juliette Powell e Art Kleiner.

Juliette Powell è un’autrice, una creatrice di programmi televisivi con 9.000 spettacoli live alle spalle, e una tecnologa e sociologa. È anche un commentatrice di Bloomberg TV/ Business News Networks e un relatore a conferenze organizzate dall’Economist e dalla International Finance Corporation. Il suo discorso TED ha 130K visualizzazioni su YouTube. Juliette identifica i modelli e le pratiche dei leader aziendali di successo che puntano sull’AI etica e sui dati per vincere. È docente presso la NYU’s ITP, dove insegna quattro corsi, tra cui Design Skills for Responsible Media, un corso basato sul suo libro.

Art Kleiner è uno scrittore, editore e futurista. I suoi libri includono The Age of Heretics, Who Really Matters, Privilege and Success e The Wise. È stato editore di strategy+business, la rivista vincitrice di premi pubblicata da PwC. Art è anche un membro del faculty di lunga data presso la NYU-ITP e l’IMA, dove i suoi corsi includono l’insegnamento congiunto di Responsible Technology e il futuro dei media.

“The AI Dilemma” è un libro che si concentra sui pericoli della tecnologia AI nelle mani sbagliate, pur riconoscendo i benefici che l’AI offre alla società.

I problemi sorgono perché la tecnologia sottostante è così complessa che diventa impossibile per l’utente finale comprendere veramente il funzionamento interno di un sistema chiuso.

Uno dei problemi più significativi evidenziati è come la definizione di AI responsabile sia sempre in evoluzione, poiché i valori sociali spesso non rimangono coerenti nel tempo.

Ho apprezzato molto la lettura di “The AI Dilemma”. È un libro che non sensazionalizza i pericoli dell’AI o si addentra profondamente nei potenziali rischi dell’Intelligenza Artificiale Generale (AGI). Invece, i lettori imparano sui modi sorprendenti in cui i nostri dati personali vengono utilizzati senza la nostra conoscenza, nonché alcune delle limitazioni attuali dell’AI e delle ragioni di preoccupazione.

Di seguito sono riportate alcune domande progettate per mostrare ai nostri lettori cosa possono aspettarsi da questo libro innovativo.

Cosa ti ha ispirato inizialmente a scrivere “The AI Dilemma”?

Juliette è andata a Columbia in parte per studiare i limiti e le possibilità della regolamentazione dell’AI. Aveva sentito direttamente da amici che lavoravano su progetti di AI sulla tensione insita in quei progetti. È giunta alla conclusione che c’era un dilemma dell’AI, un problema molto più grande dell’auto-regolamentazione. Ha sviluppato il modello di benchmark Apex – un modello di come le decisioni sull’AI tendessero verso una bassa responsabilità a causa delle interazioni tra aziende e gruppi all’interno delle aziende. Ciò l’ha portata alla sua tesi.

Art aveva lavorato con Juliette su numerosi progetti di scrittura. Ha letto la sua tesi e ha detto: “Hai un libro qui”. Juliette lo ha invitato a co-autore. Nel lavorare insieme, hanno scoperto di avere prospettive molto diverse, ma condividono una forte convinzione che questo fenomeno complesso e altamente rischioso dell’AI debba essere compreso meglio, in modo che le persone che lo utilizzano possano agire in modo più responsabile ed efficace.

Uno dei problemi fondamentali evidenziati in The AI Dilemma è come attualmente sia impossibile capire se un sistema AI sia responsabile o se perpetui disuguaglianze sociali semplicemente studiando il suo codice sorgente. Quanto grande è questo problema?

Il problema non è principalmente con il codice sorgente. Come sottolinea Cathy O’Neil, quando c’è un sistema chiuso, non si tratta solo del codice. È il sistema sociotecnico – le forze umane e tecnologiche che si influenzano a vicenda – che deve essere esplorato. La logica che ha costruito e rilasciato il sistema AI coinvolge l’identificazione di uno scopo, l’identificazione dei dati, la definizione delle priorità, la creazione di modelli, l’impostazione di linee guida e barriere per l’apprendimento automatico e la decisione di quando e come un essere umano debba intervenire. È questa la parte che deve essere resa trasparente – almeno agli osservatori e agli auditor. Il rischio di disuguaglianze sociali e altri rischi è molto più grande quando queste parti del processo sono nascoste. Non si può realmente ri-progettare la logica del design solo dal codice sorgente.

Il focus sull’Explainable AI (XAI) può mai risolvere questo problema?

Per gli ingegneri, l’Explainable AI è attualmente considerata come un insieme di vincoli tecnologici e pratiche, finalizzati a rendere i modelli più trasparenti per le persone che lavorano su di essi. Per chi è falsamente accusato, l’esplicabilità ha un significato e un’urgenza completamente diversi. Hanno bisogno di esplicabilità per poter difendersi. Tutti abbiamo bisogno di esplicabilità nel senso di rendere chiare le decisioni aziendali o governative sottostanti ai modelli. Almeno negli Stati Uniti, ci sarà sempre una tensione tra esplicabilità – il diritto dell’umanità di sapere – e il diritto di un’organizzazione di competere e innovare. Gli auditor e i regolatori necessitano di un livello di esplicabilità diverso. Approfondiamo questo aspetto in The AI Dilemma.

Puoi condividere brevemente la tua opinione sull’importanza di tenere responsabili gli stakeholder (aziende di AI) per il codice che rilasciano nel mondo?

Finora, ad esempio, nel caso del collisione dell’auto a guida autonoma a Tempe, in Arizona, che ha ucciso un pedone, l’operatore è stato ritenuto responsabile. Un individuo è andato in prigione. Tuttavia, in ultima analisi, si è trattato di un fallimento organizzativo.

Quando un ponte crolla, l’ingegnere meccanico è ritenuto responsabile. Ciò avviene perché gli ingegneri meccanici sono formati, continuamente ri-formati e tenuti responsabili dalla loro professione. Gli ingegneri informatici non lo sono.

Gli stakeholder, comprese le aziende di AI, dovrebbero essere formati e ri-formati per prendere decisioni migliori e avere più responsabilità?

The AI Dilemma si concentra molto su come aziende come Google (GOOGL ) e Meta possano raccogliere e monetizzare i nostri dati personali. Puoi condividere un esempio di significativo abuso dei nostri dati che dovrebbe essere sulla radar di tutti?

Dal The AI Dilemma, pagina 67 e seguenti:

Nuovi casi di abuso sistematico dei dati personali continuano a emergere pubblicamente, molti dei quali coinvolgono l’uso occulto del riconoscimento facciale. Nel dicembre 2022, MIT Technology Review ha pubblicato resoconti di una pratica di lunga data di iRobot. I robot domestici Roomba registrano immagini e video scattati nelle case dei beta-tester volontari, il che inevitabilmente significa raccogliere immagini personali e familiari intime. Queste vengono condivise, senza che i tester ne siano a conoscenza, con gruppi al di fuori del paese. In almeno un caso, un’immagine di un individuo sul water è stata pubblicata su Facebook (META ). Nel frattempo, in Iran, le autorità hanno iniziato a utilizzare i dati dei sistemi di riconoscimento facciale per tracciare e arrestare donne che non indossano il velo.16

Non c’è bisogno di dilungarsi ulteriormente su queste storie. Ce ne sono così tante. Tuttavia, è importante identificare l’effetto cumulativo di vivere in questo modo. Perdiamo il senso di controllo sulla nostra vita quando sentiamo che le nostre informazioni private potrebbero essere utilizzate contro di noi, in qualsiasi momento, senza preavviso.

Un concetto pericoloso che è stato sollevato è come il nostro intero mondo sia progettato per essere senza attrito, con la definizione di attrito come “qualsiasi punto nel percorso del cliente con un’azienda in cui si verifica un problema che rallenta o causa insoddisfazione”. Come la nostra aspettativa di un’esperienza senza attrito potrebbe portare a un AI pericolosa?

In Nuova Zelanda, un bot per pasti Pak’n’Save ha suggerito una ricetta che avrebbe creato gas cloro se utilizzata. Ciò è stato promosso come un modo per i clienti di utilizzare gli avanzi e risparmiare denaro.

La mancanza di attrito crea un’illusione di controllo. È più veloce e facile ascoltare l’app piuttosto che cercare la ricetta della nonna. Le persone seguono il percorso della minore resistenza e non si rendono conto dove li sta portando.

L’attrito, al contrario, è creativo. Ci si impegna. Ciò porta a un controllo reale. Il controllo reale richiede attenzione e lavoro, e – nel caso dell’AI – un’analisi costi-benefici estesa.

Con l’illusione di controllo, sembra che viviamo in un mondo in cui i sistemi AI stanno promuovendo gli esseri umani, invece di lasciare che gli esseri umani rimangano pienamente in controllo. Quali sono alcuni esempi che puoi fornire di esseri umani che collettivamente credono di avere il controllo, quando in realtà non ne hanno alcuno?

A San Francisco, ad esempio, con i robotaxi. L’idea di taxi a guida autonoma tende a suscitare due emozioni contrastanti: entusiasmo (“taxi a un costo molto più basso!”) e paura (“mi colpiranno?”). Pertanto, molti regolatori suggeriscono che le auto vengano testate con persone a bordo, che possano gestire i controlli. Purtroppo, avere esseri umani all’erta, pronti a sovrascrivere i sistemi in tempo reale, potrebbe non essere un buon test di sicurezza pubblica. L’eccessiva fiducia è una dinamica frequente con i sistemi AI. Più il sistema è autonomo, più gli operatori umani tendono a fidarsi e non prestare piena attenzione. Ci annoiamo a guardare queste tecnologie. Quando un incidente sta per accadere, non ci aspettiamo che accada e spesso non reagiamo in tempo.

Molte ricerche sono state condotte per questo libro, c’è stato qualcosa che ti ha sorpreso?

Una cosa che ci ha veramente sorpreso è che le persone in tutto il mondo non sono riuscite a concordare su chi dovrebbe vivere e chi dovrebbe morire nella simulazione di The Moral Machine di una collisione di un’auto a guida autonoma. Se non possiamo concordare su questo, allora è difficile immaginare che potremmo avere una governance globale unificata o standard universali per i sistemi AI.

Entrambi vi descrivete come imprenditori, come ciò che avete imparato e riportato influenzerà i vostri sforzi futuri?

La nostra pratica di consulenza AI è orientata verso l’aiuto alle organizzazioni a crescere in modo responsabile con la tecnologia. Avvocati, ingegneri, scienziati sociali e pensatori aziendali sono tutti stakeholder nel futuro dell’AI. Nel nostro lavoro, mettiamo insieme tutte queste prospettive e pratichiamo la frizione creativa per trovare soluzioni migliori. Abbiamo sviluppato framework come il calcolo del rischio intenzionale per aiutare a navigare queste questioni.

Grazie per le grandi risposte, i lettori che desiderano saperne di più possono visitare The AI Dilemma.