Lama Nachman, Intel Fellow e Direttore del Laboratorio di Calcolo Anticipatorio – Serie di Interviste

Lama Nachman, è un Intel (INTC ) Fellow e Direttore del Laboratorio di Calcolo Anticipatorio. Lama è nota per il suo lavoro con il Prof. Stephen Hawking, ed è stata fondamentale nella creazione di un sistema informatico di supporto per aiutare il Prof. Stephen Hawking a comunicare. Oggi sta aiutando il roboticista britannico Dr. Peter Scott-Morgan a comunicare. Nel 2017, il Dr. Peter Scott-Morgan ha ricevuto la diagnosi di malattia del motoneurone (MND), nota anche come ALS o malattia di Lou Gehrig. La MND attacca il cervello e i nervi e alla fine paralizza tutti i muscoli, anche quelli che consentono di respirare e deglutire.

Il Dr. Peter Scott-Morgan ha affermato una volta: “Continuerò a evolvermi, morendo come un essere umano, vivendo come un cyborg.”

Cosa ti ha attirato verso l’AI?

Sono sempre stata attratta dall’idea che la tecnologia possa essere il grande livellatore. Quando sviluppata in modo responsabile, ha il potenziale di livellare il campo, affrontare le disuguaglianze sociali e amplificare il potenziale umano. Non c’è posto dove questo sia più vero che con l’AI. Mentre gran parte della conversazione dell’industria sull’AI e gli esseri umani posiziona la relazione tra i due come avversaria, credo che ci siano cose uniche che le macchine e le persone sono brave a fare, quindi preferisco vedere il futuro attraverso la lente della collaborazione tra esseri umani e AI piuttosto che la competizione tra esseri umani e AI. Lavoro al Laboratorio di Calcolo Anticipatorio di Intel Labs, dove, in tutti i nostri sforzi di ricerca, abbiamo un focus singolare sulla consegna di innovazioni informatiche che si estendono per un impatto sociale più ampio. Considerando quanto l’AI sia già pervasiva e il suo crescente impatto in ogni aspetto della nostra vita, vedo una grande promessa nella ricerca che il mio team sta conducendo per rendere l’AI più accessibile, più consapevole del contesto, più responsabile e, infine, portare soluzioni tecnologiche su larga scala per aiutare le persone nel mondo reale.

Ha lavorato a stretto contatto con il leggendario fisico Prof. Stephen Hawking per creare un sistema AI che lo aiutasse a comunicare e a svolgere compiti che la maggior parte di noi considererebbe routine. Quali erano alcuni di questi compiti di routine?

Lavorare con il Prof. Stephen Hawking è stato il compito più significativo e impegnativo della mia vita. Ha nutrito la mia anima e mi ha fatto capire veramente come la tecnologia possa migliorare profondamente la vita delle persone. Ha vissuto con l’ALS, una malattia neurologica degenerativa, che nel tempo priva il paziente della capacità di svolgere le attività più semplici. Nel 2011, abbiamo iniziato a lavorare con lui per esplorare come migliorare il sistema informatico di supporto che gli consentiva di interagire con il mondo. Oltre a utilizzare il computer per parlare con le persone, Stephen utilizzava il computer come facciamo tutti, modificando documenti, navigando nel web, tenendo conferenze, leggendo e scrivendo email, ecc. La tecnologia ha consentito a Stephen di continuare a partecipare attivamente al mondo e a ispirarlo per anni dopo che le sue capacità fisiche si erano ridotte rapidamente. Quello, per me, è ciò che l’impatto significativo della tecnologia sulla vita di qualcuno sembra!

Quali sono alcune delle principali intuizioni che hai tratto dal lavoro con il Prof. Stephen Hawking?

Il nostro schermo del computer è veramente la nostra porta d’accesso al mondo. Se le persone possono controllare il loro PC, possono controllare tutti gli aspetti della loro vita (consumare contenuti, accedere al mondo digitale, controllare l’ambiente fisico, navigare con la sedia a rotelle, ecc.). Per le persone con disabilità che possono ancora parlare, i progressi nel riconoscimento vocale consentono loro di avere il pieno controllo dei dispositivi (e in larga misura, dell’ambiente fisico). Tuttavia, coloro che non possono parlare e non possono muoversi sono veramente impediti nel non poter esercitare molta indipendenza. Quello che l’esperienza con il Prof. Hawking mi ha insegnato è che le piattaforme di tecnologia di supporto devono essere personalizzate per le esigenze specifiche dell’utente. Ad esempio, non possiamo semplicemente supporre che una soluzione unica funzioni per le persone con ALS, perché la malattia colpisce capacità diverse tra i pazienti. Quindi, abbiamo bisogno di tecnologie che possano essere facilmente configurate e adattate alle esigenze individuali. È per questo che abbiamo costruito ACAT (Assistive Context Aware Toolkit), una piattaforma software open-source modulare che può consentire agli sviluppatori di innovare e costruire diverse capacità su di essa.

Io ho anche imparato che è importante capire la soglia di comfort di ogni utente nel cedere il controllo in cambio di maggiore efficienza (questo non è limitato alle persone con disabilità). Ad esempio, l’AI può essere in grado di prendere il controllo dall’utente per svolgere un compito più velocemente o in modo più efficiente, ma ogni utente ha un livello diverso di avversione al rischio. Alcuni sono disposti a cedere più controllo, mentre altri utenti vogliono mantenerne di più. Capire queste soglie e fino a che punto le persone sono disposte ad andare ha un grande impatto su come questi sistemi possono essere progettati. Dobbiamo ripensare la progettazione del sistema in termini di livello di comfort dell’utente piuttosto che solo misure oggettive di efficienza e precisione.

Recentemente, ha lavorato con un famoso scienziato britannico Peter Scott Morgan che soffre di malattia del motoneurone e ha l’obiettivo di diventare il primo cyborg completo al mondo. Quali sono alcuni degli obiettivi ambiziosi che Peter ha?

Uno dei problemi dell’AAC (Comunicazione e Supporto Assistivo) è il “silenzio gap”. Molte persone con ALS (incluso Peter) utilizzano il controllo dello sguardo per scegliere lettere / parole sullo schermo per parlare con gli altri. Ciò comporta un lungo silenzio dopo che qualcuno finisce la sua frase mentre la persona guarda il computer e inizia a formulare le lettere e le parole per rispondere. Peter vuole ridurre questo silenzio gap il più possibile per riportare la spontaneità verbale nella comunicazione. Vuole anche preservare la sua voce e la sua personalità e utilizzare un sistema di testo-vocale che esprima il suo stile di comunicazione unico (ad esempio le sue battute, la sua prontezza di spirito, le sue emozioni).

Il roboticista britannico Dr. Peter Scott-Morgan, che soffre di malattia del motoneurone, ha iniziato nel 2019 a sottoporsi a una serie di operazioni per estendere la sua vita utilizzando la tecnologia. (Credit: Cardiff Productions)

Potresti discutere alcune delle tecnologie attualmente utilizzate per assistere il Dr. Peter Scott-Morgan?

Peter sta utilizzando ACAT (Assistive Context Aware Toolkit), la piattaforma che abbiamo costruito durante il nostro lavoro con il Dr. Hawking e successivamente rilasciata come open-source. A differenza del Dr. Hawking, che utilizzava i muscoli della guancia come “grilletto di input” per controllare le lettere sullo schermo, Peter sta utilizzando il controllo dello sguardo (una funzionalità che abbiamo aggiunto alla piattaforma ACAT esistente) per parlare e controllare il suo PC, che si interfaccia con una soluzione di testo-vocale di una società chiamata CereProc che è stata personalizzata per lui e gli consente di esprimere diverse emozioni/enfasi. Il sistema controlla anche un avatar personalizzato per lui.

Stiamo attualmente lavorando a un sistema di generazione di risposte per ACAT che possa consentire a Peter di interagire con il sistema a un livello più elevato utilizzando le capacità dell’AI. Questo sistema ascolterà le conversazioni di Peter nel tempo e suggerirà risposte per Peter da selezionare sullo schermo. L’obiettivo è che, nel tempo, il sistema di AI possa imparare dai dati di Peter e consentirgli di “spingere” il sistema per fornirgli le migliori risposte utilizzando solo alcune parole chiave (simile a come funziona la ricerca sul web oggi). Il nostro obiettivo con il sistema di generazione di risposte è ridurre il silenzio gap nella comunicazione menzionato sopra e potenziare Peter e gli utenti futuri di ACAT per comunicare a un ritmo che sembri più “naturale”.

Hai anche parlato dell’importanza della trasparenza nell’AI, quanto grande è questo problema?

È un grande problema, soprattutto quando viene utilizzato in sistemi di decisione o sistemi di collaborazione tra esseri umani e AI. Ad esempio, nel caso del sistema di supporto di Peter, dobbiamo capire cosa sta facendo il sistema per generare queste raccomandazioni e come influenzare l’apprendimento di questo sistema per esprimere più fedelmente le sue idee.

Nel contesto più ampio dei sistemi di decisione, sia che si tratti di aiutare con la diagnosi basata sull’imaging medico o di fornire raccomandazioni per la concessione di prestiti, i sistemi di AI devono fornire informazioni interpretabili dagli esseri umani su come sono giunti a queste decisioni, quali attributi o caratteristiche sono stati più influenti su quella decisione, quale livello di fiducia ha il sistema nella deduzione fatta, ecc. Ciò aumenta la fiducia nei sistemi di AI e consente una migliore collaborazione tra esseri umani e AI in scenari di decisione mista.

L’AI pregiudizio, in particolare quando si tratta di razzismo e sessismo, è un enorme problema, ma come si identificano altri tipi di pregiudizio quando non si ha idea di cosa si stia cercando?

È un problema molto difficile e che non può essere risolto solo con la tecnologia. Dobbiamo portare più diversità nello sviluppo dei sistemi di AI (razziale, di genere, culturale, di capacità fisica, ecc.). Questo è chiaramente un grande gap nella popolazione che costruisce questi sistemi di AI oggi. Inoltre, è fondamentale avere team multidisciplinari coinvolti nella definizione e nello sviluppo di questi sistemi, portando scienze sociali, filosofia, psicologia, etica e politica al tavolo (non solo informatica), e impegnandosi nel processo di indagine nel contesto dei progetti e dei problemi specifici.

Hai parlato in precedenza dell’uso dell’AI per amplificare il potenziale umano. Quali sono alcune aree che mostrano il maggior potenziale per questo ampliamento del potenziale umano?

Un’area ovvia è quella di consentire alle persone con disabilità di vivere in modo più indipendente, di comunicare con i propri cari e di continuare a creare e contribuire alla società. Vedrei un grande potenziale nell’istruzione, nella comprensione dell’impegno degli studenti e nella personalizzazione dell’esperienza di apprendimento alle esigenze e alle capacità individuali degli studenti per migliorare l’impegno, potenziare gli insegnanti con queste conoscenze e migliorare i risultati di apprendimento. La disuguaglianza nell’istruzione oggi è così profonda e c’è un posto per l’AI per aiutare a ridurre alcune di queste disuguaglianze se lo facciamo nel modo giusto. Ci sono infinite opportunità per l’AI di portare un grande valore creando sistemi di collaborazione tra esseri umani e AI in molti settori (sanità, produzione, ecc.) perché ciò che gli esseri umani e l’AI portano al tavolo sono molto complementari. Perché questo accada, abbiamo bisogno di innovazione all’intersezione tra scienze sociali, HCI e AI. La percezione multi-modale robusta, la consapevolezza del contesto, l’apprendimento da dati limitati, l’HCI fisicamente situato e l’interpretazione sono alcune delle sfide chiave su cui dobbiamo concentrarci per portare questa visione a compimento.

Hai anche parlato di quanto sia importante il riconoscimento delle emozioni per il futuro dell’AI? Perché l’industria dell’AI dovrebbe concentrarsi di più su quest’area di ricerca?

Il riconoscimento delle emozioni è una capacità chiave dei sistemi di AI e umani per molte ragioni. Un aspetto è che l’emozione umana offre un contesto umano chiave per qualsiasi sistema proattivo per comprendere prima di agire.

È più importante che questi tipi di sistemi debbano continuare a imparare nel mondo reale e adattarsi in base alle interazioni con gli utenti, e mentre il feedback diretto è un segnale chiave per l’apprendimento, i segnali indiretti sono molto importanti e sono gratuiti (meno lavoro per l’utente). Ad esempio, un assistente digitale può imparare molto dalla frustrazione nella voce di un utente e utilizzare quel segnale di feedback per l’apprendimento di cosa fare in futuro, invece di chiedere all’utente un feedback ogni volta. Queste informazioni possono essere utilizzate per sistemi di apprendimento attivo dell’AI per continuare a migliorare nel tempo.

C’è qualcos’altro che vorresti condividere su ciò su cui stai lavorando al Laboratorio di Calcolo Anticipatorio o su altri argomenti che abbiamo discusso?

Quando si costruiscono sistemi di supporto, dobbiamo realmente pensare a come costruire questi sistemi in modo responsabile e a come consentire alle persone di capire quali informazioni vengono raccolte e come controllare questi sistemi in modo pratico. Come ricercatori di AI, spesso siamo affascinati dai dati e vogliamo avere quanti più dati possibile per migliorare questi sistemi, tuttavia, c’è un compromesso tra il tipo e la quantità di dati che vogliamo e la privacy dell’utente. Dobbiamo realmente limitare i dati che raccogliamo a quelli assolutamente necessari per eseguire il compito di inferenza, rendere gli utenti consapevoli di esattamente quali dati stiamo raccogliendo e consentire loro di regolare questo compromesso in modi significativi e utilizzabili.

Grazie per l’intervista fantastica, i lettori che desiderano saperne di più su questo progetto dovrebbero leggere l’articolo Intel’s Lama Nachman e Peter Scott-Morgan: Due scienziati, uno un “cyborg umano”.

Il team del Laboratorio di Calcolo Anticipatorio di Intel che ha sviluppato Assistive Context-Aware Toolkit include (da sinistra) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman e Pete Denman. Non in foto sono Bruna Girvent, Saurav Sahay e Shachi Kumar. (Credit: Lama Nachman)