Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Interviu în serie

Lama Nachman, este un Intel Fellow & Director of Anticipatory Computing Lab. Lama este cel mai bine cunoscută pentru lucrările sale cu Prof. Stephen Hawking, ea a fost instrumentală în construirea unui sistem de calculator asistiv pentru a ajuta pe Prof. Stephen Hawking să comunice. Astăzi ea îl ajută pe roboticistul britanic Dr. Peter Scott-Morgan să comunice. În 2017, Dr. Peter Scott-Morgan a primit un diagnostic de boală a neuronilor motori (MND), cunoscută și sub numele de ALS sau boala lui Lou Gehrig. MND atacă creierul și nervii și, în cele din urmă, paralizează toți mușchii, inclusiv cei care permit respirația și înghițirea.

Dr. Peter Scott-Morgan a declarat odată: „Voi continua să evoluez, murind ca om, trăind ca cyborg.”

Ce v-a atras spre IA?

Am fost întotdeauna atrasă de ideea că tehnologia poate fi un mare egalizator. Atunci când este dezvoltată în mod responsabil, are potențialul de a nivelări terenul de joc, de a aborda inegalitățile sociale și de a amplifica potențialul uman. Nicăieri nu este acest lucru mai adevărat decât în cazul IA. În timp ce o mare parte a discuției din industrie despre IA și oameni poziționează relația dintre cele două ca adversă, eu cred că există lucruri unice la care mașinile și oamenii sunt buni, așa că prefer să văd viitorul prin lentila colaborării Human-AI, mai degrabă decât a competiției human-AI. Conduc Laboratorul de Calcul Anticipativ la Intel Labs, unde, în toate eforturile noastre de cercetare, avem un focus singular pe furnizarea de inovații în domeniul calculului care să aibă un impact societally larg. Având în vedere cât de omniprezentă este deja IA și cât de mare este amprenta sa în fiecare aspect al vieții noastre, văd un potențial enorm în cercetarea pe care o desfășoară echipa mea pentru a face IA mai accesibilă, mai conștientă de context, mai responsabilă și, în cele din urmă, pentru a aduce soluții tehnologice la scară pentru a ajuta oamenii în lumea reală.

Ați lucrat îndeaproape cu fizicianul legendat Prof. Stephen Hawking pentru a crea un sistem IA care să îl ajute cu comunicarea și cu sarcinile pe care majoritatea dintre noi le considerăm rutiniere. Care au fost unele dintre aceste sarcini rutiniere?

Lucrul cu Prof. Stephen Hawking a fost cel mai semnificativ și provocator efort al vieții mele. A hrănit sufletul meu și a arătat cu adevărat cum tehnologia poate îmbunătăți profund viețile oamenilor. El a trăit cu ALS, o boală neurologică degenerativă, care, în timp, îi ia pacientului capacitatea de a efectua cele mai simple activități. În 2011, am început să lucrăm cu el pentru a explora modurile în care putem îmbunătăți sistemul de calculator asistiv care îi permitea să interacționeze cu lumea. Pe lângă utilizarea calculatorului pentru a vorbi cu oamenii, Stephen a folosit calculatorul lui, la fel ca toți ceilalți, pentru a edita documente, a naviga pe internet, a ține prelegeri, a citi/scrie e-mailuri etc. Tehnologia i-a permis lui Stephen să continue să participe activ și să inspire lumea pentru mulți ani după ce capacitățile sale fizice s-au diminuat rapid. Acesta, pentru mine, este impactul semnificativ al tehnologiei asupra vieții cuiva!

Care sunt unele dintre principalele insight-uri pe care le-ați dobândit din lucrul cu Prof. Stephen Hawking?

Ecranul nostru de calculator este, într-adevăr, poarta noastră de intrare în lume. Dacă oamenii pot controla calculatorul lor, pot controla toate aspectele vieții lor (a consuma conținut, a accesa lumea digitală, a controla mediul lor fizic, a naviga cu scaunul cu rotile etc.). Pentru persoanele cu dizabilități care pot vorbi, progresele în recunoașterea vorbirii le permit să aibă control deplin asupra dispozitivelor lor (și, în mare măsură, asupra mediului lor fizic). Cu toate acestea, cei care nu pot vorbi și nu se pot mișca sunt, într-adevăr, împiedicați să își exercite independența. Ce mi-a învățat experiența cu Prof. Hawking este că platformele de tehnologie asistivă trebuie să fie personalizate în funcție de nevoile specifice ale utilizatorului. De exemplu, nu putem presupune că o singură soluție va funcționa pentru persoanele cu ALS, deoarece boala afectează diferite capacități la pacienți. Așa că, avem nevoie de tehnologii care pot fi configurate și adaptate ușor pentru a răspunde nevoilor individuale. De aceea, am construit ACAT (Assistive Context Aware Toolkit), o platformă software modulară, open-source, care poate permite dezvoltatorilor să inoveze și să construiască diferite capacități pe baza acesteia.

De asemenea, am învățat că este important să înțelegem pragul de confort al fiecărui utilizator în ceea ce privește cedarea controlului în schimbul unei mai mari eficiențe (acest lucru nu se limitează la persoanele cu dizabilități). De exemplu, IA poate fi capabilă să ia mai mult control de la utilizator pentru a efectua o sarcină mai rapid sau mai eficient, dar fiecare utilizator are un nivel diferit de aversiune la risc. Unii sunt dispuși să cedeze mai mult control, în timp ce alți utilizatori doresc să își păstreze mai mult control. Înțelegerea acestor praguri și cât de departe sunt dispuși oamenii să meargă are un impact semnificativ asupra modului în care pot fi proiectate aceste sisteme. Avem nevoie să reevaluăm proiectarea sistemelor în funcție de nivelul de confort al utilizatorului, mai degrabă decât doar de măsurile obiective de eficiență și acuratețe.

Mai recent, ați lucrat cu un renumit om de știință britanic, Peter Scott Morgan, care suferă de boală a neuronilor motori și are ca scop să devină primul cyborg complet din lume. Care sunt unele dintre obiectivele ambițioase ale lui Peter?

Una dintre problemele cu AAC (Comunicare Asistivă și Augmentativă) este “golul de tăcere”. Mulți oameni cu ALS (inclusiv Peter) folosesc controlul privirii pentru a alege litere/cuvinte pe ecran pentru a vorbi cu alții. Acest lucru duce la o lungă tăcere după ce cineva termină propoziția, în timp ce persoana se uită la calculator și începe să formuleze litere și cuvinte pentru a răspunde. Peter a dorit să reducă cât mai mult acest gol de tăcere pentru a aduce înapoi spontaneitatea verbală în comunicare. El a dorit, de asemenea, să își păstreze vocea și personalitatea și să folosească un sistem text-vorbă care să exprime stilul său unic de comunicare (de exemplu, glumele sale, sarcasmul său rapid, emoțiile sale).

Roboticistul britanic Dr. Peter Scott-Morgan, care suferă de boală a neuronilor motori, a început în 2019 să suporte o serie de operații pentru a-și prelungi viața cu ajutorul tehnologiei. (Credit: Cardiff Productions)

Puteți discuta despre unele dintre tehnologiile care sunt utilizate în prezent pentru a-l ajuta pe Dr. Peter Scott-Morgan?

Peter folosește ACAT (Assistive Context Aware Toolkit), platforma pe care am construit-o în timpul lucrului cu Dr. Hawking și pe care am lansat-o ulterior ca open-source. În contrast cu Dr. Hawking, care a folosit mușchii din obraji ca “declanșator de intrare” pentru a controla literele de pe ecran, Peter folosește controlul privirii (o capacitate pe care am adăugat-o la ACAT existent) pentru a vorbi și a controla calculatorul său, care se interfațează cu o soluție Text-to-Speech (TTS) de la o companie numită CereProc, care a fost personalizată pentru el și îi permite să exprime diferite emoții/accentuări. Sistemul controlează, de asemenea, un avatar care a fost personalizat pentru el.

În prezent, lucrăm la un sistem de generare a răspunsurilor pentru ACAT, care să îi permită lui Peter să interacționeze cu sistemul la un nivel mai înalt, utilizând capacitățile IA. Acest sistem va asculta conversațiile lui Peter de-a lungul timpului și va sugera răspunsuri pentru Peter să le aleagă pe ecran. Scopul este ca, în timp, sistemul IA să învețe din datele lui Peter și să îi permită lui Peter (și viitorilor utilizatori ai ACAT) să comunice la un ritm care să pară mai “natural”.

Ați vorbit și despre importanța transparenței în IA, cât de mare este această problemă?

Este o problemă mare, mai ales atunci când este implementată în sisteme de luare a deciziilor sau în sisteme de colaborare human-AI. De exemplu, în cazul sistemului asistiv al lui Peter, avem nevoie să înțelegem ce determină sistemul să facă aceste recomandări și cum putem influența învățarea acestui sistem pentru a exprima mai exact ideile sale.

În contextul mai larg al sistemelor de luare a deciziilor, indiferent dacă este vorba de a ajuta la diagnosticarea pe baza imaginilor medicale sau de a face recomandări pentru acordarea de împrumuturi, sistemele IA trebuie să furnizeze informații interpretabile de către oameni despre modul în care au ajuns la aceste decizii, care atribute sau caracteristici au avut cel mai mare impact asupra deciziei, ce nivel de încredere are sistemul în inferența făcută etc. Acest lucru crește încrederea în sistemele IA și permite o colaborare mai bună între oameni și IA în scenarii de luare a deciziilor mixte.

În special, prejudecățile IA, atunci când vine vorba de rasism și sexism, sunt o problemă enormă, dar cum identificați alte tipuri de prejudecăți atunci când nu știți ce prejudecăți căutați?

Este o problemă foarte grea și una care nu poate fi rezolvată doar cu tehnologie. Avem nevoie să aducem mai multă diversitate în dezvoltarea sistemelor IA (rasială, de gen, culturală, de capacitate fizică etc.). Acesta este, în mod clar, un gol enorm în populația care construiește aceste sisteme IA astăzi. În plus, este critic să avem echipe multidisciplinare implicate în definirea și dezvoltarea acestor sisteme, aducând științe sociale, filosofie, psihologie, etică și politică la masa discuțiilor (nu doar știința calculatoarelor), și să ne implicăm în procesul de anchetă în contextul proiectelor și problemelor specifice.

Ați vorbit anterior despre utilizarea IA pentru a amplifica potențialul uman. Care sunt unele dintre domeniile care arată cel mai mult promisiune pentru această amplificare a potențialului uman?

Un domeniu evident este acela de a permite persoanelor cu dizabilități să trăiască mai independent, să comunice cu cei dragi și să continue să creeze și să contribuie la societate. Văd un potențial mare în educație, în înțelegerea implicării studenților și personalizarea experienței de învățare în funcție de nevoile și capacitățile individuale ale studentului pentru a îmbunătăți implicarea, a împuternici profesorii cu această cunoaștere și a îmbunătăți rezultatele învățării. Inegalitatea în educație de astăzi este atât de profundă, și există un loc pentru IA să ajute la reducerea unei părți din această inegalitate, dacă o facem corect. Există oportunități nelimitate pentru IA să aducă o valoare considerabilă prin crearea sistemelor de colaborare human-AI în multe sectoare (îngrijire a sănătății, producție etc.), deoarece ceea ce oamenii și IA aduc la masa discuțiilor sunt foarte complementare. Pentru ca acest lucru să se întâmple, avem nevoie de inovație la intersecția științelor sociale, HCI și IA. Percepția robustă multi-modală, conștientizarea contextului, învățarea din date limitate, HCI situat fizic și interpretarea sunt unele dintre principalele provocări pe care trebuie să le abordăm pentru a aduce această viziune la îndeplinire.

Ați vorbit și despre cât de importantă este recunoașterea emoțiilor pentru viitorul IA? De ce ar trebui industria IA să se concentreze mai mult asupra acestei zone de cercetare?

Recunoașterea emoțiilor este o capacitate cheie a sistemelor human-AI pentru multiple motive. Un aspect este acela că emoția umană oferă un context cheie pentru orice sistem proactiv să înțeleagă înainte de a putea acționa.

Mai important, aceste tipuri de sisteme trebuie să continue să învețe în sălbăticie și să se adapteze pe baza interacțiunilor cu utilizatorii, și, în timp ce feedback-ul direct este un semnal cheie pentru învățare, semnalele indirecte sunt foarte importante și sunt gratuite (mai puțină muncă pentru utilizator). De exemplu, un asistent digital poate învăța multe din frustrarea din vocea unui utilizator și poate folosi acest lucru ca semnal de feedback pentru a învăța ce să facă în viitor, în loc să ceară utilizatorului feedback la fiecare pas. Aceste informații pot fi utilizate pentru sistemele IA de învățare activă pentru a continua să se îmbunătățească în timp.

Există ceva altceva pe care ați dori să îl împărtășiți despre ceea ce lucrați la Laboratorul de Calcul Anticipativ sau despre alte probleme pe care le-am discutat?

Atunci când construim sisteme asistive, avem nevoie să ne gândim la modul în care putem construi aceste sisteme în mod responsabil și la modul în care putem permite oamenilor să înțeleagă ce informații sunt colectate și cum pot controla aceste sisteme într-un mod practic. Ca cercetători IA, suntem adesea fascinați de date și dorim să avem cât mai multe date pentru a îmbunătăți aceste sisteme, cu toate acestea, există un compromis între tipul și cantitatea de date pe care le dorim și confidențialitatea utilizatorului. Avem nevoie să limităm datele pe care le colectăm la ceea ce este absolut necesar pentru a efectua sarcina de inferență, să facem utilizatorii conștienți de exact ce date colectăm și să le permitem să ajusteze acest compromis în moduri semnificative și utilizabile.

Vă mulțumim pentru acest interviu fantastic; cititorii care doresc să afle mai multe despre acest proiect ar trebui să citească articolul Intel’s Lama Nachman and Peter Scott-Morgan: Two Scientists, One a ‘Human Cyborg’.

Echipa Laboratorului de Calcul Anticipativ de la Intel, care a dezvoltat Assistive Context-Aware Toolkit, include (de la stânga) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman și Pete Denman. Nu sunt prezentați Bruna Girvent, Saurav Sahay și Shachi Kumar. (Credit: Lama Nachman)