Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Interview Serie

Lama Nachman, er en Intel Fellow & Director of Anticipatory Computing Lab. Lama er bedst kendt for sit arbejde med Prof. Stephen Hawking, hun var instrumental i at bygge et assistent-computersystem til at hjælpe Prof. Stephen Hawking med at kommunikere. I dag hjælper hun den britiske roboticist Dr. Peter Scott-Morgan med at kommunikere. I 2017 fik Dr. Peter Scott-Morgan en diagnose på motor neurone sygdom (MND), også kendt som ALS eller Lou Gehrigs sygdom. MND angriber hjernen og nerverne og lammer til sidst alle muskler, selv dem der gør det muligt at ånde og synke.

Dr. Peter Scott-Morgan sagde engang: “Jeg vil fortsætte med at udvikle mig, dø som et menneske, leve som en cyborg.”

Hvad tiltrak dig til AI?

Jeg er altid blevet tiltrukket af tanken om, at teknologi kan være den store ligeleder. Når den udvikles ansvarligt, har den potentialet til at udjævne spillefeltet, løse sociale uligheder og forstærke menneskers potentiale. Ingensteds er dette mere sandt end med AI. Mens meget af industrien samtale om AI og mennesker stiller forholdet mellem de to som fjendtligt, mener jeg, at der er unikke ting, maskiner og mennesker er gode til, så jeg foretrækker at se fremtiden gennem linserne på Human-AI-samarbejde snarere end human-AI-konkurrence. Jeg leder Anticipatory Computing Lab på Intel Labs, hvor – på tværs af alle vores forskningsindsats – vi har fokus på at levere innovativ computing, der kan skabe bred samfundsmæssig impact. Givet, hvor udbredt AI allerede er, og dens voksende fodaftryk i hver enkelt del af vores liv, ser jeg enormt potentiale i den forskning, mit hold er i gang med for at gøre AI mere tilgængelig, mere kontekstbevidst, mere ansvarlig og til sidst bringe teknologiske løsninger i stor målestok til at hjælpe mennesker i den virkelige verden.

Du har arbejdet tæt sammen med den legendariske fysiker Prof. Stephen Hawking for at skabe et AI-system, der hjalp ham med at kommunikere og med opgaver, som de fleste af os ville betragte som rutine. Hvad var nogle af disse rutineopgaver?

At arbejde med Prof. Stephen Hawking var det mest meningsfulde og udfordrende foretagende i mit liv. Det fødde min sjæl og ramte virkelig hjem, hvordan teknologi kan forbedre menneskers liv dybt. Han levede med ALS, en degenerativ neurologisk sygdom, der over tid berøver patienten evnen til at udføre de enkleste aktiviteter. I 2011 begyndte vi at arbejde med ham for at undersøge, hvordan vi kunne forbedre det assistent-computersystem, der gjorde det muligt for ham at interagere med verden. Ud over at bruge sin computer til at tale med mennesker, brugte Stephen sin computer ligesom os alle, redigering af dokumenter, surfing på nettet, holde foredrag, læse/skrive e-mails osv. Teknologien gjorde det muligt for Stephen at fortsætte med at aktivt deltage i og inspirere verden i mange år efter, at hans fysiske evner hurtigt var forsvundet. Det – for mig – er, hvad meningsfuld impact af teknologi på et menneskes liv ser ud!

Hvad er nogle af de vigtigste indsighter, du tog med dig fra at arbejde med Prof. Stephen Hawking?

Vores computerskærm er virkelig vores indgang til verden. Hvis mennesker kan kontrollere deres PC, kan de kontrollere alle aspekter af deres liv (forbrug af indhold, adgang til den digitale verden, kontrol over deres fysiske omgivelser, navigation af deres kørestol osv). For mennesker med handicaper, der stadig kan tale, giver fremskridt i talegenkendelse dem fuld kontrol over deres enheder (og i stor udstrækning deres fysiske omgivelser). Men for dem, der ikke kan tale og ikke kan bevæge sig, er de virkelig hæmmede i ikke at kunne udøve megen uafhængighed. Det, som oplevelsen med Prof. Hawking lærte mig, er, at assistent-teknologiplatforme behøver at være tilpasset brugerens specifikke behov. For eksempel kan vi ikke bare antage, at en enkelt løsning vil virke for mennesker med ALS, fordi sygdommen påvirker forskellige evner på tværs af patienter. Så vi behøver teknologier, der kan konfigureres og tilpasses til brugerens behov. Det er derfor, vi byggede ACAT (Assistive Context Aware Toolkit), en modulær, open-source software-platform, der kan enable udviklere til at innovere og bygge forskellige funktioner oven på den.

Jeg lærte også, at det er vigtigt at forstå hver brugers komfortgrænse omkring at give afkald på kontrol i bytte for mere effektivitet (det er ikke begrænset til mennesker med handicaper). For eksempel kan AI måske være i stand til at tage mere kontrol fra brugeren for at udføre en opgave hurtigere eller mere effektivt, men hver bruger har en anden niveau af risikovillighed. Nogle er villige til at give afkald på mere kontrol, mens andre brugere ønsker at fastholde mere af den. At forstå disse grænser og hvor langt mennesker er villige til at gå, har en stor indvirkning på, hvordan disse systemer kan designes. Vi behøver at omdefinere systemdesign i forhold til brugerens komfortniveau snarere end kun objektive mål for effektivitet og præcision.

Senere har du arbejdet med en berømt britisk videnskabsmand Peter Scott Morgan, der lider af motor neurone sygdom og har målet at blive verdens første fulde cyborg. Hvad er nogle af de ambitiøse mål, Peter har?

Et af problemerne med AAC (Assistive og Augmentative kommunikation) er “stilhedsgrænsen”. Mange mennesker med ALS (herunder Peter) bruger gaze-kontrol til at vælge bogstaver / ord på skærmen for at tale til andre. Dette resulterer i en lang stilhed efter, at nogen er færdig med deres sætning, mens personen stirrer på deres computer og starter med at formulere deres bogstaver og ord for at svare. Peter ønskede at reducere denne stilhedsgrænse så meget som muligt for at bringe verbal spontanitet tilbage til kommunikationen. Han ønskede også at bevare sin stemme og personlighed og bruge en tekst-til-tale-system, der udtrykker hans unikke kommunikationsstil (for eksempel hans vittigheder, hans hurtige sarkasme, hans følelser).

Den britiske roboticist Dr. Peter Scott-Morgan, der lider af motor neurone sygdom, begyndte i 2019 at undergå en række operationer for at forlænge sit liv ved hjælp af teknologi. (Kredit: Cardiff Productions)

Kan du diskutere nogle af de teknologier, der i øjeblikket bruges til at hjælpe Dr. Peter Scott-Morgan?

Peter bruger ACAT (Assistive Context Aware Toolkit), den platform, vi byggede under vores arbejde med Dr. Hawking og senere udgav til open source. I modsætning til Dr. Hawking, der brugte musklerne i kinden som en “input-udløser” til at kontrollere bogstaverne på skærmen, bruger Peter gaze-kontrol (en funktion, vi tilføjede til den eksisterende ACAT) til at tale til og kontrollere sin PC, der grænser til en Text-to-Speech (TTS)-løsning fra et selskab kaldet CereProc, der var tilpasset til ham og gjorde det muligt for ham at udtrykke forskellige følelser/betoninger. Systemet kontrollerer også en avatar, der var tilpasset til ham.

Vi arbejder i øjeblikket på et respons-genereringssystem til ACAT, der kan tillade Peter at interagere med systemet på et højere niveau ved hjælp af AI-kapaciteter. Dette system vil lytte til Peters samtaler over tid og foreslå svar for Peter at vælge på skærmen. Målet er, at over tid vil AI-systemet lære fra Peters data og enable ham til at “støde” systemet til at give ham de bedste svar ved hjælp af blot nogle nøgleord (ligesom søgninger fungerer på nettet i dag). Vores mål med respons-genereringssystemet er at reducere stilhedsgrænsen i kommunikation og enable Peter og fremtidige brugere af ACAT til at kommunikere i et tempo, der føles mere “naturligt”.

Du har også talt om vigtigheden af gennemsigtighed i AI, hvor stort et problem er dette?

Det er et stort problem, især når det deployes i beslutningssystemer eller human-AI-samarbejdssystemer. For eksempel i tilfældet med Peters assistent-system, behøver vi at forstå, hvad der får systemet til at træffe disse anbefalinger, og hvordan vi kan påvirke læringen af dette system til bedre at udtrykke hans ideer.

I den bredere kontekst af beslutningssystemer, enten det er til at hjælpe med diagnose baseret på medicinsk billedbehandling eller til at give anbefalinger om at give lån, behøver AI-systemer at give menneskeligt fortolkelige oplysninger om, hvordan de nåede til disse beslutninger, hvilke attributter eller funktioner var mest væsentlige for denne beslutning, hvilken tillid har systemet til den slutning, der er draget, osv. Dette øger tilliden til AI-systemerne og enable bedre samarbejde mellem mennesker og AI i blandede beslutningsscenarier.

AI-forudselig bias, især når det kommer til racisme og sexism, er et enormt problem, men hvordan identificerer du andre typer af bias, når du ikke har nogen idé om, hvilke bias du søger efter?

Det er et meget svært problem og noget, der ikke kan løses med teknologi alene. Vi behøver at bringe mere diversitet ind i udviklingen af AI-systemer (raciel, køn, kultur, fysisk evne osv.). Dette er tydeligvis et enormt gap i befolkningen, der bygger disse AI-systemer i dag. Derudover er det kritisk at have tværfaglige hold engageret i definitionen og udviklingen af disse systemer, bringe samfundsvidenskab, filosofi, psykologi, etik og politik til bordet (ikke kun computervidenskab), og engagere sig i undersøgelsesprocessen i konteksten af de specifikke projekter og problemer.

Du har tidligere talt om at bruge AI til at forstærke menneskers potentiale. Hvad er nogle af de områder, der viser mest løfte for denne forstærkning af menneskers potentiale?

Et åbenlyst område er at enable mennesker med handicaper til at leve mere uafhængigt, kommunikere med deres nærmeste og fortsætte med at skabe og bidrage til samfundet. Jeg ser et stort potentiale i uddannelse, i at forstå elevengagement og personliggøre læringsoplevelsen til den enkelte elevs behov og evner for at forbedre engagement, enable lærere med denne viden og forbedre læringsresultater. Uligevægten i uddannelse i dag er så dyb, og der er et sted for AI til at hjælpe med at reducere nogle af denne uligevægt, hvis vi gør det rigtigt. Der er uendelige muligheder for AI til at bringe en masse værdi ved at skabe human-AI-samarbejdssystemer i så mange sektorer (sundhedspleje, fremstilling osv.), fordi det, mennesker og AI bringer til bordet, er meget komplementært. For at dette skal ske, behøver vi innovation i skæringspunktet mellem samfundsvidenskab, HCI og AI. Robust multi-modal perception, kontekstbevidsthed, læring fra begrænsede data, fysisk placeret HCI og fortolkelighed er nogle af de vigtigste udfordringer, vi behøver at fokusere på for at bringe denne vision til live.

Du har også talt om, hvor vigtigt følelsesgenkendelse er for fremtiden af AI? Hvorfor skal AI-industrien fokusere mere på dette forskningsområde?

Følelsesgenkendelse er en nøglekapacitet for human-AI-systemer af flere årsager. En aspekt er, at menneskelige følelser tilbyder nøglekontekst for et proaktivt system til at forstå, før det kan handle.

Endnu vigtigere er, at disse systemer behøver at fortsætte med at lære i det vilde og tilpasse sig baseret på interaktioner med brugere, og mens direkte feedback er en nøgle signal for læring, er indirekte signaler meget vigtige, og de er gratis (mindre arbejde for brugeren). For eksempel kan en digital assistent lære en masse fra frustrationen i en brugers stemme og bruge det som en feedback-signal for læring, hvad man skal gøre i fremtiden, i stedet for at spørge brugeren om feedback hver gang. Disse oplysninger kan bruges til aktiv læring AI-systemer til at fortsætte med at forbedre sig over tid.

Er der noget andet, du gerne vil dele om, hvad du arbejder med på Anticipatory Computing Lab eller andre emner, vi har diskuteret?

Når vi bygger assistent-systemer, behøver vi virkelig at tænke over, hvordan vi kan bygge disse systemer ansvarligt og hvordan vi kan enable mennesker til at forstå, hvad oplysninger indsamles, og hvordan de kan kontrollere disse systemer på en praktisk måde. Som AI-forskere er vi ofte fascineret af data og ønsker at have så meget data som muligt for at forbedre disse systemer, men der er en trade-off mellem den type og mængde af data, vi ønsker, og brugerens privatliv. Vi behøver virkelig at begrænse de data, vi indsamler, til det, der absolut er nødvendigt for at udføre inferencen, gøre brugerne opmærksomme på præcis, hvilke data vi indsamler, og enable dem til at justere denne trade-off på en meningsfuld og brugbar måde.