Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Intervju-serie

Lama Nachman, er en Intel (INTC ) Fellow & Director of Anticipatory Computing Lab. Lama er best kjent for sitt arbeid med Prof. Stephen Hawking, hun var instrumental i å bygge et assistivt dataprogram for å hjelpe Prof. Stephen Hawking med å kommunisere. I dag hjelper hun den britiske robotingeniøren Dr. Peter Scott-Morgan med å kommunisere. I 2017 fikk Dr. Peter Scott-Morgan en diagnose med motornevronsykdom (MND), også kjent som ALS eller Lou Gehrigs sykdom. MND angriper hjernen og nervene og lammer til slutt alle muskler, inkludert de som gjør det mulig å puste og svelge.

Dr. Peter Scott-Morgan sa en gang: “Jeg vil fortsette å utvikle meg, dø som et menneske, leve som en kyborg.”

Hva var det som tiltalte deg til AI?

Jeg har alltid vært tiltalt av tanken på at teknologi kan være en stor likemaker. Når den utvikles på en ansvarlig måte, har den potensialet til å jevne ut spillere, å løse sosiale urettferdigheter og å forsterke menneskelig potensial. Ingensteds er dette mer sant enn med AI. Mens mye av industrien samtalen om AI og mennesker stiller forholdet mellom de to som motstridende, tror jeg at det finnes unike ting maskiner og mennesker er gode til, så jeg foretrekker å se fremtiden gjennom linsen til menneske-AI-samarbeid snarere enn menneske-AI-konkurranser. Jeg leder Anticipatory Computing Lab på Intel Labs, hvor vi har en enkelt fokus på å levere innovasjon innen datateknologi som kan skaleres for å ha en bred samfunnsmessig innvirkning. Gitt hvor omfattende AI allerede er og dens økende fotavtrykk i alle aspekter av livet, ser jeg et stort løfte i forskningen min gruppe gjennomfører for å gjøre AI mer tilgjengelig, mer kontekst-bevisst, mer ansvarlig og til slutt å bringe teknologiløsninger i stor skala for å hjelpe mennesker i den virkelige verden.

Du har arbeidet tett med den legendariske fysikeren Prof. Stephen Hawking for å lage et AI-system som hjalp ham med å kommunisere og med oppgaver som de fleste av oss ville betrakte som rutine. Hva var noen av disse rutineoppgavene?

Å arbeide med Prof. Stephen Hawking var det mest meningsfulle og utfordrende foretaket i mitt liv. Det fødde min sjel og virkelig traff hjem hvordan teknologi kan forbedre menneskers liv. Han levde med ALS, en degenerativ nevrologisk sykdom, som over tid tar bort pasientens evne til å utføre de enkleste aktivitetene. I 2011 begynte vi å arbeide med ham for å utforske hvordan vi kunne forbedre det assistive dataprogrammet som gjorde det mulig for ham å interagere med verden. I tillegg til å bruke datamaskinen til å snakke med mennesker, brukte Stephen datamaskinen som vi alle gjør, redigerte dokumenter, surfet på nettet, holdt foredrag, leste og skrev e-post, osv. Teknologien gjorde det mulig for Stephen å fortsette å delta aktivt i og inspirere verden i mange år etter at hans fysiske evner raskt ble redusert. Det – for meg – er hva meningsfull innvirkning av teknologi på noen sinns liv ser ut!

Hva var noen av de viktigste innsiktene du tok med deg fra å arbeide med Prof. Stephen Hawking?

Vår dataskjerm er virkelig vår inngang til verden. Hvis mennesker kan kontrollere sin PC, kan de kontrollere alle aspekter av livet (forbruke innhold, aksessere den digitale verden, kontrollere den fysiske omgivelsen, navigere i rullestolen, osv). For mennesker med funksjonsnedsettelser som fortsatt kan snakke, lar fremgangen i talegjenkjenning dem ha full kontroll over enhetene (og i stor grad over den fysiske omgivelsen). Men for de som ikke kan snakke og ikke kan bevege seg, er de virkelig hemmet i å kunne utøve mye uavhengighet. Det erfaringen med Prof. Hawking lærte meg, er at assistive teknologiplattformer må tilpasses den enkeltes behov. For eksempel kan vi ikke bare anta at en enkelt løsning vil fungere for mennesker med ALS, fordi sykdommen påvirker forskjellige evner over pasienter. Så, trenger vi teknologier som kan konfigureres og tilpasses den enkeltes behov. Dette er hvorfor vi bygget ACAT (Assistive Context Aware Toolkit), en modulær, åpen kildekode-plattform som kan gjøre det mulig for utviklere å innovere og bygge forskjellige kapasiteter på toppen av den.

Jeg lærte også at det er viktig å forstå hver enkelt brukers komfortnivå rundt å gi fra seg kontroll i bytte mot mer effisiens (dette er ikke begrenset til mennesker med funksjonsnedsettelser). For eksempel kan AI være i stand til å ta fra seg mer kontroll fra brukeren for å utføre en oppgave raskere eller mer effektivt, men hver bruker har et annet nivå av risikoaversjon. Noen er villige til å gi fra seg mer kontroll, mens andre brukere ønsker å beholde mer av den. Å forstå disse terskler og hvor langt mennesker er villige til å gå, har en stor innvirkning på hvordan disse systemene kan designs. Vi måtenke om systemdesign i forhold til brukerens komfortnivå snarere enn bare objektive mål for effisiens og nøyaktighet.

Mer nylig har du arbeidet med den berømte britiske vitenskapsmannen Peter Scott Morgan, som lider av motornevronsykdom og har målet om å bli verdens første fullstendige kyborg. Hva er noen av de ambisiøse målene Peter har?

En av problemene med AAC (Assistive and Augmentative kommunikasjon) er “stille gapet”. Mange mennesker med ALS (inkludert Peter) bruker blikkstyring for å velge bokstaver / ord på skjermen for å snakke med andre. Dette resulterer i en lang stillhet etter at noen er ferdig med sin setning mens personen ser på datamaskinen og begynner å formulere bokstaver og ord for å svare. Peter ønsker å redusere dette stille gapet så mye som mulig for å bringe tilbake verbal spontanitet til kommunikasjonen. Han ønsker også å bevare sin stemme og personlighet og bruke en tekst-til-tale-system som uttrykker hans unike kommunikasjonsstil (for eksempel hans vittigheter, hans raskttenkte sarkasme, hans emosjoner).

Den britiske robotingeniøren Dr. Peter Scott-Morgan, som lider av motornevronsykdom, begynte i 2019 å undergå en rekke operasjoner for å forlenge livet med teknologi. (Kredit: Cardiff Productions)

Kunne du diskutere noen av teknologiene som for tiden brukes for å hjelpe Dr. Peter Scott-Morgan?

Peter bruker ACAT (Assistive Context Aware Toolkit), plattformen vi bygget under arbeidet med Dr. Hawking og senere ga ut som åpen kildekode. I motsetning til Dr. Hawking, som brukte musklene i kinnet som en “inngangstrigger” for å kontrollere bokstavene på skjermen, bruker Peter blikkstyring (en funksjon vi la til den eksisterende ACAT) for å snakke og kontrollere datamaskinen, som grenser til en tekst-til-tale-løsning fra et selskap som CereProc som var tilpasset for ham og gjorde det mulig for ham å uttrykke forskjellige emosjoner/betoninger. Systemet kontrollerer også en avatar som var tilpasset for ham.

Vi arbeider for tiden med et svar-genereringsystem for ACAT som kan la Peter interagere med systemet på et høyere nivå ved hjelp av AI-kapasiteter. Dette systemet vil lytte til Peters samtaler over tid og foreslå svar for Peter å velge på skjermen. Målet er at over tid vil AI-systemet lære fra Peters data og gjøre det mulig for ham å “skyve” systemet til å gi ham de beste svarene ved hjelp av noen nøkkelord (tilsvarende hvordan søk fungerer på nettet i dag). Vårt mål med svar-genereringsystemet er å redusere stille gapet i kommunikasjonen og gi Peter og fremtidige brukere av ACAT mulighet til å kommunisere i et tempo som føles mer “naturleg”.

Har du også snakket om viktigheten av gjennomsiktighet i AI, hvor stort er dette problemet?

Dette er et stort problem, spesielt når det brukes i beslutningssystemer eller menneske-AI-samarbeidssystemer. For eksempel, i tilfelle Peters assistive system, må vi forstå hva som får systemet til å gi disse anbefalingene og hvordan vi kan påvirke læringen av dette systemet for å uttrykke hans ideer mer nøyaktig.

I den bredere konteksten av beslutningssystemer, enten det er å hjelpe med diagnose basert på medisinske bilder eller å gi anbefalinger om å gi lån, må AI-systemer gi menneskelig tolkbare informasjon om hvordan de kom frem til disse beslutningene, hvilke attributter eller egenskaper var mest påvirkende for denne beslutningen, hvilken tillit har systemet til den påviste slutningen, osv. Dette øker tilliten til AI-systemene og gjør det mulig for bedre samarbeid mellom mennesker og AI i blandede beslutningsscenarier.

AI-forvrengning, spesielt når det gjelder rasisme og seksisme, er et stort problem, men hvordan kan du identifisere andre typer forvrengning når du ikke vet hva du leter etter?

Dette er et svært vanskelig problem og ett som ikke kan løses med teknologi alene. Vi må bringe mer mangfold inn i utviklingen av AI-systemer (rasemessig, kjønn, kultur, fysisk evne, osv.). Dette er tydeligvis et stort gap i befolkningen som bygger disse AI-systemene i dag. I tillegg er det kritisk å ha tverrfaglige team engasjert i definisjonen og utviklingen av disse systemene, å bringe inn samfunnsvitenskap, filosofi, psykologi, etikk og politikk til bordet (ikke bare datavitenskap), og å engasjere seg i spørsmålsprosessen i konteksten av de spesifikke prosjektene og problemene.

Har du også snakket om å bruke AI til å forsterke menneskelig potensial. Hva er noen områder som viser mest løfte for denne forsterkningen av menneskelig potensial?

Et åpenbart område er å muliggjøre at mennesker med funksjonsnedsettelser kan leve mer uavhengig, kommunisere med kjære og fortsette å skape og bidra til samfunnet. Jeg ser et stort potensial i utdanning, i å forstå elevengasjement og å tilpasse læringserfaringen til den enkeltes behov og evner til å forbedre engasjement, å gi lærerne denne kunnskapen og å forbedre læringresultatene. Ulikheten i utdanning i dag er så dypt og det er et sted for AI til å hjelpe med å redusere noen av denne ulikheten hvis vi gjør det riktig. Det er endeløse muligheter for AI til å bringe mye verdi ved å skape menneske-AI-samarbeidssystemer i mange sektorer (helse, produksjon, osv.) fordi det mennesker og AI bringer til bordet er svært komplementære. For at dette skal skje, trenger vi innovasjon på交差et mellom samfunnsvitenskap, HCI og AI. Robust multi-modal persepsjon, kontekstbevissthet, læring fra begrenset data, fysisk plassert HCI og tolkbarhet er noen av de viktigste utfordringene vi må fokusere på for å bringe denne visjonen til virkelighet.

Har du også snakket om hvor viktig det er å gjenkjenne emosjoner i fremtiden for AI? Hvorfor bør AI-industrien fokusere mer på dette området av forskning?

Gjenkjenning av emosjoner er en nøkkelkapasitet for menneske-AI-systemer av flere grunner. En aspekt er at menneskelig emosjon tilbyr menneskelig kontekst for et proaktivt system for å forstå før det kan handle.

Mer viktig er at slike systemer må fortsette å lære i villdyr og tilpasse seg basert på interaksjoner med brukere, og mens direkte tilbakemelding er en nøkkel-signal for læring, er indirekte signaler veldig viktige og de er gratis (mindre arbeid for brukeren). For eksempel kan en digital assistent lære mye fra frustrasjonen i en brukers stemme og bruke det som et tilbakemeldingssignal for å lære hva å gjøre i fremtiden, i stedet for å spørre brukeren om tilbakemelding hver gang. Denne informasjonen kan brukes for aktivt læring AI-systemer til å forbedre over tid.

Er det noe annet du ønsker å dele om hva du arbeider med på Anticipatory Computing Lab eller andre problemstillinger vi har diskutert?

Når vi bygger assistive systemer, må vi virkelig tenke på hvordan vi kan bygge disse systemene på en ansvarlig måte og hvordan vi kan muliggjøre at mennesker forstår hva informasjon som samles inn og hvordan de kan kontrollere disse systemene på en praktisk måte. Som AI-forskere er vi ofte fascinert av data og ønsker å ha så mye data som mulig for å forbedre disse systemene, men det er en avveining mellom typen og mengden data vi ønsker og brukerens personvern. Vi må begrense datamengden vi samler inn til det som er absolutt nødvendig for å utføre inferensoppgaven, gjøre brukerne klar over eksakt hva data vi samler inn og muliggjøre at de kan justere denne avveiningen på en meningsfull og brukervennlig måte.

Takk for det fantastiske intervjuet, lesere som ønsker å lære mer om dette prosjektet, bør lese artikkelen Intel’s Lama Nachman og Peter Scott-Morgan: To vitenskapsmenn, en “menneske-kyborg”.

Intel’s Anticipatory Computing Lab team som utviklet Assistive Context-Aware Toolkit inkluderer (fra venstre) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman og Pete Denman. Ikke avbildet er Bruna Girvent, Saurav Sahay og Shachi Kumar. (Kredit: Lama Nachman)