Lama Nachman, Intel Fellow & Directeur van Anticipatory Computing Lab – Interview Series

Lama Nachman, is een Intel (INTC ) Fellow & Directeur van Anticipatory Computing Lab. Lama is het meest bekend vanwege haar werk met Prof. Stephen Hawking, ze was instrumental in het bouwen van een assistentiecomputer om Prof. Stephen Hawking te helpen communiceren. Vandaag helpt ze de Britse roboticist Dr. Peter Scott-Morgan om te communiceren. In 2017 kreeg Dr. Peter Scott-Morgan de diagnose motorneuronziekte (MND), ook bekend als ALS of Lou Gehrig-ziekte. MND valt de hersenen en zenuwen aan en verlamt uiteindelijk alle spieren, zelfs die welke ademhaling en slikken mogelijk maken.

Dr. Peter Scott-Morgan zei ooit: “Ik zal blijven evolueren, sterven als mens, leven als cyborg.”

Wat trok je aan naar AI?

Ik ben altijd aangetrokken tot het idee dat technologie de grote gelijkmaker kan zijn. Als het verantwoord wordt ontwikkeld, heeft het het potentieel om het speelveld te egaliseren, sociale ongelijkheden aan te pakken en het menselijk potentieel te verhogen. Nergens is dit waarachtiger dan met AI. Terwijl een groot deel van de industrieconversatie over AI en mensen de relatie tussen de twee als vijandig positioneert, geloof ik dat er unieke dingen zijn die machines en mensen goed zijn, dus ik geef de voorkeur aan het zien van de toekomst door de lens van Human-AI-samenwerking in plaats van human-AI-concurrentie. Ik leid het Anticipatory Computing Lab bij Intel Labs, waar we ons bij al onze onderzoeksinspanningen richten op het leveren van innovaties op het gebied van computing die schaalbaar zijn voor een brede maatschappelijke impact. Gezien hoe alomtegenwoordig AI al is en de groeiende voetafdruk in elk aspect van ons leven, zie ik een groot potentieel in het onderzoek dat mijn team uitvoert om AI meer toegankelijk, contextueel bewust, verantwoordelijk en uiteindelijk technologieoplossingen te bieden om mensen in de echte wereld te helpen.

Je hebt nauw samengewerkt met de legendarische natuurkundige Prof. Stephen Hawking om een AI-systeem te creëren dat hem hielp met communiceren en taken die de meeste van ons als routine zouden beschouwen. Wat waren enkele van deze routine-taken?

Samenwerken met Prof. Stephen Hawking was de meest betekenisvolle en uitdagende onderneming van mijn leven. Het voedde mijn ziel en liet me echt zien hoe technologie mensenlevens kan verbeteren. Hij leefde met ALS, een degeneratieve neurologische ziekte, die de patiënt over tijd de mogelijkheid ontneemt om de eenvoudigste activiteiten uit te voeren. In 2011 begonnen we met hem te werken om te onderzoeken hoe we het assistentiecomputersysteem konden verbeteren dat hem in staat stelde om met de wereld te communiceren. Naast het gebruik van zijn computer om met mensen te praten, gebruikte Stephen zijn computer zoals wij allemaal doen, documenten bewerken, surfen op internet, lezingen geven, e-mails lezen/schrijven, enz. Technologie stelde Stephen in staat om jarenlang actief deel te nemen aan en de wereld te inspireren, nadat zijn fysieke mogelijkheden snel waren afgenomen. Dat is voor mij wat de betekenisvolle impact van technologie op iemands leven lijkt!

Wat zijn enkele van de belangrijkste inzichten die je hebt overgehouden aan het werken met Prof. Stephen Hawking?

Ons computerscherm is echt onze toegangspoort tot de wereld. Als mensen hun pc kunnen bedienen, kunnen ze alle aspecten van hun leven beheersen (inhoud consumeren, toegang tot de digitale wereld, hun fysieke omgeving beheersen, hun rolstoel navigeren, enz.). Voor mensen met een handicap die nog kunnen spreken, laten vooruitgangen in spraakherkenning hen volledige controle over hun apparaten hebben (en in grote mate, hun fysieke omgeving). Echter, voor mensen die niet kunnen spreken en niet kunnen bewegen, zijn ze echt beperkt in het niet kunnen uitoefenen van onafhankelijkheid. Wat de ervaring met Prof. Hawking me heeft geleerd, is dat assistentietechnologieplatforms moeten worden aangepast aan de specifieke behoeften van de gebruiker. Bijvoorbeeld, we kunnen niet aannemen dat een enkele oplossing zal werken voor mensen met ALS, omdat de ziekte verschillende capaciteiten bij patiënten aantast. Dus, we hebben technologieën nodig die gemakkelijk kunnen worden geconfigureerd en aangepast aan de individuele behoeften. Dit is waarom we ACAT (Assistive Context Aware Toolkit) hebben gebouwd, een modulair, open-source softwareplatform dat ontwikkelaars in staat stelt om verschillende capaciteiten te innoveren en te bouwen op basis van het platform.

Ik heb ook geleerd dat het belangrijk is om elke gebruikerscomfortdrempel rond het opgeven van controle in ruil voor meer efficiëntie te begrijpen (dit is niet beperkt tot mensen met een handicap). Bijvoorbeeld, AI kan in staat zijn om meer controle van de gebruiker over te nemen om een taak sneller of efficiënter uit te voeren, maar elke gebruiker heeft een ander niveau van risico-afkeer. Sommigen zijn bereid om meer controle op te geven, terwijl andere gebruikers meer controle willen behouden. Het begrijpen van deze drempels en hoe ver mensen bereid zijn om te gaan, heeft een grote invloed op hoe deze systemen kunnen worden ontworpen. We moeten systeemontwerp opnieuw overwegen in termen van gebruikerscomfortniveau in plaats van alleen objectieve maatstaven van efficiëntie en nauwkeurigheid.

Onlangs heb je ook samengewerkt met de beroemde Britse wetenschapper Peter Scott Morgan, die lijdt aan een motorneuronziekte en het doel heeft om de eerste volledige cyborg ter wereld te worden. Wat zijn enkele van de ambitieuze doelen die Peter heeft?

Een van de problemen met AAC (Assistive en Augmentatieve communicatie) is de “stiltegap”. Veel mensen met ALS (inclusief Peter) gebruiken blikcontrole om letters/woorden op het scherm te kiezen om met anderen te spreken. Dit resulteert in een lange stilte na het afmaken van een zin terwijl de persoon naar zijn computer kijkt en begint met het formuleren van letters en woorden om te reageren. Peter wilde deze stiltegap zo veel mogelijk verkleinen om verbale spontaniteit terug te brengen in de communicatie. Hij wilde ook zijn stem en persoonlijkheid behouden en een tekst-naar-spraak-systeem gebruiken dat zijn unieke communicatiestijl uitdrukt (bijv. zijn geestigheden, zijn snelle sarcastische geest, zijn emoties).

De Britse roboticist Dr. Peter Scott-Morgan, die lijdt aan een motorneuronziekte, begon in 2019 met een reeks operaties om zijn leven te verlengen met technologie. (Credit: Cardiff Productions)

Kun je enkele van de technologieën bespreken die momenteel worden gebruikt om Dr. Peter Scott-Morgan te helpen?

Peter gebruikt ACAT (Assistive Context Aware Toolkit), het platform dat we hebben gebouwd tijdens ons werk met Dr. Hawking en later hebben vrijgegeven als open source. In tegenstelling tot Dr. Hawking, die de spieren in zijn wang gebruikte als “input-trigger” om letters op zijn scherm te controleren, gebruikt Peter blikcontrole (een functionaliteit die we hebben toegevoegd aan de bestaande ACAT) om te spreken en zijn pc te controleren, die communiceert met een Tekst-naar-Spraak-oplossing van een bedrijf genaamd CereProc, die voor hem is aangepast en hem in staat stelt om verschillende emoties/nadruk te uiten. Het systeem controleert ook een avatar die voor hem is aangepast.

We werken momenteel aan een responsgeneratiesysteem voor ACAT dat Peter in staat stelt om op een hoger niveau met het systeem te communiceren met behulp van AI-mogelijkheden. Dit systeem luistert naar Peters conversaties over tijd en suggereert antwoorden voor Peter om op het scherm te kiezen. Het doel is dat het AI-systeem over tijd leert van Peters gegevens en Peter in staat stelt om het systeem te “sturen” om de beste antwoorden te geven met behulp van slechts enkele trefwoorden (soortgelijk aan hoe zoekopdrachten op internet werken). Ons doel met het responsgeneratiesysteem is om de stiltegap in de communicatie te verkleinen en Peter en toekomstige gebruikers van ACAT in staat te stellen om te communiceren op een tempo dat meer “natuurlijk” aanvoelt.

Je hebt ook gesproken over het belang van transparantie in AI, hoe groot is dit probleem?

Het is een groot probleem, vooral wanneer het wordt ingezet in beslissingsystemen of human-AI-samenwerkingsystemen. Bijvoorbeeld, in het geval van Peters assistentiesysteem, moeten we begrijpen wat de oorzaak is van de aanbevelingen van het systeem en hoe we het leren van dit systeem kunnen beïnvloeden om zijn ideeën nauwkeuriger uit te drukken.

In de bredere context van beslissingsystemen, of het nu gaat om het helpen bij diagnose op basis van medische beelden of het doen van aanbevelingen voor het verlenen van leningen, moeten AI-systemen menselijk interpreteerbare informatie verschaffen over hoe ze tot deze beslissingen zijn gekomen, welke kenmerken of eigenschappen het meest van invloed waren op deze beslissing, welk vertrouwen heeft het systeem in de afgeleide conclusie, enz. Dit verhoogt het vertrouwen in de AI-systemen en maakt een betere samenwerking tussen mensen en AI in gemengde beslissings scenario’s mogelijk.

AI-vooroordeel, met name wat betreft racisme en seksisme, is een enorm probleem, maar hoe identificeer je andere soorten vooroordeel wanneer je geen idee hebt wat voor vooroordeel je zoekt?

Het is een zeer moeilijk probleem en een dat niet alleen met technologie kan worden opgelost. We moeten meer diversiteit brengen in de ontwikkeling van AI-systemen (raciaal, geslacht, cultuur, fysieke mogelijkheden, enz.). Dit is duidelijk een enorme kloof in de bevolking die deze AI-systemen vandaag de dag bouwt. Bovendien is het cruciaal om multidisciplinaire teams te betrekken bij de definitie en ontwikkeling van deze systemen, door sociale wetenschap, filosofie, psychologie, ethiek en beleid te brengen (niet alleen computerwetenschap), en om deel te nemen aan het onderzoeksproces in de context van specifieke projecten en problemen.

Je hebt eerder gesproken over het gebruik van AI om het menselijk potentieel te verhogen. Wat zijn enkele gebieden die het meeste potentieel laten zien voor deze verhoging van het menselijk potentieel?

Een voor de hand liggend gebied is het mogelijk maken voor mensen met een handicap om onafhankelijker te leven, om te communiceren met geliefden en om bij te dragen aan de samenleving. Ik zie een groot potentieel in onderwijs, in het begrijpen van studentenbetrokkenheid en het personaliseren van de leerervaring aan de individuele behoeften en capaciteiten van de student om betrokkenheid, leraren te empoweren met deze kennis en leerresultaten te verbeteren. De ongelijkheid in onderwijs vandaag de dag is zo diepgaand en er is een plaats voor AI om enige waarde te brengen door human-AI-samenwerkings systemen te creëren in veel sectoren (gezondheidszorg, fabricage, enz.) omdat wat mensen en AI brengen naar de tafel zeer complementair zijn. Voor dit te laten gebeuren, hebben we innovatie nodig op het snijvlak van sociale wetenschap, HCI en AI. Robuuste multi-modale perceptie, contextbewustzijn, leren van beperkte gegevens, fysiek gesitueerde HCI en interpreteerbaarheid zijn enkele van de belangrijkste uitdagingen die we moeten aanpakken om deze visie tot werkelijkheid te maken.

Je hebt ook gesproken over hoe belangrijk emotieherkenning is voor de toekomst van AI? Waarom moet de AI-industrie zich meer richten op dit onderzoeksgebied?

Emotieherkenning is een sleutelcapaciteit van human-AI-systemen om meerdere redenen. Een aspect is dat menselijke emotie een belangrijke menselijke context biedt voor elk proactief systeem om te begrijpen voordat het kan handelen.

Belangrijker nog, deze systemen moeten blijven leren in de praktijk en aanpassen op basis van interacties met gebruikers, en terwijl directe feedback een belangrijke signaal is voor leren, zijn indirecte signalen erg belangrijk en zijn ze gratis (minder werk voor de gebruiker). Bijvoorbeeld, een digitale assistent kan veel leren van de frustratie in een gebruikersstem en dit gebruiken als een feedbacksignaal voor leren wat te doen in de toekomst, in plaats van de gebruiker om feedback te vragen elke keer. Deze informatie kan worden gebruikt voor actief leren AI-systemen om zich te blijven verbeteren over tijd.

Is er nog iets anders dat je zou willen delen over wat je werkt aan het Anticipatory Computing Lab of andere onderwerpen die we hebben besproken?

Wanneer we assistentiesystemen bouwen, moeten we echt nadenken over hoe we deze systemen verantwoordelijk kunnen bouwen en hoe we mensen in staat kunnen stellen om te begrijpen welke informatie wordt verzameld en hoe ze deze systemen in de praktijk kunnen controleren. Als AI-onderzoekers zijn we vaak gefascineerd door gegevens en willen we zo veel mogelijk gegevens hebben om deze systemen te verbeteren, maar er is een afweging tussen het type en de hoeveelheid gegevens die we willen en de privacy van de gebruiker. We moeten de gegevens die we verzamelen really beperken tot wat absoluut nodig is om de inferentietaken uit te voeren, gebruikers bewust maken van exact welke gegevens we verzamelen en hen in staat stellen om deze afweging op een betekenisvolle en bruikbare manier te tunen.

Dank je voor het fantastische interview, lezers die meer willen leren over dit project, moeten het artikel lezen Intel’s Lama Nachman en Peter Scott-Morgan: twee wetenschappers, een ‘menselijke cyborg’.

Het team van Intel’s Anticipatory Computing Lab dat de Assistive Context-Aware Toolkit heeft ontwikkeld, bestaat uit (van links) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman en Pete Denman. Niet afgebeeld zijn Bruna Girvent, Saurav Sahay en Shachi Kumar. (Credit: Lama Nachman)