Lama Nachman, Intel Fellow & directeur van Anticipatory Computing Lab - Interviewreeks

Lama Nachman, is een Intel Fellow en directeur van Anticipatory Computing Lab. Lama is vooral bekend vanwege haar werk met prof. Stephen Hawking. Ze speelde een belangrijke rol bij het bouwen van een ondersteunend computersysteem om prof. Stephen Hawking te helpen bij de communicatie. Vandaag helpt ze de Britse roboticus Dr. Peter Scott-Morgan om te communiceren. In 2017 ontving Dr. Peter Scott-Morgan de diagnose motorneuronziekte (MND), ook bekend als ALS of de ziekte van Lou Gehrig. MND tast de hersenen en zenuwen aan en verlamt uiteindelijk alle spieren, zelfs die welke ademen en slikken mogelijk maken.

Dr. Peter Scott-Morgan heeft eens gezegd: "Ik zal blijven evolueren, sterven als een mens, leven als een cyborg."

Wat trok je aan in AI?

Ik heb me altijd aangetrokken gevoeld tot het idee dat technologie de grote gelijkmaker kan zijn. Als het op verantwoorde wijze wordt ontwikkeld, heeft het de potentie om het speelveld gelijk te trekken, sociale ongelijkheden aan te pakken en het menselijk potentieel te vergroten. Nergens is dit meer waar dan bij AI. Hoewel veel van de gesprekken in de branche over AI en mensen de relatie tussen de twee als vijandig beschouwen, geloof ik dat er unieke dingen zijn waar machines en mensen goed in zijn, dus bekijk ik de toekomst liever door de lens van Human-AI-samenwerking dan competitie tussen mens en AI. Ik leid het Anticipatory Computing Lab bij Intel Labs, waar we - bij al onze onderzoeksinspanningen - een unieke focus hebben op het leveren van computerinnovatie die schaalbaar is voor een brede maatschappelijke impact. Gezien hoe alomtegenwoordig AI al is en de groeiende voetafdruk ervan in elk facet van ons leven, zie ik een enorme belofte in het onderzoek dat mijn team doet om AI toegankelijker, contextbewuster en verantwoordelijker te maken en uiteindelijk technologische oplossingen op schaal te bieden om te helpen mensen in de echte wereld.

Je hebt nauw samengewerkt met de legendarische natuurkundige prof. Stephen Hawking om een ​​AI-systeem te creëren dat hem hielp bij communicatie en bij taken die de meesten van ons als routine zouden beschouwen. Wat waren enkele van deze routinetaken?

Werken met prof. Stephen Hawking was de meest betekenisvolle en uitdagende onderneming van mijn leven. Het voedde mijn ziel en drong echt tot me door hoe technologie het leven van mensen ingrijpend kan verbeteren. Hij leefde met ALS, een degeneratieve neurologische ziekte, die na verloop van tijd het vermogen van de patiënt om de eenvoudigste activiteiten uit te voeren, wegneemt. In 2011 begonnen we met hem samen te werken om te onderzoeken hoe we het ondersteunende computersysteem konden verbeteren dat hem in staat stelde om met de wereld om te gaan. Naast het gebruik van zijn computer om met mensen te praten, gebruikte Stephen zijn computer zoals wij allemaal doen, documenten bewerken, op internet surfen, lezingen geven, e-mails lezen/schrijven, enz. Dankzij technologie kon Stephen actief blijven deelnemen aan en inspireren wereld voor jaren nadat zijn fysieke capaciteiten snel afnamen. Dat is - voor mij - hoe betekenisvolle impact van technologie op iemands leven eruit ziet!

Wat zijn enkele van de belangrijkste inzichten die je hebt opgedaan tijdens je samenwerking met prof. Stephen Hawking?

Ons computerscherm is echt onze toegangspoort tot de wereld. Als mensen hun pc kunnen bedienen, kunnen ze alle aspecten van hun leven controleren (consumeren van inhoud, toegang tot de digitale wereld, controle over hun fysieke omgeving, navigeren in hun rolstoel, enz.). Voor mensen met een handicap die nog kunnen spreken, zorgt de vooruitgang in spraakherkenning ervoor dat ze volledige controle hebben over hun apparaten (en in grote mate over hun fysieke omgeving). Degenen die niet kunnen spreken en niet kunnen bewegen, zijn echter echt gehandicapt omdat ze niet veel onafhankelijkheid kunnen uitoefenen. Wat de ervaring met prof. Hawking me heeft geleerd, is dat ondersteunende technologieplatforms moeten worden afgestemd op de specifieke behoeften van de gebruiker. We kunnen er bijvoorbeeld niet zomaar van uitgaan dat één enkele oplossing zal werken voor mensen met ALS, omdat de ziekte verschillende vermogens van patiënten beïnvloedt. We hebben dus technologieën nodig die gemakkelijk kunnen worden geconfigureerd en aangepast aan de behoeften van het individu. Daarom hebben we ACAT (Assistive Context Aware Toolkit) gebouwd, een modulair, open-source softwareplatform waarmee ontwikkelaars kunnen innoveren en er verschillende mogelijkheden op kunnen bouwen.

Ik heb ook geleerd dat het belangrijk is om de comfortdrempel van elke gebruiker te begrijpen rond het opgeven van controle in ruil voor meer efficiëntie (dit is niet beperkt tot mensen met een handicap). AI kan bijvoorbeeld meer controle van de gebruiker wegnemen om een ​​taak sneller of efficiënter uit te voeren, maar elke gebruiker heeft een ander niveau van risicomijding. Sommigen zijn bereid meer controle op te geven, terwijl andere gebruikers er meer van willen behouden. Het begrijpen van die drempels en hoe ver mensen bereid zijn te gaan, heeft een grote invloed op hoe deze systemen kunnen worden ontworpen. We moeten het systeemontwerp heroverwegen in termen van gebruikerscomfort in plaats van alleen objectieve maatstaven voor efficiëntie en nauwkeurigheid.

Meer recentelijk heb je samengewerkt met een beroemde Britse wetenschapper Peter Scott Morgan, die lijdt aan motorneuronziekte en als doel heeft om 's werelds eerste volledige cyborg te worden. Wat zijn enkele van de ambitieuze doelen die Peter heeft?

Een van de problemen met OC (Assistive and Augmentative communication) is de "stiltekloof". Veel mensen met ALS (waaronder Peter) gebruiken blikcontrole om letters/woorden op het scherm te kiezen om met anderen te praten. Dit resulteert in een lange stilte nadat iemand zijn zin heeft beëindigd, terwijl de persoon naar zijn computer staart en begint met het formuleren van zijn letters en woorden om te reageren. Peter wilde deze stiltekloof zoveel mogelijk verkleinen om verbale spontaniteit terug te brengen in de communicatie. Hij wil ook zijn stem en persoonlijkheid behouden en een tekst-naar-spraaksysteem gebruiken dat zijn unieke stijl van communiceren uitdrukt (bijvoorbeeld zijn grapjes, zijn gevatte sarcasme, zijn emoties).

De Britse roboticus Dr. Peter Scott-Morgan, die aan een motorneuronziekte lijdt, begon in 2019 een reeks operaties te ondergaan om zijn leven te verlengen met behulp van technologie. (Credit: Cardiff-producties)

Kunt u enkele van de technologieën bespreken die momenteel worden gebruikt om Dr. Peter Scott-Morgan te helpen?

Peter gebruikt ACAT (Assistive Context Aware Toolkit), het platform dat we tijdens ons werk met Dr. Hawking hebben gebouwd en later hebben vrijgegeven voor open source. In tegenstelling tot Dr. Hawking die de spieren in zijn wang gebruikte als een "invoertrigger" om de letters op zijn scherm te besturen, gebruikt Peter blikcontrole (een mogelijkheid die we aan de bestaande ACAT hebben toegevoegd) om tegen zijn pc te praten en deze te bedienen, die interfaces met een Text-to-Speech (TTS)-oplossing van een bedrijf genaamd CereProc dat voor hem is aangepast en hem in staat stelt om verschillende emoties/nadruk uit te drukken. Het systeem bestuurt ook een avatar die voor hem is aangepast.

We werken momenteel aan een systeem voor het genereren van reacties voor ACAT waarmee Peter op een hoger niveau met het systeem kan communiceren met behulp van AI-mogelijkheden. Dit systeem luistert in de loop van de tijd naar de gesprekken van Peter en stelt antwoorden voor die Peter op het scherm kan kiezen. Het doel is dat het AI-systeem na verloop van tijd leert van de gegevens van Peter en hem in staat stelt het systeem een ​​duwtje in de rug te geven om hem de beste antwoorden te geven met slechts enkele trefwoorden (vergelijkbaar met hoe zoekopdrachten tegenwoordig op internet werken). Ons doel met het systeem voor het genereren van reacties is om de stiltekloof in de communicatie waarnaar hierboven wordt verwezen te verkleinen en Peter en toekomstige gebruikers van ACAT in staat te stellen te communiceren in een tempo dat "natuurlijker" aanvoelt.

U hebt ook gesproken over het belang van transparantie in AI, hoe groot is dit probleem?

Het is een groot probleem, vooral wanneer het wordt ingezet in besluitvormingssystemen of mens/AI-samenwerkingssystemen. In het geval van het ondersteunende systeem van Peter moeten we bijvoorbeeld begrijpen waardoor het systeem deze aanbevelingen doet en hoe we het leren van dit systeem kunnen beïnvloeden om zijn ideeën nauwkeuriger uit te drukken.

In de grotere context van besluitvormingssystemen, of het nu gaat om het helpen bij diagnose op basis van medische beeldvorming of het doen van aanbevelingen voor het verstrekken van leningen, moeten AI-systemen door mensen interpreteerbare informatie verstrekken over hoe ze tot beslissingen zijn gekomen, welke attributen of kenmerken daar de meeste invloed op hadden beslissing, welk vertrouwen heeft het systeem in de gemaakte gevolgtrekking, enz. Dit vergroot het vertrouwen in de AI-systemen en maakt een betere samenwerking tussen mens en AI mogelijk in gemengde besluitvormingsscenario's.

AI-vooringenomenheid, met name als het gaat om racisme en seksisme, is een enorm probleem, maar hoe identificeer je andere soorten vooroordelen als je geen idee hebt naar welke vooroordelen je op zoek bent?

Het is een heel moeilijk probleem dat niet alleen met technologie kan worden opgelost. We moeten meer diversiteit brengen in de ontwikkeling van AI-systemen (ras, geslacht, cultuur, fysieke bekwaamheid, enz.). Dit is duidelijk een enorm gat in de bevolking die tegenwoordig deze AI-systemen bouwt. Daarnaast is het van cruciaal belang om multidisciplinaire teams te hebben die zich bezighouden met de definitie en ontwikkeling van deze systemen, waarbij sociale wetenschappen, filosofie, psychologie, ethiek en beleid ter tafel worden gebracht (niet alleen informatica), en die betrokken zijn bij het onderzoeksproces in de context van de specifieke projecten en problemen.

U hebt eerder gesproken over het gebruik van AI om het menselijk potentieel te vergroten. Wat zijn enkele gebieden die het meest veelbelovend zijn voor deze versterking van het menselijk potentieel?

Een voor de hand liggend gebied is om mensen met een handicap in staat te stellen onafhankelijker te leven, te communiceren met dierbaren en te blijven creëren en bij te dragen aan de samenleving. Ik zie een groot potentieel in het onderwijs, in het begrijpen van de betrokkenheid van studenten en het personaliseren van de leerervaring voor de individuele behoeften en capaciteiten van de student om de betrokkenheid te verbeteren, docenten deze kennis te geven en de leerresultaten te verbeteren. De ongelijkheid in het onderwijs van vandaag is zo groot en er is een plaats voor AI om een ​​deel van deze ongelijkheid te helpen verminderen als we het goed doen. Er zijn eindeloze mogelijkheden voor AI om veel waarde te creëren door mens/AI-samenwerkingssystemen te creëren in zoveel sectoren (gezondheidszorg, productie, enz.) Omdat wat mensen en AI aan tafel brengen, zeer complementair zijn. Om dit te laten gebeuren, hebben we innovatie nodig op het snijvlak van sociale wetenschappen, HCI en AI. Robuuste multimodale perceptie, contextbewustzijn, leren van beperkte gegevens, fysiek gesitueerde HCI en interpreteerbaarheid zijn enkele van de belangrijkste uitdagingen waarop we ons moeten concentreren om deze visie tot wasdom te brengen.

U hebt ook gesproken over hoe belangrijk emotieherkenning is voor de toekomst van AI? Waarom zou de AI-industrie zich meer moeten richten op dit onderzoeksgebied?

Emotieherkenning is om meerdere redenen een belangrijke mogelijkheid van menselijke/AI-systemen. Eén aspect is dat menselijke emotie de belangrijkste menselijke context biedt die elk proactief systeem moet begrijpen voordat het kan handelen.

Wat nog belangrijker is, dit soort systemen moeten in het wild blijven leren en zich aanpassen op basis van interacties met gebruikers. Hoewel directe feedback een belangrijk signaal is om te leren, zijn indirecte signalen erg belangrijk en gratis (minder werk voor de gebruiker). ). Een digitale assistent kan bijvoorbeeld veel leren van de frustratie in de stem van een gebruiker en dat gebruiken als feedbacksignaal om te leren wat hij in de toekomst moet doen, in plaats van de gebruiker elke keer om feedback te vragen. Deze informatie kan worden gebruikt om actief lerende AI-systemen in de loop van de tijd te blijven verbeteren.

Is er nog iets dat je zou willen delen over waar je aan werkt in het Anticipatory Computing Lab of over andere kwesties die we hebben besproken?

Bij het bouwen van ondersteunende systemen moeten we echt nadenken over hoe we deze systemen op verantwoorde wijze kunnen bouwen en hoe we mensen in staat kunnen stellen te begrijpen welke informatie wordt verzameld en hoe ze deze systemen op een praktische manier kunnen besturen. Als AI-onderzoekers zijn we vaak gefascineerd door gegevens en willen we zoveel mogelijk gegevens hebben om deze systemen te verbeteren, maar er is een afweging tussen het type en de hoeveelheid gegevens die we willen en de privacy van de gebruiker. We moeten de gegevens die we verzamelen echt beperken tot wat absoluut nodig is om de deductietaak uit te voeren, de gebruikers bewust maken van de gegevens die we precies verzamelen en hen in staat stellen deze afweging op zinvolle en bruikbare manieren af ​​te stemmen.

Bedankt voor het fantastische interview, lezers die meer willen weten over dit project zouden het artikel moeten lezen Intel's Lama Nachman en Peter Scott-Morgan: twee wetenschappers, één een 'Human Cyborg'.

Het Anticipatory Computing Lab-team van Intel dat de Assistive Context-Aware Toolkit heeft ontwikkeld, omvat (van links naar rechts) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman en Pete Denman. Niet afgebeeld zijn Bruna Girvent, Saurav Sahay en Shachi Kumar. (Credit: Lama Nachman)