Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Rozhovorová série

Lama Nachman, je Intel (INTC ) Fellow & Director of Anticipatory Computing Lab. Lama je nejznámější díky své práci s profesorem Stephenem Hawkingem, bylainstrumentální při budování asistivní počítačové systémy, která umožnila profesoru Stephenu Hawkingovi komunikovat. Dnes pomáhá britskému robotiku Dr. Peteru Scott-Morganovi komunikovat. V roce 2017 obdržel Dr. Peter Scott-Morgan diagnózu motorického neuronového onemocnění (MND), také známého jako ALS nebo Lou Gehrigova choroba. MND napadá mozek a nervy a nakonec paralyzuje všechny svaly, včetně těch, které umožňují dýchání a polykání.

Dr. Peter Scott-Morgan jednou prohlásil: „Budu pokračovat v evoluci, umírám jako člověk, žiji jako kyborg.“

Co vás přitáhlo k umělým inteligencím?

Již vždy jsem byl přitahován nápadem, že technologie může být velkým vyrovnávačem. Pokud je vyvinuta zodpovědně, má potenciál vyrovnat hrací pole, řešit sociální nerovnosti a zesílit lidský potenciál. Nikde není toto pravdou více než u umělých inteligencí. Zatímco většina diskuse v oboru o umělých inteligencích a lidech staví vztah mezi nimi jako adversativní, jsem přesvědčen, že existují jedinečné věci, které jsou dobré pro stroje a lidi, takže raději vidím budoucnost skrze čočku spolupráce mezi lidmi a umělými inteligencemi než konkurence mezi nimi. Vedoucí Anticipatory Computing Lab v Intel Labs, kde máme napříč všemi našimi výzkumnými úsilími jediný cíl – dodávat inovace v oblasti výpočetní techniky, které mají široký dopad na společnost. Vzhledem k tomu, jak všudypřítomné jsou již umělými inteligence a jejich rostoucí stopa v každém aspektu našeho života, vidím obrovský potenciál ve výzkumu, který můj tým provádí, aby činil umělými inteligence více přístupnými, více kontextově vědomými, více zodpovědnými a nakonec přinášel technologická řešení v měřítku, aby pomohly lidem ve skutečném světě.

Pracovali jste úzce s legendárním fyzikem profesorem Stephenem Hawkingem, aby jste vytvořili systém umělé inteligence, který mu pomáhal s komunikací a úkoly, které většina z nás považuje za rutinní. Jaké byly některé z těchto rutinních úkolů?

Práce s profesorem Stephenem Hawkingem byla nejvýznamnějším a nejobtížnějším úkolem mého života. Napájela mou duši a opravdu ukázala, jak technologie může hluboce zlepšit životy lidí. Žil s ALS, degenerativním neurologickým onemocněním, které odnímá pacientovi schopnost provádět jednoduché činnosti. V roce 2011 jsme začali pracovat s ním, abychom zlepšili asistivní počítačový systém, který mu umožnil interagovat se světem. Kromě používání počítače pro komunikaci s lidmi, Stephen používal počítač jako všichni my, editoval dokumenty, procházel web, přednášel, četl a psal e-maily atd. Technologie umožnila Stephenovi pokračovat v aktivní účasti na světě a inspirovat ho po mnoho let poté, co jeho fyzické schopnosti rychle poklesly. To – pro mě – je to, co vypadá jako smysluplný dopad technologie na někoho život!

Jaké jsou některé z klíčových poznatků, které jste získali z práce s profesorem Stephenem Hawkingem?

Náš počítačový displej je skutečně naší branou do světa. Pokud lidé mohou ovládat svůj počítač, mohou ovládat všechny aspekty svého života (spotřebu obsahu, přístup k digitálnímu světu, kontrolu fyzického prostředí, navigaci na svém vozíku atd.). Pro lidi se zdravotním postižením, kteří mohou stále mluvit, pokroky ve zpracování řeči jim umožňují plnou kontrolu nad svými zařízeními (a do značné míry i nad svým fyzickým prostředím). Nicméně, ti, kteří nemohou mluvit a nejsou schopni se pohybovat, jsou skutečně znevýhodněni, protože nejsou schopni vykonávat mnoho nezávislých činností. Co mě zkušenost s profesorem Hawkingem naučila, je, že asistivní technologie musí být přizpůsobena konkrétním potřebám uživatele. Například nemůžeme předpokládat, že jediné řešení bude fungovat pro lidi s ALS, protože toto onemocnění postihuje různé schopnosti u pacientů. Proto jsme vytvořili ACAT (Assistive Context Aware Toolkit), modulární, otevřený software, který umožňuje vývojářům inovovat a budovat různé schopnosti na jeho základě.

Pracujete také s britským robotikem Dr. Peterem Scott-Morganem, který trpí motorickým neuronovým onemocněním a má za cíl stát se prvním plným kyborgem na světě. Jaké jsou některé z jeho ambiciózních cílů?

Jedním z problémů s AAC (Asistivní a augmentativní komunikací) je „ticho mezera“. Mnoho lidí s ALS (včetně Petera) používá kontrolu pohledu, aby vybral písmena / slova na obrazovce, aby mluvil s ostatními. To vede k dlouhému tichu po dokončení věty, zatímco osoba hledí na počítač a začíná formulovat písmena a slova, aby odpověděla. Peter chtěl tuto tichou mezeru co nejvíce zkrátit a vrátit zpět verbální spontánnost do komunikace. Také chtěl zachovat svůj hlas a osobnost a použít text-to-speech systém, který vyjadřuje jeho jedinečný styl komunikace (například jeho vtipy, jeho rychlou sarkasmus, jeho emoce).

Britský robotik Dr. Peter Scott-Morgan, který trpí motorickým neuronovým onemocněním, začal v roce 2019 podstupovat sérii operací, aby prodloužil svůj život pomocí technologie. (Credit: Cardiff Productions)

Můžete diskutovat některé z technologií, které jsou aktuálně používány k asistenci Dr. Peteru Scott-Morganovi?

Peter používá ACAT (Assistive Context Aware Toolkit), platformu, kterou jsme vytvořili během naší práce s Dr. Hawkingem a později jsme ji vydali jako otevřený software. Na rozdíl od Dr. Hawkinga, který používal svaly v tváři jako „input trigger“ pro ovládání písmen na obrazovce, Peter používá kontrolu pohledu (schopnost, kterou jsme přidali do stávajícího ACAT) pro komunikaci a ovládání počítače, který se připojuje k text-to-speech řešení od společnosti CereProc, které bylo přizpůsobeno pro něj a umožňuje mu vyjádřit různé emoce / důraz. Systém také ovládá avatar, který byl pro něj přizpůsoben.

Pracujeme currently na systému generování odpovědí pro ACAT, který by umožnil Peterovi interagovat se systémem na vyšší úrovni pomocí schopností umělé inteligence. Tento systém bude poslouchat Peterovy konverzace po dobu času a bude navrhovat odpovědi pro Petera na obrazovce. Cílem je, aby se systém naučil z Peterových dat a umožnil mu „najít“ nejlepší odpovědi pomocí pouze některých klíčových slov (podobně jako fungují vyhledávání na webu). Naším cílem se systémem generování odpovědí je snížit tichou mezeru v komunikaci a umožnit Peterovi a budoucím uživatelům ACAT komunikovat v tempu, které se cítí „přirozenější“.

Můžete diskutovat o důležitosti transparentnosti v umělých inteligencích?

Je to velký problém, zejména když je nasazen v rozhodovacích systémech nebo systémech spolupráce mezi lidmi a umělými inteligencemi. Například v případě Peterova asistivního systému potřebujeme pochopit, co způsobuje, že systém dělá tyto doporučení, a jak ovlivnit učení tohoto systému, aby přesněji vyjádřil jeho myšlenky.

Můžete diskutovat o problému předvědí v umělých inteligencích, zejména ve vztahu k rasismu a sexismu?

Je to velmi obtížný problém a nelze jej vyřešit pouze pomocí technologie. Potřebujeme přivést více diverzity do vývoje systémů umělé inteligence (rasové, genderové, kulturní, fyzické schopnosti atd.). To je jasná mezera v populaci, která buduje tyto systémy umělé inteligence dnes. Kromě toho je kritické mít multidisciplinární týmy zapojené do definice a vývoje těchto systémů, přivést sociální vědu, filozofii, psychologii, etiku a politiku do procesu (nejen počítačovou vědu), a zapojit se do procesu dotazování v kontextu konkrétních projektů a problémů.

Můžete diskutovat o oblastech, které ukazují největší potenciál pro zesílení lidského potenciálu?

Zjevnou oblastí je umožnění lidem se zdravotním postižením žít více nezávisle, komunikovat s blízkými a pokračovat v tvorbě a přispívání společnosti. Vidím velký potenciál ve vzdělávání, v pochopení zapojení studentů a personalizaci vzdělávací zkušenosti pro individuální potřeby a schopnosti studenta, aby se zlepšilo zapojení, vybavilo učitele touto znalostí a zlepšilo výsledky učení. Nerovnost ve vzdělávání je dnes tak hluboká a existuje místo pro umělou inteligenci, aby pomohla snížit některé z této nerovnosti, pokud to uděláme správně. Existují nekonečné příležitosti pro umělou inteligenci, aby přinesla mnoho hodnoty vytvořením systémů spolupráce mezi lidmi a umělými inteligencemi ve mnoha sektorech (zdravotnictví, výrobě atd.), protože to, co lidé a umělá inteligence přinášejí, je velmi doplňující. K tomu, aby se to stalo, potřebujeme inovace na rozhraní sociálních věd, HCI a umělé inteligence. Robustní multi-modální percepci, kontextové povědomí, učení z omezených dat, fyzicky situované HCI a interpretovatelnost jsou některé z klíčových výzev, na které se musíme zaměřit, abychom tuto vizi uvědomili.

Můžete diskutovat o důležitosti rozpoznávání emocí pro budoucnost umělé inteligence?

Rozpoznávání emocí je klíčovou schopností systémů spolupráce mezi lidmi a umělými inteligencemi z více důvodů. Jedním z aspektů je, že lidské emoce poskytují klíčový lidský kontext pro jakékoli proaktivní systémy, aby pochopily, než budou moci jednat.

Dále je důležité, aby tyto systémy pokračovaly v učení se ve volném prostředí a přizpůsobovaly se na základě interakcí s uživateli, a zatímco přímá zpětná vazba je klíčovým signálem pro učení, nepřímé signály jsou velmi důležité a jsou zdarma (méně práce pro uživatele). Například digitální asistent může naučit se mnoho z frustrace v uživatelském hlasu a použít to jako signál zpětné vazby pro učení, co dělat v budoucnu, místo aby požádal uživatele o zpětnou vazbu každou chvíli. Tyto informace lze použít pro aktivní učení umělé inteligence, aby se systémy dále zlepšovaly.

Je něco jiného, co byste rádi sdíleli o tom, na čem pracujete v Anticipatory Computing Lab nebo o jiných problémech, které jsme diskutovali?

Při budování asistivních systémů musíme opravdu myslet na to, jak je budovat zodpovědně a jak umožnit lidem pochopit, co se sbírá a jak ovládat tyto systémy praktickým způsobem. Jako výzkumníci umělé inteligence jsme často fascinováni daty a chceme mít co nejvíce dat, aby se systémy zlepšily, nicméně existuje kompromis mezi typem a množstvím dat, které chceme, a soukromím uživatele. Musíme omezit data, která sbíráme, na to, co je absolutně nezbytné pro provedení úkolu, učinit uživatele vědomými přesně toho, co data sbíráme, a umožnit jim upravit tento kompromis smysluplným a užitečným způsobem.

Děkuji za fantastický rozhovor, čtenáři, kteří chtějí se dozvědět více o tomto projektu, by měli přečíst článek Intel’s Lama Nachman a Peter Scott-Morgan: Dva vědci, jeden „lidský kyborg“.

Tým Anticipatory Computing Lab v Intelu, který vyvinul Assistive Context-Aware Toolkit, zahrnuje (zleva) Alexe Nguyena, Sangitu Sharmu, Maxe Pinaroca, Sai Prasada, Lamu Nachman a Petea Denmana. Na snímku nejsou Bruna Girvent, Saurav Sahay a Shachi Kumar. (Credit: Lama Nachman)