Lama Nachman, Intel Fellow & Dyrektor Laboratorium Komputowania Przewidywanego – Wywiad

Lama Nachman, jest Fellow Intel (INTC ) i Dyrektorem Laboratorium Komputowania Przewidywanego. Lama jest najlepiej znana ze swojej pracy z Prof. Stephenem Hawkingiem, pomogła zbudować system komputerowy, który pomagał Prof. Hawkingowi w komunikacji. Dziś pomaga brytyjskiemu robotyce Dr. Peterowi Scott-Morganowi w komunikacji. W 2017 roku Dr. Peter Scott-Morgan otrzymał diagnozę choroby neuronowej motorycznej (MND), znanej również jako ALS lub choroba Lou Gehriga. MND atakuje mózg i nerwy i ostatecznie paraliżuje wszystkie mięśnie, w tym te, które umożliwiają oddychanie i połykanie.

Dr. Peter Scott-Morgan powiedział kiedyś: “Będę dalej ewoluować, umierając jako człowiek, żyjąc jako cyborg.”

Czym Cię zainteresowało AI?

Zawsze byłem przyciągany do idei, że technologia może być wielkim wyrównywaczem. Kiedy jest rozwijana w sposób odpowiedzialny, ma potencjał wyrównać szanse, rozwiązać nierówności społeczne i wzmocnić potencjał ludzki. Nie ma miejsca, w którym jest to bardziej prawdziwe niż w przypadku AI. Podczas gdy wiele dyskusji w branży AI i ludzi przedstawia relację między nimi jako wrogi, uważam, że istnieją unikalne rzeczy, które maszyny i ludzie są dobrzy, więc wolę patrzeć na przyszłość przez pryzmat współpracy między człowiekiem a AI, a nie konkurencji. Prowadzę Laboratorium Komputowania Przewidywanego w Intel Labs, gdzie we wszystkich naszych badaniach mamy jeden cel – dostarczanie innowacji komputacyjnych, które skalują się dla szerokiego wpływu społecznego. Biorąc pod uwagę, jak powszechny jest już AI i jak jego wpływ rośnie w każdym aspekcie naszego życia, widzę ogromną obietnicę w badaniach, które moja drużyna prowadzi, aby uczynić AI bardziej dostępnym, bardziej świadomym kontekstu, bardziej odpowiedzialnym i ostatecznie przynieść rozwiązania technologiczne w skali, aby pomóc ludziom w świecie rzeczywistym.

Pracowałeś ściśle z legendarnym fizykiem Prof. Stephenem Hawkingiem, aby stworzyć system AI, który pomagał mu w komunikacji i w zadaniach, które większość z nas uważa za rutynowe. Jakie były niektóre z tych rutynowych zadań?

Praca z Prof. Stephenem Hawkingiem była najbardziej znaczącym i wymagającym przedsięwzięciem mojego życia. Karmiła moją duszę i naprawdę uderzyła mnie, jak technologia może głęboko poprawić życie ludzi. Żył z ALS, chorobą neurodegeneracyjną, która odbiera pacjentowi zdolność do wykonywania najprostszych czynności. W 2011 roku zaczęliśmy z nim pracę, aby poprawić system komputerowy, który umożliwiał mu interakcję ze światem. Oprócz używania komputera do rozmawiania z ludźmi, Stephen używał swojego komputera jak my wszyscy, edytował dokumenty, przeglądał internet, wygłaszał wykłady, czytał i pisał e-maile itp. Technologia umożliwiła Stephenowi dalsze aktywne uczestniczenie w świecie i inspirowanie go przez lata, nawet po tym, jak jego zdolności fizyczne szybko się zmniejszyły. To, co dla mnie wygląda na znaczący wpływ technologii na czyjeś życie!

Jakie są niektóre z kluczowych spostrzeżeń, które wziąłeś ze swojej pracy z Prof. Stephenem Hawkingiem?

Naszy ekran komputera jest naprawdę naszymi drzwiami do świata. Jeśli ludzie mogą kontrolować swój komputer, mogą kontrolować wszystkie aspekty swojego życia (korzystanie z treści, dostęp do świata cyfrowego, kontrola środowiska fizycznego, nawigacja wózkiem itp.). Dla osób z niepełnosprawnościami, które mogą mówić, postępy w rozpoznawaniu mowy pozwalają im na pełną kontrolę urządzeń (i w dużej mierze ich środowiska fizycznego). Jednak dla tych, którzy nie mogą mówić i nie są w stanie się poruszać, są naprawdę upośledzeni, ponieważ nie mogą wykonywać wielu czynności niezależnie. To, czego nauczyłem się od doświadczenia z Prof. Hawkingiem, to to, że platformy technologiczne wspomagające muszą być dostosowane do konkretnych potrzeb użytkownika. Na przykład, nie możemy po prostu założyć, że jeden rozwiązanie będzie działać dla osób z ALS, ponieważ choroba wpływa na różne zdolności u pacjentów. Dlatego zbudowaliśmy ACAT (Assistive Context Aware Toolkit), modułową, otwartoźródłową platformę oprogramowania, która pozwala deweloperom na tworzenie różnych funkcjonalności na jej podstawie.

Czy moglibyście omówić niektóre z technologii, które są obecnie wykorzystywane do pomocy Dr. Peterowi Scott-Morganowi?

Peter używa ACAT (Assistive Context Aware Toolkit), platformy, którą zbudowaliśmy podczas pracy z Dr. Hawkingiem i później udostępniliśmy jako otwartoźródłową. W przeciwieństwie do Dr. Hawkinga, który używał mięśni w policzku jako „wyzwalacza” do kontrolowania liter na ekranie, Peter używa sterowania wzrokiem (funkcji, którą dodaliśmy do istniejącego ACAT), aby mówić i kontrolować swój komputer, który łączy się z rozwiązaniem Text-to-Speech (TTS) od firmy CereProc, które zostało dostosowane dla niego i pozwala mu wyrażać różne emocje i naciski. System ten również kontroluje awatar, który został dostosowany dla niego.

Obecnie pracujemy nad systemem generowania odpowiedzi dla ACAT, który pozwoli Peterowi na interakcję z systemem na wyższym poziomie za pomocą możliwości AI. Ten system będzie nasłuchiwał rozmów Petera z czasem i sugerował odpowiedzi, które Peter będzie mógł wybrać na ekranie. Celem jest to, aby z czasem system AI nauczył się z danych Petera i umożliwił mu „pociągnięcie” systemu, aby zapewnić mu najlepsze odpowiedzi, używając tylko niektórych słów kluczowych (podobnie jak wyszukiwarki internetowe dzisiaj). Naszym celem z systemem generowania odpowiedzi jest zmniejszenie luki ciszy w komunikacji, o której wspomniałem powyżej, i umożliwienie Peterowi i przyszłym użytkownikom ACAT komunikowania się w tempie, które wydaje się bardziej „naturalne”.

Czy moglibyście powiedzieć nam więcej o tym, jak ważna jest przejrzystość w AI?

Jest to duży problem, zwłaszcza gdy jest wdrożony w systemach podejmowania decyzji lub w systemach współpracy człowieka i AI. Na przykład, w przypadku systemu wspomagającego Petera, musimy zrozumieć, co powoduje, że system podejmuje te rekomendacje i jak wpłynąć na uczenie się tego systemu, aby bardziej dokładnie wyrazić jego pomysły.

W szerszym kontekście systemów podejmowania decyzji, czy to pomaga w diagnozie na podstawie obrazów medycznych, czy rekomenduje przyznawanie kredytów, systemy AI muszą dostarczać informacje ludziom w sposób zrozumiały, jak doszli do tych decyzji, jakie atrybuty lub cechy miały największy wpływ na tę decyzję, jaki poziom ufności ma system w tej inferencji itp. To zwiększa zaufanie do systemów AI i umożliwia lepszą współpracę między ludźmi a AI w scenariuszach podejmowania decyzji.

Czy moglibyście powiedzieć nam więcej o tym, jak ważne jest rozpoznawanie emocji w przyszłości AI?

Rozpoznawanie emocji jest kluczową funkcjonalnością systemów człowieka i AI z wielu powodów. Jednym z aspektów jest to, że emocje ludzkie dostarczają kontekstu dla każdego proaktywnego systemu, zanim będzie mógł działać.

Bardziej istotne jest to, że tego typu systemy muszą kontynuować uczenie się w terenie i adaptować się na podstawie interakcji z użytkownikami, a podczas gdy bezpośrednia informacja zwrotna jest kluczowym sygnałem do uczenia, sygnały pośrednie są bardzo ważne i są bezpłatne (mniej pracy dla użytkownika). Na przykład, asystent cyfrowy może się wiele nauczyć z frustracji w głosie użytkownika i użyć tego jako sygnału zwrotnego do uczenia, co zrobić w przyszłości, zamiast prosić użytkownika o informację zwrotną za każdym razem. Te informacje mogą być wykorzystane do aktywnego uczenia się systemów AI, aby poprawiać się z czasem.

Czy jest coś jeszcze, co chcielibyście podzielić się na temat tego, nad czym pracujecie w Laboratorium Komputowania Przewidywanego, czy innych kwestii, które omawialiśmy?

Gdy budujemy systemy wspomagające, musimy naprawdę myśleć o tym, jak budować te systemy w sposób odpowiedzialny i jak umożliwić ludziom zrozumienie, jakie informacje są gromadzone i jak kontrolować te systemy w praktyczny sposób. Jako badacze AI, często jesteśmy fascynowani danymi i chcemy mieć jak najwięcej danych, aby poprawić te systemy, jednak jest kompromis między rodzajem i ilością danych, które chcemy, a prywatnością użytkownika. Naprawdę musimy ograniczyć dane, które gromadzimy, do tego, co jest absolutnie niezbędne do wykonania zadania inferencyjnego, poinformować użytkowników o tym, jakie dane gromadzimy, i umożliwić im dostosowanie tego kompromisu w sposób znaczący i użyteczny.

Dziękuję za fantastyczny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o tym projekcie, powinni przeczytać artykuł Intel’s Lama Nachman and Peter Scott-Morgan: Two Scientists, One a ‘Human Cyborg’.

Zespół Laboratorium Komputowania Przewidywanego Intel, który opracował Assistive Context-Aware Toolkit, w skład którego wchodzą (od lewej) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman i Pete Denman. Nie są przedstawieni Bruna Girvent, Saurav Sahay i Shachi Kumar. (Credit: Lama Nachman)