Лама Начман, старший фелло Intel и директор лаборатории Anticipatory Computing – Серия интервью

Лама Начман, является старшим фелло Intel (INTC ) и директором лаборатории Anticipatory Computing. Лама наиболее известна своей работой с профессором Стивеном Хокингом, она была инструментальной в создании системы вспомогательного компьютера для помощи профессору Стивену Хокингу в общении. Сегодня она помогает британскому робототехнику доктору Питеру Скотту-Моргану общаться. В 2017 году доктор Питер Скотт-Морган получил диагноз заболевания двигательных нейронов (MND), также известного как ALS или болезнь Лу Герига. MND атакует мозг и нервы и в конечном итоге парализует все мышцы, включая те, которые позволяют дышать и глотать.

Доктор Питер Скотт-Морган когда-то заявил: «Я буду продолжать эволюционировать, умирать как человек, живя как киборг».

Что привлекло вас к ИИ?

Я всегда был привлечен к идее, что технологии могут быть великим уравнителем. Когда они разрабатываются ответственно, они имеют потенциал выровнять игровое поле, решить социальные неравенства и усилить человеческий потенциал. Нигде это не более верно, чем с ИИ. Хотя большая часть разговора в отрасли об ИИ и людях позиционирует отношения между ними как противоречивые, я считаю, что есть уникальные вещи, которые машины и люди хорошо делают, поэтому я предпочитаю смотреть на будущее через призму сотрудничества между человеком и ИИ, а не конкуренции между человеком и ИИ. Я руковожу лабораторией Anticipatory Computing в Intel Labs, где во всех наших исследовательских усилиях мы сосредоточены на доставке инноваций в области вычислительной техники, которые масштабируются для широкого социального воздействия. Учитывая, насколько широко ИИ уже распространен и его растущий след в каждом аспекте нашей жизни, я вижу огромный потенциал в исследованиях, которые моя команда проводит для того, чтобы сделать ИИ более доступным, более контекстно-осведомленным, более ответственным и, в конечном итоге, приносящим технологические решения в масштабе для помощи людям в реальном мире.

Вы работали в тесном сотрудничестве с легендарным физиком профессором Стивеном Хокингом, чтобы создать систему ИИ, которая помогала ему общаться и выполнять задачи, которые большинство из нас считают рутинными. Какие были некоторые из этих рутинных задач?

Работа с профессором Стивеном Хокингом была наиболее значимым и сложным начинанием в моей жизни. Она питала мою душу и действительно показала, как технологии могут глубоко улучшить жизнь людей. Он жил с ALS, дегенеративным неврологическим заболеванием, которое лишает пациента возможности выполнять самые простые действия. В 2011 году мы начали работать с ним, чтобы улучшить систему вспомогательного компьютера, которая позволяла ему взаимодействовать с миром. Помимо использования компьютера для общения с людьми, Стивен использовал компьютер, как и все мы, для редактирования документов, просмотра веб-страниц, чтения лекций, отправки и получения электронных писем и т. д. Технологии позволили Стивену продолжать активно участвовать в мире и вдохновлять его на годы после того, как его физические способности быстро уменьшились. Это, на мой взгляд, является真正 значимым воздействием технологий на чью-то жизнь!

Какие ключевые идеи вы вынесли из работы с профессором Стивеном Хокингом?

Наш экран компьютера является真正шей дверью в мир. Если люди могут контролировать свой компьютер, они могут контролировать все аспекты своей жизни (потребление контента, доступ к цифровому миру, контроль над физической средой, навигация в инвалидном кресле и т. д.). Для людей с ограниченными возможностями, которые все еще могут говорить, достижения в области распознавания речи позволяют им иметь полный контроль над своими устройствами (и в значительной степени над их физической средой). Однако те, кто не может говорить и не может двигаться, действительно ограничены в возможности проявлять независимость. То, что опыт с профессором Хокингом преподал мне, заключается в том, что платформы вспомогательной технологии должны быть адаптированы к конкретным потребностям пользователя. Например, мы не можем просто предположить, что одно решение будет работать для людей с ALS, поскольку это заболевание влияет на разные способности у пациентов. Поэтому мы нуждаемся в технологиях, которые могут быть легко настроены и адаптированы к потребностям человека. Это почему мы построили ACAT (Assistive Context Aware Toolkit), модульную, открытую программную платформу, которая может позволить разработчикам инновировать и строить разные возможности на ее основе.

Я также узнал, что важно понимать каждый порог комфорта пользователя вокруг отказа от контроля в обмен на большую эффективность (это не ограничивается людьми с ограниченными возможностями). Например, ИИ может быть способен взять под контроль больше контроля от пользователя, чтобы выполнить задачу быстрее или более эффективно, но каждый пользователь имеет разный уровень рискованности. Некоторые готовы отказаться от большего контроля, в то время как другие пользователи хотят сохранить больше контроля. Понимание этих порогов и того, насколько далеко люди готовы пойти, имеет большое значение для проектирования этих систем. Нам нужно пересмотреть проектирование систем с точки зрения уровня комфорта пользователя, а не только объективных мер эффективности и точности.

В последнее время вы работали с известным британским ученым Питером Скоттом-Морганом, который страдает от заболевания двигательных нейронов и имеет целью стать первым в мире полным киборгом. Какие амбициозные цели имеет Питер?

Одной из проблем с AAC (вспомогательной и аугментативной коммуникацией) является «зазор молчания». Многие люди с ALS (включая Питера) используют контроль взгляда, чтобы выбрать буквы/слова на экране, чтобы говорить с другими. Это приводит к долгому молчанию после того, как кто-то закончил свою фразу, пока человек смотрит на компьютер и начинает формулировать свои буквы и слова, чтобы ответить. Питер хотел уменьшить этот зазор молчания как можно больше, чтобы вернуть вербальную спонтанность обратно в общение. Он также хотел сохранить свой голос и личность и использовать систему текста в речь, которая выражает его уникальный стиль общения (например, его остроты, его быстрый ум, его эмоции).

Британский робототехник доктор Питер Скотт-Морган, страдающий от заболевания двигательных нейронов, начал в 2019 году проходить серию операций, чтобы продлить свою жизнь с помощью технологий. (Credit: Cardiff Productions)

Можете ли вы обсудить некоторые технологии, которые в настоящее время используются для помощи доктору Питеру Скотту-Моргану?

Питер использует ACAT (Assistive Context Aware Toolkit), платформу, которую мы построили во время работы с доктором Хокингом и позже выпустили как открытый исходный код. В отличие от доктора Хокинга, который использовал мышцы в своей щеке в качестве «триггера ввода», чтобы контролировать буквы на экране, Питер использует контроль взгляда (возможность, которую мы добавили к существующему ACAT), чтобы говорить и контролировать свой компьютер, который взаимодействует с системой текста в речь от компании CereProc, которая была настроена для него и позволяет ему выражать разные эмоции/акцент. Система также контролирует аватара, который был настроен для него.

Мы в настоящее время работаем над системой генерации ответов для ACAT, которая может позволить Питеру взаимодействовать с системой на более высоком уровне с помощью возможностей ИИ. Эта система будет слушать разговоры Питера во времени и предлагать ответы для Питера, чтобы выбрать на экране. Цель состоит в том, чтобы система ИИ научилась из данных Питера и позволила ему «подтолкнуть» систему, чтобы предоставить ему лучшие ответы, используя только некоторые ключевые слова (аналогично тому, как работают поисковые системы в Интернете сегодня). Наша цель с системой генерации ответов заключается в том, чтобы уменьшить зазор молчания в общении, упомянутый выше, и дать Питеру и будущим пользователям ACAT возможность общаться в темпе, который кажется более «естественным».

Вы также говорили о важности прозрачности в ИИ, насколько это большая проблема?

Это большая проблема, особенно когда она развертывается в системах принятия решений или сотрудничества между человеком и ИИ. Например, в случае системы помощи Питера нам нужно понять, что вызывает рекомендации системы и как повлиять на обучение этой системы, чтобы более точно выразить его идеи.

В более широком контексте систем принятия решений, будь то помощь в диагностике на основе медицинских изображений или предоставление рекомендаций по предоставлению кредитов, системы ИИ должны предоставлять человечески интерпретируемую информацию о том, как они пришли к решениям, какие атрибуты или функции были наиболее важными для этого решения, какую уверенность имеет система в выводе, сделанном, и т. д. Это увеличивает доверие к системам ИИ и позволяет лучше сотрудничать между людьми и ИИ в смешанных сценариях принятия решений.

ИИ-偏见, в частности, когда речь идет о расизме и сексизме, является огромной проблемой, но как вы определяете другие типы предвзятости, когда вы не знаете, какие предвзятости вы ищете?

Это очень трудная проблема и одна, которую нельзя решить только с помощью технологий. Нам нужно привлечь больше разнообразия в разработку систем ИИ (расового, гендерного, культурного, физической способности и т. д.). Это явно большая лакуна в населении, строящем эти системы ИИ сегодня. Кроме того, важно иметь междисциплинарные команды, участвующие в определении и разработке этих систем, привлекая социальную науку, философию, психологию, этику и политику (не только компьютерные науки), и участвующие в процессе исследования в контексте конкретных проектов и проблем.

Вы говорили ранее об использовании ИИ для усиления человеческого потенциала, какие области показывают наибольший потенциал для этого усиления?

Очевидной областью является возможность для людей с ограниченными возможностями жить более независимо, общаться с близкими и продолжать создавать и вносить вклад в общество. Я вижу большой потенциал в образовании, в понимании вовлеченности студентов и персонализации опыта обучения для индивидуальных потребностей и возможностей студента, чтобы улучшить вовлеченность, дать учителям эту информацию и улучшить результаты обучения. Неравенство в образовании сегодня так велико, и есть место для ИИ, чтобы помочь уменьшить некоторые из этого неравенства, если мы сделаем это правильно. Есть бесконечные возможности для ИИ, чтобы принести много ценности, создавая системы сотрудничества между человеком и ИИ в многих секторах (здравоохранение, производство и т. д.), потому что то, что люди и ИИ приносят на стол, очень дополняют друг друга. Для этого нам нужно инновации на пересечении социальной науки, HCI и ИИ. Надежное многомодальное восприятие, контекстная осведомленность, обучение на ограниченных данных, физически расположенный HCI и интерпретируемость являются некоторыми из ключевых проблем, на которые нам нужно сосредоточиться, чтобы воплотить эту концепцию в жизнь.

Вы также говорили о том, насколько важно распознавание эмоций для будущего ИИ, почему отрасль ИИ должна сосредоточиться на этой области исследований?

Распознавание эмоций является ключевой возможностью систем человека и ИИ по нескольким причинам. Одним из аспектов является то, что человеческие эмоции предлагают ключевой человеческий контекст для любой проактивной системы, чтобы понять, прежде чем она может действовать.

Более того, эти типы систем должны продолжать учиться в дикой природе и адаптироваться на основе взаимодействия с пользователями, и хотя прямая обратная связь является ключевым сигналом для обучения, косвенные сигналы очень важны и они бесплатны (меньше работы для пользователя). Например, цифровой помощник может узнать многое из разочарования в голосе пользователя и использовать это как сигнал обратной связи для обучения того, что делать в будущем, вместо того, чтобы просить пользователя о обратной связи каждый раз. Эта информация может быть использована для активного обучения систем ИИ, чтобы продолжать улучшаться со временем.

Есть ли что-то еще, что вы хотели бы поделиться о том, над чем вы работаете в лаборатории Anticipatory Computing или других проблемах, которые мы обсуждали?

Когда мы строим системы помощи, нам действительно нужно подумать о том, как строить эти системы ответственно и как позволить людям понять, какая информация собирается и как контролировать эти системы практическим образом. Как исследователи ИИ, мы часто увлечены данными и хотим иметь как можно больше данных, чтобы улучшить эти системы, однако, существует компромисс между типом и количеством данных, которые мы хотим, и конфиденциальностью пользователя. Нам действительно нужно ограничить данные, которые мы собираем, до того, что абсолютно необходимо для выполнения задачи вывода, сделать пользователей осведомленными о том, какие именно данные мы собираем, и позволить им настроить этот компромисс осмысленным и удобным образом.

Спасибо за фантастический интервью, читателям, которые хотят узнать больше об этом проекте, следует прочитать статью Intel’s Lama Nachman и Peter Scott-Morgan: Два ученых, один «человеческий киборг».

Команда лаборатории Anticipatory Computing Intel, которая разработала Assistive Context-Aware Toolkit, включает (слева направо) Алекса Нгуена, Сангиту Шарму, Макса Пинарока, Сай Прасада, Ламу Начман и Пита Денмана. Не показаны Бруна Жирвент, Саурав Сахай и Шачи Кумар. (Credit: Lama Nachman)