Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Интервью

Lama Nachman, является Intel Fellow & Director of Anticipatory Computing Lab. Lama наиболее известна своей работой с профессором Стивеном Хокингом, она была инструментальной в создании системы компьютерной помощи для помощи профессору Стивену Хокингу в общении. Сегодня она помогает британскому робототехнику доктору Питеру Скотту-Моргану общаться. В 2017 году доктор Питер Скотт-Морган получил диагноз заболевания двигательных нейронов (MND), также известного как ALS или болезнь Лу Герига. MND поражает мозг и нервы и в конечном итоге парализует все мышцы, включая те, которые позволяют дышать и глотать.

Доктор Питер Скотт-Морган когда-то заявил: “Я буду продолжать эволюционировать, умирать как человек, живя как киборг.”

Что привлекло вас к ИИ?

Я всегда был привлечен идеей, что технологии могут быть великим уравнителем. Когда они разрабатываются ответственно, они имеют потенциал выровнять игровое поле, решить социальные неравенства и усилить человеческий потенциал. Нигде это не более верно, чем с ИИ. Хотя большая часть разговора в отрасли об ИИ и людях позиционирует отношения между ними как противоречивые, я считаю, что есть уникальные вещи, которые машины и люди хорошо делают, поэтому я предпочитаю смотреть на будущее через призму сотрудничества между человеком и ИИ, а не конкуренции между человеком и ИИ. Я руковожу лабораторией Anticipatory Computing Lab в Intel Labs, где во всех наших исследовательских усилиях мы сосредоточены на доставке инноваций в области вычислений, которые масштабируются для широкого социального воздействия. Учитывая, насколько ИИ уже повсеместен и его растущий след на каждом аспекте нашей жизни, я вижу огромную перспективу в исследованиях, которые мои коллеги и я проводим, чтобы сделать ИИ более доступным, более контекстно-осведомленным, более ответственным и, в конечном итоге, приносящим технологические решения в масштабе, чтобы помочь людям в реальном мире.

Вы работали в тесном сотрудничестве с легендарным физиком профессором Стивеном Хокингом, чтобы создать систему ИИ, которая помогала ему с общением и задачами, которые большинство из нас считает рутинными. Какие были некоторые из этих рутинных задач?

Работа с профессором Стивеном Хокингом была наиболее значимым и сложным делом в моей жизни. Она питала мою душу и действительно показала, как технологии могут глубоко улучшить жизнь людей. Он жил с ALS, дегенеративным неврологическим заболеванием, которое со временем лишает пациента возможности выполнять самые простые действия. В 2011 году мы начали работать с ним, чтобы изучить, как улучшить систему компьютерной помощи, которая позволяла ему взаимодействовать с миром. Помимо использования компьютера для разговора с людьми, Стивен использовал свой компьютер, как и все мы, редактировал документы, просматривал Интернет, читал лекции, писал/читал электронные письма и т. д. Технологии позволили Стивену продолжать активно участвовать в мире и вдохновлять его на годы после того, как его физические способности быстро уменьшились. Это, на мой взгляд, является значимым воздействием технологий на чью-то жизнь!

Какие некоторые из ключевых выводов, которые вы сделали из работы с профессором Стивеном Хокингом?

Наш экран компьютера действительно является нашей дверью в мир. Если люди могут контролировать свой ПК, они могут контролировать все аспекты своей жизни (потребление контента, доступ к цифровому миру, контроль над физической средой, навигация по инвалидному креслу и т. д.). Для людей с ограниченными возможностями, которые все еще могут говорить, достижения в области распознавания речи позволяют им иметь полный контроль над своими устройствами (и в значительной степени над своей физической средой). Однако те, кто не может говорить и не может двигаться, действительно ограничены в возможности осуществлять свою независимость. Что опыт с профессором Хокингом научил меня, так это то, что платформы вспомогательных технологий необходимо адаптировать к конкретным потребностям пользователя. Например, мы не можем просто предположить, что одно решение будет работать для людей с ALS, потому что это заболевание влияет на разные способности у пациентов. Поэтому мы построили ACAT (Assistive Context Aware Toolkit), модульную, открытую программную платформу, которая может позволить разработчикам инновировать и строить разные возможности на ее основе.

Я также узнал, что важно понять порог комфорта каждого пользователя при отказе от контроля в обмен на большую эффективность (это не ограничивается людьми с ограниченными возможностями). Например, ИИ может быть способен взять на себя больше контроля от пользователя, чтобы выполнить задачу быстрее или более эффективно, но каждый пользователь имеет разный уровень риска. Некоторые готовы отказаться от большего контроля, в то время как другие пользователи хотят сохранить больше его. Понимание этих порогов и того, насколько далеко люди готовы пойти, имеет большое влияние на то, как эти системы могут быть спроектированы. Нам нужно переосмыслить проектирование систем с точки зрения уровня комфорта пользователя, а не только объективных мер эффективности и точности.

В последнее время вы работали с известным британским ученым Питером Скоттом-Морганом, который страдает от заболевания двигательных нейронов и имеет цель стать первым в мире полным киборгом. Какие некоторые из его амбициозных целей?

Одной из проблем AAC (вспомогательной и аугментативной коммуникации) является “затухание молчания”. Многие люди с ALS (включая Питера) используют контроль взгляда, чтобы выбрать буквы/слова на экране, чтобы говорить с другими. Это приводит к длинному молчанию после того, как кто-то закончил свою предложение, пока человек смотрит на свой компьютер и начинает формулировать свои буквы и слова, чтобы ответить. Питер хотел уменьшить это молчание как можно больше, чтобы вернуть вербальную спонтанность обратно в общение. Он также хотел сохранить свой голос и личность и использовать систему текст-речь, которая выражает его уникальный стиль общения (например, его остроумие, его быстрый ум, его эмоции).

Британский робототехник доктор Питер Скотт-Морган, страдающий от заболевания двигательных нейронов, начал в 2019 году проходить серию операций, чтобы продлить свою жизнь с помощью технологий. (Credit: Cardiff Productions)

Можете ли вы обсудить некоторые технологии, которые в настоящее время используются для помощи доктору Питеру Скотту-Моргану?

Питер использует ACAT (Assistive Context Aware Toolkit), платформу, которую мы построили во время работы с доктором Хокингом и позже выпустили как открытый исходный код. В отличие от доктора Хокинга, который использовал мышцы в своей щеке в качестве “триггера ввода”, чтобы контролировать буквы на его экране, Питер использует контроль взгляда (возможность, которую мы добавили к существующему ACAT), чтобы говорить и контролировать свой ПК, который взаимодействует с системой текст-речь от компании CereProc, которая была адаптирована для него и позволяет ему выражать разные эмоции/акцент. Система также контролирует аватар, который был адаптирован для него.

Мы в настоящее время работаем над системой генерации ответов для ACAT, которая может позволить Питеру взаимодействовать с системой на более высоком уровне с помощью возможностей ИИ. Эта система будет слушать разговоры Питера с течением времени и предлагать ответы для Питера, чтобы выбрать их на экране. Цель состоит в том, чтобы с течением времени система ИИ научилась на данных Питера и позволила ему “подтолкнуть” систему, чтобы предоставить ему лучшие ответы, используя только некоторые ключевые слова (аналогично тому, как работает поиск в Интернете сегодня). Наша цель с системой генерации ответов – уменьшить молчание в общении, упомянутое выше, и дать Питеру и будущим пользователям ACAT возможность общаться в темпе, который кажется более “естественным”.

Вы также говорили о важности прозрачности в ИИ, насколько это большая проблема?

Это большая проблема, особенно когда она развертывается в системах принятия решений или в сотрудничестве между человеком и ИИ. Например, в случае с системой помощи Питера нам нужно понять, что вызывает рекомендации системы и как повлиять на обучение этой системы, чтобы более точно выразить его идеи.

В более широком контексте систем принятия решений, будь то помощь в диагнозе на основе медицинских изображений или предоставление рекомендаций по предоставлению кредитов, системы ИИ должны предоставлять человечески интерпретируемую информацию о том, как они пришли к решениям, какие атрибуты или функции были наиболее важными для этого решения, какова уверенность системы в сделанном выводе и т. д. Это увеличивает доверие к системам ИИ и позволяет лучше сотрудничать между людьми и ИИ в смешанных сценариях принятия решений.

ИИ-偏ценность, особенно когда речь идет о расизме и сексизме, является огромной проблемой, но как вы определяете другие виды предвзятости, когда вы не знаете, какие предвзятости вы ищете?

Это очень сложная проблема, и ее нельзя решить только с помощью технологий. Нам нужно привлечь больше разнообразия в разработку систем ИИ (расового, гендерного, культурного, физической способности и т. д.). Это явно огромная пропасть в населении, строящем эти системы ИИ сегодня. Кроме того, важно иметь мультидисциплинарные команды, участвующие в определении и разработке этих систем, привлекая социальную науку, философию, психологию, этику и политику (не только компьютерную науку), и участвующие в процессе исследования в контексте конкретных проектов и проблем.

Вы говорили ранее об использовании ИИ для усиления человеческого потенциала. Какие области показывают наибольший потенциал для этого усиления человеческого потенциала?

Очевидной областью является обеспечение людей с ограниченными возможностями более независимой жизнью, общения с близкими и продолжения творчества и вклада в общество. Я вижу большой потенциал в образовании, в понимании вовлеченности студентов и персонализации опыта обучения в соответствии с индивидуальными потребностями и способностями студента, чтобы улучшить вовлеченность, дать учителям эту информацию и улучшить результаты обучения. Неравенство в образовании сегодня так велико, и есть место для ИИ, чтобы помочь уменьшить некоторые из этих неравенств, если мы сделаем это правильно. Есть бесконечные возможности для ИИ, чтобы принести много ценности, создавая системы сотрудничества между человеком и ИИ в многих секторах (здравоохранение, производство и т. д.), потому что то, что люди и ИИ приносят на стол, очень дополняют друг друга. Для этого нам нужно инновации на пересечении социальной науки, HCI и ИИ. Надежное многомодальное восприятие, контекстная осведомленность, обучение на ограниченных данных, физически ситуированное HCI и интерпретируемость – это некоторые из ключевых проблем, на которые нам нужно сосредоточиться, чтобы воплотить это видение в жизнь.

Вы также говорили о том, насколько важно распознавание эмоций для будущего ИИ? Почему отрасль ИИ должна сосредоточиться больше на этой области исследований?

Распознавание эмоций является ключевой возможностью систем человека-ИИ по нескольким причинам. Один аспект заключается в том, что человеческие эмоции предлагают ключевой человеческий контекст для любой проактивной системы, чтобы понять, прежде чем она сможет действовать.

Более важно, что эти системы должны продолжать учиться в дикой природе и адаптироваться на основе взаимодействия с пользователями, и хотя прямая обратная связь является ключевым сигналом для обучения, косвенные сигналы очень важны и они бесплатны (меньше работы для пользователя). Например, цифровой помощник может узнать многое из разочарования в голосе пользователя и использовать это как сигнал обратной связи для обучения, что делать в будущем, вместо того, чтобы просить пользователя о обратной связи каждый раз. Эту информацию можно использовать для активного обучения систем ИИ, чтобы продолжать улучшаться с течением времени.

Есть ли что-то еще, что вы хотели бы поделиться о том, над чем вы работаете в лаборатории Anticipatory Computing или других проблемах, которые мы обсудили?

Когда мы строим системы помощи, нам действительно нужно подумать о том, как строить эти системы ответственно и как позволить людям понять, какая информация собирается и как контролировать эти системы практическим образом. Как исследователи ИИ, мы часто увлечены данными и хотим иметь как можно больше данных, чтобы улучшить эти системы, однако, есть компромисс между типом и количеством данных, которые мы хотим, и конфиденциальностью пользователя. Нам действительно нужно ограничить данные, которые мы собираем, до того, что абсолютно необходимо для выполнения задачи вывода, сделать пользователей осведомленными о том, какие именно данные мы собираем, и позволить им настроить этот компромисс осмысленным и удобным образом.

Спасибо за фантастическое интервью. Читателям, которые хотят узнать больше об этом проекте, следует прочитать статью Intel’s Lama Nachman and Peter Scott-Morgan: Two Scientists, One a ‘Human Cyborg’.

Команда лаборатории Anticipatory Computing в Intel, которая разработала Assistive Context-Aware Toolkit, включает (слева) Алекса Нгуена, Сангиту Шарму, Макса Пинарока, Сай Прасада, Ламу Начман и Пита Денмана. Не показаны Бруна Жирвент, Саурав Сахай и Шачи Кумар. (Credit: Lama Nachman)