Лама Начман, Інтел Феллоу та Директор Антиципаторної Обчислювальної Лабораторії – Серія Інтерв’ю

Лама Начман, є Інтел Феллоу та Директором Антиципаторної Обчислювальної Лабораторії. Лама найбільш відома своєю роботою з професором Стівеном Хокінгом, вона була інструментальною у створенні системи допоміжного комп’ютера для допомоги професору Стівену Хокінгу у спілкуванні. Сьогодні вона допомагає британському робототехніку доктору Пітеру Скотту-Моргану спілкуватися. У 2017 році доктор Пітер Скотт-Морган отримав діагноз захворювання моторних нейронів (MND), також відомого як ALS або хвороба Лу Герига. MND атакує мозок і нерви та в кінцевому підсумку паралізує всі м’язи, навіть ті, що дозволяють дихати та ковтати.

Доктор Пітер Скотт-Морган колись заявив: «Я продовжуватиму еволюціонувати, помираючи як людина, живучи як кіборг».

Що привабило вас до штучного інтелекту?

Я завжди був приваблений ідеєю, що технології можуть бути великим рівнем. Коли вони розроблені відповідально, вони мають потенціал рівнівати поле, вирішувати соціальну нерівність та посилювати людський потенціал. Нікде це не є правдою більше, ніж з штучним інтелектом. Хоча більша частина промислової розмови про штучний інтелект та людей позиціонує відносини між ними як вороже, я вважаю, що є унікальні речі, які машини та люди добре роблять, тому я віддаю перевагу розгляду майбутнього через призму співробітництва людини та штучного інтелекту, а не конкуренції людини та штучного інтелекту. Я керую Антиципаторною Обчислювальною Лабораторією в Інтел Лабс, де ми маємо єдиний фокус на доставці інновацій обчислювальної техніки, які масштабуються для широкого соціального впливу. Враховуючи, наскільки поширений штучний інтелект вже зараз і його зростаючий слід у кожному аспекті нашого життя, я бачу велику обіцянку в дослідженні, яке проводить моя команда для того, щоб зробити штучний інтелект більш доступним, більш контекстно-обізнаним, більш відповідальним та, в кінцевому підсумку, привнесенням технологічних рішень у масштабі для допомоги людям у реальному світі.

Ви працювали у тісній співпраці з легендарним фізиком професором Стівеном Хокінгом для створення системи штучного інтелекту, яка допомогла йому у спілкуванні та виконання завдань, які більшість з нас вважає звичайними. Які були деякі з цих звичайних завдань?

Робота з професором Стівеном Хокінгом була найбільш значущим та складним завданням у моєму житті. Це годувало мою душу та справді показало, як технології можуть суттєво покращити життя людей. Він жив з ALS, дегенеративним неврологічним захворюванням, яке позбавляє пацієнта можливості виконувати найпростіші дії з плином часу. У 2011 році ми почали працювати з ним, щоб дослідити, як покращити допоміжну комп’ютерну систему, яка дозволяла йому взаємодіяти зі світом. Окрім використання свого комп’ютера для спілкування з людьми, Стівен використовував свій комп’ютер, як і всі ми, для редагування документів, серфінгу в інтернеті, читання лекцій, читання/написання електронних листів тощо. Технології дозволили Стівену продовжувати активно брати участь у світі та надихати його на роки після того, як його фізичні можливості швидко зменшилися. Це, на мою думку, є суттєвим впливом технологій на життя людини!

Які деякі з ключових висновків, які ви зробили під час роботи з професором Стівеном Хокінгом?

Наш екран комп’ютера є справжнім входом у світ. Якщо люди можуть контролювати свій комп’ютер, вони можуть контролювати всі аспекти свого життя (споживання контенту, доступ до цифрового світу, контроль над фізичним середовищем, навігація у своєму інвалідному кріслі тощо). Для людей з інвалідністю, які можуть говорити, досягнення у сфері розпізнавання мови дозволяють їм повністю контролювати свої пристрої (і до певної міри їх фізичне середовище). Однак ті, хто не може говорити та не може рухатися, є справжньо уразливими у тому, що вони не можуть проявляти незалежність. Що досвід з професором Хокінгом навчив мене, це те, що платформи допоміжної технології повинні бути адаптовані до конкретних потреб користувача. Наприклад, ми не можемо просто припустити, що єдине рішення буде працювати для людей з ALS, оскільки захворювання впливає на різні можливості у пацієнтів. Тому нам потрібні технології, які можуть бути легко сконфігуровані та адаптовані до індивідуальних потреб. Це є причиною, по якій ми створили ACAT (Допоміжний Контекстно-Обізнаний Інструментарій), модульну, відкриту платформу програмного забезпечення, яка може дозволити розробникам інновувати та будувати різні можливості на її основі.

Я також дізнався, що важливо зрозуміти кожен поріг комфорту користувача щодо віддачі контролю в обмін на більшу ефективність (це не обмежується людьми з інвалідністю). Наприклад, штучний інтелект може бути здатний взяти під контроль більше контролю від користувача, щоб виконати завдання швидше або більш ефективно, але кожен користувач має різний рівень ризиків. Деякі користувачі готові віддати більше контролю, тоді як інші користувачі хочуть зберегти більше контролю. Зрозуміти ці пороги та те, наскільки далеко люди готові піти, має великий вплив на те, як ці системи можуть бути розроблені. Нам потрібно переосмислити проектування систем з точки зору рівня комфорту користувача, а не тільки об’єктивних заходів ефективності та точності.

Нещодавно ви працювали з відомим британським вченим Пітером Скоттом-Морганом, який страждає від захворювання моторних нейронів та має мету стати першим у світі повним кіборгом. Які деякі з амбітних цілей, які має Пітер?

Одна з проблем з AAC (Допоміжною та Розширеною Комунікацією) є “проміжок мовчання”. Багато людей з ALS (включаючи Пітера) використовують контроль погляду для вибору букв/слів на екрані, щоб спілкуватися з іншими. Це призводить до тривалої паузи після того, як хтось закінчує свою речення, тоді як людина дивиться на свій комп’ютер та починає формулювати свої букви та слова, щоб відповісти. Пітер хоче зменшити цей проміжок мовчання якомога більше, щоб повернути вербальну спонтанність до спілкування. Він також хоче зберегти свій голос та особистість та використовувати систему текст-у-голос, яка виражає його унікальний стиль спілкування (наприклад, його жарти, його швидку розумову сарказму, його емоції).

Британський робототехнік доктор Пітер Скотт-Морган, який страждає від захворювання моторних нейронів, почав у 2019 році проходити серію операцій, щоб продовжити своє життя за допомогою технологій. (Джерело: Cardiff Productions)

Чи можете ви обговорити деякі з технологій, які зараз використовуються для допомоги доктору Пітеру Скотту-Моргану?

Пітер використовує ACAT (Допоміжний Контекстно-Обізнаний Інструментарій), платформу, яку ми створили під час роботи з доктором Хокінгом та пізніше випустили у відкритий доступ. На відміну від доктора Хокінга, який використовував м’язи у своєму щічці як “спусковий механізм” для контролю букв на своєму екрані, Пітер використовує контроль погляду (можливість, яку ми додали до існуючого ACAT) для спілкування та контролю свого комп’ютера, який інтерфейсується з системою Текст-у-Голос від компанії CereProc, яка була налаштована для нього та дозволяє йому виражати різні емоції/акцент. Система також контролює аватар, який був налаштований для нього.

Ми зараз працюємо над системою генерації відповідей для ACAT, яка дозволить Пітеру взаємодіяти з системою на вищому рівні за допомогою можливостей штучного інтелекту. Ця система буде слухати розмови Пітера з плином часу та пропонувати йому відповіді на екрані. Метою є те, щоб з плином часу система штучного інтелекту навчилася на даних Пітера та дозволила йому “штовхнути” систему, щоб надати йому найкращі відповіді, використовуючи лише деякі ключові слова (подібно до того, як працюють пошукові системи в інтернеті сьогодні). Наша мета з системою генерації відповідей полягає у тому, щоб зменшити проміжок мовчання у спілкуванні, згаданий вище, та наділити Пітера та майбутніх користувачів ACAT можливістю спілкуватися у темпі, який здається більш “природнім”.

Ви також говорили про важливість прозорості у штучному інтелекті, наскільки великою є ця проблема?

Це велика проблема, особливо коли вона розгортається у системах прийняття рішень або у системах співробітництва людини та штучного інтелекту. Наприклад, у випадку системи допомоги Пітера нам потрібно зрозуміти, що спричиняє рекомендації системи та як вплинути на навчання цієї системи, щоб вона більш точно виражала його ідеї.

У більш широкому контексті систем прийняття рішень, чи то допомога у діагнозі на основі медичних зображень чи надання рекомендацій щодо надання кредитів, системи штучного інтелекту повинні надавати людьми інтерпретовані дані про те, як вони прийшли до цих рішень, які атрибути чи функції мали найбільший вплив на це рішення, який рівень впевненості має система у висновку, зробленому, тощо. Це збільшує довіру до систем штучного інтелекту та дозволяє краще співробітництво між людьми та штучним інтелектом у змішаних сценаріях прийняття рішень.

Штучний інтелект, особливо щодо расизму та сексизму, є великою проблемою, але як ви визначаєте інші види упередженості, коли ви не знаєте, які упередженості ви шукаєте?

Це дуже складна проблема і одна, яку не можна вирішити лише за допомогою технологій. Нам потрібно привнести більше різноманітності у розвиток систем штучного інтелекту (расової, гендерної, культурної, фізичної здатності тощо). Це явно велика лакуна у популяції, яка будує ці системи штучного інтелекту сьогодні. Крім того, це критично важливо мати мультидисциплінарні команди, які займаються визначенням та розробкою цих систем, привносячи соціальну науку, філософію, психологію, етику та політику до столу (не тільки комп’ютерну науку), та займаються процесом дослідження у контексті конкретних проектів та проблем.

Ви говорили раніше про використання штучного інтелекту для посилення людського потенціалу. Які області показують найбільше обіцянки для цього посилення людського потенціалу?

Одна з очевидних областей – це надання людям з інвалідністю можливості жити більш незалежно, спілкуватися з близькими та продовжувати створювати та внесок у суспільство. Я бачу великий потенціал у сфері освіти, у розумінні участі студентів та персоналізації досвіду навчання до індивідуальних потреб та можливостей студента, щоб покращити участь, наділити вчителів цією знанням та покращити результати навчання. Нерівність у сфері освіти сьогодні так глибока, і є місце для штучного інтелекту, щоб допомогти зменшити деяку з цієї нерівності, якщо ми робимо це правильно. Є безкінечні можливості для штучного інтелекту, щоб принести велику цінність, створюючи системи співробітництва людини та штучного інтелекту у багатьох секторах (охорона здоров’я, виробництво тощо), оскільки те, що люди та штучний інтелект приносять до столу, є дуже доповнюваними. Для цього нам потрібно інновації на перетині соціальної науки, HCI та штучного інтелекту. Надійне багатомодальне сприйняття, контекстна обізнаність, навчання з обмеженими даними, фізично розташоване HCI та інтерпретація є деякими з ключових проблем, на які нам потрібно зосередитися, щоб привести цю візію до виконання.

Ви також говорили про важливість розпізнавання емоцій для майбутнього штучного інтелекту. Чому індустрія штучного інтелекту повинна зосередитися більше на цій галузі досліджень?

Розпізнавання емоцій є ключовою можливістю систем людини та штучного інтелекту з кількох причин. Одним з аспектів є те, що людські емоції надають ключовий людський контекст для будь-якої проактивної системи, щоб зрозуміти, перш ніж вона зможе діяти.

Більш важливо, що ці системи потрібно продовжувати навчатися у дикій природі та адаптуватися на основі взаємодій з користувачами, а приховані сигнали дуже важливі та вони “безкоштовні” (менше роботи для користувача). Наприклад, цифровий асистент може багато чого вивчити з розчарування у голосі користувача та використовувати це як сигнал зворотного зв’язку для навчання того, що робити у майбутньому, замість того, щоб запитувати у користувача зворотний зв’язок кожен раз. Ці дані можна використовувати для активного навчання систем штучного інтелекту, щоб продовжувати покращуватися з плином часу.

Чи є щось інше, що ви хотіли б поділитися про те, над чим ви працюєте в Антиципаторній Обчислювальній Лабораторії чи інших питаннях, які ми обговорювали?

Коли ми будемо створювати допоміжні системи, нам потрібно подумати про те, як будувати ці системи відповідально та як надати людям можливість зрозуміти, яку інформацію збирається та як контролювати ці системи у практичному спосіб. Як дослідники штучного інтелекту, ми часто зацікавлені у даних та хочемо мати якомога більше даних, щоб покращити ці системи, однак існує компроміс між типом та кількістю даних, які ми хочемо, та приватністю користувача. Нам потрібно обмежити дані, які ми збираємо, до того, що абсолютно потрібно для виконання завдання висновку, зробити користувачів обізнаними про те, які дані ми збираємо, та надати їм можливість налаштувати цей компроміс у значущих та корисних способах.

Дякую за фантастичну інтерв’ю. Читачам, які хочуть дізнатися більше про цей проєкт, слід прочитати статтю Інтел: Лама Начман та Пітер Скотт-Морган: Два вчених, один “людина-кіборг”.

Команда Антиципаторної Обчислювальної Лабораторії Інтел, яка розробила Допоміжний Контекстно-Обізнаний Інструментарій, включає (зліва направо) Алекса Нгуєна, Сангіту Шарму, Макса Пінарока, Сая Прасада, Ламу Начман та Піта Денмана. Не зображені Бруна Жирвент, Саурав Сахай та Шачі Кумар. (Джерело: Лама Начман)