Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Інтерв’ю Серія

Lama Nachman, є Intel Fellow та директором лабораторії Anticipatory Computing. Lama найвідоміша своєю роботою з професором Стівеном Хокінгом, вона була інструментальною у створенні системи комп’ютерної допомоги для спілкування з професором Стівеном Хокінгом. Сьогодні вона допомагає британському робототехніку доктору Пітеру Скотту-Моргану спілкуватися. У 2017 році доктор Пітер Скотт-Морган отримав діагноз захворювання моторних нейронів (MND), також відомого як ALS або хвороба Лу Геріга. MND атакує мозок і нерви та в кінцевому підсумку паралізує всі м’язи, навіть ті, що дозволяють дихати та ковтати.

Доктор Пітер Скотт-Морган колись заявив: “Я буду продовжувати еволюціонувати, помираючи як людина, живучи як кіборг.”

Що привабило вас до штучного інтелекту?

Я завжди був приваблений ідеєю, що технології можуть бути великим рівнем. Коли вони розроблені відповідально, вони мають потенціал зрівняти умови, вирішити соціальну нерівність і посилити людський потенціал. Нікде це не є правдою більше, ніж з штучним інтелектом. Хоча велика частина промислової розмови про штучний інтелект і людей позиціонує відносини між ними як вороже, я вважаю, що є унікальні речі, які машини і люди добре роблять, тому я віддаю перевагу розгляду майбутнього через призму співробітництва людини і штучного інтелекту, а не змагання людини і штучного інтелекту. Я очолюю лабораторію Anticipatory Computing в Intel Labs, де ми маємо єдиний фокус на доставці інновацій у сфері обчислень, які мають широкий соціальний вплив. Враховуючи, наскільки штучний інтелект вже є поширеним і його зростаючий слід у кожному аспекті нашого життя, я бачу велику перспективу в дослідженні, яке проводить моя команда, щоб зробити штучний інтелект більш доступним, більш контекстно-чутливим, більш відповідальним і, в кінцевому підсумку, привнести технологічні рішення у масштабі, щоб допомогти людям у реальному світі.

Ви працювали у тісній співпраці з легендарним фізиком професором Стівеном Хокінгом, щоб створити систему штучного інтелекту, яка допомогла йому у спілкуванні та у завданнях, які більшість з нас вважає звичайними. Які були деякі з цих звичайних завдань?

Робота з професором Стівеном Хокінгом була найбільш значимим і складним завданням у моєму житті. Це годувало мою душу і справді показало, як технології можуть глибоко поліпшити життя людей. Він жив з ALS, дегенеративним неврологічним захворюванням, яке з часом позбавляє пацієнта можливості виконувати найпростіші дії. У 2011 році ми почали працювати з ним, щоб探ити, як покращити систему комп’ютерної допомоги, яка дозволяла йому взаємодіяти зі світом. Окрім використання комп’ютера для спілкування з людьми, Стівен використовував свій комп’ютер, як і всі ми, редагуючи документи, серфуючи у мережі, читає лекції, читає/писав електронні листи тощо. Технології дозволили Стівену продовжувати активно брати участь у світі та надихати людей протягом років після того, як його фізичні можливості швидко зменшилися. Це – те, що я називаю значимим впливом технологій на життя людини!

Які були деякі з ключових висновків, які ви зробили з роботи з професором Стівеном Хокінгом?

Наш комп’ютерний екран є справжньою брамою у світ. Якщо люди можуть контролювати свій ПК, вони можуть контролювати всі аспекти свого життя (споживати контент, доступ до цифрового світу, контролювати свою фізичну довкілля, переміщувати свій інвалідний візок тощо). Для людей з інвалідністю, які все ще можуть говорити, вдосконалення розпізнавання мови дозволяє їм мати повний контроль над своїми пристроями (і до великої міри, їх фізичним довкіллям). Однак ті, хто не можуть говорити і не можуть рухатися, є真正 обмеженими у своїй незалежності. Що досвід з професором Хокінгом навчив мене, це те, що платформи допоміжної технології повинні бути адаптовані до конкретних потреб користувача. Наприклад, ми не можемо просто припустити, що єдине рішення працюватиме для людей з ALS, оскільки захворювання впливає на різні можливості у пацієнтів. Тому нам потрібні технології, які можуть бути легко сконфігуровані та адаптовані до потреб індивіда. Це чому ми створили ACAT (Assistive Context Aware Toolkit), модульну, відкриту платформу програмного забезпечення, яка може дозволити розробникам інновувати та будувати різні можливості на її основі.

Я також дізнався, що важливо зрозуміти поріг комфорту кожного користувача щодо відмови від контролю в обмін на більшу ефективність (це не обмежується людьми з інвалідністю). Наприклад, штучний інтелект може бути здатний взяти під контроль більше контролю від користувача, щоб виконати завдання швидше або більш ефективно, але кожен користувач має різний рівень ризикової аверсивності. Деякі користувачі готові відмовитися від більшого контролю, тоді як інші користувачі хочуть зберегти більше контролю. Зрозуміти ці пороги та те, наскільки люди готові піти, має великий вплив на те, як ці системи можуть бути спроектовані. Нам потрібно переосмислити проектування системи з точки зору рівня комфорту користувача, а не тільки об’єктивних заходів ефективності та точності.

Нещодавно ви працювали з відомим британським вченим Пітером Скоттом-Морганом, який страждає від захворювання моторних нейронів і має мету стати першим у світі повним кіборгом. Які є деякі з його амбітних цілей?

Одна з проблем з AAC (Assistive and Augmentative communication) є “тиша-прорив”. Багато людей з ALS (включаючи Пітера) використовують контроль погляду, щоб вибрати букви/слова на екрані, щоб говорити з іншими. Це призводить до тривалої тиші після того, як хтось закінчує свою речення, тоді як людина дивиться на свій комп’ютер і починає формулювати свої букви та слова, щоб відповісти. Пітер хотів зменшити цю тишу-прорив якомога більше, щоб повернути вербальну спонтанність до спілкування. Він також хоче зберегти свій голос та особистість і використовувати систему текст-у-голос, яка виражає його унікальний стиль спілкування (наприклад, його жарти, його швидку розумність, його емоції).

Британський робототехнік доктор Пітер Скотт-Морган, який страждає від захворювання моторних нейронів, почав у 2019 році проходити серію операцій, щоб продовжити своє життя за допомогою технологій. (Credit: Cardiff Productions)

Чи можете ви обговорити деякі з технологій, які зараз використовуються для допомоги доктору Пітеру Скотту-Моргану?

Пітер використовує ACAT (Assistive Context Aware Toolkit), платформу, яку ми створили під час роботи з доктором Хокінгом і пізніше випустили у відкритий доступ. На відміну від доктора Хокінга, який використовував м’язи у своїй щічці як “спусковий механізм”, щоб контролювати букви на своєму екрані, Пітер використовує контроль погляду (можливість, яку ми додали до існуючої ACAT), щоб говорити та контролювати свій ПК, який інтерфейсується з рішенням Text-to-Speech (TTS) від компанії CereProc, яке було налаштовано для нього і дозволяє йому виражати різні емоції/акцент. Система також контролює аватар, який був налаштований для нього.

Ми зараз працюємо над системою генерації відповідей для ACAT, яка дозволить Пітеру взаємодіяти з системою на вищому рівні, використовуючи можливості штучного інтелекту. Ця система буде слухати розмови Пітера з часом і пропонувати відповіді для Пітера, щоб вибрати їх на екрані. Метою є те, щоб система штучного інтелекту навчилася з даних Пітера і дозволила йому “штовхнути” систему, щоб надати йому найкращі відповіді, використовуючи лише деякі ключові слова (podobно до того, як це працює у пошуках у мережі сьогодні). Наша мета з системою генерації відповідей полягає у зменшенні тиші-прориву у спілкуванні, згаданому вище, і наділіти Пітера та майбутніх користувачів ACAT спілкуватися у темпі, який відчувається більш “природнім”.

Ви також говорили про важливість прозорості у штучному інтелекті, наскільки великою є ця проблема?

Це велика проблема, особливо коли вона використовується у системах прийняття рішень або у системах співробітництва людини та штучного інтелекту. Наприклад, у випадку системи допомоги Пітера нам потрібно зрозуміти, що спричиняє рекомендації системи і як вплинути на навчання цієї системи, щоб більш точно виразити його ідеї.

У більш широкому контексті систем прийняття рішень, чи то допомога у діагнозі на основі медичної візуалізації, чи надання рекомендацій щодо надання кредитів, системи штучного інтелекту повинні надавати людям інтерпретовані дані про те, як вони прийшли до цих рішень, які атрибути або особливості мали найбільший вплив на це рішення, який рівень впевненості має система у своєму висновку тощо. Це збільшує довіру до систем штучного інтелекту і дозволяє краще співробітництво між людьми та штучним інтелектом у змішаних сценаріях прийняття рішень.

Штучний інтелект, особливо щодо расизму та сексизму, є великою проблемою, але як ви ідентифікуєте інші види упередженості, коли ви не знаєте, які упередженості ви шукаєте?

Це дуже складна проблема і одна, яку не можна вирішити лише за допомогою технологій. Нам потрібно привнести більше різноманітності у розвиток систем штучного інтелекту (расової, гендерної, культурної, фізичної здатності тощо). Це явна прогалина у популяції, яка будує ці системи штучного інтелекту сьогодні. Крім того, важливо мати мультидисциплінарні команди, які займаються розробкою цих систем, привносячи соціальну науку, філософію, психологію, етику та політику (не тільки комп’ютерну науку), і займаються процесом дослідження у контексті конкретних проектів і проблем.

Ви говорили раніше про використання штучного інтелекту для посилення людського потенціалу. Які області показують найбільше обіцянки для цього посилення людського потенціалу?

Очевидною областю є надання можливості людям з інвалідністю жити більш незалежно, спілкуватися з близькими та продовжувати створювати та внески у суспільство. Я бачу великий потенціал у сфері освіти, у розумінні участі студентів та персоналізації досвіду навчання до індивідуальних потреб та можливостей студента, щоб покращити участь, наділити вчителів цією знанням та покращити результати навчання. Нерівність у освіті сьогодні так глибока, і є місце для штучного інтелекту, щоб допомогти зменшити деяку з цієї нерівності, якщо ми це зробимо правильно. Є безкінечні можливості для штучного інтелекту, щоб привнести велику цінність, створюючи системи співробітництва людини та штучного інтелекту у багатьох секторах (охорона здоров’я, виробництво тощо), оскільки те, що люди та штучний інтелект привносять до столу, є дуже доповнювальним. Для цього нам потрібно інновації на перетині соціальної науки, HCI та штучного інтелекту. Надійне багатомодальне сприйняття, контекстна осведомленість, навчання з обмеженими даними, фізично розташована HCI та інтерпретація є деякими з ключових проблем, на які нам потрібно зосередитися, щоб привести цю бачення до виконання.

Ви також говорили про те, наскільки важливим є визнання емоцій для майбутнього штучного інтелекту? Чому промисловість штучного інтелекту повинна зосередитися більше на цій області дослідження?

Визнання емоцій є ключовою можливістю для систем людини та штучного інтелекту з кількох причин. Одним з аспектів є те, що людські емоції пропонують ключовий людський контекст для будь-якої проактивної системи, щоб вона могла діяти.

Важливіше те, що ці системи повинні продовжувати навчатися у дикій природі та адаптуватися на основі взаємодії з користувачами, і хоча прямий фідбек є ключовим сигналом для навчання, непрямі сигнали дуже важливі і вони “безкоштовні” (менше роботи для користувача). Наприклад, цифровий асистент може багато чого навчитися з розчарування у голосі користувача та використовувати це як сигнал фідбеку для навчання того, що робити у майбутньому, замість того, щоб просити користувача про фідбек кожен раз. Ці дані можуть бути використані для активного навчання систем штучного інтелекту, щоб продовжувати покращуватися з часом.

Чи є щось інше, що ви хотіли б поділитися про те, над чим ви працюєте в лабораторії Anticipatory Computing або інших проблем, які ми обговорювали?

Коли ми будемо створювати допоміжні системи, нам потрібно дійсно подумати про те, як будувати ці системи відповідально та як надати людям можливість зрозуміти, які дані збираються та як контролювати ці системи у практичному сенсі. Як дослідники штучного інтелекту, ми часто зацікавлені у даних та хочемо мати якомога більше даних, щоб покращити ці системи, однак існує компроміс між типом та кількістю даних, які ми хочемо, та приватністю користувача. Нам потрібно обмежити дані, які ми збираємо, до того, що абсолютно необхідно для виконання завдання висновку, зробити користувачів свідомими того, які дані ми збираємо, та надати їм можливість налаштувати цей компроміс у значимих та корисних способах.