Лама Нахман, співробітник Intel і директор лабораторії антиципаторних обчислень – серія інтерв’ю

Лама Нахман, є співробітником Intel і директором Anticipatory Computing Lab. Лама найбільш відома своєю роботою з професором Стівеном Хокінгом, вона відіграла важливу роль у створенні допоміжної комп’ютерної системи, щоб допомогти професору Стівену Хокінгу спілкуватися. Сьогодні вона допомагає британському робототехніку доктору Пітеру Скотту-Моргану спілкуватися. У 2017 році доктору Пітеру Скотту-Моргану поставили діагноз захворювання моторних нейронів (БНМ), також відоме як БАС або хвороба Лу Геріга. МНД атакує мозок і нерви і зрештою паралізує всі м’язи, навіть ті, які забезпечують дихання та ковтання.

Доктор Пітер Скотт-Морган якось сказав: «Я продовжу розвиватися, помираю як людина, живу як кіборг».

Чим вас привабив ШІ?

Мене завжди приваблювала ідея, що технології можуть бути чудовим еквалайзером. Якщо його розробляти відповідально, він має потенціал для вирівнювання умов гри, усунення соціальної нерівності та розширення людського потенціалу. Ніде це так не вірно, як у ШІ. Хоча в галузевих дискусіях навколо штучного інтелекту та людини відносини між ними розглядаються як суперницькі, я вважаю, що існують унікальні речі, в яких машини та люди добре вміють, тому я віддаю перевагу дивитися на майбутнє крізь призму співпраці людини та штучного інтелекту, а не змагання «людина-ШІ». Я очолюю лабораторію передбачуваних обчислень у Intel Labs, де — у всіх наших дослідницьких зусиллях — ми зосереджені на розробці обчислювальних інновацій, які мають широкий суспільний вплив. З огляду на те, наскільки поширеним є штучний інтелект і його вплив на всі аспекти нашого життя, я бачу величезні перспективи в дослідженні, яке проводить моя команда, щоб зробити штучний інтелект доступнішим, більш контекстно-зрозумілим, відповідальнішим і, зрештою, запроваджувати масштабні технологічні рішення, щоб допомогти людей у ​​реальному світі.

Ви тісно співпрацювали з легендарним фізиком професором Стівеном Хокінгом, щоб створити систему штучного інтелекту, яка допомагала йому спілкуватися та виконувати завдання, які більшість із нас вважали б рутинними. Якими були деякі з цих рутинних завдань?

Робота з професором Стівеном Гокінгом була найбільш значущою та складною справою в моєму житті. Це нагодувало мою душу і справді зрозуміло, як технології можуть значно покращити життя людей. Він жив із АЛС, дегенеративним неврологічним захворюванням, яке з часом позбавляє пацієнта здатності виконувати найпростіші дії. У 2011 році ми почали працювати з ним, щоб дослідити, як покращити допоміжну комп’ютерну систему, яка дала йому змогу взаємодіяти зі світом. Окрім використання свого комп’ютера для спілкування з людьми, Стівен використовував свій комп’ютер, як і всі ми, редагував документи, переглядав Інтернет, читав лекції, читав/писав електронні листи тощо. Технології дозволили Стівену продовжувати активну участь і надихати світ протягом багатьох років після того, як його фізичні здібності швидко зменшилися. Ось як, як на мене, виглядає значущий вплив технологій на чиєсь життя!

Які ключові ідеї ви винесли, працюючи з професором Стівеном Гокінгом?

Екран нашого комп’ютера – це справді двері у світ. Якщо люди можуть контролювати свій ПК, вони можуть контролювати всі аспекти свого життя (споживання контенту, доступ до цифрового світу, контроль свого фізичного середовища, керування інвалідним візком тощо). Для людей з обмеженими можливостями, які все ще можуть говорити, прогрес у розпізнаванні мовлення дозволяє їм повністю контролювати свої пристрої (і значною мірою, своє фізичне середовище). Тим не менш, ті, хто не може говорити і не може рухатися, справді страждають від того, що не можуть проявляти велику незалежність. Досвід роботи з професором Хокінгом навчив мене тому, що допоміжні технологічні платформи потрібно адаптувати до конкретних потреб користувача. Наприклад, ми не можемо просто припустити, що одне рішення спрацює для людей з БАС, оскільки хвороба впливає на різні здібності пацієнтів. Отже, нам потрібні технології, які можна легко налаштувати та адаптувати до потреб людини. Ось чому ми створили ACAT (Assistive Context Aware Toolkit), модульну програмну платформу з відкритим вихідним кодом, яка може дозволити розробникам впроваджувати інновації та створювати на її основі різні можливості.

Я також дізнався, що важливо розуміти поріг комфорту кожного користувача щодо відмови від контролю в обмін на більшу ефективність (це стосується не лише людей з обмеженими можливостями). Наприклад, штучний інтелект може позбавити користувача більшого контролю, щоб швидше чи ефективніше виконувати завдання, але кожен користувач має різний рівень уникнення ризику. Деякі користувачі готові відмовитися від більшого контролю, тоді як інші користувачі хочуть зберегти його більше. Розуміння цих порогів і того, наскільки далеко люди готові зайти, має великий вплив на те, як ці системи можуть бути розроблені. Нам потрібно переосмислити дизайн системи з точки зору рівня комфорту користувача, а не лише об’єктивних показників ефективності та точності.

Нещодавно ви працювали з відомим британським вченим Пітером Скоттом Морганом, який страждає на захворювання мотонейронів і має на меті стати першим у світі повноцінним кіборгом. Які амбітні цілі ставить перед собою Пітер?

Однією з проблем AAC (допоміжної та доповнюючої комунікації) є «розрив тиші». Багато людей з БАС (включаючи Пітера) використовують контроль погляду, щоб вибирати літери/слова на екрані, щоб розмовляти з іншими. Це призводить до тривалого мовчання після того, як хтось закінчує речення, поки людина дивиться на свій комп’ютер і починає формулювати свої літери та слова для відповіді. Пітер хотів максимально скоротити цю прогалину мовчання, щоб повернути словесну спонтанність у спілкування. Він також хоче зберегти свій голос і особистість і використовувати систему мовлення з тексту, яка виражає його унікальний стиль спілкування (наприклад, його дотепи, його спритний сарказм, його емоції).

Британський робототехнік доктор Пітер Скотт-Морган, який має захворювання моторних нейронів, у 2019 році почав проходити серію операцій, щоб продовжити своє життя за допомогою технологій. (Авторство зображення: Cardiff Productions)

Не могли б ви обговорити деякі технології, які зараз використовуються для допомоги доктору Пітеру Скотту-Моргану?

Пітер використовує ACAT (Assistive Context Aware Toolkit), платформу, яку ми створили під час нашої роботи з доктором Гокінгом і пізніше випустили з відкритим кодом. На відміну від доктора Хокінга, який використовував м’язи своєї щоки як «тригер введення» для керування літерами на екрані, Пітер використовує керування поглядом (можливість, яку ми додали до існуючого ACAT), щоб розмовляти зі своїм ПК і контролювати його, інтерфейси якого з рішенням Text-to-Speech (TTS) від компанії під назвою CereProc, яке було налаштовано для нього та дозволяє йому виражати різні емоції/акценти. Система також контролює аватар, налаштований під нього.

Зараз ми працюємо над системою генерації відповідей для ACAT, яка може дозволити Пітеру взаємодіяти з системою на вищому рівні за допомогою можливостей ШІ. Ця система з часом прослуховуватиме розмови Пітера та пропонуватиме відповіді, які Пітер зможе вибрати на екрані. Мета полягає в тому, щоб з часом система штучного інтелекту навчалася на даних Пітера і дозволяла йому «підштовхувати» систему, щоб надати йому найкращі відповіді, використовуючи лише деякі ключові слова (подібно до того, як сьогодні працює пошук в Інтернеті). Наша ціль із системою генерування відповідей полягає в тому, щоб зменшити проміжок мовчання у спілкуванні, про який згадувалося вище, і дати Пітеру та майбутнім користувачам ACAT можливість спілкуватися в більш «природному» темпі.

Ви також говорили про важливість прозорості в ШІ, наскільки це велика проблема?

Це велика проблема, особливо коли вона розгортається в системах прийняття рішень або в системах спільної роботи людини та ШІ. Наприклад, у випадку допоміжної системи Пітера нам потрібно зрозуміти, що спонукає систему давати ці рекомендації та як вплинути на навчання цієї системи, щоб точніше виражати його ідеї.

У ширшому контексті систем прийняття рішень, незалежно від того, чи це допомога з діагностикою на основі медичних зображень чи надання рекомендацій щодо надання позик, системи штучного інтелекту повинні надавати інформацію, яку можна інтерпретувати людиною, про те, як вони приймали рішення, які атрибути чи функції найбільше вплинули на це. рішення, яку довіру має система до зробленого висновку тощо. Це підвищує довіру до систем ШІ та забезпечує кращу співпрацю між людьми та ШІ у змішаних сценаріях прийняття рішень.

Упередження штучного інтелекту, особливо коли йдеться про расизм і сексизм, є величезною проблемою, але як визначити інші типи упереджень, якщо ви не знаєте, які упередження ви шукаєте?

Це дуже складна проблема, яку неможливо вирішити лише за допомогою технологій. Нам потрібно внести більше різноманітності в розробку систем штучного інтелекту (раса, стать, культура, фізичні здібності тощо). Очевидно, це величезна прогалина серед населення, яке сьогодні створює ці системи ШІ. Крім того, дуже важливо мати міждисциплінарні команди, які займаються визначенням і розробкою цих систем, залучаючи соціальні науки, філософію, психологію, етику та політику (не лише інформатику), а також залучаючи до процесу дослідження в контексті конкретних проектів і проблем.

Ви раніше говорили про використання ШІ для розширення людського потенціалу. Які сфери є найбільш перспективними для розширення людського потенціалу?

Очевидною сферою є надання людям з обмеженими можливостями можливості жити більш незалежно, спілкуватися з близькими та продовжувати творити та робити внесок у суспільство. Я бачу великий потенціал в освіті, у розумінні залучення студентів та персоналізації досвіду навчання відповідно до індивідуальних потреб і можливостей студента, щоб покращити взаємодію, надати вчителям ці знання та покращити результати навчання. Нерівність в освіті сьогодні настільки глибока, і ШІ має місце, щоб допомогти зменшити цю нерівність, якщо ми робимо це правильно. Існують безмежні можливості для штучного інтелекту, щоб принести велику цінність, створюючи системи співпраці між людиною та штучним інтелектом у багатьох секторах (охорона здоров’я, виробництво тощо), оскільки те, що пропонують люди та штучний інтелект, дуже доповнює один одного. Щоб це сталося, нам потрібні інновації на стику соціальних наук, HCI та ШІ. Надійне мультимодальне сприйняття, усвідомлення контексту, навчання на основі обмежених даних, фізично розміщений HCI та можливість інтерпретації є одними з ключових проблем, на яких нам потрібно зосередитися, щоб реалізувати це бачення.

Ви також говорили про те, наскільки важливим є розпізнавання емоцій для майбутнього ШІ? Чому галузь штучного інтелекту повинна більше зосереджуватися на цій галузі досліджень?

Розпізнавання емоцій є ключовою здатністю систем людини/ШІ з кількох причин. Одним із аспектів є те, що людські емоції пропонують будь-якій проактивній системі ключовий людський контекст, який необхідно зрозуміти, перш ніж вона зможе діяти.

Що ще важливіше, ці типи систем повинні продовжувати навчатися в дикій природі та адаптуватися на основі взаємодії з користувачами. Хоча прямий зворотний зв’язок є ключовим сигналом для навчання, непрямі сигнали дуже важливі та безкоштовні (менше роботи для користувача ). Наприклад, цифровий помічник може багато чого навчитися з розчарування в голосі користувача та використовувати це як сигнал зворотного зв’язку, щоб дізнатися, що робити в майбутньому, замість того, щоб щоразу запитувати у користувача відгук. Цю інформацію можна використовувати для активного навчання систем ШІ, щоб продовжувати вдосконалюватися з часом.

Чи є ще щось, чим ви хотіли б поділитися про те, над чим ви працюєте в Anticipatory Computing Lab, або про інші питання, які ми обговорювали?

Створюючи допоміжні системи, нам справді потрібно думати про те, як створювати ці системи відповідально та як дати людям змогу зрозуміти, яка інформація збирається, і як практично контролювати ці системи. Як дослідники штучного інтелекту, ми часто захоплюємося даними і хочемо мати якомога більше даних для вдосконалення цих систем, однак існує компроміс між типом і кількістю даних, які ми хочемо, і конфіденційністю користувача. Нам справді потрібно обмежити дані, які ми збираємо, тими, що абсолютно необхідні для виконання завдання логічного висновку, повідомити користувачам, які саме дані ми збираємо, і дозволити їм налаштувати цей компроміс значущим і зручним способом.

Дякуємо за фантастичне інтерв’ю. Читачі, які хочуть дізнатися більше про цей проект, повинні прочитати статтю Лама Нахман і Пітер Скотт-Морган від Intel: два вчених, один — «людина-кіборг».

Команда Intel Anticipatory Computing Lab, яка розробила Assistive Context-Aware Toolkit, включає (зліва) Алекса Нгуєна, Сангіту Шарму, Макса Пінарока, Сай Прасада, Ламу Нахмана та Піта Денмана. На фото відсутні Бруна Гірвент, Саурав Сахай і Шачі Кумар. (Авторство зображення: Лама Нахман)