Нові дослідження проливають світло на довіру людини до роботів

Нові дослідження, проведені під керівництвом лабораторії досліджень армії США разом з Інститутом симуляцій та навчання Університету Центральної Флориди, проливають світло на рівень довіри людей до роботів. Новий проєкт був зосереджений на відносинах між людьми та роботами, а також на тому, чи люди надають більше значення розумінню робота чи його помилкам.

Нові дослідження розглядали питання людського-агентського взаємодії, або HAT, та того, як довіра людини, робоче навантаження та сприйняття агента впливаються на прозорість агентів, таких як роботи, безпілотні транспортні засоби та програмні агенти. Прозорість агента полягає в тому, що людина може ідентифікувати намір, процес прийняття рішень та майбутні плани агентів.

Нові дослідження показують, що довіра людини до роботів знижується щоразу, коли робот робить помилку. Це відбувається незалежно від того, чи робот був прозорим щодо свого процесу прийняття рішень.

Нові дослідження були опубліковані в серпневому виданні IEEE-Transactions on Human-Machine Systems. Стаття мала назву «Прозорість агента та надійність у взаємодії людина-робот: вплив на довіру користувача та сприйняття надійності».

Традиційні дослідження, пов’язані з людським-агентським взаємодією, використовують абсолютно надійні інтелектуальні агенти, які не роблять помилок. Однак ці нові дослідження були одними з небагатьох, які вивчали, як прозорість агента взаємодіє з надійністю агента. Дослідження включало робота, який робив помилки під час спостереження людей, а потім людей запитували, чи вони сприймають робота як менш надійний. Під час всього процесу людям надавалася інформація про процес прийняття рішень робота.

Доктор Джулія Райт є головним дослідником проєкту та є дослідником лабораторії досліджень армії США.

«Поняття того, як поведінка робота впливає на його людських колег, є важливим для розвитку ефективних людських-роботичних команд, а також для розробки інтерфейсів та методів спілкування між членами команди», – сказала вона. «Ці дослідження сприяють зусиллям армії щодо забезпечення переваги в штучному інтелекті. Але вони також є міжгалузевими, оскільки їхні висновки будуть інформувати роботу психологів, робототехніків, інженерів та системних дизайнерів, які працюють над поліпшенням взаєморозуміння між людьми та автономними агентами».

Цей новий проєкт був частиною більшого проєкту під назвою «Автономний член команди» (ASM), який фінансується офісом секретаря оборони США. ASM – це дійсний малий наземний робот, який використовується в піхотному взводі. Він може спілкуватися та взаємодіяти з командою.

Дослідження включало спостереження учасниками людських-агентських команд у симульованому середовищі. Робот був частиною команди та рухався через тренувальний курс. Завданням спостерігачів було моніторити команду та оцінювати робота. Під час тренувального курсу команда зустрічала різні події та перешкоди. Солдати могли правильно пройти кожну з них, але іноді робот не міг зрозуміти перешкоду та робив помилки. Робот іноді ділився своїм розумінням певних дій, а також очікуваним результатом.

Дослідження показали, що учасники були більш стурбовані помилками робота порівняно з підлеглим логічним висновком та розумінням. Надійність робота грала важливу роль у довірі учасників та їхньому сприйнятті. Коли робот робив помилку, спостерігачі оцінювали його надійність нижче.

Надійність та довіра збільшувалися, коли прозорість агента збільшувалася, або коли робот ділився деталями та розумінням своїх рішень. Однак надійність та довіра все ще були нижчими, ніж у роботів, які ніколи не мали помилок. Це свідчило про те, що поділ розуміння та логічного висновку міг допомогти з деякими питаннями довіри та надійності, пов’язаними з роботами.

«Раніші дослідження показують, що контекст має значення при визначенні корисності інформації про прозорість», – сказала Райт. «Нам потрібно краще зрозуміти, які завдання потребують більш глибокого розуміння процесу прийняття рішень агента, та як визначити цю глибину. Майбутні дослідження повинні досліджувати способи надання інформації про прозорість на основі вимог завдання».

Ці нові дослідження відіграють важливу роль у галузі через зростаючу взаємодію між людьми та роботами. Одним з найважливіших напрямків буде військова галузь. Як видно з цих вправ, роботи та солдати будуть працювати поруч. Як і солдат повинен довіряти іншому солдату, так само буде з роботами. Якщо це буде досягнуто та роботи стануть звичайними в піхотних частинах, це буде ще одним випадком проникнення штучного інтелекту в оборонну промисловість.