Новые исследования проливают свет на доверие между человеком и роботом

Новые исследования, возглавляемые лабораторией исследований армии США вместе с Институтом симуляций и обучения Университета Центральной Флориды, проливают свет на уровень доверия, который люди испытывают к роботам. Новый проект был сосредоточен на отношениях между людьми и роботами, и на том, придает ли человек больше значения рассуждениям робота или его ошибкам.

Новые исследования изучали командную работу человека и робота, или HAT, и то, как доверие человека, нагрузка и восприятие агента влияются на прозрачность агентов, таких как роботы, беспилотные транспортные средства и программные агенты. Прозрачность агента означает, что человек может определить намерения, процесс рассуждения и будущие планы агента.

Новые исследования показывают, что уверенность человека в роботах уменьшается всякий раз, когда робот совершает ошибку. Это происходит независимо от того, был ли робот прозрачным в своем процессе рассуждения или нет.

Новые исследования были опубликованы в августовском выпуске IEEE-Transactions on Human-Machine Systems. Статья была озаглавлена «Прозрачность и надежность агента в взаимодействии человека и робота: Влияние на уверенность пользователя и воспринимаемую надежность».

Традиционные исследования, связанные с командной работой человека и робота, используют полностью надежные интеллектуальные агенты, которые не совершают ошибок. Однако это новое исследование было одним из немногих, которые изучали, как прозрачность агента взаимодействует с надежностью агента. Исследование включало робота, который совершал ошибки, пока люди наблюдали, и затем людей спрашивали, считают ли они робота менее надежным. На протяжении всего процесса людям предоставлялась информация о процессе рассуждения робота.

Доктор Джулия Райт является основным исследователем проекта и является исследователем в лаборатории исследований армии США.

«Понимание того, как поведение робота влияет на его человеческих членов команды, имеет решающее значение для разработки эффективных команд человека и робота, а также для проектирования интерфейсов и методов общения между членами команды», – сказала она. «Это исследование вносит вклад в усилия армии США по обеспечению превосходства в возможностях, основанных на искусственном интеллекте. Но оно также является междисциплинарным, поскольку его результаты будут информировать работу психологов, робототехников, инженеров и системных дизайнеров, которые работают над созданием лучшего понимания между людьми и автономными агентами в целях создания автономных членов команды, а не просто инструментов».

Этот новый проект был частью более крупного проекта, известного как проект «Автономный член команды» (ASM), который спонсируется инициативой исследований автономности офиса секретаря обороны. ASM – это фактический небольшой наземный робот, который используется в составе пехотного подразделения. Он может общаться и взаимодействовать с подразделением.

Исследование включало участников, которые наблюдали за командами человека и робота в симулированной среде. ASM был частью команды и двигался по тренировочному курсу. Задача наблюдателей заключалась в том, чтобы контролировать команду и оценить робота. На протяжении всего тренировочного курса команда сталкивалась с различными событиями и препятствиями. Солдаты могли преодолеть каждое из них правильно, но были моменты, когда робот не мог понять препятствие и совершал ошибки. Робот иногда делился своим рассуждением и ожидаемым результатом.

Исследование показало, что участники были более обеспокоены ошибками робота, чем лежащей в основе логикой и рассуждением. Надежность робота сыграла значительную роль в доверии и восприятии участников. Когда робот совершал ошибку, наблюдатели оценивали его надежность как более низкую.

Надежность и доверие увеличивались, когда прозрачность агента увеличивалась, или когда робот делился подробностями и рассуждением, лежащим в основе своего решения. Однако надежность и доверие все еще были ниже, чем у роботов, которые никогда не совершали ошибок. Это предполагает, что обмен рассуждением и лежащей в основе логикой может помочь с некоторыми проблемами доверия и надежности, связанными с роботами.

«Ранее исследования показывают, что контекст имеет значение при определении полезности информации о прозрачности», – сказала Райт. «Нам нужно лучше понять, какие задачи требуют более глубокого понимания рассуждения агента и как определить, что это понимание включает в себя. Будущие исследования должны изучать способы предоставления информации о прозрачности на основе требований задач».

Эти новые исследования сыграют решающую роль в этой области из-за все возрастающего взаимодействия между людьми и роботами. Одним из наиболее важных направлений будет военная сфера. Как видно из этих упражнений, роботы и солдаты в конечном итоге будут находиться рядом. Как и солдат должен иметь доверие к другому солдату, то же самое будет применяться и к роботам. Если это будет достигнуто и роботы станут обычными в пехотных подразделениях, это будет еще одним примером проникновения искусственного интеллекта в оборонную промышленность.