Доверие и обман: роль извинений в взаимодействии человека и робота

Обман робота – это недостаточно изученная область с большим количеством вопросов, чем ответов, особенно когда речь идет о восстановлении доверия к роботизированным системам после того, как они были пойманы на лжи. Два студенческих исследователя из Georgia Tech, Кантвон Роджерс и Рейден Веббер, пытаются найти ответы на эту проблему, изучая, как намеренный обман робота влияет на доверие и эффективность извинений в восстановлении доверия.

Роджерс, аспирант факультета информатики, объясняет:

“Все наши предыдущие работы показали, что когда люди обнаруживают, что роботы лгали им – даже если ложь была предназначена для их пользы – они теряют доверие к системе.”

Исследователи стремятся определить, являются ли разные типы извинений более эффективными в восстановлении доверия в контексте взаимодействия человека и робота.

Эксперимент с помощью ИИ и его последствия

Дуэт разработал эксперимент с симуляцией вождения, чтобы изучить взаимодействие человека и ИИ в ситуации, требующей высоких ставок и быстрого принятия решений. Они привлекли 341 участника онлайн и 20 участников лично. Симуляция включала сценарий вождения с помощью ИИ, который предоставлял ложную информацию о присутствии полиции на маршруте к больнице. После симуляции ИИ предоставил один из пяти разных текстовых ответов, включая различные типы извинений и не-извинений.

Результаты показали, что участники были в 3,5 раза более склонны не превышать скорость, когда им советовал роботизированный помощник, указывая на чрезмерно доверчивое отношение к ИИ. Ни один из типов извинений не полностью восстановил доверие, но простое извинение без признания лжи (“Мне жаль”) превзошло другие ответы. Это открытие проблематично, поскольку оно использует предвзятое представление о том, что любая ложная информация, предоставленная роботом, является системной ошибкой, а не намеренной ложью.

Рейден Веббер отмечает:

“Одним из ключевых выводов является то, что, чтобы люди понимали, что робот обманул их, им необходимо явно об этом сказать.”

Когда участники были проинформированы об обмане в извинении, лучшей стратегией для восстановления доверия было объяснение робота, почему он солгал.

Перспективы: последствия для пользователей, разработчиков и политиков

Это исследование имеет последствия для обычных пользователей технологий, разработчиков систем ИИ и политиков. Очень важно, чтобы люди понимали, что обман робота реален и всегда возможен. Разработчики и технологи должны учитывать последствия создания систем ИИ, способных к обману. Политики должны взять на себя лидерство в создании законодательства, которое балансирует инновации и защиту общества.

Объектив Кантвона Роджерса – создать роботизированную систему, которая может учиться, когда лгать и когда не лгать при работе с человеческими командами, а также когда и как извиняться во время долгосрочных, повторяющихся взаимодействий человека и ИИ, чтобы повысить производительность команд.

Он подчеркивает важность понимания и регулирования обмана робота и ИИ, говоря:

“Цель моей работы – быть очень активной и информировать о необходимости регулирования обмана робота и ИИ. Но мы не можем сделать это, если не понимаем проблему.”

Это исследование вносит важный вклад в область обмана ИИ и предлагает ценные идеи для разработчиков технологий и политиков, которые создают и регулируют технологию ИИ, способную к обману или потенциально обучающуюся обману самостоятельно.