Является ли эксплуатация роботов универсальной или культурно-зависимой?

Люди в Японии относятся к кооперативным искусственным агентам с тем же уровнем уважения, что и к людям, в то время как американцы значительно чаще эксплуатируют ИИ для личной выгоды, согласно новому исследованию опубликованному в Scientific Reports исследователями из LMU Мюнхена и Университета Васэда в Токио.

По мере того, как самоходные транспортные средства и другие автономные роботы на основе ИИ становятся все более интегрированными в повседневную жизнь, культурные отношения к искусственным агентам могут определить, насколько быстро и успешно эти технологии будут реализованы в разных обществах.

Культурный разрыв в сотрудничестве человека и ИИ

“По мере того, как технология самоходных транспортных средств становится реальностью, эти повседневные встречи будут определять, как мы разделим дорогу с интеллектуальными машинами”, – сказал доктор Юргис Карпус, ведущий исследователь из LMU Мюнхена, в исследовании.

Исследование представляет собой одно из первых всесторонних межкультурных исследований того, как люди взаимодействуют с искусственными агентами в сценариях, где интересы могут не всегда совпадать. Результаты исследования бросают вызов предположению, что эксплуатация алгоритмов – тенденция к использованию кооперативного ИИ – является универсальным явлением.

Результаты исследования показывают, что по мере того, как автономные технологии становятся более распространенными, общества могут столкнуться с разными проблемами интеграции на основе культурных отношений к искусственному интеллекту.

Методология исследования: теория игр раскрывает поведенческие различия

Исследовательская группа использовала классические эксперименты по поведенческой экономике – игру доверия и дилемму заключенного – чтобы сравнить, как участники из Японии и США взаимодействовали с человеческими партнерами и системами ИИ.

В этих играх участники делали выбор между личной выгодой и взаимной выгодой, с реальными денежными стимулами, чтобы обеспечить, что они принимали настоящие решения, а не гипотетические. Этот экспериментальный дизайн позволил исследователям直接 сравнить, как участники относились к людям и ИИ в идентичных сценариях.

Игры были тщательно структурированы, чтобы воспроизвести повседневные ситуации, включая сценарии движения, где люди должны решить, будут ли они сотрудничать с другим агентом или использовать его. Участники играли несколько раундов, иногда с человеческими партнерами, а иногда с системами ИИ, что позволяло直接 сравнить их поведение.

“Наши участники в США сотрудничали с искусственными агентами значительно меньше, чем с людьми, тогда как участники в Японии демонстрировали эквивалентные уровни сотрудничества с обоими типами соперников”, – говорится в статье.

Karpus, J., Shirai, R., Verba, J.T. et al.

Вина как ключевой фактор культурных различий

Исследователи предлагают, что различия в испытываемой вине являются основным фактором наблюдаемых культурных различий в том, как люди относятся к искусственным агентам.

Исследование показало, что люди на Западе, в частности в США, склонны чувствовать раскаяние, когда они эксплуатируют другого человека, но не когда они эксплуатируют машину. В Японии, напротив, люди, кажется, испытывают вину одинаково, будь то человек или искусственный агент.

Доктор Карпус объясняет, что в западном мышлении отрезание робота на дороге не причиняет ему вреда, подчеркивая перспективу, которая может способствовать большей готовности эксплуатировать машины.

Исследование включало в себя исследовательский компонент, в котором участники сообщали о своих эмоциональных реакциях после того, как были раскрыты результаты игры. Эти данные предоставили важные знания о психологических механизмах, лежащих в основе поведенческих различий.

Эмоциональные реакции раскрывают более глубокие культурные закономерности

Когда участники эксплуатировали кооперативный ИИ, японские участники сообщали о значительных отрицательных эмоциях (вине, гневе, разочаровании) и меньше положительных эмоций (счастье, победа, облегчение) по сравнению с их американскими коллегами.

Исследование показало, что дезертиры, которые эксплуатировали своего ИИ-соперника в Японии, сообщали о значительных чувствах вины по сравнению с дезертирами в США. Эта более сильная эмоциональная реакция может объяснить большую неохоту японских участников эксплуатировать искусственных агентов.

Напротив, американцы чувствовали больше отрицательных эмоций, когда эксплуатировали людей, чем ИИ, различие, не наблюдаемое среди японских участников. Для людей в Японии эмоциональная реакция была одинаковой, независимо от того, эксплуатировали они человека или искусственного агента.

Исследование отмечает, что японские участники чувствовали одинаково о эксплуатации как человеческих, так и ИИ-соперников во всех опрошенных эмоциях, что предполагает фундаментально другое моральное восприятие искусственных агентов по сравнению с западными отношениями.

Анимизм и восприятие роботов

Культурный и исторический фон Японии может сыграть значительную роль в этих результатах, предлагая потенциальные объяснения наблюдаемых различий в поведении по отношению к искусственным агентам и воплощенному ИИ.

Статья отмечает, что историческая склонность Японии к анимизму и вере в то, что неодушевленные объекты могут обладать душами в буддизме, привела к предположению, что японцы более принимающие и заботливые по отношению к роботам, чем люди в других культурах.

Этот культурный контекст может создать фундаментально другую отправную точку для восприятия искусственных агентов. В Японии может быть меньше резкого различия между людьми и нечеловеческими сущностями, способными к взаимодействию.

Исследование показывает, что люди в Японии более склонны верить, что роботы могут испытывать эмоции, и более готовы принять роботов в качестве объектов человеческой моральной оценки.

Исследования, упомянутые в статье, предполагают большую тенденцию в Японии воспринимать искусственных агентов как подобных людям, с роботами и людьми, часто изображаемыми как партнеры, а не в иерархических отношениях. Эта точка зрения может объяснить, почему японские участники эмоционально относились к искусственным агентам и людям с одинаковой заботой.

Последствия для внедрения автономных технологий

Эти культурные отношения могут напрямую повлиять на то, насколько быстро автономные технологии будут приняты в разных регионах, с потенциально далеко идущими экономическими и социальными последствиями.

Доктор Карпус предполагает, что если люди в Японии относятся к роботам с тем же уважением, что и к людям, полностью автономные такси могут стать более распространенными в Токио быстрее, чем в западных городах, таких как Берлин, Лондон или Нью-Йорк.

Готовность эксплуатировать автономные транспортные средства в некоторых культурах может создать практические проблемы для их плавной интеграции в общество. Если водители более склонны обгонять самоходные машины, занимать их полосу или иным образом эксплуатировать их запрограммированную осторожность, это может препятствовать эффективности и безопасности этих систем.

Исследователи предлагают, что эти культурные различия могут существенно повлиять на график широкого внедрения технологий, таких как беспилотные дроны, автономный общественный транспорт и самоходные личные транспортные средства.

Интересно, что исследование показало мало различий в том, как японские и американские участники сотрудничали с другими людьми, что соответствует предыдущим исследованиям в области поведенческой экономики.

Исследование наблюдало ограниченные различия в готовности японских и американских участников сотрудничать с другими людьми. Это наблюдение подчеркивает, что расхождение возникает конкретно в контексте взаимодействия человека и ИИ, а не отражает более широкие культурные различия в кооперативном поведении.

Эта последовательность в человеческом сотрудничестве обеспечивает важную базовую линию, по отношению к которой можно измерить культурные различия в взаимодействии человека и ИИ, укрепляя выводы исследования о уникальности наблюдаемого образца.

Более широкие последствия для разработки ИИ

Результаты исследования имеют значительные последствия для разработки и развертывания систем ИИ, предназначенных для взаимодействия с людьми в разных культурных контекстах.

Исследование подчеркивает критическую необходимость учитывать культурные факторы при проектировании и реализации систем ИИ, взаимодействующих с людьми. Способ, которым люди воспринимают и взаимодействуют с ИИ, не является универсальным и может существенно варьироваться в разных культурах.

Игнорирование этих культурных нюансов может привести к непредвиденным последствиям, более медленным темпам внедрения и потенциалу для неправильного использования или эксплуатации технологий ИИ в определенных регионах. Это подчеркивает важность межкультурных исследований для понимания взаимодействия человека и ИИ и обеспечения ответственной разработки и развертывания ИИ во всем мире.

Исследователи предлагают, что по мере того, как ИИ становится более интегрированным в повседневную жизнь, понимание этих культурных различий будет становиться все более важным для успешной реализации технологий, требующих сотрудничества между людьми и искусственными агентами.

Ограничения и будущие направления исследований

Исследователи признают определенные ограничения в своей работе, которые указывают на направления для будущего исследования.

Исследование в основном фокусировалось на двух странах – Японии и США, – что, хотя и предоставило ценные знания, может не отражать полный спектр культурного разнообразия в взаимодействии человека и ИИ во всем мире. Необходимы дальнейшие исследования в более широком диапазоне культур, чтобы обобщить эти результаты.

Кроме того, хотя эксперименты по теории игр предоставляют контролируемые сценарии, идеальные для сравнительных исследований, они могут не полностью отражать сложности реальных взаимодействий человека и ИИ. Исследователи предлагают, что проверка этих результатов в полевых исследованиях с реальными автономными технологиями будет важным следующим шагом.

Объяснение, основанное на вине и культурных убеждениях о роботах, хотя и подтверждается данными, требует дальнейшего эмпирического исследования, чтобы установить причинно-следственную связь окончательно. Исследователи призывают к более целенаправленным исследованиям, изучающим конкретные психологические механизмы, лежащие в основе этих культурных различий.

“Наши текущие результаты смягчают обобщение этих результатов и показывают, что эксплуатация алгоритмов не является кросс-культурным явлением”, – заключили исследователи.