Чи є експлуатація роботів універсальною або залежить від культури?

Люди в Японії ставляться до кооперативних штучних агентів з тим же рівнем поваги, що й до людей, тоді як американці значно частіше використовують штучний інтелект для особистої вигоди, згідно з новим дослідженням опублікованим у Scientific Reports дослідниками з LMU Munich і Waseda University Tokyo.

Як самоходні транспортні засоби та інші автономні штучні роботи стають все більш інтегрованими у повсякденне життя, культурні ставлення до штучних агентів можуть визначити, як швидко та успішно ці технології будуть впроваджені в різних суспільствах.

Культурний розрив у співробітництві людини та штучного інтелекту

“Як технологія самоходу стає реальністю, ці повсякденні зустрічі визначатимуть, як ми ділимо дорогу з інтелектуальними машинами”, – сказав доктор Юргіс Карпус, керівник дослідження з LMU Munich, у дослідженні.

Дослідження представляє одне з перших комплексних міжкультурних досліджень того, як люди взаємодіють зі штучними агентами в сценаріях, де інтереси можуть не завжди збігатися. Результати поставили під сумнів припущення, що експлуатація алгоритмів – тенденція до використання кооперативного штучного інтелекту – є універсальним явищем.

Результати свідчать про те, що як автономні технології стають більш поширеними, суспільства можуть пережити різні інтеграційні виклики на основі культурних ставлень до штучного інтелекту.

Методологія дослідження: Теорія ігор розкриває поведінкові відмінності

Дослідницька команда використала класичні експерименти з поведінкової економіки – гру довіри та дилему в’язня – щоб порівняти, як учасники з Японії та США взаємодіють як з людськими партнерами, так і з системами штучного інтелекту.

У цих іграх учасники робили вибір між власними інтересами та взаємною вигодою, з реальними фінансовими стимулами, щоб вони робили справжні рішення, а не гіпотетичні. Цей експериментальний дизайн дозволив дослідникам безпосередньо порівняти, як учасники ставилися до людей та штучного інтелекту в ідентичних сценаріях.

Ігри були ретельно структуровані, щоб відтворити повсякденні ситуації, включаючи дорожні сценарії, де люди повинні вирішувати, чи співробітничати з іншим агентом, чи експлуатувати його. Учасники грали кілька раундів, іноді з людськими партнерами, іноді з системами штучного інтелекту, що дозволяло порівняти їхню поведінку.

“Наші учасники в США співпрацювали з штучними агентами значно менше, ніж з людьми, тоді як учасники в Японії демонстрували еквівалентні рівні співпраці з обома типами співгравців”, – зазначається в статті.

Karpus, J., Shirai, R., Verba, J.T. et al.

Вина як ключовий фактор культурних відмінностей

Дослідники пропонують, що відмінності у відчутті провини є основним чинником спостережуваної культурної варіації у ставленні людей до штучних агентів.

Дослідження показало, що люди на Заході, зокрема в США, схильні відчувати провину, коли вони експлуатують іншого людину, але не коли вони експлуатують машину. У Японії, навпаки, люди схильні відчувати провину подібно, незалежно від того, чи вони поводяться з людиною чи штучним агентом.

Доктор Карпус пояснює, що в західному мисленні перерізання робота на дорозі не завдає йому шкоди, підкреслюючи перспективу, яка може сприяти більшій готовності експлуатувати машини.

Дослідження включало розвідувальну складову, у якій учасники повідомляли про свої емоційні реакції після того, як результати гри були розкриті. Ці дані надали важливі знання про психологічні механізми, що лежать в основі поведінкових відмінностей.

Емоційні реакції розкривають глибші культурні закономірності

Коли учасники експлуатували кооперативний штучний інтелект, японські учасники повідомляли про відчуття значно більшої кількості негативних емоцій (провини, гніву, розчарування) і менше позитивних емоцій (щастя, перемоги, полегшення) порівняно зі своїми американськими колегами.

Дослідження показало, що учасники, які експлуатували свого штучного співгравця в Японії, повідомляли про відчуття значно більшої провини, ніж учасники в США. Ця сильніша емоційна реакція може пояснити більшу неохоту японських учасників експлуатувати штучні агенти.

Навпаки, американці відчували більше негативних емоцій, коли експлуатували людей, ніж штучний інтелект, чого не спостерігалося серед японських учасників. Для людей у Японії емоційна реакція була схожою незалежно від того, чи вони експлуатували людину чи штучний агент.

Дослідження зазначає, що японські учасники відчували схоже ставлення до експлуатації як людей, так і штучних агентів у всіх опитуваних емоціях, що свідчить про фундаментально іншу моральну перцепцію штучних агентів порівняно з західними ставленнями.

Анімізм і сприйняття роботів

Культурний і історичний контекст Японії може відігравати значну роль у цих результатах, пропонуючи потенційні пояснення спостережуваних відмінностей у поведінці щодо штучних агентів і втіленого штучного інтелекту.

У статті зазначається, що історична схильність Японії до анімізму і віра в те, що неживі об’єкти можуть володіти душами в буддизмі, призвела до припущення, що японці більш приймають і піклуються про роботів, ніж люди в інших культурах.

Цей культурний контекст може створити фундаментально іншу початкову точку для сприйняття штучних агентів. У Японії може бути менше різкої відмінності між людьми та нелюдськими сутностями, здатними до взаємодії.

Дослідження показало, що люди в Японії більш схильні, ніж люди в США, вважати, що роботи можуть відчувати емоції, і більш готові приймати роботів як об’єкти людської моральної оцінки.

Дослідження, посилання на які містяться в статті, свідчать про більшу схильність у Японії сприймати штучні агенти як схожі на людей, з роботами та людьми, які часто зображуються як партнери, а не в ієрархічних відносинах. Ця перспектива може пояснити, чому японські учасники емоційно ставилися до штучних агентів і людей з подібною увагою.

Вплив на впровадження автономної технології

Ці культурні ставлення можуть безпосередньо вплинути на те, як швидко автономні технології будуть впроваджені в різних регіонах, з потенційно далекосяжними економічними та соціальними наслідками.

Доктор Карпус припускає, що якщо люди в Японії ставляться до роботів з тією ж повагою, що й до людей, то повністю автономні таксі можуть стати звичайним явищем в Токіо швидше, ніж у західних містах, таких як Берлін, Лондон чи Нью-Йорк.

Готовність експлуатувати автономні транспортні засоби в деяких культурах може створити практичні виклики для їхньої безперешкодної інтеграції в суспільство. Якщо водії більш схильні перерізати самоходні машини, займати їхнє місце на дорозі або іншим чином експлуатувати їхню запрограмовану обережність, це може перешкоджати ефективності та безпеці цих систем.

Дослідники припускають, що ці культурні відмінності можуть суттєво вплинути на графік широкого впровадження технологій, таких як дрони-кур’єри, автономний громадський транспорт та самоходні особисті транспортні засоби.

Цікаво, що дослідження виявило мало відмінностей у тому, як японські та американські учасники співпрацювали з іншими людьми, що відповідає попереднім дослідженням у сфері поведінкової економіки.

Дослідження спостерігало обмежену різницю у готовності японських та американських учасників співпрацювати з іншими людьми. Це знахідка підкреслює, що розбіжність виникає конкретно в контексті взаємодії людини та штучного інтелекту, а не відображає ширші культурні відмінності у співпраці.

Ця стабільність у співпраці людини з людиною забезпечує важливу базу для вимірювання культурних відмінностей у взаємодії людини та штучного інтелекту, що посилює висновки дослідження про унікальність спостережуваного закономірності.

Ширші наслідки для розвитку штучного інтелекту

Результати мають суттєві наслідки для розробки та впровадження систем штучного інтелекту, призначених для взаємодії з людьми в різних культурних контекстах.

Дослідження підкреслює критичну необхідність врахування культурних факторів при розробці та впровадженні систем штучного інтелекту, які взаємодіють з людьми. Спосіб, яким люди сприймають і взаємодіють зі штучним інтелектом, не є універсальним і може суттєво відрізнятися в різних культурах.

Ігнорування цих культурних нюансів може привести до непередбачуваних наслідків, повільнішої швидкості впровадження та потенційного неправильного використання або експлуатації технологій штучного інтелекту в певних регіонах. Це підкреслює важливість міжкультурних досліджень для розуміння взаємодії людини та штучного інтелекту та забезпечення відповідального розвитку та впровадження штучного інтелекту в глобальному масштабі.

Дослідники припускають, що оскільки штучний інтелект стає все більш інтегрованим у повсякденне життя, розуміння цих культурних відмінностей стане все більш важливим для успішної реалізації технологій, які вимагають співпраці між людьми та штучними агентами.

Обмеження та напрямки майбутніх досліджень

Дослідники визнають певні обмеження своєї роботи, які вказують на напрямки для майбутніх досліджень.

Дослідження в основному зосередилося лише на двох країнах – Японії та США, – що, хоча й надало цінні знання, може не охопити весь спектр культурної варіації у взаємодії людини та штучного інтелекту в глобальному масштабі. Дальші дослідження в широкому діапазоні культур необхідні для узагальнення цих результатів.

Крім того, хоча експерименти з теорії ігор забезпечують контрольовані сценарії, ідеальні для порівняльних досліджень, вони можуть не повністю відбити складності реальних взаємодій людини та штучного інтелекту. Дослідники пропонують, що перевірка цих результатів у польових дослідженнях з реальними автономними технологіями буде важливим наступним кроком.

Пояснення, засноване на вині та культурних переконаннях про роботів, хоча й підтримується даними, вимагає подальших емпіричних досліджень для встановлення причинно-наслідкових зв’язків остаточно. Дослідники закликають до проведення більш цільових досліджень, які будуть вивчати конкретні психологічні механізми, що лежать в основі цих культурних відмінностей.

“Наші теперішні результати пом’якшують узагальнення цих результатів і показують, що експлуатація алгоритмів не є міжкультурним явищем”, – висновок дослідників.