Чи є експлуатація роботів універсальною або залежить від культури?

Люди в Японії ставляться до кооперативних штучних агентів з тим же рівнем поваги, що й до людей, тоді як американці значно частіше експлуатують штучний інтелект для особистої вигоди, згідно з новим дослідженням опублікованим у Scientific Reports дослідниками з LMU Munich і Waseda University Tokyo.

Оскільки самохідні транспортні засоби та інші автономні роботизовані системи штучного інтелекту стають все більш інтегрованими у повсякденне життя, культурні ставлення до штучних агентів можуть визначити, як швидко та успішно ці технології будуть впроваджені в різних суспільствах.

Культурний розрив у співробітництві людини та штучного інтелекту

“Оскільки технологія самохідних транспортних засобів стає реальністю, ці щоденні зустрічі визначатимуть, як ми ділимо дорогу з інтелектуальними машинами”, – сказав доктор Юргіс Карпус, керівник дослідження з LMU Munich, у дослідженні.

Дослідження представляє одне з перших комплексних міжкультурних досліджень того, як люди взаємодіють зі штучними агентами в сценаріях, коли інтереси не завжди збігаються. Результати викликають сумнів у припущенні, що експлуатація алгоритмів – тенденція до використання кооперативного штучного інтелекту – є універсальним явищем.

Результати свідчать про те, що коли автономні технології стають більш поширеними, суспільства можуть зазнавати різних інтеграційних проблем на основі культурних ставлень до штучного інтелекту.

Методологія дослідження: Теорія ігор розкриває поведінкові відмінності

Команда дослідників використала класичні експерименти поведінкової економіки – Гру ігри довіри і Ділему в’язня – щоб порівняти, як учасники з Японії та США взаємодіють з людськими партнерами та системами штучного інтелекту.

У цих іграх учасники приймали рішення між власними інтересами та взаємною вигодою, з реальними фінансовими стимулами, щоб забезпечити, що вони приймають справжні рішення, а не гіпотетичні. Цей експериментальний дизайн дозволив дослідникам безпосередньо порівняти, як учасники ставилися до людей та штучного інтелекту в ідентичних сценаріях.

Ігри були ретельно структуровані, щоб відтворити щоденні ситуації, включаючи дорожні сценарії, де люди повинні вирішувати, чи співробітничати з іншим агентом, чи експлуатувати його. Учасники грали кілька раундів, іноді з людськими партнерами, іноді з системами штучного інтелекту, що дозволяло порівнювати їхню поведінку.

“Наші учасники в США співробітничали з штучними агентами значно менше, ніж з людьми, тоді як учасники в Японії демонстрували еквівалентні рівні співробітництва з обома типами співгравців”, – зазначається в статті.

Karpus, J., Shirai, R., Verba, J.T. et al.

Вина як ключовий фактор культурних відмінностей

Дослідники пропонують, що відмінності у відчутті провини є основним чинником спостережуваної культурної варіації у ставленні людей до штучних агентів.

Дослідження показало, що люди на Заході, зокрема в США, схильні відчувати розкаяння, коли вони експлуатують іншого людину, але не коли вони експлуатують машину. У Японії, навпаки, люди, здається, відчувають провину однаково, чи то вони поводяться погано з людиною, чи з штучним агентом.

Доктор Карпус пояснює, що в західному мисленні перерізання робота на дорозі не шкодить його почуттям, підкреслюючи перспективу, яка може сприяти більшій готовності експлуатувати машини.

Дослідження включало дослідницький компонент, у якому учасники повідомляли про свої емоційні реакції після того, як були оголошені результати гри. Ці дані надали важливі знання про психологічні механізми, що лежать в основі поведінкових відмінностей.

Емоційні реакції розкривають глибші культурні закономірності

Коли учасники експлуатували кооперативний штучний інтелект, японські учасники повідомляли про відчуття значно більшої кількості негативних емоцій (провини, гніву, розчарування) і менше позитивних емоцій (щастя, переможності, полегшення) порівняно зі своїми американськими колегами.

Дослідження показало, що дезертири, які експлуатували свого штучного інтелекту в Японії, повідомляли про відчуття значно більшої провини, ніж дезертири в США. Ця сильніша емоційна реакція може пояснити більшу неохоту японських учасників експлуатувати штучні агенти.

Навпаки, американці відчували більше негативних емоцій, коли експлуатували людей, ніж штучний інтелект, розрізнення, якого не спостерігалося серед японських учасників. Для людей у Японії емоційна реакція була схожою незалежно від того, чи вони експлуатували людину чи штучний агент.

Дослідження зазначає, що японські учасники відчували однаково про експлуатацію як людей, так і штучних агентів у всіх опитуваних емоціях, що свідчить про фундаментально іншу моральну перцепцію штучних агентів порівняно з західними ставленнями.

Анімізм і сприйняття роботів

Культурний і історичний контекст Японії може відігравати значну роль у цих результатах, пропонуючи потенційні пояснення спостережуваних відмінностей у поведінці щодо штучних агентів і втіленого штучного інтелекту.

У статті зазначається, що історична схильність Японії до анімізму і віра в те, що неживі об’єкти можуть володіти душами в буддизмі, призвела до припущення, що японці більш приймають і піклуються про роботів, ніж люди в інших культурах.

Цей культурний контекст може створити фундаментально іншу початкову точку для сприйняття штучних агентів. У Японії може бути менше різкої відмінності між людьми та нелюдськими сутностями, здатними до взаємодії.

Дослідження показало, що люди в Японії частіше, ніж люди в США, вважають, що роботизовані системи можуть відчувати емоції, і більш схильні приймати роботів як об’єкти людської моральної оцінки.

Студії, посилання на які містяться в статті, свідчать про більшу тенденцію в Японії сприймати штучні агенти як подібні до людей, з роботами та людьми, які часто зображуються як партнери, а не в ієрархічних відносинах. Ця перспектива може пояснити, чому японські учасники емоційно ставилися до штучних агентів і людей з однаковою увагою.

Вплив на впровадження автономних технологій

Ці культурні ставлення можуть безпосередньо вплинути на те, як швидко автономні технології будуть впроваджені в різних регіонах, з потенційно далекосяжними економічними та соціальними наслідками.

Доктор Карпус припускає, що якщо люди в Японії ставляться до роботів з тим же рівнем поваги, що й до людей, то повністю автономні таксі можуть стати звичайним явищем в Токіо швидше, ніж у західних містах, таких як Берлін, Лондон чи Нью-Йорк.

Готовність експлуатувати автономні транспортні засоби в деяких культурах може створити практичні проблеми для їхньої безперешкодної інтеграції в суспільство. Якщо водії частіше перерізають самохідні машини, займають їхнє право проїзду або іншим чином експлуатують їхню запрограмовану обережність, це може загальмувати ефективність і безпеку цих систем.

Дослідники підкреслюють, що ці культурні відмінності можуть суттєво впливати на графік широкого впровадження технологій, таких як доставочні дрони, автономний громадський транспорт і самохідні особисті транспортні засоби.

Цікаво, що дослідження показало мало відмінностей у тому, як японські та американські учасники співробітничали з іншими людьми, що відповідає попереднім дослідженням у сфері поведінкової економіки.

Дослідження спостерігало обмежену різницю у готовності японських і американських учасників співробітничати з іншими людьми. Це знахідка підкреслює, що розбіжність виникає конкретно в контексті взаємодії людини та штучного інтелекту, а не відображає ширші культурні відмінності у співробітницькій поведінці.

Ця узгодженість у співробітництві людини з людиною забезпечує важливу базу для вимірювання культурних відмінностей у взаємодії людини та штучного інтелекту, що посилює висновки дослідження про унікальність спостережуваного закономірності.

Ширші наслідки для розвитку штучного інтелекту

Результати мають суттєві наслідки для розробки та впровадження систем штучного інтелекту, призначених для взаємодії з людьми в різних культурних контекстах.

Дослідження підкреслює критичну необхідність врахування культурних чинників при розробці та впровадженні систем штучного інтелекту, що взаємодіють з людьми. Спосіб, яким люди сприймають і взаємодіють зі штучним інтелектом, не є універсальним і може суттєво відрізнятися в різних культурах.

Ігнорування цих культурних нюансів може привести до непередбачуваних наслідків, повільнішої швидкості впровадження та потенційного неправильного використання або експлуатації технологій штучного інтелекту в певних регіонах. Це підкреслює важливість міжкультурних досліджень для розуміння взаємодії людини та штучного інтелекту та забезпечення відповідальної розробки та впровадження штучного інтелекту в усьому світі.

Дослідники підкреслюють, що коли штучний інтелект стає все більш інтегрованим у повсякденне життя, розуміння цих культурних відмінностей стане все більш важливим для успішної реалізації технологій, які вимагають співробітництва між людьми та штучними агентами.

Обмеження та напрямки майбутніх досліджень

Дослідники визнають певні обмеження у своїй роботі, які вказують на напрямки майбутніх досліджень.

Дослідження в основному зосередилося лише на двох країнах – Японії та США, – що, хоча й надало цінні знання, може не охоплювати весь спектр культурної варіації у взаємодії людини та штучного інтелекту в усьому світі. Дальші дослідження у ширшому діапазоні культур необхідні для узагальнення цих результатів.

Крім того, хоча експерименти з теорії ігор забезпечують контрольовані сценарії, ідеальні для порівняльних досліджень, вони можуть не повністю відображати складності реальних взаємодій людини та штучного інтелекту. Дослідники пропонують, що підтвердження цих результатів у польових дослідженнях з реальними автономними технологіями буде важливим наступним кроком.

Пояснення, засноване на провині та культурних переконаннях про роботів, хоча й підтримується даними, потребує подальших емпіричних досліджень для остаточного встановлення причиново-наслідкових зв’язків. Дослідники закликають до більш цілеспрямованих досліджень, що вивчають конкретні психологічні механізми, які лежать в основі цих культурних відмінностей.

“Наші теперішні результати пом’якшують узагальнення цих результатів і показують, що експлуатація алгоритмів не є міжкультурним явищем”, – висновок дослідників.