Дослідження показало, що роботи більш переконливі, коли вони видають себе за людей

Прогрес у сфері штучного інтелекту створив ботів та машини, які потенційно можуть видавати себе за людей, якщо вони взаємодіють з людьми виключно через цифровий канал. Нещодавно команда дослідників з комп’ютерних наук вивчила, як роботи/машини та люди взаємодіють, коли люди вважають, що роботи теж люди. За повідомленням ScienceDaily, результати дослідження показали, що люди вважають роботів/чат-ботів більш переконливими, коли вони вважають, що боти люди.

Талал Рахван, асоційований професор комп’ютерних наук у Нью-Йоркському університеті в Абу-Дабі, недавно очолив дослідження, яке вивчило взаємодію роботів та людей. Результати експерименту були опубліковані в Nature Machine Intelligence у звіті під назвою “Торгівля прозорістю та ефективністю у співробітництві людини та машини”. Під час дослідження учасникам було доручено грати у кооперативну гру з партнером, яким міг бути як людина, так і бот.

Гра була варіантом класичної ділеми в’язня, де учасники повинні були вирішити, чи кооперуватися, чи зрадити іншого гравця в кожному раунді. У ділемі в’язня одна сторона може вирішити зрадити та обманути партнера, щоб досягти вигоди за рахунок іншого гравця, і тільки кооперуючись, обидві сторони можуть забезпечити собі вигоду.

Дослідники маніпулювали своїми учасниками, надаючи їм правильну або неправильну інформацію про ідентичність їхнього партнера. Деяким учасникам було сказано, що вони грають з ботом, хоча їхній партнер був насправді людиною. Іншим учасникам було сказано навпаки. Під час експерименту команда дослідників змогла кількісно оцінити, чи люди ставилися до партнерів по-різному, коли їм казали, що їхні партнери боти. Дослідники відстежували ступінь упередженості проти ботів та те, як ці настрої вплинули на взаємодію з ботами, які ідентифікували себе.

Результати експерименту показали, що боти були більш ефективними у сприянні кооперації з боку своїх партнерів, коли люди вважали, що бот теж людина. Однак, коли було розкрито, що бот був ботом, рівень кооперації знижувався. Рахван пояснив, що хоча багато вчених та етиків погоджуються, що штучний інтелект повинен бути прозорим щодо того, як приймаються рішення, менш очевидно, що вони повинні бути прозорим щодо своєї природи при спілкуванні з іншими.

Минулого року Google (GOOGL ) Duplex викликав резонанс, коли на сцені було продемонстровано, що він здатний робити дзвінки та бронювати призначень від імені свого користувача, генеруючи людську мову такої складності, що багато людей могли б сприйняти її за справжню людину, якщо б їм не сказали, що вони розмовляють з ботом. Після дебюту Google Duplex багато етиків штучного інтелекту та робототехніки висловили свої побоювання щодо цієї технології, що змусило Google заявити, що агент буде ідентифікувати себе як бот у майбутньому. Наразі Google Duplex використовується лише в дуже обмеженому обсязі. Він скоро буде використовуватися в Новій Зеландії, але тільки для перевірки робочих годин підприємств. Етики все ще турбуються щодо ступеня, у якому цю технологію можна неправильно використовувати.

Рахван стверджує, що недавнє дослідження показало, що нам слід подумати про те, які витрати ми готові заплатити за прозорість:

“Чи етично розробляти таку систему? Чи повинні ми заборонити ботам видавати себе за людей та змусити їх бути прозорими щодо своєї природи? Якщо відповідь ‘Так’, то наші висновки підкреслюють необхідність встановлення стандартів для витрат на ефективність, які ми готові заплатити в обмін на таку прозорість.”