Довіра і обман: Роль вибачень у взаємодії людини та робота

Обман роботів – це недосліджена галузь з більшими питаннями, ніж відповідями, особливо коли мова йде про відновлення довіри до робототехнічних систем після того, як вони були спіймані на брехні. Два студент-дослідники з Джорджії Тех, Кантвон Роджерс і Рейден Веббер, намагаються знайти відповіді на цю проблему, досліджуючи, як свідомий обман роботів впливає на довіру та ефективність вибачень у відновленні довіри.

Роджерс, аспірант Коледжу комп’ютерних наук, пояснює:

“Все наше попереднє дослідження показало, що коли люди дізнаються, що робота брехала їм – навіть якщо брехня була призначена для їхньої користі – вони втрачають довіру до системи.”

Дослідники намагаються визначити, чи різні типи вибачень більш ефективні для відновлення довіри в контексті взаємодії людини та робота.

Експеримент з підтримкою штучного інтелекту та його наслідки

Дуо розробило експеримент з симуляцією водіння, щоб вивчити взаємодію людини та штучного інтелекту в ситуації високого ризику та часу. Вони завербували 341 учасника онлайн та 20 учасників офлайн. Симуляція включала сценарій водіння з підтримкою штучного інтелекту, де штучний інтелект надавав хибну інформацію про присутність поліції на маршруті до лікарні. Після симуляції штучний інтелект надав один із п’яти різних текстових відповідей, включаючи різні типи вибачень та невибачень.

Результати показали, що учасники були в 3,5 рази більш схильні не перевищувати швидкість, коли їм радили роботизований асистент, вказуючи на надмірну довіру до штучного інтелекту. Жоден із типів вибачень не повністю відновив довіру, але просте вибачення без визнання брехні (“Мене звуть”) показало кращі результати, ніж інші відповіді. Це відкриття проблематичне, оскільки воно використовує передумову, що будь-яка хибна інформація, надана роботом, є системною помилкою, а не свідомим обманом.

Рейден Веббер зазначає:

“Одним із ключових висновків є те, що люди повинні бути явно повідомлені про обман, щоб вони могли зрозуміти, що робота обманула їх.”

Коли учасники були проінформовані про обман у вибаченні, найкращою стратегією для відновлення довіри було пояснення робота, чому воно брехало.

Рух вперед: Наслідки для користувачів, дизайнерів та законодавців

Це дослідження має наслідки для звичайних користувачів технологій, дизайнерів систем штучного інтелекту та законодавців. Для людей важливо зрозуміти, що обман роботів є реальністю та завжди можливим. Дизайнери та технологи повинні враховувати наслідки створення систем штучного інтелекту, здатних до обману. Законодавці повинні взяти на себе лідерство у створенні законодавства, яке балансує інновації та захист громади.

Мета Кантвона Роджерса – створити роботизовану систему, яка може вивчити, коли брехати та коли не брехати при роботі з людськими командами, а також коли та як вибачатися під час тривалих, повторюваних взаємодій людини та робота, щоб покращити командну роботу.

Він підкреслює важливість розуміння та регулювання обману роботів та штучного інтелекту, кажучи:

“Мета моєї роботи – бути дуже проактивною та інформувати про необхідність регулювання обману роботів та штучного інтелекту. Але ми не можемо зробити цього, якщо не зрозуміємо проблему.”

Це дослідження робить внесок у галузі обману штучного інтелекту та пропонує цінні знання для дизайнерів технологій та законодавців, які створюють та регулюють технологію штучного інтелекту, здатну до обману або потенційно здатну вивчити обман самостійно.