Новые исследования показывают, как ИИ может выступать в качестве посредников

Новые исследования Корнелльского университета показывают, как искусственный интеллект (ИИ) может сыграть роль в посредничестве в разговорах. Это происходит в период социального дистанцирования и удаленных разговоров из-за пандемии.

Согласно новому исследованию, люди больше доверяли искусственным интеллектуальным системам, чем реальным людям, с которыми они разговаривали, когда вели трудные разговоры. Искусственные интеллектуальные системы были “умными” предложениями ответов в текстах.

Новое исследование озаглавлено “ИИ как моральная зона деформации: Влияние посредничества ИИ на атрибуцию и доверие.” Оно было опубликовано в журнале Computers in Human Behavior.

Джесс Хоэнштейн – аспирант в области информационных наук. Он является первым автором статьи.

“Мы обнаружили, что когда дела идут не так, люди берут на себя ответственность, которая в противном случае была бы возложена на их человеческого партнера, и возлагают часть этой ответственности на искусственную интеллектуальную систему”, – сказал Хоэнштейн. “Это вводит потенциал использовать ИИ в качестве посредника в наших разговорах.”

Обнаружение, когда дела идут плохо

Во время разговора алгоритм может анализировать язык, чтобы обнаружить момент, когда дела идут плохо. Затем он может предложить определенные стратегии разрешения конфликтов, согласно Хоэнштейну.

Основная цель исследования была изучить различные тонкие и значительные способы, которыми системы ИИ, такие как умные ответы, могут изменить то, как люди взаимодействуют. Согласно исследователям, что-то такое маленькое, как выбор ответа, который не совсем точен, может радикально изменить различные аспекты разговора. Этот язык часто выбирается для экономии времени набора текста и может иметь прямое влияние на отношения.

Мальте Юнг – соавтор исследования и ассистент профессора информационных наук. Он также является директором лаборатории “Роботы в группах”, которая изучает, как роботы меняют динамику групп.

“Общение так фундаментально для того, как мы формируем восприятие друг друга, как мы формируем и поддерживаем отношения или как мы способны добиться чего-либо, работая вместе”, – сказал Юнг.

“Это исследование входит в более широкую программу понимания того, как эти новые системы ИИ влияют на нашу способность взаимодействовать”, – продолжил Юнг. “Мы часто думаем о том, как дизайн систем влияет на то, как мы взаимодействуем с ними, но fewer исследования фокусируются на вопросе о том, как технологии, которые мы разрабатываем, влияют на то, как люди взаимодействуют друг с другом.”

Лучшее понимание человеческого взаимодействия

Исследование может помочь понять, как люди воспринимают и взаимодействуют с компьютерами. Оно также может помочь улучшить человеческое общение с помощью тонкого руководства и напоминаний ИИ.

Хоэнштейн и Юнг хотели узнать, может ли система ИИ поглотить “аварию” разговора.

“Есть физический механизм в передней части машины, который предназначен для поглощения силы удара и принятия ответственности за минимизацию последствий аварии”, – сказал Хоэнштейн. “Здесь мы видим, как система ИИ поглощает часть моральной ответственности.”

Исследование было поддержано в части Национальным научным фондом.