새로운 연구: AI가 대화의 중재자 역할을 할 수 있는 방법

콘奈尔 대학교의 새로운 연구에 따르면 인공 지능(AI)이 대화의 중재자 역할을 할 수 있는 방법을 보여주고 있다. 이 연구는 사회적 거리두기와 원격 회의로 인해 어려운 대화가 증가하는 시기에 이루어졌다.

새로운 연구에 따르면, 인간은 실제로 대화하는 사람보다 인공 지능 시스템을 더 신뢰하는 것으로 나타났다. 인공 지능 시스템은 텍스트 메시지의 “스마트” 답장 제안이었다.

새로운 연구의 제목은 “AI as a Moral Crumple Zone: The Effects of Mediated AI Communication on Attribution and Trust.”이며, 컴퓨터와 인간 행동 저널에 온라인으로 발표되었다.

제스 호엔슈타인(Jess Hohenstein)은 정보 과학 분야의 박사 과정 학생이며, 이 논문의 첫 번째 저자이다.

호엔슈타인은 “우리는 대화가 잘못되었을 때, 사람들이 그 책임을 인공 지능 시스템에 넘겨주고 있다는 것을 발견했다”고 말했다. “이것은 우리가 대화에서 중재자로 사용할 수 있는 잠재력을 보여준다.”

대화가 잘못되었을 때 감지하기

알고리즘은 언어를 분석하여 대화가 잘못되었을 때를 감지할 수 있다. 호엔슈타인에 따르면, 알고리즘은 이후 갈등 해결 전략을 제안할 수 있다.

이 연구의 주요 목표는 인공 지능 시스템이 인간의 상호작용을 어떻게 변경하는지 살펴보는 것이었다. 연구에 따르면, 작은 것 하나, 즉 완전히 정확하지 않은 답장을 선택하는 것이 대화의 다양한 측면을 크게 변경할 수 있다. 이러한 언어는 종종 타이핑 시간을 절약하기 위해 선택되며, 관계에 직접적인 영향을 미칠 수 있다.

말테 융(Malte Jung)은 이 연구의 공동 저자이며, 정보 과학 조교수이다. 그는 또한 로봇과 그룹 동역학을 연구하는 로봇스 인 그룹스 연구소의 감독이다.

융은 “의사소통은 우리가 서로에 대해 인식하고, 관계를 형성하고, 함께 일할 수 있는 가장 기본적인 요소이다”라고 말했다.

융은 “이 연구는 새로운 인공 지능 시스템이 우리의 상호작용 능력에 어떻게 영향을 미치는지 이해하는 더广い 목표에 속한다”고 말했다. “우리는 종종 시스템의 설계가 우리가 어떻게 상호작용하는지에 영향을 미치는지에 대해 생각하지만, 기술이 우리가 서로 어떻게 상호작용하는지에 영향을 미치는지에 대한 질문에 초점을 둔 연구는 더 적다.”

인간 상호작용에 대한 더 나은 이해

이 연구는 컴퓨터와 인간의 상호작용을 이해하는 데 도움이 될 수 있다. 또한, 인간의 의사소통을 개선하는 데에도 도움이 될 수 있다.

호엔슈타인과 융은 인공 지능 시스템이 대화의 “충돌”을 흡수할 수 있는지 알아보기 위해 연구를 수행했다.

호엔슈타인은 “자동차 전면에 충격을 흡수하고 충돌의 영향을 최소화하는 물리적 메커니즘이 있다”고 말했다. “여기서 우리는 인공 지능 시스템이 일부 道徳적 책임을 흡수하는 것을 보는 것이다.”

이 연구는 국립 과학 재단의 지원을 받았다.