AI가 중재자 역할을 할 수 있는 방법을 보여주는 새로운 연구

Cornell University의 새로운 연구는 인공 지능(AI)이 대화를 중재하는 데 어떤 역할을 할 수 있는지 보여줍니다. 이는 팬데믹으로 인해 사회적 거리두기와 원격 대화가 필요한 시기에 발생합니다. 

새로운 연구에 따르면 인간은 어려운 대화를 할 때 대화를 나누는 실제 사람보다 인공 지능 시스템을 더 신뢰했습니다. 인공 지능 시스템은 텍스트에서 "스마트" 응답 제안이었습니다. 

새로운 연구의 제목은 “도덕적 무너짐 지대로서의 AI: 중재된 AI 커뮤니케이션이 귀인과 신뢰에 미치는 영향.” 온라인 저널에 실렸습니다. 인간의 행동에 컴퓨터입니다.

Jess Hohenstein은 정보 과학 분야의 박사 과정 학생입니다. 그는 논문의 첫 번째 저자입니다.

Hohenstein은 "일이 잘못되면 사람들은 인간 파트너에게 지정되었을 책임을 인공 지능 시스템에 지정하고 그 중 일부를 지정합니다."라고 말했습니다. "이는 AI를 대화의 중재자로 사용할 수 있는 가능성을 소개합니다."

상황이 나빠질 때 감지 

대화 중에 알고리즘은 언어를 분석하여 상황이 나빠지는 순간을 감지할 수 있습니다. 그런 다음 Hohenstein에 따르면 특정 갈등 해결 전략을 제안할 수 있습니다.

이 연구의 주요 목표는 스마트 응답과 같은 AI 시스템이 인간의 상호 작용 방식을 변경할 수 있는 미묘하고 중요한 다양한 방식을 살펴보는 것이었습니다. 연구원들에 따르면 완전히 정확하지 않은 답장을 선택하는 것과 같은 작은 것이 대화의 다양한 측면을 크게 바꿀 수 있습니다. 해당 언어는 입력 시간을 절약하기 위해 선택되는 경우가 많으며 관계에 직접적인 영향을 미칠 수 있습니다. 

Malte Jung은 연구의 공동 저자이자 정보 과학 조교수입니다. 그는 또한 로봇이 그룹 역학을 어떻게 변화시키는지 연구하는 그룹 내 로봇 연구실의 책임자이기도 합니다. 

"커뮤니케이션은 우리가 서로에 대한 인식을 형성하는 방법, 관계를 형성하고 유지하는 방법 또는 함께 일하는 어떤 것을 성취할 수 있는 방법에 매우 중요합니다."라고 Jung은 말했습니다.

"이 연구는 이러한 새로운 AI 시스템이 우리의 상호 작용 능력을 어떻게 방해하는지 이해하는 광범위한 의제에 속합니다."라고 Jung은 계속했습니다. "우리는 종종 시스템 설계가 우리가 시스템과 상호 작용하는 방식에 어떤 영향을 미치는지에 대해 생각하지만 우리가 개발하는 기술이 사람들이 서로 상호 작용하는 방식에 어떤 영향을 미치는지에 대한 질문에 초점을 맞춘 연구는 거의 없습니다."

인간 상호 작용에 대한 더 나은 이해

이 연구는 사람들이 컴퓨터를 인식하고 상호 작용하는 방식을 이해하는 데 도움이 될 수 있습니다. 또한 미묘한 안내 및 AI 알림을 사용하여 인간 커뮤니케이션을 개선하는 데 도움이 될 수 있습니다.

Hohenstein과 Jung은 AI 시스템이 대화의 "충돌"을 흡수할 수 있는지 알아보고 싶었습니다.

Hohenstein은 "충돌의 힘을 흡수하고 충돌의 영향을 최소화하도록 설계된 물리적 메커니즘이 차량 전면에 있습니다."라고 말했습니다. "여기서 우리는 AI 시스템이 도덕적 책임의 일부를 흡수하는 것을 봅니다."

이 연구는 부분적으로 국립 과학 재단의 지원을 받았습니다.