연구: 로봇이 인간인 척할 때 더 설득력이 있다

인공 지능의 발전으로 인간과 구별하기 어려운 봇과 기계가 만들어졌습니다. 최근 컴퓨터 과학 연구자들은 인간이 로봇을 인간으로 믿을 때 로봇과 인간의 상호 작용을 연구했습니다. ScienceDaily에 따르면, 연구 결과는 사람들이 봇/챗봇을 인간으로 믿을 때 더 설득력 있다고 합니다.

NYU Abu Dhabi의 Talal Rahwan 협력 교수는 최근 로봇과 인간의 상호 작용을 조사한 연구를 수행했습니다. 연구 결과는 Nature Machine Intelligence에 발표된 Transparency-Efficiency Tradeoff in Human-Machine Cooperation 보고서에 실렸습니다. 연구 과정에서 테스트 대상자는 파트너와 협력 게임을 해야 했으며, 파트너는 인간 또는 봇일 수 있습니다.

게임은 클래식 프린저의 딜레마를 변형한 것으로, 참가자는 매 라운드마다 협력하거나 배신할지 결정해야 합니다. 참가자 중 한 명이 배신하고 다른 참가자에게 손해를 끼칠 수 있지만, 협력하면 양쪽 모두 이익을 얻을 수 있습니다.

연구자들은 테스트 대상자에게 파트너의 정체에 대해 올바르거나 잘못된 정보를 제공했습니다. 일부 참가자는 봇과 게임하는 것으로 속았지만 실제로는 인간과 게임했습니다. 다른 참가자는 반대의 상황에 처했습니다. 실험 과정에서 연구 팀은 사람들이 봇을 인간으로 믿을 때 어떻게 다르게 행동하는지 측정할 수 있었습니다. 연구자들은 봇에 대한 편견이 얼마나 존재하는지 및 이러한 태도가 봇과의 상호 작용에 어떻게 영향을 미치는지 추적했습니다.

연구 결과는 사람들이 봇을 인간으로 믿을 때 봇이 협력을 유도하는 데 더 효과적임을 보여주었습니다. 그러나 봇의 정체가 밝혀지면 협력 수준이 떨어졌습니다. Rahwan은 많은 과학자와 윤리학자들이 AI가 의사 결정 과정을 투명하게 공개해야 한다고 동의하지만, 다른 사람들과 의사 소통할 때 자신의 본질에 대해 투명해야 한다는 점은 명확하지 않다고 설명했습니다.

작년 Google (GOOGL ) Duplex는 휴대폰 통화와 예약을 할 수 있는 데모를 보여주며 큰 반향을 일으켰습니다. Google Duplex는 인간과 구별하기 어려울 정도로 인간 같은 음성을 생성하여 많은 사람이 봇과 통화하고 있다고 알려지지 않았다면 실제 사람으로 오인할 수 있었습니다. Google Duplex가 등장한 이후 많은 AI와 로봇 윤리학자들이 기술에 대한 우려를 표명하여 Google가 미래에는 에이전트가 봇임을 식별할 것이라고 말했습니다. 현재 Google Duplex는 매우 제한된 용도로 사용되고 있습니다. 곧 뉴질랜드에서 사용될 예정입니다. 그러나 비즈니스 운영 시간을 확인하는 데만 사용될 것입니다. 윤리학자들은 기술이 어떻게 악용될 수 있는지에 대해 여전히 우려하고 있습니다.

Rahwan은 최근 연구가 투명성에 대한 비용을 고려해야 함을 보여주었다고 주장합니다.

“这样的 시스템을 개발하는 것이 윤리적으로 옳은가요? 봇이 인간인 척하는 것을 금지하고, 봇이 누구인지 투명하게 공개하도록 강제해야 하나요? 그렇다면 우리의 연구 결과는 투명성에 대한 효율성 비용을 지불할 의향이 있는지에 대한 기준을 설정할 필요성을 강조합니다.”