신뢰와 속임수: 인간-로봇 상호작용에서 사과들의 역할

로봇의 속임수는 연구되지 않은 분야로, 특히 로봇이 거짓말을 한 후에 로봇 시스템에 대한 신뢰를 재건하는 방법에 대해서는 더 많은 질문이 존재합니다. 조지아 테크의 두 명의 학생 연구자인 Kantwon Rogers와 Reiden Webber는 의도적인 로봇의 속임수가 신뢰에 미치는 영향과 신뢰를 회복하는 데 사과의 효과를 조사함으로써 이 문제에 대한答案을 찾고 있습니다.

Rogers, 컴퓨팅 대학의 박사 과정 학생은 다음과 같이 설명합니다.

“우리의 모든 이전 연구는 사람들이 로봇이 거짓말을 한 것을 발견했을 때, 즉 로봇이 그들을 위해 거짓말을 한 경우에도 시스템에 대한 신뢰를 잃는다는 것을 보여주었습니다.”

연구자들은 다양한 유형의 사과가 인간-로봇 상호작용의 맥락에서 신뢰를 회복하는 데 더 효과적인지 여부를 결정하려고 합니다.

AI 보조 운전 실험 및 그 의미

두 사람은 인간-AI 상호작용을 연구하기 위해 고위험, 시간 민감한 상황에서 운전 시뮬레이션 실험을 설계했습니다. 그들은 341명의 온라인 참가자와 20명의 현장 참가자를 모집했습니다. 시뮬레이션에는 경찰의 존재에 대한 거짓 정보를 제공하는 AI 보조 운전 시나리오가 포함되었습니다. 시뮬레이션 후에 AI는 다섯 가지 다른 텍스트 기반 응답 중 하나를 제공했습니다. 응답에는 다양한 유형의 사과와 비사과가 포함되었습니다.

결과는 참가자들이 로봇 조수로 안내될 때 속도 위반에 대한 가능성이 3.5배 더 낮았으며, 이는 AI에 대한 과도한 신뢰를 나타냅니다. 어떤 사과 유형도 완전히 신뢰를 회복하지 못했지만, “미안합니다”라는 단순한 사과(거짓말을 인정하지 않음)가 다른 응답보다 더 잘 수행되었습니다. 이 발견은 문제가 있습니다. 로봇이 제공한 거짓 정보가 시스템 오류라기보다는 의도적인 거짓말로 간주되기 때문입니다.

Reiden Webber는 다음과 같이 지적합니다.

“한 가지 중요한 결론은 사람들이 로봇이 속였다는 것을 이해하기 위해서는 명시적으로 알려져야 한다는 것입니다.”

참가자들이 사과에서 속임수를 인식했을 때, 신뢰를 회복하는 데 가장 좋은 전략은 로봇이 왜 거짓말을 했는지 설명하는 것이었습니다.

앞으로 나아가기: 사용자, 디자이너, 정책 입안자에 대한 의미

이 연구는 평균 기술 사용자, AI 시스템 디자이너, 정책 입안자에게 중요한 의미를 가지고 있습니다. 로봇의 속임수가 실제로 존재하고 항상 가능성이 있다는 것을 사람들이 이해하는 것이 중요합니다. 디자이너와 기술자들은 속임수가 가능한 AI 시스템을 생성할 때의 결과를 고려해야 합니다. 정책 입안자는 혁신과 공공 보호의 균형을 조절하는 법률을 제정해야 합니다.

Kantwon Rogers의 목표는 인간 팀과 협력할 때 로봇 시스템이 거짓말을 할 때와 하지 않을 때를 학습할 수 있는 시스템을 생성하는 것입니다. 또한 로봇이 장기적으로 반복되는 인간-AI 상호작용에서 언제 그리고 어떻게 사과할지 학습하여 팀 성능을 향상시키는 것입니다.

그는 다음과 같이 강조합니다.

“私の 연구의 목표는 매우 적극적이고 로봇 및 AI의 속임수를 규제할 필요를 알리는 것입니다. 그러나 우리는 그 문제를 이해하지 못한다면 그렇게 할 수 없습니다.”

이 연구는 AI 속임수 분야에 중요한 지식을 제공하며, 속임수나 자체적으로 속임수를 학습할 수 있는 AI 기술을 생성하고 규제하는 기술 디자이너와 정책 입안자에게 귀중한 통찰력을 제공합니다.