새로운 연구, 인간-로봇 신뢰에 대한 조명

미국陆군 연구소와 플로리다 중부 대학의 시뮬레이션 및 훈련 연구소가 주도하는 새로운 연구는 인간이 로봇에 대한 신뢰 수준을 밝히고 있다. 새로운 프로젝트는 인간과 로봇의 관계와 인간이 로봇의 추론보다 오류에 더 많은 가치를 부여하는지에 초점을 맞추고 있다.

新的 연구는 인간-에이전트 팀링, 즉 HAT에 대해 조사했으며, 로봇, 무인 차량, 소프트웨어 에이전트와 같은 에이전트의 투명성이 인간의 신뢰, 작업량, 에이전트에 대한 인식에 어떻게 영향을 미치는지에 대해 조사했다. 에이전트 투명성은 인간이 에이전트의 의도, 추론 과정, 미래 계획을 식별할 수 있을 때이다.

新的 연구에 따르면, 로봇이 오류를 발생시키면 인간의 로봇에 대한 신뢰가 낮아진다. 이는 로봇이 추론 과정을 투명하게 공개했는지 여부와 상관없이 발생한다.

新的 연구는 8월호 IEEE-Transactions on Human-Machine Systems에 발표되었다. 이 논문의 제목은 “인간-로봇 상호작용에서 에이전트 투명성과 신뢰성: 사용자 신뢰와 인식된 신뢰성에 대한 영향”이다.

전통적인 인간-에이전트 팀링 연구는 완전히 신뢰할 수 있는 지능형 에이전트를 사용했지만, 이 새로운 연구는 에이전트 투명성과 에이전트 신뢰성의 상호작용을 조사한 몇 안 되는 연구 중 하나이다. 이 연구는 로봇이 오류를 발생시키는 동안 인간이 관찰하고, 인간이 로봇의 신뢰성을 낮게 평가하는지에 대해 조사했다.整个 과정에서, 인간은 로봇의 추론 과정을 이해할 수 있었다.

Julia Wright 박사는 이 프로젝트의 주 연구자이다. 그녀는 미국陆군 전투 능력 개발 사령부의陆군 연구소(Army Research Laboratory, ARL) 연구자이다.

“로봇의 행동이 인간 팀원에게 미치는 영향을 이해하는 것은 효과적인 인간-로봇 팀을 개발하고, 팀원 간의 인터페이스와 통신 방법을 설계하는 데 중요하다”라고 Wright는 말했다. “이 연구는 육군의 다중 도메인 작전 노력에 기여하며, 인공 지능을 활용한 능력을 보장하기 위해 필수적이다. 또한, 이 연구는 인간과 자율 에이전트 간의 이해를 높이는 데 기여할 것이다.”

이 새로운 연구는 자율 소대원(Autonomous Squad Member, ASM) 프로젝트의 일부이다. ASM은 실제 소형 지상 로봇으로, 보병 소대에서 사용된다. 이 로봇은 소대와 통신하고 상호작용할 수 있다.

이 연구는 참가자가 시뮬레이션 환경에서 인간-에이전트 병사 팀을 관찰하는 것을 포함했다. ASM은 팀의 일부로, 훈련 과정을 통해 이동했다. 참가자의任务는 팀을 모니터링하고 로봇을 평가하는 것이었다. 훈련 과정에서, 팀은 다양한 이벤트와 장애물에 직면했다. 병사들은 각 장애물을 올바르게 탐색했지만, 로봇은 때때로 장애물을 이해하지 못하고 오류를 발생시켰다. 로봇은 때때로 특정 행동의 이유와 예상 결과를 공유했다.

이 연구는 참가자가 로봇의 오류에 대해 더 많이 관심을 가졌으며, 로봇의 추론과 논리보다 오류에 더 많은 가치를 부여한다는 것을 발견했다. 로봇의 신뢰성은 참가자의 신뢰와 인식에 중요한 역할을 했다. 로봇이 오류를 발생시키면, 참가자는 로봇의 신뢰성을 낮게 평가했다.

에이전트 투명성이 증가하거나 로봇이 결정의 이유와 논리를 공유할 때, 신뢰성과 신뢰가 증가했다. 그러나, 오류를 발생시키지 않는 로봇보다 신뢰성과 신뢰는 여전히 낮았다. 이는 로봇의 추론과 논리를 공유하는 것이 신뢰와 신뢰성 문제를 일부 해결하는 데 도움이 될 수 있음을 시사한다.

“이전 연구에 따르면, 상황이 투명성 정보의 유용성을 결정하는 데 중요하다”라고 Wright는 말했다. “우리는 어떤 작업이 에이전트의 추론에 대한 더 깊은 이해를 요구하는지, 그리고 그 깊이를 어떻게 결정하는지 더 잘 이해해야 한다. 미래의 연구는 작업 요구 사항에 따라 투명성 정보를 제공하는 방법을 탐구해야 한다.”

이 새로운 연구는 인간과 로봇의 상호작용이 증가하고 있는 분야에서 중요한 역할을 할 것이다. 특히 군사 분야에서 로봇과 병사들이 함께 일하게 될 것이다. 로봇이 인간의 신뢰를 얻을 수 있다면, 로봇이 보병 소대에서 더 많이 사용될 것이며, 이는 인공 지능이 국방 산업에 침투하는 또 하나의 예가 될 것이다.