휴머노이드 로봇의 공장 투입이 다가온다. 로봇이 고장 나면 누가 책임질까?

로봇은 성능 시험을 성공적으로 마치고도 예상치 못한 장애물이나 소프트웨어 업데이트로 인한 동작 변화, 또는 실제 작업자와 마주치면 안전을 위협할 수 있다. 이제 중요한 질문은 휴머노이드 로봇이 작업을 수행할 수 있느냐가 아니라, 어떻게 수행하느냐는 것이다. 안전하게 수행할 수 있는지, 그리고 문제가 생기면 누가 책임지는지가 관건이다.

Agility Robotics와 FORT Robotics는 10월, Agility Robotics의 휴머노이드 로봇 Digit 5의 안전 구조를 강화하기 위한 파트너십을 발표했다. 이들은 로봇 내장형 안전 시스템과 외부 인터페이스, 통신 기능, 수동 개입 기능을 포함하는 방식으로 접근법을 설계했다. 이번 개발은 중요한 전환을 보여 준다. 로봇은 사람이 일하는 작업장에서 안전해야 하며, 그러려면 로봇 자체만으로는 충분하지 않다.

그러나 책임 문제에 답하기에는 기술만으로 충분하지 않다. AI 시스템이 부품 결함을 잘못 식별해 로봇이 실수를 저지르면, 제조업체와 소프트웨어 개발자, 시스템 통합업체, 그리고 해당 시스템을 사용하는 고용주가 책임을 져야 할 수 있다.

AI의 판단이 현실의 위험으로 이어질 때

기존 산업용 로봇은 대개 작업 셀 안에서 작동하며, 차단벽과 안전 장치를 통해 작업자와 분리된다. 휴머노이드 로봇은 또 다른 과제를 안고 있다. 사람을 위해 만들어진 환경을 이동하고, 여러 작업을 수행하며, 다양한 환경에 적응해야 하기 때문이다.

이러한 유연성은 새로운 위험을 낳는다. 오탐이 발생하면 불필요한 움직임으로 이어질 수 있다. 소프트웨어 업데이트로 로봇의 동작이 달라질 수도 있다. 공장 배치가 바뀌면 이전 시험에서는 나타나지 않았던 위험이 생길 수 있다.

GFT Americas의 산업 부문 부사장 겸 책임자인 Dana R. Wolfe는 Unite.AI에 안전하지 않은 개입을 방지하려면 결정론적 소프트웨어 안전장치, 공장별 신뢰도 임계값, 센서 융합, 배포 전 단계별 검증 등 여러 겹의 보호 조치가 필요하다고 말했다.

Wolfe는 오탐을 완전히 피할 방법은 없다고 말했다. 대신 제조업체는 실수가 안전하지 않은 물리적 움직임으로 이어지지 않도록 해야 한다.

Wolfe는 신뢰도 임계값과 사람의 권한은 물론 하드웨어 인터록도 시스템 안전 구조에 포함해야 한다고 말했다.

안전 기준도 변화에 발맞춰야 한다

현행 산업용 로봇 표준은 유용한 토대가 되지만, 이동형 휴머노이드 로봇이 제기하는 모든 문제의 해법이라고 할 수는 없다.

국제표준화기구(ISO)는 산업용 로봇의 안전 요건을 발표했으며, ISO 10218-2는 로봇을 완전한 시스템에 통합하는 방법을 다룬다.

그러나 이러한 표준은 이동형 로봇이 사람과 함께 일하는 모든 작업이나 위험을 다루지는 않는다.

Wolfe는 업계 관행이 발전하는 상황에서 독립적인 시험과 시나리오 기반 검증, 단계별 작업장 시범 운영이 특히 중요하다고 말했다.

AI 모델이나 소프트웨어, 동작 제한, 작업 또는 공장 환경의 변화로 기존 안전성 평가가 유효하지 않게 될 수 있다면 평가를 다시 실시해야 한다.

큰 변화가 생기면 한 가지 조건에서 안전했던 로봇이 새로운 조건에서도 안전하다고 볼 수 없다.

사람의 감독은 단순한 승인 이상의 의미를 가져야 한다

AI 시스템이 내리는 모든 결정을 사람이 감시하는 것은 현실적으로 어렵다. 하지만 중요한 결정에 사람이 관여하지 않으면 또 다른 문제가 생긴다. 책임 소재를 입증하기가 더 어려워지는 것이다.

Flexio와 Routina의 공동 창업자 겸 CEO인 Adrian Figueroa Ramos는 감독의 초점을 불확실성이나 위험이 가장 큰 결정에 맞춰야 한다고 말했다.

그는 Unite.AI에 “오늘날 AI가 쏟아내는 결과물은 사람이 처리할 수 있는 양을 넘어선다. 모든 것을 검토하면 사람이 병목이 되지만, 위험이 높거나 신뢰도가 낮은 결정을 내릴 때는 여전히 사람의 판단이 필요하다”고 말했다.

이는 특히 물리적 AI에서 중요하다. 사람의 감독에는 시스템을 중단하거나 결정을 뒤집을 권한을 가진 담당자를 지정하고, 승인 버튼을 누르는 데 그치지 않고 결정이 기록되고 검토되도록 하는 일이 포함돼야 한다.

로봇이 고장 나면 누가 책임질까?

책임은 각 당사자가 시스템을 통제하는 정도에 따라 나눠야 한다.

예를 들어 제조업체는 안전 조치를 마련하고 문서화할 책임이 있다. 인식이나 움직임에 영향을 줄 수 있는 변경 사항은 소프트웨어 개발자가 시험해야 한다.

시스템 통합업체는 로봇이 사용될 환경에서 전체 시스템을 검증해야 한다. 고용주는 작업자를 교육하고, 안전장치가 마련돼 있는지 확인하며, 안전하지 않은 작업을 중단하는 절차를 수립할 책임이 있다.

사이버 보안도 중요하다. 로봇과 연결된 센서, 소프트웨어 및 외부 시스템의 문제로 운영 기술기술이 취약해질 수 있다. 물리적 동작에 영향을 미치는 보안 사고는 IT 문제일 뿐 아니라 작업장 안전 문제이기도 하다.

휴머노이드 로봇은 앞으로 공장에서 더 유연하고 생산적으로 활용될 것으로 예상된다. 그러나 도입 여부는 성능 지표만으로 결정되지 않을 것이다. 명확한 책임 소재와 독립적인 검증, 그리고 로봇의 작동 수명 전반에 걸쳐 지속되는 안전장치가 필요하다.

질문은 로봇이 실수할 수 있느냐는 것이다. 그렇다. 로봇을 사용하는 사람들이 그러한 오류에 대해 책임을 지도록 하는 시스템을 마련해 두었다면 그렇다.