ASTM과 Singapore Standards Council, 체화형 AI 확산을 가로막는 5가지 공백 지적

로봇이 인상적인 시연을 성공적으로 마치더라도 잠재 고객에게는 여전히 까다로운 질문이 남을 수 있습니다. 사람이 작업을 방해하면 로봇은 어떻게 행동할까요? 카메라가 수집한 데이터는 누가 관리할까요? 다른 공급업체의 기계와 함께 작동할 수 있을까요?

ASTM International과 Enterprise Singapore는 Singapore Standards Council(SSC)을 통해 11월 3일 백서를 발표했습니다. 이 백서는 이러한 배치 관련 질문을 핵심 주제로 다룹니다. 미래 체화형 AI 표준 개발을 위한 경로는 지능형 물리 시스템을 더 폭넓게 활용하기 위한 5가지 표준화 우선 과제를 제시합니다.

싱가포르 과학기술연구청(A*STAR) 및 국가 로봇 프로그램(National Robotics Programme)과 협력하여 개발된 이 보고서는 2025년 7월에 산업계, 정부, 연구 및 학계 대표 140여 명이 참가한 워크숍의 후속 조치입니다. 의제는 데이터 거버넌스, AI 신뢰성, 작업장 안전, 상호 운용성 및 조달에 걸쳐 있습니다. 이는 로봇 공급업체가 이미 주장할 수 있는 새로운 인증이 아닌 표준 개발을 위한 출발점입니다.

체화형 AI가 배치에 관한 질문을 바꾸는 이유

체화형 AI는 로봇, 자율주행차 및 기타 지능형 기계를 비롯한 물리 시스템에 기계 지능을 결합합니다. 이를 통해 인식과 의사결정이 오류로 인해 사람과 장비, 주변 환경에 영향을 미칠 수 있는 상황에 놓이게 됩니다.

Unite.AI는 언어 모델이 체화형 AI를 어떻게 바꾸고 있는지 다룬 기사에서 살펴본 것처럼, 갈수록 역량이 향상되는 AI는 로봇의 행동에 새로운 가능성을 열어 줍니다. 상업적 관점에서 중요한 질문은 이러한 역량을 일상적인 운영에 충분히 신뢰할 수 있는 수준으로 구현하는 방법입니다.

병원에서 물품을 배달하는 가상의 로봇을 생각해 보겠습니다. 정해진 경로를 완주하는 것은 로봇 업무의 일부일 뿐입니다. 건물의 출입 관리 체계에 맞춰 작동하고, 직원이 로봇의 의도를 이해할 수 있도록 하며, 적절한 데이터 처리 규칙을 준수해야 합니다. 주행 시연에 성공하더라도 구매 결정에 필요한 질문 중 일부에만 답할 수 있습니다.

표준화 의제를 뒷받침하는 5가지 공백

발표문은 우선 과제를 5개 분야로 나눕니다. 고객이 배치 전에 내려야 하는 결정을 기준으로 살펴보면 각 분야의 중요성이 더욱 분명해집니다.

1. 데이터 거버넌스 및 개인정보 보호

첫 번째 우선 과제는 데이터 거버넌스와 개인정보 보호 규정 준수에 관한 공통 기준을 마련하는 것입니다. 구매자는 시스템이 어떤 정보를 수집하는지, 관련 조직 간에 책임이 어떻게 나뉘는지 파악할 수 있어야 합니다.

조달 담당자가 실무에서 고려해야 할 점은 초기 사양을 정할 때 데이터 처리 방식을 포함하는 것입니다. 여러 공급업체가 참여하는 가상의 설치 환경에서는 사고가 발생한 뒤 답을 재구성하지 않고도 운영자가 각 데이터 흐름의 책임 공급업체를 파악할 수 있어야 합니다.

2. AI 안전성 및 신뢰성

두 번째 분야는 AI 시스템의 시험, 벤치마킹, 모니터링을 위한 공통 접근 방식을 다룹니다. 서로 비교할 수 있는 근거가 마련되면 구매자는 경쟁 업체의 주장을 더 확실한 토대 위에서 평가할 수 있습니다.

여기서 중요한 구매 관련 질문이 뒤따릅니다. 보고된 결과는 정확히 무엇을 설명할까요? 작업, 운영 조건, 소프트웨어 버전, 실패 판정 기준을 명확히 밝히면 시험 결과를 더 쉽게 해석할 수 있습니다. 그렇지 않으면 두 공급업체가 성공을 보고하더라도 실제로는 상당히 다른 대상을 측정했을 수 있습니다.

3. 직장 안전 및 위험 관리

세 번째 우선 과제는 물리적 안전과 자동화에 대한 지나친 의존, 설계가 미흡한 인터페이스 등의 위험을 다룹니다. 따라서 안전한 배치를 위해서는 기계를 감독하고 기계와 상호작용하는 사람들도 고려해야 합니다.

운영자의 개입이 필요한 경보를 예로 들 수 있습니다. 경보의 유용성은 해당 메시지를 사람이 이해하고 실행 가능한 방식으로 대응할 수 있는지에 달려 있습니다. 설치 계획에서는 기계의 동작, 직원의 책임, 개입 절차를 서로 연결해 일관된 업무 흐름을 구성해야 합니다.

4. 상호운용성 및 미들웨어

네 번째 분야는 물리 에이전트, 소프트웨어 서비스, 인프라 간의 조율에 관한 것입니다. 기업이 여러 기계로 구성된 플릿을 구축하는 경우 평가의 대상은 실제로 작동하는 설치 환경이 됩니다.

각각 독립적으로 복도를 주행할 수 있는 로봇 두 대를 구매한다고 가정해 보겠습니다. 통합 과정에서 풀어야 할 문제는 두 로봇이 제한된 공간을 어떻게 함께 사용하고 같은 출입구를 이용하도록 조율하는가입니다. 각 기계를 따로 구매하면 구현 단계에 이르기까지 이 문제가 해결되지 않은 채 남을 수 있습니다. 통합 요건을 명시하면 공급업체는 인수 전에 구체적인 기능을 시연할 수 있습니다.

5. 품질 인증 및 조달

다섯 번째 우선 과제는 시스템이 의도된 목적에 부합한다는 신뢰를 구축하는 것입니다. 인증과 조달에 공통 접근 방식을 적용하면 고객은 포괄적인 약속을 평가 가능한 요건으로 구체화할 수 있습니다.

가장 효과적인 구매 사양은 기능에 대한 주장을 명확히 정의된 사용 사례와 연결합니다. 특정 조건에서 합의된 경로를 따라 특정 하중을 옮기는 것은 로봇이 지능적이라는 일반적인 설명보다 더 유용한 수용 기준입니다. 이처럼 구체적으로 정하면 성능에 대한 이견도 더 쉽게 조정할 수 있습니다.

백서에서 실용적인 표준으로

ASTM International과 Enterprise Singapore는 확인된 격차를 각 기관의 기술위원회와 글로벌 네트워크에 전달해 향후 과제의 우선순위를 정하는 데 활용할 계획이라고 밝혔습니다. 관련 분야에서 실제 도입 경험을 보유한 기관은 참여를 요청받았습니다.

로봇 개발자에게는 통합이나 평가가 어려워지는 지점에 관한 구체적인 근거를 제시할 기회가 있습니다. 구매자에게는 아직 답을 얻지 못한 어떤 질문 때문에 시범 도입이 반복 가능한 구매로 이어지지 못하는지 설명할 기회가 있습니다. 이러한 관점은 실제로 도입을 좌우하는 의사결정을 표준화 작업에 반영하는 데 도움이 될 수 있습니다.

이 백서의 중요성은 이러한 도입 관련 질문을 하나의 의제로 모았다는 데 있습니다. 아무리 성능이 뛰어난 기계라도 고객의 환경에서 어떻게 작동할지 설득력 있게 입증해야 합니다. 체화형 AI가 더 많은 작업 현장에 도입됨에 따라 공통 표준은 이러한 근거를 마련하고, 비교하며, 유지하기 쉽게 만들 수 있습니다.