협업은 제조업의 다중 에이전트 AI 접근 방식의 중심에 있어야 합니다. 방법은 다음과 같습니다.

대부분, 아니면 모든 대규모 제조업체가 디지털 기반에 수많은 시스템을 동시에 운영하고 있습니다. 종종 이러한 시스템들은 현장에서도 동시에 작동합니다: 예측 유지보수 에이전트는 진동 센서를 감시하여 안전 패턴을 탐지하고, 비전 기반 품질 관리 에이전트는 제품 결함을 표시하며, 스케줄링 에이전트는 전환 작업을 조정하고, 재고 에이전트는 조달 상황을 파악합니다. 각각은 명확한 작업을 가지고 있지만, 대부분 이 시스템들은 서로 소통하지 못합니다.

이러한 협업 부재가 대규모 제조업에서 에이전트 기반 AI를 약화시킵니다. 에이전트가 작동하느냐 여부는 한 가지 문제이지만, 대규모 제조 기업이 직면한 또 다른 중요한 문제는 거의 완전한 고립 상태에서 운영되고 있다는 점입니다.

또한, 최소 하나의 기능에서 AI 에이전트를 확장하는 대규모 조직의 비율이 연간 27%에서 40%로 증가했지만, 이들은 IT 및 소프트웨어 엔지니어링과 같은 특정 기능에 집중하고 있어 운영 전반에 에이전트를 고르게 배치하는 협조된 시스템을 구축하지 못하고 있습니다. 한편, 대부분의 조직이 자율 에이전트를 도입할 계획이지만, 약 3분의 1만이 인프라가 이를 지원할 준비가 되었다고 믿습니다. 더욱이, 2025년 연구에 따르면 79%의 다중 에이전트 LLM 시스템 실패는 협업 및 명세와 관련된 문제에서 비롯된 것으로 나타났습니다.

제조업체들은 현장과 생산 라인에 자율적인 의사결정자를 추가하는 속도가 이들 간의 연결성을 구축하는 속도보다 빠릅니다. 이는 모델 성능을 저해하는 협업 및 협조 문제를 악화시킵니다. 궁극적으로 이러한 문제는 AI 스택의 세 가지 뚜렷한 영역에서 나타납니다. 다음은 제조업체가 협력적이고 잘 연결된 에이전트 시스템을 보장하기 위해 해야 할 일입니다.

협업의 가장 큰 마찰점

첫 번째이자 아마도 가장 큰 장벽은 데이터이며, 이는 AI를 확장하려는 많은 대규모 조직에게 중대한 걸림돌이 되고 있습니다. 대부분의 제조업체는 수십 년에 걸쳐 축적된 인프라(및 그와 연결된 데이터)를 MES 및 ERP 시스템 형태로 보유하고 있으며, 이는 커뮤니케이션 및 인사와 같은 다른 데이터 흐름과 공통 스키마를 공유하지 않습니다. 이 때문에 에이전트들은 서로 소통하기 어려우며, 경우에 따라서는 전혀 소통하지 못합니다; 격리되거나 형식이 맞지 않는 데이터는 여러 에이전트 사이에 거의 뚫을 수 없는 장벽을 형성합니다.

이는 공장 현장에서 한 라인의 기계 상태와 성능을 모니터링하는 에이전트가 스케줄링 에이전트가 두 시스템 위에서 계획하고 있는 다음 전환 작업을 신뢰할 수 있는 방법이 없다는 형태로 나타납니다. 비록 두 결정과 워크플로우가 서로 직접적인 영향을 미치지만 말이죠.

다음 마찰점은 프로토콜입니다. AI 협업을 접근할 때 충분히 고려되지 않는 요소 중 하나입니다. 에이전트 기반 AI는 매우 새로운 분야이며, 최근까지는 서로 다른 프레임워크, 기반, 또는 공급업체에서 구축된 에이전트가 소통하고 협업할 수 있는 실질적인 표준이 없었습니다.

다행히도, 이러한 상황은 변화하고 있습니다. 예를 들어, Google의 Agent2Agent (A2A) 프로토콜은 지난해 출시되어 독립적인 에이전트(전혀 다른 플랫폼에서 구축될 수도 있음)가 서로의 역량을 발견하고 작업을 위임하는 방식을 표준화합니다. 핵심적으로, 이는 명시적으로 설계된 Anthropic의 Model Context Protocol (MCP), 을 보완하도록 설계되었습니다. 이 프로토콜은 각 에이전트가 도구와 데이터 소스에 접근하는 방식을 표준화합니다. 여기서 공통 목표는 고립을 극복하고 대규모 다중 에이전트 환경에서도 협업을 보장하는 것입니다.

마지막으로, 많은 제조업체는 여전히 인간 감독 문제와 씨름하고 있습니다. 완벽하게 조정된 에이전트 네트워크라도 이를 감독하는 사람들이 그 결정에 신뢰를 갖지 않거나 능력에 대한 비현실적인 기대를 가지고 있다면 실패하게 됩니다. MIT Sloan의 분석가들은 경고를 제기한 바와 같이, 에이전트 기반 AI에 대한 과도한 기대와 신뢰 감소, 그리고 AI 에이전트와 인간의 탈동조 위험이 존재합니다. 현장에서는 이러한 격차와 마찰점이 재앙으로 이어질 수 있습니다. 에이전트 생태계를 연결하는 인간의 연결 고리는 안전하고 신뢰할 수 있는 운영에 절대적으로 필수적입니다.

신뢰 격차 해소

인간 측면을 순수히 문화적 문제로 보고 더 많은 교육 세션으로 해결하려는 유혹이 있습니다. 그러나 이러한 노력은 견고한 아키텍처 개선과 결합되지 않으면 한계에 부딪힙니다. 감독 설계는 인간 판단이 시스템에 양보해야 할 시점을 고려해야 하며, 단순히 담당자가 의견이 다르다고 에이전트의 제안을 무시하는 것이 아니라 해야 합니다.

추론 투명성을 구축해야 하며, 이는 언제든지 가시성을 확보하고 에이전트가 왜 특정 결정을 내렸는지 또는 제안을 표시했는지를 단순히 결과만 보는 것이 아니라 상세히 분석할 수 있음을 의미합니다. 또한, 운영자가 이의를 제기할 경우, 의사결정 과정의 투명성과 추적성을 보장하는 명확하고 효율적인 에스컬레이션 경로가 마련되어야 합니다.

전체성 회복

에이전트는 이를 지원하도록 설계된 팀과 마찬가지로 좁고 구체적인 작업에 대한 접근만으로는 충분하지 않다. 에이전트는 일종의 전체성 감각, 즉 자신의 작업 부분이 전체 운영과 어떻게 연결되는지를 보여주는 작동 모델이 필요하다. 교체 시간을 최적화하는 스케줄링 에이전트가 노후 장비에 대한 유지보수 에이전트가 보는 정보를 전혀 파악하지 못한 채 의사결정을 내린다면, 이는 다소 수용 가능한 결정일 수 있으나 다른 작업 흐름 요구와 비교했을 때 올바른 결정이 아닐 수도 있다.

여기서 프로토콜 계층과 전체성 문제는 교차한다. 공유된 컨텍스트는 에이전트의 개별 작업을 공장 전체의 실제 상태에 연결하는 실질적인 수단이다. 제조 분야에서는 이러한 문제에 대한 기존의 부분적인 해답이 ISA-95와 같은 표준 형태로 존재하는데, 이는 기업 시스템과 제어 시스템이 공장 전반에서 어떻게 기본적으로 소통하는지를 정의한다. 그러나 지금의 새로운 점은 이 공유 운영 어휘 개념을 인간이 읽을 수 있는 통합에서 에이전트가 처리할 수 있는 정보로 확장하는 것이다.

그러한 공유 모델이 없으면, 추가로 배치되는 각 에이전트는 일관된 전체의 일부가 아닌 새로운 고립된 추론 및 의사결정 지점을 만들게 된다. 이는 채택이 확대될수록 에이전트의 무분별한 확산이 해결되지 않고 오히려 악화되는 정확한 메커니즘이다.

성공을 위한 올바른 측정 지표를 지속적으로 파악하기

또 다른 함정은 에이전트형 AI를 다른 소프트웨어 도입과 동일하게 측정하는 것이다. 즉 효율성 수치에만 집중하고 그 수치가 계속 상승하도록 하는 방식이다. 협조적이고 협업적인 다중 에이전트 시스템에서는 이것이 반드시 유익하지 않으며, 성과의 유일한 지표가 될 경우 실제로 역효과를 낼 수 있다.

먼저 확인해야 할 것은 에이전트가 절감하는 금액 자체가 아니라 설계대로 안전하고 보안 있게 작동하는지 여부이다. 에이전트가 의도된 범위 내에서 동작하고, 예측 가능한 오류가 발생하며, 필요 시 인간이 개입하고 에스컬레이션할 수 있도록 해야 한다. 이러한 사항이 확보된 뒤에야 품질을 중심에 두어야 하며, 예를 들어 에이전트의 출력이 실제로 정확하고 일관된지, 단순히 즉시성만 있는지는 검증해야 한다.

제조업체가 따라야 할 우선순위는 바로 이것이다. 속도, 처리량, 비용 절감은 가장 낮은 우선순위에 해당한다. 안전하지 않거나 신뢰할 수 없는 에이전트를 기반으로 한 생산성 향상은 팀, 기술, 생산 라인, 관계 및 기업 평판에 대한 위험 요소가 된다.

규모를 확대하기 전에 소규모로 테스트한다. 단일 에이전트가 명확히 정의된 하나의 작업을 수행하면 전후 비교가 명확해진다. 그러나 아직 개별 검증이 이루어지지 않은 상태에서 전체 공장에 수십 개의 상호작용 에이전트를 포함하도록 범위를 넓히면, 결과를 유발하는 시스템의 어느 부분인지 파악하기가 훨씬 어려워진다. 복잡성은 배포 속도와 동일한 속도로 측정 방법에 추가되어야 한다.

여기서 협업과 측정이 동시에 존재하기 시작한다. 에이전트의 출력은 에이전트가 작동할 때 접근한 컨텍스트만큼만 신뢰할 수 있다. 이는 앞서 언급한 공유 컨텍스트 문제가 실제로 측정의 전제 조건임을 의미한다. 시스템 전반에 걸쳐 통합된 운영 모습을 구현하지 못한 제조업체는 긍정적이든 부정적이든 결과가 에이전트의 판단에 의한 것인지, 접근 권한의 격차에 의한 것인지 신뢰할 수 있는 방법이 없다. 순서와 공유 컨텍스트가 고정될 때 비로소 의미 있는 지표를 읽을 수 있다.

역량의 중심에 있는 조정 및 협업

궁극적으로 대규모 제조업체가 가진 구조적 강점(방대한 생산량, 축적된 데이터셋, 공정 일관성, 인재 및 기술 자원)은 의심할 여지가 없다. 그러나 이러한 강점은 제조업체가 먼저 협업 문제를 해결할 때 비로소 더욱 증폭된다.

미래를 내다볼 때, AI 역량이 완전 자율에 이를 가능성이 있고 시스템과 생산 라인이 성장함에 따라 협업과 조정은 절대적인 필수 요소가 된다. 상호 운용성, 프로토콜 표준, 공유 컨텍스트, 정밀한 인간 감독, 전체성 감각을 확장 및 배포 전에 아키텍처적 전제조건으로 간주해야 한다. 이는 에이전트형 AI를 성공적이고 안전하게 확장하는 제조업체와 파일럿 단계에 머무르는 제조업체를 가르는 경계선이다.