맥락과 조정: 기업 자동화에서 놓친 레이어

대부분의 기업은 자동화는 풍부하지만 변혁은 거의 없습니다. 파일럿은 성공했고, 봇은 가동됩니다. 그럼에도 생산성 곡선은 평평해졌습니다. 이는 기업에서 가장 많이 반복되는 이야기이며, 차세대 물결인 에이전트형 AI는 이러한 패턴을 깨뜨릴 수 있습니다. 단, 기업이 이러한 시스템이 작동하는 컨텍스트를 설계하려는 경우에만 가능합니다.

거의 아무도 이를 전략으로 여기지 않습니다. 바로 그것이 전략입니다.

대형 미국 의료 제공자 네트워크는 실제 제약이 임상 용량이 아니라는 것을 발견했습니다. 문제는 반응적인 추측에 기반한 예약 일정 관리였으며, 환자가 방문을 놓칠 가능성이 있는지에 대한 가시성이 없었고, 이미 슬롯이 비어버린 뒤에야 알 수 있었습니다. 예약 이력을 기반으로 예측 모델을 구축함으로써 네트워크는 공백이 생기기 전에 조치를 취할 수 있게 되었고, 사후에 급히 대응할 필요가 없어졌습니다. 환자 불참이 감소하고 순수익이 증가했으며, 일정 분류에 소요되는 시간이 감소했습니다. 해당 컨텍스트는 수년간의 예약 데이터에 이미 존재했으며, 이를 정리하고 활용하기만 하면 되었습니다.

이러한 모든 참여에서 동일한 세 가지 분야, 핵심, 컨텍스트, 그리고 조정이 성공적인 에이전트형 AI와 정체되는 에이전트형 AI를 구분합니다.

쉬운 부분 자동화

가장 큰 격차는 작업 자동화와 결과 자동화 사이에 있습니다. 기업은 단계, 청구서 매칭, 데이터 입력, 상태 업데이트 등을 자동화하지만, 비용은 여전히 단계 사이의 작업에 남아 있습니다. 대부분 자동화된 프로세스가 대부분 해결된 것이 아니라는 뜻입니다. 인간이 여전히 조각들을 연결하고 결과를 책임지며, 자동화가 설계되지 않은 조정 작업을 수행합니다.

이유는 간단합니다. 기존 자동화는 규칙을 따릅니다. 예외를 해결할 컨텍스트와 이를 전달할 조정이 없기 때문에 판단을 처리할 수 없습니다. 봇은 예측 가능한 중간 부분에서는 완벽하지만 가장자리에서는 무력합니다. 실제 업무에서 가장자리가 바로 일입니다. 누락된 문서가 있거나 특이한 조항이 있는 청구는 봇을 멈추게 하고 사람을 시작하게 합니다. 리더는 자동화된 부분을 계산하고, P&L는 자동화되지 않은 부분을 계산합니다.

왜 어려운 부분이 저항할까요? 바로 그곳에 컨텍스트가 존재하기 때문입니다. 깔끔한 부분은 정돈된 행과 열 위에서 동작합니다. 어려운 부분은 정책 PDF, 이메일 스레드, 스캔된 양식, 통화 기록, 부록의 조항 등에 숨겨져 있습니다. McKinsey는 기업 데이터의 약 90%가 비구조화되어 있다고 추정합니다. 구조화된 부분만 보는 자동화는 대부분의 의사결정을 놓칩니다. 이를 해결하려면 자동화에 두 가지, 즉 판단을 내릴 컨텍스트와 시스템 전반에 걸쳐 실행할 조정 능력을 제공해야 합니다.

왜 컨텍스트가 모든 것을 바꾸는가

에이전트형 AI는 컨텍스트와 함께 추론할 수 있기 때문에 그 격차를 메웁니다. 이는 이전 세대 자동화가 결코 할 수 없었던 일입니다. 전통적인 자동화와 달리, 에이전트는 시스템을 넘나들며 모호함을 처리하고 현실이 스크립트를 깨뜨릴 때 적응합니다. 프로세스 자체뿐만 아니라 프로세스 사이의 연결 고리도 자동화합니다.

이 때문에 컨텍스트가 실제 엔지니어링 과제가 됩니다. 컨텍스트 엔지니어링은 에이전트가 알아야 할 정보를 결정하고, 올바른 출처에서 해당 정보를 가져오며, 적절한 시점에 제시하는 학문입니다. 에이전트는 자신이 알고 있는 것에 대해서만 추론할 수 있습니다.

전 세계 반도체 기업으로 직원이 30,000명 이상인 기업이 이 교훈을 직접 체험했습니다. 1,000개가 넘는 계약서가 SharePoint, 공유 드라이브 및 로컬 폴더에 흩어져 있는 비구조화된 PDF 형태로 존재했으며, 계약 만료 전 통지 기간이나 갱신 조건을 추적할 방법이 없었습니다. 이러한 숨겨진 컨텍스트를 자동으로 추출하고 해석함으로써 계약 검토 시간을 크게 단축했으며, 연간 200시간 이상의 수작업을 절감하고 놓친 의무 위험을 감소시켰습니다. 기업 AI는 더 많은 고립된 작업을 자동화함으로써 확장되는 것이 아니라, 그 사이에 존재하는 컨텍스트를 결합함으로써 확장됩니다.

조정 없이는 자동화가 여전히 정체된다

자동화는 완벽한 컨텍스트를 가지고 있더라도, 그 지식이 실제 프로세스가 실제로 접촉하는 시스템, 팀 및 시간대 사이를 이동할 수 없다면 여전히 정체될 수 있습니다. 이 격차는 가상의 문제가 아닙니다. 연간 약 50,000건의 불만을 네 개 지역에 걸쳐 처리하는 글로벌 생명과학 기업이 이를 직접 경험했습니다. 불만은 연결되지 않은 이메일, 포털 및 문서를 통해 들어왔으며, 유사한 사례가 어느 팀이 담당하느냐에 따라 다르게 처리되었습니다. 이는 규제 당국이 지적하는 일관성 부족과 정확히 일치합니다. 이를 하나의 조정된 워크플로우로 표준화함으로써 연간 4,200시간 이상을 절감하고 해결 시간을 70% 단축했습니다. 이 레이어를 건너뛰는 기업은 추론은 잘하지만, 기존 시스템을 정체시켰던 동일한 인계점에서 여전히 멈추는 자동화를 얻게 됩니다.

거버넌스 함정

자동화는 과거에 소프트웨어처럼 라이선스가 부여되고, 프로비저닝되며, 가동 시간을 추적하는 방식으로 관리되었습니다. 에이전트형 AI는 이 모델을 깨뜨립니다. 왜냐하면 에이전트가 실행이 아닌 의사결정을 시작하는 순간, 접근 권한을 관리하는 것만으로는 충분하지 않기 때문입니다. CRM을 읽고, ERP에 기록하고, 결제를 트리거하며 고객에게 메시지를 보내는 에이전트는 단순 도구가 아니라 행위자이며, 영향력이 있습니다. 질문은 통합이 안전한가가 아니라, 이 에이전트가 어떤 결정을 내릴 수 있는가, 누구의 권한으로, 어떤 흔적을 남기며, 잘못될 경우 누가 책임을 질 것인가로 옮겨갑니다. 해결책은 자율성을 줄이는 것이 아니라, 명확한 경계, 정의된 권한, 완전한 행동 흔적, 그리고 에이전트가 생성하는 모든 결과에 대한 명명된 소유자를 두는 것입니다.

그 거버넌스는 감시를 포함해야 하며, 이는 제동 장치가 아니라 에이전트의 범위가 시간이 지남에 따라 안전하게 확장될 수 있게 하는 메커니즘입니다. 모든 수정은 에이전트가 올바른 컨텍스트를 가지고 있었는지를 드러내며, 점진적으로 더 많은 책임을 부여하는 루프를 형성합니다.

또한 이는 대부분의 팀이 놓치는 컨텍스트 계층에 도달해야 합니다. 비정형 소스를 탐색한다는 것은 그 안에 포함된 개인 데이터, 특권 자료, 상충되는 진실의 버전을 물려받는 것을 의미합니다. 에이전트는 사용하는 컨텍스트의 출처만큼만 신뢰할 수 있습니다. 컨텍스트를 계보, 접근 권한 및 최신성 규칙이 내장된 관리 대상 자산으로 취급하면 자동화는 책임이 아니라 감사 가능한 시스템이 됩니다. 확산이 일어나기 전에 이를 구축하고, 사고 이후에가 아니라 미리 준비하십시오.

첫 해, 다르게 실행하기

대부분의 조직은 올해를 자동화할 작업을 찾는 데 사용할 것입니다. 소수의 조직만이 정보, 책임 및 의사결정이 실제로 넘어가는 지점을 파악하고, 그 전환 시점에 발생할 일을 설계하는 데 시간을 투자할 것입니다.

2년 후에는 기업이 몇 개의 에이전트를 배치했는지는 중요하지 않을 것입니다. 진정한 질문은 그 아래 인프라를 누가 구축했는지, 그리고 누가 여전히 깨진 전환 지점에 봇을 억지로 연결하고 있는가가 될 것입니다.