사상 리더

기업 AI는 한계에 부딪혔습니다. 계획 수립이 돌파구입니다.

David Marmer
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트기업 AI는 에이전트가 기능 간 공유 운영 맥락을 갖추지 못해 조정의 한계에 부딪힌다.
더 보기
  • 기업 AI는 에이전트가 기능 간 공유 운영 맥락을 갖추지 못해 조정의 한계에 부딪힌다.
  • 지속적 계획은 AI를 실시간 조정 계층으로 전환시켜 상황 변화에 따라 시나리오를 압박 테스트한다.
  • 거버넌스는 자율적 결정의 추적 가능성과 인간의 감독을 보장하기 위해 처음부터 설계되어야 한다.

기업 AI의 첫 물결은 개별 기능 안에서 생산성을 높이는 코파일럿을 팀에 제공했습니다. 다음 물결은 이제 조율의 문제에 부딪히고 있습니다. 가장 중요한 경영 판단은 재무, 운영, 공급망, 전략을 가로지르지만 대부분의 AI 시스템은 여전히 한 기능 안에서만 작동합니다.

기업 AI의 현황을 살펴본 McKinsey의 AI 성숙도 연구에 따르면, 도입 성숙도 측면에서 자기 회사를 «성숙했다»고 평가하는 리더는 단 1%입니다. 이는 AI가 업무 흐름에 완전히 통합되어 상당한 사업 성과를 내는 상태를 뜻합니다. 나머지 99%는 AI를 도입했지만 기업 전체 차원에서는 아직 보여줄 성과가 많지 않습니다.

이유는 구조에 있습니다. 이런 AI 시스템에는 조율할 공간이 필요하고, 계획 수립은 그 자연스러운 장소입니다. 재무 가정, 수요 신호, 운영 제약, 전략적 목표가 이미 이곳에 모입니다. 이 계층에 AI를 구축하면 계획 수립은 정기적인 작업에서 기업 전체를 잇는 연결 조직으로 바뀝니다.

많은 기업이 지금 1세대 AI 도입에서 이 한계를 발견하고 있습니다. 코파일럿은 개별 팀의 작업 효율을 높였지만, 대부분의 조직은 그 아래에 있는 더 어려운 문제를 풀지 못했습니다. 사업 전반의 의사결정을 실시간으로 어떻게 조율할지에 관한 문제입니다. 예측 작업이 빨라져도 공급망 가정, 운영 제약, 재무 우선순위가 서로 단절되어 있으면 작동하지 않습니다.

기업 AI의 조율 격차를 만드는 구조

이를 실현하려면 세 가지 구조적 변화가 필요합니다.

1. 기업 AI는 기능별 사일로에서 벗어나야 합니다

재무 부서에 내장된 코파일럿은 예측 대비 편차를 요약하고 손익계산서의 변화를 설명할 수 있습니다. 하지만 운영 부서의 실시간 수요 신호를 가져오고, 갱신된 공급업체 위험 평가를 반영해, CFO와 COO가 동시에 보는 수정 예측에 다시 연결할 수는 없습니다. 이것이 오늘날 기업 AI가 부딪히는 구조적 한계이며, 기능별 도입이 개인 생산성에서는 좋은 수치를 내면서도 기업 전체 성과에서는 약한 이유입니다.

이 단절의 밑바탕에는 맥락 문제가 있습니다. 각 기능의 AI는 그 기능이 소유한 데이터, 사용하는 시스템, 세우는 가정에 따라 작동합니다. 이런 관점을 기업이 무엇을 사실로 믿는지에 관한 하나의 그림으로 모아줄 공통 계층이 없습니다.

그 결과 많은 기업이 «AI 조율 격차»를 겪고 있습니다. 시스템은 독립적으로 통찰을 만들어도 실제 상황이 요구하는 속도로 사업 전반의 결정을 정렬하지 못합니다.

한계를 넘으려면 공통 데이터 모델, 공유 업무 논리, 기능 간 의사결정을 일관되게 해석할 수 있는 온톨로지에 기반한 공통 운영 맥락을 통해 에이전트를 연결해야 합니다.

이 기반이 마련되면 수요 에이전트가 신호를 포착하고, 공급망 에이전트가 이를 바탕으로 조달 시뮬레이션을 실행하며, 재무 에이전트가 둘을 반영해 예측을 갱신할 수 있습니다. CFO는 나머지 사업 부문이 따르는 동일한 현실 인식에 기반한 하나의 통합 권고안을 봅니다.

2. 지속적인 계획 수립이 기업 AI의 조율 계층이 되고 있습니다

이 운영 맥락 위에서 계획을 지속적으로 수립하면 조율된 에이전트가 실질적인 사업 성과로 이어집니다. 계획은 분기별 작업을 넘어 살아 있는 시스템으로 움직입니다. 상황이 달라지면 다음 주기를 기다려 뒤쫓는 대신 회사 목표에 비추어 시나리오를 검토합니다. 가정이 바뀌는 시점에는 대안이 이미 모델링되고 스트레스 테스트를 거쳤습니다. 경영진은 마감에 쫓겨 단일 예측을 다시 만드는 대신 실행 가능한 여러 경로를 가지고 판단에 임합니다.

미국과 이란의 분쟁은 이를 실시간으로 시험하고 있습니다. 분쟁의 영향을 받는 다국적 기업들은 여러 신호를 동시에 받아들이고 있습니다. 원유와 에너지 가격이 변하고, 호르무즈 해협을 지나는 해상 운송로의 위험이 다시 가격에 반영되며, 공급업체의 납기가 길어지고 있습니다. 경영진은 며칠 안에 대응을 결정해야 합니다. 에너지 가격 헤지, 운송로 변경, 계약 재협상을 그 기간에 서로 비교 평가해야 합니다. 상황 변화에 맞춰 시나리오를 스트레스 테스트하고 지속해서 작동하는 계획 시스템만이 행동에 옮길 수 있을 만큼 제때 신뢰할 답을 제공합니다.

이것이 목표 지향 AI의 실제 모습입니다. 에이전트는 경영진이 정한 목표를 향해 일하고, 하나를 달성하려면 다른 목표를 포기해야 할 때 그 상충 관계를 알려줍니다. 시스템이 실시간으로 100개의 대안을 모델링해도 경영진은 무엇을 골라야 할지 막막할 수 있습니다. 계획 계층에는 목표와 상충 관계가 이미 자리 잡고 있습니다. 이것이 실제 운영 환경에서 작동하는 다중 에이전트 시스템과 데모에서 작동하는 시스템의 차이입니다.

이 전환은 점점 더 시급해지고 있습니다. Gartner는 에이전트형 AI 프로젝트의 40%가 넘는 비율이2027년 말까지 비용 증가, 약한 사업 가치, 불충분한 위험 통제로 취소될 것이라고 예측합니다. 이런 실패의 상당수는 모델 능력만이 아니라 조율과 거버넌스 문제에서 원인을 찾게 될 것입니다.

3. 기업 거버넌스는 나중에 덧붙일 수 없습니다

지속적인 계획 계층은 실질적인 의사결정 권한을 조율된 AI 시스템에 집중시킵니다. 따라서 거버넌스는 처음부터 아키텍처의 일부여야 합니다. AI 도입 이야기가 나올 때 많은 CFO와 CIO가 가장 먼저 제기하는 우려이며, 타당한 입장입니다. 감사 가능성, 설명 가능성, 명확한 정책상 경계가 없다면 자율 시스템을 의사결정 업무 흐름에 넣어서는 안 됩니다.

실제로 작동하는 도입에서는 에이전트의 모든 행동을 그 바탕이 된 입력, 논리, 정책까지 추적할 수 있습니다. 모든 권고에는 재무 책임자, 감사인, 이사회 구성원이 내용의 타당성을 따져보기 위해 필요한 가정이 함께 제시됩니다.

추적 가능성이 인간의 감독을 실효성 있게 만듭니다. CFO, 재무 통제 책임자, 결과에 책임을 지는 리더가 권고를 검토하고 가정을 따지며 행동을 승인할 수 있는 것은 시스템이 어떻게 결론에 이르렀는지 보일 때뿐입니다. 에이전트는 속도와 범위를 담당하고 인간은 판단을 담당합니다. 시스템이 편차를 포착하는 모습을 보고, 그 가정을 확인하며, 실행 전에 권고에 이의를 제기할 수 있는 리더는 시간이 갈수록 더 많은 권한을 시스템에 줄 것입니다. 추적 가능한 논리 없이 블랙박스 답변만 받는 리더는 시스템에 의존하기를 거부하고, 에이전트의 권한은 줄어듭니다. 거버넌스를 아키텍처에 내장한 기업은 첫 번째 형태의 도입을, 나중에 덧붙인 기업은 두 번째 형태를 얻게 됩니다.

앞으로의 10년은 인프라를 구축하는 기업의 몫입니다

10년 뒤에는 계획을 AI의 연결 계층으로 만든 기업과 그렇지 않은 기업의 차이가 명확할 것입니다.

데이터를 연결하고 업무 흐름을 통합하며 처음부터 거버넌스를 내장하는 눈에 띄지 않는 작업이 기업이 어느 쪽에 서는지 결정합니다.

기업 AI의 승자는 에이전트 수가 가장 많은 회사가 아니라, 그들을 조율할 수 있는 인프라를 구축한 회사가 될 것입니다.

데이비드 마르머는 Board의 최고 제품 책임자로서 제품 전략, 관리 및 디자인을 담당합니다. 경험이 풍부한 제품 관리 임원인 데이비드 마르머는 스타트업과 글로벌 기업을 거쳐 5,000만 달러에서 10억 달러에 이르는 포트폴리오를 관리하는 데 수십 년의 경험을 가지고 있습니다. 그의 배경은 분석, FP&A/EPM, IoT, 고객 인사이트, 금융 범죄 및 GRC 솔루션을 아우릅니다. 일관된 기업 전략을 추진하는 것으로 알려진 데이비드 마르머는 IBM과 Cognos의 임원직을 맡아 제품 비전을 측정 가능한 비즈니스 결과로 번역하는 데 도움을 주었습니다.