사상 리더

AI 컨설팅의 ROI 위기: 기술 컨설턴트가 성과를 입증해야 하는 이유

Sam Shar
Unite.AI를 Google의 선호 소스에 추가
A high-end corporate boardroom with a long wooden table. In the center, a stack of transparent glass tablets glows with green data charts and an upward ROI arrow. A magnifying glass rests against the tablets. In the background, several blurred figures in business suits stand facing a large window overlooking a foggy city skyline.
핵심 포인트최초의 과대광고에 따른 지출 열풍 이후, CFO들은 이제 AI 프로젝트에 대해 투자수익률(ROI) 증명을 요구하고 있습니다.
더 보기
  • 최초의 과대광고에 따른 지출 열풍 이후, CFO들은 이제 AI 프로젝트에 대해 투자수익률(ROI) 증명을 요구하고 있습니다.
  • 가트너는 컨설턴트 계약의 60%가 ROI 회수 조항을 포함할 것이라고 예측합니다.
  • 디지털 위생과 보안에 중점을 두는 컨설팅 회사들은 이제 더 높은 고객 유지율을 보이고 있습니다.

ROI의 현실: AI 컨설팅의 밀월기가 끝난 이유

컨설턴트들은 AI 붐을 재빨리 사업 기회로 활용했습니다. ChatGPT와 Claude 같은 새로운 대규모 언어 모델(LLM)을 도입하고 여러 해에 걸친 디지털 전환 프로젝트를 판매하기 시작했습니다. 고객은 대부분 시대에 뒤떨어져 보일 것을 걱정하는 대기업이었고, 서둘러 여섯 자리, 때로는 일곱 자리 금액의 계약을 승인했습니다.

하지만 밀월기는 이제 공식적으로 끝났습니다. 최고재무책임자(CFO)들은 투자수익률을 입증하라는 압박을 점점 더 크게 받고 있습니다. 이 계약들을 판매한 컨설턴트들도 매우 어려운 질문에 직면하고 있습니다.

AI 붐은 컨설팅 회사에 유리하게 작용했다

컨설팅 회사들은 어떻게 이런 상황에 이르렀을까요? 우선 AI의 폭발적 성장이 기업들로 하여금 핵심 운영을 재검토하게 했다는 점을 인정해야 합니다. 자동화 압력이 이사회에 위기감을 불러일으켰습니다. 컨설팅 회사들이 판매한 것은 소프트웨어라기보다 뒤처질 위험에 대비하는 보험이었습니다.

그 보험의 대가는 컸습니다. 기업들은 이제 디지털 사업 예산의 21~50%를 AI에 배정합니다. 매출이 130억 달러인 기업이라면 약 7억 달러에 해당합니다.

대형 컨설팅 회사 중 가장 큰 수혜자는 아마도 Accenture일 것입니다. 지난해 이 회사가 수행한 6,000건 이상의 첨단 AI 프로젝트 가치는 약 59억 달러였습니다.

이사회는 대형 컨설팅 회사의 주장에 근거가 있는지 따지는 대신 “언제 시작할 수 있나요?”라는 질문으로 회의를 마쳤습니다.

정부도 같은 영업 논리에 설득됐습니다. 공공 서비스의 부담을 덜기 위해 Deloitte, PwC, Capita 같은 회사에 총 10억 달러가 넘는 AI 계약이 주어졌습니다.

이사회는 투자에 대한 수익을 요구한다

하지만 AI를 둘러싼 과열된 기대는 식었습니다. OpenAI의 Sam Altman조차 경고했습니다. 투자자들이 AI에 지나치게 들떠 있다는 것입니다. 이제는 성과에 대한 책임을 묻는 단계로 접어들고 있습니다.

이사회의 시선은 점점 더 회의적으로 바뀌었습니다. 질문도 “AI를 어떻게 활용할 수 있을까?”에서 “어디에서 이익을 늘려 주는가?”로 바뀌었습니다.

CFO들은 답을 찾고 있습니다. 가장 먼저 질문을 받는 대상은 과도하게 약속하고 기대에 못 미치는 성과를 낸 기술 컨설턴트들입니다.

돈이 어디에 쓰였는지 깊이 들여다볼수록 비용은 눈덩이처럼 불어납니다. CFO들은 불편한 진실과 마주할 수밖에 없습니다. AI 시범 사업 하나하나의 실제 비용이 최초 견적보다 약 30~50% 더 높다는 것입니다.

물론 ChatGPT가 자사의 기존 기업을 4분기까지 차세대 Microsoft로 만들어 줄 것이라는 약속을 받은 이사회 구성원이라면 API 통합이나 ETL 파이프라인 강의를 듣고 싶지는 않을 것입니다.

이사회는 수백만 달러를 쏟아부은 프로젝트들이 측정 가능한 사업 성과로 이어지지 못했다는 사실에 분노합니다. MIT에 따르면 실제 도입된 생성형 AI 프로젝트의 95%가 첫 6개월 동안 측정 가능한 투자수익을 내지 못했습니다.

이런 프로젝트의 투자수익 부재는 이제 컨설팅 사업 모델의 핵심을 위협합니다. Gartner는 전체 계약의 60%에 보수 환수 조항이 포함될 것으로 예상합니다. 즉, 컨설팅 회사가 ROI를 입증하지 못하면 보수를 돌려줘야 한다는 뜻입니다.

신중한 회사가 진정한 승자가 될 것이다

그렇다고 승자가 없는 것은 아닙니다. 이번 도태 과정을 버텨 낼 컨설팅 회사는 고객에게 투자수익을 제공하는 일을 우선한 곳들입니다. 실패한 AI 도입에 대한 이사회의 추궁이 거세질수록 과장된 기대보다 품질을 중시한 회사들이 상당한 시장 점유율을 확보할 것입니다.

흐름은 바뀌었습니다. AI 도입에서 벗어나 디지털 위생 관리에 투자하는 기업이 늘고 있습니다.

예를 들어 AI가 IT 환경을 현대화하는 가운데 Consultancy UK의 조사에 따르면 기업의 94%가 AI보다는 디지털 기술에 투자할 계획이며, 사업 전반에서 AI를 광범위하게 사용하는 기업은 전체의 5분의 1에 못 미칩니다.

세계경제포럼은 최근 주가를 예측하는 데 혁신 속도보다 디지털 신뢰가 더 중요한 지표가 됐다고 강조했습니다. 사이버 복원력을 제공하는 컨설팅 회사의 고객 유지율은 AI 도입을 제공하는 회사보다 20% 더 높습니다.

이는 초기의 적극적인 호응과 뚜렷이 대조됩니다. 2022년에는 모든 사내 타운홀 행사와 전 직원 회의의 의제에 AI 도입이 포함되는 듯했습니다. 하지만 기업의 요구는 달라졌습니다.

이사회는 AI를 성공적으로 도입하는 데 필요한 보안, 복원력, 인프라를 구축하는 데 지출을 우선하려 합니다. 과장된 기대를 넘어 이 틈새 수요에 맞게 제품을 다듬은 전문 컨설팅 회사는 4대 컨설팅 회사에 필적하는 수익을 기대할 수 있습니다.

컨설팅 회사가 과거에 AI를 피했어야 했다거나 앞으로 피해야 한다는 뜻은 아닙니다. 고객도 마찬가지입니다. 기술 컨설턴트는 본질적으로 새로운 기술을 받아들여야 합니다. 그것이 생존하는 방법입니다.

하지만 제게 분명한 것은 더 신중하게 접근한 회사들이 이번 도태 과정을 버텨 낼 것이라는 점입니다. 시장에 나서기 전에 AI의 편익을 측정할 수 있는지 확인한 회사들 말입니다.

AI를 둘러싼 과열된 기대는 컨설팅 업계에 경종이 되어야 합니다. 계약 체결 보너스를 좇을 것이 아니라 고객 기업의 성과를 개선하는 솔루션을 만들어야 합니다.

컨설턴트들의 앞날이 위태롭지만 모두가 그런 것은 아닙니다. 고객의 투자수익 창출에 집중한 회사들은 다가올 도태를 견딜 뿐 아니라 승자가 될 것입니다. 나아가 더 큰 시장 점유율을 가져다줄 지속 가능한 사업 모델도 갖추게 될 것입니다.

AI 도입의 다음 단계를 이끄는 것은 실험이 아니라 성과에 대한 책임입니다. 앞으로 승리할 회사는 모든 도입을 첫날부터 측정 가능한 사업 성과와 연결할 수 있는 곳들입니다.

샘 샤르는 Trend-Setters Consulting Inc.의 CEO입니다. Trend-Setters Consulting Inc.는 로스앤젤레스에 본사를 둔 기업 기술 회사로, 뱅크 오브 아메리카, HP, 제록스 등 포춘 500대 기업에 전략적 인재와 솔루션을 제공합니다.