AI 파일럿에서 비용 손실을 막는 방법: 세 가지 실수와 대신 해야 할 일

지난 몇 년간 금융 산업은 인공지능 도입을 서두르고 있습니다. 기업들은 점점 더 모델을 구매하고 공급업체와 계약을 체결하고 있지만, 그 결과는 거의 없거나 끔찍한 경우도 있습니다. 작년에 발표된 MIT 연구에 따르면, 95%의 기업 AI 파일럿은 회사 이익에 측정 가능한 영향을 미치지 못했습니다.

동시에 지출이 급증하고 있습니다. 추정에 따르면 지난해 전 세계가 AI에 1.76조 달러를 사용했으며, 2026년에는 이 수치가 2.59조로 증가할 것으로 예상됩니다. 따라서 투입된 자금과 회수되는 자금이 크게 차이 나고, 비용이 사실상 아무런 성과 없이 상승하고 있습니다.

하지만 문제는 기술이 약하다는 것이 아닙니다. AI 모델은 매년 더 똑똑해지고 있어, OpenAI가 결정했다는 너무 앞서 나가지 않기 위해 개발을 중단했습니다. 따라서 이 경우 진정한 단점은 이러한 기술을 효과적으로 활용할 운영 모델이 부족하다는 점입니다.

파일럿 보유에 대한 착각

AI 통합 규모가 너무 커서 거의 모든 핀테크 및 전통 금융 회사가 최근에 최소 하나의 AI 파일럿을 시작했습니다. 예를 들어 고객용 챗봇이 있습니다. 하지만 무엇을 시작하든, 이러한 사례들은 전반적으로 꽤 불쾌한 결말을 맞이합니다.

모든 것은 특정 팀이 통제된 테스트 환경에서 좋은 성과를 보이는 개념 증명을 구축하면서 시작됩니다. 데모 후 경영진이 감명을 받아 배포를 허용하지만, 어느 순간 프로젝트가 붕괴하거나 효과가 없다는 것이 드러납니다. 그런데 왜 그럴까요?

물론 모든 내부 AI 프로젝트가 실패하는 것은 아닙니다. 그렇지 않으면 ML 엔지니어가 남지 않아 기술이 무용지물이 되기 때문입니다. 하지만 저는 이 실패 주기를 너무 많이 목격해서 그 원인을 잘 알고 있습니다. 간단히 말해, 문제는 파일럿 자체에 있습니다. 잘 수행되었을지라도 비즈니스가 실제로 일하고 운영되는 방식에 맞게 설계되지 않았기 때문입니다.

그 결과, 독립적으로 뛰어난 성능을 보이는 모델이 실제 환경에 투입되면 레거시 인프라나 기술 사용 방법을 모르는 직원들과 마주하게 됩니다. 그러나 이러한 장벽은 더 똑똑한 알고리즘으로 해결되지 않습니다. 모든 문제는 경영진의 결정으로만 해결될 수 있으며, 이는 데이터 과학자의 책임 영역이 아닙니다.

피하는 것이 좋은 몇 가지 실수

AI를 기업에 보다 효과적으로 통합하는 방법을 살펴보기 전에, 진행 과정에서 발생할 수 있는 다른 실수들을 고려해봅시다.

이미 간접적으로 언급했듯이 가장 첫 번째이자 가장 중요한 실수는 프로세스를 재구성하지 않고 AI를 부가 기능으로만 취급하는 것입니다. 실제로 많은 기업이 기존 워크플로우에 AI 도구를 한 단계에 삽입할 뿐, 해당 프로세스에 AI가 적합한지조차 고려하지 않습니다.

따라서 관리자로서 먼저 스스로에게 물어야 합니다: 이 프로세스가 회사에 실제로 필요했는가? 자동화 이전에 워크플로우가 비효율적이었다면 자동화 후에도 동일하게 비효율적일 것입니다. 오히려 악화될 수 있는데, AI가 기억한다 부정적인 패턴을 반복하기 때문입니다.

다음 실수는 관리자가 컴플라이언스와 거버넌스의 부담을 과소평가할 때 발생합니다. 금융 서비스는 어느 산업보다도 까다로운 규제 압박을 받으며, 예를 들어 컴플라이언스 부서를 전체적으로 AI로 자동화할 수 없습니다. 직접 서비스 제공 및 포트폴리오 관리도 마찬가지입니다. 보편적인 진리처럼 보이지만, 얼마나 많은 창업자들이 이 점을 간과하는지 놀라게 될 것입니다.

마지막으로, 많은 기업이 AI 도입을 위해 직원 교육을 잊고 있습니다. 기술이 직원들의 일상을 대체하면, 첫 번째 본능은 종종 인력을 감축하는 것입니다. 왜냐하면 적은 인원으로도 많은 작업을 더 빠르게 수행할 수 있기 때문입니다. 단기적으로 비용을 절감할 수는 있지만, 이는 매우 근시안적인 접근입니다.

진정한 가치를 원한다면, 다른 질문을 스스로에게 던져보세요. 일상 업무에서 해방된 우리 직원들이 이제 어떤 고차원적인 일을 할 수 있을까요? 현재의 역량과 동기로 그것을 수행할 준비가 되어 있나요?

월요일에 시작해 효율성을 높이는 방법

첫 번째 단계로, 중단된 AI 파일럿을 감사하십시오. 즉, 기존 파일럿을 제대로 정리하기 전까지는 새로운 아이디어를 도입하지 않는 것입니다. 사례의 90%에서 문제는 책임 부재이며, 확장에 대해 명확히 책임지는 사람이 없다는 점입니다. 따라서 소유권을 지정하십시오.

이미 AI 관리를 담당하고 있는 사람이 있다면, 다음 단계는 프로세스를 검토하고 전면 재구축하는 것입니다. 기존 워크플로우에 AI를 단순히 추가하지 마세요. 제 조언은 AI가 1차 분석을 수행할 수 있다는 점을 고려해 오늘부터 처음부터 설계한다면 이 프로세스가 어떻게 될지를 스스로에게 묻는 것입니다. 답은 종종 생각보다 훨씬 간단합니다.

또한 AI 모델이 가져오는 실제 수치를 계산하는 것을 잊지 마세요. 출시 후 6개월이 지나도 모델의 효과에 대한 구체적인 수치(예: 절감된 시간이나 증가된 이익)를 제시할 수 없다면, 모델이 제 역할을 하지 못하는 것이므로 가치를 재검토하는 것이 좋습니다.

그리고 아마도 가장 중요한 점은, 특히 책임이 있는 사람들과 늘 정직하게 일을 해온 사람들을 해고하지 말아야 한다는 것이다. 직원이 1년 동안 번 돈보다 회사에 더 많은 수익을 가져다 준다면, 그 해고는 곧 당신에게 문제가 될 것이다. 또한 이 점을 이해하지 못하는 기업은 조직의 지식과 팀의 신뢰를 잃게 되며, 이는 결국 훨씬 더 큰 비용을 초래한다.

전체적으로 볼 때, 파일럿의 95%가 목표에 도달하지 못하는 이유는 기술이 실패했기 때문이 아니다. 주변 조직이 그대로이고 구식이기 때문에 성공하지 못한다. 따라서 가장 먼저 바꾸어야 할 유일한 변수는 조직이다.