AI를 구축하기 전에 모든 COO가 물어야 할 4가지 질문

AI 시대는 약속으로 가득 찬모든 기업이 효율성 향상 정도와 AI가 그 효과를 얼마나 냈는지 보고하고 있습니다. 여러 AI 스타트업에서 운영을 담당하고 현재 120개 이상의 포트폴리오 기업을 보유한 AI VC 펀드를 운영하는 저는 상황이 다르다고 생각합니다. 수많은 유용한 AI 도구와 자동화가 구매, 통합, 도입되고 있지만, 효과는 미미하거나 거의 없습니다. 최근 맥킨지의 AI 잠재력 보고서AI 전환의 거의 70%가 실패합니다. 문제는 아무리 최고의 AI 도구라도 사람이 운영하는 복잡한 프로세스에 도입하면 결국에는 더 이상 복잡하지 않은 프로세스만 남는다는 것입니다. 환각과 상실 문맥.

최근 저희 투자자 중 한 명이 자사 사업부에 AI 에이전트를 도입하고 효율성 향상 효과를 확인하기 위한 연구를 진행했다고 밝혔습니다. 그 결과는 놀라웠습니다. 직원들이 이전에 수동으로 처리하던 작업에 많은 시간을 절약하면서도, 실제로는 동일한 시간을 사용하고 있었습니다. AI가 저지른 실수를 수정하려고 노력하다말할 필요도 없이, 자동화는 IT 부서에서 담당했고 운영팀은 소외되었습니다. COO가 AI를 활용하여 실제로 운영을 개선하는 방법에 대해 이야기해 보겠습니다.

DVC는 AI 스타트업에 투자할 뿐만 아니라, 눈에 띄는 거의 모든 신기술을 얼리 어답터로 활용합니다. 자체 에이전트를 구성하고, 투자 유치 및 평가, 포트폴리오 창업자 지원, LP들이 엔젤 투자 기회를 모색하는 데 사용하는 도구 개발 등 VC 업무의 모든 측면에서 포트폴리오 기업의 제품을 활용합니다. 이러한 성공은 매우 지루하지만 매우 유용한 프레임워크를 적용한 데서 비롯됩니다.

AI를 배포하기 전에 우리는 다음 네 가지 질문을 합니다.

1. 명확한 규칙이 있나요?

프로세스를 구체적인 지침으로 정의할 수 있나요? 그렇다면 자동화에 매우 적합합니다. 법률 워크플로, 회계 규칙, 체계적인 온보딩? 완벽합니다. 이러한 시스템은 출력이 규칙을 따르는 시스템입니다. AI가 이러한 분야에서 성공할 수 있습니다.

하지만 프로세스가 본질적으로 창의적이라면, 예를 들어 브랜드 스토리텔링이나 전략 디자인이라면 완전한 자율성은 효과가 없으며, 프로세스는 사람들이 부조종사를 활용하여 설계해야 합니다. 브랜드 마케팅에서는 규칙을 어기는 경우가 많습니다. 추가 가치가 있습니다. 에이전트에게 아웃소싱하지 마세요.

2. 이 과정에는 단일 진실의 원천이 있습니까?

CRM과 주문 추적 시스템이 서로 다른 정보를 제공하고, 실제 업데이트는 누군가의 개인 스프레드시트에 저장되어 있다면, 잠시 멈춰보세요. AI 시스템은 사용자가 제공하는 데이터에 따라 성능이 결정됩니다.

만들기 진실의 단일 소스 데이터나 지식 사일로를 없애는 것은 효율적인 프로세스 설계의 황금 표준이며, 에이전트 AI에 있어서는 그 어느 때보다 중요합니다.

모든 고객 접점과 이력이 통합 데이터베이스에 기록되면 AI는 후속 조치를 자동화하고, 다음 조치를 권장하며, 정확한 보고서를 생성할 수 있습니다. 심지어 음성 고객 지원을 제공하거나 고객 상담 일정을 예약할 수도 있습니다. 특히 중소기업을 대상으로 판매할 때, 스타트업이 신뢰할 수 있는 정보를 제공하는 솔루션을 판매할 때 성공하는 경우가 많습니다. 아보카 AI전기 기술자를 위한 전화 상담원으로, CRM이 내장되어 있어 모든 고객 데이터와 상호작용을 중앙에서 관리하고 최신 상태로 유지합니다.

3. 풍부한 데이터 기록이 있나요?

모든 행동이 어떻게 결정이 내려졌는지에 대한 예시와 함께 기록되나요? AI는 과거 데이터의 패턴을 통해 학습합니다. 로그가 없으면 학습도 없습니다. 시스템이 발생한 일을 기록하지 않는다면 그리고 왜패턴을 생성할 수 없고, 개선할 수도 없습니다. 돈만 낭비하게 될 뿐입니다.

하지만 모든 고객 통화를 녹음하고 AI로 기록하여 폴더에 저장한다고 해도 충분하지 않을 것입니다. 이러한 작업을 수행하는 상담원은 이러한 비정형 데이터를 요약 및 구조화하거나, 관계를 더 잘 이해하기 위해 그래프로 변환하도록 구성되어야 합니다. 그렇지 않으면 집중력을 빠르게 초과하게 될 것입니다. 출근할 때마다 기억이 지워지는 직원이라고 상상해 보세요. 초인적인 속도로 읽고 쓸 수 있지만, 회사가 무슨 일을 하는지, 관리자가 요청한 작업을 어떻게 처리해야 하는지 알아내려고 수 메가바이트에 달하는 대화 로그와 채팅 기록을 뚫어져라 쳐다보며 멍하니 있어야 합니다. 제대로 된 데이터베이스가 없는 AI 상담원은 바로 이런 "느낌"을 받습니다.

최고의 팀은 단순히 데이터를 수집하는 데 그치지 않습니다. 미래를 염두에 두고 데이터를 구조화하고 버전을 조정합니다. 바로 이때 학습 루프가 형성됩니다. AI는 모델 학습 없이도 더욱 똑똑해집니다.

헬스케어 분야에서는 총체적으로 이 원칙을 대규모로 적용합니다. 수년간의 주석이 달린 청구, 지불 및 환자 상호작용 데이터를 활용하여 의료 청구 및 수익 주기 관리를 최적화합니다. AI는 과거 결과를 학습하여 오류를 줄이고 수금 처리 속도를 높입니다.

4. 귀하의 기술 스택이 AI에 적합합니까?

AI가 실제로 시스템과 도구에 통합될 수 있을까요? 아니면 1988년부터 거의 로드되지 않는 내부 포털에 갇혀 계신가요? 내부 운영 도구가 너무 구식이라 구조화된 출력을 생성할 수 없고, API 연동은 더더욱 불가능한 사례들을 봤습니다. 이러한 상황에서는 AI를 기존 인프라에 강제로 투입하는 것보다 시스템을 처음부터 다시 구축하는 것이 더 빠르고 효과적인 경우가 많았습니다. AI 에이전트가 MCP(구조화되고 문서화된 API)를 사용할 수 있다면, 인터페이스 스크린샷을 찍고 이미지 인식을 통해 어떤 버튼을 눌러야 할지 파악하는 것보다 훨씬 더 효율적이며 비용도 절감할 수 있습니다.

AI는 인프라가 되어가고 있습니다. 하지만 20세기 초 전기처럼, 그 잠재력은 단순히 전구를 설치하는 것이 아니라 공장을 재설계할 때에만 발휘됩니다. 기존 방식을 고수하지 말고, 새롭게 구상해야 합니다. 그리고 말할 필요도 없이, 예전에는 개발에 백만 달러가 들었던 많은 내부 도구들을 이제는 엔지니어가 점심시간에 직접 바이브 코딩을 할 수 있습니다.

첫 번째 원칙 시간입니다.

이제 가장 흥미로운 부분입니다. 이상적인 프로세스를 설계했다고 가정해 보겠습니다. 규칙이 정의되고, 단일 진실 소스(Single Source of Truth)를 가지며, 자체 개선을 위해 체계적인 방식으로 데이터를 수집하는 프로세스입니다. 엔지니어를 설득하여 점심시간을 활용해 새로운 내부 도구 세트를 코딩하도록 했습니다. 하지만 이 프로세스를 다시 한 번 살펴보겠습니다. 자동화 덕분에 운영 비용이 훨씬 저렴해졌을 가능성이 매우 높습니다. 이제 비용이 크게 절감되었을 때 비즈니스에 어떤 일이 일어날지 생각해 보세요. 더 큰 그림을 그려보세요. 이 프로세스가 다른 프로세스와 같은 방식으로 개선된다면 어떻게 공존할 수 있을까요? 어쩌면 AI를 염두에 두고 모든 것을 다시 구상해야 할 때일지도 모릅니다.

사업 운영에 대한 기본 원칙을 고려하면 예상치 못한 기회를 발견할 수 있는 경우가 많습니다. 예를 들어, DVC에서는 거래 분석, 실사, 그리고 거래 메모 작성을 자동화하여 기존 6명/시간 소요되던 작업을 AI가 3분 만에 완료할 수 있도록 했습니다. 전통적으로 VC는 창업자와 상담하여 해당 거래에 6명/시간 투자할 가치가 있는지 확인한 후에만 이 모든 작업을 수행했고, 회사에는 제한된 수의 분석가만 있었습니다. 하지만 이제는 비용이 크게 절감되어 창업자와 상담하기 전에 시장을 분석하고, 거래 메모를 작성하고, 심지어 실사까지 진행합니다. 이를 통해 투자할 수 있고 투자하고 싶은 회사와만 통화할 수 있게 되어 파트너와 창업자 모두의 시간을 절약할 수 있습니다.

하지만 우리는 더 나아갈 수 있습니다. 사실상 무제한의 분석가를 보유하고 있기 때문에, 이러한 도구를 투자자와 스카우트에게 전달하여 새로운 거래 기회를 우리에게 추천할 수 있습니다. 이를 통해 투자자와 스카우트들은 시간을 절약하고 전문 VC 분석가의 눈으로 모든 거래를 분석하며, 검토 후 거래를 포기하는 횟수를 줄일 수 있습니다. 우리는 여전히 모든 데이터를 수집하고 있는데, 이를 통해 학습하고 도구를 개선할 수 있기 때문입니다.

이를 통해 우리 규모의 일반적인 VC 회사보다 약 8배 더 생산적으로 일할 수 있었습니다. 하지만 이는 우연이 아니었습니다. 내부 운영 방식을 파악하고, 네 가지 질문을 적용한 후, 기본 원칙부터 다시 구축했습니다.

이 프레임워크는 스타트업 리더와 COO가 사고방식을 전환하는 데 도움을 줍니다. 기술적 가능성에 대한 질문인 "여기에 AI를 사용할 수 있을까?"에서 "그렇게 해야 할까?"로 전환하여 전략적 가치, 데이터 준비성, 그리고 장기적인 유지 관리 가능성에 대한 심층적인 검토를 가능하게 합니다. 이는 도구를 사용할 수 있다는 이유만으로 도입하는 것과, 옳은 일이라고 생각하여 프로세스를 재설계하는 것의 차이입니다.