사상 리더

보이스 AI는 신기한 기술에서 핵심 인프라로 전환되고 있다

mm
Unite.AI를 Google의 선호 소스에 추가

모든 기술 배포에는 “작동할 수 있나요?”라는 질문에서 “비즈니스에서 작동할 수 있나요?”라는 질문으로 바뀌는 순간이 있습니다.

호텔 기술에서 10년을 보낸 후에, 프로퍼티 관리 시스템, 수익 관리 소프트웨어, 운영 플랫폼에서 이러한 전환을 보았습니다. 패턴은 항상 동일합니다. 새로운 기능이 파일럿에서 자신을 증명하고, 초기 채택자가 그것을 중요한 워크플로로 밀어붙이며, 그러면 그것은 운영 레이어에 도달합니다. 즉, 시스템의 실패가 즉시 돈을 비용으로 지불하는 시스템에서, 사후 분석에서가 아니라, 그리고 대부분의 벤더가 데모에서 좋게 보였지만 조용히 사라집니다.

보이스 AI는 지금 그 전환점에 있습니다.

진짜 도박에서 요구 사항이 변경된다

음성 에이전트는 모든 기업 기술이 자신을 증명하는 것과 같은 방식으로 신뢰를 얻었습니다. 즉, 처음에는 낮은 위험 상황에서 유용함을 증명합니다. 예약, 기본 FAQ, 콜 라우팅과 같은 좁은 작업에서 오류의 비용이 적고 “충분한” 기준이 낮을 때입니다. 그 단계는 대부분 우리 뒤에 있습니다. 이제 대화는 다음 단계로 이동했습니다.

오늘날 기업은 모든 인바운드 고객 상호작용의 첫 번째 접촉점으로 AI 에이전트를 배포하고 있습니다. 이는 이전에 인간 수신기 또는 콜 센터 에이전트가 속한 역할입니다. AI가 그 위치를 차지하면 비즈니스에서 작동하는 인프라의 일부가 됩니다.

AI가 고객 수신을 위한 임계 경로에 있으면 평가 기준이 완전히 변경됩니다. 정확성 벤치마크와 데모 성능은 관련이 없습니다. 중요한 질문은 다음과 같습니다. 프로덕션 규모에서 업타임은 얼마입니까? 시스템은 호출자가 두꺼운 억양, 배경 노이즈 또는 요청을 중간에 변경할 때 어떻게 작동합니까? 팀이 도달할 수 없을 때와 시스템이 전에 보지 못한 것을 마주칠 때 2시, 공휴일에는 어떻게됩니까?

이것은 에지 케이스가 아닙니다. 프로덕션 AI 배포에서 이것은 화요일입니다.

실시간 AI가 실제로 요구하는 것

실시간 환경에서 AI 에이전트를 실행하는 것은 지연에 대한 여유가 없으며, 다시 시도할 수 없으며, 인간이 루프에 없는 경우에 벤치마크 테스트에서 나타나지 않는 제약을 부과합니다.

응답 지연은 신뢰와 포기 사이의 임계값입니다. 국립 과학 아카데미 간행물에 발표된 연구에 따르면 인간은 약 200 밀리초 내에 대화의 배턴을 전달하며, 그 리듬에서 작은 편차는 무언가가 잘못되었다는 신호로 등록됩니다. 음성 AI의 contexto에서 이러한 민감성은 실제로 결과를 초래합니다. 호출자는 응답이 너무 오래 걸리면 의식적으로 해제하기로 결정하지 않습니다. 그들은 просто 그렇게 합니다. 일시 정지는 무언가가 잘못되었다는 느낌을 주며, 그에 따라 행동합니다.

일관성은 두 번째 제약조건이며, 이는 더 어렵습니다. 첫 번째 호출에서 고객에게 정확한 정보를 제공하는 AI 에이전트지만 두 번째 호출에서 다른 정보를 제공하는 에이전트는 혼란만을 초래하지 않습니다. 시스템과 비즈니스에 대한 신뢰를 파괴합니다. 확장성에서 일관된 응답을 달성하려면 실시간으로 시스템 레코드와 통합해야 합니다. 예약 플랫폼, 재고, 서비스 가용성, 위치별 규칙 등이 있습니다. 실시간 데이터에 연결할 수 없는 AI는 항상 어제의 정보로 작동할 것입니다. 고객 대화에서 어제는 충분하지 않습니다.

제3의 제약은 규모에서 작동한 벤더와 그렇지 않은 벤더를 구분합니다. 모든 실패를 방지하는 것이 아닙니다. 그것은 달성할 수 없습니다. 그러나 시스템, 프로세스, 기관의 지식은 무엇이 깨지는지, 그것을 고치는지, 다음 시프트가 시작되기 전에 수정을 배포하는 것입니다. 이러한 기능은 몇 개월이 아니라 몇 년에 걸쳐 구축됩니다. 또한 제품 데모에 나타나지 않습니다.

내장형 대 볼트 온: 모든 것을 변경하는 이유

워크플로를 보완하는 AI와 워크플로가 되는 AI 사이에는 의미 있는 운영 차이가 있습니다.

추가 AI는 부작용 없이 성능이 저하될 수 있습니다. 요약 도구가 컨텍스트를 놓치거나 예약 보조가 수정이 필요한 경우 비용은 마찰입니다. 그러나 의료 사무소, 홈 서비스 회사 또는 다중 위치 소매 비즈니스에서 인바운드 호출을 처리하는 AI 에이전트는 보충적이지 않습니다. 그것은 고객이 머무르거나 떠나는 결정하기 전에 첫 번째이자 종종 유일한 터치 포인트입니다. 불일치에 대한 관용은 거의 없습니다.

AI가 비즈니스 핵심으로 이동할 때, 소유권도 함께 이동해야 합니다. 고객 호출을 처리하는 음성 에이전트는 IT 자산이 아닙니다. 그것은 수익을 담당하는 사람에게 속합니다. 그리고 그것은 벤더 관계의 본질을 완전히 변경합니다. 소프트웨어를 구입하는 것이 아닙니다. 운영 파트너를 맡는 것입니다.

통합 요구 사항도 필수적으로 변경됩니다. 비즈니스에서 이미 알고 있는 모든 것을 알고 있는 시스템처럼 작동하는 시스템이 영구적으로 채택되는 시스템입니다. 음성 AI도 동일한 기준을 충족해야 합니다. 실시간으로 CRM과 동기화할 수 없으며, 다음 호출이 들어오기 전에 업데이트된 가격을 학습할 수 없으며, 필요할 때 인간에게 에스컬레이션할 수 없으면 운영 레이어에 준비가 되지 않았습니다.

성능 기준은 “일반적으로 정확”에서 “신뢰할 수 있는 일관성”으로 이동합니다. 물론, 그것들은 비슷하게 들리지만, 동일하지 않습니다.

이 전환은 음성만의 고유한 것이 아닙니다. McKinsey의 고객 서비스 연구는 고객과 접촉하는 AI 전반에 걸쳐 동일한 패턴을 문서화했습니다. 기술은 보강에서 인프라로 이동하고 있으며, 조직의 기대도 함께 이동해야 합니다.Gartner는 2028년까지 기업 소프트웨어 애플리케이션의 33%가 에이전트 AI를 포함할 것으로 예측하며, 이는 2024년의 1% 미만에서 증가한 것입니다. 이는 운영이 어디로 향하는지에 대해 많은 것을 말해줍니다.

프로덕션용 AI 시스템 평가 방법

대부분의 조직이 犯하는 실수는 AI 시스템을 소프트웨어와 같은 방식으로 평가하는 것입니다. 즉, 기능 완성도와 벤치마크 성능을 기준으로 평가합니다. 보충적인 시스템에서는 작동하지만, 부하가 걸린 시스템에서는 실패합니다.

2025년 MIT 연구는 300개의 기업 AI 배포를 조사하여 95%의 AI 파일럿이 하위 라인에 측정할 수 있는 영향을 미치지 못한다는 것을 발견했습니다. 주요 원인은 모델 품질이 아닙니다. 그것은 기존 워크플로와의 통합이 부족합니다. 이러한 발견은 리더가 평가에 접근하는 방식을 재구성해야 합니다.

핵심 워크플로에서 작동할 에이전트 AI의 경우 다른 렌즈가 필요합니다. 데모가 아닌 프로덕션 기록부터 시작합니다. 벤더의 가장 큰 프로덕션 배포는 무엇인지, 어떤 볼륨인지, 직접 고객과 통화할 수 있게 해달라고 요청합니다. 자신감이 있는 벤더는 주저하지 않고 예를 들어야 합니다.

운영 지원 모델을 주의 깊게 평가합니다. 기업 AI 배포는 라이선스 구매가 아닙니다. 그것은 지속적인 운영 관계입니다. 질문은 단지 첫 번째 날에 AI가 작동하는지에 관한 것이 아닙니다. 그것은 예상치 못한 것이 규모에서 나타났을 때誰が 그것을 감시하고 있는지에 관한 것입니다.

비즈니스에서 관심을 가지는 것을 측정합니다. 즉, “AI 채택” 또는 “처리된 상호작용”과 같은 허구 메트릭이 아닙니다. AI가 처리한 호출과 인간이 처리한 호출의 리드 전환率, 고객 만족도 점수, AI로 회복한 상호작용에 직접 귀속되는 수익을 측정합니다. 이러한 숫자는 시스템이 자리 잡고 있는지, 아니면 단지 활동을 생성하는지 여부를 알려줄 것입니다.

마지막으로, 조직의 변화를 계획합니다. Gartner의 에이전트 AI 프로젝트 실패에 대한 연구에 따르면, 2027년 말까지 에이전트 AI 프로젝트의 40% 이상이 취소될 것으로 예측되며, 비용 상승과 불분명한 비즈니스 가치가 주요 이유로 인용됩니다. 나는 음성 AI에서 가장 많은 것을 얻을 조직은 명확한 책임을 할당하고, 비즈니스 용어로 성공을 정의하며, 시스템을 팀의 다른 구성원과 동일한 기준으로 평가하는 조직이라고 믿습니다.

음성 AI를 프로덕션으로 가져가는 것은 쉬운 부분입니다. 그것을 유지하고, 책임을 지우고, 비즈니스에서 자리 잡도록 만드는 것이 대부분의 조직이 여전히 작업해야 할 곳입니다.

제이슨 루오(Jason Luo)는 뉴오(Newo)의 CEO로, 음성 AI 인프라 플랫폼입니다. 그는 이전에 ALICE의 CEO와 Actabl의 CRO를 역임했습니다.