Will Bodewes, Phonely 공동 창립자 겸 CEO – 인터뷰 시리즈

Will Bodewes는 기업이 전화를 받고 고객과의 대화에서 더 나은 성과를 거두도록 돕는 음성 AI 기업 Phonely의 공동 창립자 겸 CEO입니다. 회사를 설립하기 전에는 University of Melbourne에서 박사 과정을 밟으며, 자연스럽게 소통하면서 지시를 따를 수 있는 시스템과 응용 인공지능을 연구했습니다. 이전에는 오디오 기술 스타트업을 창업했으며, NCAA 크로스컨트리 스키와 울트라 지구력 사이클링 대회에 출전했습니다. Phonely에서는 연구 경험을 바탕으로 음성 에이전트 도입과 관련된 실무 과제, 즉 대화의 신뢰성, 지연 시간, 연동, 예약·영업·고객 서비스 업무 흐름의 지속적인 최적화에 대응하고 있습니다.

Phonely는 기업이 전화 대화를 자동화하고, 예약을 잡고, 잠재 고객을 선별하고, 통화를 적절한 곳으로 연결하며, 고객과의 상호작용을 기존 소프트웨어와 연계할 수 있도록 하는 AI 음성 에이전트 플랫폼입니다. 이 플랫폼의 도구는 맞춤형 대화 흐름에 통화 기록, 분석 기능, A/B 테스트를 결합해 팀이 성과를 측정하고 시간이 지남에 따라 결과를 개선할 수 있도록 합니다. 이 회사는 소규모 기업부터 대기업까지 다양한 조직에 서비스를 제공하며, 10,000곳이 넘는 기업을 지원하고 하루 120,000건 이상의 통화를 처리한다고 밝히고 있습니다. Phonely는 Alma를 비롯한 자체 대화형 모델도 개발하며, 자동 통화의 속도와 신뢰성을 높이고 실제 비즈니스 대화에 더 적합하게 만드는 데 주력하고 있습니다.

AI 박사 과정을 밟으며 University of Melbourne에서 Phonely를 만들기 시작하셨고, 초기에는 지시를 따르면서 자연스럽게 소통할 수 있는 시스템을 개발하는 데 집중하셨습니다. 음성 AI가 독립적인 기업을 뒷받침할 수준에 이르렀다고 판단한 계기는 무엇이었으며, 다른 사람들이 놓치고 있던 시장의 기회는 무엇이었나요?

당시에는 음성 AI가 독립적인 기업을 뒷받침할 수 있다는 증거가 없었습니다. 음성 AI를 개발하는 기업이 두어 곳 있었고 사용자도 약 5명 또는 10명에 불과했지만, IVR 시스템이 아닌 음성 AI를 성공적으로 배포한 곳은 없었습니다. 그래서 Phonely를 시작했을 때, 그것은 하나의 승부수였습니다. 당시에는 모든 관심이 채팅에 쏠려 있었기 때문에 음성은 새로운 매체였습니다. 아직 해결되지 않은 문제였기에 우리는 이렇게 생각했습니다. “왜 이 문제에 도전하지 않을까? 왜 해결해 보려 하지 않을까?”

박사 과정 연구는 “로봇처럼 지시를 따르고 사람처럼 말하는” AI를 만들겠다는 목표에서 시작됐습니다. 이 연구가 상용 음성 AI 플랫폼의 기반이 될 수 있다고 깨닫게 한 기술적 돌파구는 무엇이었나요?

그 연구는 무슨 일이 일어나고 있는지, 그 이면의 핵심 기술을 이해하는 데 가치 있고 중요했습니다. 덕분에 한발 앞서 내다보고 앞으로 어떤 기술이 개발될지 파악할 수 있었습니다. 저는 이러한 모델이 무엇이고 어떻게 작동하는지 기술적으로 이해하고 있었고, 그 덕분에 승부수를 던질 수 있었습니다. 구체적으로는 회사를 세우고 영향력을 발휘하고 싶었으며, 제가 알고 있고 앞으로 다가올 일을 내다볼 수 있는 분야 중 이 분야가 제 경험과 가장 밀접했습니다. 그 흐름에 함께하고 싶었습니다.

기업은 역사적으로 모든 전화 통화를 체계적으로 최적화할 수 없었다고 말씀하셨습니다. 실제로 전화 대화를 최적화한다는 것은 어떤 모습이며, AI는 시간이 지나면서 전환율, 문제 해결률 또는 고객 경험을 어떻게 개선할 수 있을까요?

배관공과의 예약을 잡는 상황을 생각해 보죠. 전화를 받는 직원은 고객 정보를 수집하고 예약을 잡도록 교육받지만, 질문을 어떻게 하느냐에 따라 고객에게 해당 업체의 서비스에 포함되는 줄 몰랐던 사항을 알려줄 수도 있습니다. 그래서 배관 문제로 예약을 잡았는데, 알고 보니 싱크대 수리도 필요할 수 있죠. 제대로 훈련된 음성 AI 에이전트도 같은 일을 하며, 기업이 고객에게 추가 상품이나 서비스를 판매해 매출을 늘리도록 돕습니다. 새로 온 접수 직원은 교육받지 않은 제품을 추가로 판매해 주문에 항목을 하나 더 넣을 수도 있습니다. 그러면 고객 만족도가 높아지고 기업에도 더 나은 성과가 생깁니다. 단순한 ChatGPT 음성 기능은 이런 일을 할 줄 모릅니다. 이를 위해 구축하고 훈련한 제품이 필요합니다.

게다가 사람은 전화를 놓치거나 받지 못할 수 있고, 전화를 음성 사서함으로 돌릴 수도 있습니다. 이런 일은 미국의 소규모 기업에 큰 타격을 줍니다. 전화를 받을 직원이 없고, 응대 품질이 일관되지 않으며, 이를 최적화할 방법도 없습니다. AI를 이용하면 통화가 기업이 원하는 결과로 이어지지 않았을 때 보유한 데이터를 바탕으로 응대 방식을 최적화할 수 있습니다. AI는 속도가 빠르기 때문에 대화 방식을 바꿀 수 있으며, 사람만으로는 이렇게 빠르게 대응하기 어렵습니다.

현재 사람들은 모두 AI를 비용 절감 수단으로 바라봅니다. 하지만 우리는 AI를 성장의 기회로 봐야 한다고 생각합니다. 기업은 AI를 도입해 실제로 성장하고, 이전보다 더 나은 성과를 낼 수 있습니다.

음성 AI는 텍스트 기반 AI가 흔히 피할 수 있는 지연 시간, 끼어들기, 억양, 배경 소음, 감정적 단서, 예측하기 어려운 대화 등의 문제를 해결해야 합니다. 이 가운데 기업 규모로 안정적인 서비스를 제공할 때 가장 해결하기 어려웠던 문제는 무엇인가요?

가장 큰 문제는 지연 시간입니다. 이제는 해결했지만, 초기에는 두 가지 이유로 큰 골칫거리였습니다.

첫째, 신뢰성이 떨어지는 스타트업들의 서비스를 기반으로 구축하고 있었습니다. OpenAI에 보내는 API 요청 중 상당수가 실패해 응답을 받지 못했습니다. 전화 통화 중이라면 전화를 끊는 것과 마찬가지이므로, 이런 상황에 대비해 재시도 기능을 구축해야 했습니다.

두 번째는 처리 용량이었습니다. OpenAI에 요청을 보내면 수백, 수천 건의 다른 요청 뒤에 줄을 서서 기다려야 했고, 대기열에서 자신의 요청이 어디쯤 있는지 알 수 없었습니다. 응답을 받기까지 30초가 걸릴 수도 있었습니다. 이 문제를 해결하기 위해 OpenAI가 전 세계 어디에 엔드포인트를 두고 있는지 살펴보고, 수요가 적은 국가의 엔드포인트를 찾아 요청을 보내는 곳을 바꿨습니다. 당시 수요가 가장 적은 엔드포인트를 찾기 위해 이 모든 인프라를 구축해야 했습니다. 꽤 흥미로운 기술적 과제였습니다. 이제는 Alma를 비롯한 자체 모델을 학습하므로 이런 걱정을 할 필요가 없습니다. 컴퓨팅 자원과 수요를 직접 관리하기 때문입니다.

Phonely는 현재 수천 개 기업을 대상으로 하루 120,000건이 넘는 통화를 처리합니다. 플랫폼의 첫 버전을 만들 때는 예상하지 못했지만, 이처럼 큰 규모로 음성 에이전트를 운영하면서 무엇을 배웠나요?

서비스를 100% 가동 상태로 유지하는 것은 정말 중요합니다. 우리가 해결해 온 가장 까다로운 엔지니어링 과제 중 하나는 신뢰성과 속도입니다. AI 업계는 엄청나게 빠르게 변하고 있으며, 우리도 AI 기업치고는 빠르게 움직이고 있습니다. Y Combinator에는 ‘빠르게 움직이고, 문제를 일으키며 배우라’는 말이 있습니다. 하지만 고객이 하루 120,000건의 통화를 처리하는 상황에서는 문제를 일으킬 여유가 없습니다. 그래서 시장에서 경쟁력을 유지하고 제품을 계속 개선하는 데 필요한 속도로 출시하면서도, 새로운 기능을 계속 개발해 시장을 앞서 나가는 동안 기업 고객이 만족하고 안정적으로 서비스를 이용할 수 있도록 하는 방법을 찾는 데 많은 노력을 기울였습니다. 회사를 세우는 과정에서 겪은 가장 큰 과제 중 하나는 아마도 신뢰성이었을 것입니다.

생성형 AI 시스템은 예측할 수 없는 방식으로 작동할 수 있지만, 고객을 직접 응대하는 전화 에이전트는 결제, 예약, 의료 관련 문의 또는 그 밖의 중요한 상호작용을 처리할 수 있습니다. 환각을 일으키거나 허용된 범위를 벗어나 행동하지 않으면서도 유연하고 자연스럽게 대화하는 음성 에이전트를 어떻게 설계하나요?

약 2년 전에 뼈아픈 경험을 통해 이 문제를 파악했고, 이제는 업계에서 꽤 널리 채택되고 있습니다. LLM의 가장 큰 문제는 맥락이라는 사실을 깨달았습니다. 지침을 여러 페이지 분량으로 작성하는 등 프롬프트에 너무 많은 내용을 넣으면 문제가 생길 가능성이 커집니다.

그래서 각 에이전트가 해당 단계에 필요한 맥락만 갖도록 하고, 한 에이전트에서 다음 에이전트로 넘기는 8개 에이전트 오케스트레이션 시스템을 설계했습니다. 사람이 통화 중에 대본을 따라가는 방식과 비슷합니다. 정보를 얻고 다음 단계로 넘어가는 식이죠. 이렇게 하면 코드 수준에서 단계를 분리할 수 있습니다. 환불을 처리하기 전에 고객의 이름, 이메일 주소, 전화번호, 생년월일을 확인해야 한다면, 다음 단계로 넘어가기 전에 코드 수준에서 그 정보가 수집됐음을 확실히 보장할 수 있습니다. LLM에만 의존해서는 이를 보장할 수 없습니다. 에이전트 오케스트레이션 계층을 구축하면 신뢰성을 100%까지 높일 수 있습니다. 새 에이전트로 넘기기 전에 모든 단계가 완료됐는지 확인하고, 새 에이전트는 맥락을 유지하면서도 자체 지침에만 국한되도록 분리되기 때문입니다.

Phonely를 도입한 고객 한 곳에서 단 3개월 만에 순수 신규 매출 1,000만 달러를 창출한 것으로 알려졌습니다. AI가 이처럼 측정 가능한 사업 성과를 낼 수 있었던 요인은 무엇이며, 오늘날 음성 AI가 가장 높은 투자 수익률을 낼 수 있는 분야는 어디라고 보시나요?

고객사의 지표를 확보하고 있었기에 가능했습니다. 고객사는 인바운드 전화를 통해 영업 성과를 높이는 데 주력하며 발신자를 선별하고 있었기 때문에 결과를 추적할 수 있었습니다. 요일에 따라 고객사 콜센터의 판매 전환율은 약 35%에서 42%였습니다. 고객사로부터 해당 정보를 받은 뒤, 기존 업무 흐름을 바탕으로 에이전트를 최적화했습니다. 처음에는 판매 전환율이 약 20%였습니다. 그 후 몇 달 동안 계속 개선하고 조정하며 최적화한 결과, 대부분의 경우 콜센터보다 나은 성과를 내게 됐습니다. 문제점을 파악하고 매번 일관되고 완벽한 경험을 제공하도록 하면서 판매 전환율은 계속 높아졌습니다. 결국 콜센터보다 좋은 성과를 낼 수 있었습니다.

음성 에이전트의 기능이 향상될수록, 기업은 완전히 자동화할 수 있는 대화와 사람의 개입이 필요한 상황을 어떻게 구분해야 할까요?

기업은 반복 가능한 절차로서 원하는 방식이 충분히 명확하게 정의돼 있다면 무엇이든 자동화할 수 있어야 합니다.

하지만 몇 가지 영역에서는 자동화가 어렵습니다. 하나는 API가 없는 시스템과의 연동입니다. 연동이 필요한 소프트웨어에 API가 없다고 가정해 보죠. 해결하기 어려운 문제지만, 브라우저 자동화로 처리할 수 있는 경우도 있습니다. 또 다른 경우는 에이전트에서 사람으로, 다시 에이전트로 여러 차례 업무를 넘겨야 하는 상황입니다. 세 번째는 맥락의 공백입니다. 식당에 지갑을 두고 왔다고 해 보죠. AI는 지갑을 가지고 있는지 알 수 없고, 식당에 가서 지갑이 있는지 확인할 수도 없으므로 이 문제를 해결할 수 없습니다.

어떤 상황에서는 언제나 사람이 필요하며, 여러 시스템에 걸쳐 진행되는 더 복잡한 업무도 마찬가지입니다. 그런 일에는 에이전트를 사용하지 마세요.

Phonely는 최근 기업 고객이 1만 곳을 넘어선 뒤 1,600만 달러 규모의 시리즈 A 투자를 유치했습니다. 회사의 다음 단계는 어떤 모습일까요? 차세대 음성 AI 플랫폼을 차별화할 기술 역량은 무엇이라고 생각하시나요?

다음 단계는 팀을 확장하고 지속적으로 투자하는 것입니다. 우리는 이 아이디어에 전력을 다하고 있습니다. 많은 기업이 음성 AI 분야에 뛰어들고 있으며, 각기 다른 분야에서 꽤 괜찮은 성과를 낼 것입니다. 하지만 우리는 단순히 음성 에이전트를 만드는 것이 아닙니다. 최적화 플랫폼을 구축하고 있으며, 음성을 하나의 채널로 활용하고 있습니다. 잠재 고객을 확보하고 전화 응대로 매출을 올리는 데 관심이 있는 기업을 위해, 우리는 고객이 원하는 성과를 달성하도록 AI 에이전트를 최적화하는 데 전적으로 집중합니다. Phonely를 최적화 기업으로 생각해 보세요. 사람들은 에이전트의 성능을 더 높이고 싶어 합니다.

학술 연구에서는 개발도상국의 에너지 접근성을 높이고 청정 조리를 확대하기 위해 AI와 스마트 미터 기술을 활용하는 방안도 살펴보셨습니다. Phonely를 넘어 에너지 접근성 같은 현실 세계의 대규모 문제에 AI를 어떻게 적용할 수 있다고 보시나요? 또 궁극적으로 이 분야로 돌아가고 싶으신가요?

AI로 이룰 수 있는 좋은 일이 많지만, 존재하는 문제 중 상당수는 사람이 초래한 것이므로 사람들의 태도에도 변화가 필요합니다. 모든 문제를 기술로 해결할 수는 없습니다. 하지만 기술의 발전과 인간의 변화가 동시에 이루어지도록 하는 것이 세상에 긍정적인 영향을 미칠 것입니다.

좋은 인터뷰에 감사드립니다. 더 자세히 알고 싶은 독자라면 Phonely를 방문해 보세요.