레갈의 Алекс 레빈, 공동 창립자 및 CEO – 인터뷰 시리즈

알렉스 레빈은 레갈의 공동 창립자이자 CEO입니다. 레갈은 기업들이 규제된 AI 파워드 고객 대화로 통해 수익을 창출하도록 도와주는 음성 AI 플랫폼입니다. 레갈을 2020년에 창립하기 전에, 그는 핸디, 톰슨 로이터, 그리고 다른 스타트업에서 성장과 제품 팀을 이끌었습니다. 하버드 대학을 졸업하고 포브스 기술위원회 회원인 알렉스 레빈은 확장 가능한, 음성 우선 인프라를 구축하는 데 중점을 두고 있으며, 이 인프라는 혁신과 기업급 가드레일을 결합합니다.

레갈은 판매, 지원, 예약, 수금을 위한 AI 음성 에이전트를 제공합니다. 이러한 에이전트는 자연스럽게 들리고, CRM 시스템과 통합하며, 대규모로 대화할 수 있습니다. 이 플랫폼은 노코드 빌더, 실시간 분석, A/B 테스트, 및 규제 산업을 위한 내장된 컴플라이언스를 특징으로 합니다.

당신이 앙기와 핸디의 리더십 역할에서 레갈의 공동 창립자로 이동한 것은 무엇이었나요? 그리고 연락 센터 경험을 완전히 재건축해야 한다는 것을 깨달았던 구체적인 순간은 언제였나요?

앙기와 핸디에서 우리는 고객과 신뢰를 구축하는 음성의 힘을 보았습니다. 고객들은 중요한 문제가 있을 때 전화를 걸고 싶어했으며, 우리는 고객들에게 전화로 서비스를 제공했을 때 고객의 평생 가치가 더 높았으며, 고객들에게 전화를 걸었을 때 다른 채널보다 더 높은 응답률을 보였습니다. 그러나 연락 센터 소프트웨어 벤더들은 고객에게 적합한 것을 넘어서 “회피”와 “자동화”에 중점을 두었습니다. 결과는 고객을 불필요하게 처벌하는 전화 번호를 숨기는 끝없는 게임이었습니다.

나와 공동 창립자는 강한 信念으로 출발했습니다. 우리는 음성을 가장 효과적인 채널로 만들 수 있으며, 비용을 낮추고 운영을 더 쉽게 만들 수 있다고 믿었습니다. 나는 레갈이 내가 큰 연락 센터를 운영할 때 가지고 있었으면 좋았을 것입니다.

당신은 2020년에 레갈을 출시했습니다. 생성적 AI 붐이 일어난 직전이었습니다. 음성 AI가 기술적으로 실현 가능하다고 평가한 방법은 무엇이었나요? 그리고 조기行動에 대한 확신은 어디에서 왔나요?

우리는 2020년 이전부터 음성이 가장 중요한 채널이라고 믿었습니다. 그리고 2020년에 우리는 오케스트레이션, A/B 테스트, 개인화를 통해 음성을 더 쉽게 관리할 수 있는 도구를 구축할 수 있다고 믿었습니다. 그래서 우리는 처음에 연락 센터에서 인간 에이전트를 더 잘 관리할 수 있는 도구를 판매했습니다. 그 제품은 매우 빠르게 성장했습니다.

그러나 생성적 AI 붐이 일어난 후에, 우리는真正로 대화할 수 있는 AI를 만들 수 있음을 보았습니다. 그리고 2023년 말에 우리는 고객이 원할 수 있는 음성 에이전트를 데모할 수 있었습니다.

음성 에이전트를 훈련시키는 데 가장 어려운 기술적인 도전은 무엇이었나요? 특히 인간과 같은 자연스러운 대화에서 성능을 일치시키거나 초과하는 데는?

많은 훌륭한 기술적인 도전이 있습니다. 대기 시간을 500ms 이내로 낮추는 것, 기업의 지식 베이스와 고객 데이터를 실시간으로 제공하는 것, AI 에이전트가 호출 중에 행동을 취하고 호출 후에 행동을 취하는 것, 가디언 또는 안전 기능, 그리고 인간과 같은 턴 테이킹과 적절한 언어적 신호를 제공하는 것입니다.

제가 가장 좋아하는 프로젝트 중 하나는 자동 평가를 개선하여 AI 에이전트를 더 쉽게 테스트할 수 있도록 하는 것입니다. 이는 현재마다 수백 시간의 수동 QA를 제거할 것입니다.

우리는 먼저 수백 개의 다양한 시뮬레이션 고객 대화를 생성해야 합니다(AI를 사용하여). 그리고 나서 AI 에이전트가 이를 통해 이동하고, AI 감시자가 QA를 수행하여 AI 에이전트나 기업의 정책 및 지식 베이스에 대한 제안된 개선 사항을 반환합니다. 우리는 현재 작동하는 평가 제품을 가지고 있으며, 고객의 피드백이 좋으며, 이는驚異的な 속도로 개선되고 있습니다.

이것은 AI 에이전트당 관리자 수의 새로운 지표에 중요합니다. 곧 매우 적은 수의 관리자가 수백 개의 다른 AI 에이전트를 관리할 것입니다.

레갈은 실시간으로 대화를 개인화하는 데 기계 학습을 어떻게 활용합니까? 이것은 고객의 기록, 톤, 의도 인식, 또는 조합을 기반으로 합니까?

우리는 시장의 다른 부분보다 개인화를 더 깊이 투자했습니다. 우리는 브랜드가 고객을 1백만 명당 1명씩 테스트할 수 있도록 도와주고 싶습니다. 현재 사용되는 일반적인 인간 에이전트 처리를 재창조하는 것이 아닙니다.

우리는 고객 프로필을 구축하기 시작했습니다. 이는 모든 CRM 데이터, 이벤트 데이터, 대화 기록을 연결합니다. 에이전트를 구축할 때, 기업은 AI 에이전트가 고객에 대한 모든 정보 또는 특정 대화에 필요한 특정 데이터 포인트에 접근할 수 있도록 할 수 있습니다. LLM은 사용 가능한 데이터를 사용하여 인간과 같은 대화형 응답을 제공합니다.

LLM은 아직 제한적이므로, 우리는 다른 도구를 활용할 수 있는 “사용자 정의 동작”을 구축했습니다. 이는 AI 에이전트 프롬프트에서 다른 서비스를 활용할 수 있습니다. 예를 들어, 많은 브랜드는 다음에 고객에게 제안할 제품을 나타내는 확률 모델을 가지고 있으며, 우리는 이러한 모델에 연결할 수 있습니다.

회수 보강 생성(RAG)을 사용하여 고객이 실시간으로 대화를 기대하는 반응성이나 자연스러운 카덴스를 희생하지 않도록 어떻게 합니까?

RAG는 우리에게 차별화를 제공합니다. 음성 AI 에이전트를 위해 채팅이나 디지털 채널보다 더 빠르게 작동해야 합니다. 몇 초의 공백은 호출을 완전히 망칠 것입니다.

우리는 회수 시간을 낮추고, 회수가 더 오래 걸리면, AI 에이전트가 고객에게 더 오래 걸릴 수 있다고 알려줄 수 있도록 했습니다.

레갈의 에이전트는 실제 인간 음성, 실제 투자자 음성을 모델링합니다. 이러한 높은 신뢰도 복제를 구축하는 데 기술적이고 윤리적으로 무엇이 필요합니까?

기술적으로 “클론” 음성을 생성하는 것은 удивительно 쉽습니다. 5-10분의 고화질 오디오만 있으면 됩니다.

예를 들어, 최근에 나는 죽어가는 가족 구성원이 더 오래 살 수 있도록 그들의 목소리를 녹음하도록 요청받았습니다. 그들은 조금만 지침을 받으면 할 수 있을 것입니다.

두 번째로, 그랜드 패런트는 이에 동의하고, 전문 음성 배우나 우리의 투자자는 이에 동의합니다. 악의적인 행위자들이 동의 없이 음성 클론을 허용하는 것은 중단되어야 합니다.

조언입니다 – 음성 클론(또는 공인으로서 악의적인 행위자에 의해 클론될 수 있음)을 허용한다면, 가족이 실제 당신인지 식별할 수 있는 안전한 단어를 만들도록 하십시오.

레갈을 CRM, 결제 시스템, 내부 API와 통합하는 것은 어떤 어려운 기술적인 도전이 있었나요?

메이저 제품과 통합하는 것은 쉽습니다. 가장 어려운 것은 기업이 AI 에이전트가 취할 수 있는 모든 행동에 대한 API를 제공하는 것입니다. 인간 에이전트는 호텔 방을 예약하기 위해 버튼을 클릭할 수 있지만, AI 에이전트는 실제로 예약 API가 필요합니다.

모델의 성능을 측정하고 개선하는 데 어떻게 접근합니까? 이 과정에서 지도된 미세 조정 또는 강화 학습의 역할은 무엇입니까?

우리는 처음부터 A/B 테스트 스위트를 구축했습니다. 따라서 고객이 AI 에이전트와 인간 에이전트를 테스트하거나 에이전트의 LLM 버전 1과 버전 2를 테스트하는 것이 쉽습니다. 이는 모델의 결과에 대한 변화를 명확하게 볼 수 있는 방법을 제공합니다.

그러나 우리는 현재 강화 학습을 사용하지 않습니다. 법률 팀이 불안정해집니다(의도하지 않은 변화가 발생할 수 있기 때문입니다). 나는 법률 팀이 우리의 사용 사례에서 강화 학습을 허용하기까지 13개월이 걸릴 것이라고 생각합니다. 대신에, 우리는 현재 인간 관리자가 수락할 수 있는 변경 사항을 제안하는 데 중점을 두고 있습니다. 이는 프롬프트, 지식 베이스, LLM 미세 조정 등에 대한 변경 사항일 수 있습니다.

VC 또는 VC의 음성 클론과 대화하는 것은 대담한 개념입니다. 이러한 AI 고문을 창립자에게 제공한 의도는 무엇이었나요? 그리고 현재 어떻게 사용되고 있나요?

우리는 훌륭한 투자자들에게幸運했습니다. 우리는 이 프로젝트를 통해 나누어주고 싶었습니다. 나는 언제나 사티아 AI와 대화하는 것을 즐기고 있으며, 이 프로젝트는 우리의 RAG/지식 베이스 기능의 힘을真正로 보여줍니다. 우리는 даже 투자자의 부모님으로부터도 좋다는 반응을 받았습니다!

그러나 조언입니다 – 당신은 고문에게 의사 결정을 위임할 수 없습니다. 실행자의 더 어려운 부분 중 하나는 두 가지 나쁨 중 하나를 선택하거나, 두 가지 좋은 선택 중 하나를 선택하는 것입니다.

투자자 에이전트는 일반적인 스타트업 지식에 의존합니까, 아니면 개별 투자자의 철학과 조언에 대한 회사 특정 지침에 의존합니까?

모든 AI 에이전트는 LLM 훈련에서 일부 일반적인 지식을 가지고 있습니다. 그러나 필요한 결과를 얻으려면, 우리는 투자자의 다량의 글을 각각의 AI 에이전트 지식 베이스에 업로드했습니다.

그것 외에, 그리고 음성 클론닝 외에, 나는 투자자의 고유한 성격이나 본질을 포착할 수 있었다고 생각합니다. 예를 들어, 제이크 서퍼의 긍정성 또는 알렉사 폰 토벨의 열정입니다.

앞으로 레갈의 AI는 어떻게 진화할 것이라고 생각합니까? 더 많은 자율적인 의사 결정, 더 많은 감정 지능, 또는 멀티모달 지원을 볼 수 있을까요?

과거 1년 동안 가장 흥미로운 부분은 우리의 AI 에이전트가 인간 에이전트보다 더 잘 수행하는 것을 보는 것입니다. 나는 내년 동안, 기본 AI 모델의 개선과 레갈의 응용 프로그램의 발전이 인간과 구별할 수 없을 정도로 AI 에이전트를 만들 것이며, 더 중요한 것은 인간 에이전트의 능력을 초과할 것이라고 생각합니다. 회사가 AI 에이전트를 받아들이면, 비용을 줄이고 고객 경험을 더 빠르게 개선할 것입니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 레갈을 방문하십시오.