디미트리 마신, 그라디언트 랩스 CEO & 공동 창립자 – 인터뷰 시리즈

디미트리 마신은 그라디언트 랩스(Gradient Labs)의 CEO이자 공동 창립자입니다. 그라디언트 랩스는 금융 서비스와 같은 규제 산업을 위해 특별히 설계된 자율적 고객 지원 에이전트를 구축하는 인공지능 스타트업입니다. 그라디언트 랩스를 2023년에 창립하기 전에 마신은 몬조 뱅크(Monzo Bank)에서 데이터 과학, 금융 범죄, 사기와 같은 고위급 리더십 역할을 수행했으며 이전에 구글에서 일했습니다. 그의 리더십 아래 그라디언트 랩스는 빠르게 성장하여 출시 5개월 만에 연간 재생성 수입 1백만 파운드를 달성했습니다. 마신의 초점은 높은 성능과 엄격한 규제 준수를 결합한 인공지능 시스템을 개발하는 데 있습니다. 이는 복잡한 고객 운영을 위한 안전하고 확장 가능한 자동화를 가능하게 합니다.

몬조에서 성공적인 경력을 보낸 후 그라디언트 랩스를 설립한 계기는 무엇인가?

몬조에서 우리는 고객 지원 자동화를 위해 수년간 작업했으며 일반적으로 10%의 효율성 향상을 목표로 했습니다. 그러나 2023년 초에 우리는 GPT-4의 출시와 함께 기술적인 지진적인 변화를 목격했습니다.突然, 70-80%의 수동적이고 반복적인 작업을 완전히 자율적으로 자동화하는 것이 가능해졌습니다.

우리가 현재 살고 있는 이 기술적인 돌파구가 그라디언트 랩스를 시작하도록 영감을 주었습니다. 내 경력에서 두 번의 혁명적인 물결을 보았습니다. 하나는 모바일 혁명(내 경력 초기에 발생)이고 다른 하나는 지금의 인공지능입니다. 당신이 이러한 변화를 인식할 때, 당신은 그 순간을 잡아야 합니다. 우리 팀은 지금이 그 때라는 것을 알았습니다.

몬조에서 하이퍼 성장을 이끌었던 경험에서 그라디언트 랩스에서 적용하고 있는 가장 큰 교훈은 무엇인가?

첫째, 자율성과 방향을 균형 있게 유지해야 합니다. 몬조에서 우리는 처음에 사람들이 단순히 자율성을 좋아한다고 가정했습니다. 그러나 이러한 관점은 이제 너무 단순한 것으로 보입니다. 나는 사람들이 또한 지침을 가치 있게 여긴다고 믿습니다. 진정한 자율성은 사람들이 아무거나 하도록 지시하는 것이 아니라, 명확한 방향을 제공하면서도 잘 정의된 문제를 해결하는 자유를 주는 것입니다.

둘째, 최고의 인재에게는 최고의 보상을 해야 합니다. 만약 당신이 기능의 상위 5%를雇用하려면, 당신은 그에 따라 지불해야 합니다. 그렇지 않으면 주요 기술 회사들이 당신의 최고 인재를 빼앗아 갈 것입니다.

셋째, 바퀴를 다시 발명하지 마십시오. 몬조에서 우리는 혁신적인 접근 방식을 작업 구조, 보상 시스템, 경력 계층에 대해 시도했습니다. 핵심은 기초적인 조직적根本에 에너지를 낭비하지 말라는 것입니다. 수천 개의 회사들이 이미 최선의 관행을 확립했습니다. 나는 여전히 “모든 제목과 계층을 제거한다”는 LinkedIn 게시물을 보며, 이러한 시도가 반복적으로 발생하지만 거의 모든 회사들이 결국 전통적인 구조로 돌아간다는 것을 보았습니다.

그라디언트 랩스는 규제 산업에 초점을 맞추고 있습니다. 이러한 환경에서 효과적으로 작동하는 AI 에이전트(예: 오토)를 구축하는 방법에 대해 설명해 주십시오.

우리는 일반적인 조언을 거부하고, 빠르게 출시하고 라이브 제품에서 반복하는 대신, 오토를 출시하기 전에 14개월 동안 매우 높은 품질의 기준을 유지했습니다. 우리는 은행과 금융 기관이 완전히 자율적으로 고객 지원을 처리하도록 신뢰할 수 있는 것을 만들어야 했습니다.

우리는 공동 조종사(co-pilot)를 구축하지 않았습니다. 우리는 고객 지원의 종단간 자동화를 구축했습니다. 금융 서비스에서 우리의 배경으로, 우리는 “무엇이 좋은지”에 대한 내부 기준을 가지고 있었습니다. 이는 고객의 피드백에 의존하지 않고 품질을 평가할 수 있었습니다. 이것은 우리에게 품질에 대한 집착과 빠른 반복을 가능하게 했습니다. 라이브 고객이 없기 때문에, 우리는 더 큰 도약을 할 수 있었고, 자유롭게 깨뜨리고, 빠르게 전환할 수 있었으며, 결국 출시 시에 더 나은 제품을 제공할 수 있었습니다.

오토는 단순한 질문에 답변하는 것을 넘어서 복잡한 워크플로우를 처리합니다. 오토가 다중 단계 또는 고위험 작업을 처리하는 방법에 대해 설명해 주십시오.

우리는 오토를 표준 운영 절차(SOPs)라는 개념으로 구축했습니다. 이는 평범한 영어로 작성된 지침 문서로, 특정 문제를 처리하는 방법을 설명하며, 인간 에이전트에게 제공하는 것과 유사합니다.

오토가 복잡한 워크플로우를 처리하는 데 특히 효과적인 두 가지 핵심적인 구조적 결정이 있습니다.

첫째, 우리는 도구 노출을 제한합니다. AI 에이전트의 일반적인 실패 모드는 너무 많은 옵션 중에서 잘못된 선택을 하는 것입니다. 각 절차에 대해, 우리는 오토에게 관련 도구의 작은 부분만 노출합니다. 예를 들어, 카드 대체 워크플로우에서 오토는 시스템에 등록된 30개의 도구 중 1~2개만 볼 수 있습니다. 이것은 결정 공간을 줄임으로써 정확도를 크게 향상시킵니다.

둘째, 우리는 전형적인 AI 어시스턴트 인프라를 재구축하여 연쇄적인 사고를 가능하게 했습니다. 오토는 단순히 오픈AI 또는 앤트로픽 어시스턴트에 절차를 던지는 대신, 입력과 출력 사이에 여러 처리 단계를 허용하는 아키텍처를 가지고 있습니다. 이것은 더 깊은推論과 더 신뢰할 수 있는 결과를 가능하게 합니다.

그라디언트 랩스는 “초인간적 품질”을 달성했다고 말합니다. “초인간적 품질”이란 무엇이며, 어떻게 측정합니까?

초인간적 품질은 인간이 달성할 수 있는 것보다 더 나은 고객 지원을 제공하는 것을 의미합니다. 다음 세 가지 예가 이를 설명합니다.

첫째, 포괄적인 지식입니다. AI 에이전트는大量의 정보를 처리할 수 있고, 회사와 그 프로세스에 대한 자세한 지식을 가지고 있습니다. 반면에, 인간은 일반적으로 정보의 작은 부분만을 배우며, 그들이 모르는 경우에는 지식 베이스를 참조하거나 동료에게 에스컬레이션해야 합니다. 이것은 고객이 팀 사이를 오가며 불편한 경험을 하게 만듭니다. 반면에, AI 에이전트는 회사와 그 프로세스에 대한 깊은 이해를 가지고 있으며, 일관된 종단간 답변을 제공할 수 있습니다. 에스컬레이션이 필요하지 않습니다.

둘째, 게으른 조회가 아닙니다. AI는 정보를 수집하는 데 빠릅니다. 인간은 시간을 절약하기 위해 고객에게 질문을 하기 전에 먼저 정보를 조회하지만, AI는 대화가 시작되기 전에 계정 정보, 플래그, 경고, 오류 메시지를 조사합니다. 따라서 고객이 “X와 관련된 문제가 있습니다”라고 말할 때, AI는 즉시 해결책을 제공할 수 있습니다. 여러 질문을 하지 않아도 됩니다.

셋째, 인내와 일관된 품질입니다. 인간은 특정 수의 회신을 처리해야 하는 압력을 받지만, 우리의 AI는 일관된 높은 품질, 인내, 간결한 의사소통을 유지합니다. 필요한 경우 오랜 시간 동안 답변을 제공할 수 있습니다.

우리는 주로 고객 만족도 점수를 통해 이를 측정합니다. 현재 모든 고객에게서 80-90%의 CSAT 점수를 달성하고 있습니다. 이는 일반적으로 인간 팀보다 더 높습니다.

그라디언트 랩스는 단일 LLM 제공업체에 묶여 있지 않습니다. 왜 이러한 선택이 중요했으며, 클라이언트의 성능과 신뢰성에 어떤 영향을 미칩니까?

過去 2년 동안, 우리는 가장 큰 성능 개선이 다음 최고 모델로 전환할 때마다 발생한다는 것을 관찰했습니다. 모델의 민첩성이 핵심이었습니다.

이러한 유연성으로 우리는 품질을 지속적으로 개선하고 비용을 관리할 수 있습니다. 일부 작업은 더 강력한 모델을 필요로 하며, 일부는 덜 필요로 합니다. 우리의 아키텍처는 각 상황에 최적의 모델을 선택할 수 있도록 해줍니다.

결국, 우리는 고객의 인프라에서 호스팅되는 사적 오픈소스 LLM을 지원할 것입니다. 우리의 아키텍처로 인해, 이는 간단한 전환이 될 것입니다. 특히 은행과 같은 고객이 모델 배포에 대한 특정 요구 사항을 가지고 있는 경우에 특히 중요합니다.

그라디언트 랩스는 채팅봇을 구축하는 것 외에도 백오피스 프로세스를 처리하려고 합니다. 이러한 작업을 인공지능으로 자동화하는 데 가장 큰 기술적 또는 운영적課題는 무엇인가?

두 가지 유형의 프로세스가 있으며, 각 유형에는 자신의課題가 있습니다.

보다 단순한 프로세스에서는 기술이 이미 존재합니다. 주요課題는 통합입니다. 고객 운영에는 여러 내부 시스템과 도구가 포함되므로, 금융 기관의 많은 맞춤형 백엔드 시스템과 도구에 연결하는 것입니다.

복잡한 프로세스에서는重大한 기술적課題가 남아 있습니다. 이러한 프로세스에서는 일반적으로 인간이 6~12개월 동안 훈련을 받아 전문 지식을 개발해야 합니다. 예를 들어, 사기 조사 또는 자금 세탁 평가와 같은 경우입니다. 여기서의課題는 지식 전달입니다. 어떻게 하면 AI 에이전트에게 동일한 도메인 전문 지식을 줄 수 있을까요? 이것은 모두가 아직도 해결하려고 노력하는 어려운 문제입니다.

그라디언트 랩스는 규제 산업의 엄격한 규제 요구 사항과 인공지능의 속도 및 효율성의 필요성을 어떻게 균형 있게 맞추고 있습니까?

이것은แน chắn 균형입니다. 그러나 대화 수준에서, 우리의 에이전트는 단순히 더 많은 시간을 생각합니다. 여러 요인을 평가합니다. 고객이 무엇을 묻고 있는지 이해하고 있습니까? 올바른 답변을 주고 있습니까? 고객이 취약성 징후를 보이고 있습니까? 고객이 불만을 제기하고 싶습니까?

이러한 의도적인 접근 방식으로 대기 시간이 증가합니다. 우리의 중간 응답 시간은 15~20초일 수 있습니다. 그러나 금융 기관에서는 이것은 공정한 거래입니다. 15초의 응답은 인간의 응답보다 훨씬 빠르지만, 품질 보증은 그라디언트 랩스가合作하는 규제 회사들에게 훨씬 더 중요합니다.

금융 기관 내부에서 더 높은 위험의 결정 작업에 대한 신뢰를 얻은 후에도 AI 에이전트가 고객 지원 외에도 사용될 수 있을까요?

금융 기관은 이미 전통적인 인공지능 기술을 사용하여 높은 위험의 결정에 대해 사용하고 있었습니다. जह서 내가真正의 기회를 보는 곳은 오케스트레이션입니다. 결정 자체를 내리는 것이 아니라, 전체 프로세스를 조정하는 것입니다.

예를 들어, 고객이 문서를 업로드하면, AI 에이전트가 이를 유효성 확인 시스템으로 라우팅하고, 유효성 확인을 받은 후 적절한 작업과 고객 커뮤니케이션을 트리거합니다. 이 오케스트레이션 기능은 AI 에이전트가 탁월한 곳입니다.

가장 높은 위험의 결정 자체에 대해서는, 나는 가까운 미래에 많은 변화가 있지 않을 것으로 생각합니다. 이러한 모델은 해석 가능성, 편향 방지, 모델 위험 委員會의 승인을 필요로 합니다. 대규모 언어 모델은 이러한 상황에서重大한 규제課題에 직면할 것입니다.

다음 3~5년 동안 AI가 은행, 핀테크 회사, 기타 규제 부문에서의 고객 경험을 어떻게 바꿀까요?

나는 다섯 가지 주요한 트렌드를 보며 고객 경험을 바꿀 것입니다.

첫째,真正의 오미채널 상호작용입니다. 예를 들어, 은행 앱에서 채팅을 시작한 후, 동일한 AI 에이전트와 음성으로無缝하게 전환하는 것입니다. 음성, 전화, 채팅이 하나의 연속적인 경험으로融合됩니다.

둘째, 내비게이션을 최소화하는 적응형 UI입니다. 고객이 앱 내에서 특정 기능을 찾기 위해 메뉴를 탐색하는 대신, 고객은 단순히 자신의 필요를 말합니다. “제한을 늘려주세요” – 그리고 즉시 대화 통해 작업이 수행됩니다.

셋째, 더 나은 단위 경제학입니다. 지원과 운영은巨大한 비용 센터입니다. 이러한 비용을 줄이면 은행이 이전에 수익성이 없는 고객을服務하거나 사용자에게節約을 전달할 수 있습니다. 특히 언뱅크드 세그먼트에서 특히 그렇습니다.

넷째, 예외적인 지원을 규모에 따라 제공합니다. 현재 스타트업은 고객이 적을 때 개인화된 지원을 제공할 수 있지만, 일반적으로 회사 규모가 커짐에 따라 품질이 저하됩니다. AI는 훌륭한 지원을 가능하게 하지만, 확장 가능하게도 합니다.

다섯째, 고객 지원이真正로 유용한 서비스로変換됩니다. 더 이상 노동 집약적인 인프라 비용으로 간주되지 않고, 고객 경험을 향상시키는 가치 있는, 효율적인 고객 터치 포인트로 간주됩니다.

그레이트한 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 그라디언트 랩스를 방문하십시오.