Donny White, Satisfi Labs의 CEO & 공동 창립자 – 인터뷰 시리즈

2016년에 설립된 Satisfi Labs는 선도적인 대화형 AI 회사입니다. 초기 성공은 뉴욕 메츠, 메이시스, US 오픈과 함께 일하면서 웹사이트에서 쉽게 접근할 수 없는 정보에 쉽게 접근할 수 있도록 했습니다.

Donny는 15년 동안 블룸버그에서 일한 후 스타트업 세계에 들어갔으며 코넬 대학교에서 MBA를, 바루치 کال리지에서 학사학위를 취득했습니다. Donny의 리더십 아래, Satisfi Labs는 스포츠, 엔터테인먼트, 관광 분야에서 상당한 성장을 보였으며, Google (GOOGL ), MLB, Red Light Management로부터 투자를 받았습니다.

당신은 14년 동안 블룸버그에서 일했을 때 처음으로 기업가적인 본능을 느꼈나요? 왜 갑자기 기업가가 되고 싶어졌나요?

대학 3학년 때, 나는 블룸버그의 리셉션니스트로 일하기 위해 지원했습니다. 일자리를 얻은 후, 나는 동료들에게 내가 빨리 배우겠다고 말했습니다. 대학 4학년 때, 나는 정식 직원으로 일했고, 모든 수업을夜間 수업으로 변경하여 동시에 일할 수 있었습니다. 21세 때, 나는 대학 졸업식에 가지 않고 첫 팀을 관리했습니다. 그때부터, 나는 유능한 사람들만이 승진하는 회사에서 일할 수 있었습니다. 25세 때, 나는 내 부서를 운영했습니다. 그 후, 나는 지역 관리와 제품 개발을 담당했습니다. 결국, 나는 아메리카 전역의 판매를 담당했습니다. 2013년, 나는 더 큰 것을 할 수 있을까 생각했습니다. 나는 몇 개의 젊은 기술 회사에서 면접을 보았고, 한 창립자는 나에게 “우리는 당신이 좋은지, 블룸버그가 좋은지 모릅니다”라고 말했습니다. 그때, 나는 뭔가가 변해야 한다고 느꼈고, 6개월 후, 나는 첫 번째 스타트업인 Datahug의 판매 부문장으로 일했습니다. 얼마 후, 나는 몇몇 투자자에게招聘되어 Yelp를 대체하기 위해 새로운 비전을 제시했습니다. 2016년, 우리는 새로운 비전을 공유하고, 나는 Satisfi Labs를 공동 창립했습니다.

Satisfi Labs의 기원에 대해 이야기해 주시겠습니까?

나는 랜디, Satisfi의 현재 CTO 및 공동 창립자와 함께 시티 필드에서 야구 경기를 보았을 때, 나는 베이컨 온 스틱에 대해 들었습니다. 우리는 경기장 주위를 돌아다니며 직원들에게 물어보았지만, 어디에도 찾을 수 없었습니다. 결국, 그것은 경기장의 한쪽 끝에 숨겨져 있었고, 팀과 직접 채팅을 통해 물어보는 것이 더 편리했을 것이라는 생각이 들었습니다. 여기서 우리의 첫 번째 아이디어가 탄생했습니다. 랜디와 나는 모두 금융 및 알고리즘 트레이딩 배경을 가지고 있었기 때문에, 우리는 요청과 답변을 匹配하는 개념을 가져와서 우리만의 NLP를 구축했습니다. 원래 아이디어는 각 분야의 전문가가 되는 개별 봇을 구축하는 것이었습니다. 우리의 시스템은 각 봇을 필요에 따라 호출할 수 있는 “지휘자”가 있었습니다. 이것이 오늘날에도 사용되는 원래 시스템 아키텍처입니다.

Satisfi Labs는 자체 NLP 엔진을 설계하고 프레스 릴리스를 발표하기 직전에 OpenAI의 ChatGPT가 기술 스택을 방해했습니다. 이 기간과 Satisfi Labs가 비즈니스 모델을 변경하게 된 경위를 обсужд아 보시겠습니까?

우리는 2022년 12월 6日に 자체 Context-based NLP 업그레이드에 대한 프레스 릴리스를 발표하기로 예정했습니다. 2022년 11월 30일, OpenAI는 ChatGPT를 발표했습니다. ChatGPT의 발표는 우리의 로드맵과 세계를 변경했습니다. 처음에는, 우리는 모두 ChatGPT의 힘과 한계를 이해하기 위해 경쟁했습니다. 우리는 곧 우리의 컨텍스트 기반 NLP 시스템이 ChatGPT와 경쟁하지 않고, 실제로 강화할 수 있다는 것을 깨달았습니다. 이것은 OpenAI 엔터프라이즈 파트너가 되는 빠른 결정으로 이어졌습니다. 우리의 시스템은 처음부터 세부적인 수준에서 질문에 답변하는 아이디어로 시작했기 때문에, 우리는 “봇 지휘자” 시스템 설계와 7년간의 의도 데이터를 사용하여 LLM을 통합하여 시스템을 업그레이드할 수 있었습니다.

Satisfi Labs는 최근 Context LLM Response System에 대한 특허를 출원했습니다. 이것은 무엇입니까?

이번 7월, 우리는 Context LLM Response System에 대한 특허 출원을 발표했습니다. 새로운 시스템은 우리의 컨텍스트 응답 시스템의 힘과 대규모 언어 모델의 능력을 결합하여 Answer Engine 시스템을 강화합니다. 새로운 Context LLM 기술은 대규모 언어 모델 능력을 플랫폼 전체에 통합하여 의도 라우팅, 답변 생성, 의도 색인화 등에 사용되며, 이는 고유한 보고 기능을 구동합니다. 플랫폼은 GPT-4와 같은 LLM의 힘을 이용하여 전통적인 채팅봇을 넘어선 대화형 AI를 제공합니다. 우리의 플랫폼은 브랜드가 제어할 수 있는 답변과 생성된 답변을 모두 제공합니다.

대부분의 회사 웹사이트와 LLM 플랫폼이 브랜드에 맞는 답변을 제공하는 데 현재 있는 단절에 대해 논의해 주시겠습니까?

ChatGPT는 광범위한 정보를 이해하도록 훈련되었기 때문에, 대부분의 브랜드가 기대하는 수준의 세부적인 산업별 질문에 답변할 수 있는 훈련이 부족합니다. 또한, LLM이 제공하는 답변의 정확도는 제공된 데이터만큼 좋습니다. ChatGPT를 사용하면, 인터넷 전체에서 데이터를 수집하므로, 데이터가 부정확할 수 있습니다. ChatGPT는 브랜드의 데이터를 다른 데이터보다 우선하지 않습니다. 우리는過去 7년 동안 다양한 산업에서 일해 왔으며, 고객이 매일 묻는 수백만 개의 질문에 대한 가치 있는 통찰력을 얻었습니다. 이것은 우리가 시스템을 산업별로 더 세부적으로 조정하고, 강력한 의도 보고 기능을 제공할 수 있도록 했습니다. LLM은 의도와 답변을 생성하는 데 효과적이지만, 질문에 대한 보고는 할 수 없습니다. 우리는 수년간의 광범위한 의도 데이터를 사용하여 Intent Indexing System을 통해 표준화된 보고를 효율적으로 생성했습니다.

언어학자들이 LLM 기술의 능력을 향상시키는 역할에 대해 논의해 주시겠습니까?

프롬프트 엔지니어라는 새로운 역할이 등장했으며, 이는 AI가 특정 응답을 생성하도록 프롬프트를 설계하고 개선하는 사람입니다. 언어학자들은 언어 구조, 구문, 의미론 등에 대한 깊은 이해를 가지고 있습니다. 우리의 가장 성공적인 AI 엔지니어 중 한 명은 언어학 배경을 가지고 있으며, 이는 AI에게 새로운 프롬프트를 생성하는 데 매우 효과적입니다. 프롬프트의 미묘한 변경은 답변의 정확도와 효율성에 큰 영향을 미칩니다. 우리는 수백만 개의 질문을 처리하기 때문에, 이것은 매우 중요합니다.

백엔드에서 세부 조정이 어떻게 되는지 설명해 주시겠습니까?

우리는 LLM을 제어하기 위한 우리만의 고유한 데이터 모델을 가지고 있습니다. 이것은 우리가 LLM을 제어하기 위한 울타리를 구축할 수 있도록 해줍니다. 두번째로, 우리는 다른 플랫폼에서 사용하는 도구와 기능을 활용할 수 있습니다. 이것은 우리가 우리의 플랫폼에서 지원할 수 있도록 해줍니다.

세부 조정 데이터와 강화 학습을 사용하여 우리는 잘못된 정보의 위험을 완화할 수 있습니다. 세부 조정은 특정 사실을 추가하기 위해 지식 베이스를 조회하는 대신, 추가 지식을 사용하여 새로운 LLM 버전을 생성합니다. 강화 학습은 인간의 피드백을 사용하여 에이전트를 훈련시키고, 특정 작업에 대한 정책을 학습합니다. 이것은 특정 작업에 전문가가 되는 더 작은 모델을 구축하는 데 성공적으로 사용되었습니다.

새로운 고객을 온보딩하고 대화형 AI 솔루션을 통합하는 과정에 대해 논의해 주시겠습니까?

우리는 스포츠, 엔터테인먼트, 관광 등과 같은 목적지와 경험에 중점을 두기 때문에, 새로운 고객은 이미 커뮤니티에 있는 고객들에게서 이점을 얻을 수 있습니다. 이는 온보딩을 매우 간단하게 만듭니다. 새로운 고객은 현재 데이터 소스가 어디에 있는지 식별합니다(예: 웹사이트, 직원 핸드북, 블로그 등). 우리는 데이터를 수집하고 시스템을 실시간으로 훈련합니다. 우리는 수백 개의 고객과 함께 일하기 때문에, 우리의 팀은 미리 작성된 답변과 생성된 답변 중 어떤 것이 가장 적합한지에 대한 추천을 빠르게 제공할 수 있습니다. 또한, 우리는 동적 Food & Beverage Finder와 같은 가이드된 흐름을 설정합니다. 따라서 고객은 봇 빌더와 작업할 필요가 없습니다.

Satisfi Labs의 미래에 대한 비전을 논의해 주시겠습니까?

우리는 더 많은 브랜드가 채팅 경험의 더 많은 측면을 제어하고 싶어할 미래를 예상합니다. 이는 우리의 시스템이 개발자 수준의 접근을 제공해야 함을 의미합니다. 브랜드가 자신의 대화형 AI 시스템을 구축하기 위해 개발자를 고용하는 것은 전문가가 부족하고 비용이 많이 들기 때문에 의미가 없습니다. 그러나 우리의 시스템이 백엔드를 공급하면, 개발자는 고객 경험과 여정에 더 많은 제어를 가지며, 프롬프트, 연결된 데이터를 통해 더 많은 개인화를 허용하고, 사용자별로 채팅 UI를 관리할 수 있습니다. Satisfi Labs는 브랜드의 대화형 경험의 기술적인 백본이 될 것입니다.

잘한 인터뷰에 감사합니다. 더 많은 정보를 원하는 독자는 Satisfi Labs를 방문할 수 있습니다.