인터뷰
Donny White, Satisfi Labs의 CEO 겸 공동 창립자 – 인터뷰 시리즈
2016년에 설립된 Satisfi Labs는 선도적인 대화형 AI 회사입니다. 초기 성공은 뉴욕 메츠(New York Mets), 메이시스(Macy's), US 오픈(US Open)과의 작업을 통해 이루어졌으며 웹사이트에서 흔히 볼 수 없는 정보에 쉽게 접근할 수 있게 되었습니다.
Donny는 스타트업 세계에 입문하기 전 Bloomberg에서 15년을 보냈으며 Cornell University에서 MBA를, Baruch College에서 학사 학위를 취득했습니다. Donny의 리더십 하에, Satisfi Labs Google, MLB, Red Light Management의 투자를 받아 스포츠, 엔터테인먼트, 관광 부문에서 눈에 띄는 성장을 보였습니다.
당신은 14년 동안 블룸버그에 근무하면서 처음으로 기업가적 열망을 느꼈습니다. 왜 갑자기 기업가가 되는 것이 당신의 레이더에 잡혔나요?
대학 21학년 때 저는 Bloomberg에 접수원으로 지원했습니다. 일단 문에 들어서자마자 동료들에게 기꺼이 가르쳐주면 빨리 배울 수 있다고 말했습니다. 25학년이 되자 저는 정규직 직원이 되었고 두 가지 모두를 할 수 있도록 모든 수업을 야간 수업으로 전환했습니다. 2013살에 대학을 졸업하는 대신, 나는 그 시간을 2016군을 관리하는 데 보냈다. 그 시점부터 나는 능력주의 사회에서 일하는 행운을 얻었고 여러 번 승진했습니다. XNUMX세에는 나만의 부서를 운영하게 되었습니다. 거기서부터 저는 지역 관리와 제품 개발 분야로 옮겨갔고 결국에는 미주 전역에서 영업을 운영하게 되었습니다. XNUMX년이 되자 나는 더 큰 일을 할 수 있을지 궁금해지기 시작했습니다. 나는 신생 기술 회사에서 몇 차례 인터뷰를 했고 한 창업자는 나에게 "당신이 좋은지 아니면 블룸버그가 좋은지 우리는 모른다"고 말했습니다. 그때 저는 뭔가 변화가 필요하다는 것을 알았고 XNUMX개월 후 저는 저의 첫 스타트업인 Datahug의 영업 부사장이 되었습니다. 얼마 지나지 않아 저는 Yelp를 방해하려는 투자자 그룹에 채용되었습니다. Yelp는 여전히 훌륭하지만 XNUMX년에 우리는 새로운 비전에 맞춰 같은 투자자들과 Satisfi Labs를 공동 창립했습니다.
Satisfi Labs의 탄생 스토리를 공유해 주실 수 있나요?
나는 Satisfi의 현 CTO이자 공동 창업자인 Randy와 함께 Citi Field에서 야구 경기를 관람하고 있었는데, 그때 Satisfi의 전문 분야 중 하나인 베이컨 막대에 대한 이야기를 들었습니다. 콩코스를 돌아다니며 직원에게 물어봤지만 어디에서도 찾을 수 없었습니다. 알고 보니 경기장 한쪽 구석에 자리잡고 있었는데, 채팅으로 팀에 직접 문의하는 것이 훨씬 더 편리했을 것 같다는 생각이 들었습니다. 이것이 우리의 첫 번째 아이디어가 탄생한 곳입니다. Randy와 저는 둘 다 금융 및 알고리즘 거래 배경을 갖고 있기 때문에 요청과 답변을 일치시키는 개념을 채택하여 위치에서 질문을 받게 되는 초특수 문의에 대한 자체 NLP를 구축하게 되었습니다. 원래 아이디어는 특정 지식 분야, 특히 웹사이트에서 쉽게 접근할 수 없는 지식의 전문가가 될 개별 봇을 구축하는 것이었습니다. 거기에서 우리 시스템에는 필요할 때 각 봇을 탭할 수 있는 "지휘자"가 있습니다. 이것이 오늘날에도 여전히 사용되고 있는 원래의 시스템 아키텍처입니다.
Satisfi Labs는 자체 NLP 엔진을 설계했으며 OpenAI가 ChatGPT 출시로 기술 스택을 혼란에 빠뜨렸을 때 보도 자료를 게시하기 직전이었습니다. 이 기간과 이로 인해 Satisfi Labs가 어떻게 비즈니스를 전환하게 되었는지에 대해 논의할 수 있습니까?
우리는 특허 출원 중인 컨텍스트 기반 NLP 업그레이드를 6년 2022월 30일에 발표할 예정인 보도 자료를 발표했습니다. 2022년 XNUMX월 XNUMX일 OpenAI는 ChatGPT를 발표했습니다. ChatGPT의 발표는 우리의 로드맵뿐만 아니라 세상도 변화시켰습니다. 처음에 우리는 다른 모든 사람들과 마찬가지로 ChatGPT의 힘과 한계를 이해하고 그것이 우리에게 어떤 의미인지 이해하기 위해 경주했습니다. 우리는 상황별 NLP 시스템이 ChatGPT와 경쟁하지 않지만 실제로 LLM 경험을 향상시킬 수 있다는 것을 곧 깨달았습니다. 이로 인해 OpenAI 엔터프라이즈 파트너가 되겠다는 빠른 결정이 내려졌습니다. 우리 시스템은 세부적인 수준에서 질문을 이해하고 답변한다는 아이디어에서 시작되었기 때문에 "봇 지휘자" 시스템 설계와 XNUMX년간의 의도 데이터를 결합하여 시스템을 업그레이드하여 LLM을 통합할 수 있었습니다.
Satisfi Labs는 최근 컨텍스트 LLM 응답 시스템에 대한 특허, 이것은 구체적으로 무엇입니까?
올해 4월, 우리는 특허 출원 중인 Context LLM 응답 시스템을 공개했습니다. 새로운 시스템은 특허 출원 중인 상황별 응답 시스템의 성능과 대규모 언어 모델 기능을 결합하여 전체 답변 엔진 시스템을 강화합니다. 새로운 Context LLM 기술은 의도 라우팅 개선부터 답변 생성 및 의도 인덱싱에 이르기까지 플랫폼 전반에 걸쳐 대규모 언어 모델 기능을 통합하며, 이는 또한 고유한 보고 기능을 구동합니다. 이 플랫폼은 GPT-XNUMX와 같은 LLM의 기능을 활용하여 기존 챗봇을 뛰어넘는 대화형 AI를 구현합니다. 우리 플랫폼을 사용하면 브랜드는 응답 제어의 필요성에 따라 생성적 AI 답변 또는 사전 작성된 답변을 통해 답변할 수 있습니다.
브랜드에 맞는 답변을 제공하는 데 있어 대부분의 회사 웹사이트와 LLM 플랫폼 간의 현재 단절에 대해 논의할 수 있습니까?
ChatGPT는 광범위한 정보를 이해하도록 교육을 받았기 때문에 대부분의 브랜드가 기대하는 특정 수준으로 산업별 질문에 답하는 데 필요한 세부적인 교육 수준이 없습니다. 또한 LLM이 제공하는 답변의 정확성은 제공된 데이터만큼만 우수합니다. ChatGPT를 사용하면 인터넷을 통해 데이터를 소싱하므로 정확하지 않을 수 있습니다. ChatGPT는 다른 데이터보다 브랜드의 데이터를 우선시하지 않습니다. 우리는 지난 XNUMX년 동안 다양한 산업 분야에 서비스를 제공해 왔으며 매일 고객이 묻는 수백만 개의 질문에 대한 귀중한 통찰력을 얻었습니다. 이를 통해 우리는 업계별로 더 큰 맥락에 맞게 시스템을 조정하고 대규모 언어 모델의 등장에 매우 중요한 강력하고 세부적인 의도 보고 기능을 제공하는 방법을 이해할 수 있었습니다. LLM은 의도를 이해하고 답변을 생성하는 데 효과적이지만 질문에 대해 보고할 수는 없습니다. 수년간의 광범위한 의도 데이터를 사용하여 의도 색인 시스템을 통해 표준화된 보고를 효율적으로 생성했습니다.
LLM 기술의 능력을 향상시키는 데 언어학자는 어떤 역할을 합니까?
이 신기술을 통해 프롬프트 엔지니어의 역할이 등장했으며, 이를 위해서는 사람이 AI로부터 특정 반응을 이끌어내는 프롬프트를 설계하고 개선해야 합니다. 언어학자는 무엇보다도 구문 및 의미론과 같은 언어 구조를 잘 이해하고 있습니다. 가장 성공적인 AI 엔지니어 중 한 명은 언어학 배경을 갖고 있어 AI를 자극하는 새롭고 미묘한 방법을 찾는 데 매우 효과적입니다. 프롬프트의 미묘한 변화는 답변이 얼마나 정확하고 효율적으로 생성되는지에 큰 영향을 미칠 수 있으며, 이는 여러 클라이언트에 걸쳐 수백만 개의 질문을 처리할 때 큰 차이를 만듭니다.
백엔드에서 미세 조정은 어떤 모습인가요?
우리는 LLM을 유지하는 데 사용하는 자체 독점 데이터 모델을 보유하고 있습니다. 이를 통해 우리는 울타리를 검색할 필요 없이 LLM을 통제할 수 있는 자체 울타리를 구축할 수 있습니다. 둘째, 다른 플랫폼에서 활용하는 도구와 기능을 활용하여 우리 플랫폼에서 이를 지원할 수 있습니다.
훈련 데이터를 미세 조정하고 플랫폼에서 강화 학습(RL)을 사용하면 잘못된 정보의 위험을 완화하는 데 도움이 될 수 있습니다. 추가할 특정 사실에 대해 지식 기반을 쿼리하는 대신 미세 조정을 통해 이 추가 지식에 대해 훈련된 새로운 버전의 LLM이 생성됩니다. 반면 RL은 인간의 피드백으로 에이전트를 교육하고 질문에 답변하는 방법에 대한 정책을 학습합니다. 이는 특정 작업의 전문가가 되는 더 작은 공간의 모델을 구축하는 데 성공적인 것으로 입증되었습니다.
새로운 클라이언트를 온보딩하고 대화형 AI 솔루션을 통합하는 프로세스에 대해 논의할 수 있나요?
우리는 스포츠, 엔터테인먼트, 관광과 같은 목적지와 경험에 중점을 두기 때문에 신규 고객은 이미 커뮤니티에 있는 고객의 혜택을 누릴 수 있어 온보딩이 매우 간단해집니다. 신규 고객은 웹사이트, 직원 핸드북, 블로그 등 최신 데이터 소스가 어디에 있는지 식별합니다. 우리는 데이터를 수집하고 시스템을 실시간으로 교육합니다. 우리 팀은 동일한 업계에 종사하는 수백 명의 고객과 협력하고 있기 때문에 미리 작성된 답변과 생성된 답변에 가장 적합한 답변에 대한 권장 사항을 신속하게 제공할 수 있습니다. 또한 동적 Food & Beverage Finder와 같은 안내식 흐름을 설정하므로 고객은 봇 빌더를 다룰 필요가 없습니다.
Satisfi Labs는 현재 스포츠 팀 및 기업과 긴밀히 협력하고 있습니다. 회사의 미래에 대한 비전은 무엇입니까?
미래에는 더 많은 브랜드가 채팅 경험의 더 많은 측면을 제어하기를 원할 것입니다. 이로 인해 우리 시스템에서 더 많은 개발자 수준 액세스를 제공해야 할 필요성이 높아질 것입니다. 필요한 전문 지식이 부족하고 비용이 많이 들기 때문에 브랜드가 자체 대화형 AI 시스템을 구축하기 위해 개발자를 고용하는 것은 의미가 없습니다. 그러나 백엔드에 피드를 제공하는 시스템을 통해 개발자는 프롬프트를 더 잘 제어하고, 독점 데이터를 연결하여 더 많은 개인화를 허용하고, 특정 사용자 요구에 맞게 채팅 UI를 관리함으로써 고객 경험과 여정에 더 집중할 수 있습니다. Satisfi Labs는 브랜드 대화 경험의 기술적 중추가 될 것입니다.
훌륭한 인터뷰 감사합니다. 자세한 내용을 알고 싶은 독자는 방문하세요. Satisfi Labs.
