Deon Nicholas, Forethought의 공동 창립자 및 CEO – 인터뷰 시리즈

Deon Nicholas는 Forethought의 공동 창립자 및 CEO입니다. 이전에 Deon은 Facebook (META ), Palantir (PLTR ), Dropbox (DBX ), Pure Storage에서 제품과 인프라를 구축했습니다. 그는 기계 학습 관련 출판물과 특허를 보유하고 있으며, ACM 국제 대학 프로그래밍 대회에서 세계 결승 진출자였으며, Forbes 30 언더 30에 선정되었습니다. 캐나다 출신인 Deon은 아내와 아들과 시간을 보내기, 농구를 하기, 그리고 손에 넣을 수 있는 책을 많이 읽는 것을 좋아합니다.

Forethought는 기업을 위한 AI 및 기계 학습 플랫폼으로, 고객 지원에 초점을 맞추기 시작했습니다. 회사의 AI는 내부 문서, 이메일, 채팅, 그리고 오래된 지원 티켓에서 학습하여 자동으로 티켓을 올바르게 라우팅하고, 가장 관련된 기관 지식을 빠르게 표면화할 수 있습니다.

우리는 2023년 Upper Bound 컨퍼런스에서 Deon과 인터뷰를 진행했습니다. 이 컨퍼런스는 에드먼턴에서 열리는 AI 컨퍼런스로, Amii(Alberta Machine Intelligence Institute)에서 주최합니다.

이것은 우리와 Deon의 두 번째 인터뷰입니다. 첫 번째 인터뷰에서는 그의 과거와 AI에 입문하는 방법에 대해 집중했습니다. 이번 인터뷰에서는 그의 미래에 대한 비전에 중점을 두었습니다.

Forethought가 무엇인지 요약해 줄 수 있나요?

Forethought에서는 고객 지원을 위한 생성형 AI 회사입니다. 우리는 2018년 TechCrunch Disrupt에서 출시되었으며, 이후 Instacart와 같은 대규모 기업을 위한 지원을 제공하기 위해 성장했습니다. 기본적으로 우리는 고객 지원 티켓 데이터 위에 지능 계층을 제공하여 채팅봇과 같은 것부터 에이전트 지원까지 모든 것을 구현할 수 있습니다.

생성형 AI로 전환한 지 얼마나 되었나요?

흥미로운 점은 우리가 설립된 초기부터 일부 형태의 생성형 AI를 사용해 왔으며, 현재 사용하는 것만큼 강력하지는 않았지만, 2018년 또는 2019년에 출시된 GPT 2와 같은 모델이 있었습니다. 또한 T5와 같은 모델이 있었습니다. 우리는 이러한 대규모 언어 모델을 사용하고, 일부는 내부적으로 구축했습니다. 그러나 변경된 점은 이전에는 생성형 AI를 적절히 사용하면 일부 이점을 제공하는 기능으로 사용되었지만, 최근 6개월 동안 비즈니스 모델과 엔진이 어떻게 작동하는지에 대한 근본적인 변화가 발생했습니다. 우리는 엔진을 다시 설계해야 했으며, 2023년 3월에 SupportGPT를 출시했습니다. 이는 OpenAI의 GPT와 같은 대규모 언어 모델을 사용하여 모든 제품을 구동하는 새로운 엔진입니다.

SupportGPT를 사용하기 시작하려는 회사의 프로세스는 무엇인가요?

결국에는 우리의 제품 중 하나에 내장됩니다. 그래서 제가 말할 수 있는 것은, 항상 데이터에서 시작한다는 것입니다. 이것이 Forethought의 차별점입니다. 대부분의 회사에서는 빈 캔버스에서 시작하여 규칙을 하드 코딩해야 하지만, 우리는 통합을 시작합니다. 따라서 Zendesk나 Salesforce (CRM ) 서비스 클라우드와 같은 인기 있는 헬프 데스크 또는 CRM을 사용하는 경우, 우리와 협업하려면 가입하고 헬프 센터에 우리의 통합을 설치하면, 인덱싱, 훈련, 미세 조정 등이 시작되고 모델과 엔진이 구축됩니다. 그런 다음そこ에서 구성, 편집, 배포할 수 있습니다. 우리의 가장 인기 있는 제품은 Solve입니다. 이는 웹사이트에 сид거나 이메일에서 존재할 수 있는 AI 에이전트로, SupportGPT 엔진을 사용하여 고객과 자동으로 대화하고 응답할 수 있습니다.

그러나 자동화는 50%의 문제만 해결합니다. 아직 사람에게 갈 문제는 무엇인가요? 우리는 또한 Triage를 제공합니다. 이는 티켓을 라우팅하고, 태그를 지정하고, 올바른 에이전트에게 올바른 채널, 올바른 시간에 도착하도록 합니다. 또한 Assist를 제공합니다. 이는 고객 지원 에이전트를 위한 내부용 GPT입니다. 마지막으로 Discover를 제공합니다. 이는 기계 학습을 사용하여 비즈니스에 대한 통찰력을 제공하고, 업데이트하고 변경해야 할 사항에 대한 추천을 제공하는 우리의 최신 제품입니다.

생성형 AI에 इतन 많이 의존하는 경우, 환각은 문제인가요?

네, 환각은 생성형 AI를 사용하는 대부분의 실제 사용 사례에서 큰 문제입니다. 제가 LinkedIn에서 녹화한 비디오가 있습니다. 생성형 AI에서 환각이 큰 문제라는 것을 설명했습니다. 많은 경우에 이는 문제가 아닙니다. 예를 들어, 사람의 개입이 있거나 순수한 창의적인 사용 사례인 경우, 마케팅에서 광고 복사본이나 블로그를 생성하는 경우, 편집자가 최종적으로 검토할 것입니다. 이것은 창의力的 형태입니다. 그러나 금융, 의료, 고객 지원과 같은 경우, 환각은巨大한 문제입니다. 이것은 큰 제한입니다. 그래서 많은 방면에서 우리가 깨달은 멋진 점은, 우리는 이미 5년 동안 일부 형태의 생성형 AI를 사용해 왔습니다.

우리의 모든 모델은 정확성에 초점을 맞추어 설계되었습니다. 정책, 워크플로우를 이해합니다. 환불을 요청할 때, 30일 이내에 환불을 처리할 수 있습니다. 이것은 이미 구축된 것입니다. 그리고 생성형 AI를 사용할 때, 우리는 기존 모델의 정확성과 현대적인 대규모 언어 모델의 인간화가 완벽한 조합임을 발견했습니다. 그리고 이것은.prompt 엔지니어링, 미세 조정을 통해 환각 문제를 최소화할 수 있습니다. 완전히 제거되지는 않지만, 매우 효과적입니다. 우리의 궁극적인 목표는, 인간의 오류보다 더 적은 환각을 갖는 것입니다. 정확도율이 인간의 정확도와 동일하다면, 강력한 위치에 있습니다.

2021년에 마지막으로 인터뷰를 했는데, 그 이후에 기업가로서 무엇을 배웠나요?

哇, 세상은 많이 변했습니다. 기업가로서 몇 가지 일이 발생했습니다. 2021년 말, 우리와의 인터뷰 직후, 우리는 시리즈 C를 조달했습니다. Steadfast Capital, NEA, Gwyneth Paltrow, Baron Davis, Robert Downey Jr.와 같은 유명인사로부터 6,500만 달러의 시리즈 C를 조달했습니다. 많은 사람들이 우리의 비전을 보았고, 생성형 AI를 이전에 본 사람들이었습니다. 그것은 흥미로운 시간이었습니다. 그러나 2022년 중반, 즉 6개월 후, 경기 침체가 발생했습니다. 세상이 변했습니다. 그것은 많은 것을 가르쳤습니다. 일부 비즈니스에서는 지출을 줄였습니다. 기업가로서의 비즈니스 모델은 성장에 대한 모든 비용을 지불하는 것에서 효율적인 비즈니스나 이익을 창출하는 비즈니스 구축으로 변경되었습니다.

2022년은 힘든 해였습니다. 2023년에 생성형 AI가 다시 핫해졌습니다. 그래서 이것은 업과 다운이 있습니다. 어쨌든, 나는 많은 것을 말하고 있습니다. 하지만, 나는 그것이 집중되고, 탄력성을 가르친다고 생각합니다. 그것은 10년의 여정입니다. 성공한다면, 그렇지 않다면, 그것은 초기입니다. 그래서, 그것을 단계적으로 받아들이고, 궁극적으로 비전을 향해 건설하고 있는지 기억해야 합니다.

고객 지원과 다른 사용 사례를 위한 채팅봇을 구축하려고 할 때 직면하는 가장 큰 도전은 무엇인가요?

네, 가장 큰 도전. 나는 순서대로 설명하겠습니다. 첫 번째는 기술적인 것이었습니다. 모델이 작동하는지 여부입니다. 그래서 우리는 2017년부터 현대적인 자연어 이해와 자연어 생성 엔진을 사용하기 시작했습니다. 그리고 항상 연구의 최전선에 서서 가치를 제공하는지 확인했습니다. 하지만 고객에게 가치를 제공하는 것이 중요했습니다. 우리가 시작했을 때, 고객들은 이 문제가巨大하다고 말했습니다. 만약 당신이 이것을 구축할 수 있다면, 우리는 그것을 위해 지불할 것입니다. 하지만 문제는 채팅봇이 작동하지 않는다는 것이었습니다.

即使 2017년에 우리는 채팅봇이 작동하지 않는다는 것을 알았습니다. 하지만 우리는 다른 방식으로 접근했습니다. 사람들은 채팅봇과 AI를 혼동했습니다. 이전에는 채팅봇을 만들 수 있었지만, 그것은 AI가 아니었습니다. 그것은 대화형이었지만, AI가 아니었습니다.人们은 채팅봇에 AI라는 단어를 붙였습니다. 그래서 우리는 채팅봇과 AI가 다른 것이라는 것을 깨달았습니다. 이전에는 채팅봇을 만들 수 있었지만, 그것은 AI가 아니었습니다.

당연히 결정 트리가 작동하지 않는다는 것은 명백합니다.

그것은 명백합니다. 하지만, 그것은 당시에는 명백하지 않았습니다. 그리고 그것은 가장好的 방법이었습니다. 사람들은 채팅봇과 AI를 혼동했습니다. 이전에는 채팅봇을 만들 수 있었지만, 그것은 AI가 아니었습니다. 그것은 대화형이었지만, AI가 아니었습니다.

최근에 채팅봇과 AI를 혼동하는 것에 대해 말했습니다. 왜 그렇게 낙관적입니까?

첫째, 새로운 비즈니스 모델이나 플랫폼 시프트가 발생하고 있습니다. 컴퓨팅이 개인 컴퓨팅으로 바뀐 것처럼, 인터넷이 클라우드로 바뀐 것처럼, 모바일로 바뀐 것처럼, كل decade마다 새로운 시프트가 발생하고 있습니다. 그리고 이러한 시프트는 새로운 비즈니스 모델을 가져옵니다. 그리고 이러한 비즈니스 모델은 수조 달러의 새로운 비즈니스를 창출합니다. 예를 들어, Salesforce는 클라우드 시프트를 인식하고, 시스템 오브 레코드를 클라우드로 옮긴 회사입니다. 그리고 그것으로 거대한 성공을 거두었습니다.

그리고 나는 이러한 AI 첫 번째 회사들이 다음의 Salesforce가 될 것이라고 생각합니다. 이러한 회사는 수조 달러의 기회를 창출할 것입니다. 그리고 그것은 고객에게도 엄청난 기회를 제공할 것입니다. 사람들이 더 쉽게 비즈니스와 상호 작용할 수 있을 것입니다. 그리고 그것은 경제 모델을 변경할 것입니다. 그리고 그것은 평등화자입니다. 이전에는 PhD를 가지고 있어야만 AI를 할 수 있었습니다. 하지만, 이제는 누구나 AI를 사용할 수 있습니다.

AGI에 대한 예측은 무엇인가요? 우리 생애에 볼 수 있을까요?

첫째, 아무도 모릅니다. 이것은 사실입니다. 누구든지 알고 있다고 주장하는 사람은 거짓말을 합니다. 하지만, 나는 충분한 발전을 보고 있습니다. 현재 사용할 수 있는 모델 클래스가 인간의 뇌와 거의 동일한 지능을 갖고 있을 수 있습니다. 나는 그것이 아마도 그렇지 않을 것입니다. 하지만, 누가 알겠습니까? 인간의 뇌에는 약 1조개의 뉴런이 있습니다. GPT는 그 수준에 도달하고 있습니다. 그리고 우리의 뇌는 진화로 인해 발전했습니다. 하지만, 강화 학습은 기계를 위한 진화입니다.

그리고 이러한 기술은 이미 존재합니다. 그리고 그것은 너무 بع

최종 목표는 무엇인가요? 새로운 경제 비즈니스 모델이라는 개념으로 돌아가 보면, 사람들이 구글 (GOOGL ) 에게는 해자가 없다고 말할 때 저는 큰 활력을 느낍니다. 실제로 구글 내부 문서가 유출되며 그런 주장이 알려졌고 모두가 당황했지만, 저는 그것이 사실이라고 생각합니다.