Donny White, CEO e Co-Fundador da Satisfi Labs – Série de Entrevistas

Fundada em 2016, a Satisfi Labs é uma empresa líder em inteligência artificial conversacional. O sucesso inicial veio de seu trabalho com os New York Mets, Macy’s (M ) e o US Open, permitindo o acesso fácil a informações frequentemente indisponíveis em sites.

Donny passou 15 anos na Bloomberg antes de entrar no mundo dos start-ups e possui um MBA pela Universidade de Cornell e um BA pelo Baruch College. Sob a liderança de Donny, a Satisfi Labs experimentou um crescimento significativo nos setores de esportes, entretenimento e turismo, recebendo investimentos da Google (GOOGL ), MLB e Red Light Management.

Você estava na Bloomberg por 14 anos quando sentiu o desejo de ser empreendedor. Por que ser empreendedor estava de repente em sua radar?

Durante meu terceiro ano de faculdade, eu me candidatei a um emprego como recepcionista na Bloomberg. Uma vez que eu consegui entrar, eu disse a meus colegas que se eles estivessem dispostos a me ensinar, eu poderia aprender rápido. No meu último ano, eu era um funcionário em tempo integral e havia mudado todas as minhas aulas para a noite para que eu pudesse fazer as duas coisas. Em vez de ir à minha formatura de faculdade com 21 anos, eu passei esse tempo gerenciando minha primeira equipe. A partir daí, eu tive a sorte de trabalhar em uma meritocracia e fui promovido várias vezes. Aos 25 anos, eu estava gerenciando meu próprio departamento. A partir daí, eu me mudei para a gestão regional e, em seguida, para o desenvolvimento de produtos, até que, eventualmente, eu estava gerenciando as vendas em todas as Américas. Em 2013, eu comecei a me perguntar se eu poderia fazer algo maior. Eu fui a algumas entrevistas em empresas de tecnologia jovens e um dos fundadores me disse: “Não sabemos se você é bom ou se a Bloomberg é boa.” Foi então que eu soube que algo tinha que mudar e, seis meses depois, eu era o vice-presidente de vendas da minha primeira start-up, Datahug. Logo após, eu fui recrutado por um grupo de investidores que queriam disruptar o Yelp. Embora o Yelp ainda seja bom e bem, em 2016, nós alinhamos uma nova visão e eu co-fundei a Satisfi Labs com os mesmos investidores.

Pode compartilhar a história de como a Satisfi Labs surgiu?

Eu estava em um jogo de beisebol no Citi Field com Randy, o atual CTO e co-fundador da Satisfi, quando ouvi falar sobre uma de suas especialidades, bacon em um palito. Nós andamos pelo concourse e perguntamos ao pessoal sobre isso, mas não conseguimos encontrá-lo em lugar nenhum. Resultou que estava escondido em uma das extremidades do estádio, o que me fez perceber que teria sido muito mais conveniente perguntar diretamente à equipe por meio do chat. Aqui é onde nossa primeira ideia nasceu. Randy e eu viemos de backgrounds de finanças e negociação algorítmica, o que nos levou a criar nosso próprio NLP para perguntas hiperespecíficas que seriam feitas em locais. A ideia original era criar bots individuais que seriam especialistas em um campo de conhecimento específico, especialmente conhecimento que não é facilmente acessível em um site. A partir daí, nosso sistema teria um “regente” que poderia tocar cada bot quando necessário. Essa é a arquitetura do sistema original que ainda está sendo usada hoje.

A Satisfi Labs havia projetado seu próprio motor de NLP e estava prestes a publicar um comunicado à imprensa quando a OpenAI disruptou sua pilha de tecnologia com o lançamento do ChatGPT. Pode discutir esse período e como isso forçou a Satisfi Labs a mudar seu negócio?

Nós tínhamos um comunicado à imprensa agendado para anunciar nossa atualização de NLP baseada em contexto patenteada para 6 de dezembro de 2022. Em 30 de novembro de 2022, a OpenAI anunciou o ChatGPT. O anúncio do ChatGPT mudou não apenas nossa estrada, mas também o mundo. Inicialmente, nós, como todos os outros, estávamos correndo para entender o poder e os limites do ChatGPT e entender o que isso significava para nós. Logo percebemos que nosso sistema de NLP contextual não competia com o ChatGPT, mas poderia realmente melhorar a experiência do LLM. Isso nos levou a uma decisão rápida de nos tornarmos parceiros empresariais da OpenAI. Como nosso sistema começou com a ideia de entender e responder a perguntas em um nível granular, nós fomos capazes de combinar o design do sistema “regente de bot” e sete anos de dados de intenção para atualizar o sistema para incorporar LLMs.

A Satisfi Labs lançou recentemente uma patente para um Sistema de Resposta LLM de Contexto, o que é isso especificamente?

Em julho, nós lançamos nosso sistema de resposta LLM de contexto patenteado. O novo sistema combina o poder de nosso sistema de resposta contextual patenteado com as capacidades de LLM para fortalecer todo o sistema de resposta. A nova tecnologia LLM de contexto integra as capacidades de LLM em toda a plataforma, desde a melhoria da rota de intenção até a geração de respostas e indexação de intenção, o que também impulsiona suas capacidades de relatórios exclusivas. A plataforma leva a inteligência artificial conversacional além do tradicional chatbot, aproveitando o poder de LLMs como o GPT-4. Nossa plataforma permite que as marcas respondam com respostas geradas por IA ou respostas pré-escritas, dependendo da necessidade de controle na resposta.

Pode discutir a desconexão atual entre a maioria dos sites de empresas e as plataformas LLM na entrega de respostas personalizadas?

O ChatGPT é treinado para entender uma ampla gama de informações e, portanto, não tem o nível de treinamento granular necessário para responder a perguntas específicas da indústria com o nível de especificidade que a maioria das marcas espera. Além disso, a precisão das respostas fornecidas pelos LLMs é apenas tão boa quanto os dados fornecidos. Quando você usa o ChatGPT, ele está obtendo dados de toda a internet, o que pode ser impreciso. O ChatGPT não prioriza os dados de uma marca sobre outros dados. Nós temos servido a várias indústrias nos últimos sete anos, ganhando insights valiosos sobre os milhões de perguntas feitas pelos clientes todos os dias. Isso nos permitiu entender como ajustar o sistema com mais contexto por indústria e fornecer capacidades de relatórios de intenção robustas e granulares, que são cruciais dado o surgimento de LLMs. Embora os LLMs sejam eficazes em entender a intenção e gerar respostas, eles não podem relatar sobre as perguntas feitas. Usando anos de dados de intenção extensivos, nós criamos relatórios padronizados por meio de nosso Sistema de Indexação de Intenção.

Qual é o papel dos linguistas no aprimoramento das capacidades das tecnologias LLM?

O papel do engenheiro de prompt surgiu com essa nova tecnologia, que requer uma pessoa para projetar e refinar prompts que elicitem uma resposta específica da IA. Os linguistas têm um grande entendimento da estrutura da linguagem, como sintaxe e semântica, entre outras coisas. Uma de nossas engenheiras de IA mais bem-sucedidas tem um background em Linguística, o que a permite encontrar novas e nuances maneiras de promptar a IA. Mudanças sutis no prompt podem ter efeitos profundos na precisão e eficiência da resposta gerada, o que faz toda a diferença quando estamos lidando com milhões de perguntas em múltiplos clientes.

Como é o ajuste fino no back-end?

Nós temos nosso próprio modelo de dados proprietário que usamos para manter o LLM em linha. Isso nos permite construir nossas próprias “cerca” para manter o LLM sob controle, em vez de ter que procurar por cerca. Em segundo lugar, podemos aproveitar ferramentas e recursos que outras plataformas utilizam, o que nos permite apoiá-los em nossas plataformas.

O ajuste fino dos dados de treinamento e o uso do Aprendizado por Reforço (RL) em nossa plataforma podem ajudar a mitigar o risco de desinformação. O ajuste fino, em vez de consultar a base de conhecimento para fatos específicos para adicionar, cria uma nova versão do LLM que é treinada nesse conhecimento adicional. Por outro lado, o RL treina um agente com feedback humano e aprende uma política sobre como responder a perguntas. Isso provou ser bem-sucedido em construir modelos com uma pegada menor que se tornam especialistas em tarefas específicas.

Pode discutir o processo de integração de um novo cliente e a integração de soluções de IA conversacional?

Como nos concentramos em destinos e experiências, como esportes, entretenimento e turismo, os novos clientes se beneficiam daqueles que já estão na comunidade, tornando a integração muito simples. Os novos clientes identificam onde suas fontes de dados atuais vivem, como um site, manuais de funcionários, blogs, etc. Nós ingerimos os dados e treinamos o sistema em tempo real. Como trabalhamos com centenas de clientes na mesma indústria, nossa equipe pode fornecer rapidamente recomendações sobre quais respostas são mais adequadas para respostas pré-escritas versus respostas geradas. Além disso, configuramos fluxos guiados, como nosso dinâmico Food & Beverage Finder, para que os clientes nunca precisem lidar com um construtor de bots.

A Satisfi Labs está atualmente trabalhando em estreita colaboração com equipes esportivas e empresas, qual é sua visão para o futuro da empresa?

Nós vemos um futuro onde mais marcas quererão controlar mais aspectos de sua experiência de chat. Isso resultará em uma necessidade crescente de nosso sistema fornecer mais acesso ao nível do desenvolvedor. Não faz sentido para as marcas contratarem desenvolvedores para construir seus próprios sistemas de IA conversacional, pois a expertise necessária será escassa e cara. No entanto, com nosso sistema alimentando o back-end, os desenvolvedores delas podem se concentrar mais na experiência do cliente e na jornada, tendo um maior controle dos prompts, conectando dados proprietários para permitir mais personalização e gerenciando a interface do usuário do chat para necessidades específicas de usuário. A Satisfi Labs será a espinha dorsal técnica das experiências conversacionais das marcas.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Satisfi Labs.