Yandong Liu, Co-Fundador e CTO da Connectly – Série de Entrevistas

Yandong Liu é o co-fundador e CTO da Connectly.ai. Ele trabalhou anteriormente na Strava como CTO. Yandong Liu frequentou a Universidade Carnegie Mellon.

Fundada em 2021, Connectly é a líder em inteligência artificial conversacional (IA). Usando modelos de IA proprietários, a plataforma da Connectly automatiza a forma como as empresas se comunicam com seus clientes e vendem seus produtos em qualquer plataforma de mensagens. A Connectly permite que toda a jornada do cliente – desde vendas e marketing até experiência e suporte ao cliente – seja realizada dentro da plataforma de mensagens preferida do cliente.

Você pode compartilhar a história por trás da criação da Connectly?

A Connectly nasceu da visão de se tornar a líder em inteligência artificial conversacional. Meu co-fundador, Stefanos, e eu nos conhecemos por meio de um amigo mútuo na comunidade de fundadores e nos unimos por uma paixão compartilhada pelo futuro das mensagens. Com meu histórico de liderança de equipes de tecnologia na Strava e na Uber e a experiência de Stefanos na supervisão do Facebook (META ) Messenger, nos propusemos a criar a infraestrutura de IA do futuro, ajudando as empresas a aproveitar ao máximo as mensagens dos clientes em um ecossistema cada vez mais complexo.

O que exatamente são Modelos de Linguagem Pequenos (SLMs) e como eles diferem dos Modelos de Linguagem Grandes (LLMs)?

SLMs são modelos de IA projetados para entender e gerar linguagem humana, mas com menos parâmetros e requisitos computacionais em comparação com os Modelos de Linguagem Grandes. No contexto de soluções de marketing de IA para plataformas de mensagens como WhatsApp e Instagram, os SLMs fornecem tempos de resposta mais rápidos e podem ser facilmente implantados em uma variedade de dispositivos, tornando-os ideais para interações com clientes em tempo real. Seu tamanho menor permite um desempenho eficiente sem comprometer a qualidade das respostas.

Você pode discutir como os SLMs reduzem a probabilidade de alucinações e melhoram a confiabilidade das respostas de IA?

Os SLMs reduzem a probabilidade de alucinações – casos em que a IA gera informações incorretas ou sem sentido – ao se concentrar em um conjunto menor e mais gerenciável de parâmetros. Para soluções de marketing de IA baseadas em mensagens, essa abordagem focada garante respostas mais previsíveis e confiáveis, melhorando a confiança e o engajamento do cliente. A complexidade reduzida dos SLMs minimiza as chances de gerar conteúdo fora de contexto ou errôneo, melhorando a confiabilidade geral das interações de IA.

Você pode explicar por que os SLMs são particularmente benéficos para varejistas, especialmente no contexto de chatbots?

Devido às grandes quantidades de dados que os LLMs são alimentados, eles são frequentemente lentos. No entanto, as mensagens e o comércio conversacional exigem um tempo de resposta mais rápido para atender melhor e mais precisamente aos clientes. Para varejistas, os SLMs são mais práticos e benéficos devido ao nível de detalhe que podem fornecer no setor varejista. Além disso, os SLMs são frequentemente mais baratos porque são mais ágeis, o que significa que todas as empresas varejistas, desde pequenas startups até grandes varejistas online, podem utilizá-los.

Como os SLMs oferecem experiências mais personalizadas para os clientes em comparação com os LLMs?

Os SLMs oferecem experiências mais personalizadas para os clientes porque são mais fáceis de ajustar para tarefas e domínios específicos. Seu tamanho menor permite uma personalização mais rápida e eficiente, permitindo que as empresas adaptem os modelos às necessidades e preferências únicas de seus clientes. Essa personalização focada resulta em interações mais relevantes e personalizadas, melhorando a experiência do cliente.

Como a Connectly integra os SLMs em sua plataforma para melhorar as capacidades de comércio eletrônico?

Nós integramos os SLMs em nossa plataforma para melhorar as capacidades de comércio eletrônico, aproveitando sua eficiência e adaptabilidade. Esses modelos habilitam interações de cliente rápidas e precisas em plataformas de mensagens como WhatsApp e Instagram, fornecendo recomendações de produtos personalizados e suporte ao cliente instantâneo. A natureza leve dos SLMs garante que as respostas sejam rápidas e relevantes, melhorando a experiência do cliente e impulsionando o engajamento.

Quais são alguns exemplos específicos de como os varejistas implementaram com sucesso os SLMs em suas operações?

Nossos clientes estão tendo um grande sucesso com os SLMs. Um varejista de moda está usando SLMs para fornecer conselhos de estilo personalizados por meio do WhatsApp, recomendando conjuntos com base nas compras e preferências anteriores do cliente. Da mesma forma, um varejista de eletrônicos implantou SLMs no Instagram para responder a perguntas dos clientes sobre recursos e disponibilidade de produtos em tempo real, melhorando a experiência de compra e reduzindo a carga sobre as equipes de atendimento ao cliente.

Por que os varejistas devem considerar a transição de LLMs para SLMs para suas aplicações comerciais específicas?

Os varejistas devem considerar a transição de LLMs para SLMs para suas aplicações comerciais específicas devido à maior eficiência e rentabilidade dos SLMs. Os SLMs são mais rápidos, requerem menos poder computacional e podem ser facilmente ajustados para tarefas específicas, tornando-os ideais para interações de cliente em tempo real em plataformas de mensagens como WhatsApp e Instagram. Essa transição pode levar a um atendimento ao cliente mais responsivo e personalizado, reduzindo os custos operacionais.

Quais avanços futuros na tecnologia de SLM você está mais animado?

Estou mais animado com os avanços na tecnologia de SLM que melhorarão ainda mais sua eficiência e precisão. Por exemplo, melhorias na aprendizagem de transferência e técnicas de ajuste fine permitirão que os SLMs se tornem ainda mais aptos a realizar tarefas específicas com dados mínimos. Além disso, a integração de SLMs com capacidades multimodais – combinando texto, voz e dados de imagem – permitirá experiências de cliente mais ricas e interativas em plataformas como WhatsApp e Instagram. Esses avanços tornarão os SLMs ainda mais valiosos para varejistas que buscam fornecer interações de cliente personalizadas e envolventes.

Como você vê a adoção de SLMs evoluindo nos próximos anos dentro do setor varejista?

 Vejo a adoção de SLMs no setor varejista crescendo significativamente. À medida que os varejistas continuam a buscar maneiras mais eficientes e rentáveis de se engajar com os clientes, a velocidade e adaptabilidade dos SLMs se tornarão cada vez mais valiosas. Os SLMs serão integrados mais amplamente em plataformas de atendimento ao cliente, campanhas de marketing e experiências de compra personalizadas em aplicativos de mensagens como WhatsApp e Instagram, mesmo no TikTok. Essa mudança ajudará os varejistas a fornecer interações mais rápidas e personalizadas, melhorando a satisfação e lealdade do cliente.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Connectly.