Yandong Liu, Co-fondateur et CTO chez Connectly – Série d’entretiens

Yandong Liu est le co-fondateur et le CTO de Connectly.ai. Il a précédemment travaillé chez Strava en tant que CTO. Yandong Liu a fréquenté l’Université Carnegie Mellon.

Fondée en 2021, Connectly est le leader de l’intelligence artificielle conversationnelle (IA). En utilisant des modèles d’IA propriétaires, la plateforme de Connectly automatisé la façon dont les entreprises communiquent avec leurs clients et vendent leurs produits sur n’importe quelle plateforme de messagerie. Connectly permet de réaliser l’ensemble du parcours client – de la vente et du marketing à l’expérience client et au support – au sein de la plateforme de messagerie préférée du client.

Pouvez-vous partager l’histoire de la création de Connectly ?

Connectly est né de la vision de devenir le leader de l’IA conversationnelle. Mon co-fondateur, Stefanos, et moi nous sommes rencontrés par l’intermédiaire d’un ami commun dans la communauté des fondateurs et nous nous sommes liés d’amitié autour d’une passion partagée pour l’avenir de la messagerie. Avec mon expérience en tant que chef d’équipe technologique chez Strava et Uber et l’expérience de Stefanos en tant que responsable de Facebook (META ) Messenger, nous nous sommes lancés dans la création de l’infrastructure d’IA du futur, aidant les entreprises à tirer le meilleur parti de leurs messages clients dans un écosystème de plus en plus complexe.

Qu’est-ce que les petits modèles de langage (SLM), et comment diffèrent-ils des grands modèles de langage (LLM) ?

Les SLM sont des modèles d’IA conçus pour comprendre et générer le langage humain, mais avec moins de paramètres et de besoins en calcul que les LLM. Dans le contexte des solutions de marketing d’IA pour les plateformes de messagerie comme WhatsApp et Instagram, les SLM offrent des temps de réponse plus rapides et peuvent être facilement déployés sur une variété d’appareils, ce qui les rend idéaux pour les interactions client en temps réel. Leur petite taille permet des performances efficaces sans compromettre la qualité des réponses.

Pouvez-vous discuter de la façon dont les SLM réduisent la probabilité d’hallucinations et améliorent la fiabilité des réponses d’IA ?

Les SLM réduisent la probabilité d’hallucinations – des cas où l’IA génère des informations incorrectes ou sans sens – en se concentrant sur un ensemble plus petit et plus gérable de paramètres. Pour les solutions de marketing d’IA basées sur la messagerie, cette approche ciblée garantit des réponses plus prévisibles et plus fiables, renforçant la confiance et l’engagement des clients. La complexité réduite des SLM minimise les chances de générer du contenu hors sujet ou erroné, améliorant ainsi la fiabilité globale des interactions d’IA.

Pouvez-vous expliquer pourquoi les SLM sont particulièrement bénéfiques pour les détaillants, notamment dans le contexte des chatbots ?

En raison de la grande quantité de données que les LLM sont alimentés, ils sont souvent lents. Cependant, la messagerie et le commerce conversationnel nécessitent un temps de réponse plus rapide pour servir les clients de manière plus efficace et plus précise. Pour les détaillants, les SLM sont plus pratiques et plus bénéfiques en raison du niveau de détail qu’ils peuvent fournir dans l’industrie de la vente au détail. De plus, les SLM sont souvent moins chers car ils sont plus agiles, ce qui signifie que chaque entreprise de détail, des petites startups aux grands détaillants en ligne, peut les utiliser.

Comment les SLM offrent-ils des expériences plus personnalisées pour les clients par rapport aux LLM ?

Les SLM offrent des expériences plus personnalisées pour les clients en étant plus faciles à affiner pour des tâches et des domaines spécifiques. Leur petite taille permet une personnalisation plus rapide et plus efficace, permettant aux entreprises de adapter les modèles aux besoins et aux préférences uniques de leurs clients. Cette personnalisation ciblée donne lieu à des interactions plus pertinentes et plus personnalisées, améliorant l’expérience client.

Comment Connectly intègre-t-il les SLM dans sa plateforme pour améliorer les capacités de commerce électronique ?

Nous intégrons les SLM dans notre plateforme pour améliorer les capacités de commerce électronique en exploitant leur efficacité et leur adaptabilité. Ces modèles permettent des interactions client rapides et précises sur les plateformes de messagerie comme WhatsApp et Instagram, offrant des recommandations de produits personnalisés et un support client instantané. La nature légère des SLM garantit que les réponses sont rapides et pertinentes, améliorant l’expérience client globale et stimulant l’engagement.

Pouvez-vous donner des exemples spécifiques de la façon dont les détaillants ont mis en œuvre avec succès les SLM dans leurs opérations ?

Nos clients connaissent un grand succès avec les SLM. Un détaillant de mode utilise les SLM pour offrir des conseils de stylisme personnalisés via WhatsApp, recommandant des tenues en fonction des achats et des préférences antérieurs du client. De même, un détaillant d’électronique a déployé les SLM sur Instagram pour répondre en temps réel aux questions des clients sur les fonctionnalités et la disponibilité des produits, améliorant ainsi l’expérience d’achat et réduisant la charge sur les équipes de service client.

Pourquoi les détaillants devraient-ils envisager de passer des LLM aux SLM pour leurs applications commerciales spécifiques ?

Les détaillants devraient envisager de passer des LLM aux SLM pour leurs applications commerciales spécifiques en raison de l’efficacité et de la rentabilité accrues des SLM. Les SLM sont plus rapides, nécessitent moins de puissance de calcul et peuvent être facilement affinés pour des tâches spécifiques, ce qui les rend idéaux pour les interactions client en temps réel sur les plateformes de messagerie comme WhatsApp et Instagram. Ce passage peut conduire à un service client plus réactif et plus personnalisé, tout en réduisant les coûts opérationnels.

Quelles sont les prochaines avancées en technologie SLM qui vous enthousiasment le plus ?

Je suis le plus enthousiaste à l’idée des progrès en technologie SLM qui amélioreront encore leur efficacité et leur précision. Par exemple, les améliorations de l’apprentissage de transfert et des techniques d’affinage permettront aux SLM de devenir encore plus compétents dans des tâches spécifiques avec un minimum de données. De plus, l’intégration des SLM avec des capacités multimodales – combinant texte, voix et données d’image – permettra des expériences client plus riches et plus interactives sur des plateformes comme WhatsApp et Instagram. Ces progrès rendront les SLM encore plus précieux pour les détaillants qui cherchent à offrir des interactions client personnalisées et engageantes.

Comment voyez-vous l’adoption des SLM évoluer dans les prochaines années dans l’industrie de la vente au détail ?

 Je vois l’adoption des SLM dans l’industrie de la vente au détail augmenter considérablement. À mesure que les détaillants continuent à rechercher des moyens plus efficaces et plus rentables d’interagir avec les clients, la rapidité et l’adaptabilité des SLM deviendront de plus en plus précieuses. Les SLM seront intégrés plus largement dans les plateformes de service client, les campagnes de marketing et les expériences de shopping personnalisées sur les applications de messagerie comme WhatsApp et Instagram, même sur TikTok. Ce déplacement aidera les détaillants à offrir des interactions plus rapides et plus personnalisées, améliorant ainsi la satisfaction et la fidélité des clients.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Connectly.