Yandong Liu, Co-Founder & CTO at Connectly – Interview Series

Yandong Liu is de Co-founder en CTO bij Connectly.ai. Hij werkte eerder bij Strava als CTO. Yandong Liu studeerde aan de Carnegie Mellon University.

Opgericht in 2021 is Connectly de leider in conversational artificial intelligence (AI). Met behulp van propriëtaire AI-modellen automatiseert Connectly’s platform de manier waarop bedrijven communiceren met hun klanten en hun producten verkopen via elk messagingplatform. Connectly maakt het mogelijk om de hele customer journey – van verkoop en marketing tot customer experience en ondersteuning – te laten plaatsvinden binnen het door de klant bevorde messagingplatform.

Kunt u het verhaal achter Connectly delen?

Connectly is ontstaan uit de visie om leider te worden in conversational AI. Mijn mede-oprichter, Stefanos, en ik ontmoetten elkaar via een gemeenschappelijke vriend in de oprichtersgemeenschap en deelden een gedeelde passie voor de toekomst van messaging. Met mijn achtergrond in het leiden van technologieteams bij Strava en Uber en Stefanos’ ervaring met het toezicht houden op Facebook Messenger, wilden we de AI-gebaseerde infrastructuur van de toekomst creëren, om bedrijven te helpen het meeste te maken van hun klantberichten in een steeds complexer ecosysteem.

Wat zijn precies Small Language Models (SLMs) en hoe verschillen ze van Large Language Models (LLMs)?

SLMs zijn AI-modellen die zijn ontworpen om menselijke taal te begrijpen en te genereren, maar met minder parameters en computervoorwaarden in vergelijking met Large Language Models. In de context van AI-marketingoplossingen voor messagingplatforms zoals WhatsApp en Instagram, bieden SLMs snellere responstijden en kunnen ze gemakkelijk worden geïmplementeerd op verschillende apparaten, waardoor ze ideaal zijn voor real-time klantinteracties. Hun kleinere formaat zorgt voor efficiënte prestaties zonder de kwaliteit van de antwoorden te compromitteren.

Kunt u bespreken hoe SLMs de kans op hallucinaties verkleinen en de betrouwbaarheid van AI-antwoorden verbeteren?

SLMs verkleinen de kans op hallucinaties – gevallen waarin AI onjuiste of nonsensische informatie genereert – door zich te concentreren op een kleinere, beheersbare set parameters. Voor AI-messaginggebaseerde marketingoplossingen zorgt deze gefocuste aanpak voor meer voorspelbare en betrouwbare antwoorden, waardoor klantvertrouwen en betrokkenheid toenemen. De gereduceerde complexiteit van SLMs minimaliseert de kans op het genereren van off-topic of foutieve inhoud, waardoor de algehele betrouwbaarheid van AI-interacties toeneemt.

Kunt u uitleggen waarom SLMs vooral gunstig zijn voor retailers, vooral in de context van chatbots?

Vanwege de grote hoeveelheden gegevens die LLMs worden gevoerd, zijn ze vaak langzaam. Messaging en conversational commerce vereisen echter een snellere responstijd om klanten beter en nauwkeuriger te bedienen. Voor retailers zijn SLMs praktischer en gunstiger vanwege het niveau van detail dat ze kunnen bieden in de retailindustrie. Bovendien zijn SLMs vaak goedkoper omdat ze agieler zijn, wat betekent dat elk detailhandelsbedrijf, van een kleine startup tot een grote online retailer, ze kan gebruiken.

Hoe bieden SLMs meer gepersonaliseerde ervaringen voor klanten in vergelijking met LLMs?

SLMs bieden meer gepersonaliseerde ervaringen voor klanten doordat ze gemakkelijker zijn af te stemmen op specifieke taken en domeinen. Hun kleinere formaat zorgt voor snellere en efficiëntere aanpassing, waardoor bedrijven de modellen kunnen aanpassen aan de unieke behoeften en voorkeuren van hun klanten. Deze gefocuste aanpassing resulteert in meer relevante en gepersonaliseerde interacties, waardoor de klantbeleving wordt verbeterd.

Hoe integreert Connectly SLMs in zijn platform om e-commerce-mogelijkheden te verbeteren?

We integreren SLMs in ons platform om e-commerce-mogelijkheden te verbeteren door hun efficiëntie en aanpasbaarheid te benutten. Deze modellen maken snelle en nauwkeurige klantinteracties mogelijk op messagingplatforms zoals WhatsApp en Instagram, waardoor gepersonaliseerde productaanbevelingen en instant ondersteuning mogelijk zijn. De lichtgewicht aard van SLMs zorgt ervoor dat antwoorden snel en relevant zijn, waardoor de algehele klantbeleving en betrokkenheid worden verbeterd.

Kunt u specifieke voorbeelden geven van hoe retailers met succes SLMs in hun operaties hebben geïmplementeerd?

Onze klanten hebben grote successen met SLMs. Een mode-detailhandelaar gebruikt SLMs om gepersonaliseerde stijladvies te bieden via WhatsApp, waarbij uitgaande van eerdere aankopen en voorkeuren van de klant outfits worden aanbevolen. Een elektronica-detailhandelaar implementeerde SLMs op Instagram om klantvragen over productfuncties en beschikbaarheid in real-time te beantwoorden, waardoor de winkelervaring wordt verbeterd en de belasting van de klantenserviceteams wordt vermindert.

Waarom zouden retailers moeten overwegen om van LLMs naar SLMs over te stappen voor hun specifieke bedrijfsapplicaties?

Retailers zouden moeten overwegen om van LLMs naar SLMs over te stappen voor hun specifieke bedrijfsapplicaties vanwege de verhoogde efficiëntie en kosteneffectiviteit van SLMs. SLMs zijn sneller, vereisen minder rekenkracht en kunnen gemakkelijk worden aangepast voor specifieke taken, waardoor ze ideaal zijn voor real-time klantinteracties op messagingplatforms zoals WhatsApp en Instagram. Deze overgang kan leiden tot meer responsieve en gepersonaliseerde klantenservice, terwijl de operationele kosten worden verlaagd.

Welke toekomstige vooruitgang in SLM-technologie bent u het meest enthousiast over?

Ik ben het meest enthousiast over vooruitgang in SLM-technologie die hun efficiëntie en nauwkeurigheid verder zal verbeteren. Bijvoorbeeld, verbeteringen in transfer learning en fine-tuningtechnieken zullen SLMs in staat stellen om nog beter te worden in specifieke taken met minimale gegevens. Bovendien zal de integratie van SLMs met multimodale mogelijkheden – combinatie van tekst, spraak en beeldgegevens – rijkere en interactievere klantervaringen mogelijk maken op platforms zoals WhatsApp en Instagram. Deze vooruitgang zal SLMs nog waardevoller maken voor retailers die gepersonaliseerde en interactieve klantinteracties willen bieden.

Hoe ziet u de adoptie van SLMs in de komende jaren evolueren in de detailhandel?

Ik zie de adoptie van SLMs in de detailhandel significant toenemen. Naarmate retailers blijven zoeken naar efficiëntere en kosteneffectievere manieren om met klanten te communiceren, zullen de snelheid en aanpasbaarheid van SLMs steeds waardevoller worden. SLMs zullen breder worden geïntegreerd in klantenservicemodellen, marketingcampagnes en gepersonaliseerde winkelervaringen op messaging-apps zoals WhatsApp en Instagram, zelfs op TikTok. Deze verschuiving zal retailers helpen om snellere, meer gepersonaliseerde interacties te bieden, waardoor klanttevredenheid en loyaliteit toenemen.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Connectly bezoeken.