Yandong Liu, mede-oprichter en CTO bij Connectly – Interviewreeks

Yandong Liu is de mede-oprichter en CTO van Connectly.ai. Hij werkte eerder bij Strava als CTO. Yandong Liu studeerde aan de Carnegie Mellon University.

Opgericht in 2021 is Connectly de leider in conversational artificial intelligence (AI). Met behulp van eigen AI-modellen automatiseert het platform van Connectly de manier waarop bedrijven communiceren met hun klanten en hun producten verkopen via elke messaging-platform. Connectly maakt het mogelijk om de hele customer journey – van verkoop en marketing tot customer experience en ondersteuning – uit te voeren binnen de voorkeursmessaging-platform van de klant.

Kunt u het verhaal achter Connectly delen?

Connectly is ontstaan uit de visie om leider te worden in conversational AI. Mijn mede-oprichter, Stefanos, en ik ontmoetten elkaar via een gemeenschappelijke vriend in de oprichtersgemeenschap en we hadden een gedeelde passie voor de toekomst van messaging. Met mijn achtergrond in het leiden van technische teams bij Strava en Uber en de ervaring van Stefanos met Facebook (META ) Messenger, wilden we de AI-gebaseerde infrastructuur van de toekomst creëren, waarmee bedrijven het meeste uit hun klantberichten kunnen halen in een steeds complexer wordende omgeving.

Wat zijn Small Language Models (SLMs) precies, en hoe verschillen ze van Large Language Models (LLMs)?

SLMs zijn AI-modellen die zijn ontworpen om menselijke taal te begrijpen en te genereren, maar met minder parameters en rekenkrachtvereisten in vergelijking met Large Language Models. In de context van AI-marketingoplossingen voor messaging-platforms zoals WhatsApp en Instagram, bieden SLMs snellere responstijden en kunnen ze gemakkelijk worden geïmplementeerd op een breed scala aan apparaten, waardoor ze ideaal zijn voor real-time klantinteracties. Hun kleinere formaat zorgt voor efficiënte prestaties zonder de kwaliteit van de antwoorden te compromitteren.

Kunt u bespreken hoe SLMs de kans op hallucinaties verkleinen en de betrouwbaarheid van AI-antwoorden verbeteren?

SLMs verkleinen de kans op hallucinaties – gevallen waarin AI onjuiste of nonsensische informatie genereert – door zich te concentreren op een kleinere, beheersbare set parameters. Voor AI-gebaseerde marketingoplossingen op messaging-platforms zorgt deze gefocuste aanpak voor meer voorspelbare en betrouwbare antwoorden, waardoor de klantvertrouwen en -betrokkenheid toenemen. De geringere complexiteit van SLMs minimaliseert de kans op het genereren van off-topic of onjuiste inhoud, waardoor de algehele betrouwbaarheid van AI-interacties toeneemt.

Kunt u uitleggen waarom SLMs vooral gunstig zijn voor retailers, vooral in de context van chatbots?

Vanwege de grote hoeveelheden data die LLMs krijgen, zijn ze vaak langzaam. Messaging en conversational commerce vereisen echter een snellere responstijd om klanten beter en nauwkeuriger te bedienen. Voor retailers zijn SLMs praktischer en gunstiger vanwege het niveau van detail dat ze kunnen bieden in de retailindustrie. Bovendien zijn SLMs vaak goedkoper omdat ze flexibeler zijn, waardoor elk detailhandelsbedrijf, van een kleine startup tot een grote online retailer, ze kan gebruiken.

Hoe bieden SLMs meer gepersonaliseerde ervaringen voor klanten in vergelijking met LLMs?

SLMs bieden meer gepersonaliseerde ervaringen voor klanten doordat ze gemakkelijker zijn af te stemmen op specifieke taken en domeinen. Hun kleinere formaat zorgt voor snellere en efficiëntere aanpassing, waardoor bedrijven de modellen kunnen aanpassen aan de unieke behoeften en voorkeuren van hun klanten. Deze gefocuste aanpassing leidt tot meer relevante en gepersonaliseerde interacties, waardoor de klantervaring wordt verbeterd.

Hoe integreert Connectly SLMs in zijn platform om e-commerce-mogelijkheden te verbeteren?

We integreren SLMs in ons platform om e-commerce-mogelijkheden te verbeteren door hun efficiëntie en flexibiliteit te benutten. Deze modellen maken het mogelijk om klanten snel en nauwkeurig te bedienen op messaging-platforms zoals WhatsApp en Instagram, met gepersonaliseerde productaanbevelingen en instant ondersteuning. De lichtgewicht aard van SLMs zorgt ervoor dat antwoorden snel en relevant zijn, waardoor de klantervaring en betrokkenheid worden verbeterd.

Kunt u enkele specifieke voorbeelden geven van hoe retailers met succes SLMs in hun operaties hebben geïmplementeerd?

Onze klanten hebben veel succes met SLMs. Een mode-detailhandelaar gebruikt SLMs om gepersonaliseerd stijladvies te geven via WhatsApp, waarbij outfits worden aanbevolen op basis van eerdere aankopen en voorkeuren van de klant. Een elektronica-detailhandelaar heeft SLMs geïmplementeerd op Instagram om in real-time vragen van klanten over productfuncties en beschikbaarheid te beantwoorden, waardoor de winkelervaring wordt verbeterd en de belasting van de klantenserviceteams wordt verlicht.

Waarom zouden retailers moeten overwegen om van LLMs naar SLMs over te stappen voor hun specifieke bedrijfsapplicaties?

Retalers zouden moeten overwegen om van LLMs naar SLMs over te stappen vanwege de verhoogde efficiëntie en kosteneffectiviteit van SLMs. SLMs zijn sneller, vereisen minder rekenkracht en kunnen gemakkelijk worden aangepast aan specifieke taken, waardoor ze ideaal zijn voor real-time klantinteracties op messaging-platforms zoals WhatsApp en Instagram. Deze overstap kan leiden tot meer responsieve en gepersonaliseerde klantenservice, terwijl de operationele kosten worden verlaagd.

Welke toekomstige verbeteringen in SLM-technologie bent u het meest enthousiast over?

Ik ben het meest enthousiast over verbeteringen in SLM-technologie die hun efficiëntie en nauwkeurigheid verder zullen verbeteren. Bijvoorbeeld, verbeteringen in transfer learning en fine-tuningtechnieken zullen SLMs in staat stellen om nog beter te worden aangepast aan specifieke taken met minimale data. Bovendien zal de integratie van SLMs met multimodale mogelijkheden – het combineren van tekst, spraak en beeldgegevens – rijkere en interactievere klantervaringen mogelijk maken op platforms zoals WhatsApp en Instagram. Deze verbeteringen zullen SLMs nog waardevoller maken voor retailers die gepersonaliseerde en interactieve klantinteracties willen bieden.

Hoe ziet u de adoptie van SLMs in de komende jaren in de detailhandelsindustrie?

 Ik zie de adoptie van SLMs in de detailhandelsindustrie aanzienlijk toenemen. Naarmate retailers meer efficiënte en kosteneffectieve manieren zoeken om met klanten te communiceren, zullen de snelheid en flexibiliteit van SLMs steeds waardevoller worden. SLMs zullen breder worden geïntegreerd in klantenservicetools, marketingcampagnes en gepersonaliseerde winkelervaringen op messaging-apps zoals WhatsApp en Instagram, zelfs op TikTok. Deze verschuiving zal retailers helpen om snellere en meer gepersonaliseerde interacties te bieden, waardoor de klanttevredenheid en loyaliteit worden verbeterd.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Connectly bezoeken.