Yandong Liu, medstifter og CTO hos Connectly – Interviewserie

Yandong Liu er medstifter og CTO hos Connectly.ai. Tidligere har han arbejdet hos Strava som CTO. Yandong Liu har studeret på Carnegie Mellon University.

Connectly blev grundlagt i 2021 og er førende inden for konversationsbaseret kunstig intelligens (AI). Ved hjælp af proprietære AI-modeller automatiserer Connectlys platform, hvordan virksomheder kommunikerer med deres kunder og sælger deres produkter på enhver messagingsplatform. Connectly muliggør hele kunderejsen – fra salg og marketing til kundeoplevelse og support – på kundens foretrukne messagingsplatform.

Kan du dele historien bag Connectly?

Connectly blev født af visionen om at blive førende inden for konversationsbaseret AI. Min medstifter, Stefanos, og jeg mødte hinanden gennem en fælles ven i grunderværden og havde en fælles passion for fremtiden for messagingsystemer. Med min baggrund i at lede tekniske teams hos Strava og Uber og Stefanos’ erfaring med at overvåge Facebook (META ) Messenger, satte vi os for at skabe den AI-drevne infrastruktur til fremtiden, som hjælper virksomheder med at udnytte deres kundemeddelelser i et stadig mere komplekst økosystem.

Hvad er Small Language Models (SLMs), og hvordan adskiller de sig fra Large Language Models (LLMs)?

SLMs er AI-modeller, der er designet til at forstå og generere menneskesprog, men med færre parametre og computermæssige krav i forhold til Large Language Models. I sammenhængen med AI-markedsføringsløsninger til messagingsplatforme som WhatsApp og Instagram, giver SLMs hurtigere responstider og kan let deployes på en række enheder, hvilket gør dem ideelle til realtidskundesammenhandlinger. Deres mindre størrelse giver mulighed for effektivt arbejde uden at gå på kompromis med svarkvaliteten.

Kan du diskutere, hvordan SLMs reducerer sandsynligheden for hallucinationer og forbedrer pålideligheden af AI-responser?

SLMs reducerer sandsynligheden for hallucinationer – hvor AI genererer forkert eller meningsløs information – ved at fokusere på en mindre og mere håndterbar sæt af parametre. For AI-baserede markedsføringsløsninger til messagingsplatforme, sikrer denne fokuserede tilgang mere forudsigelige og pålidelige responser, hvilket forbedrer kundetillid og engagement. Den reducerede kompleksitet af SLMs minimiserer chancerne for at generere off-topic eller forkert indhold, hvilket forbedrer den samlede pålidelighed af AI-sammenhandlinger.

Kan du forklare, hvorfor SLMs er særligt fordelagtige for detailhandlere, især i sammenhængen med chatbots?

På grund af de store mængder data, som LLMs fodres med, er de ofte langsomme. Men messagingsystemer og konversationshandel kræver hurtigere responstider for at bedre og mere præcist betjene kunder. For detailhandlere er SLMs mere praktiske og fordelagtige på grund af detaljeniveauet, de kan tilbyde i detailbranchen. Derudover er SLMs ofte billigere, fordi de er mere agile, hvilket betyder, at enhver detailvirksomhed, fra små startups til store online-forhandlere, kan udnytte dem.

Hvordan tilbyder SLMs mere personlige oplevelser for kunder i forhold til LLMs?

SLMs tilbyder mere personlige oplevelser for kunder ved at være lettere at tilpasse til bestemte opgaver og domæner. Deres mindre størrelse giver mulighed for hurtigere og mere effektiv tilpasning, hvilket giver virksomheder mulighed for at tilpasse modellerne til de enkelte kunders unikke behov og præferencer. Denne fokuserede tilpasning resulterer i mere relevante og personlige interaktioner, hvilket forbedrer kundeoplevelsen.

Hvordan integrerer Connectly SLMs i sin platform for at forbedre e-handelsfunktioner?

Vi integrerer SLMs i vores platform for at forbedre e-handelsfunktioner ved at udnytte deres effektivitet og tilpasning. Disse modeller giver mulighed for hurtige og præcise kundesammenhandlinger på messagingsplatforme som WhatsApp og Instagram, og giver personlige produktanbefalinger og instant kundesupport. Den letvægtige natur af SLMs sikrer, at responser er hurtige og relevante, hvilket forbedrer den samlede kundeoplevelse og driver engagement.

Hvad er nogle specifikke eksempler på, hvordan detailhandlere har implementeret SLMs i deres drift med succes?

Vore kunder oplever stor succes med SLMs. En mode-detailhandler bruger SLMs til at give personlige stylingråd via WhatsApp, hvor de anbefaler outfits baseret på kundens tidligere køb og præferencer. Ligeledes har en elektronik-detailhandler implementeret SLMs på Instagram for at besvare kundespørgsmål om produktfunktioner og tilgængelighed i realtid, hvilket forbedrer shoppingoplevelsen og reducerer belastningen på kundeserviceteams.

Hvorfor bør detailhandlere overveje at skifte fra LLMs til SLMs til deres specifikke forretningsformål?

Detailhandlere bør overveje at skifte fra LLMs til SLMs på grund af den øgede effektivitet og kosteffektivitet af SLMs. SLMs er hurtigere, kræver mindre computermæssig kraft og kan let tilpasses til bestemte opgaver, hvilket gør dem ideelle til realtidskundesammenhandlinger på messagingsplatforme som WhatsApp og Instagram. Denne skift kan føre til mere responsiv og personlig kundeservice, samtidig med at den reducerer driftsomkostningerne.

Hvad er de fremtidige udviklinger i SLM-teknologi, som du er mest begejstret for?

Jeg er mest begejstret for udviklinger i SLM-teknologi, som vil yderligere forbedre deres effektivitet og nøjagtighed. For eksempel vil forbedringer i overførselslæring og finjusteringsteknikker give SLMs mulighed for at blive endnu mere egnede til bestemte opgaver med minimalt data. Derudover vil integrationen af SLMs med multimodale funktioner – kombination af tekst, tale og billeddata – give mulighed for rigere og mere interaktive kundeoplevelser på platforme som WhatsApp og Instagram. Disse udviklinger vil gøre SLMs endnu mere værdifulde for detailhandlere, der søger at give personlige og engagerende kundesammenhandlinger.

Hvordan ser du adoptionen af SLMs udvikle sig i de næste par år inden for detailbranchen?

 Jeg ser adoptionen af SLMs i detailbranchen vokse betydeligt. Da detailhandlere fortsætter med at søge efter mere effektive og kosteffektive måder at engagere med kunder på, vil SLMs’ hastighed og tilpasning blive stadig mere værdifulde. SLMs vil blive integreret mere omfattende i kundeserviceplatforme, markedsføringskampagner og personlige shoppingoplevelser på messagingsapps som WhatsApp og Instagram, selv på TikTok. Denne skift vil hjælpe detailhandlere med at give hurtigere og mere personlige interaktioner, hvilket forbedrer kundetilfredshed og loyalitet.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Connectly.