Yandong Liu, Co-Founder & CTO at Connectly – Interview Serie

Yandong Liu er Co-founder og CTO hos Connectly.ai. Han arbejdede tidligere hos Strava som CTO. Yandong Liu har studeret på Carnegie Mellon University.

Connectly, der blev grundlagt i 2021, er Connectly lederen inden for konversationsbaseret kunstig intelligens (AI). Ved hjælp af proprietære AI-modeller automatiserer Connectlys platform, hvordan virksomheder kommunikerer med deres kunder og sælger deres produkter på tværs af enhver meddelelsesplatform. Connectly muliggør hele kunderejsen – fra salg og marketing til kundeoplevelse og support – kan udføres inden for kundens foretrukne meddelelsesplatform.

Kan du dele historien bag Connectly?

Connectly blev født af visionen om at blive lederen inden for konversationsbaseret AI. Min medstifter, Stefanos, og jeg mødte hinanden gennem en fælles ven i grundlæggerfællesskabet og blev enige om en fælles passion for fremtiden for meddelelse. Med min baggrund i at lede teknologiteams hos Strava og Uber og Stefanos’ erfaring med at overvåge Facebook Messenger, satte vi os for at skabe den AI-drevne infrastruktur til fremtiden, der hjælper virksomheder med at udnytte deres kundemeddelelser i et stadig mere komplekst økosystem.

Hvad er præcis Small Language Models (SLMs), og hvordan adskiller de sig fra Large Language Models (LLMs)?

SLMs er AI-modeller, der er designet til at forstå og generere menneskesprog, men med færre parametre og computermæssige krav i forhold til Large Language Models. I sammenhæng med AI-markedsføringsløsninger til meddelelsesplatforme som WhatsApp og Instagram, giver SLMs hurtigere respons tid og kan let implementeres på en række enheder, hvilket gør dem ideelle til realtids kundeinteraktioner. Deres mindre størrelse giver mulighed for effektiv præstation uden at gå på kompromis med svarkvaliteten.

Kan du diskutere, hvordan SLMs reducerer sandsynligheden for hallucinationer og forbedrer pålideligheden af AI-svar?

SLMs reducerer sandsynligheden for hallucinationer – tilfælde, hvor AI genererer forkert eller meningsløs information – ved at fokusere på et mindre, mere håndterbart sæt af parametre. For AI-baserede markedsføringsløsninger til meddelelsesplatforme giver denne fokuserede tilgang mere forudsigelige og pålidelige svar, hvilket forbedrer kundetillid og engagement. Den reducerede kompleksitet af SLMs minimiserer sandsynligheden for at generere off-topic eller fejlbehæftet indhold, hvilket forbedrer den samlede pålidelighed af AI-interaktioner.

Kan du forklare, hvorfor SLMs er særligt fordelagtige for detailhandlere, især i sammenhæng med chatbots?

På grund af den store mængde data, som LLMs er fødet med, er de ofte langsomme. Men meddelelse og konversationshandel kræver en hurtigere respons tid for bedre og mere præcis at betjene kunder. For detailhandlere er SLMs mere praktiske og fordelagtige på grund af detaljeniveauet, de kan give i detailbranchen. Desuden er SLMs ofte billigere, fordi de er mere agile, hvilket betyder, at hver detailvirksomhed, fra en lille startup til en stor online-detailhandler, kan udnytte dem.

Hvordan tilbyder SLMs mere personlige oplevelser for kunder i forhold til LLMs?

SLMs tilbyder mere personlige oplevelser for kunder ved at være lettere at tilpasse til bestemte opgaver og domæner. Deres mindre størrelse giver mulighed for hurtigere og mere effektiv tilpasning, hvilket giver virksomheder mulighed for at tilpasse modellerne til de unikke behov og præferencer hos deres kunder. Denne fokuserede tilpasning giver mere relevante og personlige interaktioner, hvilket forbedrer kundeoplevelsen.

Hvordan integrerer Connectly SLMs i sin platform for at forbedre e-handelsfunktioner?

Vi integrerer SLMs i vores platform for at forbedre e-handelsfunktioner ved at udnytte deres effektivitet og tilpasning. Disse modeller giver mulighed for hurtige og præcise kundeinteraktioner på meddelelsesplatforme som WhatsApp og Instagram, og giver personlige produktanbefalinger og instant kundesupport. Den letvægtige natur af SLMs sikrer, at svarene er hurtige og relevante, hvilket forbedrer den samlede kundeoplevelse og driver engagement.

Hvad er nogle specifikke eksempler på, hvordan detailhandlere har succesfuldt implementeret SLMs i deres drift?

Vore kunder har stor succes med SLMs. En mode-detailhandler bruger SLMs til at give personlige styling-råd via WhatsApp, og anbefaler outfits baseret på kundens tidligere køb og præferencer. Ligesom en elektronik-detailhandler har implementeret SLMs på Instagram for at besvare kundespørgsmål om produktfunktioner og tilgængelighed i realtid, hvilket forbedrer shopping-oplevelsen og reducerer belastningen på kundeserviceteams.

Hvorfor skal detailhandlere overveje at skifte fra LLMs til SLMs til deres specifikke forretningsformål?

Detailhandlere skal overveje at skifte fra LLMs til SLMs til deres specifikke forretningsformål på grund af den øgede effektivitet og kosteffektivitet af SLMs. SLMs er hurtigere, kræver mindre computermæssig kraft og kan let tilpasses til bestemte opgaver, hvilket gør dem ideelle til realtids kundeinteraktioner på meddelelsesplatforme som WhatsApp og Instagram. Denne overgang kan føre til mere responsiv og personlig kundeservice, samtidig med at den reducerer driftsomkostningerne.

Hvad fremtidige fremskridt i SLM-teknologi er du mest begejstret for?

Jeg er mest begejstret for fremskridt i SLM-teknologi, der vil yderligere forbedre deres effektivitet og nøjagtighed. For eksempel vil forbedringer i overføringslæring og finjusteringsteknikker give SLMs mulighed for at blive endnu mere dygtige til bestemte opgaver med minimalt data. Desuden vil integrationen af SLMs med multimodale funktioner – kombination af tekst, tale og billeddata – give mulighed for rigere og mere interaktive kundeoplevelser på platforme som WhatsApp og Instagram. Disse fremskridt vil gøre SLMs endnu mere værdifulde for detailhandlere, der søger at give personlige og engagerende kundeinteraktioner.

Hvordan ser du adoptionen af SLMs udvikle sig i de næste par år inden for detailbranchen?

Jeg ser adoptionen af SLMs i detailbranchen vokse betydeligt. Da detailhandlere fortsat søger efter mere effektive og kosteffektive måder at engagere med kunder, vil hastigheden og tilpasningen af SLMs blive stadig mere værdifulde. SLMs vil blive integreret mere bredt i kundeserviceløsninger, markedsføringskampagner og personlige shopping-oplevelser på meddelelsesapps som WhatsApp og Instagram, selv på TikTok. Denne udvikling vil hjælpe detailhandlere med at give hurtigere, mere personlige interaktioner, hvilket forbedrer kundetillid og loyalitet.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Connectly.