Yandong Liu, medgrunnlegger og CTO i Connectly – Intervju-serie

Yandong Liu er medgrunnlegger og CTO i Connectly.ai. Han jobbet tidligere i Strava som CTO. Yandong Liu gikk på Carnegie Mellon University.

Grunnlagt i 2021, er Connectly ledende innen konversasjons kunstig intelligens (AI). Ved å bruke proprietære AI-modeller, automatiserer Connectlys plattform hvordan bedrifter kommuniserer med sine kunder og selger produkter på alle meldingsplattformer. Connectly muliggjør hele kunde-reisen – fra salg og markedsføring til kundeopplevelse og support – å bli utført innen kundens foretrukne meldingsplattform.

Kan du dele historien bak Connectly?

Connectly ble født ut av visjonen om å bli ledende innen konversasjons AI. Min medgrunnlegger, Stefanos, og jeg møttes gjennom en felles venn i grunnleggermiljøet og knyttet bånd over en felles lidenskap for fremtiden til meldinger. Med min bakgrunn fra å lede teknologiteam i Strava og Uber, og Stefanos’ erfaring fra å overvåke Facebook (META ) Messenger, satte vi oss fore å skape AI-drevet infrastruktur for fremtiden, og hjelpe bedrifter å få mest mulig ut av kundemeldinger i et stadig mer komplekst økosystem.

Hva er egentlig Small Language Models (SLMs), og hvordan forskjeller de seg fra Large Language Models (LLMs)?

SLMs er AI-modeller designet for å forstå og generere menneskelig språk, men med færre parametre og beregningskrav sammenlignet med Large Language Models. I sammenheng med AI-markedsføringsløsninger for meldingsplattformer som WhatsApp og Instagram, gir SLMs raskere responstid og kan enkelt deployeres på en rekke enheter, noe som gjør dem ideelle for sanntids kundeinteraksjoner. Den mindre størrelsen tillater effektiv ytelse uten å kompromittere kvaliteten på svarene.

Kan du diskutere hvordan SLMs reduserer sannsynligheten for hallucinasjoner og forbedrer påliteligheten av AI-responser?

SLMs reduserer sannsynligheten for hallucinasjoner – eksempler hvor AI genererer feil eller nonsensisk informasjon – ved å fokusere på en mindre, mer håndterbar mengde parametre. For AI-meldingsbaserte markedsføringsløsninger sikrer denne fokuserte tilnærmingen mer forutsigbare og pålitelige responser, og øker kundetillit og engasjement. Den reduserte kompleksiteten til SLMs minimerer sjansen for å generere avvikende eller feilaktig innhold, og forbedrer dermed den totale påliteligheten av AI-interaksjoner.

Kan du forklare hvorfor SLMs er spesielt gunstige for detaljister, særlig i sammenheng med chatbots?

På grunn av den store mengden data som LLMs mates med, er de ofte langsomme. Imidlertid krever melding og konversasjons-handel en raskere responstid for å bedre og mer nøyaktig betjene kunder. For detaljister er SLMs mer praktiske og gunstige på grunn av detaljnivået de kan tilby i detaljhandelen. I tillegg er SLMs ofte billigere fordi de er mer agile, noe som betyr at hver detaljhandelsbedrift, fra små start-ups til store nettbutikker, kan utnytte dem.

Hvordan tilbyr SLMs mer personlige opplevelser for kunder sammenlignet med LLMs?

SLMs tilbyr mer personlige opplevelser for kunder ved å være enklere å finjustere for bestemte oppgaver og domener. Den mindre størrelsen tillater raskere og mer effektiv tilpasning, og muliggjør at bedrifter kan tilpasse modellene til de unike behovene og preferansene til sine kunder. Denne fokuserte tilpasningen resulterer i mer relevante og personlige interaksjoner, og forbedrer kundeopplevelsen.

Hvordan integrerer Connectly SLMs i sin plattform for å forbedre e-handelsfunksjoner?

Vi integrerer SLMs i vår plattform for å forbedre e-handelsfunksjoner ved å utnytte deres effektivitet og tilpasningsevne. Disse modellene muliggjør rask og nøyaktig kundeinteraksjon på meldingsplattformer som WhatsApp og Instagram, og tilbyr personlige produktanbefalinger og øyeblikkelig kundesupport. Den lette naturen til SLMs sikrer at svarene er rask og relevante, og forbedrer dermed den totale kundeopplevelsen og driver engasjement.

Hva er noen spesifikke eksempler på hvordan detaljister har suksessfullt implementert SLMs i sine operasjoner?

Våre kunder har stor suksess med SLMs. En moteretaljist bruker SLMs til å tilby personlig stilråd gjennom WhatsApp, og anbefaler antrekk basert på kundens tidligere kjøp og preferanser. Liksom en elektronikkdetaljist har deployert SLMs på Instagram for å svare på kundespørsmål om produktfunksjoner og tilgjengelighet i sanntid, og forbedrer dermed handleopplevelsen og reduserer belastningen på kundeserviceteamene.

Hvorfor bør detaljister vurdere å gå over fra LLMs til SLMs for sine spesifikke forretningsapplikasjoner?

Detaljister bør vurdere å gå over fra LLMs til SLMs for sine spesifikke forretningsapplikasjoner på grunn av den økte effektiviteten og kostnadseffektiviteten til SLMs. SLMs er raskere, krever mindre beregningskraft og kan enkelt finjusteres for bestemte oppgaver, noe som gjør dem ideelle for sanntids kundeinteraksjoner på meldingsplattformer som WhatsApp og Instagram. Denne overgangen kan føre til mer responsiv og personlig kundeservice, samt redusere driftskostnadene.

Hva fremtidige fremgang i SLM-teknologi er du mest spent på?

Jeg er mest spent på fremgang i SLM-teknologi som vil ytterligere forbedre deres effektivitet og nøyaktighet. For eksempel vil forbedringer i overføringslæring og finjusteringsteknikker tillate SLMs å bli enda mer dyktige i bestemte oppgaver med minimalt data. I tillegg vil integreringen av SLMs med multimodale evner – kombinering av tekst, tale og bilde-data – muliggjøre rikere og mer interaktive kundeopplevelser på plattformer som WhatsApp og Instagram. Disse fremgangene vil gjøre SLMs enda mer verdifulle for detaljister som søker å tilby personlige og engasjerende kundeinteraksjoner.

Hvordan ser du på at SLMs vil utvikle seg i detaljhandelsbransjen de neste årene?

 Jeg ser at SLMs vil bli mer utbredt i detaljhandelsbransjen. Ettersom detaljister fortsatt søker etter mer effektive og kostnadseffektive måter å engasjere med kunder på, vil hastigheten og tilpasningsevnen til SLMs bli stadig mer verdifulle. SLMs vil bli mer integrert i kundeserviceplattformer, markedsføringskampanjer og personlige handleopplevelser på meldingsapper som WhatsApp og Instagram, selv på TikTok. Denne overgangen vil hjelpe detaljister å tilby raskere og mer personlige interaksjoner, og forbedre kundetillfredshet og lojalitet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Connectly.