Yandong Liu, medgrundare och CTO på Connectly – Intervjuserie

Yandong Liu är medgrundare och CTO på Connectly.ai. Han har tidigare arbetat på Strava som CTO. Yandong Liu har studerat vid Carnegie Mellon University.

Grundat 2021 är Connectly ledande inom konversationsartificiell intelligens (AI). Med hjälp av proprietära AI-modeller automatiserar Connectlys plattform hur företag kommunicerar med sina kunder och säljer sina produkter på alla meddelandeprogram. Connectly möjliggör hela kundresan – från försäljning och marknadsföring till kundupplevelse och support – att genomföras inom kundens föredragna meddelandeprogram.

Kan du dela berättelsen om Connectlys tillblivelse?

Connectly föddes ur visionen att bli ledande inom konversations-AI. Min medgrundare, Stefanos, och jag träffades genom en gemensam vän i grundarsamhället och bandade över en gemensam passion för framtidens meddelande. Med min bakgrund som ledare för teknikteam på Strava och Uber och Stefanos erfarenhet av att övervaka Facebook Messenger, satte vi oss för att skapa den AI-drivna infrastrukturen för framtiden, som hjälper företag att göra mest av sina kundmeddelanden i ett alltmer komplext ekosystem.

Vad är exakt Small Language Models (SLM) och hur skiljer de sig från Large Language Models (LLM)?

SLM är AI-modeller som är utformade för att förstå och generera mänskligt språk men med färre parametrar och beräkningskrav jämfört med Large Language Models. I sammanhanget med AI-marknadsföringslösningar för meddelandeprogram som WhatsApp och Instagram, erbjuder SLM snabbare svarstider och kan enkelt distribueras på en mängd olika enheter, vilket gör dem idealiska för realtidskundinteraktioner. Deras mindre storlek möjliggör effektiv prestanda utan att kompromissa med svarenas kvalitet.

Kan du diskutera hur SLM minskar sannolikheten för hallucinationer och förbättrar tillförlitligheten hos AI-svar?

SLM minskar sannolikheten för hallucinationer – fall där AI genererar felaktig eller meningslös information – genom att fokusera på en mindre, hanterbar uppsättning parametrar. För AI-baserade marknadsföringslösningar för meddelandeprogram, säkerställer denna fokuserade strategi mer förutsägbara och tillförlitliga svar, vilket förbättrar kundförtroende och engagemang. Den minskade komplexiteten hos SLM minimerar risken för att generera avvikande eller felaktigt innehåll, vilket förbättrar tillförlitligheten hos AI-interaktioner.

Kan du förklara varför SLM är särskilt fördelaktiga för återförsäljare, särskilt i sammanhanget med chatbots?

På grund av den stora mängden data som LLM matas med, är de ofta långsamma. Men meddelande- och konversationshandel kräver snabbare svarstider för att bättre och mer exakt betjäna kunder. För återförsäljare är SLM mer praktiska och fördelaktiga på grund av den detaljnivå de kan tillhandahålla inom detaljhandelsbranschen. Dessutom är SLM ofta billigare eftersom de är mer agile, vilket innebär att varje detaljhandelsföretag, från ett litet startup till en stor onlineåterförsäljare, kan utnyttja dem.

Hur erbjuder SLM mer personliga upplevelser för kunder jämfört med LLM?

SLM erbjuder mer personliga upplevelser för kunder genom att vara lättare att finjustera för specifika uppgifter och domäner. Deras mindre storlek möjliggör snabbare och mer effektiv anpassning, vilket möjliggör för företag att anpassa modellerna till de unika behoven och preferenserna hos deras kunder. Denna fokuserade anpassning resulterar i mer relevanta och personliga interaktioner, vilket förbättrar kundupplevelsen.

Hur integrerar Connectly SLM i sin plattform för att förbättra e-handelsförmågor?

Vi integrerar SLM i vår plattform för att förbättra e-handelsförmågor genom att utnyttja deras effektivitet och anpassningsförmåga. Dessa modeller möjliggör snabba och precisa kundinteraktioner på meddelandeprogram som WhatsApp och Instagram, vilket ger personliga produktrekommendationer och omedelbar kundsupport. Den lätta naturen hos SLM säkerställer att svaren är snabba och relevanta, vilket förbättrar den övergripande kundupplevelsen och driver engagemang.

Vilka är några specifika exempel på hur återförsäljare har lyckats implementera SLM i sina verksamheter?

Våra kunder har stor framgång med SLM. En modeåterförsäljare använder SLM för att ge personliga stylingsråd via WhatsApp, rekommenderar utifrån kundens tidigare inköp och preferenser. På samma sätt har en elektronikåterförsäljare distribuerat SLM på Instagram för att besvara kundfrågor om produktspecifikationer och tillgänglighet i realtid, vilket förbättrar shoppingupplevelsen och minskar belastningen på kundservicelag.

Varför bör återförsäljare överväga att gå från LLM till SLM för sina specifika affärsapplikationer?

Återförsäljare bör överväga att gå från LLM till SLM för sina specifika affärsapplikationer på grund av den ökade effektiviteten och kostnadseffektiviteten hos SLM. SLM är snabbare, kräver mindre beräkningskraft och kan enkelt finjusteras för specifika uppgifter, vilket gör dem idealiska för realtidskundinteraktioner på meddelandeprogram som WhatsApp och Instagram. Denna övergång kan leda till mer responsiva och personliga kundtjänster samtidigt som de minskar driftskostnaderna.

Vilka framtida framsteg inom SLM-teknologi är du mest entusiastisk över?

Jag är mest entusiastisk över framsteg inom SLM-teknologi som kommer att ytterligare förbättra deras effektivitet och precision. Till exempel kommer förbättringar inom transfer learning och finjusteringstekniker att göra SLM ännu mer skickade på specifika uppgifter med minimal data. Dessutom kommer integrationen av SLM med multimodala funktioner – som kombinerar text, röst och bilddata – att möjliggöra rikare och mer interaktiva kundupplevelser på plattformar som WhatsApp och Instagram. Dessa framsteg kommer att göra SLM ännu mer värdefulla för återförsäljare som vill ge personliga och engagerande kundinteraktioner.

Hur ser du på antagandet av SLM utvecklas under de närmaste åren inom detaljhandelsbranschen?

 Jag ser att antagandet av SLM inom detaljhandelsbranschen kommer att växa betydligt. När återförsäljare fortsätter att söka mer effektiva och kostnadseffektiva sätt att engagera sig med kunder, kommer snabbheten och anpassningsförmågan hos SLM att bli alltmer värdefulla. SLM kommer att integreras mer omfattande i kundservicelösningar, marknadsföringskampanjer och personliga shoppingupplevelser på meddelandeappar som WhatsApp och Instagram, till och med på TikTok. Denna förändring kommer att hjälpa återförsäljare att ge snabbare, mer personliga interaktioner, vilket förbättrar kundtillfredsställelse och lojalitet.

Tack för den utmärkta intervjun, läsare som vill lära sig mer bör besöka Connectly.