Yandong Liu, medgrundare och CTO på Connectly – Intervjuserie

Yandong Liu är medgrundare och CTO på Connectly.ai. Han har tidigare arbetat på Strava som CTO. Yandong Liu har studerat vid Carnegie Mellon University.

Connectly, som grundades 2021, är ledande inom konversationell artificiell intelligens (AI). Genom att använda proprietära AI-modeller automatiserar Connectlys plattform hur företag kommunicerar med sina kunder och säljer sina produkter på alla möjliga meddelandeprogram. Connectly möjliggör hela kundresan – från försäljning och marknadsföring till kundupplevelse och support – att genomföras inom kundens föredragna meddelandeprogram.

Kan du dela med dig av den bakomliggande historien bakom Connectly?

Connectly föddes ur visionen att bli ledande inom konversationell AI. Min medgrundare, Stefanos, och jag träffades genom en gemensam vän i grundarsamhället och knöt an över en gemensam passion för framtidens meddelande. Med min bakgrund inom att leda tekniska team på Strava och Uber, och Stefanos erfarenhet av att ha ansvarat för Facebook (META ) Messenger, satte vi oss att skapa den AI-drivna infrastrukturen för framtiden, som hjälper företag att utnyttja sina kundmeddelanden på bästa sätt i en alltmer komplex miljö.

Vad är exakt Small Language Models (SLMs), och hur skiljer de sig från Large Language Models (LLMs)?

SLMs är AI-modeller som är utformade för att förstå och generera mänskligt språk, men med färre parametrar och beräkningskrav jämfört med Large Language Models. I sammanhanget med AI-marknadsföringslösningar för meddelandeprogram som WhatsApp och Instagram, erbjuder SLMs snabbare svarstider och kan enkelt distribueras på en mängd olika enheter, vilket gör dem idealiska för realtidskundinteraktioner. Deras mindre storlek möjliggör effektiv prestanda utan att kompromissa med svarenas kvalitet.

Kan du diskutera hur SLMs minskar sannolikheten för hallucinationer och förbättrar tillförlitligheten hos AI-svar?

SLMs minskar sannolikheten för hallucinationer – tillfällen då AI genererar felaktig eller meningslös information – genom att fokusera på en mindre, mer hanterbar uppsättning parametrar. För AI-baserade marknadsföringslösningar för meddelandeprogram, garanterar denna fokuserade tillvägagångssätt mer förutsägbara och tillförlitliga svar, vilket förbättrar kundförtroende och engagemang. Den minskade komplexiteten hos SLMs minimerar chanserna för att generera avvikande eller felaktigt innehåll, vilket förbättrar den övergripande tillförlitligheten hos AI-interaktioner.

Kan du förklara varför SLMs är särskilt fördelaktiga för återförsäljare, särskilt i sammanhanget med chatbotar?

På grund av den stora mängden data som LLMs matas med, är de ofta långsamma. Men meddelande- och konversationshandel kräver snabbare svarstider för att bättre och mer exakt betjäna kunder. För återförsäljare är SLMs mer praktiska och fördelaktiga på grund av den detaljnivå de kan tillhandahålla inom detaljhandeln. Dessutom är SLMs ofta billigare eftersom de är mer agila, vilket innebär att varje återförsäljare, från en liten startup till en stor online-återförsäljare, kan utnyttja dem.

Hur erbjuder SLMs mer personliga upplevelser för kunder jämfört med LLMs?

SLMs erbjuder mer personliga upplevelser för kunder genom att vara lättare att finjustera för specifika uppgifter och domäner. Deras mindre storlek möjliggör snabbare och mer effektiv anpassning, vilket möjliggör för företag att anpassa modellerna till de unika behoven och preferenserna hos deras kunder. Denna fokuserade anpassning resulterar i mer relevanta och personliga interaktioner, vilket förbättrar kundupplevelsen.

Hur integrerar Connectly SLMs i sin plattform för att förbättra e-handelsförmågor?

Vi integrerar SLMs i vår plattform för att förbättra e-handelsförmågor genom att utnyttja deras effektivitet och anpassningsförmåga. Dessa modeller möjliggör snabba och precisa kundinteraktioner på meddelandeprogram som WhatsApp och Instagram, och tillhandahåller personliga produktrekommendationer och omedelbar kundsupport. Den lätta naturen hos SLMs garanterar att svaren är snabba och relevanta, vilket förbättrar den övergripande kundupplevelsen och driver engagemang.

Vilka är några specifika exempel på hur återförsäljare har lyckats implementera SLMs i sin verksamhet?

Våra kunder har stor framgång med SLMs. En modeåterförsäljare använder SLMs för att ge personliga stylingsråd via WhatsApp, och rekommenderar utifrån kundens tidigare inköp och preferenser. På liknande sätt har en elektronikåterförsäljare distribuerat SLMs på Instagram för att besvara kundfrågor om produktfunktioner och tillgänglighet i realtid, vilket förbättrar shoppingupplevelsen och minskar belastningen på kundtjänstteam.

Varför bör återförsäljare överväga att gå från LLMs till SLMs för sina specifika affärsapplikationer?

Återförsäljare bör överväga att gå från LLMs till SLMs för sina specifika affärsapplikationer på grund av den ökade effektiviteten och kostnadseffektiviteten hos SLMs. SLMs är snabbare, kräver mindre beräkningskraft och kan enkelt finjusteras för specifika uppgifter, vilket gör dem idealiska för realtidskundinteraktioner på meddelandeprogram som WhatsApp och Instagram. Denna övergång kan leda till mer responsiv och personlig kundservice samtidigt som den minskar driftskostnaderna.

Vilka framtida framsteg inom SLM-teknologi är du mest entusiastisk över?

Jag är mest entusiastisk över framsteg inom SLM-teknologi som ytterligare kommer att förbättra deras effektivitet och noggrannhet. Till exempel kommer förbättringar inom transfer learning och finjusteringstekniker att göra det möjligt för SLMs att bli ännu mer skickade på specifika uppgifter med minimal data. Dessutom kommer integrationen av SLMs med multimodala funktioner – som kombinerar text, röst och bilddata – att möjliggöra rikare och mer interaktiva kundupplevelser på plattformar som WhatsApp och Instagram. Dessa framsteg kommer att göra SLMs ännu mer värdefulla för återförsäljare som vill tillhandahålla personliga och engagerande kundinteraktioner.

Hur ser du på antagandet av SLMs utvecklas under de kommande åren inom detaljhandeln?

 Jag ser att antagandet av SLMs inom detaljhandeln kommer att öka betydligt. När återförsäljare fortsätter att söka efter mer effektiva och kostnadseffektiva sätt att engagera kunder, kommer hastigheten och anpassningsförmågan hos SLMs att bli alltmer värdefulla. SLMs kommer att integreras mer omfattande i kundtjänstplattformar, marknadsföringskampanjer och personliga shoppingupplevelser på meddelandeappar som WhatsApp och Instagram, även på TikTok. Denna förändring kommer att hjälpa återförsäljare att tillhandahålla snabbare, mer personliga interaktioner, vilket förbättrar kundtillfredsställelse och lojalitet.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Connectly.