Yandong Liu, Współzałożyciel i CTO w Connectly – Seria wywiadów

Yandong Liu jest współzałożycielem i CTO w Connectly.ai. Wcześniej pracował w Strava jako CTO. Yandong Liu uczęszczał do Carnegie Mellon University.

Założona w 2021 roku, Connectly jest liderem w dziedzinie sztucznej inteligencji konwersacyjnej (AI). Wykorzystując własne modele AI, platforma Connectly automatyzuje sposób, w jaki firmy komunikują się ze swoimi klientami i sprzedają produkty na różnych platformach messagingowych. Connectly umożliwia prowadzenie całej podróży klienta – od sprzedaży i marketingu po doświadczenie i wsparcie klienta – w ramach preferowanej platformy messagingowej klienta.

Czy możesz podzielić się historią powstania Connectly?

Connectly powstało z wizji zostania liderem w dziedzinie sztucznej inteligencji konwersacyjnej. Mój współzałożyciel, Stefanos, i ja spotkaliśmy się przez wspólnego znajomego w społeczności założycieli i związaliśmy się wspólną pasją do przyszłości messagingu. Z moim doświadczeniem w kierowaniu zespołami technologicznymi w Strava i Uber oraz doświadczeniem Stefanosa w nadzorowaniu Facebook (META ) Messenger, postanowiliśmy stworzyć infrastrukturę AI przyszłości, pomagając firmom w pełni wykorzystać wiadomości klientów w coraz bardziej złożonym ekosystemie.

Czym dokładnie są Małe Modele Językowe (SLM), i jak różnią się one od Dużych Modeli Językowych (LLM)?

SLM to modele AI zaprojektowane do zrozumienia i generowania języka ludzkiego, ale z mniejszą liczbą parametrów i wymagań obliczeniowych w porównaniu z Dużymi Modelami Językowymi. W kontekście rozwiązań marketingowych AI dla platform messagingowych, takich jak WhatsApp i Instagram, SLM zapewniają szybsze czasy odpowiedzi i mogą być łatwo wdrożone na różnych urządzeniach, co sprawia, że są idealne do interakcji z klientami w czasie rzeczywistym. Ich mniejszy rozmiar pozwala na wydajne działanie bez kompromisowania jakości odpowiedzi.

Czy możesz omówić, jak SLM redukują prawdopodobieństwo halucynacji i poprawiają niezawodność odpowiedzi AI?

SLM redukują prawdopodobieństwo halucynacji – przypadków, w których AI generuje błędne lub nonsensowne informacje – poprzez skupienie się na mniejszym, bardziej zarządzalnym zestawie parametrów. Dla rozwiązań marketingowych AI opartych na messagingu, ten ukierunkowany podejście zapewnia bardziej przewidywalne i niezawodne odpowiedzi, zwiększając zaufanie i zaangażowanie klientów. Zmniejszona złożoność SLM minimalizuje szanse generowania treści pozamaterialnej lub błędnej, co poprawia ogólną niezawodność interakcji AI.

Czy możesz wyjaśnić, dlaczego SLM są szczególnie korzystne dla detalistów, zwłaszcza w kontekście chatbotów?

Z powodu dużej ilości danych, które LLM są karmione, są one często wolne. Jednak messaging i handel konwersacyjny wymagają szybszego czasu odpowiedzi, aby lepiej i bardziej dokładnie obsługiwać klientów. Dla detalistów SLM są bardziej praktyczne i korzystne ze względu na poziom szczegółowości, jaki mogą zapewnić w branży detalicznej. Ponadto SLM są często tańsze, ponieważ są bardziej zwinnymi, co oznacza, że każda firma detaliczna, od małego startupu po dużego detalistę online, może je wykorzystać.

Jak SLM oferują bardziej personalizowane doświadczenia dla klientów w porównaniu z LLM?

SLM oferują bardziej personalizowane doświadczenia dla klientów, ponieważ są łatwiejsze do dostosowania do konkretnych zadań i dziedzin. Ich mniejszy rozmiar pozwala na szybsze i bardziej efektywne dostosowanie, umożliwiając firmom dostosowanie modeli do unikalnych potrzeb i preferencji ich klientów. To ukierunkowane dostosowanie prowadzi do bardziej istotnych i personalizowanych interakcji, co poprawia doświadczenie klienta.

Jak Connectly integruje SLM ze swoją platformą, aby poprawić możliwości e-commerce?

Integrujemy SLM ze swoją platformą, aby poprawić możliwości e-commerce, wykorzystując ich wydajność i adaptacyjność. Te modele umożliwiają szybkie i dokładne interakcje z klientami na platformach messagingowych, takich jak WhatsApp i Instagram, zapewniając personalizowane rekomendacje produktów i natychmiastowe wsparcie klienta. Lekka natura SLM zapewnia, że odpowiedzi są szybkie i istotne, co poprawia ogólne doświadczenie klienta i zwiększa zaangażowanie.

Jakie są konkretnymi przykładami, w jaki sposób detalści z powodzeniem wdrożyli SLM w swoich operacjach?

Nasi klienci odnoszą sukcesy z SLM. Detalista odzieży wykorzystuje SLM do zapewnienia personalizowanych porad stylistycznych za pośrednictwem WhatsApp, rekomendując stroje na podstawie poprzednich zakupów i preferencji klienta. Podobnie detalista elektroniki wdrożył SLM na Instagramie, aby odpowiedzieć na pytania klientów dotyczące funkcji i dostępności produktów w czasie rzeczywistym, co poprawiło doświadczenie zakupowe i zmniejszyło obciążenie zespołów wsparcia klienta.

Dlaczego detalista powinien rozważyć przejście z LLM na SLM dla swoich konkretnych aplikacji biznesowych?

Detalista powinien rozważyć przejście z LLM na SLM ze względu na zwiększoną wydajność i efektywność kosztową SLM. SLM są szybsze, wymagają mniej mocy obliczeniowej i mogą być łatwo dostosowane do konkretnych zadań, co sprawia, że są idealne do interakcji z klientami w czasie rzeczywistym na platformach messagingowych, takich jak WhatsApp i Instagram. To przejście może prowadzić do bardziej responsywnego i personalizowanego obsługi klienta, przy jednoczesnym zmniejszeniu kosztów operacyjnych.

Jakie przyszłe postępy w technologii SLM są Ci najbardziej interesujące?

Jestem najbardziej zainteresowany postępami w technologii SLM, które jeszcze bardziej poprawią ich wydajność i dokładność. Na przykład ulepszenia w technice transfer learning i fine-tuning pozwolą SLM stać się jeszcze bardziej zdolnymi do konkretnych zadań z minimalnymi danymi. Ponadto integracja SLM z funkcjonalnościami multimodalnymi – łącząc dane tekstowe, głosowe i obrazowe – umożliwi bogatsze i bardziej interaktywne doświadczenia klienta na platformach takich jak WhatsApp i Instagram. Te postępy sprawią, że SLM staną się jeszcze bardziej wartościowe dla detalistów, którzy chcą zapewnić personalizowane i angażujące interakcje z klientami.

Jak widzisz przyszłą adopcję SLM w branży detalicznej w ciągu najbliższych kilku lat?

 Widzę, że adopcja SLM w branży detalicznej będzie rosła znacznie. Ponieważ detalista będzie szukał bardziej wydajnych i efektywnych kosztowo sposobów na zaangażowanie klientów, szybkość i adaptacyjność SLM staną się coraz bardziej wartościowe. SLM będą coraz bardziej integrowane z platformami obsługi klienta, kampaniami marketingowymi i personalizowanymi doświadczeniami zakupowymi na aplikacjach messagingowych, takich jak WhatsApp i Instagram, nawet na TikTok. To przejście pomoże detalistom zapewnić szybsze, bardziej personalizowane interakcje, co poprawi satysfakcję i lojalność klientów.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Connectly.