Yandong Liu, spoluzakladatel a technický ředitel ve společnosti Connectly – rozhovor

Yandong Liu je spoluzakladatel a technický ředitel ve společnosti Connectly.ai. Předtím pracoval ve společnosti Strava jako technický ředitel. Yandong Liu studoval na Carnegie Mellon University.

Společnost Connectly, založená v roce 2021, je lídr v oblasti konverzační umělé inteligence (AI). Díky vlastním modelům AI umožňuje platforma Connectly automatizovat komunikaci firem se zákazníky a prodej produktů na jakékoli platformě pro zasílání zpráv. Connectly umožňuje realizovat celý zákaznický proces – od prodeje a marketingu po zákaznickou zkušenost a podporu – přímo na preferované platformě pro zasílání zpráv zákazníka.

Můžete sdílet příběh vzniku Connectly?

Connectly vznikl z naší vize stát se lídrem v oblasti konverzační AI. Můj spoluzakladatel Stefanos a já se seznámili prostřednictvím společného přítele ve fondu zakladatelů a sdíleli jsme vášeň pro budoucnost zasílání zpráv. S mým zázemím ve vedení technologických týmů ve společnostech Strava a Uber a Stefanosovými zkušenostmi s dohledem nad Facebook (META ) Messengerem jsme se rozhodli vytvořit AI poháněnou infrastrukturu budoucnosti, která pomůže firmám využít maximum ze svých zákaznických zpráv v stále složitějším ekosystému.

Co přesně jsou Small Language Models (SLMs) a jak se liší od Large Language Models (LLMs)?

SLMs jsou modely AI navržené pro pochopení a generování lidského jazyka, ale s menšími parametry a výpočetními požadavky ve srovnání s Large Language Models. V kontextu AI marketingových řešení pro platformy pro zasílání zpráv, jako je WhatsApp a Instagram, poskytují SLMs rychlejší reakční časy a lze je snadno nasadit na různých zařízeních, což je ideální pro reálné zákaznické interakce. Jejich menší velikost umožňuje efektivní výkon bez kompromisů v kvalitě odpovědí.

Můžete diskutovat o tom, jak SLMs snižují pravděpodobnost halucinací a zlepšují spolehlivost AI odpovědí?

SLMs snižují pravděpodobnost halucinací – případů, kdy AI generuje nesprávné nebo nesmyslné informace – zaměřením se na menší, lépe zvladatelnou sadu parametrů. Pro AI-zasílání zpráv založená marketingová řešení zajišťuje tento zaměřený přístup více předvídatelné a spolehlivé odpovědi, což zvyšuje zákaznickou důvěru a zapojení. Snížená složitost SLMs minimalizuje šance na generování mimo téma nebo chybného obsahu, a tím zlepšuje celkovou spolehlivost AI interakcí.

Můžete vysvětlit, proč jsou SLMs zvláště prospěšné pro maloobchodníky, zejména v kontextu chatbotů?

Z důvodu velkého množství dat, která LLMs přijímají, jsou často pomalé. Avšak zasílání zpráv a konverzační obchod vyžadují rychlejší reakční čas, aby mohli lépe a přesněji obsloužit zákazníky. Pro maloobchodníky jsou SLMs více praktické a prospěšné díky úrovni detailů, které mohou poskytnout v maloobchodním průmyslu. Kromě toho jsou SLMs často levnější, protože jsou více agilní, což znamená, že je může využít každá maloobchodní společnost, od malé start-up firmy po velkou online maloobchodní společnost.

Jak SLMs nabízejí více personalizovaných zkušeností pro zákazníky ve srovnání s LLMs?

SLMs nabízejí více personalizovaných zkušeností pro zákazníky tím, že jsou snazší na jemné doladění pro specifické úkoly a domény. Jejich menší velikost umožňuje rychlejší a efektivnější přizpůsobení, což umožňuje firmám přizpůsobit modely jedinečným potřebám a preferencím svých zákazníků. Toto zaměřené přizpůsobení vede k více relevantním a personalizovaným interakcím, což zlepšuje zákaznickou zkušenost.

Jak Connectly integruje SLMs do své platformy, aby zlepšila e-commerce schopnosti?

Integrujeme SLMs do naší platformy, aby zlepšily e-commerce schopnosti využíváním jejich efektivity a adaptability. Tyto modely umožňují rychlé a přesné zákaznické interakce na platformách pro zasílání zpráv, jako je WhatsApp a Instagram, poskytují personalizovaná produktová doporučení a okamžitou zákaznickou podporu. Lehká povaha SLMs zajišťuje, že odpovědi jsou rychlé a relevantní, což zlepšuje celkovou zákaznickou zkušenost a zvyšuje zapojení.

Můžete uvést konkrétní příklady toho, jak maloobchodníci úspěšně implementovali SLMs do svých operací?

Naši klienti mají velký úspěch se SLMs. Módní maloobchodník využívá SLMs k poskytování personalizovaných stylingových rad prostřednictvím WhatsApp, doporučujících outfitů na základě předchozích nákupů a preferencí zákazníka. Podobně elektronický maloobchodník nasadil SLMs na Instagram, aby zákazníkům odpověděl na dotazy o funkcích a dostupnosti produktů v reálném čase, což zlepšilo nákupní zkušenost a snížilo zátěž zákaznické podpory.

Proč by maloobchodníci měli zvažovat přechod z LLMs na SLMs pro své konkrétní obchodní aplikace?

Maloobchodníci by měli zvažovat přechod z LLMs na SLMs pro své konkrétní obchodní aplikace kvůli zvýšené efektivity a nákladové efektivitě SLMs. SLMs jsou rychlejší, vyžadují méně výpočetní síly a lze je snadno přizpůsobit pro specifické úkoly, což je činí ideálními pro reálné zákaznické interakce na platformách pro zasílání zpráv, jako je WhatsApp a Instagram. Tento přechod může vést k více responsivní a personalizované zákaznické službě, zatímco snižuje provozní náklady.

Jaké budoucí pokroky ve technologii SLM vás nejvíce zajímají?

Jsem nejvíce nadšený z pokroků ve technologii SLM, které dále zvýší jejich efektivitu a přesnost. Například zlepšení techniky transfer learning a jemného doladění umožní SLMs stát se ještě více schopnými pro specifické úkoly s minimálními daty. Kromě toho integrace SLMs s multimodálními schopnostmi – kombinací textu, hlasu a obrazových dat – umožní bohatší a interaktivnější zákaznické zkušenosti na platformách, jako je WhatsApp a Instagram. Tyto pokroky učiní SLMs ještě více cennými pro maloobchodníky, kteří hledají personalizované a interaktivní zákaznické interakce.

Jak vidíte budoucí přijetí SLMs v maloobchodním průmyslu v příštích několika letech?

 Vidím přijetí SLMs v maloobchodním průmyslu rostoucí významně. Jak maloobchodníci budou pokračovat ve hledání více efektivní a nákladově efektivní cesty, jak komunikovat se zákazníky, rychlost a adaptabilita SLMs se stanou stále více cennými. SLMs budou integrovány více do zákaznické podpory, marketingových kampaní a personalizovaných nákupních zkušeností na platformách pro zasílání zpráv, jako je WhatsApp a Instagram, dokonce i na TikTok. Tento posun pomůže maloobchodníkům poskytovat rychlejší a více personalizované interakce, zlepšující zákaznickou spokojenost a loajalitu.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí dozvědět více, by měli navštívit Connectly.