Yandong Liu, spoluzakladatel a technický ředitel ve společnosti Connectly – rozhovorová série

Yandong Liu je spoluzakladatel a technický ředitel ve společnosti Connectly.ai. Předtím pracoval ve společnosti Strava jako technický ředitel. Yandong Liu studoval na Carnegie Mellon University.

Založena v roce 2021, Connectly je lídr v oblasti konverzační umělé inteligence (AI). Díky vlastním modelům AI automatizuje Connectlyova platforma, jak podniky komunikují se svými zákazníky a prodávají své produkty napříč všemi platformami pro zasílání zpráv. Connectly umožňuje, aby celý zákaznický proces – od prodeje a marketingu po zákaznickou zkušenost a podporu – probíhal v rámci preferované platformy pro zasílání zpráv zákazníka.

Můžete sdílet příběh vzniku Connectly?

Connectly vznikla z vize stát se lídrem v oblasti konverzační AI. Můj spoluzakladatel, Stefanos, a já se seznámili prostřednictvím společného přítele ve fondu zakladatelů a spojoval nás společný zápal pro budoucnost zasílání zpráv. S mým pozadím vedení technologických týmů ve společnostech Strava a Uber a Stefanosovými zkušenostmi s dohledem nad Facebook Messenger, jsme se rozhodli vytvořit AI poháněnou infrastrukturu budoucnosti, která pomůže podnikům využít maximum ze svých zákaznických zpráv v stále složitějším ekosystému.

Co přesně jsou malé jazykové modely (SLM) a jak se liší od velkých jazykových modelů (LLM)?

SLM jsou modely AI navržené pro pochopení a generování lidského jazyka, ale s méně parametry a výpočetními požadavky ve srovnání s velkými jazykovými modely. V kontextu AI marketingových řešení pro platformy pro zasílání zpráv, jako je WhatsApp a Instagram, poskytují SLM rychlejší časy reakce a lze je snadno nasadit na různých zařízeních, což je činí ideálními pro reálné zákaznické interakce. Jejich menší velikost umožňuje efektivní výkon bez kompromisů v kvalitě odpovědí.

Můžete diskutovat o tom, jak SLM snižují pravděpodobnost halucinací a zlepšují spolehlivost AI odpovědí?

SLM snižují pravděpodobnost halucinací – případů, kdy AI generuje nesprávné nebo nesmyslné informace – zaměřením se na menší, lépe zvládnutelnou sadu parametrů. Pro AI-zasílání zpráviček založená marketingová řešení zajišťuje tento zaměřený přístup více předvídatelné a spolehlivé odpovědi, zlepšující zákaznickou důvěru a zapojení. Snížená komplexita SLM minimalizuje šance na generování mimo téma nebo chybného obsahu, zlepšující celkovou spolehlivost AI interakcí.

Můžete vysvětlit, proč jsou SLM zvláště prospěšné pro maloobchodníky, zejména v kontextu chatbotů?

Vzhledem k velkým množství dat, která jsou LLM krmena, jsou často pomalá. Nicméně, zasílání zpráv a konverzační obchod vyžadují rychlejší čas reakce, aby lépe a přesněji obsloužily zákazníky. Pro maloobchodníky jsou SLM praktičtější a prospěšnější kvůli úrovni detailů, které mohou poskytnout v maloobchodním průmyslu. Kromě toho jsou SLM často levnější, protože jsou více agilní, což znamená, že je může využít každá maloobchodní společnost, od malé start-upové společnosti po velkou online maloobchodní společnost.

Jak SLM nabízejí více personalizovaných zkušeností pro zákazníky ve srovnání s LLM?

SLM nabízejí více personalizovaných zkušeností pro zákazníky tím, že jsou snazší přizpůsobit pro konkrétní úkoly a domény. Jejich menší velikost umožňuje rychlejší a efektivnější přizpůsobení, umožňující podnikům přizpůsobit modely jedinečným potřebám a preferencím jejich zákazníků. Toto zaměřené přizpůsobení vede k více relevantním a personalizovaným interakcím, zlepšujícím zákaznickou zkušenost.

Jak Connectly integruje SLM do své platformy, aby zlepšila e-commerce schopnosti?

Integrujeme SLM do naší platformy, aby zlepšila e-commerce schopnosti, využívající jejich efektivitu a adaptabilitu. Tyto modely umožňují rychlé a přesné zákaznické interakce na platformách pro zasílání zpráv, jako je WhatsApp a Instagram, poskytují personalizované produktové doporučení a okamžité zákaznické podpory. Lehká povaha SLM zajišťuje, že odpovědi jsou rychlé a relevantní, zlepšující celkovou zákaznickou zkušenost a pohánějící zapojení.

Jaké jsou některé konkrétní příklady toho, jak maloobchodníci úspěšně implementovali SLM ve svých operacích?

Naši klienti mají velký úspěch se SLM. Módní maloobchodník využívá SLM k poskytování personalizovaného stylingového poradenství prostřednictvím WhatsApp, doporučujícího oblečení na základě předchozích nákupů a preferencí zákazníka. Podobně, elektronikový maloobchodník nasadil SLM na Instagram, aby zodpověděl zákaznické dotazy o funkcích produktů a dostupnosti v reálném čase, zlepšující nákupní zkušenost a snižující zátěž na zákaznické podpory.

Proč by maloobchodníci měli zvážit přechod z LLM na SLM pro své konkrétní obchodní aplikace?

Maloobchodníci by měli zvážit přechod z LLM na SLM pro své konkrétní obchodní aplikace kvůli zvýšené efektivitě a nákladové efektivitě SLM. SLM jsou rychlejší, vyžadují méně výpočetní síly a lze je snadno přizpůsobit pro konkrétní úkoly, což je činí ideálními pro reálné zákaznické interakce na platformách pro zasílání zpráv, jako je WhatsApp a Instagram. Tento přechod může vést k více responsivnímu a personalizovanému zákaznickému servisu, zatímco snižuje provozní náklady.

Na jaké budoucí pokroky v technologii SLM se těšíte nejvíce?

Těším se na pokroky v technologii SLM, které dále zvýší jejich efektivitu a přesnost. Například, zlepšení techniky přenosového učení a jemného ladění umožní SLM stát se ještě více způsobilými pro konkrétní úkoly s minimálními daty. Kromě toho, integrace SLM s multimodálními schopnostmi – kombinací textu, hlasu a obrazových dat – umožní bohatší a interaktivnější zákaznické zkušenosti na platformách, jako je WhatsApp a Instagram. Tyto pokroky učiní SLM ještě více cennými pro maloobchodníky, kteří hledají personalizované a interaktivní zákaznické interakce.

Jak vidíte přijetí SLM v příštích letech v maloobchodním průmyslu?

Vidím přijetí SLM v maloobchodním průmyslu rostoucí významně. Jak maloobchodníci budou pokračovat ve hledání více efektivních a nákladově efektivních způsobů, jak komunikovat se zákazníky, bude rychlost a adaptabilita SLM stále více cenná. SLM budou integrovány více do zákaznických servisních platforem, marketingových kampaní a personalizovaných nákupních zkušeností na platformách pro zasílání zpráv, jako je WhatsApp a Instagram, dokonce i na TikTok. Tento posun pomůže maloobchodníkům poskytovat rychlejší, více personalizované interakce, zlepšující zákaznickou spokojenost a loajalitu.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Connectly.