Яндонг Ліу, співзасновник та технічний директор Connectly – Інтерв’ю серії

Яндонг Ліу є співзасновником і технічним директором Connectly.ai. Раніше він працював у Strava на посаді технічного директора. Яндонг Ліу відвідував Університет Карнегі-Меллона.

Заснована у 2021 році, Connectly є лідером у сфері розмовного штучного інтелекту (AI). Використовуючи власні моделі AI, платформа Connectly автоматизує спілкування бізнесу з клієнтами та продаж продуктів на будь-якій платформі повідомлень. Connectly дозволяє проводити весь шлях клієнта – від продажів та маркетингу до досвіду клієнта та підтримки – всередині платформи повідомлень клієнта.

Чи можете ви поділитися історією створення Connectly?

Connectly народився з бачення стати лідером у сфері розмовного AI. Мій співзасновник, Стефанос, і я познайомилися через спільного друга у спільноті засновників і пов’язалися через спільну пристрасть до майбутнього повідомлень. З моїм досвідом керівництва технічними командами у Strava та Uber і досвідом Стефаноса з управління Facebook (META ) Messenger, ми вирушили створити AI-підтримку інфраструктури майбутнього, допомагаючи бізнесу зробити найкраще з повідомлень клієнтів у все складнішому екосистемі.

Що саме таке Малі Моделі Мови (SLM), і як вони відрізняються від Великих Моделей Мови (LLM)?

SLM – це моделі AI, призначені для розуміння та генерації людської мови, але з меншою кількістю параметрів і обчислювальними вимогами порівняно з Великими Моделями Мови. У контексті рішень AI для маркетингу на платформах повідомлень, таких як WhatsApp і Instagram, SLM забезпечують швидші часи відповідей і можуть бути легко розгорнуті на різних пристроях, що робить їх ідеальними для взаємодії з клієнтами в режимі реального часу. Їх менший розмір дозволяє забезпечувати ефективну продуктивність без компромісу якості відповідей.

Чи можете ви обговорити, як SLM зменшують ймовірність галюцинацій і покращують надійність відповідей AI?

SLM зменшують ймовірність галюцинацій – випадків, коли AI генерує неправильну або безглузду інформацію – шляхом фокусування на меншій, більш керованій множині параметрів. Для рішень AI для маркетингу на платформах повідомлень це зосереджений підхід забезпечує більш передбачувані та надійні відповіді, підвищуючи довіру клієнтів та взаємодію. Зменшена складність SLM мінімізує шанси генерації некоректного або помилкового вмісту, покращуючи загальну надійність взаємодій AI.

Чи можете ви пояснити, чому SLM особливо корисні для рітейлерів, особливо в контексті чат-ботів?

Через велику кількість даних, які обробляються LLM, вони часто повільні. Однак повідомлення та конверсійна комерція вимагають швидшого часу відповіді, щоб краще і більш точно обслуговувати клієнтів. Для рітейлерів SLM більш практичні та вигідні через рівень деталізації, який вони можуть забезпечити в рітейл-індустрії. Крім того, SLM часто дешевші, оскільки вони більш гнучкі, що означає, що кожна рітейл-компанія, від малого стартапу до великого онлайн-рітейлера, може використовувати їх.

Як SLM пропонують більш персоналізовані досвіди для клієнтів порівняно з LLM?

SLM пропонують більш персоналізовані досвіди для клієнтів, оскільки вони легше налаштовуються для конкретних завдань і доменів. Їх менший розмір дозволяє швидше і більш ефективне налаштування, дозволяючи бізнесу адаптувати моделі до унікальних потреб і переваг клієнтів. Це зосереджене налаштування призводить до більш актуальних і персоналізованих взаємодій, покращуючи досвід клієнта.

Як Connectly інтегрує SLM у свою платформу для покращення можливостей електронної комерції?

Ми інтегруємо SLM у нашу платформу для покращення можливостей електронної комерції шляхом використання їх ефективності та адаптивності. Ці моделі дозволяють швидко і точно взаємодіяти з клієнтами на платформах повідомлень, таких як WhatsApp і Instagram, забезпечуючи персоналізовані рекомендації продуктів і миттєву підтримку клієнтів. Легкий характер SLM забезпечує, що відповіді швидкі та актуальні, покращуючи загальний досвід клієнта та взаємодію.

Які конкретні приклади того, як рітейлери успішно реалізували SLM у своїй діяльності?

Наші клієнти мають великий успіх з SLM. Рітейлер моди використовує SLM для надання персоналізованої стилістичної поради через WhatsApp, рекомендуючи наряди на основі попередніх покупок і переваг клієнта. Аналогічно, рітейлер електроніки розгорнув SLM на Instagram, щоб відповісти на запитання клієнтів про функції продукту та наявність у режимі реального часу, покращуючи досвід покупок і знижуючи навантаження на команди підтримки клієнтів.

Чому рітейлери повинні розглянути перехід з LLM на SLM для своїх конкретних бізнес-застосунків?

Рітейлери повинні розглянути перехід з LLM на SLM для своїх конкретних бізнес-застосунків через підвищену ефективність і вартість SLM. SLM швидші, потребують менше обчислювальної потужності та можуть бути легко налаштовані для конкретних завдань, що робить їх ідеальними для взаємодій з клієнтами в режимі реального часу на платформах повідомлень, таких як WhatsApp і Instagram. Цей перехід може привести до більш швидкої та персоналізованої служби клієнтів, а також зменшити операційні витрати.

Які майбутні вдосконалення технології SLM вас найбільш цікавлять?

Я найбільш цікавлюсь вдосконаленнями технології SLM, які ще більше покращать їх ефективність і точність. Наприклад, покращення технік переносимого навчання та налаштування дозволять SLM стати ще більш придатними для конкретних завдань з мінімальними даними. Крім того, інтеграція SLM з мультимодальними можливостями – поєднання текстових, голосових та зображень даних – дозволить забезпечити більш багаті та інтерактивні досвіди клієнтів на платформах, таких як WhatsApp і Instagram. Ці вдосконалення зроблять SLM ще більш цінними для рітейлерів, які бажають забезпечити персоналізовані та привабливі взаємодії з клієнтами.

Як ви бачите розвиток прийняття SLM у рітейл-індустрії протягом наступних кількох років?

 Я бачу розвиток прийняття SLM у рітейл-індустрії зростаючим. Коли рітейлери продовжують шукати більш ефективні та вартісні способи взаємодії з клієнтами, швидкість та адаптивність SLM стануть все більш цінними. SLM будуть інтегровані ширше у платформи обслуговування клієнтів, маркетингові кампанії та персоналізовані покупки на повідомленнях, таких як WhatsApp і Instagram, навіть на TikTok. Цей перехід допоможе рітейлерам забезпечити швидшу та більш персоналізовану взаємодію, покращуючи задоволеність клієнтів та лояльність.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Connectly.