Yandong Liu, Co-Founder & CTO di Connectly – Seri Wawancara

Yandong Liu adalah Co-founder dan CTO di Connectly.ai. Sebelumnya, ia bekerja di Strava sebagai CTO. Yandong Liu bersekolah di Carnegie Mellon University.

Didirikan pada 2021, Connectly adalah pemimpin dalam kecerdasan buatan (AI) konversasional. Dengan menggunakan model AI paten, platform Connectly mengotomatisasi cara bisnis berkomunikasi dengan pelanggan dan menjual produk di seluruh platform messaging. Connectly memungkinkan seluruh perjalanan pelanggan – dari penjualan dan pemasaran hingga pengalaman pelanggan dan dukungan – untuk dilakukan dalam platform messaging yang dipilih pelanggan.

Apakah Anda dapat membagikan kisah di balik Connectly?

Connectly lahir dari visi untuk menjadi pemimpin dalam kecerdasan buatan konversasional. Saya dan co-founder saya, Stefanos, bertemu melalui teman bersama di komunitas pendiri dan terhubung karena passion kita terhadap masa depan messaging. Dengan latar belakang saya memimpin tim teknologi di Strava dan Uber, serta pengalaman Stefanos dalam mengawasi Facebook (META ) Messenger, kita bertekad untuk menciptakan infrastruktur AI yang akan datang, membantu bisnis membuat yang terbaik dari pesan pelanggan dalam ekosistem yang semakin kompleks.

Apa itu Model Bahasa Kecil (SLMs), dan bagaimana mereka berbeda dari Model Bahasa Besar (LLMs)?

SLMs adalah model AI yang dirancang untuk memahami dan menghasilkan bahasa manusia tetapi dengan parameter dan persyaratan komputasi yang lebih sedikit dibandingkan dengan Model Bahasa Besar. Dalam konteks solusi pemasaran AI untuk platform messaging seperti WhatsApp dan Instagram, SLMs menyediakan waktu respons yang lebih cepat dan dapat diterapkan pada berbagai perangkat, membuatnya ideal untuk interaksi pelanggan secara real-time. Ukuran yang lebih kecil memungkinkan kinerja yang efisien tanpa mengorbankan kualitas respons.

Bagaimana SLMs mengurangi kemungkinan halusinasi dan meningkatkan keandalan respons AI?

SLMs mengurangi kemungkinan halusinasi—kasus di mana AI menghasilkan informasi yang salah atau tidak masuk akal—dengan fokus pada set parameter yang lebih kecil dan lebih mudah dikelola. Untuk solusi pemasaran berbasis AI di platform messaging, pendekatan ini memastikan respons yang lebih dapat diprediksi dan andal, meningkatkan kepercayaan dan keterlibatan pelanggan. Kompleksitas yang berkurang dari SLMs meminimalkan kemungkinan menghasilkan konten yang tidak relevan atau salah, sehingga meningkatkan keandalan interaksi AI secara keseluruhan.

Bagaimana SLMs khususnya bermanfaat bagi pengecer, terutama dalam konteks chatbot?

Karena jumlah data yang besar yang diberikan kepada LLMs, mereka sering lambat. Namun, messaging dan perdagangan konversasional memerlukan waktu respons yang lebih cepat untuk lebih baik dan akurat melayani pelanggan. Bagi pengecer, SLMs lebih praktis dan bermanfaat karena tingkat detail yang mereka berikan dalam industri ritel. Selain itu, SLMs sering lebih murah karena mereka lebih gesit, yang berarti setiap perusahaan ritel, dari startup kecil hingga pengecer online besar, dapat menggunakannya.

Bagaimana SLMs menawarkan pengalaman yang lebih personal bagi pelanggan dibandingkan dengan LLMs?

SLMs menawarkan pengalaman yang lebih personal bagi pelanggan dengan lebih mudah untuk disesuaikan untuk tugas dan domain tertentu. Ukuran yang lebih kecil memungkinkan penyesuaian yang lebih cepat dan efisien, memungkinkan bisnis untuk menyesuaikan model dengan kebutuhan dan preferensi unik pelanggan. Penyesuaian yang terfokus ini menghasilkan interaksi yang lebih relevan dan personal, meningkatkan pengalaman pelanggan.

Bagaimana Connectly mengintegrasikan SLMs ke dalam platformnya untuk meningkatkan kemampuan e-commerce?

Kami mengintegrasikan SLMs ke dalam platform kami untuk meningkatkan kemampuan e-commerce dengan memanfaatkan efisiensi dan adaptabilitas mereka. Model-model ini memungkinkan interaksi pelanggan yang cepat dan akurat di platform messaging seperti WhatsApp dan Instagram, menyediakan rekomendasi produk yang dipersonalisasi dan dukungan pelanggan instan. Sifat ringan dari SLMs memastikan bahwa responsnya cepat dan relevan, meningkatkan pengalaman pelanggan secara keseluruhan dan meningkatkan keterlibatan.

Apakah ada contoh spesifik tentang bagaimana pengecer telah berhasil menerapkan SLMs dalam operasional mereka?

Klien kami telah meraih kesuksesan besar dengan SLMs. Sebuah pengecer fashion menggunakan SLMs untuk memberikan saran gaya yang dipersonalisasi melalui WhatsApp, merekomendasikan pakaian berdasarkan pembelian sebelumnya dan preferensi pelanggan. Serupa, sebuah pengecer elektronik menerapkan SLMs di Instagram untuk menjawab pertanyaan pelanggan tentang fitur produk dan ketersediaan secara real-time, meningkatkan pengalaman belanja dan mengurangi beban tim dukungan pelanggan.

Mengapa pengecer harus mempertimbangkan untuk beralih dari LLMs ke SLMs untuk aplikasi bisnis spesifik mereka?

Pengecer harus mempertimbangkan untuk beralih dari LLMs ke SLMs karena efisiensi dan efektivitas biaya yang lebih tinggi dari SLMs. SLMs lebih cepat, memerlukan daya komputasi yang lebih sedikit, dan dapat disesuaikan dengan mudah untuk tugas tertentu, membuatnya ideal untuk interaksi pelanggan secara real-time di platform messaging seperti WhatsApp dan Instagram. Transisi ini dapat mengarah pada layanan pelanggan yang lebih responsif dan personal, serta mengurangi biaya operasional.

Apa kemajuan teknologi SLM di masa depan yang paling Anda antusias?

Saya sangat antusias tentang kemajuan dalam teknologi SLM yang akan lebih meningkatkan efisiensi dan akurasi mereka. Misalnya, perbaikan dalam teknik pembelajaran transfer dan penyesuaian akan memungkinkan SLMs menjadi lebih mahir dalam tugas tertentu dengan data minimal. Selain itu, integrasi SLMs dengan kemampuan multimodal—menggabungkan teks, suara, dan data gambar—akan memungkinkan pengalaman pelanggan yang lebih kaya dan interaktif di platform seperti WhatsApp dan Instagram. Kemajuan ini akan membuat SLMs lebih berharga bagi pengecer yang ingin menyediakan interaksi pelanggan yang personal dan menarik.

Bagaimana Anda melihat adopsi SLMs berkembang dalam beberapa tahun ke depan di industri ritel?

 Saya melihat adopsi SLMs di industri ritel tumbuh secara signifikan. Ketika pengecer terus mencari cara yang lebih efisien dan efektif biaya untuk berinteraksi dengan pelanggan, kecepatan dan adaptabilitas SLMs akan menjadi semakin berharga. SLMs akan diintegrasikan lebih luas ke dalam platform layanan pelanggan, kampanye pemasaran, dan pengalaman belanja yang dipersonalisasi di aplikasi messaging seperti WhatsApp dan Instagram, bahkan di TikTok. Perubahan ini akan membantu pengecer menyediakan interaksi yang lebih cepat dan personal, meningkatkan kepuasan dan loyalitas pelanggan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Connectly.