Yandong Liu, Co-Founder & CTO at Connectly – Interview Series

Yandong Liu adalah Co-founder dan CTO di Connectly.ai. Sebelumnya, ia bekerja di Strava sebagai CTO. Yandong Liu bersekolah di Carnegie Mellon University.

Didirikan pada 2021, Connectly adalah pemimpin dalam kecerdasan buatan konversasional (AI). Dengan menggunakan model AI proprietary, platform Connectly mengotomatisasi cara bisnis berkomunikasi dengan pelanggan dan menjual produk mereka di berbagai platform pesan. Connectly memungkinkan seluruh perjalanan pelanggan – dari penjualan dan pemasaran hingga pengalaman pelanggan dan dukungan – dilakukan dalam platform pesan yang dipilih pelanggan.

Apakah Anda bisa membagikan cerita asal Connectly?

Connectly lahir dari visi menjadi pemimpin dalam kecerdasan buatan konversasional. Saya dan co-founder saya, Stefanos, bertemu melalui teman bersama di komunitas pendiri dan bersatu atas minat yang sama untuk masa depan pesan. Dengan latar belakang saya memimpin tim teknologi di Strava dan Uber dan pengalaman Stefanos dalam mengawasi Facebook Messenger, kami bertekad untuk menciptakan infrastruktur AI yang kuat di masa depan, membantu bisnis membuat yang terbaik dari pesan pelanggan dalam ekosistem yang semakin kompleks.

Apa itu Small Language Models (SLMs), dan bagaimana mereka berbeda dari Large Language Models (LLMs)?

SLMs adalah model AI yang dirancang untuk memahami dan menghasilkan bahasa manusia tetapi dengan parameter dan persyaratan komputasi yang lebih sedikit dibandingkan dengan Large Language Models. Dalam konteks solusi pemasaran AI untuk platform pesan seperti WhatsApp dan Instagram, SLMs menyediakan waktu respons yang lebih cepat dan dapat diterapkan pada berbagai perangkat, membuatnya ideal untuk interaksi pelanggan waktu nyata. Ukuran yang lebih kecil memungkinkan kinerja yang efisien tanpa mengorbankan kualitas respons.

Bagaimana SLMs mengurangi kemungkinan halusinasi dan meningkatkan keandalan respons AI?

SLMs mengurangi kemungkinan halusinasi—kasus di mana AI menghasilkan informasi yang salah atau tidak masuk akal—dengan fokus pada set parameter yang lebih kecil dan lebih mudah dikelola. Untuk solusi pemasaran berbasis AI untuk platform pesan, pendekatan yang terfokus ini memastikan respons yang lebih dapat diprediksi dan lebih andal, meningkatkan kepercayaan dan keterlibatan pelanggan. Kompleksitas yang berkurang dari SLMs meminimalkan kemungkinan menghasilkan konten yang tidak relevan atau salah, sehingga meningkatkan keandalan keseluruhan interaksi AI.

Bagaimana SLMs khususnya bermanfaat bagi pengecer, terutama dalam konteks chatbot?

Karena jumlah data yang besar yang diberikan kepada LLMs, mereka sering lambat. Namun, pesan dan komersial konversasional memerlukan waktu respons yang lebih cepat untuk lebih baik dan akurat melayani pelanggan. Bagi pengecer, SLMs lebih praktis dan bermanfaat karena tingkat detail yang mereka berikan di industri ritel. Selain itu, SLMs sering lebih murah karena mereka lebih gesit, yang berarti setiap perusahaan ritel, dari startup kecil hingga pengecer online besar, dapat memanfaatkannya.

Bagaimana SLMs menawarkan pengalaman yang lebih dipersonalisasi bagi pelanggan dibandingkan dengan LLMs?

SLMs menawarkan pengalaman yang lebih dipersonalisasi bagi pelanggan dengan lebih mudah disesuaikan untuk tugas dan domain tertentu. Ukuran yang lebih kecil memungkinkan kustomisasi yang lebih cepat dan efisien, memungkinkan bisnis untuk menyesuaikan model dengan kebutuhan dan preferensi unik pelanggan. Kustomisasi yang terfokus ini menghasilkan interaksi yang lebih relevan dan dipersonalisasi, meningkatkan pengalaman pelanggan.

Bagaimana Connectly mengintegrasikan SLMs ke dalam platformnya untuk meningkatkan kemampuan e-commerce?

Kami mengintegrasikan SLMs ke dalam platform kami untuk meningkatkan kemampuan e-commerce dengan memanfaatkan efisiensi dan adaptabilitas mereka. Model-model ini memungkinkan interaksi pelanggan yang cepat dan akurat pada platform pesan seperti WhatsApp dan Instagram, menyediakan rekomendasi produk yang dipersonalisasi dan dukungan pelanggan instan. Sifat ringan dari SLMs memastikan bahwa responsnya cepat dan relevan, meningkatkan pengalaman pelanggan secara keseluruhan dan meningkatkan keterlibatan.

Apa contoh spesifik tentang bagaimana pengecer telah berhasil menerapkan SLMs dalam operasional mereka?

Klien kami telah sangat sukses dengan SLMs. Sebuah pengecer fashion menggunakan SLMs untuk memberikan saran gaya yang dipersonalisasi melalui WhatsApp, merekomendasikan pakaian berdasarkan pembelian sebelumnya dan preferensi pelanggan. Serupa, sebuah pengecer elektronik menerapkan SLMs di Instagram untuk menjawab pertanyaan pelanggan tentang fitur dan ketersediaan produk secara waktu nyata, meningkatkan pengalaman belanja dan mengurangi beban pada tim layanan pelanggan.

Mengapa pengecer harus mempertimbangkan untuk beralih dari LLMs ke SLMs untuk aplikasi bisnis spesifik mereka?

Pengecer harus mempertimbangkan untuk beralih dari LLMs ke SLMs untuk aplikasi bisnis spesifik mereka karena efisiensi dan efektivitas biaya yang lebih tinggi dari SLMs. SLMs lebih cepat, memerlukan daya komputasi yang lebih sedikit, dan dapat dengan mudah disesuaikan untuk tugas tertentu, membuatnya ideal untuk interaksi pelanggan waktu nyata pada platform pesan seperti WhatsApp dan Instagram. Transisi ini dapat mengarah pada layanan pelanggan yang lebih responsif dan dipersonalisasi sambil mengurangi biaya operasional.

Apa kemajuan teknologi SLM di masa depan yang paling Anda antisipasi?

Saya paling bersemangat tentang kemajuan dalam teknologi SLM yang akan lebih meningkatkan efisiensi dan akurasi mereka. Misalnya, perbaikan dalam teknik pembelajaran transfer dan penyetelan akan memungkinkan SLMs menjadi lebih mahir dalam tugas tertentu dengan data minimal. Selain itu, integrasi SLMs dengan kemampuan multimodal—menggabungkan teks, suara, dan data gambar—akan memungkinkan pengalaman pelanggan yang lebih kaya dan interaktif pada platform seperti WhatsApp dan Instagram. Kemajuan ini akan membuat SLMs lebih berharga bagi pengecer yang mencari interaksi pelanggan yang dipersonalisasi dan menarik.

Bagaimana Anda melihat adopsi SLM berkembang dalam beberapa tahun ke depan di industri ritel?

Saya melihat adopsi SLM di industri ritel tumbuh secara signifikan. Ketika pengecer terus mencari cara yang lebih efisien dan efektif biaya untuk berinteraksi dengan pelanggan, kecepatan dan adaptabilitas SLMs akan menjadi semakin berharga. SLMs akan diintegrasikan lebih luas ke dalam platform layanan pelanggan, kampanye pemasaran, dan pengalaman belanja yang dipersonalisasi pada aplikasi pesan seperti WhatsApp dan Instagram, bahkan di TikTok. Perubahan ini akan membantu pengecer menyediakan interaksi yang lebih cepat, lebih dipersonalisasi, meningkatkan kepuasan dan loyalitas pelanggan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Connectly.