Alex Levin, Co-Founder dan CEO Regal – Seri Wawancara

Alex Levin adalah Co-Founder dan CEO Regal, sebuah platform AI suara yang membantu perusahaan meningkatkan pendapatan melalui percakapan pelanggan yang dilakukan oleh AI dan memenuhi standar kepatuhan. Sebelum mendirikan Regal pada tahun 2020, ia memimpin tim pertumbuhan dan produk di Handy, Thomson Reuters (TRI ), dan beberapa perusahaan rintisan lainnya. Sebagai lulusan Harvard dan anggota Dewan Teknologi Forbes, Alex fokus pada membangun infrastruktur voice-first yang skalabel dan menggabungkan inovasi dengan pengamanan kelas perusahaan.

Regal menyediakan agen suara AI untuk penjualan, dukungan, penjadwalan, dan pengumpulan—dirancang untuk terdengar alami, terintegrasi dengan sistem CRM, dan menangani jutaan percakapan secara bersamaan. Platform ini menampilkan pembangun tanpa kode, analitik waktu nyata, pengujian A/B, dan kepatuhan bawaan untuk industri yang tunduk pada peraturan seperti perawatan kesehatan, asuransi, dan jasa keuangan.

Apa yang menginspirasi Anda untuk pindah dari posisi kepemimpinan di Angi dan Handy ke pendirian Regal, dan apakah ada saat tertentu ketika Anda dan rekan pendiri Anda menyadari bahwa pengalaman pusat kontak perlu dibangun kembali secara menyeluruh?

Ketika di Angi/Handy, kami melihat kekuatan suara dalam membangun kepercayaan dengan pelanggan. Pelanggan memberitahu kami bahwa ketika mereka memiliki masalah penting, mereka ingin menelepon, dan pelanggan yang kami layani melalui telepon memiliki nilai seumur hidup yang lebih tinggi dan ketika kami menelepon pelanggan, mereka menjawab dengan tingkat yang jauh lebih tinggi daripada saluran lain. Namun, penyedia perangkat lunak pusat kontak fokus pada “pengalihan” dan “otomatisasi” daripada apa yang tepat untuk pelanggan. Hasilnya adalah permainan terus-menerus untuk menyembunyikan nomor telepon yang secara tidak perlu menghukum pelanggan.

Rekan pendiri dan saya meninggalkan karena kami sangat percaya bahwa kami dapat membuat suara menjadi saluran paling efektif dengan menurunkan biaya dan membuatnya lebih mudah dioperasikan. Saya berharap saya telah memiliki Regal saat saya menjalankan pusat kontak besar.

Anda meluncurkan Regal pada 2020, tepat sebelum ledakan AI generatif. Bagaimana Anda mengevaluasi apakah AI suara secara teknis layak—dan apa yang memberi Anda keyakinan untuk bertindak lebih awal?

Kami telah yakin sejak lama sebelum 2020 bahwa suara adalah saluran paling penting. Dan pada 2020, kami tahu kami bisa membangun orkestrasi, pengujian A/B, dan alat personalisasi yang akan menurunkan biaya dan menyederhanakan pengelolaan suara sebagai saluran—baik itu manusia, bot suara lama, atau sesuatu yang lebih baik di ujung spektrum. Jadi, kami menjual alat untuk pusat kontak untuk lebih baik mengelola agen manusia pada awalnya. Produk itu tumbuh sangat cepat.

Namun, untuk poin Anda, memulai perusahaan adalah lompatan iman, dan membutuhkan waktu untuk benar-benar melihat bagaimana kami bisa melampaui keterbatasan agen manusia. Ini tidak sampai peluncuran ChatGPT di akhir 2022 bahwa kami benar-benar melihat “AI” yang cukup baik untuk memegang percakapan. Dan itu tidak sampai akhir 2023 bahwa kami bisa membuat demo untuk agen suara yang kami pikir pelanggan ingin berbicara dengan.

Apa beberapa tantangan teknis paling sulit dalam melatih agen suara yang bisa menyaingi atau melampaui kinerja manusia dalam percakapan alami?

Ada banyak tantangan teknis yang indah untuk dikerjakan. Dari memastikan latensi sekitar 500ms, menemukan cara untuk memastikan agen AI memiliki semua konteks basis pengetahuan perusahaan dan data pelanggan secara real-time, hingga membuat agen AI mengambil tindakan dalam panggilan dan setelahnya, hingga penjaga atau fitur keamanan, dan bagaimana membuat interaksi agen terasa manusiawi dengan bergantian dan kata-kata verbal yang tepat.

Salah satu proyek favorit tim kami yang sedang dikerjakan hari ini adalah bagaimana meningkatkan evaluasi otomatis sehingga agen AI dapat diuji lebih mudah sebelum diterapkan dalam produksi. Ini akan menghilangkan ratusan jam QA manual yang terjadi terus-menerus hari ini untuk setiap perubahan pada setiap agen AI.

Kami harus pertama-tama membuat ratusan percakapan pelanggan simulasi yang bervariasi (menggunakan AI), mereka membuat agen AI melewatinya, kemudian membuat supervisor AI melakukan QA dan mengembalikan saran perbaikan untuk agen AI atau kebijakan dan basis pengetahuan perusahaan. Kami memiliki produk evaluasi yang berfungsi sekarang, umpan balik pelanggan sangat baik, dan itu membaik dengan kecepatan yang luar biasa.

Ini sangat penting untuk metrik baru jumlah manajer per agen AI. Tak lama lagi, sangat sedikit manajer yang akan bisa mengelola ratusan agen AI yang berbeda.

Bagaimana Regal menggunakan pembelajaran mesin untuk mempersonalisasi percakapan secara real-time? Apakah itu berdasarkan pada riwayat pelanggan, nada, pengenalan niat—atau kombinasi?

Kami telah berinvestasi besar-besaran dalam personalisasi dibandingkan dengan pasar lain karena kami percaya dalam membantu merek menguji jutaan pelanggan seperti satu dalam sejuta. Bukan hanya merekayasa kembali penanganan agen manusia yang generik yang sering digunakan saat ini.

Kami memulai dengan membangun profil pelanggan yang terunifikasi yang menghubungkan setiap potongan data CRM, data acara, dan riwayat percakapan. Dalam membangun agen, perusahaan dapat kemudian memberikan agen AI akses ke semua informasi tentang pelanggan atau hanya poin data spesifik yang diperlukan untuk percakapan tertentu. LLM menyediakan respons konversasional yang seperti manusia menggunakan data yang tersedia.

LLM masih terbatas dalam apa yang mereka lakukan dengan baik, jadi kami perlu kemampuan untuk memanfaatkan alat lain seperti layanan data pihak ketiga, aplikasi khusus, dan ML. Jadi, kami membangun “Tindakan Khusus” yang dapat digunakan dalam prompt agen AI untuk memanfaatkan layanan lain. Misalnya, banyak merek memiliki model kemungkinan untuk menunjukkan produk apa yang harus ditawarkan kepada pelanggan berikutnya, dan kami dapat menghubungkannya ke dalam percakapan.

Bagaimana sistem Anda menggunakan generasi yang ditingkatkan dengan pengambilan (RAG) tanpa mengorbankan responsif atau irama alami yang diharapkan pelanggan dari panggilan langsung?

RAG adalah area diferensiasi bagi kami karena perlu lebih cepat untuk agen AI suara daripada untuk agen AI di obrolan atau saluran digital lainnya. Beberapa detik kekosongan udara akan merusak panggilan secara keseluruhan.

Kami menurunkan latensi pengambilan, dan memastikan bahwa jika pengambilan membutuhkan waktu lebih lama, agen AI bisa terus berbicara dengan pelanggan untuk memberitahukan bahwa akan membutuhkan waktu lebih lama.

Agen Regal dimodelkan setelah suara manusia nyata, termasuk suara investor sebenarnya. Apa yang diperlukan—secara teknis dan etis—untuk membangun replika dengan kualitas tinggi seperti itu?

Sangat mudah secara teknis untuk “mengkloning” suara sehingga agen AI bisa terdengar seperti aktor suara profesional atau teman. 5-10 menit audio berkualitas tinggi sudah cukup.

Untuk poin kedua Anda, kloning suara dilakukan dengan persetujuan. Investor dan aktor suara profesional memberikan persetujuan mereka untuk ini. Pelaku yang buruk yang memungkinkan kloning suara tanpa persetujuan (seperti yang terjadi selama pemilu presiden terakhir) harus ditutup.

Saran – jika Anda mengizinkan kloning suara (atau Anda seorang tokoh publik yang mungkin dikloning oleh pelaku yang buruk), pastikan Anda membuat kata sandi aman yang hanya diketahui keluarga Anda sehingga mereka dapat mengidentifikasi Anda yang asli dalam panggilan.

Anda menekankan pentingnya mengintegrasikan Regal ke dalam CRM, sistem pembayaran, dan API internal. Apa saja beberapa tantangan integrasi paling sulit yang harus Anda selesaikan?

Mengintegrasikan dengan produk besar dari CRM seperti Salesforce (CRM ) hingga perangkat lunak Pusat Kontak seperti NICE relatif mudah. Tantangan terbesar adalah memastikan bahwa merek membuat API tersedia bagi kami untuk setiap tindakan yang mungkin perlu diambil oleh agen AI. Seorang agen manusia mungkin mengklik tombol untuk memesan kamar hotel. Namun, agen AI benar-benar memerlukan API pemesanan.

Bagaimana Anda mendekati pengukuran dan perbaikan kinerja model dari waktu ke waktu? Apa peran pelatihan yang diawasi atau pembelajaran penguatan dalam proses ini?

Kami membangun suite pengujian A/B dari awal sehingga sangat mudah bagi pelanggan untuk menguji agen AI versus agen manusia atau agen dengan versi LLM 1 versus versi 2. Ini memberikan kami cara yang jelas untuk melihat variasi hasil untuk model yang berbeda.

Namun, kami tidak menggunakan pembelajaran penguatan saat ini karena membuat tim hukum merasa tidak nyaman (mereka tidak ingin situasi di mana ada perubahan pada wewangian yang tidak disengaja). Saya pikir kami masih 13 bulan dari tim hukum yang mengizinkan pembelajaran penguatan dalam kasus kami. Sebaliknya, hari ini kami fokus pada menyarankan perubahan yang dapat diterima oleh manajer manusia. Ini bisa berupa perubahan pada prompt, basis pengetahuan, atau penyetelan LLM.

Berbicara dengan VC—atau kloning suara VC—adalah konsep yang berani. Apa niat Anda dalam membuat penasihat AI ini tersedia untuk pendiri, dan bagaimana mereka digunakan saat ini?

Kami beruntung memiliki akses ke investor yang luar biasa dan kami ingin membalasnya dengan proyek ini. Saya senang berbicara dengan Satya AI kapan saja, dan saya mendengar umpan balik yang luar biasa dari eksekutif yang telah menggunakan AI VC untuk semua hal, dari saran tentang cara membuat peta produk hingga apa model harga yang harus digunakan.

Kami suka menunjukkan daripada memberitahu, dan proyek ini benar-benar menyoroti kekuatan kemampuan RAG/knowledge base kami. Kami bahkan memiliki dua orang tua investor yang memberikan kami izin untuk melakukannya!

Namun, satu saran – Anda tidak bisa mendelegasikan pengambilan keputusan kepada penasihat, dan salah satu bagian yang lebih sulit dari menjadi eksekutif adalah memutuskan antara dua pilihan yang buruk atau bahkan terlalu banyak pilihan yang baik.

Apakah agen investor ini bergantung pada pengetahuan startup yang umum, atau apakah mereka dilatih pada saran dan filosofi yang khas dari VC individu?

Semua agen AI memiliki beberapa pengetahuan generik dari pelatihan LLM. Namun, untuk mendapatkan hasil yang kami butuhkan, kami mengunggah tulisan-tulisan investor ke dalam Basis Pengetahuan Agen AI yang bersesuaian.

Di luar itu dan kloning suara, saya juga pikir kami berhasil menangkap beberapa kepribadian unik atau esensi dari investor, seperti positivitas Jake Saper atau kegembiraan Alexa Von Tobel.

Menghadap ke depan, bagaimana Anda melihat evolusi AI Regal—apakah kita akan melihat lebih banyak pengambilan keputusan otonom, lebih banyak kecerdasan emosional, atau bahkan dukungan multimodal?

Bagian paling menyenangkan dari tahun terakhir telah melihat agen AI kami performa lebih baik daripada agen manusia. Saya pikir bahwa dalam setahun ke depan, perbaikan pada model AI dasar dan kemajuan dalam aplikasi Regal akan menghasilkan Agen AI yang tidak dapat dibedakan dari manusia, dan lebih penting lagi, yang jauh melampaui kemampuan agen manusia. Perusahaan yang mengadopsi Agen AI akan menurunkan biaya dan meningkatkan pengalaman pelanggan lebih cepat daripada yang diperkirakan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Regal.