Sean Whiteley, Pendiri dan Presiden Qualified – Seri Wawancara

Anda telah mendirikan tiga perusahaan, termasuk satu yang diakuisisi oleh Salesforce dan lainnya oleh SurveyMonkey. Apa yang menginspirasi Anda untuk memulai Qualified, dan bagaimana perusahaan ini masuk dalam evolusi AI yang lebih luas di perangkat lunak perusahaan?

Kraig dan saya mendirikan sebuah perusahaan pemasaran pencarian yang diakuisisi oleh Salesforce. Ini terjadi pada awal revolusi cloud, dan hampir semua program pemasaran berubah menjadi digital. Menjadi jelas bahwa ada kesenjangan besar dalam cara penjual berinteraksi dengan pembeli di dunia baru ini. Perusahaan menghabiskan jutaan dolar untuk mengarahkan lalu lintas ke situs web mereka, tetapi ketika pembeli yang berminat tinggi tiba, pengalaman keterlibatan belum berkembang. Ini seperti mengatur dan membayar pesta khusus untuk prospek Anda, tetapi melupakan untuk menjawab pintu ketika mereka tiba.

Inilah dari mana ide Qualified berasal. Kami ingin menciptakan cara bagi tim penjualan untuk bertemu dengan pembeli yang memenuhi syarat saat mereka mengunjungi situs web – dengan relevansi, konteks, dan pengalaman yang dipersonalisasi secara real-time yang sesuai dengan apa yang diinginkan pembeli. Mari kita lanjutkan ke hari ini, dan kita telah mengembangkan visi tersebut menjadi sesuatu yang jauh lebih besar: lapisan pemasaran agen yang melakukan setiap alur kerja proses pemasaran masuk, yang mencakup interaksi real-time di situs web dan interaksi asinkron melalui email. Qualified dibangun untuk gelombang perangkat lunak perusahaan berikutnya, di mana pekerja AI tidak hanya melakukan tugas dan alur kerja, tetapi juga membuat keputusan yang didorong konteks atas nama perusahaan Anda.

Bagaimana visi Anda tentang AI berubah dari awal Anda di pemasaran pencarian hingga sekarang, dengan Piper mengotomatisasi penjualan masuk secara besar-besaran?

Jelas, munculnya Model Bahasa Besar (LLM) telah mengubah permainan secara keseluruhan. Ketika kami memulai perusahaan pertama kami, itu adalah awal hari cloud, yang mewakili perubahan mendasar dalam model pengiriman perangkat lunak. Hal-hal seperti infrastruktur yang dibagikan, multi-tenancy, dan harga berbayar telah membuka jalan bagi bisnis untuk memindahkan aplikasi dan proses mission-critical ke cloud. Segera setelah itu, platform dan infrastruktur tersedia sebagai koleksi layanan, yang lagi-lagi merupakan pengaktif besar bagi bisnis untuk membuang beban kerja yang signifikan ke vendor cloud. Semuanya berubah.

Mari kita lanjutkan satu dekade, dan revolusi AI telah meledak. Hanya beberapa tahun yang lalu, ketika kami pertama kali memulai Qualified, pembelajaran mesin (ML) mewakili cara baru untuk memanfaatkan kecerdasan dari kumpulan data yang luas. Sekarang, tentu saja, LLM telah mengubah semuanya dalam hal kemampuan kita untuk memindahkan beban kerja yang signifikan ke AI. Tetapi yang lebih penting, LLM membuat AI dapat diakses oleh semua orang, dan orang memiliki kemampuan untuk berinteraksi dengan komputer, aplikasi, atau data menggunakan bahasa alami mereka. Dan bahkan though kita baru saja memulai, sudah jelas bahwa banyak hal yang kita lakukan secara historis akan ditulis ulang, dan dilakukan dengan cara baru. Ini tidak hanya berlaku untuk bagaimana kita hidup, tetapi bagaimana kita bekerja.

Salah satu mantra kami di Qualified adalah untuk menantang semua yang telah kami lakukan secara historis, dan menilai bagaimana itu akan berubah dengan AI. AI tidak hanya akan mengubah sifat cara kita membangun sistem, tetapi juga akan membuka proses, operasi, dan struktur organisasi baru.

Gelombang pertama transformasi AI ini telah muncul dalam agen. Setiap bisnis membawa lapisan agen ke dalam berbagai fungsi di seluruh bisnis. Agen AI SDR kami telah menjadi tempat yang sangat populer untuk memulai dalam membawa lapisan agen ke dalam gerakan pemasaran. Dan menjadi jelas bahwa tidak hanya Piper dapat mengotomatisasi hampir semua tugas dan alur kerja generasi pipeline masuk yang dilakukan oleh SDR manusia, tetapi juga dapat menangani banyak alur kerja yang secara tradisional dilakukan dengan platform otomatisasi pemasaran.

Piper adalah contoh yang kuat dari agen AI otonom dalam aksi. Di mana Anda secara pribadi menarik garis antara otomatisasi yang berguna dan otonomi yang berisiko?

Otonomi tidak dapat ada dengan aman tanpa akuntabilitas. Kepercayaan dapat diperoleh atau hilang secara eksponensial dalam sistem agen. Kami tidak lagi membangun alat cloud. Kami sekarang mengirimkan pekerja otonom yang membuat keputusan atas nama pelanggan. Ada taruhan yang lebih tinggi untuk keandalan dan kepercayaan daripada sebelumnya. Perilaku agen yang tidak akurat atau tidak berguna harus menjadi prioritas utama bagi siapa pun yang mengembangkan agen. Sama pentingnya dengan berinvestasi dalam kemampuan sekitar pelatihan, penyetelan, transparansi, kutipan, dan kontrol, adalah memungkinkan pelanggan untuk membangun fondasi tata kelola untuk agen.

Dengan Piper, kami telah sengaja membangun otonomi yang berguna – AI yang beroperasi dalam batasan yang jelas, didukung oleh sejarah kaya kemitraan kami dengan pelanggan kami yang menggunakan produk kami saat ini. Garis untuk saya cukup jelas: otomatisasi tidak boleh menggantikan penilaian dalam momen yang menuntut konteks, empati, atau nuansa.

Piper tidak mencoba untuk memiliki seluruh perjalanan pembeli sejak awal. Ada proses ramp-up yang penting untuk memastikan agen beroperasi tidak hanya secara efisien, tetapi juga akurat, dan dalam batasan yang ditetapkan oleh pelanggan. Anda tidak dapat hanya melepaskan agen ke produksi yang berinteraksi dengan prospek dan pelanggan Anda tanpa memahami bagaimana itu akan mempengaruhi seluruh siklus pembelian.

Jadi, bagi saya, garis itu ditarik pada kepercayaan, keterbukaan, dan kontrol. Jika kita tidak dapat menyediakan penjelasan, atau mengukur kinerjanya, maka itu tidak siap. Sebagian besar perusahaan yang saya bicarakan sedang menjadi lebih berpendidikan, dan berpikir tentang hal-hal ini dengan cara yang tepat, tetapi ini adalah tugas kami untuk membantu pelanggan kami memasang rel pengaman, moderasi, dan praktik terbaik dalam tata kelola.

Mengingat kemampuan agen AI yang meningkat, bagaimana Anda memastikan bahwa Piper tetap dalam batasan etika dan kontekstual – terutama saat berinteraksi dengan lead manusia nyata dalam skenario yang berisiko tinggi?

Dalam aplikasi Qualified, Anda dapat memprogram Piper untuk tetap dalam batasan tertentu, mengontrol nada, dan memastikan bahwa ia mematuhi kebijakan perusahaan. Ini adalah kebenaran absolut dan aturan keterlibatan yang tidak dapat dipecahkan saat berinteraksi dengan pengunjung. Kami menyediakan moderasi dan rel pengaman yang signifikan di inti AI kami, yang berarti, mengambil risiko sekitar data (PII) dan informasi sensitif keluar dari persamaan sepenuhnya. Selain itu, kami memungkinkan perusahaan untuk menambahkan rel pengaman, instruksi, dan aturan keterlibatan tambahan.

Kami juga memberdayakan Piper untuk mengarahkan kembali percakapan yang menyimpang dari topik. Selain itu, jika kami mendapatkan kesan bahwa ada aktor jahat di ujung keterlibatan, Piper dapat mengakhiri percakapan jika itu cenderung ke area yang:

• Tidak terkait dengan perusahaan, produk, layanan, atau industri
• Acak atau tidak masuk akal
• Eksplisit, tidak pantas, atau ofensif
• Tidak terkait dengan apa yang harus ditangani oleh agen AI SDR

Rel pengaman yang ketat ini memastikan bahwa Piper tetap dalam batasan yang ditetapkan, memberikan pelanggan kami kepercayaan dan kontrol penuh atas perilakunya.

Anda telah berbicara tentang kebutuhan akan sistem rollback dan kemampuan override. Bisakah Anda menjelaskan langkah-langkah keamanan dan kontrol yang telah Anda bangun ke dalam platform Qualified untuk mencegah atau memitigasi kesalahan AI?

Kepercayaan dan transparansi/keterbukaan berjalan beriringan. Kepercayaan dimulai dengan memberikan wawasan tentang apa yang terjadi, mengapa itu terjadi, dan bagaimana mempengaruhi bagaimana itu bekerja di masa depan. Ada prinsip dasar, seperti kutipan, umpan balik, dan penyetelan/halusan. Tetapi kami telah mengambil langkah ekstra untuk pengguna kami untuk menyediakan lapisan keterbukaan untuk AI yang mudah diakses, dan dapat memberikan umpan balik manusia dalam loop.

Sebagai contoh, kami menyediakan kemampuan untuk mensimulasikan berbagai keadaan, dan dengan mudah melihat apa yang akan dilakukan AI, dan memberikan umpan balik atau koreksi kursus pada setiap situasi hipotetis. Sama seperti Anda membesarkan seorang karyawan sebelum mereka diberi otonomi, Anda harus melakukan hal yang sama dengan AI.

Dalam cahaya tren regulasi AI dan headline tentang kegagalan AI, bagaimana Anda melihat peran kepatuhan dan kebijakan dalam membentuk masa depan agen AI di penjualan dan pemasaran?

Regulasi dan tata kelola lebih penting daripada sebelumnya. Tidak sulit untuk memikirkan tentang risiko yang ditingkatkan yang mungkin dimiliki oleh agen jika tidak diterapkan secara bertanggung jawab. Kami telah melihat hasil dari melepaskan AI tanpa konteks atau akuntabilitas. Di B2B, terutama di penjualan dan pemasaran di mana kami bermain, kami menangani banyak data perusahaan, dan beberapa derajat Informasi Yang Dapat Diidentifikasi Secara Pribadi (PII). Kami harus memegang diri kami sendiri, dan pelanggan kami, untuk standar yang tinggi untuk melindungi pengalaman pembeli.

Kami membangun Piper dengan kepatuhan perusahaan yang dimulai dari tingkat PRD. Ini berarti kami memikirkan tentang privasi, keamanan, dan tata kelola sejak konsepsi apa pun yang baru kami bangun dan kirim. Saat AI berkembang, sehingga akan standar di sekitar yang biasa di industri kami seperti SOC 2, GDPR, CCPA, manajemen persetujuan, dll. – ini semua hal yang kami pertimbangkan setiap kali kami mengirimkan fitur. Tetapi, memeriksa kotak tidak cukup. Kami sedang membuat budaya transparansi dan membangun kerangka etika kami sendiri sebelum regulasi yang lebih formal.

Potongan-potongan teka-teki AI ini tidak dapat menunggu regulasi formal – jika Anda belum menetapkan standar ini dalam tim Anda, Anda sudah ketinggalan.

Apakah Anda pikir perusahaan bergerak terlalu cepat dalam memberikan agen AI otonomi yang terlalu banyak tanpa membangun struktur pengawasan manusia yang memadai?

Kami telah melihat headline ketika hal-hal ini keluar dari rel – ada perusahaan yang bergerak terlalu cepat dan melihat AI sebagai alat untuk diterapkan, bukan sebagai transformasi bisnis total.

Otomatisasi bukanlah strategi. Ini adalah bagian dari gambaran yang lebih besar, tetapi memerlukan infrastruktur dan pemikiran jangka panjang untuk menghindari membuat kesalahan besar yang pada akhirnya akan menghancurkan kepercayaan dengan pelanggan Anda. Anda tidak dapat mendapatkan kembali kepercayaan itu.

Pengawasan manusia bukanlah penghambat keberhasilan dengan otomatisasi, ini adalah pengaktif. AI akan melakukan pekerjaan berat, tetapi manusia dalam loop diperlukan untuk membesarkan secara bertanggung jawab.

Bagaimana Anda menyelaraskan kecepatan dan efisiensi AI dengan keterampilan manusia yang unik seperti penilaian, etika, dan nuansa dalam interaksi pelanggan?

Kami melihat Piper sebagai rekan tim. Kekuatan utamanya – selalu aktif, kecepatan, pengingat instan, skala tak terbatas – membuatnya menjadi agen SDR yang kuat, tetapi kami tahu bahwa ia tidak dapat memiliki setiap interaksi akhir-ke-akhir.

Manusia akan selalu diperlukan dalam percakapan yang berisiko tinggi di mana kecerdasan emosional yang halus lebih baik melayani pembeli. Menggunakan AI dalam kasus penggunaan yang tepat adalah kunci untuk menyelaraskan otomatisasi dan keterampilan manusia. Piper sangat cepat, tetapi ia tahu kapan harus berhenti dan melibatkan manusia.

Kami membiarkan AI melakukan apa yang AI lakukan dengan baik sehingga orang dapat melakukan apa yang orang lakukan dengan baik.

Apa yang paling Anda banggakan tentang 2-3 tahun ke depan di ruang pemasaran agen?

Saya merasa seperti Era AI telah memberikan banyak dari kita angin kedua setelah beberapa tahun yang sulit di ruang teknologi. Pemasaran agen adalah inovasi yang kuat yang membuka pintu untuk semua jenis teknologi baru, dan ini hampir menyamakan lapangan untuk perusahaan di industri.

Kami semua berada di rollercoaster ini bersama, dan kami akhirnya melewati fase gimmick awal dan melihat apa aplikasi yang sebenarnya berguna.

Dua hingga tiga tahun ke depan akan semua tentang orkestrasi – saat lebih dan lebih banyak agen AI online, tugasnya akan menjadi membangun tumpukan teknologi yang paling kuat yang bekerja bersama sebagai satu tim untuk menyelesaikan alur kerja yang kompleks.

Industri mana yang Anda pikir paling tidak siap untuk implikasi agen AI otonom – dan apa yang harus mereka lakukan sekarang untuk mendapatkan keunggulan?

Industri yang memiliki hierarki yang kaku dan tumpukan teknologi warisan berisiko tertinggal. Untuk pemasaran agen yang sukses, Anda harus memiliki pola pikir modern tentang kebersihan data dan perangkat lunak, dan beberapa operasi yang lebih besar bergerak lambat dan memiliki banyak utang teknologi untuk dinavigasi. Ironisnya, ini adalah organisasi yang paling berpotensi mendapat manfaat dari agen AI – alur kerja mereka sangat siap untuk otomatisasi.

Kunci sekarang adalah memulai dengan infrastruktur dan tidak teknologi. Mereka akan perlu mendapatkan rumah mereka dalam urutan pertama dengan perencanaan strategis sekitar alur kerja di mana agen menambah nilai. Mereka akan memerlukan kerangka sekitar kepatuhan dan keamanan. Kemudian mereka dapat memulai menguji beberapa program ini.

Ini bukan hanya proyek IT – ini adalah pergeseran organisasi keseluruhan, dari atas ke bawah.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Qualified.