Berhenti Menyalahkan Data. Mulai Perbaiki Tujuan Anda

AI belajar dari kita. Dan kita memiliki bias.

Karena AI dilatih pada konten yang sebagian besar dibuat oleh manusia, maka AI akan mempelajari bias kita dan memasukkannya ke dalam sistem. Itulah mengapa sebagian besar diskusi tentang bias AI fokus pada data yang buruk. Sampah masuk, sampah keluar. Sederhana saja. Namun, bahkan dengan data yang bersih, bias masih dapat masuk.

Masalah yang lebih halus dan sering diabaikan adalah bias tujuan. Ini kurang terlihat daripada masalah dataset dan merupakan salah satu tantangan terbesar untuk penggunaan AI yang berfokus pada pelanggan.

Dalam artikel ini, saya akan membahas apa yang dimaksud dengan bias tujuan sebagai bagian dari pengalaman pelanggan (CX), mengapa hal ini penting, dan apa yang dapat dilakukan merek untuk mengatasinya.

Mengdefinisikan Bias Tujuan

Bias tujuan bukan tentang data yang rusak. Ini tentang niat yang rusak. AI melakukan tepat apa yang diperintahkan, dan jika diperintahkan untuk memaksimalkan pendapatan, maka AI akan melakukannya—bahkan jika itu berarti merusak hubungan dengan pelanggan.

Ambil contoh Delta Air Lines. Mereka baru-baru ini mengumumkan harga tiket pesawat yang ditenagai AI untuk menentukan jumlah maksimum yang konsumen bersedia membayar. Ini adalah contoh sempurna dari bias tujuan. Sistem tidak dilatih untuk membantu Anda menemukan penawaran yang baik. Sistem dilatih untuk meningkatkan konversi dan menurunkan biaya operasional.

Bayangkan Anda sedang memesan perjalanan ke Paris. Anda ingin mendapatkan tarif terbaik, tetapi sistem ingin mendapatkan margin terbaik. AI mungkin menawarkan penerbangan seharga $800 ketika penerbangan seharga $400 tersedia. Bukan karena AI salah, tetapi karena AI melakukan tugasnya.

Tidak tepat seperti personalisasi yang dikonsumsi oleh konsumen …

Mengapa Ini Tidak Terhindarkan

Bias tujuan adalah refleksi dari nilai, budaya, dan prioritas merek Anda. Ini tertanam dalam struktur AI Anda. Pertanyaan nyata adalah, ke arah mana bias ini “miring”? Apakah memihak pada tujuan pelanggan atau tujuan pendapatan?

Tim, wilayah, dan budaya yang berbeda memiliki pola pikir yang berbeda dan akan melatih model AI dengan cara yang berbeda. Jika tim penjualan mengambil alih, maka AI akan condong ke arah konversi. Jika tim CX yang bertanggung jawab, maka mungkin lebih sejalan dengan layanan dan penghematan.

Arsitektur yang sama, hasil yang berbeda.

Solusi tidak untuk menghilangkan bias sepenuhnya—tetapi untuk mengarahkannya ke arah yang tepat. Bias AI Anda untuk loyalitas jangka panjang, bukan kemenangan jangka pendek.

Akibat dari AI yang Tidak Sejalan

Risiko terbesar yang dihadapi merek ketika datang ke bias tujuan adalah kehilangan kepercayaan.

Pelanggan sudah muak dengan interaksi merek yang generik dan tidak relevan. Ketika AI membuat pengalaman tersebut lebih buruk, maka pelanggan akan merasa frustrasi dan teralienasi.

Jika model bahasa besar (LLM) dilatih pada data yang berbias dan berdasarkan asumsi, maka akan menghasilkan respons yang tidak personal. Sebagai hasilnya, pelanggan akan merasa bahwa merek tidak peduli dengan mereka. Mereka mungkin akan membeli dari Anda hari ini, tetapi kurang mungkin untuk tetap setia dengan merek Anda dalam jangka panjang.

Pengalaman sekarang mengemudi loyalitas. Banyak pelanggan bahkan bersedia membayar lebih untuk itu. Jadi, ketika AI mencoba untuk menjual produk dengan harga tinggi yang tidak sesuai dengan kebutuhan, maka pelanggan akan menyadari. Mereka akan memilih keluar. Mereka tidak akan kembali.

Masalah AI Agensi

Risiko itu meningkat ketika kita melihat AI agensi.

AI agensi dibangun untuk bertindak sendiri. Ini dapat menyelesaikan alur kerja multistep tanpa keterlibatan manusia. Namun, jika logika AI rusak atau pelatihan tidak sejalan, maka kerusakan akan meningkat.

Ahli setuju bahwa AI agensi masih memiliki jalan panjang. Faktanya, laporan terbaru menunjukkan bahwa sementara hampir semua CFO mengetahui tentang AI agensi, hanya 15% yang serius mempertimbangkan. Data yang sesuai menunjukkan bahwa kemampuan untuk memantau dan mencegah bias dengan akurat adalah hambatan utama untuk adopsi.

Sebagian besar sistem agensi masih berjuang dengan ketidakjelasan, memori yang persisten, dan akuntabilitas. Ini adalah kombinasi yang berbahaya ketika tidak ada cara yang jelas untuk mendiagnosis atau memperbaiki kesalahan atau bias yang terjadi.

Merek tidak boleh duduk di pinggir, tetapi mereka perlu melanjutkan dengan strategis.

Bagaimana Merek Dapat Mengurangi Bias Tujuan

Mari kita jelas: Anda tidak dapat menghilangkan bias. Anda ADALAH bias.

Merek Anda membentuk bagaimana AI berperilaku—untuk lebih baik atau lebih buruk. Bias ini sudah ada dalam interaksi pelanggan Anda saat ini. Ini ada dalam gesekan dalam alur pembatalan, transparansi syarat dan ketentuan, atau pola gelap pada situs web.

Perbedaan dengan bias AI adalah skala. AI dapat memperkuat keputusan tersebut lebih cepat dan dengan pengawasan yang lebih sedikit, yang akan mengikis tujuan jangka panjang seperti loyalitas merek dan nilai seumur hidup.

Itulah mengapa Anda perlu mendahuluinya:

1. Tanyakan Pertanyaan yang Tepat

Sebelum Anda memulai perjalanan AI, berhenti dan tanyakan: “Apakah kita benar-benar memiliki apa yang dibutuhkan untuk melakukan ini dengan benar? Apakah kita dapat melakukannya tanpa membahayakan pengalaman konsumen dan merek kita?”

Terlalu banyak merek melompat ke AI karena mereka tidak ingin ketinggalan. Namun, mencoba untuk mengikuti Joneses adalah strategi yang buruk.

Apakah Anda memiliki data pelanggan yang tepat, integrasi, dan tata kelola untuk mendukung penggunaan AI yang berfokus pada pelanggan tanpa meningkatkan bias? Apakah Anda benar-benar memahami tujuan pelanggan?

Jika jawabannya tidak, atau bahkan “mungkin”, maka Anda belum siap.

2. Seimbangkan Tujuan

Untuk membalansikan tujuan pelanggan dan bisnis secara efektif, pikirkan tentang kebutuhan pelanggan sebagai tujuan, sementara tujuan bisnis Anda adalah batasan. AI Anda harus beroperasi dalam batasan tersebut, tetapi tujuannya adalah hasil yang berfokus pada pelanggan. Anda juga dapat melihatnya sebagai keseimbangan antara pemikiran jangka pendek dan jangka panjang.

Metriks jangka pendek, seperti pendapatan per interaksi, sangat penting. Namun, seringkali bertentangan dengan nilai jangka panjang. Bahkan “Bapak AI” memperingatkan tentang AI yang didorong oleh keuntungan jangka pendek, karena pola pikir tersebut tidak dapat diskalakan.

AI Anda mungkin mencapai target pendapatan hari ini, tetapi apakah Anda mau menukar loyalitas pelanggan untuk keuntungan cepat?

Pertimbangkan contoh Delta lagi. Strategi ini secara teknis cerdas dan sejalan dengan bisnis. Namun, konsumen tidak terlalu senang dengan ide membayar lebih untuk tiket pesawat, dan merek tersebut mendapat dampak.

Pikirkan dalam timeline lima tahun. Anda perlu tumbuh nilai seumur hidup secara perlahan dan berkelanjutan.

3. Pahami Kebutuhan Pelanggan yang Berkembang

Bukan hanya secara umum, tetapi dalam setiap kasus penggunaan. Apa yang mereka coba capai?

Jika Anda tidak memahami itu, maka AI Anda hanya akan menebak. Itulah mengapa profil pelanggan Anda perlu mutakhir, lengkap, dan spesifik, baik pada tingkat tinggi maupun pada tingkat individu.

Segmentasi yang luas dan asumsi yang ketinggalan zaman tidak akan cukup. Anda perlu data yang mewakili orang nyata di sisi lain interaksi. Ini akan memimpin ke pemahaman yang lebih dalam tentang pelanggan dan membentuk dasar pelatihan LLM.

Model generasi yang ditingkatkan dengan pengambilan (RAG) juga membantu di sini, menarik dari data yang dikurasi dan relevan untuk memberikan konsumen pengalaman yang lebih baik untuk tugas spesifik yang mereka coba lakukan.

Namun, ini bukanlah latihan satu kali. Tujuan pelanggan bergeser dan harapan berubah. Merek perlu memperbarui sistem AI mereka secara teratur untuk mencerminkan perkembangan terbaru. Ini berarti mengunjungi kembali data pelatihan dan memfasilitasi pembelajaran berkelanjutan, bukan hanya memperbaiki output.

4. Periksa Penjual AI dengan Teliti

Tidak semua penjual dibuat sama, dan janji besar tidak selalu berarti hasil besar. Pilih mitra dengan keahlian dunia nyata dan catatan yang terbukti, bukan hanya demo yang mencolok. Penjual dengan dekade data spesifik domain dapat menggunakan data tersebut untuk melatih model lebih baik dibandingkan dengan merek baru yang mengandalkan dataset umum.

Pelanggan Anda mungkin akan memperhatikan perbedaan dalam kedalaman data ketika mereka membutuhkan dukungan khusus.

Ingat, jika AI gagal di lapangan, maka merek Anda akan menderita. Hanya tanyakan pada orang-orang yang terkena dampak gangguan IT terkait CrowdStrike 2024. Konsumen rata-rata tidak menyalahkan penyedia. Mereka menyalahkan merek yang menggelar teknologi.

Cari penjual yang telah melakukannya sebelumnya, di industri Anda, dengan kasus penggunaan Anda. Pengetahuan domain mengalahkan ambisi setiap saat.

5. Bangun Tata Kelola

Jika Anda tidak mendefinisikan logika dengan jelas dan konsisten, maka AI Anda akan mulai membuat keputusan berdasarkan pola, bukan kebijakan. Pola tersebut mungkin tidak mewakili merek Anda, nilai Anda, atau kewajiban hukum Anda.

Orkestrasi terpusat dan pengaturan aturan sangat penting untuk memastikan AI melakukan apa yang seharusnya—setiap saat, di setiap interaksi pelanggan. Tanpa jenis tata kelola ini, satu model mungkin menangani pertanyaan penagihan dengan cara satu, sementara model lain memberikan jawaban yang sama sekali berbeda.

Patuhi praktik terbaik industri dan condongkan pada kerangka manajemen risiko untuk melindungi merek. Tata kelola yang baik tidak akan memperlambat Anda. Ini akan menyelamatkan Anda dari pembersihan nanti.

6. Skop AI Agensi dengan Hati-Hati

Media membuatnya terdengar seperti sistem berbasis agen adalah masa depan dari segalanya. Namun, kenyataannya adalah sebagian besar merek tidak siap, dan itu tidak apa-apa.

Karena tidak banyak bukti, mulailah dari kecil. Bermitra dengan penyedia teknologi yang telah melakukannya sebelumnya dan dapat membimbing Anda sepanjang jalan. Prioritaskan alur kerja risiko rendah dengan langkah-langkah yang jelas yang dapat dipercaya—ideally, dimiliki oleh satu tim. Kasus penggunaan ini biasanya memiliki logika yang jelas, akuntabilitas, dan pengawasan. Kemudian Anda dapat belajar dan menskalakan dari sana.

Jika beberapa tim terlibat atau prosesnya tidak terstruktur, jangan harapkan keputusan mesin untuk bekerja untuk pelanggan Anda.

Untuk benar-benar sukses, AI agensi memerlukan akses ke profil pelanggan yang lengkap dan mutakhir. Tanpa konteks waktu nyata, bahkan model terbaik akan menghasilkan pengalaman yang terputus dan berbias.

Bias Adalah Cermin, Bukan Kegagalan

AI tidak menciptakan bias. Ini memantulkan apa yang diberitahu melalui data, pelatihan, dan prioritas bisnis. Itulah mengapa keselarasan penting. Jika sistem Anda tidak dirancang di sekitar pelanggan, maka AI hanya akan memperlebar kesenjangan.

Bias tujuan tidak dapat dihilangkan sepenuhnya, tetapi dapat dikelola.

Buat loyalitas jangka panjang sebagai tujuan utama Anda. Semuanya akan mengikuti. Ketika setiap keputusan model difilter melalui retensi, nilai seumur hidup, dan kepercayaan, maka prioritas lainnya (tata kelola, pemahaman pelanggan, tujuan yang seimbang) akan secara alami jatuh ke tempatnya.

Shortcut untuk hari ini hampir selalu akan menghabiskan biaya Anda besok, tetapi lanjutkan dengan loyalitas di hati strategi Anda, dan AI akan berubah dari kewajiban menjadi keuntungan.