Berhenti Menyalahkan Data. Mulailah Memperbaiki Tujuan Anda

AI belajar dari kita. Dan kita bias.

Karena AI dilatih dengan konten yang sebagian besar dibuat oleh manusia, ia menangkap bias kita dan mengolahnya. Itulah sebabnya sebagian besar percakapan tentang bias AI berfokus pada data yang buruk. Sampah masuk, sampah keluar. Cukup sederhana. Namun, bahkan dengan data yang bersih, bias tetap saja muncul.

Masalah yang lebih halus dan sering terabaikan adalah bias objektif. Bias objektif kurang terlihat dibandingkan masalah kumpulan data dan merupakan salah satu tantangan terbesar dalam penggunaan AI yang berhadapan langsung dengan pelanggan.

Dalam artikel ini, saya akan mendalami seperti apa bias objektif sebagai bagian dari pengalaman pelanggan (CX), mengapa hal itu penting, dan apa saja yang dapat dilakukan merek untuk mengatasinya.

Mendefinisikan Bias Objektif

Bias objektif bukan tentang data yang cacat. Bias objektif tentang niat yang cacat. AI melakukan persis seperti yang diperintahkan, dan jika diperintahkan untuk memaksimalkan pendapatan, ia akan melakukannya—meskipun itu berarti merusak hubungan dengan pelanggan.

Ambil contoh Delta Air Lines. Mereka baru-baru ini mengumumkan Penetapan harga yang didukung AI dirancang untuk menentukan harga maksimum yang bersedia dibayar konsumenIni contoh sempurna dari bias objektif. Sistem ini tidak dirancang untuk membantu Anda menemukan penawaran yang bagus. Sistem ini dirancang untuk meningkatkan konversi dan menurunkan biaya operasional.

Katakanlah Anda memesan perjalanan ke Paris. Anda menginginkan harga terbaik, tetapi sistem menginginkan margin keuntungan terbaik. AI mungkin menawarkan tiket pesawat seharga $800 padahal tersedia tiket seharga $400. Bukan karena AI-nya salah, tetapi karena ia sedang menjalankan tugasnya.

Bukan jenis personalisasi yang diinginkan konsumen …

Mengapa hal ini tidak dapat dihindari

Bias objektif mencerminkan nilai, budaya, dan prioritas merek Anda. Bias ini tertanam dalam struktur AI Anda. Pertanyaan sebenarnya adalah, ke arah mana "condongnya"? Apakah lebih condong ke tujuan pelanggan atau tujuan pendapatan?

Tim, wilayah, dan budaya yang berbeda memiliki pola pikir yang berbeda pula dan akan melatih model AI secara berbeda pula. Jika tim penjualan yang memegang kendali, strategi ini akan lebih berfokus pada konversi. Jika tim CX yang memegang kendali, strategi ini mungkin akan lebih selaras dengan layanan dan penghematan.

Arsitektur sama, hasil berbeda.

Solusinya bukanlah menghilangkan bias sepenuhnya—melainkan mengarahkannya ke arah yang benar. Biaskan AI Anda untuk loyalitas jangka panjang, bukan keuntungan jangka pendek.

Konsekuensi dari AI yang Tidak Selaras

Risiko terbesar yang dihadapi merek dalam hal bias objektif adalah hilangnya kepercayaan.

Pelanggan sudah muak dengan interaksi merek yang generik dan tidak relevan. Ketika AI memperburuk pengalaman tersebut, hal itu justru membuat pembeli Anda frustrasi dan terasing.

Jika model bahasa besar (LLM) dilatih berdasarkan data yang bias dan berbasis asumsi, respons yang dihasilkan akan impersonal. Akibatnya, pelanggan akan merasa merek tidak peduli dengan mereka. Mereka mungkin membeli dari Anda hari ini, tetapi kecil kemungkinannya untuk tetap setia pada merek Anda dalam jangka panjang.

Pengalaman kini mendorong loyalitas. Banyak pelanggan bahkan rela membayar lebih untuk itu. Jadi, ketika AI mencoba menawarkan produk mahal yang tidak sesuai kebutuhan, mereka menyadarinya. Mereka memilih untuk berhenti berlangganan. Mereka tidak kembali lagi.

Masalah AI agen 

Risiko itu membengkak ketika kita melihat AI agen.

AI Agen dirancang untuk bertindak sendiri. Ia dapat menyelesaikan alur kerja multi-langkah tanpa keterlibatan manusia. Namun, jika logika AI-nya cacat atau pelatihannya tidak selaras, kerusakannya akan semakin besar.

Para ahli setuju itu AI agen masih memiliki jalan panjang. Faktanya, sebuah laporan baru-baru ini menunjukkan bahwa meskipun hampir semua CFO mengetahui tentang AI agensi, hanya 15% secara serius mempertimbangkannyaData yang sesuai menunjukkan bahwa kemampuan untuk memantau dan mencegah bias secara akurat merupakan hambatan utama dalam adopsi.

Sebagian besar sistem agensi masih berkutat dengan ambiguitas, ingatan yang persisten, dan akuntabilitas. Kombinasi ini berbahaya jika tidak ada cara yang jelas untuk mendiagnosis atau mengoreksi kesalahan atau bias yang muncul.

Merek tidak boleh tinggal diam, tetapi mereka perlu melangkah maju secara strategis.

Bagaimana Merek Dapat Meminimalkan Bias Objektif

Mari kita perjelas: Anda tidak bisa menghilangkan bias. Anda ADALAH biasnya.

Merek Anda membentuk perilaku AI—baik atau buruk. Bias ini sudah ada dalam interaksi pelanggan Anda saat ini. Bias ini muncul dalam gesekan dalam alur pembatalan, transparansi syarat dan ketentuan, atau pola gelap di situs web Anda.

Perbedaannya dengan bias AI terletak pada skalanya. AI dapat memperkuat keputusan tersebut lebih cepat dan dengan pengawasan yang jauh lebih sedikit, yang akan mengikis tujuan jangka panjang seperti loyalitas merek dan nilai seumur hidup.

Itulah sebabnya Anda perlu mengantisipasinya:

1. Ajukan pertanyaan yang benar

Sebelum memulai perjalanan AI Anda, berhentilah sejenak dan tanyakan: "Apakah kita benar-benar memiliki apa yang kita butuhkan untuk melakukan ini dengan benar? Bisakah kita melakukannya tanpa membahayakan pengalaman konsumen dan merek kita?"

Terlalu banyak merek yang terjun ke AI karena tidak ingin tertinggal. Namun, mencoba mengikuti tren yang ada adalah strategi yang buruk.

Apakah Anda memiliki data pelanggan, integrasi, dan tata kelola yang tepat untuk mendukung kasus penggunaan AI yang berhadapan langsung dengan pelanggan tanpa meningkatkan bias? Apakah Anda sepenuhnya memahami tujuan pelanggan Anda?

Jika jawabannya tidak, atau bahkan "agak", Anda belum siap.

2. Tujuan keseimbangan

Untuk menyeimbangkan tujuan pelanggan dan bisnis secara efektif, anggaplah kebutuhan pelanggan sebagai tujuan, sementara tujuan bisnis Anda adalah batasannya. AI Anda harus beroperasi dalam batasan tersebut, tetapi tetap berfokus pada hasil yang mengutamakan pelanggan. Anda juga dapat melihatnya sebagai keseimbangan antara pemikiran jangka pendek dan jangka panjang.

Metrik jangka pendek, seperti pendapatan per interaksi, memang penting. Namun, metrik tersebut seringkali bertentangan dengan nilai jangka panjang. Bahkan “Bapak AI” memperingatkan terhadap AI yang didorong oleh keuntungan jangka pendek, karena pola pikir itu tidak dapat diterapkan secara luas.

AI Anda mungkin mencapai target pendapatannya hari ini, tetapi apakah Anda bersedia menukar loyalitas pelanggan dengan keuntungan cepat?

Pertimbangkan kembali contoh Delta. Strateginya cerdas secara teknis dan selaras dengan bisnis. Namun, konsumen tidak senang dengan gagasan mengeluarkan lebih banyak uang untuk tiket pesawat, dan merek tersebut terpukul.

Berpikirlah dalam jangka waktu lima tahun. Anda perlu menumbuhkan nilai seumur hidup secara perlahan dan berkelanjutan.

3. Pahami kebutuhan pelanggan Anda yang terus berkembang

Tidak hanya secara umum, tetapi dalam setiap kasus penggunaan. Apa yang ingin mereka capai?

Jika Anda tidak memahami hal ini, AI Anda hanya akan menebak-nebak. Itulah sebabnya profil pelanggan Anda harus terkini, lengkap, dan spesifik, baik secara umum maupun individual.

Segmen yang luas dan asumsi yang ketinggalan zaman tidak akan berhasil. Anda membutuhkan data yang mewakili orang sungguhan di sisi lain interaksi. Hal itu akan menghasilkan pemahaman yang lebih mendalam tentang pelanggan dan membentuk fondasi pelatihan LLM Anda.

Model pembangkitan tambahan pengambilan (RAG) juga membantu di sini, dengan menarik data relevan yang dikurasi untuk memberikan konsumen pengalaman yang lebih baik untuk tugas spesifik yang ingin mereka lakukan.

Namun, ini bukan latihan sekali jadi. Sasaran pelanggan berubah dan ekspektasi pun berubah. Merek perlu memperbarui sistem AI mereka secara berkala agar sesuai dengan perkembangan terbaru. Artinya, meninjau kembali data pelatihan dan memfasilitasi pembelajaran berkelanjutan, bukan hanya menyempurnakan keluaran.

4. Teliti vendor AI secara ketat

Tidak semua vendor diciptakan sama, dan janji besar tidak selalu menjanjikan hasil besar. Pilihlah mitra dengan keahlian nyata dan rekam jejak yang terbukti, bukan hanya demo yang menarik. Vendor dengan data spesifik domain selama puluhan tahun dapat menggunakannya untuk melatih model dengan lebih baik dibandingkan merek baru yang mengandalkan kumpulan data umum.

Pelanggan Anda mungkin menyadari perbedaan kedalaman data saat mereka memerlukan dukungan khusus.

Dan ingat, jika AI gagal di lapangan, merek Anda akan terdampak. Tanyakan saja kepada orang-orang yang terdampak. Gangguan CrowdStrike 2024Konsumen rata-rata tidak menyalahkan penyedia. Mereka menyalahkan merek yang menerapkan teknologi tersebut.

Carilah vendor yang telah melakukan hal ini sebelumnya, di industri Anda, dengan kasus penggunaan Anda. Pengetahuan domain selalu mengalahkan ambisi.

5. Membangun tata kelola

Jika Anda tidak mendefinisikan logika dengan jelas dan konsisten, AI Anda akan mulai membuat keputusan berdasarkan pola, bukan kebijakan. Pola-pola tersebut mungkin tidak mewakili merek, nilai-nilai, atau kewajiban hukum Anda.

Orkestrasi dan pengaturan aturan terpusat sangat penting untuk memastikan AI berfungsi sebagaimana mestinya—setiap saat, di setiap interaksi pelanggan. Tanpa tata kelola seperti ini, satu model mungkin menangani pertanyaan penagihan dengan satu cara, sementara model lain memberikan jawaban yang sama sekali berbeda.

Tetap berpegang pada praktik terbaik industri dan bersandar pada kerangka kerja manajemen risiko untuk melindungi merek. Tata kelola yang baik tidak akan memperlambat Anda. Tata kelola yang baik akan menyelamatkan Anda dari pembersihan di kemudian hari.

6. Cakupan AI agen dengan hati-hati

Media massa seakan-akan mengatakan bahwa sistem berbasis agen adalah masa depan segalanya. Kenyataannya, sebagian besar merek belum siap, dan itu tidak masalah.

Karena belum banyak bukti, mulailah dari yang kecil. Bermitralah dengan penyedia teknologi yang telah berpengalaman dan dapat memandu Anda. Prioritaskan alur kerja berisiko rendah dengan langkah-langkah yang jelas dan tingkat keagenan yang dapat dipercaya—idealnya, dikelola oleh satu tim. Kasus penggunaan ini biasanya memiliki logika, akuntabilitas, dan pengawasan yang jelas. Kemudian, Anda dapat belajar dan mengembangkannya.

Jika melibatkan banyak tim atau prosesnya tidak terstruktur, jangan harap pengambilan keputusan oleh mesin dapat membantu pelanggan Anda.

Agar benar-benar berhasil, AI agen membutuhkan akses ke profil pelanggan yang lengkap dan terkini. Tanpa konteks waktu nyata, bahkan model terbaik sekalipun akan menghasilkan pengalaman yang terputus dan bias.

Bias Adalah Cermin, Bukan Malfungsi

AI tidak menciptakan bias. AI mencerminkan apa yang disampaikan melalui data, pelatihan, dan prioritas bisnis. Itulah mengapa penyelarasan itu penting. Jika sistem Anda tidak dirancang untuk pelanggan, AI hanya akan memperlebar kesenjangan.

Bias objektif tidak dapat dihilangkan sepenuhnya, tetapi dapat dikelola.

Jadikan loyalitas jangka panjang sebagai tujuan utama Anda. Sisanya akan menyusul. Ketika setiap keputusan model disaring melalui retensi, nilai seumur hidup, dan kepercayaan, prioritas lainnya (tata kelola, pemahaman pelanggan, tujuan yang seimbang) secara alami akan terwujud.

Jalan pintas hari ini hampir selalu merugikan Anda di masa mendatang, tetapi lanjutkan dengan loyalitas sebagai inti strategi Anda, dan AI akan berubah dari sebuah beban menjadi sebuah keuntungan.