Kesenjangan Persetujuan yang Tersembunyi di Dalam AI Perusahaan

Percakapan AI perusahaan cenderung dimulai dengan data. Apakah perusahaan memiliki cukup informasi pelanggan untuk melatih model, mempersonalisasi pengalaman, atau mendukung keputusan otomatis?

Pertanyaan yang sering terlewatkan adalah apakah perusahaan benar‑benar memiliki izin untuk menggunakan data tersebut untuk tujuan spesifik yang dimaksudkan.

Data pelanggan dapat akurat, dapat diakses, dan berharga sekaligus tetap memiliki batasan. Seseorang mungkin setuju menerima rekomendasi yang dipersonalisasi tanpa menyetujui penggunaan informasinya untuk melatih model AI. Orang lain mungkin menginginkan pembaruan email sebulan sekali tetapi menolak pesan teks harian.

Itulah mengapa saya mulai menggambarkan pengelolaan persetujuan dan preferensi sebagai tata kelola izin. Ini menjawab pertanyaan sederhana: Siapa, atau apa, yang memiliki izin untuk mengakses data ini dan menggunakannya untuk tujuan tertentu?

Seiring AI terhubung dengan lebih banyak pengalaman pelanggan, perusahaan perlu menjawab pertanyaan itu sebelum sistem bertindak. Insiden AI yang terdokumentasi meningkat dari 233 pada 2024 menjadi 362 pada 2025 — lonjakan 55% dalam satu tahun, dan merupakan indikasi betapa pentingnya mendapatkan hal ini dengan benar.

Data yang Tersedia Bukan Data yang Diotorisasi

Sebagian besar organisasi besar sudah memiliki teknologi untuk mengumpulkan, menyimpan, dan memindahkan informasi pelanggan. Mereka mungkin tahu di mana data berada, pelanggan mana yang memilikinya, dan bagaimana membuatnya tersedia bagi aplikasi lain.

Tata kelola izin menjawab serangkaian pertanyaan yang berbeda:

• Mengapa informasi tersebut dikumpulkan?
• Apa yang disetujui oleh pelanggan?
• Penggunaan apa saja yang dicakup oleh kesepakatan tersebut?
• Apakah pelanggan mengubah pendiriannya?
• Sistem mana yang perlu menerima pembaruan tersebut?

Pertanyaan‑pertanyaan ini menjadi sangat penting ketika data yang dikumpulkan untuk satu tujuan diperkenalkan ke kasus penggunaan AI yang baru. Informasi yang berada di dalam CRM atau profil pelanggan tidak secara otomatis cocok untuk setiap model, kampanye, atau keputusan otomatis.

Persetujuan adalah salah satu dasar yang sah untuk memproses data pribadi, tetapi bukan satu‑satunya. Persyaratan bergantung pada yurisdiksi, data, dan kasus penggunaan. Poin yang lebih luas adalah bahwa ketersediaan saja tidak membuktikan otorisasi.Regulator sudah memeriksa apa yang terjadi ketika model AI dikembangkan menggunakan data pribadi yang diproses secara tidak sah. Pertanyaan tentang bagaimana informasi diperoleh tidak menghilang begitu informasi tersebut masuk ke dalam model.

AI Membutuhkan Lebih dari “Opt In” atau “Opt Out”

Sistem persetujuan tradisional sering menyederhanakan keputusan pelanggan menjadi dua pilihan: opt in atau opt out. Hal itu tidak mencerminkan cara orang sebenarnya ingin berinteraksi dengan perusahaan.

Seorang pelanggan mungkin menginginkan rekomendasi produk tetapi menolak iklan yang tidak relevan. Mereka dapat menerima personalisasi sambil menolak penggunaan informasi mereka untuk pelatihan model. Mereka mungkin masih menyukai email merek tetapi ingin mendengarnya sekali sebulan, bukan setiap hari.

Sebuah tinjauan terhadap 22 sistem AI yang berhadapan dengan konsumen menemukan variasi yang luas dalam cara produk meminta izin dan mengelola personalisasi, tanpa standar konsisten di seluruh sistem yang dipelajari.

Memberikan kemampuan kepada pelanggan untuk menurunkan pilihan dapat menjadi pembuka besar. Tanpa opsi itu, seseorang yang frustrasi karena terlalu banyak pesan dapat berhenti berlangganan sepenuhnya. Perusahaan kehilangan pelanggan yang bersedia karena tidak pernah memberi orang tersebut pilihan yang lebih wajar.

Pengalaman menjadi mengganggu pada saat pertukaran itu terhenti — ketika pelanggan tidak ingat meminta hal tersebut atau tidak dapat memahami mengapa perusahaan bertindak atas informasi tertentu. Bisnis dapat menghindari kebanyakan kebingungan itu dengan bersikap langsung: Inilah informasi yang ingin kami kumpulkan, inilah cara kami ingin menggunakannya, dan inilah apa yang akan Anda terima sebagai balasannya.

Pilihan Pelanggan Harus Menjangkau Setiap Sistem

Merekam preferensi di situs web hanyalah langkah awal. Pilihan tersebut harus menjangkau setiap sistem yang menggunakan informasi pelanggan. Seorang pelanggan mungkin memperbarui preferensi sementara platform email, aplikasi layanan, atau lingkungan AI terus bertindak berdasarkan jawaban lama, dan unit bisnis yang berbeda dapat berakhir dengan menyimpan catatan yang bertentangan sebagai akibatnya. Pelanggan juga dapat beralih dari penelusuran anonim ke akun terautentikasi tanpa perusahaan pernah menghubungkan pilihan sebelumnya ke profil baru.

Di sinilah persetujuan tidak dapat lagi berada dalam silo privasi yang hampir tidak diketahui oleh bagian bisnis lainnya. Persetujuan harus terhubung dengan pemasaran, pengalaman pelanggan, tata kelola data, dan sistem yang menerapkan AI. Lapisan izin yang berfungsi harus mempertahankan catatan terbaru, menghubungkan pilihan antar profil pelanggan, mengaitkan setiap izin dengan tujuan spesifik, dan mengirimkan perubahan ke setiap sistem yang relevan.

Jika catatan pusat menunjukkan seorang pelanggan mencabut izin tetapi sistem hilir tetap menggunakan data tersebut, pencatatan pilihan itu sebenarnya tidak menghormatinya. Masalah itu menjadi jauh lebih besar dengan AI. Satu izin yang usang dapat memengaruhi ribuan rekomendasi, pesan, atau tindakan otomatis sebelum ada yang menyadarinya.

Privasi Tidak Mampu Menjadi “Kantor Penolakan”

Semua ini tidak akan berhasil jika privasi hanya dilibatkan setelah fakta. Tim privasi telah memperoleh reputasi di beberapa perusahaan sebagai kantor penolakan, dan dalam banyak kasus hal itu terjadi karena privasi dimasukkan ke dalam proyek setelah keputusan penting sudah diambil.

Tim pemasaran mengembangkan kampanye, tim data membangun model baru, atau kepemimpinan memutuskan harus bergerak cepat pada AI. Privasi menerima rencana tersebut di akhir proses dan mengidentifikasi masalah. Pada titik itu, jawaban realistis satu‑satunya mungkin adalah tidak.

Menyertakan privasi lebih awal dalam proses mengubah percakapan. Tim dapat membantu bisnis terus bergerak sambil mencentang kotak yang tepat sepanjang jalan. Privasi dengan desain jauh lebih mudah daripada mencoba membongkar sistem setelah data pelanggan sudah mengalir melaluinya.

Hal ini penting karena tim privasi seringkali kecil, bahkan di dalam perusahaan terbesar di dunia. Tim kecil namun kuat ini tidak dapat secara manual melacak setiap pilihan pelanggan di setiap aplikasi. Mereka membutuhkan sistem yang fleksibel, mudah digunakan, dan mampu membawa izin ke seluruh bisnis.

Para profesional privasi juga perlu keyakinan untuk menjelaskan pekerjaan mereka dalam istilah bisnis. Mereka berada di antara perusahaan dan pelanggan serta dapat membantu kedua belah pihak memperoleh nilai lebih dari hubungan tersebut.

Jejak Audit Harus Mencapai Keputusan AI

Ketika keputusan yang digerakkan AI dipertanyakan, perusahaan harus dapat merekonstruksi apa yang terjadi. Itu termasuk mengidentifikasi data pelanggan mana yang digunakan, apa yang telah disetujui pelanggan, pemberitahuan apa yang mereka terima, dan apakah pilihan terbaru telah sampai ke sistem sebelum sistem bertindak. Pedoman AI yang ditetapkan menekankan dokumentasi data, persyaratan sistem, dan keputusan sepanjang siklus hidup AI.

Bukti ini mendukung penyelidikan regulator, tetapi juga memiliki nilai praktis. Tim privasi, pemasaran, pengalaman pelanggan, dan data perlu memahami mengapa sesuatu gagal, mengidentifikasi sistem mana yang tidak sinkron, dan memperbaiki prosesnya.

Menangkap persetujuan tidak sama dengan membuktikannya kemudian. Rekaman menjadi jauh lebih sulit untuk direkonstruksi setelah data melewati banyak sistem dan memengaruhi tindakan otomatis.

Kepercayaan Dibangun atau Rusak Satu Interaksi pada Suatu Waktu

Kepercayaan mungkin terdengar seperti kata moda, tetapi itu adalah dasar setiap hubungan pelanggan. Setiap interaksi membuat hubungan itu sedikit lebih baik atau sedikit lebih buruk, apakah perusahaan menyadarinya atau tidak.

Seiring adopsi meningkat, perusahaan memiliki lebih banyak peluang untuk menciptakan nilai, tetapi juga lebih banyak peluang bagi celah tata kelola kecil memengaruhi pelanggan. Sebelum memperluas aplikasi AI yang berhadapan dengan pelanggan, pemimpin harus memahami data apa yang akan digunakan, izin mana yang berlaku, dan seberapa cepat pilihan terbaru pelanggan akan sampai ke sistem.

Rekomendasi tidak boleh bergantung pada informasi yang tidak diharapkan pelanggan untuk digunakan. Pesan tidak boleh tiba melalui saluran yang ditolak pelanggan. Sistem otomatis tidak boleh bertindak semata‑mata karena data tersedia.

Pelanggan sudah memberi tahu organisasi apa yang mereka inginkan. Langkah selanjutnya adalah memastikan sistem AI yang menggunakan data mereka mampu mendengarkan.