Penghalang Terbesar AI Bukan Kemampuan. Itu Kepercayaan.

Saat AI mengambil peran yang lebih besar dalam alur kerja bisnis inti dan keterlibatan pelanggan, tantangannya bukan lagi adopsi; itu adalah kepercayaan. Bahkan ketika organisasi memperluas AI untuk meningkatkan efisiensi, pelanggan tidak secara otomatis mempercayainya.

Menurut studi global KPMG 2025 tentang kepercayaan, sikap, dan penggunaan kecerdasan buatan, hanya 41% orang Amerika bersedia mempercayai AI, sementara 70% mengharapkan AI memberi manfaat bagi mereka. Masalahnya bukan bahwa orang tidak melihat nilai AI, melainkan organisasi meminta mereka mempercayai teknologi yang belum mereka pahami sepenuhnya atau belum menunjukkan hasil yang konsisten. Hal ini karena alat‑alat tersebut sering berada di atas data yang tersegmentasi, alur kerja yang terputus, dan komunikasi yang tidak konsisten. Ketika sistem‑sistem itu tidak berfungsi selaras, AI tidak membangun kepercayaan; malah dapat menggerusnya.

AI Memperluas Apa yang Sudah Ada

AI tidak secara otomatis memperbaiki sistem di belakangnya. Dalam beberapa kasus, AI dapat mengungkap kelemahan yang sudah ada dalam kerangka internal organisasi. Bayangkan seorang pelanggan yang menerima satu jawaban lewat email, satu lagi lewat SMS, dan jawaban berbeda lagi saat berbicara dengan perwakilan. Memasukkan AI ke dalam proses ini tidak menyelesaikan masalah mendasar, melainkan mempercepatnya. Kesalahan‑kesalahan ini membuat pelanggan frustrasi dan merusak kepercayaan mereka pada proses AI yang dijanjikan memudahkan hidup mereka.

Karena AI hanya seandainya data dan sistem operasional yang memberinya input dapat diandalkan, organisasi tidak dapat sekadar menempelkan AI pada operasi yang ada dan mengharapkan hasil yang lebih baik. Alur kerja yang terfragmentasi memaksa model bekerja dengan informasi yang tidak lengkap, usang, atau bertentangan. Menghubungkan sistem‑sistem tersebut memberi AI aliran data yang konsisten, sehingga dapat menyajikan informasi yang lebih akurat kepada tim internal dan konsumen.

Pelanggan mungkin tidak pernah melihat proses di balik aplikasi AI, tetapi mereka melihat apa yang dihasilkannya. Jika respons yang dihasilkan AI salah atau membuat hidup mereka lebih sulit, mereka akan kehilangan kepercayaan pada organisasi dan teknologi tersebut.

AI yang Bertanggung Jawab Membutuhkan Batasan yang Jelas

Organisasi perlu menentukan di mana AI memberikan nilai paling besar. Sebuah studi terbaru menemukan bahwa konsumen khawatir tentang keamanan data dan kurangnya pengawasan manusia, dengan hanya 40% menyatakan mereka mempercayai AI untuk menangani data pribadi mereka dan 47% mengkhawatirkan hal tersebut. Kekhawatiran ini harus memengaruhi cara organisasi merancang dan menerapkan AI, bukan sekadar cara mereka membicarakannya. 

Agar konsumen yakin AI hanya akan digunakan demi kepentingan terbaik mereka, organisasi perlu menciptakan kerangka tata kelola AI yang jelas, yang secara tegas menentukan informasi apa yang dapat dan tidak dapat diakses, tindakan apa yang dapat dilakukan, serta kapan manusia akan campur tangan. Itu bukan berarti manusia harus terlibat setiap kali AI digunakan, melainkan fokus pada mengidentifikasi titik‑titik di mana penilaian manusia penting dan memasukkan titik‑titik tersebut ke dalam alur kerja AI.

Ketika AI beroperasi dalam batasan yang telah ditetapkan, menggunakan informasi pelanggan secara tepat, dan memiliki aturan yang jelas mengenai tindakannya, organisasi memiliki dasar yang lebih kuat untuk memperoleh kepercayaan. 

Transparansi Tidak Boleh Menjadi Pemikiran Terakhir

Saat organisasi memperluas penggunaan AI, mereka harus jelas kepada pelanggan mengenai di mana dan bagaimana teknologi tersebut digunakan dalam pengalaman mereka. Survei Konsumen Connect Deloitte 2025 menemukan bahwa konsumen sering merasa teknologi berkembang tanpa transparansi yang memadai. Mereka tidak semata‑mata meminta organisasi menjelaskan cara kerja model; melainkan mereka ingin tahu apa yang dilakukan AI dengan informasi mereka, bagaimana hal itu memengaruhi pengalaman mereka, dan siapa yang bertanggung jawab jika terjadi masalah.

Dalam praktiknya, hal ini berarti secara proaktif mengkomunikasikan cara AI digunakan, sehingga orang memiliki kejelasan yang cukup untuk memahami apa yang dapat dan tidak dapat dilakukan AI. Pertanyaan‑pertanyaan ini jauh lebih mudah dijawab ketika organisasi membangun transparansi ke dalam desain sistem AI, karena konsumen lebih cenderung mempercayai AI ketika mereka mengerti cara kerjanya.

Kepercayaan Akan Menentukan ROI AI

Meskipun pelanggan mungkin tidak pernah melihat apa yang terjadi di dalam sistem AI, mereka merasakan hasilnya. Mereka memperhatikan ketika respons yang dihasilkan AI salah, ketika mereka harus mengulang permintaan, atau ketika mereka menerima jawaban berbeda tergantung pada saluran yang mereka gunakan. Pengalaman‑pengalaman ini merusak kepercayaan, namun masalah sebenarnya terletak pada apa yang mendasarinya: data yang tersegmentasi, proses yang terputus, tata kelola yang lemah, atau komunikasi yang tidak jelas.

Itulah mengapa organisasi harus melihat lebih jauh dari sekadar model AI saat menilai keberhasilannya. ROI bergantung pada apakah orang yang bergantung padanya dapat mempercayainya, dan apakah AI tersebut dapat mendorong keterlibatan pelanggan. Sistem canggih yang tidak dapat dipercaya tidak akan memberikan hasil yang diharapkan bisnis. AI akan terus menjadi lebih mampu, tetapi kemampuan tersebut tidak akan menentukan sejauh mana organisasi dapat memanfaatkannya — orang yang bergantung padanya yang akan menentukan.