AI Sudah Hadir. Tantangan Sebenarnya Adalah Kepercayaan

Selama bertahun-tahun, diskusi seputar kecerdasan buatan telah berfokus pada kemampuan.

Apakah AI dapat menulis konten yang lebih baik? Apakah dapat mengautomasi interaksi pelanggan? Apakah dapat meningkatkan produktivitas, mendeteksi penipuan, menganalisis data, dan mendukung keputusan yang lebih baik?

Hari ini, pertanyaan-pertanyaan tersebut menjadi kurang relevan. AI sudah melakukan hal-hal tersebut.

Pertanyaan yang lebih penting adalah apakah orang-orang mempercayainya.

Menurut studi global 2025 oleh KPMG dan Universitas Melbourne, 66% orang sekarang menggunakan AI secara teratur, dan 83% percaya bahwa AI akan memberikan manfaat yang signifikan. Namun, hanya 46% yang mau mempercayai sistem AI.

Gap antara adopsi dan kepercayaan menjadi semakin sulit untuk diabaikan.

Sementara sebagian besar industri masih fokus pada apa yang dapat dilakukan AI, tantangan sebenarnya yang dihadapi oleh bisnis, pemerintah, dan masyarakat adalah bagaimana kita membangun kepercayaan pada sistem yang semakin tertanam dalam kehidupan sehari-hari kita.

Karena apakah kita secara aktif memilih untuk menggunakan AI atau tidak, AI semakin memilih kita.

Kita Tidak Mengadopsi AI. AI Mengadopsi Kita.

Secara historis, teknologi baru adalah sesuatu yang dipilih oleh individu secara sadar. Kita memilih untuk membeli smartphone. Kita memilih untuk menggunakan media sosial. Kita memilih untuk memindahkan banking online. AI berbeda.

AI semakin tertanam dalam produk, layanan, platform, dan proses pengambilan keputusan tanpa pengguna harus membuat pilihan aktif. Hari ini, AI sudah beroperasi di belakang banyak alat sehari-hari, dari navigasi dan rekomendasi yang dipersonalisasi hingga filter email dan asisten virtual.

Rekomendasi yang kita terima, konten yang kita konsumsi, interaksi layanan pelanggan yang kita miliki, produk yang kita tawarkan, dan bahkan informasi yang kita lihat online semakin dipengaruhi oleh AI.

Bagi banyak orang, AI telah menjadi bagian dari kehidupan sehari-hari jauh sebelum mereka sepenuhnya memahami apa itu AI dan bagaimana cara kerjanya.

Hal ini menciptakan kenyataan yang tidak nyaman.

Orang-orang diminta untuk mempercayai sistem yang tidak mereka pilih secara aktif, tidak sepenuhnya memahami, dan seringkali memiliki sedikit visibilitas.

Pemahaman Bukanlah Masalah Sebenarnya

Kebijaksanaan konvensional menyatakan bahwa kekhawatiran masyarakat seputar AI berasal dari kurangnya pemahaman.

Jika orang-orang tahu lebih banyak tentang teknologi, mereka akan lebih mempercayainya. Kenyataannya lebih kompleks. Kebanyakan orang tidak memahami bagaimana pesawat modern bekerja, namun mereka mempercayainya.

Sedikit orang memahami matematika di balik enkripsi perbankan online, namun mereka mempercayai uang mereka kepada platform digital setiap hari.

Kepercayaan tidak datang dari pemahaman teknis saja.

Kepercayaan datang dari transparansi, konsistensi, akuntabilitas, dan kepercayaan bahwa sistem beroperasi dalam kepentingan terbaik kita.

Penelitian yang disoroti oleh Forum Ekonomi Dunia menunjukkan bahwa orang-orang yang kurang antusias tentang AI mungkin merasa lebih positif tentangnya ketika mereka memahami manfaat pribadi dan sosialnya. Namun, kesadaran saja tidak dapat mengatasi kekhawatiran tentang bagaimana sistem dikelola dan siapa yang dilayani.

Ini adalah di mana banyak diskusi AI melewatkan titik. Tantangan bukanlah bahwa orang-orang kekurangan pengetahuan. Tantangan adalah bahwa banyak orang tidak yakin siapa yang dilayani oleh AI.

Gap Kepercayaan yang Muncul

Ketika adopsi AI dipercepat, gap kepercayaan mulai muncul.

Reuters melaporkan tentang studi KPMG dan Universitas Melbourne bahwa sementara dua pertiga orang sekarang menggunakan AI secara teratur, 58% masih memandang AI sebagai tidak dapat dipercaya. Penelitian tersebut mengungkapkan perbedaan yang semakin besar antara kemampuan teknologi dan kepercayaan masyarakat.

Orang-orang khawatir tentang bias, informasi yang salah, privasi, penggantian pekerjaan, manipulasi, dan kehilangan kontrol. Bukan karena mereka menolak inovasi, tetapi karena kepercayaan belum sejalan dengan adopsi.

Ketika kepercayaan tidak ada, resistensi tumbuh. Dan ketika resistensi tumbuh, adopsi yang bermakna menjadi jauh lebih sulit.

Mengapa Kepercayaan Harus Dirancang, Bukan Dianggap

Kepercayaan tidak dapat dianggap sebagai produk sampingan dari inovasi. Kepercayaan harus dirancang secara sengaja ke dalam sistem AI dari awal.

Laporan Edelman Trust Barometer sektor teknologi 2025 menjelaskan AI sebagai ‘titik infleksi kepercayaan’, dengan argumen bahwa jalur ke depan bergantung pada menunjukkan nilai dan tanggung jawab sambil membawa masyarakat dalam perjalanan.

Hal ini memerlukan kerangka kerja tata kelola yang jelas, proses pengambilan keputusan yang transparan, kontrol keamanan yang kuat, dan akuntabilitas yang berarti. Prinsip-prinsip ini juga tercermin dalam Kerangka Manajemen Risiko AI US National Institute of Standards and Technology, yang memberikan organisasi dengan pendekatan terstruktur untuk mengelola risiko dan mempromosikan penggunaan AI yang dapat dipercaya dan bertanggung jawab.

Yang paling penting, organisasi harus berkomunikasi secara terbuka tentang di mana AI digunakan, keputusan apa yang dipengaruhi, dan di mana pengawasan manusia masih penting.

Kepercayaan tidak dibangun melalui kampanye pemasaran. Kepercayaan dibangun melalui implementasi yang bertanggung jawab dan perilaku konsisten over waktu.

Pengawasan Manusia Masih Penting

Salah satu kesalahpahaman terbesar seputar AI adalah bahwa tujuan akhir adalah otomatisasi total.

Penyebaran AI yang paling sukses seringkali adalah yang menggabungkan kecerdasan mesin dengan penilaian manusia.

Manusia memberikan konteks.

Manusia memahami nuansa.

Manusia mengenali pertimbangan etika yang mungkin tidak ada dalam dataset.

AI dapat memproses informasi dengan kecepatan luar biasa, namun kepercayaan masih fundamental manusia.

Dari perspektif keamanan dan tata kelola, kerangka regulasi Uni Eropa untuk AI termasuk pengawasan manusia di antara persyaratan untuk sistem AI berisiko tinggi tertentu.

Ketika pelanggan, karyawan, dan regulator mengetahui bahwa keputusan penting masih tunduk pada penilaian manusia, akuntabilitas menjadi lebih jelas dan kepercayaan meningkat.

Ini adalah alasan mengapa organisasi harus fokus kurang pada menggantikan orang dan lebih pada meningkatkan kemampuan mereka.

Masa depan bukanlah AI versus manusia.

Masa depan adalah AI yang dipandu oleh manusia.

Membangun Masa Depan.