AI Perusahaan Bergantung pada Data yang Dapat Dipercaya Orang

Pada tahun 2025, perusahaan menginvestasikan sekitar $30 miliar hingga $40 miliar dalam AI generatif, namun Proyek NANDA MIT menemukan bahwa hanya 5 persen dari lebih dari 300 penerapan perusahaan yang diteliti menghasilkan keuntungan finansial yang dapat diukur.

Saya telah menghabiskan lebih dari 25 tahun bekerja dalam program data perusahaan. Jauh sebelum AI generatif masuk dalam percakapan, saya melihat betapa cepatnya teknologi kehilangan kredibilitas ketika orang tidak dapat mengandalkan data di baliknya. AI generatif meningkatkan taruhannya karena dapat mengubah data yang diragukan menjadi jawaban yang meyakinkan.

Dulu kami berkata sampah masuk, sampah keluar. Sekarang menjadi sampah masuk, bencana keluar. Ketika data tampak mencurigakan, seseorang dapat menggunakan penilaiannya dan menghubungi spesialis data. Spesialis akan melakukan analisis akar penyebab, mengidentifikasi masalah, dan menerapkan perbaikan. Saat ini, agen dapat bertindak atas data apa pun yang mereka temui. Tanpa pengawasan manusia yang berpengetahuan, hasilnya dapat menjadi bagian dari operasi, digunakan dalam keputusan, dan menyebar ke seluruh organisasi.

Masalah yang sama dapat muncul dalam chatbot. Pengabaian tata kelola dapat mengubah data yang buruk atau kurang dipahami menjadi jawaban yang terdengar berotoritas, secara langsung dan dalam skala besar.

Kepercayaan Adalah Kendala Utama Adopsi

Ketika chatbot internal memberikan seseorang jawaban yang meyakinkan namun salah, orang tersebut mungkin tidak akan mempercayainya lagi. Di organisasi besar, AI juga akan menemukan data yang sebenarnya Anda tidak ingin temukan. Saya membandingkannya dengan kaus kaki kotor di bawah tempat tidur: data itu mungkin tersembunyi, tetapi AI akan menemukan data gelap itu dan menggunakannya.

Konteks harus menyertai data dan menjadi dasar yang diandalkan LLM. Sebelum model AI menggunakan data, orang perlu mengetahui apa artinya, dari mana asalnya, siapa pemiliknya, serta aturan bisnis dan kebijakan apa yang mengelilinginya.

Pimpinan dapat melewatkan hal ini karena sistem jarang mengalami kegagalan. AI dapat salah dengan yakin; bahkan dapat menyarankan lem untuk pizza Anda (contoh lama). Bayangkan chatbot yang memberikan jawaban yang yakin namun salah, dan tenaga kerja berhenti mempercayainya. Membangun kembali kepercayaan itu memakan waktu jauh lebih lama daripada menetapkan kontrol yang tepat sejak awal.

Erosi tersebut juga terlihat dalam data. Karyawan di lebih dari 90 persen perusahaan yang dipelajari MIT terus menggunakan alat AI pribadi secara sampingan, bahkan setelah pilot resmi yang dibangun oleh pemberi kerja mereka gagal memperoleh kepercayaan mereka. Ketika alat yang disetujui belum memperoleh kepercayaan mereka, karyawan mencari cara lain untuk menyelesaikan pekerjaan.

Sebagian besar penelitian AI tahun ini menunjuk pada masalah yang sama: organisasi bergerak maju dengan AI sebelum mereka melakukan pekerjaan untuk membuat data mereka dapat dipercaya. Gartner memperkirakan bahwa hampir dua pertiga organisasi tidak memiliki praktik manajemen data yang tepat untuk AI atau tidak yakin apakah mereka memilikinya. Penelitian terpisah dari IDC menemukan kesenjangan serupa pada sisi kepercayaan: 78 persen organisasi mengatakan mereka sepenuhnya mempercayai AI mereka, tetapi hanya 40 persen yang benar‑benar berinvestasi dalam tata kelola dan pekerjaan penjelasan yang akan membenarkan kepercayaan tersebut.

Ketidaksesuaian antara keyakinan dan investasi membantu menjelaskan mengapa begitu banyak inisiatif AI terhenti sebelum mencapai produksi atau gagal selaras dengan nilai yang dimaksud.

Tata Kelola AI Sekarang Menjadi Keunggulan Kompetitif

Selama sebagian besar karier saya, tata kelola data adalah salah satu bagian paling kurang glamor dalam TI perusahaan. Mengkatalogkan metadata, mendefinisikan kepemilikan, memprofil data, dan mengelola alur kerja dapat terasa seperti pekerjaan kebersihan. Orang sering melewatkannya karena upaya terasa lebih besar daripada nilai yang dihasilkan.

AI telah mengubah hal itu. AI menjadi kemampuan tata kelola di bidang seperti merancang cetak biru data, membuat glosarium yang dikurasi industri, serta merekomendasikan dan mengaktifkan kebijakan data. Bahkan jejak data kini dapat disimpulkan dan dipercepat lebih cepat daripada sebelumnya, sehingga nilai dari pipeline data yang dikelola dan observabilitas menjadi lebih mudah direalisasikan.

Regulasi juga membuat transparansi data lebih mendesak. EU AI Act menjadi berlaku secara luas pada 2 Agustus 2026, termasuk aturan transparansi untuk sistem tertentu dan konten yang dihasilkan AI. Undang‑Undang tersebut juga menetapkan persyaratan terpisah untuk sistem berisiko tinggi, termasuk dokumentasi dan informasi yang membantu penerapan memahami output mereka, meskipun beberapa ketentuan berisiko tinggi mengikuti jadwal yang lebih lambat.

Bagi perusahaan, pelajaran praktisnya sederhana: jejak yang jelas dan tata kelola memudahkan dokumentasi data yang digunakan, asalnya, dan bagaimana sistem seharusnya beroperasi.

Gambaran regulasi di AS masih belum pasti. Tanpa undang‑undang AI federal yang komprehensif, perusahaan harus menavigasi berbagai persyaratan negara bagian, bahkan saat Gedung Putih berupaya membatasi kemampuan negara bagian untuk membuat dan menegakkan aturan AI mereka sendiri. AI Act Colorado, kerangka kerja negara bagian paling komprehensif yang ada, telah ditunda dan ditulis ulang sekali dalam pertempuran tersebut, dengan kewajiban inti kini dipindahkan ke 2027. Bagi banyak perusahaan AS, godaan yang ada adalah menunggu ketidakpastian berlalu.

Saya berpendapat itu adalah naluri yang salah. Apapun model regulasi yang pada akhirnya berhasil di AS, persyaratan mendasar tidak akan hilang. Ketahui dari mana data Anda berasal. Ketahui apakah ada yang benar‑benar memvalidasinya sebelum AI menggunakannya. Mengembangkan disiplin ini sekarang akan membantu perusahaan mempersiapkan diri untuk regulasi baru dan mengubah pilot AI yang menjanjikan menjadi alat yang dapat digunakan bisnis dengan keyakinan.

Apa yang Membuat 5 Persen Berbeda

Izinkan saya menceritakan tentang satu klien. Tim buku besar mereka harus menelusuri 300 spreadsheet terpisah setiap kali ada perbedaan dalam catatan. Tiga ratus. Akhirnya seseorang membangun kembali kekacauan itu menjadi satu aset data yang dikelola, dengan perhitungan, laporan, dan data dasar yang dikemas bersama dan divalidasi di awal. Pada kali berikutnya muncul masalah, perbaikan memerlukan sebagian kecil usaha dibanding sebelumnya. Hanya pada proses itu saja, mereka menghemat sekitar 750 hari kerja. Itu berarti jutaan dolar penghematan biaya hanya dari pembersihan tersebut.

Peningkatan tersebut berasal dari membuat data yang tepat mudah ditemukan dan cukup dapat diandalkan untuk digunakan tanpa keraguan. Kolaborasi dan penggunaan kembali membuat hal itu memungkinkan. Produk data yang dipercaya dapat diselaraskan dengan standar perusahaan, diperluas dan ditingkatkan seiring waktu, dinilai berdasarkan kepercayaan, dan dikelola untuk nilai. Pendekatan ini mengurangi kebutuhan untuk membuat ratusan atau ribuan produk yang terikat pada tabel basis data fisik individu.

Program yang kuat membuat kepercayaan itu terlihat. Di pasar data tempat saya bekerja, aset dapat diklasifikasikan sebagai emas, perak, atau perunggu berdasarkan faktor seperti kualitas, kurasi, penggunaan, dan kepemilikan. Pengguna bisnis dapat melihat seberapa dapat diandalkannya sebuah aset sebelum menggunakannya. Visibilitas tersebut membantu orang berhenti menebak dan membuat mereka lebih bersedia menggunakan kembali data yang sudah ada.

Angka 95 persen merupakan peringatan tentang betapa santainya banyak perusahaan memperlakukan data di balik AI generatif. Organisasi yang membuat kemajuan memberikan orang pandangan yang jelas tentang asal data mereka, bagaimana data tersebut divalidasi, dan apakah data itu cocok untuk tugasnya. Setelah bertahun‑tahun manajemen data diperlakukan sebagai pekerjaan latar belakang, AI akhirnya membuat nilainya terlihat.