AI Perusahaan Bergantung pada Data yang Dapat Dipercaya

Pada tahun 2025, perusahaan menginvestasikan sekitar $30 miliar hingga $40 miliar dalam AI generatif, namun Proyek NANDA MIT menemukan bahwa hanya 5 persen dari lebih dari 300 penerapan perusahaan yang diteliti menghasilkan keuntungan finansial yang dapat diukur. yang diteliti.

Saya telah menghabiskan lebih dari 25 tahun bekerja dalam program data perusahaan. Jauh sebelum AI generatif masuk dalam pembicaraan, saya melihat betapa cepatnya teknologi kehilangan kredibilitas ketika orang tidak dapat mengandalkan data di baliknya. AI generatif meningkatkan taruhannya karena dapat mengubah data yang diragukan menjadi jawaban yang yakin.

Dulu kami berkata ‘sampah masuk, sampah keluar’. Sekarang menjadi ‘sampah masuk, bencana keluar’. Ketika data tampak mencurigakan, seseorang dapat menggunakan penilaiannya dan menghubungi spesialis data. Spesialis tersebut akan melakukan analisis akar penyebab, mengidentifikasi masalah, dan menerapkan perbaikan. Saat ini, agen dapat bertindak atas data apa pun yang mereka temui. Tanpa pengawasan manusia yang berpengetahuan, hasilnya dapat menjadi bagian dari operasi, digunakan dalam keputusan, dan menyebar ke seluruh organisasi.

Masalah yang sama dapat muncul pada chatbot. Pengabaian tata kelola dapat mengubah data yang buruk atau kurang dipahami menjadi jawaban yang terdengar berotoritas, secara langsung dan dalam skala besar.

Kepercayaan Adalah Hambatan Utama Adopsi

Ketika chatbot internal memberikan jawaban yang yakin namun salah, orang tersebut mungkin tidak akan mempercayainya lagi. Di organisasi besar, AI juga akan menemukan data yang sebaiknya tidak ditemukan. Saya membandingkannya dengan kaus kaki kotor di bawah tempat tidur: data itu mungkin tersembunyi, tetapi AI akan menemukan data gelap itu dan menggunakannya.

Konteks harus menyertai data dan menjadi dasar yang dipakai LLM. Sebelum model AI menggunakan data, orang perlu mengetahui apa artinya, dari mana asalnya, siapa pemiliknya, serta aturan bisnis dan kebijakan apa yang mengelilinginya

Pimpinan dapat melewatkan hal ini karena sistem jarang mengalami kegagalan. AI dapat salah dengan keyakinan; ia bahkan dapat menyarankan lem untuk pizza Anda (contoh lama). Bayangkan chatbot yang memberikan jawaban yakin namun salah, dan tenaga kerja berhenti mempercayainya. Membangun kembali kepercayaan itu memakan waktu jauh lebih lama daripada menetapkan kontrol yang tepat sejak awal.

Erosi tersebut juga terlihat pada data. Karyawan di lebih dari 90 persen perusahaan yang dipelajari MIT terus menggunakan alat AI pribadi secara sampingan, bahkan setelah pilot resmi yang dibangun oleh pemberi kerja gagal memperoleh kepercayaan mereka. Ketika alat yang disetujui belum mendapatkan kepercayaan mereka, karyawan mencari cara lain untuk menyelesaikan pekerjaan.

Sebagian besar penelitian AI tahun ini menunjuk pada masalah yang sama: organisasi bergerak maju dengan AI sebelum mereka melakukan pekerjaan untuk membuat data mereka dapat dipercaya. Gartner memperkirakan bahwa hampir dua pertiga organisasi tidak memiliki praktik manajemen data yang tepat untuk AI atau tidak yakin apakah mereka memilikinya. Penelitian terpisah dari IDC menemukan kesenjangan serupa pada sisi kepercayaan: 78 persen organisasi mengatakan mereka sepenuhnya mempercayai AI mereka, tetapi hanya 40 persen yang benar-benar berinvestasi dalam tata kelola dan pekerjaan penjelasan yang akan membenarkan kepercayaan tersebut.

Ketidaksesuaian antara keyakinan dan investasi membantu menjelaskan mengapa begitu banyak inisiatif AI terhenti sebelum mencapai produksi atau gagal menyelaraskan dengan nilai yang dimaksud.

Tata Kelola AI Sekarang Menjadi Keunggulan Kompetitif

Selama sebagian besar karier saya, tata kelola data adalah salah satu bagian paling tidak glamor dalam TI perusahaan. Mengkatalogkan metadata,, mendefinisikan kepemilikan, memprofil data, dan mengelola alur kerja dapat terasa seperti pekerjaan kebersihan. Orang sering melewatkannya karena upaya terasa lebih besar daripada nilai yang dihasilkannya.

AI telah mengubah hal itu. AI menjadi kemampuan tata kelola di bidang seperti merancang cetak biru data, membuat glosarium yang dikurasi industri, serta merekomendasikan dan mengaktifkan kebijakan data. Bahkan garis keturunan data kini dapat disimpulkan dan dipercepat lebih cepat daripada sebelumnya, sehingga nilai dari pipeline data yang dikelola dan observabilitas menjadi lebih mudah direalisasikan.

Regulasi juga membuat transparansi data semakin mendesak. EU AI Act mulai berlaku secara luas pada 2 Agustus 2026, termasuk aturan transparansi untuk sistem tertentu dan konten yang dihasilkan AI. Undang-undang tersebut juga menetapkan persyaratan terpisah untuk sistem berisiko tinggi, termasuk dokumentasi dan informasi yang membantu penyebar menafsirkan output mereka, meskipun beberapa ketentuan berisiko tinggi mengikuti jadwal yang lebih lambat.

Bagi perusahaan, pelajaran praktisnya sederhana: garis keturunan dan tata kelola yang jelas memudahkan dokumentasi data yang digunakan, asalnya, dan bagaimana sistem seharusnya beroperasi.

Gambaran regulasi di AS masih belum pasti. Tanpa undang-undang AI federal yang komprehensif, perusahaan harus menavigasi berbagai persyaratan negara bagian, bahkan saat Gedung Putih berupaya membatasi kemampuan negara bagian untuk membuat dan menegakkan aturan AI mereka sendiri. AI Act Colorado, kerangka kerja negara bagian paling komprehensif yang ada, telah ditunda dan ditulis ulang sekali dalam perjuangan tersebut, dengan kewajiban inti kini ditunda hingga 2027. Bagi banyak perusahaan AS, godaan mereka adalah menunggu ketidakpastian berlalu.

Saya berpendapat itu adalah naluri yang salah. Apapun model regulasi yang pada akhirnya berhasil di AS, persyaratan dasar tidak akan menghilang. Ketahuilah dari mana data Anda berasal. Ketahuilah apakah ada yang benar-benar memvalidasinya sebelum AI menggunakannya. Mengembangkan disiplin ini sekarang akan membantu perusahaan mempersiapkan diri untuk regulasi baru dan mengubah pilot AI yang menjanjikan menjadi alat yang dapat digunakan bisnis dengan keyakinan.

Apa yang Membedakan 5 Persen

Izinkan saya menceritakan tentang satu klien. Tim buku besar mereka harus menelusuri 300 lembar spreadsheet terpisah setiap kali ada perbedaan dalam pembukuan. Tiga ratus. Akhirnya seseorang membangun kembali kekacauan itu menjadi satu aset data yang dikelola, dengan perhitungan, laporan, dan data dasar yang dikemas bersama dan divalidasi di awal. Saat masalah muncul lagi, perbaikan memerlukan sebagian kecil usaha dibanding sebelumnya. Hanya pada proses itu saja, menghemat sekitar 750 hari kerja. Itu berarti jutaan dolar penghematan biaya hanya dari pembersihan tersebut.

Peningkatan tersebut berasal dari membuat data yang tepat mudah ditemukan dan cukup dapat diandalkan untuk digunakan tanpa keraguan. Kolaborasi dan penggunaan kembali memungkinkan hal itu. Produk data yang terpercaya dapat diselaraskan dengan standar perusahaan, diperluas dan ditingkatkan seiring waktu, dinilai kepercayaannya, dan dikelola untuk nilai. Pendekatan ini mengurangi kebutuhan untuk membuat ratusan atau ribuan produk yang terikat pada tabel basis data fisik individu.

Program yang kuat membuat kepercayaan itu terlihat. Di pasar data yang saya kerjakan, aset dapat diklasifikasikan sebagai emas, perak, atau perunggu berdasarkan faktor seperti kualitas, kurasi, penggunaan, dan kepemilikan. Pengguna bisnis dapat melihat seberapa dapat diandalkannya sebuah aset sebelum menggunakannya. Visibilitas ini membantu orang berhenti menebak dan membuat mereka lebih bersedia menggunakan kembali data yang sudah ada.

Angka 95 persen merupakan peringatan tentang betapa santainya banyak perusahaan memperlakukan data di balik AI generatif. Organisasi yang membuat kemajuan memberikan orang pandangan yang jelas tentang asal data mereka, bagaimana data tersebut divalidasi, dan apakah data itu cocok untuk tugasnya. Setelah bertahun-tahun manajemen data diperlakukan sebagai pekerjaan latar belakang, AI akhirnya membuat nilainya terlihat.