Pemimpin pemikiran

Tata kelola AI perusahaan dimulai dari infrastruktur basis data

Phillip Merrick
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaPersentase pilot AI perusahaan gagal karena tata kelola tidak tertanam di lapisan data.
Lihat selengkapnya
  • Persentase pilot AI perusahaan gagal karena tata kelola tidak tertanam di lapisan data.
  • Agen otonom memerlukan kontrol lapisan data karena penulisan yang tidak terkelola dapat mengalir ke seluruh sistem.
  • Tata kelola berbasis infrastruktur di tingkat basis data menutup kesenjangan antara pilot dan produksi.

Eksperimen AI di perusahaan berlangsung lebih cepat daripada sebelumnya, tetapi perjalanan menuju produksi tetap sulit dipercepat. Tim memulai proyek percontohan, menguji model, dan menunjukkan hasil menjanjikan dalam hitungan minggu, terkadang hari. Namun, ketika sistem hendak diterapkan dalam skala besar, kemajuan sering terhenti. Kekhawatiran keamanan muncul, persyaratan kepatuhan makin ketat, dan persoalan tata kelola bertambah. 

Laporan MIT The GenAI Divide: State of AI in Business 2025 menemukan bahwa 95% proyek percontohan AI perusahaan tidak memberikan dampak bisnis yang terukur. Hanya 5% masuk ke produksi dan menghasilkan manfaat keuangan nyata. Penelitian ini mencakup lebih dari 300 penerapan AI serta 150 wawancara dengan eksekutif. Kesimpulannya, hambatan utama bukan kemampuan model, melainkan integrasi yang buruk dengan sistem perusahaan. Sebagian besar organisasi menganggapnya sebagai masalah kebijakan yang harus diselesaikan oleh pimpinan. Menurut saya, tata kelola AI merupakan tantangan pada tingkat sistem, dan dimulai dari lapisan data.

Mengapa proyek AI terhenti pada tahap percontohan

Banyak inisiatif AI gagal karena lingkungan untuk mengembangkan prototipe pada dasarnya tidak selaras dengan kenyataan penerapan di perusahaan. Pengembang didorong untuk bergerak cepat, memakai alat fleksibel, kumpulan data dengan tata kelola longgar, serta infrastruktur swalayan agar nilai manfaatnya segera terbukti. Ini ideal untuk eksperimen, tetapi tidak serta-merta cocok untuk lingkungan produksi yang memerlukan kemampuan audit, kontrol akses ketat, kepatuhan regulasi, dan ketahanan operasional.

Akibatnya, tata kelola sering baru diperkenalkan setelah pembuktian konsep berhasil. Pada saat itu, lapisan yang seharusnya mendukung penerapan justru menjadi kendala. Tim harus menyesuaikan model keamanan belakangan, merancang ulang aliran data, dan merevisi asumsi kepatuhan yang seharusnya menjadi fondasi sejak awal.

Kesenjangan pun melebar antara kemampuan AI yang dapat diperlihatkan dalam lingkungan terkendali dan kemampuan yang dapat diterapkan perusahaan secara aman serta andal dalam produksi.

Pada saat yang sama, susunan teknologi AI modern berkembang dengan mengutamakan kecepatan dan kemudahan akses, sering dengan mengorbankan kontrol. Platform yang ramah pengembang memudahkan proyek percontohan, tetapi dapat mengaburkan lokasi data, cara penggunaannya, dan siapa yang memiliki akses. 

Hal ini menimbulkan risiko operasional dan regulasi nyata, termasuk paparan data tanpa sengaja, batas data antarlingkungan yang tidak jelas, dan keterbatasan audit terhadap perilaku sistem. Masalah ini langsung muncul dalam tinjauan kesiapan produksi serta penilaian kepatuhan. Survei perusahaan secara konsisten menunjukkan bahwa masalah kualitas data dan tata kelola termasuk penyebab utama kegagalan proyek AI, dan disebut dalam 60–70% kasus. Masalah ini diperburuk oleh ketergantungan yang meningkat pada infrastruktur pihak ketiga dan layanan basis data terkelola. Keduanya dapat semakin memecah kepemilikan data dan mempersulit kesesuaian dengan regulasi. Dalam banyak kasus, organisasi menganggap platform otomatis menangani tata kelola, padahal tanggung jawab sebenarnya terbagi di antara beberapa lapisan susunan teknologi.

Hasilnya adalah paradoks. Alat yang mempercepat eksperimen AI sering merupakan alat yang sama yang menimbulkan hambatan saat masuk ke produksi.

Basis data sebagai lapisan tata kelola yang sebenarnya

Untuk mengatasi ketidakselarasan ini, kita perlu memikirkan kembali tempat tata kelola benar-benar berlangsung.

Tata kelola sering diposisikan sebagai fungsi kebijakan, yang ditetapkan tim hukum, kepatuhan, atau eksekutif dan ditegakkan melalui dokumentasi serta proses peninjauan. Mekanisme ini penting, tetapi tidak memadai jika berdiri sendiri. Tata kelola baru bermakna ketika ditegakkan pada tingkat sistem.

Dalam praktiknya, penegakan berlangsung di tempat data disimpan, diakses, dan diubah. Karena itu, basis data beserta infrastruktur data di sekitarnya menjadi lapisan tata kelola terpenting dalam susunan teknologi AI.

Basis data modern bukan penyimpanan pasif. Basis data menetapkan izin akses, menegakkan persyaratan lokasi geografis penyimpanan data, mengelola enkripsi dan kontrol kunci, serta menghasilkan log audit yang dibutuhkan untuk kepatuhan dan pengawasan keamanan. Perannya sebagai titik kontrol tempat AI berinteraksi dengan data perusahaan juga makin besar.

Ini penting karena sistem AI mewarisi kondisi tata kelola dari infrastruktur data yang menjadi sandarannya. Jika lapisan basis data dasar tidak memiliki struktur, kontrol, atau visibilitas memadai, kelemahan itu langsung merambat ke sistem AI di atasnya. Kebijakan apa pun pada lapisan aplikasi berikutnya tidak dapat sepenuhnya menutupi fondasi data tanpa tata kelola.

Hal ini membawa perubahan arsitektur yang lebih luas: tata kelola harus dibangun ke dalam infrastruktur sejak awal, bukan ditambahkan setelah penerapan. Mengembangkan AI dengan infrastruktur sebagai titik awal berarti merancang sistem yang memiliki tata kelola sebagai sifat bawaan, bukan kendala dari luar. Akses data dimediasi melalui antarmuka terkendali. Kueri dan interaksi sistem dicatat secara bawaan. Aturan kepatuhan, seperti pembatasan akses, kebijakan retensi, dan persyaratan lokasi penyimpanan, ditegakkan pada tingkat sistem, bukan melalui pengawasan manual atau validasi setelah kejadian.

Ini memerlukan pola arsitektur seperti lapisan mediasi kueri yang aman, kontrol akses berbasis kebijakan, serta observabilitas terpusat di seluruh lingkungan data terdistribusi. Mekanisme ini memastikan tata kelola ditegakkan terus-menerus, bukan sekadar diperiksa secara berkala.

Perbedaan tata kelola proaktif dan reaktif bersifat mendasar. Pendekatan reaktif mencoba memperbaiki masalah setelah sistem dibangun dan diterapkan. Pendekatan proaktif mencegah masalah itu sejak awal dengan menanamkan kontrol langsung dalam arsitektur sistem.

Dalam lingkungan AI, perbedaan ini menentukan apakah sistem dapat diperluas atau justru terhenti.

Ketika agen ikut berperan

Agen otonom mengubah kondisi tata kelola dengan cara yang belum siap dihadapi sebagian besar organisasi. Agen tidak hanya membaca data. Ia juga menulis data dan memicu tindakan lintas sistem, keduanya tanpa manusia dalam alur pengambilan keputusan.

Ini mengubah sifat kegagalan sepenuhnya. Kueri dengan tata kelola buruk menghasilkan jawaban keliru. Agen dengan tata kelola buruk kemudian bertindak berdasarkan jawaban itu: memperbarui catatan, memicu alur kerja lanjutan, dan menyebarkan keputusan antarsistem sebelum siapa pun menyadari terjadi kesalahan.

Karena itu, mekanisme pengaman tidak cukup ditempatkan pada lapisan aplikasi. Agen yang bekerja di berbagai sistem akan selalu menemukan jalur dengan hambatan paling sedikit. Kontrol harus ditegakkan pada lapisan data, tempat setiap pembacaan dan penulisan dimediasi serta dicatat, apa pun pemicunya.

Gartner memperkirakan bahwa lebih dari 40% proyek AI berbasis agen akan terlambat atau dibatalkan karena masalah tata kelola dan keandalan. Angka itu terasa rendah, karena mengandaikan organisasi mengenali tata kelola secara tepat sebagai penyebab, alih-alih menyalahkan model atau alat. Akar masalah biasanya tidak terlihat sampai menimbulkan biaya besar.

Dari eksperimen ke AI siap produksi

Organisasi yang berhasil memindahkan AI dari eksperimen ke produksi biasanya memiliki ciri yang sama: menyelaraskan lingkungan pengembangan dan produksi sejak dini. 

Mereka tidak membiarkan sistem eksperimen menjauh dari batasan produksi, melainkan merancang kedua lingkungan dengan prinsip tata kelola, keamanan, dan akses data yang konsisten. Ini mengurangi hambatan pada tahap berikutnya ketika model beralih dari prototipe menjadi beban kerja produksi.

Penyelarasan ini makin penting karena sebagian besar perusahaan masih belum memiliki infrastruktur AI yang matang dan memenuhi standar produksi. Kekurangan terus ada dalam akses data aman, pemantauan, observabilitas, dan penegakan kepatuhan. Kekurangan itu bukan masalah terpisah, melainkan tantangan struktural yang muncul saat AI diperluas dari lingkungan percontohan ke alur kerja yang sangat penting bagi operasi.

Ketidakselarasan besar lainnya antara prototipe dan produksi terjadi ketika aplikasi serta basis data produksi harus ditempatkan di lingkungan internal perusahaan atau akun cloud yang dikelola ketat, tetapi prototipe dikembangkan pada platform basis data berbasis cloud.

Dalam organisasi yang matang, beban kerja AI diperlakukan dengan ketelitian yang sama seperti sistem lain yang tunduk pada regulasi. Artinya, pencatatan konsisten, kontrol akses ketat, pemantauan berkelanjutan, serta struktur akuntabilitas yang jelas antartim. Diperlukan pula penyelarasan lebih erat antara rekayasa data, rekayasa platform, keamanan, dan kepatuhan sejak awal, bukan sebagai tambahan belakangan.

Manfaat pendekatan ini melampaui pengurangan risiko. Organisasi juga memperoleh siklus penerapan lebih cepat, lebih sedikit kegagalan produksi, dan kepercayaan internal lebih tinggi terhadap AI. Dalam konteks ini, perluasan AI lebih ditentukan oleh kematangan infrastruktur daripada inovasi model.

Tata kelola adalah keharusan arsitektur

Pada akhirnya, pembahasan tata kelola AI harus melampaui kebijakan dan masuk ke ranah arsitektur. 

Tata kelola sering dianggap sebagai fungsi pengawasan, tetapi dalam praktik ditegakkan melalui sistem yang menentukan cara data diakses dan digunakan. Basis data bukan hanya lapisan penyimpanan, melainkan titik kontrol untuk keamanan, kepatuhan, dan integritas operasional di seluruh susunan teknologi AI.

Ketika AI makin tertanam dalam alur kerja perusahaan, arti penting titik kontrol ini meningkat tajam. Setiap interaksi antara model dan data perusahaan menjadi peristiwa yang tunduk pada tata kelola, baik organisasi sengaja merancangnya demikian maupun tidak.

Dengan mengutamakan tata kelola yang berangkat dari infrastruktur, mulai dari lapisan basis data, perusahaan dapat menutup kesenjangan antara percontohan dan produksi. Dengan begitu, AI berubah dari eksperimen terpisah menjadi kemampuan berkelanjutan dan dapat diperluas yang tertanam di seluruh organisasi.

Phillip Merrick adalah Pendiri Bersama dan CPO di pgEdge. Wirausaha, teknolog, dan eksekutif berpengalaman dengan akar yang dalam di infrastruktur data dan platform cloud yang memungkinkan sistem AI saat ini. Pendiri bersama dan/atau CEO dari webMethods, EDB, SparkPost, Fugue, dan pgEdge; memimpin perusahaan dari startup hingga IPO dan tiga kali keluar dengan nilai 9-10 angka.