AI Mengambil Keputusan Setiap Menit. Sebagian Besar Tata Kelola Masih Berjalan Per Kuartal

Sistem yang dibantu AI dapat memengaruhi ratusan keputusan operasional sebelum komite pengarah sempat menjadwalkan rapat berikutnya. Tata kelola yang berlandaskan tinjauan triwulanan tidak pernah dirancang untuk kecepatan seperti itu, dan ketidakselarasan inilah yang membuat banyak program AI perusahaan mulai mengalami kesulitan.

Kita menghabiskan banyak sekali waktu untuk memperdebatkan model mana yang akan diterapkan. Namun, Gartner memperkirakan bahwa hingga 2026, organisasi akan menghentikan 60% proyek AI yang tidak didukung data siap AI. Sebagian besar kegagalan AI di perusahaan hanya sedikit kaitannya dengan model itu sendiri. Penyebabnya lebih mendasar: organisasi tidak memiliki pemahaman yang tepercaya dan terhubung tentang bisnis mereka sendiri.

Biaya Tersembunyi Data “Siap AI”

Sebagian besar perusahaan meremehkan upaya yang diperlukan untuk menetapkan kepemilikan, tata kelola, kepercayaan, dan konteks terkait data mereka. Hanya sedikit yang berinvestasi dalam keahlian lintas fungsi dan model operasional yang diperlukan untuk membangun kerangka tata kelola yang menghadirkan transparansi, keterjelasan, dan akuntabilitas yang dibutuhkan agar AI dapat diterapkan melampaui tahap uji coba.

Ada tes sederhana yang saya anjurkan untuk dilakukan pelanggan. Dapatkah organisasi menjelaskan dengan gamblang siapa yang memiliki data, bagaimana data itu terkait dengan proses bisnis, kontrol apa yang mengatur penggunaannya, dan siapa yang tetap bertanggung jawab atas keputusan yang dibantu AI? Jika tidak, inisiatif AI mereka kemungkinan besar tidak akan berhasil, seberapa besar pun investasi mereka pada platform, infrastruktur, atau model.

Langkah pertama dalam setiap perjalanan AI perusahaan seharusnya adalah berinvestasi dalam tata kelola dan model operasional yang praktis untuk menetapkan kepemilikan, akuntabilitas, dan hak pengambilan keputusan yang jelas. Yang saya lihat, sebagian besar organisasi justru melakukan semuanya secara terbalik: mereka menyiapkan model dan infrastruktur sebelum membangun fondasi yang diperlukan untuk mengoperasikan AI dalam skala besar.

Namun, keputusan yang dibantu AI tidak hanya bergantung pada titik data individual, tetapi juga pada pemahaman tentang keterkaitan informasi dengan proses bisnis, kebijakan, kepemilikan, dan konteks operasional. Ketika keterkaitan tersebut terpecah-pecah, organisasi tidak perlu heran jika rekomendasi AI menjadi tidak konsisten.

Ketika aplikasi AI nyaris menimbulkan masalah, mengalami kegagalan, atau memberikan rekomendasi yang saling bertentangan, pertanyaan yang penting menyangkut organisasi, bukan aspek teknis. Siapa yang memiliki data? Siapa yang bertanggung jawab atas keputusan? Siapa yang dapat mengesampingkan keputusan AI? Bagaimana pengecualian dieskalasikan? Tanpa jawaban, perusahaan berisiko menciptakan otomatisasi tanpa akuntabilitas.

Kepercayaan Dibangun Sebelum Penerapan

Kepercayaan terhadap AI terbentuk jauh sebelum model apa pun mulai beroperasi. Tata kelola yang efektif memerlukan kolaborasi di antara tim teknologi, fungsi bisnis, manajemen risiko, bagian hukum, kepatuhan, dan keamanan karena sistem AI beroperasi lintas batas organisasi, sementara akuntabilitas sering kali masih terkotak-kotak. Banyak tantangan tata kelola yang dikaitkan dengan AI sebenarnya merupakan gejala masalah lama terkait kepemilikan data dan wewenang pengambilan keputusan yang sekadar disingkap oleh teknologi.

Sebagian besar organisasi sudah memiliki tata kelola melalui kebijakan keamanan, kerangka kepatuhan, dan proses persetujuan. Yang sering kali belum mereka miliki adalah pandangan menyeluruh tentang bagaimana semua unsur tersebut saling terkait.

Kepercayaan tumbuh ketika para pemangku kepentingan memahami alasan di balik rekomendasi, yakin pada data yang mendasarinya, dan mengetahui bahwa kontrol serta mekanisme eskalasi yang sesuai telah tersedia. Semua itu tidak dapat ditambahkan belakangan setelah insiden terjadi.

Ketika Tata Kelola Triwulanan Berhadapan dengan Keputusan dari Menit ke Menit

Model tata kelola tradisional mengandalkan tinjauan berkala, komite pengarah, dan pelaporan retrospektif. Sistem yang dibantu AI menghasilkan rekomendasi secara terus-menerus dan dalam skala besar. Kerangka yang ada bukanlah kerangka yang keliru, tetapi terlalu lambat dan tidak terhubung dengan pengambilan keputusan operasional. Siklus tinjauan triwulanan tidak dapat mengatur keputusan yang dibuat setiap jam, setiap hari.

Keberhasilan terbesar yang saya lihat ada pada organisasi yang menanamkan tata kelola langsung ke dalam alur kerja operasional melalui penegakan kebijakan, alur kerja persetujuan, pemantauan, kemampuan audit, dan pengawasan manusia. Mereka telah berkomitmen untuk beralih dari tata kelola berkala ke tata kelola berkelanjutan sehingga dapat melihat secara langsung data apa yang digunakan, keputusan mana yang dipengaruhi, siapa yang bertanggung jawab, dan kapan intervensi manusia diperlukan.

Tata kelola berkelanjutan bukan sekadar memantau keluaran AI. Artinya, kita memahami informasi apa yang digunakan AI, apakah informasi itu masih valid, serta apakah keputusan yang diambil tetap selaras dengan kebijakan dan sasaran bisnis.

AI Akan Bertentangan dengan Dirinya Sendiri

Organisasi besar sudah setiap hari menghadapi prioritas yang saling bersaing. Tim keamanan ingin mengurangi risiko, tim operasional menginginkan stabilitas, tim bisnis menginginkan kecepatan, dan tim keuangan menginginkan efisiensi biaya. Kini hadir sistem AI yang dilatih dengan kumpulan data dan sasaran berbeda, sehingga wajar jika sistem tersebut mencerminkan prioritas-prioritas itu.

AI keamanan mungkin merekomendasikan penanganan segera atas kerentanan kritis, sementara tim operasional menunda perubahan karena sistem yang terdampak mendukung layanan bisnis yang sangat penting. Kedua sikap tersebut bisa sama-sama beralasan. Untuk menyelesaikan konflik ini, diperlukan hak pengambilan keputusan yang jelas, penetapan tanggung jawab atas risiko, dan jalur eskalasi.

AI seharusnya menyediakan data, konteks, dan rekomendasi, tetapi organisasi harus tetap bertanggung jawab untuk menyeimbangkan pertimbangan bisnis, operasional, dan risiko.

Menghadapi Skeptisisme saat Inkonsistensi Muncul

Ketika AI memberikan rekomendasi yang tidak konsisten, jelas bahwa perusahaan akan bersikap skeptis terhadapnya di kemudian hari. Kepercayaan dapat dibangun kembali ketika para pemangku kepentingan memahami alasan suatu rekomendasi dibuat, data yang digunakan, dan pihak yang tetap bertanggung jawab atas hasilnya.

AI sering kali mengungkap masalah kualitas data, kesenjangan kepemilikan, dan inkonsistensi proses yang sudah ada dalam organisasi. Memperlakukan situasi ini sebagai peluang untuk memperbaiki tata kelola dan prosedur operasional jauh lebih produktif daripada membela teknologi tersebut. Seiring waktu, kepercayaan tumbuh melalui transparansi, konsistensi, dan hasil bisnis yang dapat dibuktikan.

Fondasi Informasi yang Tepercaya

Pembahasan seputar kesiapan AI cenderung berfokus pada model, infrastruktur, dan perangkat pendukung. Dalam praktiknya, organisasi yang paling sukses berinvestasi pada sesuatu yang lebih mendasar: fondasi informasi yang tepercaya. Fondasi ini menyediakan konteks bisnis yang menjelaskan keterkaitan informasi dengan proses, kebijakan, kepemilikan, dan keputusan operasional, sehingga AI memiliki dasar yang lebih kuat untuk menghasilkan rekomendasi yang dapat dipahami, diatur, dan dipercaya oleh organisasi.

Bahkan model AI tercanggih pun tidak dapat mengimbangi tata kelola informasi yang lemah, kepemilikan yang tidak jelas, atau konteks bisnis yang buruk. Organisasi perlu membangun konteks, tata kelola, memori institusional, dan kecerdasan pengambilan keputusan yang dibutuhkan agar AI dapat digunakan secara bertanggung jawab dan efektif dalam skala besar.

Pekerjaan ini lebih lambat dan kurang terlihat dibandingkan menerapkan model baru, tetapi pada akhirnya menentukan apakah model tersebut memberikan nilai bisnis yang bertahan lama.