AI Bayangan: Celah Tata Kelola yang Organisasi Tidak Bisa Abaikan

Saat ini, para pemimpin bisnis secara luas mengakui pentingnya tata kelola AI. Namun, kecepatan di mana organisasi mengembangkan kebijakan dan pengawasan terus tertinggal dibandingkan dengan seberapa cepat karyawan mengadopsi dan mengintegrasikan AI ke dalam pekerjaan sehari-hari mereka.

Organisasi yang menunggu kerangka tata kelola untuk merasa “lengkap” sebelum mengaktifkan AI harus menghadapi kenyataan yang sulit: dalam ketiadaan aturan yang jelas tentang bagaimana, apa, dan di mana AI dapat digunakan, karyawan akan mendefinisikan batasan-batasan tersebut sendiri. Dan keputusan-keputusan tersebut mungkin secara langsung bertentangan dengan standar organisasi, toleransi risiko, atau kewajiban regulasi.

Celah tata kelola ini telah menyebabkan AI bayangan menjadi model operasi default dalam banyak organisasi.

Masalah yang Luas dan Berkembang

AI bayangan tidak terbatas pada kontributor individu yang bereksperimen di pinggiran. Ini meluas ke seluruh organisasi, termasuk kepemimpinan. Ketika AI menjadi terintegrasi ke dalam alur kerja sehari-hari, bahkan pengambil keputusan senior melewati proses persetujuan formal untuk menangkap manfaatnya. Faktanya, sebuah studi baru-baru ini menemukan bahwa 68% pemimpin keamanan, termasuk CISO, mengakui telah mengintegrasikan beberapa derajat AI tidak sah ke dalam alur kerja.

Pada saat yang sama, 79% pemimpin IT melaporkan bahwa organisasi mereka telah mengalami hasil negatif dari berbagi data perusahaan dengan alat AI. Dan analis memprediksi masalah ini akan diperparah. Gartner memperkirakan bahwa, pada tahun 2030, lebih dari 40% organisasi akan mengalami insiden keamanan atau kepatuhan karena penggunaan alat AI tidak sah.

Permukaan Risiko yang Meluas

AI bayangan menyajikan berbagai risiko, termasuk:

• Kehilangan kontrol data dan potensi kebocoran data
• kerentanan keamanan yang diperluas dan permukaan serangan
• Paparan kepatuhan dan regulasi
• Kehilangan visibilitas tentang bagaimana AI digunakan
• Kehilangan properti intelektual
• Kerugian reputasi
• Output yang tidak akurat atau bias

Penggerak signifikan dari risiko-risiko ini adalah kesalahpahaman mendasar tentang bagaimana sistem AI menangani data.

Banyak karyawan menganggap bahwa menggunakan alat “gratis”, terutama yang tidak memerlukan kredensial login, menawarkan anonimitas atau perlindungan. Namun, alat-alat tersebut sering kali bergantung pada input pengguna untuk melatih dan meningkatkan model mereka, dan dalam beberapa kasus, berbagi data dengan pihak ketiga. Data tersebut dapat mencakup informasi yang sangat sensitif seperti informasi yang dapat diidentifikasi secara pribadi (PII), data medis atau hukum, catatan keuangan, properti intelektual, dan informasi bisnis rahasia lainnya.

Lebih mengkhawatirkan lagi, kesadaran tidak selalu mengubah perilaku. Penelitian menunjukkan bahwa 38% karyawan secara sadar berbagi informasi sensitif dengan alat AI tanpa persetujuan organisasi.

Mengapa AI Bayangan Bertahan

Untuk secara efektif mengatasi AI bayangan, organisasi harus pertama-tama memahami penyebab akarnya.

Pada sebagian besar kasus, karyawan tidak bertindak dengan niat jahat. Mereka merespons secara rasional terhadap lingkungan mereka. Mereka berada di bawah tekanan untuk bergerak lebih cepat, melakukan lebih banyak dengan sedikit, dan menghasilkan hasil yang lebih baik. AI memungkinkan semua itu.

AI bayangan muncul ketika sistem organisasi gagal untuk mengikuti harapan tersebut. Penggerak umum termasuk:

• Larangan ketat pada alat AI di tempat kerja
• Alat yang disetujui yang kurang mampu atau kurang ramah pengguna
• Tekanan untuk memenuhi tenggat waktu yang agresif
• Proses pengadaan yang lambat atau kompleks
• Kebijakan yang tidak jelas, tidak konsisten, atau tidak ada
• Pelatihan atau bimbingan yang terbatas
• Kepercayaan diri yang berlebihan pada penilaian pribadi atau underestimasi risiko

Pada intinya, AI bayangan adalah pertukaran. Ketika keuntungan produktivitas yang dirasakan melebihi risiko yang dirasakan, karyawan akan memilih kecepatan dan efisiensi setiap saat.

Mengelola AI Tanpa Menghambat Inovasi

Karyawan sudah menggunakan AI. Mengabaikan fakta ini atau menunda tindakan hanya memperlebar celah antara kebijakan dan praktik.

Organisasi harus menggeser pendekatan mereka dari kontrol ke pengaktifan.

Itu dimulai dengan menetapkan pedoman yang jelas, praktis, dan transparan, bahkan jika mereka belum sepenuhnya matang. Pengawasan awal memberikan arahan, mengurangi ketidakpastian, dan menciptakan pemahaman bersama tentang penggunaan yang dapat diterima.

Namun, kebijakan saja tidak cukup. Organisasi juga memerlukan visibilitas. Ini memerlukan mekanisme berbasis kepercayaan yang memungkinkan karyawan untuk mengungkapkan alat apa yang mereka gunakan dan mengapa dengan aman. Pendekatan seperti “periode amnesti AI bayangan” atau pelaporan anonim dapat mengungkap wawasan kritis tanpa segera menghukum perilaku.

Pada saat yang sama, organisasi harus mempertahankan akuntabilitas. Dalam kasus di mana paparan data signifikan atau kelalaian, konsekuensi mungkin masih diperlukan. Tujuan bukan untuk menghilangkan risiko sepenuhnya, tetapi untuk mengelolanya dengan cerdas.

Dari Bayangan ke Strategi

AI bayangan adalah sinyal bahwa inovasi bergerak lebih cepat dari struktur organisasi yang dirancang untuk mengandungnya.

Organisasi tidak bisa menunggu. Menetapkan tata kelola sekarang, bahkan jika tidak sempurna, sangat penting untuk mengurangi risiko dan memulihkan visibilitas. Namun, tata kelola saja tidak cukup. Pengawasan yang jelas harus dipasangkan dengan pengaktifan, pendidikan, dan alternatif yang mudah diakses yang memberdayakan karyawan untuk menggunakan AI dengan aman dan efektif.

Tujuan bukan untuk membatasi adopsi AI, tetapi untuk membentuknya. Ketika organisasi mencapai keseimbangan tersebut, AI bayangan bergeser dari liabilitas tersembunyi menjadi kemampuan strategis yang dikelola. Dan dengan demikian, mereka dapat menutup celah antara bagaimana AI digunakan dan bagaimana seharusnya digunakan sebelum celah tersebut berkembang menjadi pelanggaran.