Hanya 29% Tim Keamanan yang Dapat Secara Rutin Melaporkan Data Sensitif yang Dikirim Karyawan ke Perangkat AI

Artikel ini didasarkan pada temuan dalam laporan survei 2026 Cloud Security Alliance (CSA), Pencegahan Kehilangan Data di Era AI, yang disusun atas pesanan Jazz.

Pada Juni dan Juli, CSA bertanya kepada 433 profesional TI dan keamanan apakah tim mereka dapat membuat laporan yang menunjukkan berapa kali data sensitif dikirim ke perangkat GenAI dalam 30 hari terakhir. Dua puluh sembilan persen mengatakan bahwa mereka dapat membuatnya secara rutin.

Angka itu tidak akan terlalu berarti jika responden menganggap GenAI sebagai saluran berisiko rendah. Mereka menempatkannya sebagai risiko eksfiltrasi data tertinggi, dengan 48% memasukkannya ke dalam tiga risiko teratas.

Saya memimpin bidang rekayasa di perusahaan yang mengembangkan solusi pencegahan kehilangan data, dan sebagian besar pekerjaan saya berkaitan dengan di mana bukti perpindahan data berada di dalam sistem serta mengapa risikonya muncul. Dari sudut pandang itu, kesenjangan antara apa yang diyakini tim dapat mereka lihat dan apa yang dapat mereka tunjukkan merupakan konsekuensi langsung dari cara kontrol GenAI dirancang.

Keyakinan tentang Visibilitas GenAI Jauh Melampaui Hal yang Dapat Ditunjukkan Tim

Sedikit lebih dari separuh responden menilai visibilitas mereka terhadap GenAI sebesar 4 atau 5 dari 5. Namun, hanya 29% yang dapat secara rutin mendukung penilaian itu dengan laporan sederhana yang menghitung berapa kali data sensitif dikirim ke perangkat AI.

Sumber: Cloud Security Alliance, Pencegahan Kehilangan Data di Era AI (2026), n=433. Dibuat ulang berdasarkan grafik dalam laporan, hlm. 22 dan 23.

Penerapan kontrol menunjukkan pola yang sama. Hanya 22% responden yang memblokir data sensitif secara ketat di saluran GenAI. Media yang dapat dilepas, yang dinilai responden sebagai risiko eksfiltrasi terendah, memiliki tingkat pemblokiran ketat tertinggi, yaitu 31%. Pemblokiran ketat terkonsentrasi pada saluran dengan perangkat paling lama.

Sumber: Cloud Security Alliance, Pencegahan Kehilangan Data di Era AI (2026), n=433. Dibuat ulang berdasarkan grafik dalam laporan, hlm. 23 dan 26; panjang batang disesuaikan ke 100% jika pembulatan membuat suatu baris menjadi 99% atau 101%.

Jazz juga menerbitkan data telemetri dari lingkungan pelanggannya bersama hasil survei. Dalam data tersebut, rata-rata organisasi menggunakan 169,5 perangkat AI berbeda, dan 9,8 di antaranya telah disetujui, sehingga 94,2% berada di luar daftar yang disetujui.

Mengapa Kesenjangan Itu Terjadi: Daftar Perangkat Tidak Mencatat Peristiwa

Respons umum terhadap risiko GenAI adalah menyetujui beberapa layanan AI melalui perjanjian perusahaan, lalu mencegah atau memblokir penggunaan layanan lainnya. Angka 94,2% menunjukkan betapa jauhnya daftar tersebut tertinggal dalam praktik. Insinyur yang dikejar tenggat akan menggunakan perangkat apa pun yang dapat menyelesaikan masalah hari itu, karena pengadaan perangkat yang disetujui membutuhkan waktu berminggu-minggu.

Bahkan daftar yang lengkap pun tidak akan menghasilkan laporan yang diminta CSA. Tim penanganan insiden Anda atau auditor akan menanyakan peristiwa tertentu saat data keluar, sedangkan daftar perangkat tidak memuat catatan peristiwa apa pun.

Untuk menunjukkan apa yang terjadi dalam peristiwa itu, Anda memerlukan empat fakta: data sensitif apa yang terlibat, perangkat mana yang menerimanya, akun mana yang digunakan, dan mengapa orang tersebut mengirimkannya.

Tata kelola di tingkat perangkat pertama kali gagal pada akun. Situs web yang sama melayani akun perusahaan Anda, lengkap dengan pengaturan penyimpanan data dan ketentuan kontraknya, serta akun pribadi gratis milik karyawan, yang tidak memiliki keduanya. Menggunakan perangkat yang disetujui melalui akun pribadi hanya memberi Anda bukti sebanyak menggunakan perangkat yang tidak disetujui.

Tujuan lebih sulit diketahui, padahal hal itu menentukan apakah terjadi kesalahan. Analis keuangan yang menempelkan model pendapatan ke chatbot untuk memperbaiki rumus yang rusak sedang menjalankan tugasnya. Tindakan yang sama dari seseorang yang mengajukan pengunduran diri pada hari Jumat layak ditanggapi dengan cara yang sangat berbeda. Yang membedakan keduanya adalah konteks mengenai orang tersebut, yang tidak pernah terlihat dalam muatan data.

Kontrol yang Digunakan Masing-Masing Hanya Memeriksa Satu Titik

Survei tersebut tidak menemukan satu pendekatan dominan untuk mengendalikan data sensitif yang dikirim ke perangkat AI. Pemblokiran domain AI di tingkat jaringan, pemeriksaan konten melalui peramban, dan kebijakan penggunaan yang dapat diterima saja masing-masing dipilih oleh 21% hingga 23% responden, sementara platform AI perusahaan dengan DLP bawaan dipilih oleh 10%.

Setiap kontrol tersebut dirancang untuk memeriksa satu titik saja. Pemblokiran domain mengizinkan atau menghentikan koneksi dan mencatat situs yang dituju. Ekstensi peramban melihat apa yang diketik di peramban itu, tetapi tidak menangkap apa pun yang dikirim dari aplikasi desktop, asisten pemrograman di dalam penyunting kode, atau alat baris perintah. DLP bawaan pada platform AI perusahaan melihat apa yang masuk ke platform tersebut. Masing-masing hanya memilih satu titik untuk diperiksa dan berharap data dikirim ke sana.

Titik pemeriksaan tunggal juga menjelaskan angka penerapan kontrol. Jika kontrol tidak dapat membedakan akun perusahaan dari akun pribadi, atau tindakan menempelkan data yang rutin dari tindakan yang berisiko, kontrol itu harus memblokir keduanya atau tidak memblokir satu pun. Akibatnya, pemblokiran ketat menghentikan pekerjaan yang sah sekaligus pekerjaan yang berisiko. Ketika ditanya alasan utama mereka belum beralih ke pemblokiran aktif yang lebih agresif, 46% responden menyebut kekhawatiran akan terganggunya alur kerja bisnis dan 39% menyebut kurangnya keyakinan terhadap akurasi DLP.

Hal-Hal yang Perlu Diingat

Angka survei ini merupakan laporan responden sendiri, dan survei tersebut tidak menguji penilaian tingkat visibilitas dengan cakupan yang sebenarnya. Responden didominasi oleh mereka yang berasal dari kawasan Amerika (80%) dan organisasi dengan kurang dari 5.000 karyawan (67%), sehingga hasilnya mungkin tidak sepenuhnya berlaku bagi perusahaan global berskala besar. Data telemetri berasal dari organisasi yang memilih untuk menerapkan jenis visibilitas ini, sehingga hasilnya mungkin lebih mencerminkan organisasi yang sejak awal sudah khawatir akan meluasnya penggunaan AI.

Alat dan Agen yang Disetujui Akan Makin Melemahkan Daftar Ini

Saat produk SaaS yang disetujui menambahkan asisten AI, pertanyaan tentang alat mana yang menerima data sering kali memiliki dua jawaban: aplikasi yang dibuka karyawan dan penyedia model AI di baliknya. Agen AI membuat persoalan ini makin rumit. Ketika agen mengambil berkas lalu mengirimkannya ke suatu tempat atas nama karyawan, siapa yang melakukannya dan mengapa kini sebagian menjadi urusan perangkat lunak. Seperti dijelaskan dalam tulisan Unite.AI baru-baru ini tentang serangan injeksi prompt pada agen di lingkungan produksi, agen dapat diarahkan oleh konten yang dibacanya, sehingga penjelasan agen itu sendiri tentang tindakannya tidak dapat dijadikan bukti tujuan tindakan tersebut.

Uji Coba yang Bisa Anda Lakukan Bulan Ini

Tinjau 30 hari terakhir dan pilih data paling sensitif yang menurut Anda telah masuk ke alat AI. Kemudian, periksa apakah tim Anda dapat memberikan informasi berikut tanpa menyusunnya secara manual:

• Data apa yang digunakan dan dari mana asalnya
• Alat mana yang menerimanya, termasuk alat yang tidak ada dalam daftar yang disetujui
• Apakah data dikirim melalui akun perusahaan atau akun pribadi
• Apa yang sedang dikerjakan orang tersebut saat mengirimkannya

Jika dua informasi pertama dapat diperoleh dengan cepat, tetapi dua informasi terakhir mengharuskan Anda mewawancarai karyawan, tata kelola Anda hanya mencakup daftar alat dan sangat sedikit mencakup data Anda.