Mengungkap Risiko Tersembunyi dari Shadow AI

Tidak butuh waktu lama bagi perusahaan untuk mengalami penggunaan luas Generative AI (GenAI) di antara karyawannya. Namun, ketika datang ke risiko GenAI, alat yang dikenal dalam organisasi Anda tidaklah yang harus Anda khawatirkan paling banyak. Yang harus Anda khawatirkan adalah yang tidak Anda ketahui.

Berkat ekspansi cepat alat GenAI seperti ChatGPT, Copilot, Gemini, dan Perplexity, serta banyak asisten SaaS khusus, karyawan mengadopsinya lebih cepat daripada tim keamanan dapat mengikuti. Dan penggunaan ini menciptakan blind spot yang tumbuh dengan cepat yang dikenal sebagai shadow AI.

Jika shadow AI terdengar familiar, itu karena istilah ini meminjam dari shadow IT, yang digunakan untuk menggambarkan penggunaan alat dan layanan yang tidak disetujui di tempat kerja. Namun, dengan shadow AI, taruhannya mungkin lebih tinggi. Alih-alih aplikasi berbagi file yang tidak sah, shadow AI dapat mengakibatkan data sensitif yang ditempelkan ke prompt chatbot, diingestasi ke model eksternal, dan tanpa sengaja terpapar ke sistem pihak ketiga.

Shadow AI mewakili salah satu ancaman paling tidak terlihat tetapi paling mendesak dalam keamanan data perusahaan saat ini.

Apa itu Shadow AI?

Shadow AI merujuk pada penggunaan alat AI yang tidak sah—terutama GenAI—oleh karyawan tanpa pengetahuan atau persetujuan tim IT atau keamanan perusahaan. Dalam sebuah organisasi, pengguna mungkin adalah tim pemasaran yang menyusun posting blog dengan model bahasa besar (LLM), tim hukum yang mengeksplorasi bahasa kontrak dalam alat AI, atau insinyur yang memecahkan kode dengan bantuan GPT gratis.

Dan meskipun eksperimen tersebut mungkin tampak tidak berbahaya, data yang dibagikan dengan alat tersebut mungkin tidak. Ini bisa berupa slide strategi rahasia atau informasi pelanggan. Data ini akhirnya berakhir dalam prompt yang tidak dienkripsi, tanpa tata kelola, dan tanpa cara untuk melacak apa yang terjadi selanjutnya.

Mengapa Shadow AI Menjadi Masalah?

Masalah shadow AI menjadi masalah karena hanya butuh seorang karyawan dengan niat baik dan akses ke ChatGPT untuk menciptakan risiko keamanan data. Tidak seperti peretas, shadow AI tidak bersifat jahat, tetapi itu tidak membuatnya kurang berbahaya. Setiap kali data sensitif ditambahkan ke prompt, itu berpotensi terpapar ke model, vendor, dan siapa pun yang memiliki akses ke log. Ini bahkan mungkin muncul kembali dalam jawaban untuk prompt lain. Dan hal terburuk adalah Anda mungkin tidak pernah tahu itu terjadi.

Berikut adalah lima risiko utama shadow AI yang perlu Anda ketahui.

1. Kebocoran data melalui input prompt – Field prompt adalah lubang hitam keamanan data. Setelah informasi sensitif, seperti kode sumber, dokumen M&A, dan rincian gaji, dibagikan dengan alat GenAI, itu sudah tidak terkendali. Bahkan jika vendor AI berjanji bahwa data tidak disimpan, penerapan hukum tidak jelas dan ada sedikit jaminan mengenai pelatihan atau telemetri.

2. Kurangnya kontrol akses atau log audit – Tidak seperti aplikasi perusahaan yang disetujui, sebagian besar alat GenAI tidak menawarkan kontrol akses berbasis peran, izin granular, atau log aktivitas, yang berarti tim keamanan tidak memiliki visibilitas ke siapa yang mengakses data, atau kapan. Jika terjadi insiden, tidak ada yang bisa diselidiki.

3. Pelanggaran kepatuhan – Banyak peraturan kepatuhan yang harus dipenuhi organisasi mensyaratkan bahwa data yang diatur harus disimpan, diproses, dan diakses dengan cara yang sangat spesifik. Memasukkan data ini ke dalam model AI eksternal dapat melanggar aturan ini, sehingga organisasi Anda terpapar risiko hukum, denda, dan pengungkapan pelanggaran wajib.

4. Peredaran informasi yang sudah ketinggalan zaman atau bias – Alat GenAI sering memberikan jawaban dengan percaya diri dan memposisikannya sebagai fakta, bahkan ketika itu sangat salah. Mengandalkan output ini untuk pesan pelanggan, ringkasan kepatuhan, atau laporan keuangan tanpa validasi dapat menyebabkan keputusan bisnis berdasarkan data yang tidak akurat. Halusinasi terjadi secara teratur dan tidak tampaknya akan berhenti, bahkan ketika LLM ini menjadi lebih pintar.

5. Shadow AI yang menjadi shadow data – Output dari alat GenAI, termasuk ringkasan dan potongan kode, sering disimpan, dibagikan, dan digunakan kembali. Karena mereka diciptakan di luar alur kerja formal, file-file ini menjadi tidak terlacak, tidak terklasifikasi, dan tidak dilindungi sebagai shadow data.

Pada sebagian besar kasus, dengan shadow AI, tidak ada yang tahu kapan pelanggaran terjadi. Contoh-contoh ini mungkin terjadi di organisasi Anda:

• Seorang insinyur perangkat lunak junior menempelkan kode propietary ke debugger GPT gratis.
• Seorang wakil penjualan memasukkan daftar pelanggan terakhir ke penulis email AI untuk menghasilkan pitch upsell.
• Seorang manajer SDM menggunakan alat AI eksternal untuk menganalisis respons survei kepuasan karyawan.
• Seorang analis keuangan meminta ChatGPT untuk menyederhanakan bahasa perkiraan pendapatan sensitif untuk eksekutif.
• Seorang pengacara meminta GenAI untuk menulis ulang kontrak menggunakan klausa rahasia dari perjanjian klien.

Mengapa Alat Keamanan Tradisional Melewatkan Shadow AI

Tumpukan keamanan warisan tidak dirancang untuk menghadapi ancaman berbasis prompt GenAI. Sebagai contoh, firewall tidak dapat memblokir alat AI berbasis browser. CASB tidak akan melihat apa yang diketik ke jendela obrolan. Dan SIEM tidak akan memberi tahu tentang siapa yang baru saja meminta LLM untuk merangkum IP sensitif.

Shadow AI beroperasi di lapisan aplikasi dan hidup di browser, di mana visibilitas paling lemah. Karyawan juga menggunakan perangkat pribadi mereka. Tidak ada plugin untuk menghentikan mereka, tidak ada tanda air untuk melacak apa yang telah bocor, dan tidak ada peringatan ketika data melintasi garis. Dan ketika itu muncul dalam peringatan DLP, jika itu terjadi, data sudah terpapar.

Bagaimana Mengidentifikasi dan Mengatasi Risiko Shadow AI

Anda tidak dapat mengontrol apa yang tidak dapat Anda lihat, dan dengan GenAI, sebagian besar organisasi terbang buta. Alat tradisional tidak dirancang untuk memahami interaksi berbasis prompt atau melacak apa yang terjadi setelah pengguna mengklik “Enter”.

Namun, pendekatan keamanan yang didorong AI baru siap untuk membantu organisasi membawa shadow GenAI keluar dari kegelapan. Berikut beberapa perlindungan yang ditawarkan oleh solusi canggih:

Pengenalan shadow AI – Alat ini mengidentifikasi aplikasi GenAI mana yang digunakan oleh pengguna Anda, bahkan yang berbasis browser yang melewati kontrol tradisional. Mereka menganalisis pergerakan data, pola akses, dan konteks untuk mendeteksi pelanggaran tanpa memerlukan agen endpoint atau pemantauan invasif.

Klasifikasi apa yang sensitif – Solusi modern menggunakan AI yang sadar konteks untuk memahami baik konten dan konteks di balik data. Artinya, mereka dapat menandai risiko seperti proyeksi pendapatan yang disematkan dalam slide PowerPoint atau data pelanggan yang diselipkan dalam draf email. Ini adalah jenis konten yang mungkin diberikan oleh karyawan ke GenAI tanpa berpikir dua kali.

Pencegahan perilaku prompt yang berisiko – Sekali data sensitif ditemukan dan lokasinya diidentifikasi, keamanan data AI membantu mencegahnya dari terpapar. Alat ini menandai, menghapus, atau memblokir input prompt yang berisiko sebelum meninggalkan organisasi.

Pembersihan shadow data – GenAI sering menghasilkan gelombang file baru, seperti ringkasan, draf, dan respons, yang disimpan, dibagikan, dan dilupakan. Platform keamanan data canggih mengidentifikasi artefak hilir ini, mendeteksi risiko eksposur (seperti akses yang berlebihan atau penyimpanan yang tidak tepat), dan memulihkannya sebelum kehilangan data menjadi headline.

Shadow AI bukanlah risiko teoretis. Ini nyata, ini tumbuh, dan ini terjadi di lingkungan Anda sekarang, apakah Anda melihatnya atau tidak. Melarang alat GenAI tidak realistis, tetapi mengabaikannya sangat berisiko. Organisasi memerlukan visibilitas, kontrol, dan kecerdasan di sekitar penggunaan GenAI — tidak hanya untuk apa yang keluar, tetapi juga untuk apa yang masuk.

Pendekatan baru tersedia yang mengungkap perilaku berisiko, mencegah eksposur yang tidak disengaja, dan membersihkan kekacauan data yang ditinggalkan oleh AI dan shadow AI.