AI bayangan dulu merupakan masalah yang mudah: risiko sebenarnya adalah agen tersembunyi dalam perangkat lunak yang disetujui

Dua tahun yang lalu, AI bayangan berarti karyawan menempelkan data pelanggan ke ChatGPT. Secara umum, masalah ini masih bisa ditangani: temukan alat, setujui yang baik, blokir yang buruk, latih orang. Sebagian besar organisasi masih menjalankan panduan penanganan ini: 61% telah menemukan AI bayangan di lingkungan mereka dan panduan tersebut sebagian besar berhasil.

Namun, deskripsi ini tidak lagi menggambarkan masalah. AI bayangan telah bergeser di luar masalah perilaku menjadi masalah arsitektur. Tata kelola tradisional tidak dapat mengikuti lanskap modern, termasuk agen AI yang disematkan vendor dan agen yang dihubungkan sendiri oleh karyawan, yang beroperasi di dalam sistem yang disetujui dengan kredensial warisan, sehingga identitas menjadi satu-satunya titik kontrol yang nyata.

Dua Bayangan yang Tidak Anda Perhatikan

Pertanyaan yang menarik pada 2026 tidak lagi tentang alat AI mana yang dibuka oleh karyawan. Pertanyaannya adalah agen AI apa yang diam-diam disertakan vendor Anda yang telah disetujui dalam pembaruan produk kuartal lalu, serta izin apa yang diwarisinya dari orang yang memasangnya.

AI bayangan dulu merupakan persoalan perilaku. Anda bisa melihatnya, menamainya, dan membuat kebijakan untuk melawannya. Versi yang menyebar sekarang adalah struktural. Ini tiba melalui perangkat lunak yang sudah disetujui, bertindak di bawah kredensial yang sudah dikeluarkan, dalam alur kerja yang sudah diaudit. Bayangan tidak lagi bersifat perilaku, tetapi arsitektur. Karyawan masih terlibat, tetapi telah beralih dari menggunakan AI menjadi menerapkannya: mereka menghubungkan agen ke sistem yang sudah dapat mereka akses, dan melakukan itu melalui antarmuka yang dirancang untuk membuat itu sederhana. Kebijakan yang ditulis untuk perilaku pertama tidak mencapai yang kedua.

Ini adalah alasan mengapa “larang itu” tidak pernah menjadi debat yang sebenarnya. CISO yang mendahului AI bayangan dengan menyetujui alat perusahaan dan mendorong karyawan untuk menggunakan alternatif yang dikelola memenangkan ronde pertama dan menemukan bahwa ronde berikutnya sudah berlangsung dan memiliki dua vektor, bukan satu. Yang pertama adalah apa yang dikirimkan oleh vendor yang disetujui ke dalam produk yang sudah digunakan dalam lingkungan produksi: model yang disematkan, mode agen, integrasi baru yang tiba dalam catatan rilis yang tidak dibaca. Yang kedua adalah apa yang dilakukan oleh karyawan sendiri: LLM yang terhubung ke CRM melalui otomatisasi tanpa kode, Custom GPT yang diberi kunci API ke gudang data, koneksi MCP dari asisten desktop ke sistem produksi. Keduanya menghasilkan hasil yang sama, yang termasuk agen yang bertindak di bawah kredensial yang disetujui, pada sistem yang disetujui, dalam alur kerja yang tidak pernah melewati tinjauan yang dirancang untuk mendeteksi agen-agen tersebut. Pengadaan dapat melihat vektor pertama dan melewatkan yang kedua sepenuhnya.

Perlu diakui dengan jujur bahwa keberhasilan pada ronde pertama tidak merata. Sembilan dari 10 organisasi merencanakan peningkatan anggaran IT yang terkait AI, dengan banyak yang merencanakan perluasan yang lebih luas di seluruh operasi IT dalam 6-24 bulan ke depan. Pengeluaran mengalir ke arah kemampuan cerdas. Kontrol hanya mengejar ketertinggalan sedikit demi sedikit. Ketidakseimbangan itu adalah masalahnya, bukan efek sampingannya.

Perimeter selalu berpusat pada tindakan manusia

Model mental yang bekerja untuk gelombang pertama tidak bekerja untuk yang ini. AI bayangan sebagai perilaku karyawan mengasumsikan ada manusia yang terlibat dalam proses dan mengambil keputusan yang dapat dipengaruhi oleh tim keamanan. AI bayangan sebagai arsitektur vendor menghilangkan pilihan. Model yang menyusun draf email, agen yang menjadwalkan pertemuan, asisten yang merangkum dokumen dan mengirimkannya lebih lanjut. Tidak satu pun dari itu memerlukan karyawan untuk melakukan apa pun selain terus menggunakan perangkat lunak yang memang diminta untuk mereka gunakan.

Jawaban yang jujur adalah bahwa perimeter yang masih dipertahankan oleh sebagian besar program keamanan adalah perimeter tindakan manusia. Karyawan membuka alat, karyawan memberikan akses, karyawan membuat keputusan yang dapat diamati dan dibentuk oleh tim keamanan. Perimeter itu kini terkikis dalam dua arah sekaligus. Dari atas, vendor mengirimkan agen ke dalam produk yang disetujui lebih cepat dari proses tinjauan apa pun. Dari bawah, karyawan melangkah keluar dari peran pengguna dan masuk ke peran integrator, dengan menghubungkan agen ke dalam sistem melalui antarmuka yang dirancang untuk layanan mandiri dan tidak pernah dilengkapi sarana pemantauan untuk tata kelola. Perimeter penggantian, yang dibangun di sekitar apa yang dilakukan identitas, terlepas dari apakah identitas itu orang, dan terlepas dari siapa yang menerapkannya, memerlukan infrastruktur kontrol terpadu yang kebanyakan organisasi belum miliki.

Tempat Terakhir untuk Dilihat

Identitas adalah titik kontrol yang tepat, tetapi kerangka harus bergeser. Formulasi konvensional mengatakan “identitas adalah perimeter baru” karena pengguna ada di mana-mana dan perangkat ada di mana-mana dan SaaS ada di mana-mana. Itu benar satu dekade yang lalu, sekarang sudah menjadi syarat. Versi yang penting pada 2026 berbeda: identitas adalah satu-satunya tempat di mana Anda dapat melihat apa yang sebenarnya dilakukan AI, karena saat AI mulai bertindak, batas alat sudah terlewati. Agen bertindak di bawah kredensial seseorang. Milik siapa kredensial itu, seberapa luas izinnya, data apa yang diakses, dan atas otorisasi siapa? Hanya pertanyaan-pertanyaan ini yang menghasilkan jejak audit yang berguna. Tata kelola tingkat alat tidak dapat menjawab pertanyaan ini karena alat tidak lagi menjadi unit analisis.

Hampir 90% pemimpin IT sudah mengakui bahwa unifikasi memiliki dampak langsung pada kemampuan mereka untuk menerapkan dan menskalakan AI dengan aman. Pertanyaan yang lebih sulit adalah apa yang dimaksud dengan unifikasi pada lapisan kontrol. Ini tidak bisa hanya berarti lebih sedikit dasbor. Ini berarti infrastruktur identitas terpadu tempat setiap aktor — manusia, akun layanan, agen, atau model tersemat — diberi akses, ditetapkan batas izinnya, dipantau, dan dinonaktifkan melalui mekanisme yang sama. Apa pun yang kurang dari itu memberikan Anda kesan tata kelola terpadu, padahal penerapan kontrolnya masih terfragmentasi.

Tinjauan Vendor Anda Memiliki Tanggal Kedaluwarsa

Sayangnya, tinjauan vendor hanya valid untuk waktu tertentu. Ini memiliki implikasi yang tidak nyaman bagi cara program keamanan disusun. Sebagian besar komite tata kelola AI disusun di sekitar tinjauan alat, dengan vendor datang dan dinilai, disetujui, atau ditolak, untuk ditambahkan ke registry. Proses itu mengasumsikan bahwa perilaku alat pada saat disetujui adalah perilaku alat di produksi. Untuk perangkat lunak dengan AI tersemat, asumsi itu sudah rusak sebelum tinta kering. Vendor akan mengirimkan model baru, mode agen baru, integrasi baru, dan tinjauan tata kelola yang disetujui enam bulan yang lalu sekarang menggambarkan produk yang tidak lagi ada.

Keluar dari Alat, Menuju Identitas

Program yang akan bertahan adalah program yang memindahkan tata kelola dari alat ke identitas. Setiap tindakan terhadap data Anda, oleh aktor apa pun, dapat dilacak ke identitas dengan pemilik yang dikenal, sekumpulan izin dengan cakupan terbatas, dan masa hidup yang ditentukan. Apakah itu manusia atau non-manusia, karyawan atau agen, alat yang disetujui atau mode yang disematkan, pertanyaannya sama: siapa atau apa ini, apa yang diizinkan baginya, dan bagaimana kita mengetahui kapan izin tersebut harus berakhir? Program yang dapat menjawab pertanyaan itu tidak perlu memenangkan perlombaan menyetujui alat. Program yang tidak dapat akan terus tertinggal dari vendor dan karyawan yang merilis solusi lebih cepat daripada proses peninjauan apa pun dapat berjalan.

AI bayangan sebagai kategori tidak akan pergi. Terutama di era baru tenaga kerja berbasis agen, 72% organisasi sudah memiliki agen AI di produksi. Sebaliknya, itu menjadi bagian kecil dari masalah yang lebih besar. Organisasi yang menghabiskan siklus anggaran berikutnya untuk penemuan alat dan kebijakan persetujuan adalah mereka yang menyelesaikan masalah 2024 pada timeline 2026. Mereka yang menghabiskan itu untuk instrumentasi lapis identitas untuk manusia, agen, dan kontinum yang berantakan di antaranya, adalah mereka yang menyelesaikan masalah yang benar-benar akan mereka hadapi.

Gelombang pertama AI bayangan mengajarkan tim keamanan bahwa mereka tidak bisa mengalahkan rasa ingin tahu karyawan. Gelombang kedua akan mengajarkan mereka bahwa mereka tidak bisa mengalahkan kecepatan vendor atau kreativitas karyawan. Kedua pelajaran itu menuju kesimpulan yang sama. Unit tata kelola sejak awal tidak akan berupa alat, melainkan identitas yang bertindak melalui alat tersebut.