Bayangan AI Adalah Masalah yang Mudah: Risiko yang Sebenarnya Adalah Agen Tersembunyi di Perangkat Lunak yang Disetujui

Dua tahun yang lalu, bayangan AI berarti karyawan menempelkan data pelanggan ke ChatGPT. Solusinya, secara umum, adalah dapat dikelola: temukan alat, sanksi yang baik, blokir yang buruk, latih orang. Sebagian besar organisasi berada di tengah-tengah melaksanakan playbook di mana 61% telah mengalami bayangan AI di lingkungan mereka dan playbook sebagian besar berhasil.

Namun, deskripsi ini tidak lagi menggambarkan masalah. Bayangan AI telah bergeser di luar masalah perilaku menjadi masalah arsitektur. Pemerintahan tradisional tidak dapat mengikuti lanskap modern, termasuk agen AI yang disematkan vendor dan karyawan yang menghubungkan agen ke dalam sistem yang disetujui dengan kredensial yang diwariskan, membuat identitas menjadi satu-satunya titik kontrol yang nyata.

Dua Bayangan yang Tidak Anda Perhatikan

Pertanyaan yang menarik pada 2026 tidak lagi tentang alat AI mana yang dibuka oleh karyawan. Pertanyaannya adalah tentang agen AI mana yang dikirimkan oleh vendor yang disetujui dalam pembaruan produk terakhir dan apa izin yang diwariskan dari manusia yang menginstalnya.

Bayangan AI dulunya adalah pertanyaan tentang perilaku. Anda bisa melihatnya, menamainya, dan membuat kebijakan untuk melawannya. Versi yang menyebar sekarang adalah struktural. Ini tiba melalui perangkat lunak yang sudah disetujui, bertindak di bawah kredensial yang sudah dikeluarkan, dalam alur kerja yang sudah diaudit. Bayangan tidak lagi bersifat perilaku, tetapi arsitektur. Karyawan masih dalam gambaran, tetapi mereka telah berpindah dari menggunakan AI ke menghubungkan agen ke dalam sistem yang sudah mereka akses, dan melakukan itu melalui antarmuka yang dirancang untuk membuat itu sederhana. Kebijakan yang ditulis untuk perilaku pertama tidak mencapai yang kedua.

Ini adalah alasan mengapa “larang itu” tidak pernah menjadi debat yang sebenarnya. CISO yang mendahului bayangan AI dengan menyanksi alat perusahaan dan mendorong karyawan untuk menggunakan alternatif yang dikelola memenangkan ronde pertama dan menemukan bahwa ronde berikutnya sudah berlangsung dan memiliki dua vektor, bukan satu. Yang pertama adalah apa yang dikirimkan oleh vendor yang disetujui ke dalam produk yang sudah diproduksi: model yang disematkan, mode agen, integrasi baru yang tiba dalam catatan rilis yang tidak dibaca. Yang kedua adalah apa yang dilakukan oleh karyawan sendiri: LLM yang terhubung ke CRM melalui otomatisasi tanpa kode, GPT Kustom yang diberi kunci API ke gudang data, koneksi MCP dari asisten desktop ke sistem produksi. Keduanya menghasilkan hasil yang sama, yang termasuk agen yang bertindak di bawah kredensial yang disetujui, terhadap sistem yang disetujui, dalam alur kerja yang tidak pernah melewati tinjauan yang dirancang untuk menangkapnya. Pengadaan dapat melihat vektor pertama dan melewatkan yang kedua sepenuhnya.

Ini patut diakui bahwa kemenangan di ronde pertama tidaklah merata. Sembilan dari 10 organisasi merencanakan peningkatan anggaran IT yang terkait AI, dengan banyak yang merencanakan perluasan yang lebih luas di seluruh operasi IT dalam 6-24 bulan ke depan. Pengeluaran mengalir ke arah kemampuan cerdas. Kontrol sedang mengejar dengan inci. Ketidakseimbangan itu adalah masalahnya, bukan efek sampingannya.

Perimeter Selalu Manusia

Model mental yang bekerja untuk gelombang pertama tidak bekerja untuk yang ini. Bayangan AI sebagai perilaku karyawan mengasumsikan ada manusia dalam loop yang membuat pilihan yang dapat dipengaruhi oleh tim keamanan. Bayangan AI sebagai arsitektur vendor menghilangkan pilihan. Model yang mengirimkan email, agen yang menjadwalkan pertemuan, asisten yang merangkum dokumen dan mengirimkannya lebih lanjut. Tidak satu pun dari itu memerlukan karyawan untuk melakukan apa pun selain terus menggunakan perangkat lunak yang mereka diberitahu untuk digunakan.

Jawaban yang jujur adalah bahwa perimeter yang kebanyakan program keamanan masih membela adalah perimeter tindakan manusia. Karyawan membuka alat, karyawan memberikan akses, karyawan membuat keputusan yang dapat diamati dan dibentuk oleh tim keamanan. Perimeter itu sekarang larut dalam dua arah sekaligus. Dari atas, vendor mengirimkan agen ke dalam produk yang disetujui lebih cepat dari proses tinjauan apa pun. Dari bawah, karyawan melangkah keluar dari peran pengguna dan masuk ke peran integrator, dengan menghubungkan agen ke dalam sistem melalui antarmuka yang dirancang untuk menjadi self-serve dan tidak pernah diinstrumentasikan untuk pemerintahan. Perimeter penggantian, yang dibangun di sekitar apa yang dilakukan identitas, terlepas dari apakah identitas itu orang, dan terlepas dari siapa yang mengirimkannya, memerlukan kain kontrol yang kebanyakan organisasi belum miliki.

Tempat Terakhir untuk Dilihat

Identitas adalah titik kontrol yang tepat, tetapi kerangka harus bergeser. Formulasi konvensional mengatakan “identitas adalah perimeter baru” karena pengguna ada di mana-mana dan perangkat ada di mana-mana dan SaaS ada di mana-mana. Itu benar satu dekade yang lalu, sekarang sudah menjadi syarat. Versi yang penting pada 2026 berbeda: identitas adalah satu-satunya tempat di mana Anda dapat melihat apa yang sebenarnya dilakukan AI, karena pada saat itu melakukan, batas alat sudah terlewati. Agen bertindak di bawah kredensial seseorang. Siapa, dengan cakupan apa, terhadap data apa, dengan otorisasi siapa adalah pertanyaan yang menghasilkan jejak audit yang berguna. Pemerintahan tingkat alat tidak dapat menjawab pertanyaan ini karena alat tidak lagi menjadi unit analisis.

Hampir 90% pemimpin IT sudah mengakui bahwa unifikasi memiliki dampak langsung pada kemampuan mereka untuk menerapkan dan menskalakan AI dengan aman. Pertanyaan yang lebih sulit adalah apa yang dimaksud dengan unifikasi pada lapisan kontrol. Ini tidak bisa hanya berarti fewer dashboard. Ini berarti kain identitas tunggal di mana setiap aktor, baik manusia, akun layanan, agen, model yang disematkan, diprovisikan, dicakup, dipantau, dan dipensiunkan melalui set mekanik yang sama. Apa pun yang kurang dari itu memberikan Anda penampilan pemerintahan yang konsolidasi ketika sebenarnya itu hanya pemerintahan yang terfragmentasi.

Tinjauan Vendor Anda Memiliki Tanggal Kadaluarsa

Sayangnya, tinjauan vendor hanya valid untuk waktu tertentu. Ini memiliki implikasi yang tidak nyaman bagi cara program keamanan disusun. Sebagian besar komite pemerintahan AI disusun di sekitar tinjauan alat, dengan vendor datang dan dinilai, disetujui, atau ditolak, untuk ditambahkan ke registry. Proses itu mengasumsikan bahwa perilaku alat pada saat disetujui adalah perilaku alat di produksi. Untuk perangkat lunak yang disematkan AI, asumsi itu sudah rusak sebelum tinta kering. Vendor akan mengirimkan model baru, mode agen baru, integrasi baru, dan tinjauan pemerintahan yang disetujui enam bulan yang lalu sekarang menggambarkan produk yang tidak lagi ada.

Keluar dari Alat, Menuju Identitas

Program yang akan bertahan adalah mereka yang memindahkan pemerintahan dari alat ke identitas. Setiap tindakan terhadap data Anda, oleh aktor apa pun, dapat dilacak ke identitas dengan pemilik yang dikenal, set izin yang dicakup, dan masa hidup yang ditentukan. Apakah itu manusia atau non-manusia, karyawan atau agen, alat yang disetujui atau mode yang disematkan, pertanyaannya sama: siapa ini, apa yang mereka izinkan untuk dilakukan, dan bagaimana kita tahu kapan itu harus berhenti menjadi benar? Program yang dapat menjawab pertanyaan itu tidak perlu memenangkan perlombaan penyanksian alat. Program yang tidak dapat akan terus bermain mengejar dengan vendor dan karyawan yang mengirim lebih cepat dari proses tinjauan apa pun.

Bayangan AI sebagai kategori tidak akan pergi. Terutama dengan usia baru tenaga kerja agen, 72% organisasi sudah memiliki agen AI di produksi. Sebaliknya, itu menjadi bagian kecil dari masalah yang lebih besar. Organisasi yang menghabiskan siklus anggaran berikutnya untuk penemuan alat dan kebijakan penyanksian adalah mereka yang menyelesaikan masalah 2024 pada timeline 2026. Mereka yang menghabiskan itu untuk instrumentasi lapis identitas untuk manusia, agen, dan kontinum yang berantakan di antaranya, adalah mereka yang menyelesaikan masalah yang sebenarnya mereka hadapi.

Gelombang pertama bayangan AI mengajarkan tim keamanan bahwa mereka tidak bisa mengalahkan rasa ingin tahu karyawan. Gelombang kedua akan mengajarkan mereka bahwa mereka tidak bisa mengalahkan kecepatan vendor atau kecerdasan karyawan. Kedua pelajaran itu menuju kesimpulan yang sama. Unit pemerintahan tidak pernah menjadi alat. Itu selalu menjadi identitas yang bertindak melalui itu.