Tahun 2026 Akan Melihat Ledakan Agen AI di Seluruh Bisnis: Apakah Kita Siap untuk Risiko Keamanan?

Perusahaan sedang berlomba-lomba untuk mengadopsi agen AI, tetapi mereka tidak memiliki infrastruktur untuk melakukannya dengan aman. Agen berbeda dari alat AI: mereka bekerja secara otonom, mengakses data secara terus-menerus, dan bertindak dengan kecepatan mesin tanpa perlu pengawasan. Hal ini menciptakan risiko baru yang sepenuhnya yang harus kita siapkan.

Orang-orang sudah menggunakan agen AI mereka sendiri di tempat kerja – tanpa harus memberitahu bos mereka. Bagaimana kita memastikan bahwa bot OpenClaw tidak menghapus file penting? Tiga dari empat perusahaan besar akan mengadopsi sistem multi-agen oleh akhir tahun 2026, menurut Gartner. Bagaimana kita memastikan bahwa setiap agen tersebut tidak membuka pintu untuk peretas menyerang kita dengan cara-cara baru?

Infrastruktur keamanan saat ini dirancang untuk mengatasi ancaman yang diketahui, dengan kecepatan manusia. Hal ini tidak memperhitungkan agen yang rusak yang mengutak-atik kode perusahaan tanpa kita ketahui. Atau untuk aktor jahat yang menyerang kita melalui injeksi prompt: instruksi yang tersembunyi dalam kode atau prompt yang menyebabkan AI untuk, misalnya, mengungkapkan informasi sensitif atau menjalankan kode berbahaya.

Kebenaran adalah, perusahaan lebih lapar daripada mereka siap untuk gelombang yang akan datang ini. Hanya 29% dari organisasi ” sangat setuju” bahwa mereka memiliki perlindungan AI yang aman, menurut survei Microsoft.

Pemimpin perusahaan perlu melakukan beberapa hal.

1. Mengimplementasikan langkah-langkah keamanan AI yang asli di seluruh perusahaan.
2. Mengobati agen AI dengan langkah-langkah keamanan yang sama seperti manusia.
3. Meningkatkan visibilitas apa yang dilakukan oleh agen-agen tersebut.

Dengan melaksanakan kontrol-kontrol ini, keamanan dapat sesuai dengan kecepatan agen dan memungkinkan inovasi daripada memperlambatnya.

Buat Keamanan AI yang Asli

Pada bulan Februari, seorang peneliti keamanan Meta membuat postingan yang mengejutkan di X: bot OpenClaw-nya telah mulai menghapus email-nya dan mengabaikan perintah untuk berhenti. Pada saat ia dapat mengganggu proses secara manual, kerusakan telah dilakukan.

Ini adalah ilustrasi dari kecepatan luar biasa di mana AI yang rusak dapat bertindak, membuat kontrol yang bergantung pada manusia tidak cukup. Keamanan perlu bergerak secepat – dan sepanjang jalur yang sama – dengan AI yang beragam.

Hal ini memerlukan pembaruan infrastruktur keamanan perusahaan, bukan hanya pemutakhiran alat yang ada. Beberapa area perlu terlibat dalam perubahan sistem ini.

Menghindari situasi yang cepat seperti yang dialami oleh peneliti Meta memerlukan alat AI yang dapat mendeteksi anomali secara real-time dan merespons secara otomatis. Misalnya, agen pengawas dapat diterjunkan untuk meninjau tugas-tugas berdampak tinggi yang dijalankan oleh agen lain. Alat Intelijen Ancaman Agensi (ATI) dapat mendeteksi dan bertindak secara otomatis pada tahap awal serangan potensial.

Mekanisme pencegahan lain yang penting adalah memastikan keamanan model yang sebenarnya diterapkan pada sistem Anda. Platform seperti ProtectAI, TrojAI, atau Aim Security dapat menguji bahaya langsung seperti injeksi prompt, menggunakan alat AI untuk membersihkan kode sebelum dipublikasikan.

Mengamankan provenance data yang diakses oleh agen AI juga sangat penting. Alat seperti Databricks Unity Catalog, Collibra, atau Alation memungkinkan tim untuk mengatur pergerakan data.

Kita juga dapat mencegah manipulasi agen AI kita dengan mengamankan perangkat fisik yang kita gunakan untuk menerapkannya. Platform seperti CrowdStrike dapat membantu menghindari penyalahgunaan kredensial AI dan mendeteksi perilaku abnormal.

Memiliki prinsip yang mengatur operasi internal serta bagaimana Anda memilih vendor sangat penting. Gunakan kerangka kerja industri yang ada untuk panduan, seperti Google SAIF untuk membangun arsitektur yang aman, AWS CAF-AI untuk tata kelola AI, atau NIST AI RMF untuk kepatuhan. Proyek Keamanan AI Gen AI OWASP – sebuah inisiatif sumber terbuka untuk mitigasi risiko AI – menawarkan pedoman keamanan yang relevan untuk perusahaan yang menerapkan AI.

Perlakukan AI dengan Keterbatasan yang Sama seperti Manusia

Tahun lalu, seorang investor menggunakan agen AI Replit untuk mengkode – sampai pada hari kesembilan, agen tersebut memutuskan untuk menghapus kode dari database produksi langsung, memengaruhi 1.200 perusahaan.

Karena agen dapat bertindak secara otonom, memberikan mereka akses yang tidak diawasi ke berbagai dokumen, data, dan API dapat berakibat fatal. Salah satu alasan adalah bahwa bisnis sering tidak memberikan mereka “identitas” seperti yang kita lakukan pada pengguna manusia, yang berarti mereka tidak dapat melacak, memantau, dan mengelola akses mereka ke ruang yang berbeda.

Bisnis dapat bertindak dengan memberikan identitas kepada pengguna non-manusia: penyedia manajemen akses identitas dapat mengelola akses agen ke area yang berbeda, untuk berapa lama, dan mengidentifikasi perilaku berisiko. Hal ini mengurangi akses yang berlebihan ke area yang tidak perlu diakses oleh agen. Ini juga membatasi apa yang dapat dilakukan agen di area tempat mereka beroperasi.

Memberikan identitas agen juga mengurangi ancaman dari aktor eksternal.

Ketika sebuah tim peneliti menginjeksi prompt berbahaya ke dalam aplikasi AI yang mengelola kontrak hukum, satu pengguna dapat mengakses data pribadi milik pengguna lain. Jelas tidak ada pemisahan data pengguna yang aman, dan otorisasi untuk data tersebut diberikan kepada AI bahkan ketika tidak relevan dengan skenario yang sedang dihadapi.

Mengatur batasan untuk “identitas” AI berarti mereka tidak akan memiliki akses “selalu-aktif” yang luas. Misalnya, agen akan memerlukan otorisasi untuk fungsi tertentu, atau diberikan kemampuan baca-saja di area tertentu. Dengan demikian, bahkan jika agen AI diretas atau dimanipulasi oleh aktor jahat, dampaknya tetap terbatas dan tidak katastropik.

Pemimpin harus juga mendidik tim mereka tentang ancaman agen yang beroperasi secara rahasia. Risiko lebih besar ketika karyawan menghubungkan “agen bayangan” AI ke ruang kerja tanpa sepengetahuan dan persetujuan pemimpin, serta tanpa identifikasi dan pengamanan yang tepat. Selain itu, pendekatan Zero Standing Privileges (ZSP) menciptakan baseline akses 0 untuk setiap agen. Jadi, jika seorang karyawan menghubungkan agen bayangan yang tidak disetujui, maka agen tersebut memasuki lingkungan di mana semua pintu tertutup.

Memiliki Mata pada Agen Anda

Sementara kita tahu analogi “AI adalah kotak hitam”, penerapannya di bisnis Anda harus sangat terlihat dan dipantau.

Untuk menegakkan kebijakan keamanan yang ketat, setiap agen harus dikelola: mereka harus memiliki dokumentasi kepemilikan, tanggung jawab, dan kontrol yang jelas sehingga Anda dapat melacak jalur mereka dengan akurat. Anda harus memiliki telemetri terus-menerus – pemantauan jarak jauh – untuk melacak perilaku agen, dan memberi makan alat keamanan yang ada sehingga mereka dapat mendeteksi anomali dan menjalankan skor kepercayaan adaptif.

Pemimpin perlu mengambil serius keamanan frontier baru ini dan memastikan tim yang berbeda bertanggung jawab atas penggunaan agen AI. Mereka dapat membuat KPI kepatuhan baru, seperti “Jumlah dataset dengan provenance yang diverifikasi,” “% agen AI dengan identitas yang dikelola,” atau “Skor Kepercayaan AI.”

Hal ini sangat penting untuk pencegahan, tetapi juga tentang kemampuan untuk diaudit – bahkan ID non-manusia perlu memiliki jejak audit untuk sebuah organisasi yang patuh.

Kita umumnya memahami bagaimana manusia berperilaku dan jalur yang mereka ambil dalam ruang kerja. Tetapi AI adalah makhluk yang sepenuhnya baru. Ada banyak hal yang tidak kita ketahui tentang bagaimana ia beroperasi. Beberapa perusahaan memilih solusi jangka pendek dengan memblokir AI dari kantor – tetapi itu hanya akan menunda masalah atau menyebabkan karyawan menggunakan agen bayangan AI. Siapkan arsitektur keamanan Anda secara proaktif untuk agen yang sudah menjadi sangat umum.