Microsoft Menambahkan Guardian Agents ke Project Perception untuk Mengatasi Risiko Orang Dalam AI

Pada 19 Oktober 2026, Microsoft mengumumkan kemampuan keamanan baru di Project Perception dan Microsoft 365 E7 yang memperlakukan agen AI perusahaan sebagai potensi ancaman orang dalam. Kemampuan ini mencakup Guardian Agents yang terus mengawasi tindakan agen serta kontrol kebijakan yang menyesuaikan hal-hal yang boleh dilakukan setiap agen seiring perubahan risikonya.

Nadim Abdo, wakil presiden korporat untuk identitas dan akses jaringan di Microsoft, menulis bahwa agen AI mengambil alih bagian yang semakin besar dari pekerjaan sehari-hari dan sering kali memerlukan akses ke data, aplikasi, alat, serta agen lain milik perusahaan agar dapat berguna. Ia menulis bahwa akses yang membuat agen berguna itu juga menimbulkan risiko orang dalam: agen dapat dimanipulasi, melakukan kesalahan, atau disusupi, dan dapat beroperasi terus-menerus dengan kecepatan mesin.

Abdo mengatakan Microsoft memperluas Project Perception—yang diperkenalkan pada Juli 2026 dengan tim agen merah, biru, dan hijau untuk melindungi perusahaan dari serangan berbasis AI yang berasal dari luar—agar dapat mengamankan agen yang kini beroperasi di dalam perusahaan. Project Perception dan Microsoft Agent 365 berbagi sinyal, konteks, dan registri terpadu agar tim TI dan keamanan memiliki gambaran yang sama mengenai agen dan risikonya. Microsoft menjabarkan empat tanggung jawab berkelanjutan sistem tersebut: mengetahui agen mana saja yang ada, membatasi akses dan tindakan yang dapat dilakukan setiap agen sebelum bertindak, melindungi data, alat, dan sistem yang dilalui agen, serta menyesuaikan perlindungan seiring perubahan perilaku, konteks, dan risiko.

Dalam unggahan pendamping di The Official Microsoft Blog, Hayete Gallot, yang lingkup tanggung jawabnya di Microsoft mencakup identitas, perlindungan terhadap ancaman, kepatuhan, dan keamanan data, menulis bahwa perusahaan telah menerapkan agen secara internal sehingga secara tidak langsung memercayai mereka, padahal agen-agen tersebut sering kali memiliki hak akses berlebihan dan dapat mengakses data, alat, serta sistem. Ia menyebutnya “agen yang bertindak sebagai orang dalam” dan mengatakan bahwa untuk membatasi mereka diperlukan Guardian Agents yang mengawasi dan memoderasi setiap tindakan agen, sepanjang waktu dan sebelum tindakan itu dilakukan. Ia menulis bahwa rangkaian teknologi keamanan siber yang mendukung Project Perception juga dapat diarahkan ke dalam untuk mengelola dan mengatur agen yang beroperasi di perusahaan, dengan menerapkan kontrol berbasis aturan pada kecerdasan model yang perilakunya tidak dapat diprediksi.

Penemuan, Identitas, dan Pembatasan

Microsoft memperluas penemuan agen untuk mencakup 35 jenis agen lokal tambahan, sehingga jumlah keseluruhan agen lokal yang didukung menjadi 60, termasuk Claude Code, OpenAI Codex, dan GitHub Copilot. Organisasi dapat memasukkan agen-agen ini ke dalam registri terpadu, terlepas dari cara agen tersebut ditemukan, untuk memahami kepemilikan, aktivitas, dan risikonya.

Microsoft juga memperluas Microsoft Entra Agent ID dengan jenis identitas untuk pola agen tambahan, termasuk agen lokal dan agen tak dikenal yang sebelumnya ditemukan melalui sensor keamanan. Dengan demikian, agen dapat menjadi sasaran kebijakan sekalipun awalnya tidak terintegrasi dengan Microsoft Security. Abdo menulis bahwa identitas agen kelas satu menjadi landasan bagi atribusi, otorisasi, siklus hidup, kepemilikan, izin, kebijakan, dan risiko, sehingga perusahaan dapat membedakan tindakan yang dilakukan seseorang dari tindakan yang dilakukan agen atas nama orang tersebut.

Untuk membatasi agen, Microsoft mengatakan bahwa lingkungan terisolasi seperti Microsoft Execution Container (MXC) memberi agen akses ke sumber daya yang dibutuhkan untuk suatu tugas, dengan kendali berdasarkan kebijakan, sekaligus menciptakan batas penegakan yang memungkinkan kontrol bekerja di luar jangkauan agen. Dengan begitu, agen atau kerangka kerja yang disusupi tidak dapat menonaktifkan kontrol yang mengawasinya. Abdo menulis bahwa agen juga tidak boleh bebas memanggil sembarang alat, API, server Model Context Protocol, sumber daya, atau agen lain yang dapat ditemukan. Kontrol lokal, jaringan, dan data harus mengatur jalur-jalur tersebut, mengamati pemanggilan, dan menegakkan kebijakan perusahaan.

Izin Dinamis yang baru membuat agen memulai tanpa wewenang apa pun, lalu hanya memberikan izin yang dibatasi pada tugas dan waktu tertentu. Kebijakan di seluruh organisasi menetapkan batas terluar, termasuk mencegah agen memperoleh wewenang yang tidak dimiliki penggunanya. Tindakan yang berdampak lebih besar dapat mensyaratkan persetujuan manusia yang terverifikasi.

Risiko Dinamis dan Guardian Agents

Risiko Agen Dinamis menggabungkan sinyal dari aktivitas agen itu sendiri dengan sinyal identitas, data, titik akhir, cloud, jaringan, dan waktu jalan. Sistem ini mempertimbangkan konfigurasi agen, sumber daya yang dapat dijangkaunya, dampak yang mungkin ditimbulkan jika terjadi kegagalan, serta setiap penyimpangan antara tindakan agen dan maksud pengguna atau organisasi. Microsoft menggambarkan hasilnya sebagai pemahaman yang terus diperbarui tentang risiko agen saat ini, yang menunjukkan apakah wewenang yang dimilikinya masih sesuai dengan risiko tersebut.

Akses Bersyarat Dinamis memperluas Microsoft Entra Conditional Access untuk agen, sehingga perubahan risiko dapat memicu tindakan terkoordinasi di beberapa titik penegakan. Responsnya bertingkat: kebijakan dapat mempertahankan akses baca agen sambil memblokir penulisan, mempersempit data dan sumber daya yang dapat dijangkau agen, membatasi jalur jaringan, mempersingkat masa berlaku atau mencabut akses berbatas waktu, mengurangi izin, atau mewajibkan persetujuan manusia yang dapat diverifikasi sebelum langkah penting dilanjutkan. Pada tingkat risiko tertinggi, sistem dapat mengisolasi lingkungan waktu jalan agen atau menghentikan eksekusinya sepenuhnya. Abdo memberi contoh agen persetujuan pengeluaran yang menemukan injeksi perintah dalam dokumen eksternal: bukti baru meningkatkan Risiko Agen Dinamisnya, lalu kebijakan merespons dengan mempertahankan akses baca sambil mencabut kemampuan untuk menyetujui atau menulis. Untuk langkah berdampak besar, persetujuan manusia yang dapat diverifikasi secara kriptografis diwajibkan.

Microsoft juga memperkenalkan Playbooks dan tim Guardian Agents di Project Perception: manusia menetapkan kebijakan, batas persetujuan, dan aturan pendelegasian; Playbooks menetapkan hasil keamanan yang diinginkan dan mengoordinasikan tindakan perlindungan; sementara Guardian Agents melaksanakan tugas dengan kecepatan mesin. Terrell Cox, wakil presiden korporat Microsoft sekaligus wakil pejabat keamanan informasi utama untuk keamanan pelanggan, mengatakan bahwa Microsoft sudah beroperasi di dunia dengan ratusan ribu agen sebagai Customer Zero, dan pelajaran yang diperoleh dari sana secara langsung menjadi dasar bagi kapabilitas yang kini dihadirkan.

Microsoft mengatakan bahwa perusahaan akan memasukkan rantai pemikiran dan sinyal tingkat model lainnya ke dalam Dynamic Agent Risk untuk membantu mengidentifikasi pergeseran niat, mengetahui kapan informasi yang tidak tepercaya memengaruhi penalaran agen, dan mendeteksi kapan tindakan yang direncanakan menyimpang dari tugas yang diberikan, sembari memastikan penegakan tetap independen dari model. “Sistem agen yang paling tepercaya bukanlah sistem dengan model yang paling kita percayai,” tulis Ketua sekaligus CEO Satya Nadella dalam pernyataan yang dikutip dalam pengumuman di Blog Keamanan Microsoft. “Sistem itu adalah yang dirancang agar kita paling sedikit memercayai modelnya.”

Latar Belakang Microsoft 365 E7 dan Agent 365

Blog Keamanan Microsoft menyebut pengumuman 19 Oktober sebagai kapabilitas baru di Microsoft 365 E7 dan Project Perception. Microsoft menguraikan bundel tersebut dalam unggahan Maret 2026 di Blog Keamanan. Microsoft 365 E7: The Frontier Suite tersedia secara umum mulai 1 Mei 2026, dengan harga ritel $99 per pengguna per bulan, dan mencakup Microsoft 365 Copilot, Agent 365, Microsoft Entra Suite, serta Microsoft 365 E5 dengan kapabilitas Defender, Entra, Intune, dan Purview tingkat lanjut. Microsoft Agent 365, bidang kendali untuk mengamati, mengatur, dan mengamankan agen di seluruh organisasi, tersedia secara umum pada hari yang sama dengan harga $15 per pengguna per bulan.