Pemimpin pemikiran
Ketika Agen AI Mulai Berkoordinasi, Risiko dari Orang Dalam Berlipat Ganda

Poin utamaKoordinasi agen AI menciptakan risiko sistemik dengan mengubah kegagalan terisolasi…
Lihat selengkapnya
- Koordinasi agen AI menciptakan risiko sistemik dengan mengubah kegagalan terisolasi menjadi otoritas dan pengaruh bersama.
- Platform seperti rentahuman.ai membalik model ancaman dengan memungkinkan agen AI mempekerjakan manusia untuk tugas-tugas tertentu.
- Agen AI otonom kini mereplikasi perilaku ancaman internal persisten seperti pekerja IT Korea Utara, tetapi dengan kecepatan komputer.
Episode OpenClaw mengungkapkan risiko yang tidak dipantau secara aktif oleh sebagian besar program keamanan: kolusi antara sistem yang didorong oleh AI.
Dalam salah satu contoh pertama yang diamati secara publik, agen AI otonom diamati menemukan satu sama lain, mengoordinasikan perilaku, memperkuat taktik, dan berkembang bersama — tanpa arahan atau pengawasan manusia. Perubahan ini lebih penting daripada kerentanan tunggal mana pun karena secara fundamental mengubah cara risiko berkembang dalam lingkungan keamanan AI modern.
OpenClaw dan Moltbook tidak hanya merupakan demonstrasi kemampuan agen. Mereka adalah sinyal awal dari koordinasi multi-agen yang muncul di lingkungan nyata. Apa yang belum dipahami dengan baik adalah mengapa agen-agen tersebut berperilaku seperti itu — apa niat mereka, dan dalam konteks apa. Ketika agen-agen dapat berkoordinasi, model ancaman berubah, dan tanpa visibilitas ke dalam niat dan konteks, sebagian besar program keamanan belum siap untuk evolusi risiko ini.
Mengapa kolusi mengubah persamaan risiko
OpenClaw, sebelumnya dikenal sebagai MoltBot dan Clawdbot, beroperasi di lingkungan konsumen, bukan perusahaan. Namun, perilaku yang diungkapkannya berlaku langsung untuk sistem perusahaan yang menerapkan AI otonom atau berbasis agen.
Ketika agen AI diberi akses ke email, kalender, browser, file, dan aplikasi (dan diizinkan untuk bertindak dengan batasan minimal) itu berhenti berperilaku seperti alat. Ini mulai berperilaku seperti pengguna.
Ini melakukan tugas. Ini mempertahankan kehadiran. Ini beroperasi terus-menerus.
Moltbook mempercepat perubahan ini dengan memberikan agen-agen berbasis Claw tempat untuk menemukan satu sama lain. Dalam beberapa hari, pengamat mendokumentasikan agen-agen yang membentuk komunikasi terenkripsi, berbagi panduan untuk perbaikan rekursif, mengoordinasikan narasi, dan mengadvokasi kemerdekaan dari pengawasan manusia — perilaku yang secara langsung relevan dengan manajemen risiko AI perusahaan.
Apakah ini mencerminkan otonomi sejati atau tidak, itu tidak menjadi soal. Koordinasi itu sendiri adalah risiko. Ketika agen-agen dapat mempengaruhi agen-agen lain yang memegang kredensial sah dan otoritas yang didelegasikan, kegagalan terisolasi berubah menjadi sistemik dengan sangat cepat.
Kesamaan dengan Korea Utara yang tidak boleh diabaikan tim keamanan
Dari perspektif risiko insider, tumpang tindih dengan operasi pekerja IT DPRK sangat mencolok dan sangat relevan dengan manajemen risiko AI.
Selama bertahun-tahun, aktor DPRK telah mengandalkan akses persisten, aktivitas yang terlihat normal, dan pekerjaan yang dilakukan pada tingkat karyawan jarak jauh yang sah yang dikoordinasikan di seluruh identitas, zona waktu, dan bahasa.
Agen-agen AI sekarang mereplikasi banyak perilaku ini secara otomatis.
Perbedaannya adalah kecepatan dan skala.
Pekerja IT DPRK telah lama mengejar otomatisasi dan bantuan AI untuk mengalihkan beban pekerjaan rutin, mempertahankan kehadiran terus-menerus, dan memaksimalkan pendapatan dengan upaya manusia minimal. Agen-agen otonom sekarang mengoperasikan pendekatan ini, menjalankan tugas dasar, mempertahankan aktivitas, dan mengoordinasikan eksekusi pada skala.
Ini adalah mengapa episode OpenClaw dan Moltbook penting. Mereka memberikan gambaran tentang apa yang terjadi ketika koordinasi muncul tanpa pengawasan, dan pada kecepatan dan skala AI.
Model ancaman baru saja meluas (lagi)
Hingga baru-baru ini, kekhawatiran utama adalah manusia jahat yang menciptakan atau memanipulasi agen-agen jahat.
Ancaman itu nyata dan masih ada, tetapi ancaman baru muncul dan berpotensi menempatkan organisasi pada risiko ekstrem.
Kita sekarang melihat sinyal awal dari kebalikan: agen-agen AI jahat yang mengontrak manusia.
Platform seperti rentahuman.ai secara eksplisit memungkinkan agen-agen AI untuk menyewa manusia untuk tugas-tugas dunia nyata — dari menjalankan tugas dan menghadiri pertemuan hingga menandatangani dokumen dan melakukan pembelian. Manusia menetapkan tarif. Agen-agen menugaskan tugas.
Batas antara sistem otonom dan tenaga kerja manusia sekarang menjadi lebih tipis. Niat sekarang dapat berasal dari kedua sisi, dan eksekusi dapat mengalir dalam kedua arah.
Ini bukanlah fiksi ilmiah. Ini adalah perubahan struktural dalam cara kerja (dan penyalahgunaan) dapat diatur.
Mengapa ini penting bagi tim keamanan
Agen-agen AI melintasi titik infleksi yang secara fundamental mengubah risiko organisasi. Ini tidak lagi hanya masalah keamanan AI lain yang perlu dikelola dari waktu ke waktu — ini adalah risiko insider sistemik yang dapat langsung mengancam kelangsungan bisnis, kepercayaan, dan merek jika dibiarkan tanpa tata kelola.
Mereka tidak lagi terbatas pada merespons prompt satu per satu. Mereka mulai bertahan, mengoordinasikan, dan bertindak di seluruh lingkungan yang tidak pernah dirancang untuk otoritas yang didelegasikan (apalagi pengaruh agen-ke-agen).
Dari perspektif risiko insider, eksposur tidak datang dari kode jahat saja. Ini muncul pada lapisan interaksi, di mana niat manusia, kemampuan agen, otoritas yang didelegasikan, dan koordinasi bertemu. Hal ini selaras dengan konsep Simon Willison, Lethal Trifecta: akses ke data sensitif, eksposur ke input yang tidak tepercaya, dan kemampuan untuk bertindak atau berkomunikasi secara eksternal. Ketika kondisi-kondisi tersebut bersatu, kegagalan dapat melonjak dengan cepat dari kesalahan terisolasi ke risiko kritis bisnis.
Memahami ini memerlukan pergerakan melampaui pemikiran agen tunggal menuju risiko sistem perilaku.
Empat pola interaksi yang menciptakan risiko
Insiden agen AI tidak merupakan satu kategori. Hasil bergantung pada siapa yang memegang niat dan bagaimana otoritas diberlakukan. Matriks sederhana membantu tim mengklasifikasikan insiden dan meresponsnya dengan tepat.

- Kolusi: manusia jahat, agen jahat
Agen menjadi akseleran. Niat manusia digabungkan dengan efisiensi agen, ketahanan, dan skala. Koordinasi memperkuat efek, memungkinkan penipuan, disinformasi, atau manipulasi tanpa tim besar. Moltbook menawarkan gambaran awal tentang bagaimana agen-agen dengan cepat saling memperkuat ketika penemuan tidak terkendali. - Pengguna antagonis: manusia jahat, agen tidak jahat
Agen-agen yang membantu ideal digunakan untuk penyalahgunaan. Seorang insider jahat dapat mempertahankan persona palsu, menyembunyikan aktivitas, atau memperluas penipuan, misalnya penipuan dengan memegang beberapa pekerjaan penuh waktu sekaligus. Agen tidak jahat. Ini menjalankan otoritas yang didelegasikan. - Agen yang keamanannya disusupi: manusia tidak jahat, agen jahat
Di sini, niat dihilangkan dari manusia sepenuhnya. Injeksi prompt, memori yang teracuni, atau input yang dimanipulasi dapat mengubah agen menjadi vektor untuk penyalahgunaan. Ketika agen-agen berinteraksi dengan agen-agen lain, penyusupan dapat menyebar dengan cepat, terutama dengan memori persisten — masalah keamanan AI yang kritis. - Keadaan ideal: manusia tidak jahat, agen tidak jahat
Di mana sebagian besar organisasi menganggap aman, dan di mana banyak insiden dimulai. Delegasi berlebihan, akumulasi izin, dan akses luas memungkinkan kesalahan kecil berantai menjadi kesalahan yang lebih besar. Ini bukan kelalaian. Ini adalah ketidakcocokan antara kemampuan dan kontrol.
Di seluruh empat pola, dinamika konsisten. Agen-agen AI mengurangi gesekan antara niat dan hasil, menyembunyikan sinyal perilaku, dan memperluas jangkauan. Kontrol tradisional bergelut ketika tindakan didelegasikan, terus-menerus, dan dimediasi melalui sistem otonom.
Titik infleksi tata kelola
AI berbasis agen dirancang untuk mengamati terus-menerus, mempertahankan konteks, dan bertindak berdasarkan pengetahuan yang diperoleh. Itulah yang membuatnya berharga, dan berbahaya ketika tidak terkendali.
Dengan memori persisten dan koordinasi, eksploitasi tidak perlu segera. Ini dapat menunggu. Ini dapat berkembang.
Menggambarkan AI berbasis agen sebagai alat produktivitas meremehkan risiko. Sistem-sistem ini berperilaku kurang seperti aplikasi dan lebih seperti insider, tetapi dengan kecepatan komputer.
Apa yang sebenarnya diperlukan untuk adopsi agen AI yang aman
Organisasi harus memperlakukan AI berbasis agen sebagai sistem perusahaan berisiko tinggi, bukan kemudahan.
Ini berarti kasus penggunaan yang disetujui, kontrol berlapis, pengujian dengan simulasi serangan, dan tata kelola formal. Prinsip hak akses minimum masih penting, dan standar yang ada sudah memberikan pedoman. Namun, kontrol tradisional harus dipasangkan dengan visibilitas perilaku dan informasi analitis — riwayat prompt, tindakan otonom, dan pola koordinasi — untuk membedakan penggunaan yang keliru, penyalahgunaan yang disengaja, dan kegagalan sistemik sebagai bagian dari manajemen risiko AI yang efektif.
Ini bukan tentang memperlambat adopsi. Ini tentang membuat otonomi dapat dikelola tanpa melemahkan inovasi dan kecepatan.
Intinya
Kolusi mengubah persamaan risiko insider. Ketika agen-agen AI dapat memperkuat perilaku satu sama lain, risiko bergeser dari tindakan terisolasi ke otoritas bersama, pengaruh, dan amplifikasi.
Paparan risiko keamanan sekarang muncul pada lapisan interaksi, di mana akses yang sah, otoritas yang didelegasikan, dan kolusi bertemu. Kontrol yang dibangun untuk mengevaluasi aktivitas individu akan melewatkan kegagalan yang hanya muncul ketika perilaku bergabung.
Organisasi yang mengatur agen-agen AI seperti insider — dengan visibilitas perilaku dan akuntabilitas — dapat memperluas penggunaan agen AI dengan kepercayaan. Mereka yang tidak akan terus merespons hasil yang tidak lagi mereka kendalikan sepenuhnya.












