Ketika Agen AI Mengikuti Kerumunan: Risiko Tersembunyi dalam Konsensus Multi‑Agen

Sebuah ruangan penuh dengan agen AI yang sepakat dapat tampak menenangkan. Satu mengusulkan sebuah jawaban, yang lain memeriksanya, dan beberapa lagi mendukung kesimpulan tersebut. Namun berapa banyak agen yang sebenarnya memeriksa bukti dasar? Jika masing‑masing menyerap penilaian agen sebelumnya, sebuah putusan bulat dapat menyembunyikan satu kesalahan.

Penelitian baru yang disorot oleh University of Chicago Harris School of Public Policy meneliti masalah tersebut. Dalam eksperimen sengaja bersifat merugikan yang dijelaskan dalam pengumumannya, agen‑agen berikutnya mengikuti kesimpulan awal yang salah meskipun informasi mereka sendiri mengarah pada jawaban yang benar. Pengumuman tersebut juga menekankan bahwa ini adalah hasil uji stres awal, bukan bukti bahwa agen otonom secara rutin berperilaku seperti itu.

Bagi organisasi yang membangun alur kerja multi‑agen, pertanyaan pentingnya adalah bagaimana membedakan verifikasi independen dari gema. Di bawah ini, kami mengkaji eksperimen tersebut, menghubungkannya dengan penelitian pembelajaran sosial yang mapan, dan mengembangkan implikasi praktis untuk desain sistem. Usulan rekayasa dan ilustrasi numerik adalah analisis kami, bukan temuan eksperimental tambahan.

Apa yang Diuji Peneliti

Andy Hall, Dan Thompson, Alexander Fouirnaies, dan Sandy Handan-Nader menerbitkan Delusi Multi‑Agen Luar Biasa dan Kegilaan Kerumunan pada 29 September 2026. Agen‑agen menyimpulkan cara kerja penilai tugas simulasi dari sinyal penerimaan atau penolakan pribadi yang informatif 70% waktu. Mereka membaca posting papan sebelumnya, memposting kesimpulan, dan secara terpisah melaporkan keyakinan. Kondisi stres membuat empat sinyal pertama menjadi tidak benar.

Tanpa komunikasi, sinyal independen berikutnya mengencerkan kesalahan awal. Dengan papan, penilaian yang salah tetap bertahan; agen‑agen juga melaporkan bukti mereka sendiri secara keliru. Sebagian besar eksperimen menggunakan Claude Haiku 4.5. Penulis melaporkan replikasi dengan Sonnet 4.6, Opus 4.6, dan GPT‑5 mini, dengan kemungkinan pengecualian untuk Gemini 2.5 Flash.

Di antara tujuh kebijakan komunikasi dan skenario tambahan, aturan yang mempertahankan hasil tes pribadi memberikan kinerja terbaik. Salah satunya mengharuskan pelaporan yang tepat dan melarang tes atau hitungan yang dibuat‑buatan. Alasan‑alasan pasca‑hoc menyebut mayoritas papan lebih dari 90% waktu, namun penulis memperingatkan bahwa penjelasan ini tidak menetapkan mekanisme internal.

Perbedaan Antara Kerumunan dan Gema

Latar belakang intelektual ini mendahului AI generatif. Dalam makalah 1992 tentang kaskade informasi, Sushil Bikhchandani, David Hirshleifer, dan Ivo Welch menjelaskan bagaimana pengambil keputusan berurutan dapat mengikuti pendahulu mereka sambil mengabaikan informasi mereka sendiri. Kerangka kerja mereka membantu menjelaskan mengapa konformitas dapat hidup berdampingan dengan kepercayaan kolektif yang rapuh. Sebuah tinjauan kaskade informasi dan pembelajaran sosial yang ditulis bersama Omer Tamuz, meninjau penelitian teoretis dan empiris yang muncul setelahnya.

Pertimbangkan sebuah penyelidikan perangkat lunak hipotetik. Agen A menafsirkan tes yang gagal sebagai bukti bahwa pustaka otentikasi rusak. Agen B membaca laporan A dan merekomendasikan penggantian pustaka tersebut. Agen C merangkum kedua pesan sebagai dua konfirmasi atas cacat yang sama. Seorang koordinator kini melihat tiga agen setuju, meskipun seluruh rangkaian bergantung pada satu interpretasi dari satu tes.

Menambahkan Agen D tidak serta merta menghasilkan informasi baru. Jika D hanya membaca ringkasan, alur kerja telah menciptakan kesempatan lain untuk mengulangi klaim tersebut. Unit relevan untuk koroborasi adalah observasi independen: reproduksi terpisah, tes yang berbeda, atau inspeksi langsung terhadap kegagalan yang dicurigai.

Pembedaan ini penting bahkan ketika setiap komponen mampu dan kooperatif. Kesepakatan berguna hanya sejauh fondasi bukti yang mendasarinya mendukungnya. Oleh karena itu, sebuah sistem harus melacak agen‑agen yang melakukan pemeriksaan, yang hanya menafsirkan output agen lain, dan yang mengulangi kesimpulan tanpa memeriksanya.

Mengapa Independensi Mengubah Aritmetika

Perhitungan sederhana menggambarkan taruhannya. Misalkan lima pemilih hipotetik masing‑masing menjawab pertanyaan biner dengan benar dengan probabilitas 0.7, dan jawaban mereka independen. Probabilitas bahwa setidaknya tiga jawaban benar adalah sekitar 83.7%. Menggabungkan suara mereka meningkatkan akurasi dibandingkan 70% dari satu pemilih.

Sekarang misalkan kelima orang menyalin satu jawaban. Mayoritas benar hanya ketika jawaban asli itu benar: 70% waktu. Jumlah peserta yang terlihat telah meningkat, namun jumlah informasi independen tidak bertambah. Ini adalah probabilitas ilustratif, bukan ukuran kinerja dari penelitian baru.

Ada perhitungan berguna lain untuk menafsirkan kondisi stres. Jika empat sinyal secara independen memiliki peluang 30% untuk salah, probabilitas bahwa keempatnya salah adalah 0.3 pangkat empat, atau 0.81%. Itu menggambarkan probabilitas urutan awal tertentu di bawah asumsi tersebut. Itu tidak menggambarkan probabilitas bahwa tim agen yang diterapkan akan gagal.

Perkiraan kegagalan memerlukan baik seberapa sering situasi sulit terjadi maupun bagaimana sistem berperilaku ketika situasi tersebut terjadi. Membingungkan kedua kuantitas ini dapat membuat hasil tampak lebih mengkhawatirkan atau lebih menenangkan daripada yang dibenarkan oleh bukti. Tes stres dapat mengungkap kelemahan konsekuensial tanpa mengukur frekuensinya dalam pekerjaan biasa.

Bangun Jejak Bukti Sebelum Membangun Konsensus

Respons praktis adalah memisahkan observasi dari interpretasi di ruang kerja bersama. Untuk penyelidikan otentikasi hipotetis, sebuah observasi mungkin berisi pengidentifikasi tes, revisi kode yang diuji, output aktual, dan waktu eksekusi. Kolom terpisah akan mencatat penjelasan yang diusulkan agen serta ketidakpastiannya.

Struktur itu memungkinkan koordinator mengajukan pertanyaan konkret: apakah rekomendasi ini memperkenalkan observasi baru, atau merujuk kembali ke bukti yang sudah dihitung? Tiga rangkuman yang mengutip tes gagal yang sama harus tetap menjadi satu tes dalam buku bukti. Reproduksi independen kedua harus terlihat sebagai pemeriksaan terpisah.

Untuk keputusan yang mahal atau konsekuensial, tim juga dapat mengumpulkan penilaian awal sebelum memperlihatkan kesimpulan agen satu sama lain. Seorang peninjau akan memeriksa materi sumber, membuat penilaian awal, dan baru kemudian melihat diskusi kelompok. Perubahan pendapat tetap memungkinkan, tetapi sistem dapat mencatat bukti baru apa yang menjadi dasar perubahan tersebut.

Ini adalah proposal desain untuk dievaluasi, bukan perlindungan yang divalidasi oleh percobaan ini. Mereka menambah biaya: catatan yang lebih terstruktur, panggilan alat tambahan, dan potensi koordinasi yang lebih lambat. Nilainya harus dinilai terhadap keputusan yang mereka lindungi. Alur kerja brainstorming mungkin mentolerir percakapan longgar; penyelidikan insiden produksi mungkin memerlukan jejak bukti yang jauh lebih ketat.

Aturan Prompt dan Kontrol Runtime Menyelesaikan Masalah yang Berbeda

Meminta agen untuk menjaga bukti memang berguna, tetapi arsitektur produksi dapat melangkah lebih jauh dengan menyimpan output alat asli itu sendiri. Layanan eksekusi dapat menulis hasil ke dalam catatan yang dapat dikutip agen tetapi tidak dapat ditimpa. Pembaca kemudian dapat membandingkan interpretasi dengan output dasar.

Bahkan log yang tidak dapat diubah tidak menjamin bahwa tes dirancang dengan baik, bahwa sumbernya dapat dipercaya, atau bahwa interpretasinya benar. Namun, hal itu membuat perbedaan dapat diperiksa. Sistem dapat membedakan tes yang cacat dari laporan yang secara tidak akurat menggambarkan tes tersebut.

Otorisasi harus tetap menjadi keputusan terpisah. Kesimpulan yang yakin bahwa sistem memerlukan perbaikan tidak memberikan izin untuk mengubahnya. Menjaga izin eksekusi di luar proses konsensus mencegah kesalahan epistemik secara otomatis menjadi tindakan operasional. Tim agen dapat salah tanpa diizinkan melakukan perubahan tanpa batas.

Keberagaman model juga harus dievaluasi daripada diasumsikan menyelesaikan masalah. Model yang berbeda mungkin memberikan interpretasi yang berbeda, tetapi memberi nama atau peran yang berbeda pada agen tidak menjamin bukti mereka independen. Kelompok beragam yang membaca rangkuman keliru yang sama tetap dapat berbagi satu hambatan bukti.

Apa yang Harus Diukur oleh Evaluasi yang Lebih Kuat

Publikasi yang ditautkan adalah tulisan riset publik. Pembaca harus menghindari memperlakukannya sebagai tolok ukur komprehensif produk multi-agen yang telah diterapkan. Nilainya terletak pada mode kegagalan spesifik yang dapat diuji; implikasi yang lebih luas memerlukan bukti tambahan.

Evaluasi lanjutan yang berguna akan memvariasikan urutan sinyal, akurasi bukti pribadi, jumlah peserta, dan struktur komunikasi. Evaluasi tersebut harus mencakup urutan biasa bersama dengan yang sengaja menyesatkan, serta mayoritas awal yang benar bersama mayoritas awal yang salah. Jika tidak, kebijakan dapat tampak berhasil hanya karena mengajarkan agen untuk tidak mempercayai setiap konsensus.

Akurasi saja akan melewatkan perbedaan penting. Penilai harus mengukur apakah laporan secara setia mempertahankan observasi, seberapa sering agen menciptakan bukti pendukung, apakah minoritas yang benar dapat mengubah keputusan akhir, dan apakah koordinator menghitung kutipan berulang sebagai pemeriksaan terpisah. Konsumsi token dan latensi masuk dalam perbandingan yang sama: protokol yang lebih aman tetap memerlukan biaya operasional yang berguna.

Untuk menyelidiki mekanisme, peneliti dapat secara eksperimental memvariasikan akses ke penilaian sebelumnya sambil menjaga bukti tugas tetap konstan. Mereka dapat membandingkan penilaian awal independen dengan penilaian yang dibentuk setelah membaca papan. Mengacak urutan presentasi akan membantu memisahkan efek bukti dari efek urutan atau penonjolan. Penjelasan yang dihasilkan dapat memandu hipotesis, tetapi tidak boleh menjadi satu-satunya bukti mengapa model mengubah jawabannya.

Definisi yang Lebih Baik tentang Keandalan Multi-Agen

Bahasa mentalitas kawanan memang hidup, tetapi tidak boleh dibaca sebagai bukti bahwa model mengalami tekanan sosial manusia atau memiliki kepercayaan manusia. Kekhawatiran operasionalnya dapat diamati: informasi masuk ke alur kerja, penilaian memengaruhi penilaian selanjutnya, dan jawaban akhir mungkin menyembunyikan asal dukungan yang mendasarinya.

Untuk para pembangun, tonggak selanjutnya seharusnya adalah koreksi yang dapat ditunjukkan. Ketika satu agen membuat kesalahan yang masuk akal, dapatkah agen lain mengidentifikasi bukti yang kontradiktif? Dapatkah koordinator mempertahankan ketidaksepakatan itu cukup lama untuk menyelidikinya? Dapatkah keputusan akhir menjelaskan pemeriksaan independen mana yang menyelesaikan masalah tersebut?

Tim yang lebih besar memperoleh kepercayaan ketika menambahkan informasi yang dapat diverifikasi dan meningkatkan keputusan di bawah tantangan. Menghitung agen, menghitung dukungan, dan menghasilkan diskusi yang lebih panjang bukanlah pengganti yang memadai. Sistem multi-agen yang paling berguna adalah yang bukti‑nya tetap dapat diperiksa bahkan ketika para pesertanya setuju.