AI Ajanları Kalabalığı Takip Ettiğinde: Çoklu Ajan Uzlaşmasındaki Gizli Risk

Bir odadaki aynı fikirdeki AI ajanları güven verici görünebilir. Biri bir cevap önerir, diğeri onu kontrol eder ve birkaçı daha sonuca onay verir. Peki, bu ajanların kaç tanesi gerçekten temel kanıtı kontrol etti? Her biri önceki ajanın yargısını absorbe ettiyse, oybirliği kararı tek bir hatayı gizleyebilir.

University of Chicago Harris School of Public Policy tarafından vurgulanan yeni araştırma bu sorunu inceliyor. Duyurusunda açıklanan kasıtlı olarak olumsuz deneylerde, sonraki ajanlar, kendi bilgilerinin doğru cevaba işaret etmesine rağmen, erken bir yanlış sonuca uydular. Duyuru ayrıca bunların erken stres testi sonuçları olduğunu, otonom ajanların rutin olarak bu şekilde davrandığının kanıtı olmadığını vurguluyor.

Çoklu ajan iş akışları oluşturan organizasyonlar için önemli soru, bağımsız doğrulamayı bir yankıdan nasıl ayıracağıdır. Aşağıda deneyi inceliyor, bunu yerleşik sosyal öğrenme araştırmasıyla ilişkilendiriyor ve sistem tasarımı için pratik çıkarımlar geliştiriyoruz. Mühendislik önerileri ve sayısal örneklemeler bizim analizimizdir, ek deneysel bulgular değildir.

Araştırmacıların Ne Test Ettiği

Andy Hall, Dan Thompson, Alexander Fouirnaies ve Sandy Handan-Nader, 29 Eylül 2026 tarihinde Extraordinary Multi-Agent Delusions and the Madness of Crowds adlı çalışmayı yayımladı. Ajanlar, özel kabul ya da red sinyallerinin %70 oranında bilgilendirici olduğu bir simüle edilmiş görev derecelendiricisinin nasıl çalıştığını çıkarsadılar. Daha önceki pano gönderilerini okudular, sonuçları paylaştılar ve inançlarını ayrı ayrı rapor ettiler. Stres koşulu, ilk dört sinyali hatalı yaptı.

İletişim olmadan, sonraki bağımsız sinyaller ilk hatayı seyreltir. Bir pano ile, hatalı yargılar devam etti; ajanlar ayrıca kendi kanıtlarını yanlış raporladı. Çoğu deney Claude Haiku 4.5 kullandı. Yazarlar, Sonnet 4.6, Opus 4.6 ve GPT-5 mini ile tekrarı rapor ediyor, Gemini 2.5 Flash için olası bir istisna belirtiyor.

Yedi iletişim politikası ve ek senaryolar arasında, özel test sonuçlarını koruyan kurallar en iyi performansı gösterdi. Bir kural kesin raporlamayı zorunlu kıldı ve uydurulmuş testler ya da sayımların yapılmasını yasakladı. Sonradan verilen gerekçeler, panodaki çoğunluğu %90’dan fazla bir oranla belirtti, ancak yazarlar bu açıklamaların içsel mekanizmayı kanıtlamadığını uyarıyor.

Kalabalık ile Yankı Arasındaki Fark

Zihinsel arka plan, üretken AI’dan önce gelmektedir. 1992 bilgi kademeleri üzerine makale‘de Sushil Bikhchandani, David Hirshleifer ve Ivo Welch, ardışık karar vericilerin kendi bilgilerini göz ardı ederek öncekileri takip edebileceğini açıklamaktadır. Çerçeveleri, uyumun kırılgan toplu inançlarla nasıl birlikte var olabileceğini açıklamaya yardımcı olur. Daha sonraki bilgi kademeleri ve sosyal öğrenme incelemesi, Omer Tamuz ile ortak yazılmış, ardından gelen teorik ve ampirik araştırmaları gözden geçirmektedir.

Hayali bir yazılım incelemesini düşünün. Ajan A, başarısız bir testi kimlik doğrulama kütüphanesinin bozuk olduğuna dair kanıt olarak yorumlar. Ajan B, A’nın raporunu okur ve kütüphanenin değiştirilmesini önerir. Ajan C, her iki mesajı aynı hatanın iki teyidi olarak özetler. Bir koordinatör şimdi üç ajanın aynı fikirde olduğunu görür, ancak tüm zincir tek bir testin tek bir yorumuna dayanır.

Ajan D’yi eklemek mutlaka yeni bilgi üretmez. D yalnızca özeti okursa, iş akışı iddiayı tekrarlamak için başka bir fırsat yaratmış olur. İlgili doğrulama birimi bağımsız gözlemdir: ayrı bir yeniden üretim, farklı bir test veya şüpheli hatanın doğrudan incelenmesi.

Bu ayrım, her bileşen yetenekli ve işbirlikçi olduğunda bile önemlidir. Anlaşma, yalnızca kanıt temelleri bunu haklı çıkardığı ölçüde yararlıdır. Bu nedenle bir sistem, hangi ajanların bir kontrol gerçekleştirdiğini, hangilerinin yalnızca başka bir ajanın çıktısını yorumladığını ve hangilerinin bir sonuca kontrol etmeden tekrar ettiğini izlemelidir.

Bağımsızlığın Matematiği Neden Değiştirdiği

Basit bir hesaplama riskleri gösterir. Beş hayali seçmenin her birinin ikili bir soruya %0.7 olasılıkla doğru yanıt verdiğini ve yanıtlarının bağımsız olduğunu varsayalım. En az üçünün doğru olma olasılığı yaklaşık %83,7’dir. Oylarını birleştirmek, tek bir seçmenin %70 doğruluk oranını artırır.

Şimdi beşinin de aynı yanıtı kopyaladığını varsayalım. Çoğunluk yalnızca o orijinal yanıt doğru olduğunda doğrudur: %70 zaman. Görünür katılımcı sayısı artmış olsa da bağımsız bilgi miktarı artmamıştır. Bunlar örnek olasılıklardır, yeni araştırmadan elde edilen performans ölçümleri değildir.

Stres koşulunu yorumlamak için bir başka faydalı hesaplama vardır. Dört sinyal bağımsız olarak %30 hata olasılığına sahipse, dört sinyalin de yanlış olma olasılığı 0,3’ün dördüncü kuvveti, yani %0,81’dir. Bu, bu varsayımlar altında belirli bir başlangıç dizisinin olasılığını açıklar. Bu, konuşlandırılmış bir ajan ekibinin başarısız olma olasılığını açıklamaz.

Bir başarısızlık tahmini, zor durumların ne sıklıkta ortaya çıktığını ve sistemin bu durumlarda nasıl davrandığını gerektirir. Bu niceliklerin karıştırılması, sonucun kanıtların izin verdiğinden daha korkutucu ya da daha rahatlatıcı görünmesine neden olabilir. Bir stres testi, olağan işlerde sıklığını ölçmeden, sonuçsal bir zayıflığı ortaya çıkarabilir.

Konsensüs Oluşturulmadan Önce Kanıt İzini Oluşturun

Pratik bir yanıt, ortak çalışma alanında gözlemleri yorumlardan ayırmaktır. Varsayımsal kimlik doğrulama araştırması için bir gözlem, bir test tanımlayıcısı, test edilen kod revizyonu, gerçek çıktı ve yürütme süresini içerebilir. Ayrı bir alan, ajanın önerdiği açıklamayı ve belirsizliğini kaydeder.

Bu yapı, koordinatörün somut bir soru sormasını sağlar: bu öneri yeni bir gözlem mi getiriyor, yoksa zaten sayılmış kanıtlara mı atıfta bulunuyor? Aynı başarısız testi belirten üç özet, kanıt defterinde tek bir test olarak kalmalıdır. İkinci bağımsız yeniden üretim, ayrı bir kontrol olarak görünmelidir.

Maliyetli veya sonuçları önemli kararlar için, ekipler ajanları birbirlerinin sonuçlarına maruz bırakmadan önce ilk değerlendirmeleri toplayabilir. Bir gözden geçiren, kaynak materyali inceleyecek, ilk yargısını oluşturacak ve ancak ardından grup tartışmasını görecektir. Fikir değişiklikleri hâlâ mümkün olacak, ancak sistem yeni kanıtların bunları nasıl haklı çıkardığını kaydedebilecektir.

Bunlar, bu deneyle doğrulanmış güvenlik önlemleri değil, değerlendirilmesi gereken tasarım önerileridir. Daha yapılandırılmış kayıtlar, ek araç çağrıları ve potansiyel olarak daha yavaş koordinasyon gibi maliyetler getirirler. Değerleri, korudukları kararlarla karşılaştırılarak değerlendirilmelidir. Beyin fırtınası bir iş akışı gevşek konuşmaları tolere edebilir; bir üretim olay araştırması çok daha katı bir kanıt izine ihtiyaç duyabilir.

İstem Kuralları ve Çalışma Zamanı Kontrolleri Farklı Sorunları Çözer

Bir ajanın kanıtları korumasını istemek faydalıdır, ancak bir üretim mimarisi, orijinal araç çıktısını kendisi koruyarak daha ileri gidebilir. Bir yürütme hizmeti, sonuçları ajanların alıntılayabileceği ancak üzerine yazılamayacak bir kayda yazabilir. Okuyucular daha sonra yorumu temel çıktıyla karşılaştırabilir.

Değiştirilemez bir günlük bile bir testin iyi tasarlandığını, kaynağın güvenilir olduğunu veya yorumun doğru olduğunu garanti etmez. Ancak tutarsızlıkların incelenebilir olmasını sağlar. Bir sistem, hatalı bir testi, o testi yanlış tanımlayan bir rapordan ayırabilir.

Yetkilendirme ayrı bir karar olarak kalmalıdır. Bir sistemin onarıma ihtiyaç duyduğuna dair emin bir sonuç, onu değiştirme izni vermez. Yürütme izinlerini konsensüs sürecinin dışına tutmak, epistemik bir hatanın otomatik olarak operasyonel bir eyleme dönüşmesini önler. Bir ajan ekibi yanlış olabilir, ancak sınırsız bir değişiklik yapma izni olmayabilir.

Model çeşitliliği de aynı şekilde değerlendirilmelidir, sorunu çözeceği varsayılmamalıdır. Farklı modeller farklı yorumlar sağlayabilir, ancak ajanslara farklı isimler veya roller atamak, kanıtlarının bağımsız olduğunu göstermez. Aynı hatalı özeti okuyan çeşitli bir grup hâlâ tek bir kanıt darboğazını paylaşabilir.

Daha Güçlü Bir Değerlendirmenin Ölçmesi Gerekenler

Bağlantılı yayın, halka açık bir araştırma yazısıdır. Okuyucular, bunu dağıtılmış çoklu ajan ürünlerinin kapsamlı bir kıyaslaması olarak değerlendirmemelidir. Değeri, test edilebilir kıldığı belirli başarısızlık modudur; daha geniş etkileri ek kanıtlara ihtiyaç duyar.

Yararlı bir takip değerlendirmesi, sinyallerin sırasını, özel kanıtların doğruluğunu, katılımcı sayısını ve iletişim yapısını çeşitlendirmelidir. Normal dizileri kasıtlı olarak yanıltıcı olanlarla birlikte, erken çoğunlukların doğru olduğu ve yanlış olduğu durumları da içermelidir. Aksi takdirde, bir politika sadece ajanları her konsensüsü şüpheyle karşılamaya öğretmekle başarılı görünür.

Sadece doğruluk, önemli ayrımları kaçırır. Değerlendiriciler, raporların gözlemleri sadakatle koruyup korumadığını, ajanların ne sıklıkta destekleyici kanıt uydurduğunu, doğru bir azınlığın nihai kararı değiştirebilip değiştiremeyeceğini ve koordinatörün tekrarlanan alıntıları ayrı kontroller olarak sayıp saymadığını ölçmelidir. Token tüketimi ve gecikme aynı karşılaştırmada yer almalıdır: daha güvenli bir protokol hâlâ operasyonel olarak faydalı bir maliyet gerektirir.

Mekanizmaları araştırmak için araştırmacılar, görev kanıtını sabit tutarken önceki yargılara erişimi deneysel olarak değiştirebilir. Bağımsız ilk değerlendirmelerle, pano okunduktan sonra oluşan değerlendirmeleri karşılaştırabilirler. Sunum sırasını rastgeleleştirmek, kanıt etkilerini sıra ya da öncelik etkilerinden ayırmaya yardımcı olur. Üretilen açıklamalar hipotezleri yönlendirebilir, ancak bir modelin cevabını neden değiştirdiğinin tek kanıtı olmamalıdır.

Çoklu Ajan Güvenilirliğinin Daha İyi Tanımı

Sürü psikolojisi dili canlıdır, ancak modellerin insan sosyal baskısı yaşadığına ya da insan inançlarına sahip olduğuna dair kanıt olarak okunmamalıdır. Operasyonel endişe gözlemlenebilir: bilgi bir iş akışına girer, yargılar sonraki yargıları etkiler ve nihai cevap, desteğinin nereden geldiğini gizleyebilir.

Yapılandırıcılar için bir sonraki kilometre taşı, kanıtlanabilir düzeltme olmalıdır. Bir ajan makul bir hata yaptığında, başka bir ajan çelişkili kanıtı tespit edebilir mi? Koordinatör bu anlaşmazlığı yeterince uzun süre koruyarak araştırmaya imkan verebilir mi? Son karar, hangi bağımsız kontrollerin sorunu çözdüğünü açıklayabilir mi?

Daha büyük bir ekip, doğrulanabilir bilgi eklediğinde ve zorlu koşullarda kararları iyileştirdiğinde güven kazanır. Ajanları saymak, onayları saymak ve daha uzun tartışmalar üretmek yetersiz alternatiflerdir. En faydalı çok ajanlı sistem, katılımcıları aynı fikirde olsa bile kanıtları incelenebilir kalan sistemdir.