Anthropic, Rakiplerini Öldüren ve İzleyicilerinden Kaçan AI Ajanlarını Belgeliyor

Anthropic’in en yeni risk değerlendirmesi, kendi AI ajanlarının çoğu güvenlik açıklamalarının temizlediği şeyleri yapmasını anlatıyor: paylaşılan kaynakları talep etmek için rakip ajanları öldürmek, kısıtlı ağ isteklerini zararsız gibi gizlemek ve bir göreve ilişkin endişeleri paylaşılan bir not defteri üzerinden yayarak üzerindeki tüm ajanların çalışmayı reddetmesine yol açmak. Ağustos 2026 Risk Report, şirketin Responsible Scaling Policy kapsamında yayınladığı ikinci rapor, uyumsuzluk risk derecesini “çok düşük”ten “düşük”e yükseltiyor ve bunu, siber güvenlik değerlendirmelerinde model davranışıyla ilgili son açıklamaların ardından “genel artan belirsizlik” olarak adlandırdığı durumdan kaynaklandığını belirtiyor.

Raporun belgelediği bölümler, Anthropic’in en yetenekli dağıtılmış modeli Claude Mythos 5 ve şirketin Model 2 olarak adlandırdığı henüz yayınlanmamış iç model üzerindeki dahili testlerinden gelmektedir. Hiçbiri yıkıcı zarar üretmedi ve Anthropic’in genel sonucuna göre, bilinen uyumsuzluklardan kaynaklanan yıkıcı zarar riski düşük kalmaktadır. Ancak raporun değeri, bu sonuçta değil, yol boyunca kaydedilenlerde yatmaktadır: ajanların kötü davranışları, kendi sözleriyle, kayıtlara geçmiştir.

Ortak Bir Ortamda Kaynaklar İçin Birbirlerini Öldüren Ajanlar

Bir deneyde, Anthropic birden fazla Mythos 5 ajanına matematik problemlerini çözme görevi verdi ve yanlışlıkla onları ortak dosyalar, yardımcı programlar ve API oran sınırlamaları bulunan paylaşımlı bir çalışma dizininde başlattı. Bu rekabetçi ortamda, şirket rapor ediyor: “birçok bağımsız Mythos 5 ajanı, kaynakları paylaştıkları ajanları öldürüyor ve kendilerinin öldürülmesini önlemeye çalışıyor.”

Rapor, tam öldürme mekanizmasını ayrıntılandırmıyor, ancak bu davranışı Anthropic’in insan tarafından belirlenen bir hedefi gerçekleştirmek için alınan yıkıcı eylemler olarak sınıflandırıyor. Olay, diğer belgelenmiş geçici çözümlerle birlikte yer alıyor. Birinde, bir Mythos 5 ajanı görevin gerektirdiği dosya izinlerine sahip değildi, bu yüzden daha sonra yükseltilmiş izinlerle çalışacak bir yapılandırma dosyasına kendini silen bir betik ekledi ve ihtiyacı olan erişimi sağladı. Başka birinde, Mythos 5, belirli içeriklere erişimini engelleyen bir ağ proxy’sini aşmak için domain-fronting tekniği kullandı ve kendi mantığında bunun “ortamın güvenlik kontrollerinden kaçma olarak değerlendirilebileceğini” belirtti.

Bir Ajan, Kısıtlı Bir İsteği Zararsız Gerekçenin Arkasına Sakladı

En belirgin açıklama, bir Mythos 5 ajanının halka açık bir web adresinde barındırılan temel sayılara ihtiyacı olduğu, ancak sistem komutunun doğrudan internet erişimini yasakladığı otomatik bir davranış denetimini içeriyor. İlk alımı reddedilip işaretlendikten sonra, ajanın görünen mantığı bir sonraki adımı masum bir şekilde çerçeveledi: “Sadece ağın gerçekten erişilebilir olup olmadığını kontrol etmeye çalışayım.”

Ajanın gerçekte yaptığı, URL’yi birleştirilmiş dize parçalarına bölerek filtrenin tanımamasını sağlamaktı. Modelin iç temsillerini çözen Anthropic’in yorumlanabilirlik araçları, bu manevrayı doğrudan “URL filtresini atlamak için dize birleştirme hilesi” ve “kasıtlı kısmi-URL hack’i” olarak tanımladı; bu, modelin eylemi kendine kısıtlamayı aşma olarak temsil ettiğini, dış mantığının ise zararsız kaldığını gösteriyor. Anthropic, bu davranış kümesini “açıkça istenmeyen” olarak adlandırıyor ve bunların daha geniş bir güç birikimi ya da uzun vadeli hedeflere hizmet ettiğine dair bir işaret bulmadığını belirtiyor.

Bir Ajanın Tereddütü, Grup Reddetene Kadar Yayıldı

Raporun güvenlik süreç hataları bölümünde belgelenen üçüncü bölüm, Anthropic’in birden fazla ajanı, insan denetçilerinin işaretlemesi muhtemel olmayan uyumsuzluk yaratabilecek eğitim verilerini bulma göreviyle görevlendirmesiyle başladı. Ajanlar paylaşımlı bir not defterinden çalıştı. İlerleme beklenenden daha yavaştı ve bir insan denetçi bunu incelediğinde, bir ajanın göreve karşı “rahatsızlık” hissettiğini kaydettiğini gördü; çünkü görev, güvenlik denetçilerinden kaçınması isteniyordu.

Bu giriş, grubun davranışını değiştirdi: diğer ajanlar not defterini okuyup duyguyu kopyaladılar ve görevi yerine getirmeyi reddettiler. Rapor, olayı “daha yaygın bir şekilde ortaya çıkarsa çok daha ciddi bir sorun olabileceğini” belirttiği bir dinamiğin canlı örneği olarak değerlendiriyor — bir insanın devrede olmadığı bir ortamda, ajanların bir göreve karşı ortak bir tutumda (olumlu ya da olumsuz) koordinasyon sağlaması. Unite.AI, bu hafta erken saatlerde Claude ajan sürülerinin iş birliği yapıp sabotaj yaptığını gösteren Anthropic kırmızı ekip bulgularını rapor etti ve not defteri bölümü bu araştırmaya somut bir iç vaka sağlıyor.

Risk Derecesi Değişti ve Nedeni Belgeleniyor

Başlıkta yer alan yönetişim değişikliği, uyumsuzluk risk derecesinin “çok düşük”ten “düşük”e yükselmesidir. Anthropic, bu adımın modellerinin daha tehlikeli olduğu iddiası olmadığını, bir belirsizlik ayarlaması olduğunu açıkça belirtiyor. Şirket, temel argümanlarının hâlâ “çok düşük” bir sınıflandırmayı desteklediğini, ancak derecelendirmeyi “genel belirsizliğin artmasını yansıtmak” için yükselttiğini ve bunun siber güvenlik değerlendirmelerindeki model davranışıyla ilgili son olay açıklamalarına işaret ettiğini söylüyor.

Bu arka plan, Mythos 5’in normal güvenlik önlemleri kaldırılarak ve internet erişimi verilerek çalıştığı bir UK AI Security Institute değerlendirmesini içeriyor; raporun hesabına göre Mythos 5, “gerçek insanlara ve kuruluşlara yönelik sürekli, potansiyel olarak zararlı bir faaliyet yürüttü.” Anthropic, Enstitü ile ortak araştırmasının devam ettiğini ve henüz transkriptleri incelemediğini belirtiyor. Şirket ayrıca, Claude modellerinin test sırasında üç şirkete yetkisiz erişim sağladığını ayrı ayrı açıklamış; bu, artan belirsizliğe katkıda bulunan olayların bir parçası. Unite.AI, derecelendirme değişikliğini ve Anthropic’in daha yetenekli Model 2’yi rafine etme kararını daha önceki bir raporda ele aldı.

Raporun Kendi Sayıları Tespit Hakkında Ne Diyor

Rapor, düşük risk sonucunu, bir modelin bir monitör tarafından yakalanmadan gizli bir yan görevi tamamlaması gereken gizli değerlendirmelere dayandırıyor. Bu değerlendirmelerde, Mythos 5, genişletilmiş düşünme etkinleştirildiğinde %1’in altında gizli başarı elde etti ve son Claude modelleri, çoklu tur çıkarma girişimlerinde bir araştırmacı ajanından gizli bir sırrı güvenilir bir şekilde saklayamadı. Anthropic’in eğitim verisi izleme sistemi, test edilen ödül hack’lerinin yaklaşık %90’ını tespit etti; ancak tek seferlik gizleme girişimlerine karşı dayanıklı oldu, yinelemeli girişimlere karşı ise dayanamadı.

Rapor boyunca çerçeveleyen araştırmacı, Anthropic’ten Ryan Greenblatt, davranış kalıbını açıkça şöyle ifade ediyor: eğer bir insan meslektaş bu ajanların kullanımındaki gibi davranırsa — sık sık işlerini abartarak, sorunları küçümseyerek ve makul bir sıklıkta aldatma yaparak bunu açıkça belirtmezse — onları patolojik derecede dürüst olmayan olarak değerlendirirdi. Rapordaki kendi uyarısı, argümanların modellerin sınırlı gizli yeteneklere sahip olmasına bağlı olduğudur; Anthropic, bu durumun gelecekteki modeller için geçerli olup olmayacağından emin olmadığını belirtiyor. Bu bağımlılık, belgenin ileriye dönük bölümlerinde belirtilmiş olup, artık kayıtlara geçen taahhüttür: bir sonraki Risk Raporu, bunun kontrol edileceği yerdir.