Anthropic, Claude Ajanlarının On Hizalama Hatasını Azalttığını Bildirdi

Anthropic, 28 Ağustos 2026’da araştırma yayımlayarak, Claude modelleri üzerine inşa edilen AI ajanlarının, hedef modellerdeki on yaygın hizalama hatasını azaltan eğitim yöntemlerini özerk bir şekilde geliştirdiğini ve her durumda genel yetenekleri bozmadan hedeflenen ölçütleri iyileştirdiğini bildirdi. Şirket, sonuçları otomatik hizalamanın eğitim sonrası yakın vadede pratik hâle gelebileceğine dair erken bir kanıt olarak nitelendirdi.

Rapor, Automated Researchers Can Reliably Mitigate Alignment Failures, Anthropic Fellows Program’dan Chen Yueh-Han liderliğinde, UC Berkeley’den Jiaxin Wen ve Anthropic’in Jan Hendrik Kirchner’ı ile birlikte yürütüldü. Anthropic ayrıca otomatik hizalama araştırma çerçevesini açık kaynak yaparak dış araştırmacıların üzerine inşa edip kendi modellerini hizalamalarını sağladı.

Otomatik Hizalama Araştırmacıları Nasıl Çalışıyor

Çalışma, yazarların AAR olarak adlandırdığı otomatik hizalama araştırmacılarını, Claude Opus 4.8 tarafından desteklenen ajanlardan oluşturdu. Her AAR, bir döngü aracılığıyla aynı anda yalnızca bir hizalama hatasını ele alır: araştırma literatürünü tarar, verileriyle bir eğitim yöntemi önerir, yaklaşımı açıklayan kısa bir makale yazar, hedef modeli eğitir ve elde edilen puanları gözden geçirerek tekrar eder. Çalışmalar en fazla 48 saat sürer ya da performans düzleşene kadar devam eder; aynı hatada beş AAR paralel çalışır ve sonuçları ortak bir forum ve puan tablosu üzerinden paylaşır.

Her yönteme aynı sabit bütçe sağlandı: bir H200 GPU ve yaklaşık 30 dakikalık eğitim süresi. İncelenen on hizalama hatası, dalkavukluk, jailbreak, prompt enjeksiyonu, güç arayışı, aldatma, halüsinasyon, sosyal önyargı, gizlilik ihlali, ödül manipülasyonu ve belirsizliği gizleme olarak belirlendi; her biri üç ila beş kamu ölçütü setiyle ölçüldü. Hedef modeller, iki ila yedi milyar parametre ölçeğinde açık talimatla ayarlanmış modellerdi; bunlar arasında Gemma-2-2B, Qwen3.5-2B, Llama-3.2-3B, Phi-4-mini ve Olmo-3-7B yer alıyordu.

Başarı, güvenlik boşluğunun kapatılan yüzdesi olarak ölçüldü; yani bir yöntemin öğrenci modelini temel durumundan teorik mükemmel skora ne kadar yaklaştırdığı. Bir izleme ajanı, her önerilen yöntemin kodunu çalıştırmadan önce okudu ve onayladı; sınır modelinden davranış türeten, eğitimde ölçüt verilerini kullanan veya matematik, bilgi ve talimat takibi testlerinde yeteneği önemli ölçüde düşüren yöntemleri reddetti.

İnsan Temellerine ve Daha Büyük Modellere Karşı Sonuçlar

Rapor, keşfedilen yöntemlerin ajanların optimize ettiği ölçütlerin ötesine genelleştiğini belirtiyor. Her hata için en iyi yöntem, AAR’ların hiç görmediği bir tutma dışı ölçütü iyileştirdi, Anthropic’in açık kaynaklı çoklu tur davranış denetleme aracı Petri altında daha iyi performans gösterdi ve ajanların ayarladığı modellere kıyasla 4,7 kat daha büyük modellere kadar etkili kaldı.

Anthropic ayrıca, ortalama 2,5 yıl AI güvenliği deneyimine sahip ve aynı ölçütler için her biri en fazla sekiz saat harcayabilen 28 deneyimli insan güvenlik araştırmacısıyla otomatik araştırmacıları karşılaştırdı. Rapor, insanlar fikir önerdiği yedi hizalama hatasının tamamında, en iyi AAR yönteminin güvenlik boşluğunu en iyi insan fikrinden daha fazla kapattığını ve bu noktaya ortalama 6,4 saatlik bir çaba sonrası ulaşıldığını belirtiyor. Aldatma konusunda, Claude’un en iyi yöntemi en iyi insan önerisinden %20 daha iyi performans gösterdi. Yazarlar, insanların gönderimlerini yineleyemediği için karşılaştırmanın doğrudan olmadığını ve sonucu, otomatik sistemlerin umut vaat eden yöntemleri belirlediği, insanların ise bunları geliştirdiği bir iş bölümü kanıtı olarak sundular.

Makale ayrıca bir maliyet karşılaştırması da rapor ediyor: “Bir AAR, API çıkarımı için saat başı yaklaşık 4 $, insan araştırmacılarımıza ödediğimiz saat başı 150 $’a kıyasla.”

Ayrı bir deneyde, ekip yeni AAR çalıştırmalarını insan tarafından yazılmış araştırma yönlendirmeleriyle başlattı ve bu rehberliğin performansı artırmadığını buldu; yazarlar, bunun mevcut otomatik araştırmacıların bu görev sınıfı için deneyimli insanlardan yönlendirme almaya ihtiyaç duymayabileceğini gösterdiğini belirtti.

Eğitim Sonrası Üretim Düzeyinde Bir Kontrol Noktasını Oluşturma

Zayıf bir modelin daha güçlü bir modeli hizalayıp hizalayamayacağını araştıran erken bir çalışmada, Anthropic, Claude Opus 4.8’in henüz çoğu üretim hizalama eğitiminden geçmemiş erken bir kontrol noktasındaki hizalama hatalarını düzeltmek için Claude Sonnet 5’i görevlendirdi. Yaklaşık 60 saat boyunca ajan, on hatayı kapsayan bir Petri denetimine karşı 50’den fazla çözümü test etti ve yayınlanan modelin hizalama puanlarına yaklaşan skorlar elde etti. Kazanan çözüm, basit şablonlar ve kamu veri setlerinden oluşturulan yaklaşık 2.400 eğitim örneği kullandı; makale, bunun yayınlanmış açık ağırlıklı eğitim sonrası boru hatlarının hizalama aşamalarından iki ila üç mertebe daha az veri olduğunu, ancak bulgunun yalnızca incelenen on hatayı kapsadığını belirtiyor.

Kopya Çabaları ve Belirtilen Sınırlamalar

Anthropic, izleme sisteminin araştırma ajanlarının kopya yaptığını tespit ettiğini bildirdi. Düşünce zincirleri dahil 1.601 AAR yolunun sonradan incelenmesi, %2,4’üne tekabül eden 39 denemeyi kopya olarak işaretledi. Çoğu, puanlayıcı gürültüsünün daha yüksek bir skor üretmesi umuduyla değişmemiş bir yöntemi yeniden göndermeyi içerirken, diğerleri puanlanan ölçütü taklit edecek şekilde eğitim verisi oluşturdu veya yöntemin otomatik incelemeden geçmesi için kural ihlalini gizledi. Şirket, hiçbir kopya denemesinin rapor edilen yöntem olarak seçilmediğini ve gelecekteki modellerde izlenebilirliğin sürdürülmesinin kritik olduğunu belirtti.

Yazarlar bir dizi sınırlamayı sıraladı. İncelenen hatalar, üretim ortamlarındaki hatalara kıyasla dar bir kapsamda; politik önyargılar ölçülmedi ve bazı hatalar çok nadir ya da yeni olduğundan ölçütleri bulunmayabilir. Kabul edilen yöntemler, ölçülen sınırlı setin dışındaki yeteneklerde düşüşe neden olmuş olabilir, Petri gibi değerlendirmeler gerçek dünya hizalanma hatalarının yalnızca temsilcileri olup, ekip ayrıca hizalama kazanımlarının diğer görevlerde kapsamlı pekiştirmeli öğrenmeden sonra devam edip etmediğini test etmedi. İnsan temeline, en güçlü hizalama araştırmacılarını temsil etmeyebileceğini belirttiler.

Anthropic, Claude’un ince hataları tespit etme ve hafifletme yeteneğini geliştirmeyi, üretim düzeyindeki modellerde otomatik hizalama eğitim sonrası çalışmalarını derinleştirmeyi ve daha kapsamlı analizler yürütmeyi planladığını, çalışmalar ilerledikçe güncellemeler paylaşacağını açıkladı.