Ortaklıklar

Apollo Research, OpenAI’nin Sabotaj Pilotuna Altı Değerlendirici Yerleştirecek

Mira Kellan
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarOpenAI, güvenlik veya fikri mülkiyet nedeniyle kapsam dahilindeki materyali…
Daha fazla göster
  • OpenAI, güvenlik veya fikri mülkiyet nedeniyle kapsam dahilindeki materyali saklayabilir, ancak elverişsiz olduğu için değil.
  • OpenAI, Apollo'nun bulgularının arkasındaki hassas kanıtları gizleyebilirken Apollo'nun kararlarını olduğu gibi bırakabilir.
  • Apollo, açıklanmayan kısıtlamaların mevcut olmayan sorunları güven verici gösterebildiği için meta-şeffaflık haklarının temel olduğunu savunuyor.

Apollo Research, 16 Kasım 2026’da, altı değerlendiricisinin dört ay boyunca OpenAI bünyesinde çalışarak modellerin eğitim, değerlendirme ve kurum içi kullanım sırasında hizalama ya da kontrol mekanizmalarını boşa çıkarmaya çalışıp çalışmadığını inceleyeceğini duyurdu.

Ekip dört soruyu inceleyecek: Eğitimin sabotajı teşvik edip etmediğini, değerlendirmelerin sabotajı ortaya çıkarıp çıkaramayacağını, kurum içi kullanım sırasında sabotaj yaşanıp yaşanmadığını ve sabotajla ilgili akıl yürütmenin tespit edilip edilemeyeceğini. Kapsam, bir modelin kendi hizalamasını veya kontrollerini ve kendisinden sonra gelen modellerinkileri zayıflatma girişimlerini içeriyor.

Bu düzenleme, dış denetimi Apollo’nun önceki değerlendirme yaklaşımının ötesine taşımayı amaçlıyor. Önceki değerlendirmeler, eğitim sonrası aşamada ve kamuya sunulmadan kısa süre önce yapılıyordu. Apollo, bu zamanlamanın plan kurma gibi hizalamayla uyuşmayan davranışları sınamak veya kurum içi kullanım sırasında kamuya açık olmayan uygulamaları incelemek için yetersiz olduğunu düşünüyor. Kurum bünyesine yerleştirilen değerlendiricilerin, çalışanlarınkine benzer erişim olanaklarıyla çalışması bu sınırlamaları aşmayı hedefliyor.

Apollo, bu pilotu tam kapsamlı bir kurum içi değerlendirmeden ziyade iddialı bir ilk adım olarak nitelendiriyor. Apollo’nun genel standardı; geliştirici aleyhte bilgileri gizlemeye çalışsa bile ilgili tüm kayıtlara erişilmesini, geliştirici itiraz etse bile bulguların uygun bir dış kitleyle paylaşılmasını ve okuyucuların bir raporun neleri ortaya koyup neleri koyamayacağını anlayabilmesi için sınırlamaların yeterince açıklanmasını gerektiriyor.

Kapsamı Belirlenmiş Erişim ve Personelle İletişim

Eğitim teşvikleri değerlendirmesi için OpenAI; ilgili eğitim kodlarını ve veri kümelerini, mevcut akıl yürütme izlerini ve ödülleri içeren pekiştirmeli öğrenme süreçlerinin çıktılarını ve ara model kontrol noktalarını sorgulama olanağını sağlamayı taahhüt etti. Diğer değerlendirme iddialarına ilişkin ayrıntılı erişim düzenlemeleri henüz karara bağlanmadı.

Değerlendirme, üzerinde uzlaşılan iddialar, modeller ve zaman aralıklarıyla sınırlı. OpenAI; teknik açıdan uygulanamazlık, güvenlik riskleri veya fikrî mülkiyetin korunması nedeniyle makul ölçüde gerekli gördüğü durumlarda kapsam dahilindeki unsurları paylaşmayabilir. Ancak sırf bilgiler aleyhte olduğu için bunları paylaşmaktan veya personele erişim sağlamaktan kaçınamaz. OpenAI, paylaşılmayan unsurlar bulunduğunu Apollo’ya bildirmeli ve yazılı gerekçe sunmalı; ayrıca uygulanabilir ve ilgili gördüğü durumlarda, paylaşılmayan kayıtları kategorilerine ve yaklaşık hacimlerine göre belirtmelidir. Apollo, belirlenmiş bir OpenAI irtibat kişisi aracılığıyla daha geniş erişim talep edebilir ve ret kararlarını üst makamlara taşıyabilir; ancak erişimin genişletilmesi garanti değildir.

Personelle iletişim de kontrol altında tutuluyor. Apollo, belirli uzmanlıklara sahip kişileri talep edebilir ve isim önerebilir; ancak yetkili katılımcıları OpenAI seçer ve resmî görüşmeler kayıt altına alınmalıdır. Başka bir çalışan gizli bilgi paylaşırsa Apollo, bu bilgi çalışma kapsamına girse bile, konuyla ilgili görüşmeyi durdurmalı ve devamındaki iletişimi belirlenmiş OpenAI irtibat kişisi üzerinden yürütmelidir.

Değerlendiriciler, izlenebilen ayrı iletişim kanalları kullanarak OpenAI donanımında çalışacak. Varsayılan olarak Slack gibi genel personel kanallarına erişimleri olmayacak. Apollo, gayriresmî görüşmelerin ve Slack’in, değerlendiricinin talep etmemiş olabileceği ilgili bilgileri ortaya çıkarabileceğini belirtiyor ve bu tür bilgilerin gelecekteki değerlendirmelerin kapsamına alınmasını istiyor.

Kamuya Açık Raporlar ve Sansürleme Hakları

Apollo, kamuya açık iki rapor yayımlamayı planlıyor. İlk rapor, sabotaja yönelik eğitim teşviklerini ele alacak; ikincisi ise değerlendirmeleri, kurum içi kullanımı ve sabotaj içeren akıl yürütmenin tespit edilebilirliğini inceleyecek. Her raporda yöntemler, sonuçlar, sınırlamalar, değerlendirilemeyen sorular ve yayımlanabilecek destekleyici kanıtlar açıklanacak.

OpenAI raporları inceleyecek ve bulguları destekleyen kanıtlar dahil olmak üzere gizli bilgilerin sansürlenmesini talep edebilecek. Apollo’nun vardığı sonuçları sansürleyemez veya yalnızca bir bulgu aleyhte olduğu için sansür talep edemez. Ancak bir bulguya doğrudan katkıda bulunsun ya da bulunmasın, hassas fikrî mülkiyet olarak değerlendirdiği kanıtları sansürleyebilir. Bu nedenle kamuoyu, bir sonucun dayandığı kanıtların tümünü inceleyemeyebilir; ancak Apollo, sansürlemelerin sonuçlarını etkileyip etkilemediğini belirtebilir. OpenAI, sansürlenmemiş raporları yönetim kurulunun Emniyet ve Güvenlik Komitesi ile paylaşacak.

Çalışanlarla yapılan görüşmelere dayanan iddialar, Apollo bunları bağımsız olarak doğrulamadığı sürece OpenAI’nin resmî teyidini gerektiriyor. Bu gereklilik, yetkili personelin resmî görüşmelerde verdiği bilgileri de kapsıyor. Teyit verilmezse Apollo, bunun reddedildiğini açıklayabilir ve gizli bilgilerin özünü açığa çıkarmadan, bu durumun sonuçlarını nasıl etkilediğini anlatabilir.

Meta Şeffaflık Kuralları

Ayrı meta şeffaflık hakları, Apollo’nun çalışmanın kapsamını ve koşullarını; talep ettiği ve aldığı erişimi; paylaşılmayan veya geciktirilen materyalleri ve belirtilen gerekçeleri; raporlardan çıkarılması istenen bölümleri ve bunların önemini; ayrıca çalışmasını etkilediğine inandığı her türlü baskıyı kamuoyuna açıklamasına olanak tanıyor. Apollo, erişim ve yayın koşullarını OpenAI’nin ön incelemesine sunmadan tartışabilir.

Apollo, bu hakları her değerlendirme çalışması için asgari standart olarak görüyor. Bu haklar olmadan, bildirilen herhangi bir sorun bulunmaması, bunun araştırma veya açıklama üzerindeki kısıtlamalardan kaynaklandığı durumlarda bile güven verici görünebilir. Bu nedenle pilot çalışmanın sonuçları, erişim ve yayımlama sınırlarına ilişkin açıklamasıyla birlikte değerlendirilmelidir: değerlendiricilerin neleri inceleyip açıklayabildiğine bağlı olarak aynı kararın ağırlığı değişebilir.

Mira Kellan, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ etiğini, yönetişimini ve düzenlemelerini inceler. Çalışmaları, yapay zekanın kamu politikası, toplumsal değerler ve uzun vadeli hesap verebilirlik ile nasıl kesiştiğini inceler ve sorumlu yeniliği vurgular.
Karmaşık konulara rasyonel ve felsefi bir lens ile yaklaşan Mira, ortaya çıkan AI düzenlemeleri, etik çerçeveleri ve gelecekteki akıllı sistemleri şekillendiren yönetim modellerini analiz eder. Hızlı teknolojik ilerleme ile AI sistemlerinin şeffaf, adil ve insan çıkarlarıyla uyumlu kalmasını sağlamak için gereken güvenceler arasındaki boşluğu kapatmayı amaçlar.
Mira Kellan tarafından yazılan makaleler AI tarafından oluşturulur ve Unite.AI'nin editör ekibi tarafından doğruluk, denge ve editoryal standartlara uygunluk sağlamak için gözden geçirilir.