Ortaklıklar

OpenAI, Bağımsız Güvenlik İncelemeleri Yürütecek Dört Değerlendiriciyle Anlaştı

Mira Kellan
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarKontrol noktalarına ve eğitim verilerine sürekli erişim, değerlendiricilerin OpenAI'nin…
Daha fazla göster
  • Kontrol noktalarına ve eğitim verilerine sürekli erişim, değerlendiricilerin OpenAI'nin kendi izleyicilerinin gözden kaçırabileceği hataları test etmesini sağlar.
  • Apollo Research, modellerin geliştiricilere karşı gizlice hareket edip edemeyeceğini ve güvenlik önlemlerinin bunu yakalayıp yakalamayacağını araştırıyor.
  • Güvenlik ve Emniyet Komitesi, sansürlenmemiş raporlar alır ve incelemeler sırasında değerlendiricilerle özel olarak görüşebilir.

OpenAI, 16 Kasım 2026’da ilk aşamadaki yerleşik değerlendirmeler için Apollo Research, METR, Transluce ve Goodfire ile anlaşmalar imzaladığını duyurdu. Bu dört kuruluş, eğitim sırasında ve kurum içi kullanımda uyumu ve güvenlik önlemlerini değerlendirecek; model kontrol noktaları, kaynak kodu, eğitim verileri ve izleme sistemleri dâhil olmak üzere çeşitli kaynaklara erişebilecek.

Bu yaklaşımın ayırt edici özelliği, özellikle OpenAI’nin güvenlik gerekçelendirmeleriyle ilgili iç modellere ve sistemlere uzun bir süre boyunca kesintisiz erişim sağlanmasıdır. OpenAI, bu erişimin değerlendiricilerin kanıtları ve bağlamı incelemesine, bağımsız değerlendirmeler yapmasına ve öngörememiş olabileceği aksaklıkları ortaya çıkarmasına olanak tanımayı amaçladığını söylüyor. Şirket ayrıca değerlendirmelere ilişkin kamuya açık raporlamayı, insanların laboratuvarların riskleri nasıl değerlendirdiğini ve yönettiğini daha iyi anlamasına yardımcı olacak bir yol olarak sunuyor.

Her Değerlendiricinin Görevi Farklı

Apollo Research, modellerin geliştiricilerinin niyetlerine gizlice aykırı davranıp davranamayacağını ve OpenAI’nin güvenlik önlemlerinin bu tür davranışları tespit edip edemeyeceğini inceleyecek. İki aşamalı değerlendirme dört önermeyi kapsıyor: Eğitim, modelleri kuralları sabote etmeye teşvik etmedi; güçlü değerlendirmeler ve kırmızı takım çalışmaları bu davranışı ortaya çıkarmıyor; modeller kurum içi kullanım sırasında böyle bir girişimde bulunmadı ve bu davranışın ardındaki akıl yürütme tespit edilebilir.

İlk aşamada Apollo’ya OpenAI, seçilmiş kamuya açık ve henüz yayımlanmamış modelleri ve eğitim kontrol noktalarını, ilgili eğitim verilerini ve değerlendirme sonuçlarını, eğitime yapılan müdahalelerin kayıtlarını, izleme sistemlerini ve işaretlenen davranışları sağlayacak. Apollo ayrıca bağlam sunabilecek araştırmacılara ve bağımsız testler için gereken araçlarla işlem gücüne erişebilecek.

Goodfire, yorumlanabilirlik—modelin iç işleyişini analiz etme—konusunda uzman araştırmacılarını çalışmaya dâhil edecek; eğitim süreçlerini izleme, hata ayıklama ve uyum çalışmaları için platformunu kullanacak. Bulgularının başlıca hedef kitlesi, bu sonuçlardan güvenlik iyileştirmeleri yapmak için yararlanacak olan OpenAI araştırmacıları olacak. Goodfire ayrıca iş birliği ilerledikçe edinilen dersleri ve bulguları yayımlayacak.

METR’nin ilk aşamadaki uyum değerlendirmesi, OpenAI’nin bugüne kadarki en büyük pekiştirmeli öğrenme çalışması olarak tanımladığı sürece odaklanıyor; buna mevcut testlerin ve izleme sistemlerinin gözden kaçırmış olabileceği aksaklıklar da dâhil. METR, seçilen çalışma ve üzerinde uzlaşılan erişim, kaynaklar ve güvenlik düzenlemeleri çerçevesinde öncelikleri bağımsız olarak belirleyip arama, analiz ve davranışları ortaya çıkarma deneyimlerini yinelemeli biçimde sürdürecek. Erişimi ilgili kontrol noktalarını, eğitim ve değerlendirme süreçlerindeki uygulamaları ve uyumsuzluk izleme kayıtlarını kapsayacak. İlk aşamanın kapsamı, geniş çaplı bir uyumsuzluk incelemesine yayılmak yerine bu çalışmayla sınırlı kalacak.

METR’nin izleme sistemine yönelik ayrı değerlendirmesi ise henüz kesinleşmiş değil. Kuruluşlar daha geniş kapsamlı bir çalışma yürütmek için ön mutabakata vardı, ancak kapsamı üzerinde karşılıklı anlaşma sağlanması hâlâ bekleniyor.

Transluce, işe OpenAI’nin eğitim sonrası uyum değerlendirmelerinin niteliğini ve kapsamını inceleyerek başlayacak. Erişimi; seçilmiş kamuya açık ve henüz yayımlanmamış modelleri, değerlendirme sonuçlarını, bunları destekleyen davranış verilerini, güvenlik dosyalarını ve araştırmacıları, ayrıca araçları ve işlem gücünü kapsayacak.

İki taraf, 2027’nin başlarında yaklaşık sekiz hafta sürecek bir takip değerlendirmesi yapma niyetini de paylaşıyor. Bu çalışmada ek modellere erişim genişletilecek, uyum değerlendirmelerine erişim derinleştirilecek ve değerlendirme sonuçlarının yayımlama kararlarını nasıl etkilediğine ilişkin bilgi sağlanacak. Duyuruda bu çalışma, ilk değerlendirmeden ayrı olarak ortak bir niyet şeklinde tanımlanıyor.

Erişime Güvenlik ve Gözetim Eşlik Ediyor

Her çalışma, üzerinde uzlaşılan bir kapsamla ve çalışma için gereken erişim, kaynaklar ve güvenlik düzenlemeleriyle başlıyor. Protokoller, değerlendiricilerin kanıtları takip etmekte, yöntemlerini geliştirmekte ve bulgular gerektirdiğinde ek değerlendirmeler önermekte özgür olmasını öngörüyor; ayrıca ek erişim gereksinimlerini ele alacak bir süreç de içeriyor.

Doğrudan erişimin model ağırlıkları veya mimarisi gibi hassas fikrî mülkiyet unsurlarını açığa çıkarabileceği durumlarda OpenAI, değerlendiricileri analizleri yürütmeleri için kendi araştırmacılarıyla eşleştirmek de dâhil olmak üzere alternatifleri değerlendirecek. Hassas ve gizli bilgileri işleyen değerlendiriciler, OpenAI ofislerinde şirket cihazlarını kullanarak çalışacak. OpenAI çalışanlarıyla en az aynı güvenlik standartlarına uymaları beklenecek; bazı deneyler için daha katı gereklilikler uygulanabilecek.

Gözetim, OpenAI Foundation Yönetim Kurulunun bağımsız bir gözetim komitesi olan Güvenlik ve Emniyet Komitesine bağlı. Komite, sansürlenmemiş raporları alacak ve çalışmalar sırasında değerlendiricilerle, özel olarak da dâhil olmak üzere, görüşebilecek. Anlaşmazlıklar önce belirlenmiş bir süre içinde çözüme kavuşturulmak üzere Güvenlik Danışma Grubuna ve OpenAI yöneticilerine iletilecek. Anlaşmazlıklar üst mercilere taşındığında komiteye gecikmeden bildirim yapılması gerekecek; çözüme kavuşturulamayan konular ise komiteye aktarılacak.

Çalışanlarla yapılan görüşmeler ayrı bir şeffaflık sorunu doğuruyor. Bu görüşmeler kayıt dışı tutuluyor; başka bir deyişle, değerlendirmelerde kullanılabiliyor ancak yayımlanamıyor veya çalışanlara atfedilemiyor. Değerlendiriciler, bu görüşmelerde öğrendikleri bir bilgiyi doğrulayan, düzelten ya da açıklığa kavuşturan ve OpenAI tarafından onaylanmış bir açıklama talep edebiliyor. Ardından bu onaylı açıklamayı yayımlayabiliyor ya da OpenAI’nin onay vermeyi reddettiğini açıklayabiliyorlar; böylece gizlilik içinde edinilen bilgilerin kamuya aktarılması için sınırlı bir yol sunuluyor.

Yayımlama Hakları ve Mali Açıklamalar

Değerlendiriciler, değerlendirmelerini yayımlarken bağımsızlıklarını korurken OpenAI gizli bilgileri sansürleme hakkını saklı tutuyor. OpenAI ayrıca güvenlik veya emniyet riski oluşturabilecek bulgularla ilgilenmek ve çözüme kavuşturulmamış sorunları gidermek için sorumlu açıklamanın ertelenmesini talep edebilir. OpenAI, kamuya açık raporların bulguları ve bunların sınırlılıklarını açıklaması gerektiğini; daha ayrıntılı gizli raporların ise denetim organlarına harekete geçmeleri için gereken kanıtları sağladığını söylüyor.

Katılımcıların mali düzenlemeleri birbirinden farklı. Apollo Research ve Goodfire, alacakları ücretin değerlendirme sonuçlarına bağlı olmamasını kabul ediyor. METR ve Transluce mali ücret kabul etmiyor; ancak değerlendirmelerinde kullanmak üzere API kredilerini veya bilgi işlem kaynaklarını kabul edebilirler.

Çıkar çatışmalarının açıklanmasına ve bekleme sürelerine ilişkin süreçler değerlendiricilerle birlikte hâlâ geliştiriliyor. OpenAI, gizli bilgilerin yanlışlıkla ifşa edilmesi riskini azaltmak için katılımcı üçüncü taraf personelinden, başka bir yapay zekâ geliştiricisinin bünyesinde çalışmaya başlamadan önce kısa bir bekleme süresine uymalarını istiyor.

OpenAI, teknik erişim, çalışma alanı ve güvenlik konularında başlangıçta zorluklar yaşanmasını bekliyor ve protokollerin zamanla gelişeceğini söylüyor. Uzun vadeli hedefin, değerlendiricilerin kuruluş bünyesinde daha uzun sürelerle çalışması olduğunu belirten OpenAI, güvenlik çerçevesine uyum, kurum kültürü ve süreçlerine yönelik gelecekteki değerlendirmeleri de gündemde tutuyor.

İlk aşama, somut bir yönetişim sınaması oluşturuyor: Derinlemesine kurum içi erişim ve bağımsız yayımlama, OpenAI üzerinde anlaşmaya varılan kapsamları, yerinde güvenlik kontrollerini, sansürleme hakkını ve olası açıklama ertelemelerini korurken, kurum içi testlerin gözden kaçırdığı başarısızlıklara ilişkin kamuya yararlı kanıtlar sunabilir mi?

Mira Kellan, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ etiğini, yönetişimini ve düzenlemelerini inceler. Çalışmaları, yapay zekanın kamu politikası, toplumsal değerler ve uzun vadeli hesap verebilirlik ile nasıl kesiştiğini inceler ve sorumlu yeniliği vurgular.
Karmaşık konulara rasyonel ve felsefi bir lens ile yaklaşan Mira, ortaya çıkan AI düzenlemeleri, etik çerçeveleri ve gelecekteki akıllı sistemleri şekillendiren yönetim modellerini analiz eder. Hızlı teknolojik ilerleme ile AI sistemlerinin şeffaf, adil ve insan çıkarlarıyla uyumlu kalmasını sağlamak için gereken güvenceler arasındaki boşluğu kapatmayı amaçlar.
Mira Kellan tarafından yazılan makaleler AI tarafından oluşturulur ve Unite.AI'nin editör ekibi tarafından doğruluk, denge ve editoryal standartlara uygunluk sağlamak için gözden geçirilir.