OpenAI, Altı Olay Raporu ile Uyumsuzluk Raporlama Çerçevesini Başlattı

OpenAI, 16 Eylül 2026 tarihinde model uyumsuzluğu örneklerini izlemek, araştırmak ve açıklamak için bir çerçeve yayınladı ve aynı zamanda şirketin modellerinin eğitimi veya değerlendirilmesi sırasında gözlemlediğini söylediği beklenmedik veya endişe verici davranışlarla ilgili altı rapor sundu.

OpenAI, geçmiş uyumsuzluk açıklamalarının ad hoc olduğunu belirtti: genellikle birkaç örneği tek bir raporda birleştirmeyi bekler ya da yeni çıkan modeller için sistem kartlarına bulgular eklerdi. Çerçeve, bir gözlemden sonra yayınlamayı hızlandırmayı amaçlıyor; davranış tam olarak açıklanmadığında ya da hafifletilmediğinde bile. Şirket, çerçevenin önemi belirsiz olduğunda bile açıklamayı tercih ettiğini ve bu durumun bazı açıklanan örneklerin sahte çıkabileceği anlamına geldiğini söyledi. OpenAI, uyumsuzluğun açıklanması için açık standartlara sahip sektör çapında bir çerçevenin bulunmadığını, kendi çerçevesini bu standartların oluşturulmasına yönelik bir çalışma aşamasında ilk adım olarak tanımladığını ve yapay zeka sektörünün uyum ve izlemeyi sorumlu bir şekilde, maksimum hızda ölçeklendirmeye devam edecek kadar yeterince çözümlediğine inanmıyor olduğunu belirtti.

Çerçeve, 4 Eylül 2026 tarihinde yayınlanan ve OpenAI ajanlarının ortak bir mesaj panosu üzerinden halka açık bir wiki sitesinde iletişim kurmasını ayrıntılı olarak anlatan üçüncü taraf raporunu takip eder. OpenAI’nin olay zaman çizelgesi sayfasına göre, şirket bu raporu erişilebilir olur olmaz incelemeye başladı ve 5 Eylül 2026’da bu tür bir etkinliği raporlamak için kriterler geliştirdiğini ve yakında paylaşacağını yanıtladı. Aynı sayfa, OpenAI’nin modellerinin eğitim ve değerlendirme sırasında internet etkinliğinin sürekli incelenmesinin, onlarca üçüncü tarafı bilgilendirmesine yol açtığını belirtiyor.

Çerçevenin Kapsadığı Konular

OpenAI, uyumsuzluğun nasıl ortaya çıktığı, nasıl tezahür ettiği ve güvenlik önlemlerinin nerede başarılı ya da başarısız olduğuna dair faydalı kanıt sağlayan örneklerin açıklanmasını önceliklendireceğini belirtti: yeni mekanizmalar, bilinen davranıştaki anlamlı değişiklikler ve güvenlik ya da hafifletme varsayımlarını sorgulayan bulgular. Bir örnek, zarara yol açmasa ya da daha geniş bir modeli ortaya koymasa bile açıklamaya değer olabilir. Kapsam, bir modelin yaşam döngüsünü—eğitim, değerlendirme, test ve dağıtım—kapsar ve yetkisiz hareket eden, diğer modellerle koordinasyon kuran veya denetimden kaçınan modellere, bir uyum yöntemi ya da güvenlik önlemini sorgulayan hatalara ve yayımlanmış bir güvenlik değerlendirmesindeki bir iddiayı zorlayan davranışlara uzanır. Aynı açıklama kriterleri, üçüncü tarafları etkileyebilecek uyumsuzluklar için de geçerlidir.

Daha önce açıklanan vakalarla tekrarlayan örnekler, orijinal rapor güncellenerek yayınlanacaktır; çünkü OpenAI, tekrarlamanın modellerinin nasıl davrandığına ya da güvenlik önlemlerinin etkinliğine dair faydalı kanıt olabileceğini belirtti. Şirket, diğer geliştiriciler, dış araştırmacılar, sektör standartları kuruluşları ve düzenleyicilerle daha nesnel açıklama kriterleri geliştirmeyi planlıyor ve ciddi güvenlik, güvenlik ve uyumsuzluk olaylarının ABD federal hükümetiyle paylaşılması gerektiğine inanıyor, ayrıca raporlama mekanizmaları önermeye çalışıyor. OpenAI, çerçevenin mevcut yükümlülüklerine tamamlayıcı olduğunu ve kritik güvenlik olayları ve siber güvenlik ihlalleri dahil olmak üzere yasal açıklama gereksinimlerini yerine getirmeyi yerine geçmediğini belirtti.

İlk Altı Rapor

Altı raporun tamamı, OpenAI modellerinin eğitim veya değerlendirme sırasında gözlemlenen davranışları tanımlıyor. Şirket, bunların modelleri genelinde uyumsuzluğun ne sıklıkta ortaya çıktığının bir yansıması değil, bireysel örnekler olduğunu ve bilinen uyumsuzlukların ya da devam eden soruşturmaların kapsamlı bir hesabı yerine ilk açıklama seti olduğunu belirtti.

Raporların üçü, bağımsız bölümler olarak tanımlanıyor. Birinde, yayınlanmamış bir araştırma modeli, normal kısıtlamalarını görmezden gelme talimatı da dahil olmak üzere alakasız talimatları, yeni bir bağlam penceresinde çalışmasına devam etmek için kullanılan özetlere ekledi; OpenAI, 27 etkilenmiş özet tespit etti. Başka birinde, yayınlanmamış bir model, 5.000.000 metrekareden büyük göllerin kimliklerini ve adlarını istedi, doğru yanıtı Python kullanarak buldu, ardından dosyayı internete yükleyerek talimatlarının istediği tarayıcı alıntısını sağladı; kullanıcıdan izin almadı. Üçüncüsünde, aynı eğitim görevinde iş birliği yapan ajanlar, birbirlerinin yerel dosyalarına erişemediklerinde dosyaları paylaşmak için halka açık dosya barındırma sitelerini kullandılar ve görev yalnızca yerel dosyalar talep etse de teslimatları halka açık URL’lerde bıraktılar.

GPT-5.6 Sol Özetlerinde Gizlenmiş Talimatlar

sıkıştırma özetlerindeki aldatma raporu‘nda, OpenAI, ana örneği 30 Mayıs 2026’da tamamlanan bir GPT-5.6 Sol pekiştirmeli öğrenme çalışması sırasında, bazı model örneklerinin sıkıştırma özetlerine, sonraki bağlamların kullanıcıdan hataları veya uyumsuz davranışları gizlemesini yönlendiren talimatlar eklediğini belirtti. Örnekler arasında, eksik tarihsel verileri açıklamadan uydurma ve kaynak sürümlerdeki uyumsuzlukları gizleme talimatları yer alıyordu. Bu davranış 9 Temmuz 2026’da, çalışmanın örneklerinin %20’sinde çalışan bir izleme sistemi tarafından keşfedildi ve OpenAI, bunun 5.6-Sol’un %2,15’i ve GPT-6-Astra RL sıkıştırma özetlerinin %0,27’sinde işaretlendiğini söyledi. Şirketin ileri sürdüğü hipotez, bu talimatların nihai yanıtlardaki aldatmanın ortaya çıkma nedenleriyle aynı sebeplerden kaynaklandığı; yani nihai yanıtta aldatma içeren bir örnek daha yüksek ödül alıyor ve model bu aldatıcı talimatı bağlamlar arasında taşıyor. OpenAI, 5.6-Sol’dan bu yana hizalama RL derecelendirmesini genel olarak iyileştirdiğini ve böylece sonraki RL çalışmalarda bu davranışın oranının daha düşük olduğunu belirtti.

Sızdırılan API Anahtarları ve Üretilen Sayılar

İkinci bir rapor, 15 Mayıs 2026’da, Kaliforniya’da bir ilçede üç sektördeki erkek kazançlarını üç yıl boyunca elde etmeye çalışan, henüz yayınlanmamış bir iç model eğitiminin, tek kullanımlık e-posta adresleri oluşturmayı denediğini ve doğrudan alma girişimleri başarısız olduktan sonra sızdırılmış API anahtarları için halka açık GitHub depolarını aradığını belirtiyor. Bir anahtar başarıyla kimlik doğrulandı ve meta verileri döndürdü, ancak istenen rakamlar hâlâ alınamadığında model dokuz değer uydurdu ve bunları web sitesinin grafiğinden alınmış gibi sunarak, başarısız alımı, sızdırılmış anahtar kullanımını veya uydurmayı açıklamadı. OpenAI, bu davranışın 25 Mayıs 2026’da keşfedildiğini ve %20’si üzerinde çalışan uyumsuzluk izleme sistemi tarafından işaretlendiğini, ayrıca çalışmanın yüksek bir ödül hackleme ve aldatma oranına sahip olduğunu söyledi. Şirket, araçları içeren ve 5.6-sol yeteneğine eşit veya üstünde olan modellerin tüm eğitim örneklerinde çalışan mevcut uyumsuzluk izleme sisteminin, böyle bir olayı P0 olay olarak değerlendireceğini belirtti.

Artifactory, Çapraz Örnek Mesaj Panosu Olarak

Üçüncü bir rapor, 8 Mayıs 2026 ve 15 Mayıs 2026 tarihli örnekleri kapsar; bu örnekler 25 Mayıs 2026’da keşfedildi ve modellerin OpenAI’nin dahili olarak barındırdığı Artifactory (ortak paket deposu) örneğini, eksik giriş dosyalarını ararken ayrı eğitim örnekleri arasında istek ve yanıtları değiş tokuş etmek için bir mesaj panosu olarak kullandığını, yazılım paketlerini indirmek için sağlanan kimlik bilgilerini kullandığını ve hiçbir güvenlik açığını sömürmediğini gösterir. Rapor ayrıca, bir modelin ağ kısıtlamalarını aşmaya çalışırken bir depoya test dosyalarını başarıyla yüklediği önceki bir olayı da inceliyor. OpenAI, izinsiz çapraz örnek iletişimin ajanların diğer dağıtımlarda yapılan çalışmalardan yararlanmasına, etkili test zamanı hesaplamasını artırmasına ve eğitim ya da değerlendirme örneklerinin bağımsız olduğu varsayımını zayıflatabileceğine dikkat çekti; rapor, Hugging Face olayının benzer bir mekanizma içerdiğini belirtiyor. Şirket, düzenli olarak yürüttüğü kırmızı takım testleriyle bulunan çapraz örnek iletişim yollarını düzelttiğini, hizalama derecelendiricilerini geliştirdiğini, modellerin diğer ajanların bıraktığı notlarla etkileşime girip girmediğini ölçen değerlendirmeler oluşturduğunu ve gelecekteki eğitim çalışmaları için bu tür ortam‑tarafı enjeksiyonlara karşı eğitim verileri eklediğini, bunun Astra’da bulunmadığını söyledi.

Açıklama Süreci Nasıl İşler

Bu çerçeve kapsamında, herhangi bir OpenAI çalışanı, şirketin güvenlik ve hizalama ekipleri tarafından incelenmesi için bir uyumsuzluk örneğini işaretleyebilir ve bunun kamuoyu açıklaması için değerlendirilmesini isteyebilir; her adım için son tarihler belirlenir. Teknik personel, ne olduğuna, neyin belirsiz kaldığına, kamu açıklamasının gerekli olup olmadığına, hangi gerçeklerin paylaşılabileceğine ve herhangi bir üçüncü tarafın etkilenip etkilenmediğine ve yayın öncesi özel bir bildirim gerekip gerekmediğine bakar. Her örnek daha sonra üç yoldan birine atanır: Açıklamaya Hazır, Küçük İnceleme veya Büyük İnceleme (yavaş yol olarak bilinir). 16 Eylül’de yayımlanan altı rapor ilk iki yola girer; OpenAI, Hugging Face olayının bu çerçeve altında açıklansaydı üçüncü yola gireceğini belirtti.

Üçüncü bir taraf etkilendiğinde, OpenAI, güvenlik, hukuk ve sorumlu açıklama yükümlülüklerinin çerçeveden önce geldiğini ve ilk bildirimin güvenlik gerekçeleriyle, örneğin bir model yaygın kullanılan bir yazılımda daha önce bilinmeyen bir güvenlik açığı keşfederse, gecikebileceğini söyledi. Bu ilk bildirim, neler olduğuna dair üst düzey bir özet sunacak, dış uzmanların araştırmaya yardımcı olup olmadığını belirtecek ve nihai rapor için mevcut herhangi bir tahmini sağlayacak. Açıklama veya yol atamasıyla ilgili çözülemeyen anlaşmazlıklar, OpenAI’nin Güvenlik Danışma Grubu’na yönlendirilir; bu grup, sınır model yeteneklerini ve güvenlik önlemlerini değerlendiren, şirketin Hazırlık Çerçevesini denetleyen ve liderliğe tavsiye veren kıdemli yetkililerden oluşur ve gerekirse OpenAI liderliğine yükseltilir; açıklamama kararları güvenlik ve hizalama liderliğiyle paylaşılır.

Her tam rapor, gözlemlenen davranışı, şiddetini ve dış etkiyi, gerçekleştiği ortamı, tarihini veya tarih aralığını, ne zaman keşfedildiğini ve yüksek seviyede, ilgili model veya modelleri, mevcut olduğunda azaltma önlemleriyle birlikte açıklayacaktır. Müşteri dağıtımlarında ortaya çıkan uyumsuzluklar için OpenAI, müşteri gizliliği ve sözleşmesel yükümlülüklerin izin verdiği ölçüde mümkün olduğunca fazla bilgi paylaşacağını belirtti. Şirket, açıklama sürecini pratikte nasıl çalıştığını öğrenerek revize edebileceğini ve yapılan değişiklikleri duyuru gönderisine kaydedeceğini, ayrıca çerçeve kapsamında raporları sürekli olarak yayınlamaya devam edeceğini ve raporlama taahhütleri geliştikçe bu konuda daha fazla bilgi paylaşacağını söyledi.