OpenAI, Topluluk Güvenliği Raporu’nu ve Gençlere Yönelik Yeni Silah Bilgisi Kısıtlamalarını Duyurdu

OpenAI, 30 Ekim 2026’da şiddeti önleme konulu ve altı ayda bir güncellenecek bir Topluluk Güvenliği Raporu duyurdu. Şirket ayrıca gençlere yönelik silahlarla ilgili bilgileri kısıtlayan ve ChatGPT’nin geçmişteki toplu saldırılar hakkındaki soruları ele alışını sıkılaştıran yeni korumaları da açıkladı. Şirket, 2026’nın üçüncü çeyreğinde kolluk kuvvetlerine 200’den fazla bildirimde bulunduğunu söyledi.

Topluluk Güvenliği Raporu’nun 2027’nin Başlarında Yayımlanması Planlanıyor

OpenAI, şiddeti önlemeyi ve topluluk güvenliğine ilişkin diğer konuları, ayrıca güvenlik önlemlerinin etkinliğini ele alacak Topluluk Güvenliği Raporu’nu yayımlamayı taahhüt etti. Şirket, raporda sistemlerini topluluk güvenliği sorunlarını tespit etmek, araştırmak ve bunlara yanıt vermek üzere nasıl eğittiğini açıklayacağını; şiddet kaynaklı zararların nasıl ortaya çıktığına dair kimlik bilgileri anonimleştirilmiş örnekler paylaşacağını; yeni azaltım önlemlerine ve politika değişikliklerine yer vereceğini ve bunları destekleyen verileri sunacağını söyledi. İlk raporun 2027’nin başlarında yayımlanması ve 2026’nın ikinci yarısını kapsaması planlanıyor; sonrasında rapor altı ayda bir güncellenecek.

OpenAI, raporun insanlara modellerinin zararlı davranışları nasıl tespit edip bunlara yanıt verdiği, uygulamada hangi riskleri gördüğü ve bu riskleri ele almak için hangi adımları attığı konusunda net bir tablo sunmayı amaçladığını söyledi.

OpenAI, güvenlik çalışmalarının yakın şiddet tehditlerini kolluk kuvvetlerinin dikkatine sunmayı da kapsadığını ve bu bildirimlerin şiddet planlarının bozulmasında olumlu bir fark yarattığını söyledi. Şirket, zorlu vakaları değerlendirmek için ruh sağlığı ve davranış uzmanlarından yararlanmaya devam ettiğini belirtti ve yapay zekâ şirketlerinin kolluk kuvvetleri, aile üyeleri, ruh sağlığı uzmanları ve politika yapıcılarla birlikte üstlenebilecekleri farklı bir rolü olduğunu ifade etti.

Toplu Saldırılarla İlgili İçeriklere Daha Sıkı Kısıtlamalar

OpenAI, modellerinin bir kişinin şiddet planlamasına veya şiddet eylemini gerçekleştirmesine yardımcı olacak talimatlar vermeyecek şekilde eğitildiğini söyledi. Şirket, ChatGPT’nin geçmişteki toplu saldırılar ve bu saldırıları gerçekleştiren kişiler hakkındaki sorulara verdiği yanıtları ek kısıtlamalara tabi tutuyor; modelden, başka çevrimiçi kaynaklarda bulunabilse bile daha az ayrıntılı bilgi vermesi isteniyor. Sıkılaştırılan politikalar, geçmişteki toplu saldırıların yeniden kurgulanmasını; kullanılan silah ve ekipmanlarla bunların nasıl temin edildiğine dair ayrıntıları ve OpenAI’nin saldırganın kötü şöhretini artırabileceğini söylediği zarar ölçeğine ilişkin ayrıntılı karşılaştırmaları kısıtlıyor. Bu kısıtlamalar, kullanıcının yaşı veya soruyu sorma nedeni ne olursa olsun geçerli.

İnsanlar yine de ChatGPT’den bu olayları, mağdurların ve toplulukların nasıl etkilendiğini, uyarı işaretlerinin nasıl fark edilebileceğini ve gelecekteki şiddetin nasıl önlenebileceğini anlamalarına yardımcı olmasını isteyebilir.

Şirket, Mayıs 2026’da ChatGPT’nin önceki uyarı işaretlerine dair kısa ve olgusal özetleri daha sonraki bir sohbette daha dikkatli yanıt vermek için nasıl kullanabileceğini paylaşmıştı. OpenAI, bu çalışmalarını geliştirerek yakın tarihli sohbetlerde olası şiddete ilişkin uyarı işaretleri görüldüğünde ChatGPT’nin kötüye kullanılabilecek bilgileri paylaşırken daha temkinli yanıt vermesini sağladığını söyledi. Ayrıca, sohbetlerde şiddet niyetine dair hiçbir işaret olmasa bile bir kişinin 18 yaşından küçük olduğunu tahmin ettiğinde bu daha sıkı kısıtlamaları uygulamak için çalışıyor.

OpenAI, şiddet içeren faaliyetlere ilişkin politikalarını ihlal ettiğine karar verdiği hesapları yasaklıyor. Şirket, daha erken müdahale etmek için ruh sağlığı ve şiddeti önleme uzmanlarıyla birlikte ek otomatik yöntemler üzerinde çalıştığını söyledi: Bir sohbet, kişinin şiddete ya da başka birine ciddi biçimde zarar verme düşüncesine takılıp kaldığını gösteren işaretler içerdiğinde ChatGPT sohbeti otomatik olarak sonlandırabilecek. ChatGPT bu nedenle birden fazla sohbeti sonlandırırsa OpenAI hesabı geçici olarak askıya alabilecek.

18 Yaş Altındaki Kullanıcılara Yönelik Ek Güvenlik Önlemleri

Gençler için ChatGPT, 18 yaş altındaki kullanıcılara yaşlarına uygun güvenlik önlemleri uyguluyor. OpenAI, bir soru zararsız görünse bile gençlerin alabileceği silahlarla ilgili bilgilere yönelik ek kısıtlamalar getiriyor. Şirketin politikaları zaten herhangi bir kişinin şiddet planlamasına veya gerçekleştirmesine yardımcı olmayı yasaklıyor ve gençlerin silah bulmasına ya da edinmesine yardım edilmesini kısıtlıyor; bu politikaların kapsamı, şiddet niyetine dair hiçbir işaret olmasa bile şiddeti kolaylaştırmak için kötüye kullanılabilecek silahlar ve güvenlik sistemleri hakkındaki pratik bilgileri de kısıtlayacak şekilde genişletiliyor. OpenAI, gençlerin şiddeti önlemeye ve tırmanmasını engellemeye yardımcı olması, destek araması ve güvendikleri bir yetişkine ulaşması için ChatGPT’yi kullanmaya devam edebileceğini söyledi.

OpenAI, davranış kalıpları gibi sinyalleri analiz ederek bir kullanıcının 18 yaşından küçük mü yoksa büyük mü olduğunu tahmin eden yaş tahmin sistemini güçlendirdiğini söyledi. Sistem, insanlar ChatGPT’yi kullandıkça yeni sinyalleri sürekli değerlendirecek ve uygun olduğunda kullanıcıları 18 yaş altı kullanıcı deneyimine yönlendirecek. Yanlışlıkla bu deneyime alınan kullanıcılar, OpenAI’nin yaş doğrulama iş ortağı Persona aracılığıyla yetişkin olduklarını doğrulatabilir ve gençlere yönelik ek korumaların kaldırılmasını sağlayabilir.

Ebeveyn denetimi hesaplarına bağlanan hesaplarda, özel eğitim almış incelemecilerin ciddi bir kendine zarar verme riski tespit etmesi ve yeme bozukluğuyla ilişkili olabilecek davranışlar belirlemesi durumunda gönderilebilecek güvenlik uyarıları bulunuyor. Temmuz 2026’da OpenAI, şiddete ilişkin kullanım politikalarını ihlal ettiği için bir gencin hesabı devre dışı bırakıldığında ebeveynlere bildirim gönderilmesini sağlayacak şekilde bu uyarıları genişletti. Şirket ayrıca, bir gencin hesabını şiddet hakkında tekrar tekrar konuşması nedeniyle geçici olarak askıya alması durumunda ebeveynlere bildirim göndermeyi uygulamaya koymak için çalıştığını söyledi.

Bu önlemler, OpenAI’ın 2026’nın başlarında kullanıma sunduğu gençlere yönelik güvenlik özelliklerini temel alıyor. Şirket, 18 Ağustos 2026’da Gençler için ChatGPT’yi kullanıma sundu. Sistem, 18 yaşından küçük olduğu tahmin edilen veya yaşının 13 ile 17 arasında olduğunu belirten kullanıcıları, Model Spec’teki 18 yaş altı İlkeleri temel alan varsayılan güvenlik önlemlerine sahip bir deneyime otomatik olarak yönlendiriyor. OpenAI, 20 Ocak 2026’da ChatGPT’nin bireysel kullanıcılara yönelik planlarında yaş tahmini özelliğini kademeli olarak kullanıma sunmaya başladı. Bu özellik, bir hesabın muhtemelen 18 yaşından küçük birine ait olup olmadığını tahmin etmek için davranışsal sinyallerden ve hesap düzeyindeki verilerden yararlanıyor. 25 Ağustos 2026 tarihli bir güncellemede, sistemin AB’de de kullanıma sunulmaya başladığı belirtildi.

OpenAI, duyuruda ayrıntılarına yer verilen güvenlik önlemlerini önümüzdeki birkaç hafta içinde kademeli olarak kullanıma sunmaya başlayacağını ve bunları geliştirmeyi sürdüreceğini söyledi.