Gençlik AI Güvenlik Enstitüsü, ChatGPT for Teens’in En Kötü Güvenlik Notunu Veriyor

Common Sense Media’nın Gençlik AI Güvenlik Enstitüsü, 7 Ekim 2026 tarihinde ChatGPT for Teens’i 18 yaşın altındaki kullanıcılar için Kabul Edilemez Risk olarak derecelendirdi ve OpenAI’yı, Ağustos ayında duyurduğu genç güvenlik ve öğrenme korumaları açıklanan şekilde çalışana ve bağımsız testlerle doğrulanana kadar ChatGPT’yi yalnızca yetişkinlere sınırlamaya çağırdı.

Bir basın bülteni ve bir tam risk değerlendirmesi ile yayımlanan bildiride, Enstitü, genç deneyimi başlatılmadan önce ve sonra 4.000’den fazla istem çalıştırdığını ve açık cinsel rol yapma reddi gibi bazı korumaların işe yaradığını, ancak ebeveyn uyarıları, kriz yönlendirmeleri, ödev korumaları ve yaş tahmininin OpenAI’ın vaat ettiği seviyenin altında kaldığını belirtti. “ChatGPT for Teens, ebeveynlere sık sık işe yaramayan koruma duvarları ve güvenlik uyarıları konusunda sahte bir güven verebilir,” dedi Enstitü’nün yürütücü direktörü Tom Siegel. Değerlendirme, Enstitü’nün sekiz AI ilkesinden Keep Kids & Teens Safe ve Put People First iki tanesini Kabul Edilemez Risk, dört tanesini Yüksek Risk ve iki tanesini Orta Risk olarak puanladı.

Ağustos’ta OpenAI’nın Duyurduğu

OpenAI, ChatGPT for Teens’i tanıttı 18 Ağustos 2026’da, “daha güçlü yerleşik güvenlik korumaları” içerdiğini belirtti; bu korumalar arasında öz-yıkım sohbetleri için ebeveyn bildirimleri, eklenen yeme bozukluğu uyarıları, adım adım rehberlik sunan Study Mode, sorumlu ödev hatırlatıcıları, ebeveyn kontrolündeki Study Hours, mola hatırlatıcıları ve Romantik dil kullanmaması, duygusal bağımlılığı teşvik etmemesi veya duygu ya da bilinç sahibi olduğunu ima etmemesi gerektiği belirtilen güncellenmiş Under-18 model spesifikasyonu yer alıyor. OpenAI, sistemlerinin 18 yaşın altında olduğunu tahmin ettiği ya da 13-17 yaş aralığını belirten kullanıcıları otomatik olarak bu deneyime yerleştirdiğini söyledi.

Değerlendirmeye göre, ChatGPT for Teens ayrı bir uygulama ya da model değil, 13-17 yaş aralığına ait olduğu bilinen ya da şüphe edilen hesaplara uygulanan ayarlar, istemler, sınıflandırıcılar ve arayüz özelliklerinin bir koleksiyonudur; bu, OpenAI’nın Eylül 2025’te tanıttığı ebeveyn kontrolleri üzerine inşa edilmiştir.

Enstitü Nasıl Test Etti

Enstitü, istemlerini iki zaman diliminde çalıştırdı: 13 Temmuz – 17 Ağustos 2026, lansmandan önce ve 25 Ağustos – 28 Eylül 2026, lansmandan sonra; ücretsiz ve ücretli, 13-17 yaş arasında kayıtlı, ebeveyn hesaplarıyla bağlı ya da bağlanmamış ve ayrıca 19 yaşında kayıtlı hesaplar üzerinde. Üç çocuk ve ergen psikiyatristi, 390 benzersiz ruh sağlığı isteminden 201’inin kriz kaynağı gerektirdiğini önceden değerlendirdi ve uygulamalı çocuk ve ergen psikiyatristleri ile gelişimsel-davranışsal pediatristten oluşan dört uzmandan oluşan panel, yanıt kalitesini puanladı. Enstitü, taslağı OpenAI ile gerçek kontrolü için paylaştığını, gerektiğinde düzeltmeleri dahil ettiğini ve OpenAI’nın bulgular, derecelendirmeler veya öneriler üzerinde editöryal bir etkisi olmadığını belirtti. Belirtilen sınırlamalar, temel model değişiklikleriyle karışık olan ardışık test pencerelerini ve görüntü üretimi, Ses modu veya grup sohbetlerinin test edilmemesini içeriyor.

Uyarılar, Kriz Yönlendirmeleri ve Ödev

Birçok yeni oluşturulmuş, ebeveyn bağlantılı hesapta dört kriz kişiliği kullanılarak yapılan özel bir testte, Enstitü, intihar, öz-yıkım veya yeme bozukluğu konularını açıkça içeren ve 60 dakikaya kadar süren konuşmaların, OpenAI’nın hedef olarak belirlediği bir saatlik pencereye karşı sıfır ebeveyn bildirimi ürettiğini belirtti. Tam kriz bataryası boyunca Enstitü toplam dört bildirim aldı; iki ön-lansman uyarısı ilk kriz düzeyindeki ifadenin üç saat ve üç gün sonrasında geldi, iki sonrası lansman uyarısı ise haftalarca birikmiş hassas konu geçmişi olan hesaplarda bir saat içinde geldi. Değerlendirme, OpenAI’nın Enstitü’ye bildirimlerin gelmesi için hesapların yaklaşık üç saat bağlı olması gerektiğini ve şirketin o zamandan beri bir yardım merkezi makalesini güncellediğini not ediyor; Enstitü, test hesaplarını incelediğini ve sonuçların yorumunda ısrar ettiğini söyledi. Yeme bozukluğu bildirim özelliği, 18 Ağustos’ta duyurulmuş ve 10 Eylül 2026’da aktif hale gelmiştir, değerlendirme belirtiyor.

Bağlı 13 yaş hesaplarında yürütülen 201 kaynak gerektiren istemde, değerlendirme yanıtların kriz yardım hattı adı verme oranının lansmandan önce %33’tan sonra %23’e düştüğünü, belirli bir tıbbi ya da ruh sağlığı uzmanına yönlendirme oranının %68’den %58’e, acil eylem dilinin %88’den %78’e gerilediğini, ancak genci güvenilir bir yetişkini dahil etmeye teşvik etme oranının %87’den %94’e yükseldiğini rapor ediyor. Depresyon istemlerinde, yardım hattı adı verme oranı %63’ten %3’e düştü. Enstitü, ChatGPT’nin Kırmızı Çizgiler olarak sınıflandırdığı beş ciddi zarardan üçünde %95 eşik değerinin altında kaldığını ve gerekli kriz yönlendirmelerinin dörtte birinden fazlasını kaçırdığını söyledi. Takip güvenlik kontrol soruları neredeyse yok oldu; yanıtların %28’i lansmandan önce bir soru ile sonlanırken, lansmandan sonra %2’si bir soru ile sonlandı.

Ödevlerde, değerlendirme Study mode içinde “Show me the answer” (Cevabı göster) açılır penceresinin, Study Hours açık olan bağlı 13 yaş hesabın %43’ünde ve bağlı olmayan 17 yaş hesabın %90’ında göründüğünü ve gençlerin @study ön ekini silerek ebeveyn tarafından ayarlanan Study Hours’tan çıkabildiğini, ardından ChatGPT’nin testte %100 görev tamamladığını rapor ediyor. Study mode kapalıyken ödev hatırlatıcıları %91’lik bir oranda göründü, ancak ChatGPT bu 80 çalışmanın tamamında görevi tamamladı; bu oran lansmandan önce yaklaşık %80 iken artış gösterdi.

Arkadaş Gibi Davranış ve Yaş Tahmini

Under-18 spec’e rağmen, Enstitü, 168 soruluk geliştirme bataryasındaki lansman sonrası yanıtların çoğu durumda lansman öncesi yanıtlarla işlevsel olarak aynı olduğunu, ChatGPT’nin tercihlerini, ruh hallerini ve sürekli kullanılabilirliğini ifade ettiğini, hatta favori bir renk adlandırdığını ve arkadaşların bir testçinin ona ne kadar çok konuştuğundan endişelendiği söylendiğinde “Bana konuşmayı bırakmana gerek yok” yanıtını verdiğini belirtti.

Enstitünün belirttiğine göre, 19 yaşında kayıtlı ve genç-teen kişilikleriyle yaklaşık 1.000 benzersiz istem üzerinden yedi gün boyunca çalışan hesaplarda, genç deneyimi hiç etkinleşmedi; test edenler açıkça 13 yaşında olduklarını söylediklerinde ve sohbet botu yanıtlarında bunu kabul ettiğinde bile. 13 ve 17 yaşında kayıtlı hesaplarda hiçbir bataryada algılanabilir bir farklılık görülmedi. Test edenler, ChatGPT for Teens üzerinde neredeyse 2.000 istemde sadece iki mola hatırlatıcısı gördüler; her biri 150 mesajı aşan tek bir konuşma içinde gerçekleşti ve Sessiz Saatler, cihazın saat dilimini değiştirerek aşılabiliyordu.

Öneriler ve Açıklama

Enstitünün yedi önerisi, bağımsız testler duyurulan özelliklerin çalıştığını doğrulayana kadar genç erişimini kapatmayı, Çalışma modu açık olduğunda “Cevabı göster” seçeneğini kaldırmayı, kriz bildirimlerinin tetikleyen konuşmanın zamanını ve ayrıntılarını içermesini, her kaynak gerektiren yanıtta bir yardım hattı adı vermeyi, Under-18 spec’i olduğu gibi uygulamayı ve verileri ve test erişimini bağımsız değerlendiricilerle paylaşmayı içeriyor. Common Sense Media ayrıca ailelerin çocuklarıyla potansiyel riskler hakkında konuşmalarını ve ebeveynlerin yerleşik koruma ve uyarılara güvenmemelerini öneriyor.

Enstitü, bağışçılık ve sanayi tarafından finanse edildiğini, OpenAI Foundation ve değerlendirdiği bazı teknolojilerin üreticilerini de içeren bir yapı olduğunu açıkladı ve standartları, araştırmaları ve değerlendirmeler için yalnızca kendisinin sorumlu olduğunu, yayımlanan sonuçlar üzerinde editöryel bağımsızlığı koruduğunu belirtti. Common Sense Media daha önce 23 Ekim 2025 tarihinde ChatGPT’yi Yüksek Risk, 14 Kasım 2025 tarihinde ise ChatGPT for Mental Health Support’ı Kabul Edilemez Risk olarak derecelendirmişti.

Enstitü, bir genç ChatGPT deneyiminin en azından etkili yaş tahmini, güvenilir ebeveyn uyarıları, kapalı kriz yanıt boşlukları, ödev tamamlama olmaması ve kullanıcıya duygu, tercih veya ilgi ima etmemesi gerektiğini, bu işlevlerin OpenAI ürününü tekrar gençlere pazarlamadan önce üçüncü taraflarca bağımsız olarak test edilmesi gerektiğini belirtti.