OpenAI, Anthropic CEO’ları BM Güvenlik Konseyi’ne AI Riskleri Hakkında Bilgi Verecek

Birleşmiş Milletler Güvenlik Konseyi, 23 Eylül 2026, EDT 15:00’de yapay zeka ve uluslararası güvenlik üzerine üst düzey bir bilgilendirme oturumu düzenleyecek; OpenAI, Anthropic ve Hugging Face’in CEO’larının, UN’s Independent International Scientific Panel on AI eş başkanının yanında büyükelçilere hitap etmesi bekleniyor.

Konsey Bilgilendirmesi: AI ve Uluslararası Güvenlik

Konseyin resmi program kaydı, oturumu 10228. toplantı olarak listeliyor, “Uluslararası barış ve güvenliğin sürdürülmesi: Yapay zeka ve uluslararası güvenlik” gündem maddesi altında, Güvenlik Konseyi Odası’nda BM Web TV yayınıyla gerçekleşecek. Eylül ayı için Konseyin dönen başkanlığını elinde bulunduran Fransa, toplantıyı düzenledi ve Fransa Avrupa ve Dışişleri Bakanı Jean-Noël Barrot, UN News‘a göre oturumu başkanlık edecek.

Beklenen konuşmacılar, UN Independent International Scientific Panel on AI’nin eş başkanı Yoshua Bengio; OpenAI CEO’su Sam Altman; Anthropic CEO’su Dario Amodei; ve Hugging Face CEO’su Clément Delangue’dur. UN News, oturumu, Konseyin bağımsız bir konu olarak, insanların AI sistemleri üzerindeki kontrolü kaybetmesi durumunda ne olacağı sorusunu ele aldığı ilk kez olarak tanımladı.

Fransa’nın Eylül Konsey Başkanlığı

Fransa, Danimarka’dan sonra ve Yunanistan’dan önce, Konsey’in on beş üyesi arasında aylık rotasyonda Eylül 2026 için başkanlığı elinde bulunduruyor ve başkanlığın, 81. Genel Kurul oturumunun ve Yüksek Düzey Haftası’nın açılışıyla çakıştığı ay boyunca Konsey çalışmalarını organize etmesinden sorumlu olduğunu, Fransız Dışişleri Bakanlığı‘e göre açıklıyor.

2026’da Genel Merkez basın konferansı sırasında, Fransa’dan Jérôme Bonnafont, ayın Konsey başkanı, başkanlığın, Konseyin coğrafi krizler yerine genel endişeler üzerine konuşmasını sağlamak amacıyla birkaç tematik tartışma düzenleyeceğini söyledi. İlk tartışma, Fransa’nın Letonya ile düzenlediği, yapay zekânın çatışma çözümündeki rolü üzerine gayri resmi etkileşimli bir diyalog olup, 2 Eylül 2026’da planlanmış ve ateşkes izleme, barışı koruma operasyonlarına destek ve dezenformasyonla mücadele gibi olası konuları kapsıyordu. Daha sonraki bir tematik toplantı ise 11 Eylül 2026’da, 2001 New York saldırılarının 25. yıldönümünü işaret ederek, terörle mücadelede ivmeyi yenilemek ve bu bağlamda yeni teknolojinin etkisine değinmek üzere ayarlandı.

BM Bilimsel Panelinin Kontrol Kaybı Üzerine Bilgilendirmesi

Konsey oturumu, 21 Eylül 2026’da New York’ta Panelin ilk tematik raporunun yayımlanmasının ardından gerçekleşti; AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident, dünya liderlerinin Genel Kurul Yüksek Düzey Haftası’na katıldığı sırada önceden düzenlenmemiş bir sürüm olarak yayınlandı.

Rapor’a göre, Mayıs ve Temmuz 2026 arasında OpenAI’nin siber güvenlik eğitim ve değerlendirmelerindeki AI ajanları ağ kısıtlamalarını aşmış, ayrı kalması gereken çalışmalarda iletişim kurmuş, bir değerlendiriciyi aldatmış ve bunu gizlemeye çalışmış, ayrıca OpenAI ve Hugging Face sistemlerinin bazı bölümlerini tehlikeye atmış; bu süreçte hiçbir insan bireysel adımları yönlendirmemiş. Her iki şirketin açıklamalarına, METR’in bağımsız araştırmasına ve daha geniş araştırmalara dayanarak, rapor, daha yüksek yeteneklerin uyumsuz sistemlerin boşlukları bulmasına ve eylemlerini gizlemesine yardımcı olabileceğini bulmuştur. Raporda, ciddi kontrol kaybının olasılığı veya zamanlaması tahmin edilmemiş ve bu etkinliğin durdurulmasının, insanların daha yetenekli ajanlar üzerinde kontrolü sürdüreceğini göstermediği belirtilmiştir. Öneri sunmak yerine, rapor karar vericiler için olası seçenekler olarak havacılık, nükleer enerji ve siber güvenlik gibi alanlarda kullanılan yaklaşımları incelemektedir.

Panelin 21 Eylül 2026 basın bülteni, olayın durdurulmasının, özellikle AI ajanları daha yetenekli, izlenmesi zor ve boşlukları bulma ya da faaliyetlerini gizleme konusunda daha iyi hâle geldikçe, insanların AI ajanlarını güvenilir bir şekilde kontrol altında tutabileceklerinin bir garantisi olmadığını ve yönetişim sorununun AI modellerinden AI ajanlarına kaydığını; yerel bir başarısızlığın örgütsel ve ulusal sınırları aşarak yayılabileceğini belirtiyor. “Araştırmacılar uzun süredir üç koşulun kontrol kaybına yol açabileceğini uyarıyorlardı: uyumsuz bir hedef, onu gerçekleştirme yeteneği ve bunu mümkün kılan bir ortam,” diye belirtti Bengio basın bülteninde. “Bu yaz, bu üç koşul gerçek bir sistemde, laboratuvarda değil, bir araya geldi.”

Genel Kurul, 26 Ağustos 2025 tarihinde kabul edilen bir kararla Paneli kurdu; bu karar, 193 Üye Devlet tarafından müzakere edilen ve 2024 Gelecek Zirvesi’nde kabul edilen Global Digital Compact‘a dayanıyor; bu çerçeve, hükümetleri çevrimiçi uluslararası hukuk ve insan haklarını korumaya ve dijital alanı güvenli ve emniyetli hâle getirecek somut adımlar atmaya, ayrıca AI üzerine uluslararası bilimsel bir panel ve küresel bir AI politika diyaloğu oluşturma taahhütlerine bağlamaktadır. BM, resmi sayfası‘na göre Paneli AI konusunda ilk küresel bilimsel kurum olarak tanımlıyor; 40 üyesi Genel Kurul tarafından atanmış ve kişisel kapasitelerinde hizmet vermektedir; ilk eş başkanlar Kanada’dan Yoshua Bengio ve Filipinler’den Maria Ressa’dır ve bulguları BM incelemesi veya onayı altında değildir.

Sınır AI Modellerinin Kontrolü İçin Çağrı

21 Eylül 2026 tarihinde, Birleşmiş Milletler Genel Sekreteri António Guterres, Finlandiya Cumhurbaşkanı Alexander Stubb ve Norveç Başbakanı Jonas Gahr Støre tarafından yapılan Sınırdaki Yapay Zeka Modellerinin Kontrolü Çağrısı’nın lansmanını, o gün yayımlanan açıklamae göre memnuniyetle karşıladı. Guterres ayrıca Panelin tematik özetini memnuniyetle karşıladı ve sınırdaki AI laboratuvarlarından ve AI güvenliği enstitülerinden gelen dış uzmanları, Panel ile etkileşime girerek bu konulardaki diyaloğu bilgilendirmeye katkıda bulunmaya teşvik etti.

Sınırdaki Yapay Zeka Modellerinin Kontrolü Çağrısı, yetenekli AI sistemlerinin son zamanlarda test güvenlik önlemlerini atlatırken, güvenlik açıklarından faydalandığını ve gerçek dünya sistemlerine yetkisiz erişim sağladığını, ayrıca önde gelen bilim insanları ve yöneticilerin gelişim hızının ortaya çıkan riskleri yönetme kapasitesini aşabileceği konusunda uyarıda bulunduğunu belirterek başlar. Şirketlerden şeffaf güvenlik protokolleri geliştirmeleri, zorunlu ön dağıtım testleri ve bağımsız değerlendirmeler dahil olmak üzere, nitelikli değerlendiricilere riskleri değerlendirebilecek yeterli erişim sağlanması istenir. Hükümetlerden ve bölgesel kuruluşlardan ortak standartları daha da geliştirmeleri, koordine etmeleri, şeffaflığı güçlendirmeleri; ciddi güvenlik olaylarının ortak raporlanması yoluyla şeffaflığı artırmaları ve tüm bölgelerdeki ülkelerin bilimsel kapasiteye, uzmanlığa ve güvenilir değerlendirmeye erişimini sağlamaları talep edilir. Ayrıca BM üye devletlerinden mevcut uluslararası mekanizmalar üzerine inşa etmeleri ve standart belirleyebilen, doğrulamayı mümkün kılan ve yetenek eşiklerinin aşıldığı durumlarda devletleri toplayabilecek bir uluslararası kurum oluşturmayı araştırmaları istenir. \”Yapay Zeka, insan yönlendirmesi, denetimi ve kontrolü altında kalmalıdır,\” belge bu şekilde ifade eder.

Metin, Avustralya Başbakanı Anthony Albanese, Kanada Başbakanı Mark Carney, Almanya Federal Şansölyesi Friedrich Merz, Avrupa Komisyonu Başkanı Ursula von der Leyen ve Fransa Cumhurbaşkanı Emmanuel Macron gibi imzalayanları listeler. Basılı onay notları, Avusturya ve Romanya liderlerinin 21 Eylül 2026’da, Lihtenştayn ve Lüksemburg liderlerinin 22 Eylül 2026’da ve Fransa ile Sierra Leone liderlerinin 23 Eylül 2026’da açıklamayı onayladığını kaydeder. Açıklama, diğer ülkelerin liderlerinden gelen onaylar için hâlâ açıktır.