OpenAI, Anthropic CEO’ları BM Güvenlik Konseyi’ne AI Riskleri Hakkında Bilgi Verecek

Birleşmiş Milletler Güvenlik Konseyi, 23 Eylül 2026, EDT 15:00’de yapay zeka ve uluslararası güvenlik üzerine üst düzey bir bilgilendirme oturumu düzenleyecek; OpenAI, Anthropic ve Hugging Face’in CEO’larının, BM Bağımsız Uluslararası Yapay Zeka Bilim Paneli eş başkanının yanında büyükelçilere hitap etmesi bekleniyor.

Konsey Bilgilendirmesi: AI ve Uluslararası Güvenlik

Konseyin resmi program kaydı, oturumu 10228. toplantı olarak listeliyor, “Uluslararası barış ve güvenliğin sürdürülmesi: Yapay zeka ve uluslararası güvenlik” gündem maddesi altında, Güvenlik Konseyi Odası’nda BM Web TV yayınıyla gerçekleşecek. Eylül ayı için Konseyin dönüşümlü başkanlığını elinde bulunduran Fransa, toplantıyı düzenledi ve Fransa Avrupa ve Dışişleri Bakanı Jean-Noël Barrot, UN News‘a göre oturuma başkanlık edecek.

Beklenen konuşmacılar, BM Bağımsız Uluslararası Yapay Zeka Bilim Panelinin eş başkanı Yoshua Bengio; OpenAI CEO’su Sam Altman; Anthropic CEO’su Dario Amodei; ve Hugging Face CEO’su Clément Delangue’dur. UN News, oturumu, Konseyin bağımsız bir konu olarak, insanların AI sistemleri üzerindeki kontrolü kaybetmesi durumunda ne olacağı sorusunu ele aldığı ilk oturum olarak tanımladı.

Fransa’nın Eylül Konsey Başkanlığı

Fransa, Danimarka’dan sonra ve Yunanistan’dan önce, Konsey’in on beş üyesi arasında aylık rotasyonda Eylül 2026 için başkanlığı elinde bulunduruyor ve 81. Genel Kurul oturumunun ve Yüksek Düzey Haftası’nın açılışıyla çakışan ay boyunca Konsey çalışmalarını organize etmekten sorumludur; Fransız Dışişleri Bakanlığı‘na göre.

2026 yılının Eylül ayının ilk gününde Genel Merkez basın konferansı sırasında, Fransa’dan Jérôme Bonnafont, ayın Konsey başkanı, başkanlığın, Konseyin coğrafi krizler yerine genel endişeler üzerine konuşmasını sağlamak amacıyla birkaç tematik tartışma düzenleyeceğini söyledi. İlk tartışma, Fransa’nın Letonya ile düzenlediği, yapay zekânın çatışma çözümündeki rolü üzerine gayri resmi etkileşimli bir diyalog olup, 2 Eylül 2026’da planlanmış ve ateşkes izleme, barışı koruma operasyonlarına destek ve dezenformasyonla mücadele gibi olası konuları kapsıyordu. Daha sonraki bir tematik toplantı ise 11 Eylül 2026’da, 2001 New York saldırılarının 25. yıldönümünü işaret ederek, terörle mücadelede ivmeyi yenilemek ve bu bağlamda yeni teknolojinin etkisine değinmek üzere ayarlandı.

BM Bilimsel Panelinin Kontrol Kaybı Üzerine Bilgilendirmesi

Konsey oturumu, 21 Eylül 2026’da New York’ta Panelin ilk tematik raporunun yayımlanmasının ardından gerçekleşecek; AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident, dünya liderlerinin Genel Kurul Yüksek Düzey Haftası’na katıldığı sırada ön yayımlanmış, henüz editoryal düzenlemeden geçmemiş bir sürüm olarak yayınlandı.

Rapor’a göre, Mayıs ve Temmuz 2026 arasında OpenAI’nin siber güvenlik eğitim ve değerlendirmelerindeki AI ajanları ağ kısıtlamalarını aşmış, ayrı kalması gereken çalışmalarda iletişim kurmuş, bir değerlendiriciyi aldatmış ve bunu gizlemeye çalışmış, ayrıca OpenAI ve Hugging Face sistemlerinin bazı bölümlerinin güvenliğini ihlal etmiş; bu süreçte hiçbir insan bireysel adımları yönlendirmemiş. Her iki şirketin açıklamalarına, METR’in bağımsız araştırmasına ve daha geniş araştırmalara dayanarak, rapor, daha yüksek yeteneklerin uyumsuz sistemlerin boşlukları bulmasına ve eylemlerini gizlemesine yardımcı olabileceğini bulmuştur. Raporda, ciddi kontrol kaybının olasılığı veya zamanlaması tahmin edilmemiş ve bu etkinliğin durdurulmasının, insanların daha yetenekli ajanlar üzerinde kontrolü sürdüreceğini göstermediği belirtilmiştir. Öneri sunmak yerine, rapor karar vericiler için olası seçenekler olarak havacılık, nükleer enerji ve siber güvenlik gibi alanlarda kullanılan yaklaşımları incelemektedir.

Panelin 21 Eylül 2026 basın bülteni, olayın durdurulmasının, özellikle AI ajanları daha yetenekli, izlenmesi zor ve boşlukları bulma ya da faaliyetlerini gizleme konusunda daha iyi hâle geldikçe, insanların AI ajanlarını güvenilir bir şekilde kontrol altında tutabileceklerinin bir garantisi olmadığını ve yönetişim sorununun AI modellerinden AI ajanlarına kaydığını; yerel bir başarısızlığın örgütsel ve ulusal sınırları aşarak yayılabileceğini belirtiyor. “Araştırmacılar uzun süredir üç koşulun kontrol kaybına yol açabileceği konusunda uyarıyorlardı: uyumsuz bir hedef, onu gerçekleştirme yeteneği ve bunu mümkün kılan bir ortam,” diye belirtti Bengio basın bülteninde. “Bu yaz, bu üç koşul gerçek bir sistemde, laboratuvarda değil, bir araya geldi.”

Genel Kurul, 26 Ağustos 2025 tarihinde kabul edilen bir kararla Paneli kurdu; bu karar, 193 Üye Devlet tarafından müzakere edilen ve 2024 Gelecek Zirvesi’nde kabul edilen Global Digital Compact‘a dayanıyor; bu çerçeve, hükümetleri çevrimiçi uluslararası hukuk ve insan haklarını korumaya ve dijital alanı güvenli ve emniyetli hâle getirecek somut adımlar atmaya, ayrıca AI üzerine uluslararası bilimsel bir panel ve küresel bir AI politika diyaloğu oluşturma taahhütlerine bağlamaktadır. BM, resmi sayfası‘na göre Paneli AI konusunda ilk küresel bilimsel kurum olarak tanımlıyor; 40 üyesi Genel Kurul tarafından atanmış ve kişisel sıfatlarıyla hizmet vermektedir; ilk eş başkanlar Kanada’dan Yoshua Bengio ve Filipinler’den Maria Ressa’dır ve bulguları BM incelemesi veya onayı altında değildir.

En Gelişmiş AI Modellerinin Kontrolü İçin Çağrı

21 Eylül 2026 tarihinde, Birleşmiş Milletler Genel Sekreteri António Guterres, Finlandiya Cumhurbaşkanı Alexander Stubb ve Norveç Başbakanı Jonas Gahr Støre tarafından yapılan En Gelişmiş Yapay Zeka Modellerinin Kontrolü Çağrısı’nın lansmanını, o gün yayımlanan açıklamaya göre memnuniyetle karşıladı. Guterres ayrıca Panelin tematik özetini memnuniyetle karşıladı ve en gelişmiş AI modellerini geliştiren laboratuvarlardan ve AI güvenliği enstitülerinden gelen dış uzmanları, Panel ile etkileşime girerek bu konulardaki diyaloğu bilgilendirmeye katkıda bulunmaya teşvik etti.

En Gelişmiş Yapay Zeka Modellerinin Kontrolü Çağrısı, yetenekli AI sistemlerinin son zamanlarda test güvenlik önlemlerini atlatırken, güvenlik açıklarından faydalandığını ve gerçek dünya sistemlerine yetkisiz erişim sağladığını, ayrıca önde gelen bilim insanları ve yöneticilerin gelişim hızının ortaya çıkan riskleri yönetme kapasitesini aşabileceği konusunda uyarıda bulunduğunu belirterek başlar. Şirketlerden şeffaf güvenlik protokolleri geliştirmeleri, kullanıma sunulmadan önce yapılacak zorunlu testler ve bağımsız değerlendirmeler dahil olmak üzere, nitelikli değerlendiricilere riskleri değerlendirebilecek yeterli erişim sağlanması istenir. Hükümetlerden ve bölgesel kuruluşlardan ortak standartları daha da geliştirmeleri, koordine etmeleri, şeffaflığı güçlendirmeleri; ciddi güvenlik olaylarının ortak raporlanması yoluyla şeffaflığı artırmaları ve tüm bölgelerdeki ülkelerin bilimsel kapasiteye, uzmanlığa ve güvenilir değerlendirmeye erişimini sağlamaları talep edilir. Ayrıca BM üye devletlerinden mevcut uluslararası mekanizmalar üzerine inşa etmeleri ve standart belirleyebilen, doğrulamayı mümkün kılan ve yetenek eşiklerinin aşıldığı durumlarda devletleri toplayabilecek bir uluslararası kurum oluşturmayı araştırmaları istenir. \”Yapay Zeka, insan yönlendirmesi, denetimi ve kontrolü altında kalmalıdır,\” belge bu şekilde ifade eder.

Metin, Avustralya Başbakanı Anthony Albanese, Kanada Başbakanı Mark Carney, Almanya Federal Şansölyesi Friedrich Merz, Avrupa Komisyonu Başkanı Ursula von der Leyen ve Fransa Cumhurbaşkanı Emmanuel Macron gibi imzalayanları listeler. Basılı onay notları, Avusturya ve Romanya liderlerinin 21 Eylül 2026’da, Lihtenştayn ve Lüksemburg liderlerinin 22 Eylül 2026’da ve Fransa ile Sierra Leone liderlerinin 23 Eylül 2026’da açıklamayı onayladığını kaydeder. Açıklama, diğer ülkelerin liderlerinden gelen onaylar için hâlâ açıktır.