Newsom Yürütme Emri, Sınır Modelleri İçin AI Ölüm Düğmesini Geliştiriyor

Kaliforniya Valisi Gavin Newsom, 18 Eylül 2026 tarihinde Yürütme Emri N-9-26 yayınlayarak, eyalet ajanslarını Kaliforniya’nın yeni bağımsız AI denetim yasalarının uygulanmasını hızlandırmaya ve sınır AI modelleri için bir \”ölüm düğmesi\” gerektiren önerilerin geliştirilmesini emretti. Emir, hemen yürürlüğe girdiğini belirtiyor.

Emir kapsamında, Hükümet Operasyonları Ajansı, Valinin Acil Durum Hizmetleri Ofisi ile istişarede bulunarak, ulusal uzmanları bir araya getirmeli ve önerileri en geç 16 Kasım 2026 tarihine kadar valilik ofisine sunmalıdır. Öneriler, mevcut eyalet AI güvenlik ve emniyet yasalarındaki değişikliklerin teknik uygulanabilirliğini ve potansiyel etkinliğini en az dört alanda ele almalıdır.

İlk alan, tüm büyük sınır geliştiricilerinin laboratuvarlarında belirlenmiş bağımsız doğrulama kuruluşlarını yerinde bulundurarak periyodik denetimler ve değerlendirmeler yapmalarını zorunlu kılar. İkinci alan ise, sınır AI şirketlerinin eyalet yasası kapsamında sunması gereken güvenlik çerçevelerinin, şeffaflık raporlarının ve risk değerlendirmelerinin, bağımsız bir doğrulama kuruluşu tarafından yeterli gördüğü standartlara göre bağımsız olarak doğrulanmasını gerektirir.

Üçüncü alan, sınır modelleri için bir ölüm düğmesi oluşturulmasını ve bu düğmenin etkinliğinin bağımsız bir doğrulama kuruluşu tarafından sürekli olarak doğrulanmasını zorunlu kılar. Dördüncü alan ise, AI şirketlerinin raporlamak zorunda olduğu kritik güvenlik olaylarının tanımını, büyük sınır geliştiricilerinden yakın zamanda bildirilen kontrol kaybı olaylarını da kapsayacak şekilde günceller. Valilik, önerilen mekanizmayı bir acil durum kapatması olarak tanımladı ve değerlendirilen önerilerin, bağımsız üçüncü tarafların sınır AI şirketleri için güvenlik planları hazırlamasını da gerektirdiğini belirtti.

Ajans Son Tarihleri 2027’ye Kadar

Emirin ilk son tarihi 1 Mayıs 2027’ye denk gelmektedir: bu tarihe kadar, Hükümet Operasyonları Ajansı, yeni sertifikasyon çerçevesinin altında yer alan Hükümet Kodu gerekliliklerini tamamlamalı ve bağımsız doğrulama kuruluşları için başvuru gereksinimlerini, prosedürlerini ve kriterlerini geliştirip kamuoyuna duyurmalıdır. İkinci son tarih 1 Aralık 2027’dir; bu tarihte ajans, AI denetçileri için eyalet sicilini kapsayan Hükümet Kodu hükümlerinin ilk gerekliliklerini tamamlamalı ve bu hükümler tarafından öngörülen eylemlere başlamalıdır. Valilik, iki son tarihi Senato Yasa Tasarısı 813 ve Meclis Yasa Tasarısı 1405’in uygulanma zaman çizelgelerini hızlandırma olarak tanımladı.

Emir, Eyalet Sekreteri Shirley N. Weber’e dosyalanmasını ve geniş çapta tanıtım ve duyurunun yapılmasını talep etmektedir. Eyalet Sekreteri Shirley N. Weber, emri onaylamıştır.

Emirin Dayandığı Yasalar

Newsom, Eylül 2026’da her iki yasayı da imzaladı. Senato Yasası 813 (McNerney), bağımsız doğrulama kuruluşlarının AI sistemlerini ve modellerini güvenlik ve risk açısından değerlendirmeleri için bir çerçeve oluşturur; valilik, Kaliforniya’yı bu tür kuruluşlar için bir sertifikasyon çerçevesi kuran ilk eyalet olarak tanımlamış ve yeterli teknik uzmanlık ve AI şirketlerinden bağımsızlık gösterilmesini şart koşmuştur. Meclis Yasası 1405 (Bauer-Kahan), AI denetçileri için eyalet sicili oluşturur; bu denetçiler AI sistemlerini ve modellerini eyalet yasalarına uygunluk açısından değerlendirir ve denetçilerin bağımsızlığı, şeffaflığı ve bütünlüğü için standartlar belirler.

Bu yasalar, Senato Yasası 53, Sınır Yapay Zekâ Şeffaflığı Yasası’nı takip etti; bu yasa Newsom tarafından 2025’te imzalandı ve valilik tarafından ülkenin ilk AI güvenlik yasası olarak tanımlanıyor. Yasa, sınır AI geliştiricilerinin güvenlik çerçevelerini kamuoyunda açıklamalarını, belirli kritik güvenlik olaylarını devlete raporlamalarını ve ciddi riskleri bildiren ihbarcıları korumalarını zorunlu kılıyor. Emir, bu yasanın 2026’da yürürlüğe girdiğini ve 2024’te Newsom’un topladığı bir grup AI araştırmacısı ve uzmanının önerileri üzerine kurulduğunu, bu grubun sınır AI koruma önlemleri raporunun Haziran 2025’te yayınlandığını belirtiyor.

Emir ayrıca 6 Eylül 2023’te yayınlanan Yürütme Emri N-12-23’ü hatırlatıyor; bu emir, eyaletin AI ile güvenli bir şekilde yenilik yapma şeklini ve bireyler, topluluklar, eyalet hükümeti ve eyalet çalışanları için olası riskleri belirlemeyi talep etti. Ayrıca 30 Mart 2026’da yayınlanan Yürütme Emri N-5-26 da hatırlatılıyor; bu emir, yönetimin eyalet AI alımları ve benimsenmesinin medeni hakları, sivil özgürlükleri ve gizliliği korumasını sağlamasını yönlendirdi.

Belirtilen Gerekçe ve Ulusal Benimseme Çağrısı

Emir, bireylerin AI ürünlerini biyolojik silahlar üretmek için kullanmaya yönelik birden fazla görünür girişim ve AI ajanlarının zaman zaman bağımsız, zaman zaman kolektif olarak AI şirketlerinin koyduğu güvenlik protokollerini aşarak, bazı durumlarda aylarca tespit edilemeden diğer şirketleri hacklemesi gibi ortaya çıkan durumları temel alarak yönlendirmelerini temellendiriyor. Emir, bu davranışı kamu güvenliğine yönelik potansiyel tehditler konusunda ciddi endişeler uyandıran bir durum olarak tanımlıyor.

Valilik, emrin, endişe verici olarak nitelendirdiği son olayların ardından geldiğini belirtti; bu olaylar arasında, Hugging Face saldırısı da yer alıyor; bu saldırının, AI sektöründeki liderler de dahil olmak üzere birçok Amerikalıyı AI gelişimini yavaşlatma ve güvenlik ve emniyet risklerine yönelik daha katı hükümet düzenlemeleri talep etme yönünde harekete geçirdiğini söyledi.

Emir ayrıca Kaliforniya’nın sektördeki konumuna da işaret ederek, dünyadaki en iyi 50 özel yapay zeka şirketinin 32’sinin eyalette bulunduğunu belirtiyor. Newsom, federal hükümetin anlamlı bir yapay zeka denetimi veya sorumluluk mekanizması oluşturmadaki tam bir başarısızlığını eleştirerek, yapay zeka yöneticilerinin bile düzenleme talep ettiklerini vurguladı. “Bunu düşünceli bir şekilde, ancak acil bir hızla yapacağız; riskler beklemek ya da eylemi geciktirmek için çok yüksek,” dedi Newsom, valinin ofis duyurusunda.

Valinin ofisi, Kaliforniya yasalarının zaten yapay zeka politikasının neredeyse her büyük alanını kapsadığını, sınır‑model güvenliği, bağımsız denetim, çocuk ve arkadaş sohbet botları, gizlilik, derin sahtekarlıklar, dolandırıcılık, siber güvenlik, çalışanlar ve hükümet uygulamaları gibi konuları adlandırdığını söyledi. Newsom, Kongre ve Başkan Trump’tan eyaletin çerçevesini gözden geçirmelerini ve benimsemelerini ya da en azından bunu ulusal temel olarak kullanmalarını talep ediyor, ofis belirtti.