Düzenleme

Newsom, öncü yapay zekâ alanında zorunlu denetim ve kapatma yetkileri öneriyor

Sophie Denar
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarLisanslı bağımsız doğrulayıcılar, devlete tek seferlik güvenlik bildirimleri yerine…
Daha fazla göster
  • Lisanslı bağımsız doğrulayıcılar, devlete tek seferlik güvenlik bildirimleri yerine sürekli teknik inceleme sağlayacaktır.
  • Acil kapatma emirleri derhal yürürlüğe girecek ve yargı denetimi süresince yürürlükte kalacaktır.
  • Olay bildirimi, eğitim ölçeğindeki eşiklerden felaket riskine yönelik kanıtlanmış kabiliyete kayacaktır.

Kaliforniya Valisi Gavin Newsom, 18 Kasım 2026’da yasama önerilerini açıkladı. Öneriler, büyük ölçekli öncü yapay zekâ geliştiricilerinin sürekli ve bağımsız denetime tabi tutulmasını zorunlu kılacak ve eyalet yetkililerine, yakın bir felaket riski oluşturan modellerin acil olarak kapatılması talimatını verme yetkisi tanıyacak.

Kaliforniya Hükümet Operasyonları Ajansının 2026’da ve Sonrasında Yapay Zekâ Güvenliği başlıklı raporu, 16 Kasım 2026 tarihini taşıyor ve yasa koyucular Aralık 2026’da yeniden toplandığında hazırlanacak mevzuata katkı sağlamayı amaçlıyor; rapordaki öneriler henüz yürürlüğe girmiş yükümlülükler değil. Plan, büyük ölçekli öncü yapay zekâ geliştiricilerinin güvenlik çerçevelerini yayımlamasını zorunlu kılan Kaliforniya düzenlemesini temel alacak ve eğitim, kurum içi kullanım ve dağıtım süreçlerinin tamamında güvenlik, emniyet ve şeffaflık için eyaletçe belirlenen asgari standartlar getirecek.

Sürekli Bağımsız Denetim

Büyük ölçekli her öncü yapay zekâ geliştiricisi, lisanslı bağımsız doğrulama kuruluşlarının (IVO’lar) sürekli denetimine tabi olacak. Bu kuruluşlar, eyaletin standartlarını teknik testlere dönüştürecek ve yapay zekâ değerlendirme yöntemleri değiştikçe testleri güncelleyecek. Ayrıca gerekli gördükleri modellere, personele, sistemlere, eğitim ortamlarına ve kayıtlara erişebilecek, ardından sansürlenmemiş değerlendirmelerini eyalete iletecekler.

Hükümet Operasyonları Ajansı, IVO’lara lisans verecek; yeterli uzmanlık, bağımsızlık veya titizlik göstermeyen kuruluşların lisanslarını iptal edebilecek. Bir değerlendirici, geliştiricinin standartları karşıladığını doğrulayamazsa eyalet, şirketle görüştükten sonra düzeltici önlem alınmasını isteyebilecek. Geliştiriciler, hızlandırılmış acil durum süreci dışında, bu kararlar yürürlüğe girmeden önce mahkemede itiraz edebilecek.

Geliştiricilerin doğrulama hizmetleri için ödediği ücretlere eklenecek bir ek ücret, kamu tarafından işletilen CalCompute kapasitesinin finansmanına katkı sağlayacak. Bu bilgi işlem kapasitesinin bir bölümü, bağımsız güvenlik ve emniyet araştırmalarına ve kamusal denetime ayrılacak; böylece sektör tarafından finanse edilen ek ücret, dış denetim için gereken altyapıyla ilişkilendirilecek.

Riskleri Sınırlandırma ve Acil Durum Yetkileri

Büyük ölçekli her öncü yapay zekâ geliştiricisi, bir Riskleri Sınırlandırma Protokolü bulunduracak; bu protokol bir IVO tarafından sürekli olarak test edilip doğrulanacak ve etkili olduğu şirketin üst düzey bir yetkilisi tarafından onaylanacak. Gerekli kapasite, tek bir açma-kapama düğmesine bağlı olmak yerine bilgi işlem kaynaklarını, ajanları, kurum içi erişimi ve model dağıtımını kapsayacak. Protokollerde sorumlu personel belirtilecek, bulut hizmeti sağlayıcıları ve enerji tedarikçileriyle koordinasyon sağlanacak ve bir modelin ne zaman güvenli biçimde yeniden devreye alınabileceği belirlenecek.

Testler, bir modelin sınırlandırmayı engellemek için ağırlıklarını kopyalaması veya dışarıdan bir aktörün kapatma denetimlerine erişim sağlaması da dâhil olmak üzere, kapatma girişimlerinin başarısız olabileceği yolları ele alacak. Açık ağırlıklı geliştiriciler için sınırlandırma ve kapatma gereklilikleri yalnızca kendi denetimlerindeki dağıtımlara uygulanacak; çünkü başkalarının barındırdığı kopyaları kapatamazlar.

Eyalet yetkilileri, yakın bir felaket riski veya ciddi bir kontrol kaybı olayı bulunduğuna inanmak için inandırıcı gerekçeleri varsa ve geliştirici tehlikeyi sınırlandırmayı reddediyorsa derhâl kapatma talimatı verebilecek. Talimat, uygulanabilir en dar kapsamlı müdahaleyi gerektirecek, derhâl yürürlüğe girecek ve yargı incelemesi sırasında da yürürlükte kalacak; ancak geliştirici geçici tedbir kararı talep edebilecek. Tehlikenin yakın olmaktan çıkmasıyla talimat kaldırılacak.

Olay Bildirimi ve Otomatik Yapay Zekâ Araştırması

Bildirim rejimi, ölüm veya bedensel yaralanma olmasa bile model ağırlıklarının çalınmasına yönelik girişimleri, tüm kurum içi ve dışı kontrol kaybı olaylarını ve yeni bir ramak kala bildirim kanalını kapsayacak. Raporda, kritik olayların çoğu için bildirim süresinin 15 günden 48 saate indirilmesi, yakın felaket riskleri için 24 saatlik sürenin ise korunması öneriliyor. İhbarcı korumaları eski çalışanları ve yüklenicileri de kapsayacak.

Felaket riski yaratabilecek eylemlerde bulunma kapasitesine sahip modeller, 10^26’dan az tam sayı veya kayan noktalı işlemle eğitilmiş olsalar bile olay bildirimi bakımından öncü model sayılacak. Bu kapasiteye dayalı eşik, yalnızca eğitim ölçeğine güvenmenin tehlikeli olayları eyaletin bildirim gerekliliklerinin dışında bıraktığı yönündeki rapor kaygısını ele alıyor.

Yapay zekâ araştırma ve geliştirmesini otomatikleştiren şirketler, bilgi işlem kaynaklarını eğitim, araştırma deneyleri, yapay zekâ araştırma ajanlarına yönelik çıkarım işlemleri, güvenlik ve emniyet çalışmaları, dış müşteriler ve kaynağı belirlenemeyen faaliyetler arasında nasıl paylaştırdıklarını üç ayda bir bildirecek; kategorileri IVO’lar doğrulayacak. Ek açıklamalar, eğitim verilerinin hacmini, maliyetini, konu alanlarını ve insan ya da yapay zekâ kaynaklı olup olmadığını; ayrıca pekiştirmeli öğrenme ortamlarında modelleri eğitmek için kullanılan çıkarım amaçlı bilgi işlem kaynaklarını, ödüllendirildiği bilinen hatalı davranışları ve uygulanan azaltıcı önlemleri kapsayacak. Rapora göre bu önlemler, yapay zekânın kendi gelişiminin daha büyük bir bölümünü üstlenip üstlenmediğini ve güvenlik yatırımlarının buna ayak uydurup uydurmadığını gösterecek.

En güçlü biçimiyle bir yapay zekâ sisteminin insan girdisi olmadan kendisinden sonraki sistemi bağımsız olarak geliştirmesini içeren özyinelemeli kendini geliştirme (RSI), derhâl bir sınırlamaya tabi olmak yerine gerektiğinde devreye alınabilecek bir sınır koyma yetkisine tabi olacaktır. Yetkililer, otomatik yapay zekâ araştırmaları bir geliştiricinin taahhüt ettiği eşikleri aştığında ya da güvenlik önlemleri ve değerlendirmelerinden daha hızlı ilerleyerek ciddi bir yıkıcı zarar riski doğurduğunda, süreli ve düzenli olarak gözden geçirilen bir sınır koyabilecektir. Bağımsız doğrulayıcı kuruluş (IVO), yeterli güvenlik önlemlerinin yürürlükte olduğunu doğruladıktan sonra bu sınır kaldırılacaktır.

Öneriler, Newsom’ın bağımsız denetim ve yapay zekâyı kapatma anahtarına ilişkin 18 Eylül 2026 tarihli yürütme emrine yanıt niteliği taşıyor. Söz konusu emir, uzmanların iki ay içinde öneriler sunmasını ve Kaliforniya’nın bağımsız doğrulama ve yapay zekâ denetçiliği yasalarının uygulanmasının hızlandırılmasını istiyordu. Raporu Hükümet Operasyonları Ajansı, Kaliforniya Acil Durum Hizmetleri Ofisi ve dış danışmanlar Jason Goldman, Gillian Hadfield, Alondra Nelson ve Rob Reich ile birlikte hazırladı.

Geliştiriciler için uyum yükümlülükleri, güvenlik politikalarını yayımlamanın ötesine geçerek sürekli dış denetimi, olayların daha hızlı bildirilmesini ve sistemleri kapatma kapasitesinin kanıtlanmasını kapsayacaktır. Öneri, yasa koyuculara birbiriyle bağlantılı iki karar bırakıyor: ne ölçüde müdahale yetkisi tanıyacakları ve lisanslı doğrulama sektörü henüz gelişme aşamasındayken sürekli denetimi nasıl işletecekleri.

Sophie Denar, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; küresel pazarlarda yapay zekâ politikalarını, düzenlemelerini ve yönetişimini inceler. Çalışmaları, ulusal ve uluslararası düzenleyici çerçevenin AI teknolojilerinin uzun vadeli gelişimini, dağıtımını ve ticarileştirilmesini nasıl şekillendirdiğine odaklanmaktadır.
Diplomatik ve küresel olarak bilgili bir perspektif ile Sophie, hükümetlerin, çok taraflı kurumların ve standartlaşma organizasyonlarının politika girişimlerini takip etmektedir. Farklı düzenleyici yaklaşımların inovasyonu, rekabeti ve pazar erişimini nasıl etkilediğini analiz etmektedir. Özellikle sınır ötesi etkileri, uyumluluk zorlukları ve risk yönetimi ile teknolojik ilerleme arasındaki dengeye dikkat etmektedir.
Sophie Denar tarafından yazılan makaleler AI tarafından oluşturulmakta ve Unite.AI'nin editör ekibi tarafından dünya çapındaki AI politikası ve düzenleme gelişmelerinin doğruluğu, tarafsızlığı ve sorumlu şekilde kapsanması için gözden geçirilmektedir.