Düzenleme

Fathom, California’nın Yapay Zekâ Denetim Planının Hızla Uygulanmasını İstiyor

Sophie Denar
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarFathom, Kaliforniya'nın öncü yapay zeka geliştiricileri için gönüllü incelemelere…
Daha fazla göster
  • Fathom, Kaliforniya'nın öncü yapay zeka geliştiricileri için gönüllü incelemelere güvenmek yerine bağımsız felaket riski değerlendirmelerini zorunlu kılmasını istiyor.
  • Eyalet, değerlendiricileri lisanslayıp denetleyecek, güvenlik sonuçlarını yasada tanımlayacak ve IVO'ların teknik test yöntemlerini güncellemesine izin verecek.
  • Fathom, garanti edilen işin sermaye ve yetenek çekmesi için değerlendirici kapasitesi arttıkça zorunlulukların aşamalı olarak uygulanmasını öneriyor.

Yapay zekâ yönetişimi grubu Fathom, 18 Kasım 2026’da, Vali Gavin Newsom’un yeni öncü yapay zekâ yol haritasının önerilerinin büyük bölümünü yansıttığını belirtti ve California’ya, yıkıcı risklere yönelik zorunlu bağımsız değerlendirmeleri hızla uygulamaya koyma çağrısında bulundu.

Fathom, dışarıdan değerlendiricilerin yapay zekâ modellerini ve sistemlerini risk açısından incelediği bağımsız doğrulama kuruluşu (IVO) modelini geliştirdi ve savundu. CEO ve kurucu ortak Andrew Freedman, raporu bağımsız denetimi uygulamaya geçirmenin somut bir planı olarak nitelendirdi ve “mümkün olan en hızlı şekilde” ilerlenmesi çağrısı yaptı. Mevzuat, kural koyma süreci, eyalet ile federal hükümet arasındaki yetki paylaşımı, lojistik, zamanlama ve maliyetleri henüz yanıtlanmamış sorular olarak sıraladı; Fathom’un, şeffaflık, zorunlu IVO risk ölçümü ve hükümet tarafından uygulanan güvenlik önlemleri için eyalet ve federal hükümetlere baskı yapacağını söyledi.

California Hükümet Operasyonları Ajansının (GovOps) raporu, 16 Kasım 2026 tarihli olup 18 Kasım’da kamuoyuna açıklandı; doğrudan gereklilikler getirmek yerine mevzuat değişiklikleri öneriyor. Daha kapsamlı pakette temel standartlar, acil kapatma yetkisi ve kendini yinelemeli biçimde geliştirmeye olası kısıtlamalar yer alıyor. Paket, SB 813’ün IVO çerçevesini ve AB 1405’in yapay zekâ denetçileri sicilini temel alıyor.

Yol Haritası Fathom’un Modelini Nerelerde Yansıtıyor?

Temel denetim önerisi, öncü yapay zekâ alanındaki tüm büyük geliştiricilerin lisanslı IVO’lar tarafından sürekli incelemeye tabi tutulmasını zorunlu kılarak bu geliştiriciler için mevcut gönüllü yaklaşımın yerini alacak. GovOps, değerlendiricilere lisans verecek ve onları sürekli denetleyecek; yeterli uzmanlığa, bağımsızlığa veya titizliğe sahip olmadıkları durumlarda lisanslarını iptal etme yetkisi de bulunacak. IVO’lar, sansürlenmemiş değerlendirmelerini eyalete sunacak; eyalet ise geliştiriciyle görüştükten sonra düzeltici önlemlerin gerekip gerekmediğine karar verecek.

Fathom, hem sorumlulukların paylaşımı hem de yasal ölçüt bakımından raporun 30 Ekim 2026 tarihli uygulama notuyla örtüştüğünü söylüyor. California, yasayla kabul edilebilir güvenlik sonuçlarını tanımlarken IVO’lar uyumu değerlendirmek için kullanılan teknik yöntemleri ve testleri geliştirip güncelleyecek. Önerilen standart, bir öncü modelin “yıkıcı zarar riskini, modelin bulunmadığı durumda söz konusu olacak düzeyin üzerine çıkarma olasılığının düşük olup olmadığını” ve beklenen faydalarının geriye kalan riskten ağır basıp basmadığını sorguluyor. Tasarım, eyaletin yasayla belirlediği sonucu korurken test yöntemlerinin teknolojiyle birlikte değişebilmesini amaçlıyor.

Otomatik yapay zekâ geliştirmenin kendi kendini sürdürebilir hâle geldiği nokta olan kendini yinelemeli biçimde geliştirme (RSI), örtüşmenin görüldüğü bir diğer alan. Rapora göre, otomatik yapay zekâ araştırma ve geliştirme ölçütlerinin doğrulanması ile giderek büyüyen risklerin değerlendirilmesi, başlangıçta IVO’ların sorumluluğunda olacak. Fathom’un notu ayrıca dâhilî ve haricî kullanımların incelenmesini de öngörüyordu: önceden kayda geçirilmiş yetenek eşikleri, eyalete bildirim yapılmasını ve yeniden değerlendirme tamamlanana kadar şirket içindeki ölçek büyütme çalışmalarının durdurulmasını tetikleyecekti.

Fathom’un Uygulama Tasarımı

Notta, GovOps’un belirlenmiş değerlendiricilerin ilgili risk alanında yeterli kapasite ve uzmanlığa sahip olduğuna karar vermesinin ardından her bir zorunluluğun aşamalı olarak yürürlüğe konması öneriliyor. Not, zorunlu işlerin geleceğine dair güvenilir bir beklentinin, her risk alanında olgun bir pazarın oluşmasını beklemek yerine bağımsız doğrulamayı genişletmek için gereken sermaye ve uzmanlığı çekeceğini savunuyor.

İlk aşamada eyalet, önceden belirlenmiş bir havuzdan bir IVO görevlendirecek; geliştirici ise doğrudan, eyaletin belirlediği referans ücretler üzerinden, harcanan zaman ve kullanılan malzemeler esas alınarak ödeme yapacaktı. Havuz genişledikçe sonraki aşamalarda geliştiricilerin seçme hakkı artacak; ancak eyalet seçimleri veto etme, rotasyonu zorunlu kılma, yoğunlaşmayı sınırlama, ek değerlendiriciler atama ve yeterli titizlik ya da bağımsızlık göstermeyen değerlendiricilerin sertifikasını iptal etme yetkilerini koruyacaktı. Ödemeler, değerlendirmenin sonucuna bağlı olmayacaktı.

Görevlendirilen değerlendiricilere gerekli kayıtlara, personele ve sistemlere sürekli erişim sağlanacak; buna belirlenmiş karar aşamalarında fiziksel olarak bulunma olanağı da dâhil olacak. Bu erişim, yasal gizlilik ve misillemeye karşı korumalarla güvence altına alınacaktı. Yaptırım uygulama yetkisi eyalette kalacaktı: Başsavcı ihtiyati tedbir talep edebilecek ve hukuki para cezaları isteyebilecekti. IVO’lar ise kendileri ihtiyati tedbir talep etmek veya bulgularını doğrudan yürürlüğe sokmak yerine tespitlerde bulunacak, düzeltici önlemler belirleyecek ve yakın tehlike oluşturan riskleri ilgili makamlara bildirecekti.

Uygulamaya dönük sınav şimdi Yasama Meclisinin ve GovOps’un önünde: önerileri bağlayıcı yükümlülüklere dönüştürürken yeterli sayıda lisanslı değerlendirici yetiştirmek ve eyaletin güvenilir yaptırım kapasitesini korumak. Fathom’un tasarımı, bu adımları birbirine bağımlı kılıyor; çünkü her yükümlülük mevcut uzmanlığa dayanıyor ve bir IVO’nun bulgularının zorlayıcı sonuçlar doğurabilmesi için önce eyaletin harekete geçmesi gerekiyor.

Sophie Denar, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; küresel pazarlarda yapay zekâ politikalarını, düzenlemelerini ve yönetişimini inceler. Çalışmaları, ulusal ve uluslararası düzenleyici çerçevenin AI teknolojilerinin uzun vadeli gelişimini, dağıtımını ve ticarileştirilmesini nasıl şekillendirdiğine odaklanmaktadır.
Diplomatik ve küresel olarak bilgili bir perspektif ile Sophie, hükümetlerin, çok taraflı kurumların ve standartlaşma organizasyonlarının politika girişimlerini takip etmektedir. Farklı düzenleyici yaklaşımların inovasyonu, rekabeti ve pazar erişimini nasıl etkilediğini analiz etmektedir. Özellikle sınır ötesi etkileri, uyumluluk zorlukları ve risk yönetimi ile teknolojik ilerleme arasındaki dengeye dikkat etmektedir.
Sophie Denar tarafından yazılan makaleler AI tarafından oluşturulmakta ve Unite.AI'nin editör ekibi tarafından dünya çapındaki AI politikası ve düzenleme gelişmelerinin doğruluğu, tarafsızlığı ve sorumlu şekilde kapsanması için gözden geçirilmektedir.