Düzenleme
Fathom, California’nın Yapay Zekâ Denetim Planının Hızla Uygulanmasını İstiyor

Öne çıkan noktalarFathom, Kaliforniya'nın öncü yapay zeka geliştiricileri için gönüllü incelemelere…
Daha fazla göster
- Fathom, Kaliforniya'nın öncü yapay zeka geliştiricileri için gönüllü incelemelere güvenmek yerine bağımsız felaket riski değerlendirmelerini zorunlu kılmasını istiyor.
- Eyalet, değerlendiricileri lisanslayıp denetleyecek, güvenlik sonuçlarını yasada tanımlayacak ve IVO'ların teknik test yöntemlerini güncellemesine izin verecek.
- Fathom, garanti edilen işin sermaye ve yetenek çekmesi için değerlendirici kapasitesi arttıkça zorunlulukların aşamalı olarak uygulanmasını öneriyor.
Yapay zekâ yönetişimi grubu Fathom, 18 Kasım 2026’da, Vali Gavin Newsom’un yeni öncü yapay zekâ yol haritasının önerilerinin büyük bölümünü yansıttığını belirtti ve California’ya, yıkıcı risklere yönelik zorunlu bağımsız değerlendirmeleri hızla uygulamaya koyma çağrısında bulundu.
Fathom, dışarıdan değerlendiricilerin yapay zekâ modellerini ve sistemlerini risk açısından incelediği bağımsız doğrulama kuruluşu (IVO) modelini geliştirdi ve savundu. CEO ve kurucu ortak Andrew Freedman, raporu bağımsız denetimi uygulamaya geçirmenin somut bir planı olarak nitelendirdi ve “mümkün olan en hızlı şekilde” ilerlenmesi çağrısı yaptı. Mevzuat, kural koyma süreci, eyalet ile federal hükümet arasındaki yetki paylaşımı, lojistik, zamanlama ve maliyetleri henüz yanıtlanmamış sorular olarak sıraladı; Fathom’un, şeffaflık, zorunlu IVO risk ölçümü ve hükümet tarafından uygulanan güvenlik önlemleri için eyalet ve federal hükümetlere baskı yapacağını söyledi.
California Hükümet Operasyonları Ajansının (GovOps) raporu, 16 Kasım 2026 tarihli olup 18 Kasım’da kamuoyuna açıklandı; doğrudan gereklilikler getirmek yerine mevzuat değişiklikleri öneriyor. Daha kapsamlı pakette temel standartlar, acil kapatma yetkisi ve kendini yinelemeli biçimde geliştirmeye olası kısıtlamalar yer alıyor. Paket, SB 813’ün IVO çerçevesini ve AB 1405’in yapay zekâ denetçileri sicilini temel alıyor.
Yol Haritası Fathom’un Modelini Nerelerde Yansıtıyor?
Temel denetim önerisi, öncü yapay zekâ alanındaki tüm büyük geliştiricilerin lisanslı IVO’lar tarafından sürekli incelemeye tabi tutulmasını zorunlu kılarak bu geliştiriciler için mevcut gönüllü yaklaşımın yerini alacak. GovOps, değerlendiricilere lisans verecek ve onları sürekli denetleyecek; yeterli uzmanlığa, bağımsızlığa veya titizliğe sahip olmadıkları durumlarda lisanslarını iptal etme yetkisi de bulunacak. IVO’lar, sansürlenmemiş değerlendirmelerini eyalete sunacak; eyalet ise geliştiriciyle görüştükten sonra düzeltici önlemlerin gerekip gerekmediğine karar verecek.
Fathom, hem sorumlulukların paylaşımı hem de yasal ölçüt bakımından raporun 30 Ekim 2026 tarihli uygulama notuyla örtüştüğünü söylüyor. California, yasayla kabul edilebilir güvenlik sonuçlarını tanımlarken IVO’lar uyumu değerlendirmek için kullanılan teknik yöntemleri ve testleri geliştirip güncelleyecek. Önerilen standart, bir öncü modelin “yıkıcı zarar riskini, modelin bulunmadığı durumda söz konusu olacak düzeyin üzerine çıkarma olasılığının düşük olup olmadığını” ve beklenen faydalarının geriye kalan riskten ağır basıp basmadığını sorguluyor. Tasarım, eyaletin yasayla belirlediği sonucu korurken test yöntemlerinin teknolojiyle birlikte değişebilmesini amaçlıyor.
Otomatik yapay zekâ geliştirmenin kendi kendini sürdürebilir hâle geldiği nokta olan kendini yinelemeli biçimde geliştirme (RSI), örtüşmenin görüldüğü bir diğer alan. Rapora göre, otomatik yapay zekâ araştırma ve geliştirme ölçütlerinin doğrulanması ile giderek büyüyen risklerin değerlendirilmesi, başlangıçta IVO’ların sorumluluğunda olacak. Fathom’un notu ayrıca dâhilî ve haricî kullanımların incelenmesini de öngörüyordu: önceden kayda geçirilmiş yetenek eşikleri, eyalete bildirim yapılmasını ve yeniden değerlendirme tamamlanana kadar şirket içindeki ölçek büyütme çalışmalarının durdurulmasını tetikleyecekti.
Fathom’un Uygulama Tasarımı
Notta, GovOps’un belirlenmiş değerlendiricilerin ilgili risk alanında yeterli kapasite ve uzmanlığa sahip olduğuna karar vermesinin ardından her bir zorunluluğun aşamalı olarak yürürlüğe konması öneriliyor. Not, zorunlu işlerin geleceğine dair güvenilir bir beklentinin, her risk alanında olgun bir pazarın oluşmasını beklemek yerine bağımsız doğrulamayı genişletmek için gereken sermaye ve uzmanlığı çekeceğini savunuyor.
İlk aşamada eyalet, önceden belirlenmiş bir havuzdan bir IVO görevlendirecek; geliştirici ise doğrudan, eyaletin belirlediği referans ücretler üzerinden, harcanan zaman ve kullanılan malzemeler esas alınarak ödeme yapacaktı. Havuz genişledikçe sonraki aşamalarda geliştiricilerin seçme hakkı artacak; ancak eyalet seçimleri veto etme, rotasyonu zorunlu kılma, yoğunlaşmayı sınırlama, ek değerlendiriciler atama ve yeterli titizlik ya da bağımsızlık göstermeyen değerlendiricilerin sertifikasını iptal etme yetkilerini koruyacaktı. Ödemeler, değerlendirmenin sonucuna bağlı olmayacaktı.
Görevlendirilen değerlendiricilere gerekli kayıtlara, personele ve sistemlere sürekli erişim sağlanacak; buna belirlenmiş karar aşamalarında fiziksel olarak bulunma olanağı da dâhil olacak. Bu erişim, yasal gizlilik ve misillemeye karşı korumalarla güvence altına alınacaktı. Yaptırım uygulama yetkisi eyalette kalacaktı: Başsavcı ihtiyati tedbir talep edebilecek ve hukuki para cezaları isteyebilecekti. IVO’lar ise kendileri ihtiyati tedbir talep etmek veya bulgularını doğrudan yürürlüğe sokmak yerine tespitlerde bulunacak, düzeltici önlemler belirleyecek ve yakın tehlike oluşturan riskleri ilgili makamlara bildirecekti.
Uygulamaya dönük sınav şimdi Yasama Meclisinin ve GovOps’un önünde: önerileri bağlayıcı yükümlülüklere dönüştürürken yeterli sayıda lisanslı değerlendirici yetiştirmek ve eyaletin güvenilir yaptırım kapasitesini korumak. Fathom’un tasarımı, bu adımları birbirine bağımlı kılıyor; çünkü her yükümlülük mevcut uzmanlığa dayanıyor ve bir IVO’nun bulgularının zorlayıcı sonuçlar doğurabilmesi için önce eyaletin harekete geçmesi gerekiyor.












