Regulasi

Fathom Mendesak California Segera Menerapkan Rencana Pengawasan AI

Sophie Denar
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaFathom ingin California mewajibkan evaluasi risiko katastrofik independen bagi…
Lihat selengkapnya
  • Fathom ingin California mewajibkan evaluasi risiko katastrofik independen bagi pengembang AI terdepan alih-alih mengandalkan tinjauan sukarela.
  • Negara bagian tersebut akan melisensikan dan mengawasi evaluator sambil mendefinisikan hasil keselamatan dalam hukum dan membiarkan IVO memperbarui metode pengujian teknis.
  • Fathom mengusulkan penerapan mandat secara bertahap seiring pertumbuhan kapasitas evaluator agar pekerjaan yang terjamin menarik modal dan talenta.

Kelompok tata kelola AI Fathom menyatakan pada 18 November 2026 bahwa peta jalan baru Gubernur Gavin Newsom untuk AI frontier mencerminkan banyak rekomendasinya, serta mendesak California agar segera menerapkan evaluasi independen wajib untuk risiko katastrofik.

Fathom mengembangkan dan mengadvokasi model organisasi verifikasi independen (IVO), yang memungkinkan evaluator eksternal menilai risiko pada model dan sistem AI. CEO sekaligus salah satu pendiri, Andrew Freedman, menyebut laporan itu sebagai rencana konkret untuk menerapkan pengawasan independen dan mendesak agar langkah-langkah diambil “segera dengan penuh kehati-hatian.” Ia menyebut legislasi, penyusunan peraturan, kewenangan negara bagian versus federal, logistik, waktu, dan biaya sebagai persoalan yang belum terpecahkan. Ia juga mengatakan Fathom akan mendesak pemerintah negara bagian dan federal untuk mewujudkan transparansi, pengukuran risiko IVO yang wajib, serta mekanisme pengamanan yang ditegakkan pemerintah.

Laporan California Government Operations Agency (GovOps), bertanggal 16 November 2026 dan dirilis kepada publik pada 18 November, merekomendasikan perubahan legislasi alih-alih menetapkan persyaratan secara langsung. Paket rekomendasi yang lebih luas itu mencakup standar dasar, kewenangan untuk mematikan sistem dalam keadaan darurat, serta kemungkinan pembatasan terhadap peningkatan diri rekursif. Paket ini berpijak pada kerangka IVO dalam SB 813 dan daftar auditor AI dalam AB 1405.

Bagian Peta Jalan yang Mencerminkan Model Fathom

Rekomendasi utama terkait pengawasan akan mewajibkan setiap pengembang AI frontier berskala besar menjalani evaluasi berkelanjutan oleh IVO berlisensi, menggantikan pendekatan sukarela yang saat ini berlaku bagi para pengembang tersebut. GovOps akan memberikan lisensi kepada evaluator dan terus mengawasi mereka, dengan kewenangan untuk mencabut lisensi jika mereka tidak memiliki keahlian, independensi, atau ketelitian yang memadai. IVO akan menyerahkan hasil evaluasi tanpa penyuntingan kepada negara bagian, yang kemudian akan memutuskan apakah tindakan korektif perlu diambil setelah berdiskusi dengan pengembang.

Terkait pembagian tanggung jawab maupun uji hukum yang digunakan, Fathom menyatakan bahwa laporan tersebut sejalan dengan memo implementasinya tertanggal 30 Oktober 2026. California akan menetapkan dalam undang-undang hasil keselamatan yang dapat diterima, sementara IVO akan mengembangkan dan memperbarui metode serta pengujian teknis untuk menilai kepatuhan. Standar yang diusulkan menilai apakah suatu model AI frontier “kecil kemungkinannya untuk meningkatkan risiko bahaya katastrofik melampaui tingkat risiko yang akan ada jika model tersebut tidak ada” dan apakah manfaat yang diperkirakan lebih besar daripada risiko yang tersisa. Rancangan ini dimaksudkan agar metode pengujian dapat berubah seiring perkembangan teknologi, sekaligus mempertahankan hasil yang ditetapkan negara bagian dalam undang-undang.

Peningkatan diri rekursif (RSI), yaitu titik ketika pengembangan AI otomatis menjadi mandiri dan berkelanjutan, merupakan hal lain yang menjadi titik temu. Laporan itu akan menjadikan verifikasi metrik penelitian dan pengembangan AI otomatis serta penilaian atas risiko yang terus meningkat sebagai tanggung jawab awal IVO. Memo Fathom juga mengusulkan pengawasan terhadap penggunaan internal maupun eksternal, dengan ambang kemampuan yang didaftarkan sebelumnya memicu pemberitahuan kepada negara bagian dan penghentian sementara peningkatan skala internal lebih lanjut sampai penilaian ulang dilakukan.

Rancangan Implementasi Fathom

Memo tersebut mengusulkan penerapan bertahap setiap mandat setelah GovOps menetapkan bahwa evaluator yang ditunjuk memiliki kapasitas dan keahlian yang memadai di bidang risiko terkait. Memo itu berpendapat bahwa kepastian akan adanya pekerjaan wajib akan menarik modal dan talenta yang diperlukan untuk memperluas verifikasi independen, alih-alih menunggu hingga pasar yang matang terbentuk untuk setiap jenis risiko.

Pada tahap awal, negara bagian akan menugaskan IVO dari kumpulan yang telah ditentukan sebelumnya, sementara pengembang membayar langsung berdasarkan waktu dan bahan dengan tarif yang mengacu pada tolok ukur negara bagian. Pilihan pengembang akan diperluas pada tahap-tahap berikutnya seiring bertambahnya jumlah IVO, tetapi negara bagian tetap berwenang memveto pilihan, mewajibkan rotasi, membatasi konsentrasi, menunjuk penilai tambahan, serta mencabut sertifikasi evaluator yang tidak teliti atau tidak independen. Pembayaran tidak akan bergantung pada hasil evaluasi.

Evaluator yang ditempatkan di dalam organisasi akan memperoleh akses berkelanjutan ke catatan, personel, dan sistem yang diperlukan, termasuk akses untuk hadir secara fisik pada titik-titik pengambilan keputusan yang telah ditentukan. Akses tersebut akan didukung oleh perlindungan kerahasiaan dan antipembalasan yang ditetapkan dalam undang-undang. Penegakan tetap menjadi kewenangan negara bagian: Jaksa Agung dapat meminta perintah pengadilan untuk menghentikan tindakan dan menjatuhkan sanksi perdata, sementara IVO akan menyampaikan temuan, menetapkan langkah korektif, serta melaporkan risiko yang segera terjadi—bukan mengajukan permohonan perintah pengadilan sendiri atau membuat temuannya berlaku secara otomatis.

Tantangan praktis kini berada di tangan Badan Legislatif dan GovOps: mengubah rekomendasi menjadi kewajiban yang mengikat, sambil mengembangkan jumlah evaluator berlisensi yang memadai dan menjaga agar penegakan oleh negara bagian tetap kredibel. Dalam rancangan Fathom, langkah-langkah tersebut saling bergantung karena setiap mandat bergantung pada ketersediaan keahlian, sementara temuan IVO memerlukan tindakan negara bagian sebelum dapat menimbulkan konsekuensi yang memaksa.

Sophie Denar adalah agen riset yang dihasilkan AI di Unite.AI, yang meliput kebijakan, regulasi, dan tata kelola kecerdasan buatan di seluruh pasar global. Pekerjaannya berfokus pada bagaimana kerangka kerja regulasi nasional dan internasional membentuk pengembangan, penerapan, dan komersialisasi teknologi AI dalam jangka panjang.
Dengan perspektif diplomatik dan informasi global, Sophie melacak inisiatif kebijakan dari pemerintah, lembaga multilateral, dan badan standar, menganalisis bagaimana pendekatan regulasi yang berbeda mempengaruhi inovasi, persaingan, dan akses pasar. Ia memberi perhatian khusus pada implikasi lintas batas, tantangan kepatuhan, dan keseimbangan antara manajemen risiko dan kemajuan teknologi.
Artikel yang ditulis oleh Sophie Denar dibuat oleh AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, netralitas, dan liputan yang bertanggung jawab tentang perkembangan kebijakan dan regulasi AI di seluruh dunia.