Regulasi
Newsom Usulkan Pengawasan Wajib AI Terdepan dan Kewenangan untuk Menghentikan Operasinya

Poin utamaVerifikator independen berlisensi akan memberikan pengawasan teknis berkelanjutan…
Lihat selengkapnya
- Verifikator independen berlisensi akan memberikan pengawasan teknis berkelanjutan kepada negara, bukan pengajuan keselamatan satu kali.
- Perintah penghentian darurat akan berlaku segera dan tetap berlaku selama peninjauan yudisial.
- Pelaporan insiden akan bergeser dari ambang skala pelatihan menjadi kemampuan yang terbukti untuk risiko katastrofik.
Gubernur California Gavin Newsom merilis rekomendasi legislatif pada 18 November 2026 yang akan mewajibkan pengawasan independen berkelanjutan terhadap pengembang besar AI terdepan dan memberi pejabat negara bagian wewenang untuk memerintahkan penghentian darurat model yang menimbulkan risiko bencana yang segera terjadi.
Laporan Keamanan AI pada 2026 dan Seterusnya dari California Government Operations Agency, bertanggal 16 November 2026, dimaksudkan untuk menjadi bahan penyusunan undang-undang saat para anggota parlemen kembali bersidang pada Desember 2026; rekomendasinya belum menjadi kewajiban yang berlaku. Rencana tersebut akan mengembangkan persyaratan California yang mewajibkan pengembang besar AI terdepan menerbitkan kerangka keselamatan dengan menambahkan standar dasar yang ditetapkan negara bagian untuk keselamatan, keamanan, dan transparansi di seluruh tahap pelatihan, penggunaan internal, dan penerapan.
Pengawasan Independen Berkelanjutan
Setiap pengembang besar AI terdepan akan diawasi secara berkelanjutan oleh organisasi verifikasi independen berlisensi, atau IVO. Organisasi-organisasi tersebut akan menerjemahkan standar negara bagian menjadi uji teknis dan memperbaruinya seiring perubahan metode evaluasi AI. Mereka juga akan memperoleh akses ke model, personel, sistem, lingkungan pelatihan, dan catatan yang mereka nilai perlu, lalu mengirimkan penilaian tanpa penyuntingan kepada negara bagian.
Government Operations Agency akan memberikan lisensi kepada IVO dan dapat mencabutnya jika organisasi tersebut kurang memiliki keahlian, independensi, atau ketelitian. Jika penilai tidak dapat menyatakan bahwa seorang pengembang telah memenuhi standar, negara bagian dapat memerintahkan tindakan perbaikan setelah berkonsultasi dengan perusahaan tersebut. Pengembang dapat menggugat penetapan semacam itu di pengadilan sebelum mulai berlaku, kecuali dalam proses darurat yang dipercepat.
Pungutan tambahan atas biaya verifikasi yang dibayar pengembang akan membantu mendanai kapasitas CalCompute yang dikelola untuk kepentingan publik. Sebagian kapasitas komputasi tersebut akan dicadangkan untuk riset keselamatan dan keamanan independen serta pengawasan publik, sehingga menghubungkan pungutan yang didanai industri dengan infrastruktur yang diperlukan untuk pengawasan eksternal.
Pembatasan Risiko dan Kewenangan Darurat
Setiap pengembang besar AI terdepan harus memiliki Protokol Pembatasan Risiko, yang diuji dan diverifikasi secara berkelanjutan oleh IVO serta disertifikasi efektivitasnya oleh pejabat senior perusahaan. Kapabilitas yang diwajibkan harus mencakup komputasi, agen, akses internal, dan penerapan model, bukan bergantung pada satu sakelar hidup-mati. Protokol tersebut harus mengidentifikasi personel yang bertanggung jawab, mengoordinasikan tindakan dengan penyedia layanan komputasi awan dan pemasok listrik, serta menetapkan kapan model dapat dipulihkan dengan aman.
Pengujian akan mencakup berbagai cara penghentian operasi dapat gagal, termasuk kemungkinan model menyalin bobotnya untuk menghalangi pembatasan atau pihak luar memperoleh akses ke kendali penghentian operasi. Bagi pengembang model berbobot terbuka, persyaratan pembatasan dan penghentian operasi hanya berlaku untuk penerapan yang berada di bawah kendali mereka, karena mereka tidak dapat menghentikan salinan yang dihosting pihak lain.
Pejabat negara bagian dapat memerintahkan penghentian operasi seketika jika mereka memiliki alasan yang dapat dipercaya untuk meyakini bahwa ada risiko bencana yang segera terjadi atau peristiwa hilangnya kendali besar, dan pengembang menolak membatasi bahaya tersebut. Perintah itu harus mengharuskan intervensi sesempit mungkin yang masih dapat diterapkan, langsung berlaku, dan tetap berlaku selama peninjauan oleh pengadilan, meskipun pengembang dapat mengajukan permohonan perintah penahanan sementara. Perintah itu akan dicabut setelah bahaya tidak lagi mengancam dalam waktu dekat.
Pelaporan Insiden dan Riset AI Otomatis
Ketentuan pelaporan akan mencakup upaya pencurian bobot model meskipun tidak mengakibatkan kematian atau cedera fisik, semua insiden kehilangan kendali, baik internal maupun eksternal, serta saluran baru untuk melaporkan insiden yang nyaris terjadi. Laporan tersebut mengusulkan pemangkasan tenggat pelaporan sebagian besar insiden kritis dari 15 hari menjadi 48 jam, sambil mempertahankan kewajiban pelaporan dalam 24 jam untuk risiko bencana yang segera terjadi. Perlindungan bagi pelapor pelanggaran akan diperluas hingga mencakup mantan karyawan dan kontraktor.
Model yang mampu melakukan tindakan yang dapat menimbulkan risiko bencana akan diperlakukan sebagai model AI terdepan untuk keperluan pelaporan insiden, sekalipun dilatih dengan kurang dari 10^26 operasi bilangan bulat atau titik mengambang. Pemicu yang didasarkan pada kapabilitas ini menanggapi kekhawatiran dalam laporan bahwa mengandalkan skala pelatihan saja telah menyebabkan insiden berbahaya tidak tercakup dalam persyaratan pelaporan negara bagian.
Perusahaan yang mengotomatiskan riset dan pengembangan AI akan melaporkan setiap kuartal bagaimana komputasi mereka dibagi antara pelatihan, eksperimen riset, inferensi untuk agen riset AI, pekerjaan keselamatan dan keamanan, pelanggan eksternal, serta aktivitas yang tidak dapat dikaitkan dengan kategori tertentu; IVO akan memverifikasi kategori-kategori tersebut. Pengungkapan tambahan akan mencakup volume, biaya, dan ranah subjek data pelatihan, serta asal-usulnya dari manusia atau AI; juga komputasi inferensi yang digunakan untuk melatih model dalam lingkungan pembelajaran penguatan, perilaku buruk yang diketahui telah diberi imbalan, dan langkah mitigasi yang diterapkan. Laporan itu menyatakan bahwa langkah-langkah ini akan menunjukkan apakah AI mengambil alih lebih banyak proses pengembangannya sendiri dan apakah investasi keselamatan mampu mengimbangi laju tersebut.
Perbaikan diri rekursif (RSI), yang dalam bentuknya yang paling ekstrem melibatkan sistem AI yang secara mandiri mengembangkan penerusnya tanpa campur tangan manusia, akan tunduk pada kewenangan untuk memberlakukan pembatasan siaga, bukan pembatasan langsung. Pejabat dapat memberlakukan pembatasan untuk jangka waktu tertentu dan meninjaunya secara berkala terhadap riset AI otomatis jika riset tersebut melampaui ambang batas yang telah ditetapkan pengembang atau berkembang lebih cepat daripada pengamanan dan evaluasinya, sehingga menimbulkan risiko nyata terjadinya bahaya katastropik. Pembatasan itu akan dicabut setelah IVO memverifikasi bahwa pengamanan yang memadai telah diterapkan.
Rekomendasi ini menanggapi perintah eksekutif Newsom pada 18 September 2026 tentang pengawasan independen dan tombol pemutus AI, yang meminta usulan dari para pakar dalam waktu dua bulan dan mempercepat penerapan undang-undang California tentang verifikasi independen dan auditor AI. Government Operations Agency menyusun laporan tersebut bersama California Office of Emergency Services dan para penasihat eksternal Jason Goldman, Gillian Hadfield, Alondra Nelson, dan Rob Reich.
Bagi para pengembang, kepatuhan tidak hanya mencakup penerbitan kebijakan keselamatan, tetapi juga pengawasan eksternal yang berkelanjutan, pelaporan insiden yang lebih cepat, serta kemampuan mematikan sistem yang dapat dibuktikan. Usulan ini menyisakan dua keputusan yang saling berkaitan bagi para anggota legislatif: seberapa besar kewenangan intervensi yang perlu diberlakukan dan bagaimana menjadikan pengawasan berkelanjutan dapat dijalankan secara operasional sementara sektor verifikasi berlisensi masih berkembang.












