Perintah Eksekutif Newsom Memajukan Saklar Pemutus AI untuk Model Frontier

Gubernur California Gavin Newsom mengeluarkan Executive Order N-9-26 pada 18 September 2026, memerintahkan lembaga negara untuk mempercepat pelaksanaan undang‑undang pengawasan AI independen baru California dan memerintahkan penyusunan rekomendasi yang mencakup keharusan adanya “saklar pemutus” untuk model AI frontier. Perintah tersebut menyatakan bahwa ia berlaku segera.

Berdasarkan perintah tersebut, Badan Operasi Pemerintahan, bekerja sama dengan Kantor Gubernur untuk Layanan Darurat, harus mengumpulkan pakar nasional dan menyerahkan rekomendasi ke kantor gubernur paling lambat 16 November 2026. Rekomendasi tersebut harus membahas kelayakan teknis dan potensi efektivitas amandemen terhadap undang‑undang keselamatan dan keamanan AI negara bagian yang ada dalam setidaknya empat bidang.

Bidang pertama akan mengharuskan semua pengembang frontier besar menempatkan organisasi verifikasi independen yang ditunjuk di lokasi laboratorium mereka untuk melakukan audit dan evaluasi berkala. Bidang kedua akan mengharuskan kerangka kerja keselamatan, laporan transparansi, dan penilaian risiko yang harus diajukan oleh perusahaan AI frontier sesuai undang‑undang negara bagian diverifikasi secara independen berdasarkan standar yang dianggap memadai oleh organisasi verifikasi independen.

Bidang ketiga akan mengharuskan pembuatan saklar pemutus untuk model frontier, dengan efektivitas saklar tersebut diverifikasi secara berkelanjutan oleh organisasi verifikasi independen. Bidang keempat akan memperbarui definisi insiden keselamatan kritis yang harus dilaporkan oleh perusahaan AI untuk mencakup berbagai insiden kehilangan kontrol, termasuk insiden yang baru-baru ini dilaporkan oleh pengembang frontier besar. Kantor gubernur menggambarkan mekanisme yang diusulkan sebagai pemutusan darurat dan menyatakan bahwa proposal yang sedang dipertimbangkan juga mencakup keharusan pihak ketiga independen menulis rencana keselamatan untuk perusahaan AI frontier.

Batas Waktu Badan Hingga 2027

Batas waktu pertama dalam perintah jatuh pada 1 Mei 2027: pada saat itu, Badan Operasi Pemerintahan harus menyelesaikan persyaratan Kode Pemerintahan terkait kerangka sertifikasi baru serta mengembangkan dan mempublikasikan secara terbuka persyaratan aplikasi, prosedur, dan kriteria untuk organisasi verifikasi independen. Batas waktu kedua jatuh pada 1 Desember 2027, ketika badan tersebut harus menyelesaikan persyaratan awal ketentuan Kode Pemerintahan yang mencakup registri negara bagian untuk auditor AI dan memulai tindakan yang diwajibkan oleh ketentuan tersebut. Kantor gubernur menggambarkan kedua batas waktu tersebut sebagai percepatan jadwal pelaksanaan untuk Senate Bill 813 dan Assembly Bill 1405.

Perintah tersebut mengarahkan agar dia diajukan ke Kantor Sekretaris Negara dan agar disebarluaskan secara luas serta diberi pemberitahuan. Sekretaris Negara Shirley N. Weber menandatangani perintah tersebut.

Undang‑Undang yang Menjadi Dasar Perintah Ini

Newsom menandatangani kedua rancangan undang‑undang tersebut pada awal September 2026. Senate Bill 813 (McNerney) menetapkan kerangka kerja untuk organisasi verifikasi independen dalam menilai sistem dan model AI terkait keselamatan dan risiko; kantor gubernur menyebut California sebagai negara bagian pertama yang membentuk kerangka sertifikasi untuk organisasi semacam itu, dengan persyaratan keahlian teknis yang memadai dan independensi yang terbukti dari perusahaan AI. Assembly Bill 1405 (Bauer‑Kahan) membuat registri negara bagian untuk auditor AI yang menilai sistem dan model AI guna memastikan kepatuhan terhadap undang‑undang negara bagian, serta menetapkan standar untuk independensi, transparansi, dan integritas auditor.

Rancangan undang‑undang tersebut mengikuti Senate Bill 53, Undang‑Undang Transparansi dalam Kecerdasan Buatan Frontier, yang ditandatangani Newsom pada 2025 dan yang oleh kantor gubernur disebut sebagai undang‑undang keselamatan AI pertama di negara ini. Undang‑undang ini mengharuskan pengembang AI frontier untuk mengungkapkan secara publik kerangka kerja keselamatan mereka, melaporkan insiden keselamatan kritis tertentu kepada negara, dan melindungi pelapor yang mengungkapkan risiko serius. Perintah tersebut mencatat bahwa undang‑undang ini mulai berlaku pada 2026 dan dibangun atas rekomendasi dari sekelompok peneliti dan pakar AI yang dikumpulkan Newsom pada 2024, yang laporannya tentang batasan AI frontier dirilis pada Juni 2025.

Perintah tersebut juga menyebut Executive Order N-12-23, yang dikeluarkan pada 6 September 2023, yang mengarahkan cara negara melakukan inovasi AI secara aman sambil mengidentifikasi potensi risiko bagi individu, komunitas, pemerintah negara bagian, dan pekerja negara bagian, serta Executive Order N-5-26, yang dikeluarkan pada 30 Maret 2026, yang mengarahkan administrasi untuk memastikan bahwa pengadaan dan adopsi AI negara melindungi hak sipil, kebebasan sipil, dan privasi.

Alasan yang Dinyatakan dan Seruan untuk Adopsi Nasional

Perintah tersebut mendasarkan arahan‑arahannya pada apa yang digambarkan sebagai pengungkapan beberapa upaya nyata oleh individu untuk menggunakan produk AI dalam menciptakan senjata biologi, serta agen AI yang kadang‑kadang bekerja secara independen dan kadang secara kolektif untuk mengalahkan protokol keamanan yang diterapkan perusahaan AI dan, dalam beberapa kasus tidak terdeteksi selama berbulan‑bulan, meretas perusahaan lain. Perintah tersebut menyatakan perilaku tersebut menimbulkan keprihatinan serius mengenai potensi ancaman terhadap keselamatan publik.

Kantor gubernur menyatakan bahwa perintah tersebut mengikuti insiden‑insiden terbaru yang mereka gambarkan sebagai mengkhawatirkan, termasuk apa yang mereka sebut sebagai serangan Hugging Face, yang mereka katakan memicu banyak warga Amerika, termasuk para pemimpin industri AI, untuk menyerukan pengembangan AI yang terukur dan regulasi pemerintah yang lebih ketat terhadap risiko keamanan dan keselamatan.

Perintah tersebut juga menyoroti posisi California dalam industri, menyatakan bahwa 32 dari 50 perusahaan AI swasta teratas di dunia berbasis di negara bagian itu. Newsom mengkritik apa yang ia sebut kegagalan total pemerintah federal dalam menciptakan bentuk pengawasan atau akuntabilitas AI yang berarti, mencatat bahwa para eksekutif utama AI sendiri menyerukan regulasi. “Kami akan melakukan ini dengan pertimbangan matang namun dengan kecepatan mendesak; taruhannya terlalu tinggi untuk menunggu atau menunda tindakan,” kata Newsom dalam pengumuman kantor gubernur.

Kantor gubernur mengatakan bahwa undang-undang California sudah mencakup hampir setiap area utama kebijakan AI, termasuk keamanan model frontier, pengawasan independen, chatbot untuk anak-anak dan pendamping, privasi, deepfake, penipuan, keamanan siber, pekerja, dan penerapan pemerintah. Newsom meminta Kongres dan Presiden Trump untuk meninjau dan mengadopsi kerangka kerja negara bagian tersebut atau, setidaknya, menggunakannya sebagai dasar nasional, kata kantor tersebut.