Legislatur California Mengesahkan RUU Verifikasi Keamanan AI Independen

Legislatur California memberikan persetujuan akhir pada 30 Agustus 2026 terhadap SB 813, undang‑undang yang ditulis oleh Senator Jerry McNerney yang akan mengarahkan Badan Operasi Pemerintah untuk menetapkan organisasi verifikasi independen — auditor eksternal yang berkualifikasi untuk menilai risiko keamanan sistem dan model AI. RUU ini kini diserahkan kepada Gubernur Gavin Newsom.

Majelis mengesahkan RUU pada pembacaan ketiga pada 30 Agustus 2026, dan Senat menyetujui amandemen Majelis pada hari yang sama, menyelesaikan proses legislatif, menurut catatan suara resmi. Majelis mencatat 67 suara setuju, 6 suara tidak setuju, dan 6 anggota tidak memberikan suara; persetujuan Senat memperoleh 39 suara setuju, tanpa oposisi, dan satu anggota tidak memberikan suara.

Apa yang Diharapkan SB 813

RUU ini menambahkan bab baru ke Kode Pemerintah California yang mencakup apa yang disebutnya Organisasi Verifikasi Independen Keamanan Kecerdasan Buatan California. Pada atau sebelum 1 Januari 2028, Badan Operasi Pemerintah harus mengembangkan persyaratan aplikasi untuk penunjukan sebagai organisasi verifikasi independen, atau IVO; prosedur untuk menangguhkan atau menghentikan penunjukan; dan kriteria untuk menentukan apakah auditor AI memenuhi syarat. Badan harus mempublikasikan persyaratan dan kriteria tersebut secara publik, meninjau dan memperbaruinya seiring perubahan teknologi dan standar industri, dan, bila memungkinkan, menyelaraskannya dengan standar audit dan jaminan profesional serta regulasi yang ada.

Berdasarkan definisi dalam RUU, IVO adalah auditor AI yang telah menunjukkan keahlian dalam menilai risiko yang ditimbulkan oleh sistem atau model AI serta mengidentifikasi metrik dan metodologi di balik penilaian tersebut. IVO yang ditunjuk tidak boleh memiliki ketergantungan finansial, operasional, atau manajerial pada pihak yang dinilai. IVO dapat menerima pembayaran dari pihak yang dinilai dengan tarif pasar yang wajar, namun tidak boleh menerima syarat yang mengaitkan pembayaran dengan hasil penilaiannya.

Prosedur penangguhan dan penghentian harus mencakup kegagalan mematuhi standar yang tepat, penyajian informasi yang menyesatkan secara material dalam aplikasi atau pengungkapan yang diwajibkan, konflik kepentingan yang mengganggu independensi, kegagalan menjaga dokumentasi yang memadai, kelemahan keamanan siber, dan perilaku yang secara wajar menimbulkan keraguan terhadap integritas, objektivitas, atau kompetensi IVO.

Badan juga harus membentuk kelompok kerja yang melibatkan insinyur dari perusahaan AI yang bersaing serta pakar keamanan AI untuk mengumpulkan masukan pemangku kepentingan mengenai standar, dan harus melaporkan temuan kelompok kerja tersebut kepada Legislatur. Setiap IVO yang ditunjuk harus menyerahkan laporan tahunan, tidak lebih cepat dari 12 bulan setelah penunjukan awalnya, yang merangkum standar dan metodologinya serta mengungkapkan perubahan kebijakan tata kelola atau sumber pendanaan yang relevan dengan independensinya. IVO dapat menyunting materi untuk melindungi rahasia dagang, keamanan siber, keselamatan publik, atau keamanan nasional, namun harus menyimpan informasi yang tidak disunting selama lima tahun.

Kerangka kerja ini bersifat sukarela. RUU menyatakan bahwa tidak ada pengembang, penyebar, atau operator sistem atau model AI yang diwajibkan untuk melibatkan IVO atau menjalani audit, tidak menetapkan tanggung jawab hanya karena kegagalan mematuhi standar, dan tidak menjadi rekomendasi atau dukungan negara terhadap sistem atau model AI manapun. Dalam litigasi yang menuduh bahwa sistem AI menyebabkan kerugian, RUU menyatakan bahwa audit yang dilakukan sesuai dengan standar yang diidentifikasi dalam bab tersebut relevan, namun tidak bersifat konklusif terhadap tindakan tersebut.

Pernyataan Penulis dan Sponsor

Kantor McNerney menggambarkan rancangan ini sebagai kerangka kerja pertama di dunia untuk penilaian independen oleh pihak ketiga terhadap potensi risiko keamanan yang ditimbulkan oleh sistem AI. Pengumumannya melaporkan hasil suara Senat 37–0 dan suara Majelis 53–4; catatan legislatif resmi mencatat persetujuan Senat 39–0 dengan satu anggota tidak memberikan suara dan suara Majelis 67–6 dengan enam anggota tidak memberikan suara.

“Legislatur California hari ini mengirimkan pesan yang jelas: Sudah waktunya California memimpin dalam menilai potensi risiko keamanan AI, karena Washington, D.C., tidak mampu atau tidak mau melakukannya,” kata McNerney dalam pernyataan yang mengumumkan pemungutan suara. Kantornya juga menyatakan bahwa pembentukan evaluasi independen oleh pihak ketiga terhadap AI merupakan salah satu rekomendasi utama panel biru Newsom tentang kecerdasan buatan, dan mengutip survei yang menunjukkan dua pertiga warga Amerika memiliki sedikit atau tidak ada kepercayaan pada pemerintah federal untuk mengatur AI secara efektif.

SB 813 disponsori oleh Fathom, sebuah organisasi nirlaba yang menyatakan telah mengembangkan dan mempromosikan model IVO serta bekerja dengan pembuat kebijakan di seluruh negeri untuk menerapkannya. Organisasi tersebut menggambarkan IVO sebagai pakar eksternal yang berkualifikasi yang dapat secara independen menilai risiko model dan sistem AI menggunakan pengujian dan analisis yang kredibel, dan menyatakan bahwa RUU ini akan memungkinkan risiko potensial yang ditimbulkan oleh teknologi tersebut dinilai secara independen alih‑alih diterima begitu saja.

“Kekuatan model verifikasi independen terletak pada kemampuannya memungkinkan pakar independen yang berkualifikasi menilai risiko kemampuan AI, dan tetap mengikuti perkembangan teknologi alih‑alih mengunci satu tes menjadi undang‑undang,” kata Andrew Freedman, CEO Fathom, dalam pernyataan organisasi tersebut.

Pernyataan Fathom juga menempatkan RUU ini bersama SB 53, yang menurutnya kini mewajibkan pengembang frontier besar untuk mempublikasikan kerangka kerja keamanan dan melaporkan insiden kritis. Organisasi tersebut menyatakan bahwa SB 813 akan memulai pembangunan lapisan akuntabilitas tambahan karena penentuan keamanan masih sangat bergantung pada perusahaan yang menilai sistem mereka sendiri, dan bahwa mereka akan terus bekerja dengan pembuat kebijakan California, pakar teknis, dan pemangku kepentingan industri untuk memajukan kerangka kerja tersebut.

Versi Sebelumnya dari RUU

McNerney memperkenalkan SB 813 pada 21 Februari 2025, bersama anggota Majelis Bauer‑Kahan dan Lowenthal sebagai co‑penulis, dan RUU tersebut mengalami amandemen berulang di kedua kamar, dengan amandemen Majelis terbaru pada 26 Agustus 2026, menurut catatan legislatif. Senat mengesahkan versi awal RUU tersebut dengan 31–7 pada 27 Januari 2026. Pengumuman McNerney pada saat itu menyatakan bahwa versi tersebut akan membentuk Komisi Standar dan Keamanan Kecerdasan Buatan California untuk menunjuk panel pakar IVO yang akan menetapkan standar sukarela, mensertifikasi pengembang dan vendor AI, serta memantau kepatuhan, dengan wewenang mencabut sertifikasi.

Jika Newsom menandatangani RUU ini, Badan Operasi Pemerintah akan menghadapi tenggat 1 Januari 2028 untuk membangun sistem penunjukan, dengan temuan kelompok kerja dilaporkan kepada Legislatur dan laporan IVO tahunan pertama harus diserahkan tidak lebih cepat dari 12 bulan setelah penunjukan awal suatu organisasi.