Hochul Luncurkan Jaringan Pengujian Keselamatan AI di Seluruh New York

Gubernur New York Kathy Hochul meluncurkan upaya sains dan keselamatan AI di seluruh negara bagian pada 10 November 2026, dengan menugaskan Pusat Tanggung Jawab dan Riset AI New York di Binghamton University untuk memimpin pengujian independen model AI terdepan dan mengoordinasikan jaringan yang terdiri atas lebih dari 80 peneliti.

Pusat yang dikenal sebagai NYCAIRR ini akan menjalankan tugas tersebut melalui evaluasi independen, penelitian ilmiah dasar, dan pelatihan bagi para pakar keselamatan AI. Lingkup kerjanya mencakup penilaian sistem yang ada saat ini sekaligus pengembangan alat ukur dan standar untuk model yang semakin canggih. Kantor gubernur menyatakan bahwa penelitian ini bertujuan menyediakan bukti objektif bagi pejabat publik dalam mengambil keputusan terkait keselamatan dan akuntabilitas AI, sekaligus mendukung penerapan yang bertanggung jawab di bidang kedokteran, penemuan ilmiah, dan infrastruktur kritis.

Pengujian Independen di Seluruh New York

Greg Morrisett, dekan sekaligus wakil rektor Cornell Tech, dan Jeannette Wing, wakil presiden eksekutif bidang penelitian di Columbia University, akan menjabat sebagai direktur pendamping sementara. Mereka akan mengarahkan agenda ilmiah, mengawasi evaluasi independen, dan membangun jaringan di seluruh negara bagian, dengan para pesertanya tetap berkedudukan di institusi masing-masing. Pusat ini akan memanfaatkan komputasi canggih dari Empire AI, sebuah inisiatif publik-swasta senilai $500 juta yang mendukung penelitian AI demi kepentingan publik.

Agenda penelitian ini mencakup cara kerja sistem canggih, cara menguji keselamatan dan keamanannya, apakah sistem tersebut berperilaku sesuai tujuan, serta cara menggunakan AI secara bertanggung jawab dalam penemuan ilmiah. Upaya perekrutan nasional akan mencari pakar di bidang teori matematika, metode formal dan verifikasi, sistem agenik dan kompleks, keamanan perangkat keras dan privasi, interpretabilitas dan penyelarasan, serta AI ilmiah dan keamanan hayati.

Hochul menggambarkan upaya independen ini sebagai pemeriksaan terhadap klaim para pengembang sendiri. “Taruhannya terlalu besar untuk begitu saja menerima klaim perusahaan AI sebagai kebenaran,” katanya.

Pusat ini pertama kali diumumkan pada 21 Januari 2026, dengan sumbangan filantropi sebesar $30 juta dari kelompok donatur yang dipimpin oleh Tom Secunda, alumnus Binghamton sekaligus salah satu pendiri Bloomberg LP, serta investasi modal penelitian terpisah sebesar $25 juta dari State University of New York. Negara Bagian New York juga menyediakan modal operasional. Peluncuran pada November ini memperluas misi awal penelitian di universitas negeri tersebut dengan menambahkan jaringan di seluruh negara bagian dan program evaluasi independen.

Kaitan dengan Pengawasan Berdasarkan RAISE Act

Bersamaan dengan peluncuran riset tersebut, New York membuka Portal RAISE berdasarkan Undang-Undang Keselamatan dan Pendidikan AI yang Bertanggung Jawab. Pengembang AI terdepan berskala besar wajib menggunakan portal tersebut untuk mendaftar kepada pemerintah negara bagian paling lambat 1 Januari 2027. Kantor Inovasi Digital, Tata Kelola, Integritas, dan Kepercayaan (DIGIT), yang berada di bawah Departemen Layanan Keuangan, bertugas melaksanakan undang-undang tersebut.

Semua pengembang AI terdepan yang beroperasi di New York wajib mematuhi persyaratan keselamatan dan transparansi, sementara pengembang berskala besar memiliki kewajiban tambahan. Mulai Januari 2027, pengembang berskala besar wajib menerbitkan kerangka keselamatan, sedangkan semua pengembang AI terdepan wajib melaporkan insiden keselamatan kritis dan menerbitkan laporan transparansi model. Pengumuman pelaksanaan pada 21 September 2026 dari negara bagian itu menetapkan bahwa pengembang berskala besar wajib melaporkan insiden keselamatan kritis kepada DIGIT dalam waktu 72 jam, mengajukan penilaian risiko katastrofik setiap triwulan, dan menyerahkan pernyataan keterbukaan setidaknya sekali setiap dua tahun.

Atas permintaan negara bagian, NYCAIRR dapat menyediakan keahlian, penilaian, dan bukti untuk mendukung pengawasan AI terdepan. Pusat ini akan berkoordinasi dengan DIGIT untuk meninjau kerangka keselamatan yang diterbitkan para pengembang dan merekomendasikan cara memperkuat persyaratan.

Struktur tersebut memisahkan administrasi regulasi dari dukungan teknis independen: DIGIT menangani pendaftaran dan pelaporan, sedangkan jaringan penelitian bertugas menguji sistem canggih dan menelaah kerangka yang mendasari keterbukaan informasi para pengembang. Apakah jaringan ini dapat memberikan bukti yang berguna bagi pejabat, di luar publikasi perusahaan itu sendiri, akan menjadi tolok ukur praktis bagi pendekatan New York saat kewajiban yang berlaku mulai Januari diterapkan.