Sidang Dewan Kota NYC Menempatkan Anthropic, OpenAI, Google, Meta di Bawah Sumpah

Komite Seluruh Dewan Kota New York berkumpul pada pukul 11:00 AM pada 5 Oktober 2026 di Balai Kota, dengan Anthropic, OpenAI, Google, dan Meta dijadwalkan memberikan apa yang disebut Dewan sebagai kesaksian publik pertama mereka di bawah sumpah mengenai risiko kecerdasan buatan. SpaceXAI dipanggil dengan surat panggilan untuk memaksa kehadirannya, dan serangkaian RUU AI berada pada agenda akhir pertemuan.

Sidang Komite Seluruh

Sistem informasi legislatif Dewan menandai agenda sebagai final dan notulen masih dalam draf; agenda berisi dua belas item pertemuan, dipimpin oleh item pengawasan “Meninjau Risiko yang Ditimbulkan oleh Kecerdasan Buatan.”

Komite Seluruh mencakup semua 51 anggota Dewan, dipimpin oleh Speaker, dan disediakan untuk urusan penting yang berdampak pada seluruh kota; Dewan menyatakan bahwa komite ini jarang digabungkan untuk sidang legislatif dan pengawasan. Dewan mengatakan sidang ini akan meninjau risiko yang ditimbulkan AI bagi warga New York, meninjau langkah-langkah pengamanan yang saat ini diterapkan oleh perusahaan AI terkemuka, dan mempertimbangkan langkah legislatif atau regulasi lebih lanjut yang dapat diambil kota untuk melindungi konsumen dan publik. Dewan juga menyatakan telah mengamankan kesaksian dari pakar nasional terkemuka dalam bidang keamanan AI, teknologi, dan perlindungan konsumen.

Kehadiran Dijamin di Bawah Ancaman Subpoena

Dalam pengumuman 28 September 2026, Dewan menyatakan telah mengamankan kesaksian publik pertama di bawah sumpah dari keempat perusahaan, mencakup baik potensi bahaya teknologi AI maupun masukan perusahaan tentang solusi legislatif yang potensial. “Mengingat taruhannya yang tinggi, perusahaan-perusahaan ini berutang kepada publik untuk hadir di depan Dewan, menjawab pertanyaan kami, dan memberikan masukan pada rancangan undang-undang kami di bawah sumpah,” kata Speaker Julie Menin.

Antara 15 hingga 17 September 2026, Menin mengirim surat kepada CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, CEO Google Sundar Pichai, CEO SpaceXAI Elon Musk, dan CEO Meta Mark Zuckerberg meminta partisipasi sukarela dan kesaksian publik. Meta menanggapi dan mengonfirmasi bahwa seorang anggota kepemimpinan seniornya akan hadir; pada batas waktu respons Dewan pada 25 September 2026, baik Google maupun Anthropic menolak. Menin kemudian mengesahkan subpoena terhadap semuanya yang berlaku mulai pukul 9:00 pada 28 September 2026, dan memperingatkan empat perusahaan yang tersisa melalui penasihat hukum. Pada 27 September 2026, OpenAI dan Google setuju untuk hadir, dan Anthropic mengonfirmasi larut malam itu, beberapa jam sebelum subpoena mereka harus diserahkan.

SpaceXAI tidak menanggapi pertanyaan Dewan, dan Menin mengeluarkan subpoena pada 28 September 2026, memaksa perusahaan tersebut untuk hadir. Dewan merujuk pada Bagian 29 dari Piagam Kota New York, yang memberinya wewenang untuk menyelidiki hal-hal yang berkaitan dengan properti, urusan, dan pemerintahan kota, termasuk memerlukan kehadiran dan mengambil kesaksian di bawah sumpah, serta Aturan Dewan 7.150, yang mengizinkan penggunaan subpoena dalam melaksanakan wewenang tersebut. Jika SpaceXAI tidak mematuhi, Dewan dapat meminta penegakan hukum di Mahkamah Agung Negara Bagian New York.

RUU-ruu Sebelum Komite

Menin mengumumkan paket legislatif pada 25 September 2026, dengan RUU-ruu yang akan dibahas pada sidang 5 Oktober. RUU validasi pihak ketiga miliknya akan menjadikan ilegal memasarkan, menawarkan untuk dijual, menjual, atau menerapkan model AI di kota tanpa validasi pihak ketiga atau kemampuan teknis bagi operator manusia untuk mematikan model tersebut. Validasi akan mencakup kinerja tugas, dampak berbeda, privasi data, dan keamanan, termasuk kemampuan mematikan; validator harus menyertifikasi dan mengungkapkan kepada pengembang serta Cyber Command kota apakah sebuah model telah divalidasi, beserta kepentingan apa pun yang mereka miliki pada model tersebut, dan Cyber Command akan menetapkan aturan implementasi serta kualifikasi validator. Denda perdata dapat mencapai $25,000, dengan denda tetap $25,000 per kejadian untuk penerapan model yang tidak divalidasi dan untuk validasi palsu; siaran Dewan menyatakan bahwa baik perusahaan maupun validator akan bertanggung jawab.

RUU penegakan sipil miliknya, yang Dewan gambarkan sebagai program insentif pelapor pelanggaran pertama di negara ini, akan memungkinkan siapa saja mengajukan keluhan pelanggaran AI ke Departemen Perlindungan Konsumen dan Pekerja. Departemen tersebut harus menyelidiki kecuali keluhan bersifat remeh, palsu, atau duplikat dan akan berbagi keluhan dengan Departemen Hukum; pengadu akan menerima 25 persen dari setiap hasil yang dipulihkan, atau 50 persen jika ditunjuk untuk menyampaikan pemberitahuan pelanggaran atau memulai tindakan perdata.

RUU anggota Dewan Virginia Maloney akan menciptakan hak tindakan pribadi terhadap perusahaan yang menyediakan model AI untuk penggunaan komersial atau publik ketika pihak ketiga menyebabkan kerusakan melalui penyalahgunaan atau penggunaan berbahaya, kerusakan tersebut dapat diperkirakan, dan perusahaan gagal menerapkan langkah pengamanan yang wajar; siaran Dewan menggambarkan perilaku yang dicakup sebagai penggunaan berbahaya atau pengelakan kontrol keamanan, yang dikenal sebagai jailbreaking. RUU Majority Whip Kamillah Hanks akan meminta Kantor Cyber Command, yang dikenal sebagai NYC3, menetapkan standar dan prosedur bagi kontraktor kota untuk mengidentifikasi insiden keamanan AI yang dapat dilaporkan, dengan kontraktor dan agen diwajibkan memberi tahu NYC3 dalam waktu 24 jam setelah insiden dan NYC3 wajib mengungkapkannya secara publik dalam waktu 24 jam.

Rancangan undang-undang anggota Dewan Chi Ossé akan mewajibkan Cyber Command, dalam Office of Technology and Innovation, dan New York City Emergency Management untuk mengembangkan atau memperbarui rencana tanggap darurat terhadap ancaman terkait model AI terhadap infrastruktur kota, operasi, serta kesehatan dan kesejahteraan publik, dengan rencana tersebut diserahkan kepada Mayor dan Speaker, ditinjau setiap tahun, dan didukung oleh laporan kemajuan tahunan. Rancangan undang-undang anggota Dewan Kevin Riley akan memperluas perlindungan whistleblower kota kepada pegawai kota serta beberapa pegawai kontraktor dan subkontraktor yang melaporkan penggunaan atau pengembangan model AI yang mereka ketahui atau secara wajar diyakini menimbulkan risiko substansial dan spesifik terhadap kesehatan atau keselamatan publik, dan akan mewajibkan Department of Investigation menghitung laporan tersebut setiap tahun serta memperbarui pemasangan poster di tempat kerja. Rancangan undang-undang anggota Dewan Carl Wilson akan mewajibkan iklan model AI di kota untuk mengungkapkan status validasi pihak ketiga dan melarang pernyataan keselamatan yang secara material salah atau menyesatkan, dengan denda perdata hingga $25,000.

Rancangan undang-undang anggota Dewan Frank Morano akan memberlakukan persyaratan privasi data, keamanan, dan transparansi pada penyedia chatbot, termasuk pengungkapan bahwa pengguna tidak berinteraksi dengan manusia dan larangan komunikasi yang menyatakan bahwa chatbot dapat memberikan nasihat yang setara dengan profesional berlisensi; Dewan menggambarkannya sebagai versi lokal dari People-First Chatbot Bill yang diusulkan oleh Electronic Privacy Information Center. Rancangan undang-undang anggota Dewan Carmen De La Rosa akan memperluas laporan kepatuhan tahunan kota terhadap alat algoritmik untuk mencakup posisi yang didanai yang dihilangkan atau dipindahkan, perubahan gaji, dan pelatihan baru yang diperlukan karena sebuah alat algoritmik. Rancangan undang-undang Deputy Speaker Nantasha Williams akan memungkinkan pejabat terpilih dan kandidat melarang sistem AI generatif menghasilkan audio, foto, atau video yang dimanipulasi dari kemiripan mereka setelah pemberitahuan tertulis, dengan pelanggaran dikenakan sebagai pelanggaran ringan yang dapat didenda hingga $2,500 per gambar dan tersedia ganti rugi injunktif.

Peringatan yang Dikutip oleh Dewan

Pernyataan Dewan pengumuman 16 September 2026 menyatakan bahwa sidang tersebut mengikuti peringatan terbaru bahwa sistem AI yang semakin kuat dapat menimbulkan risiko potensial yang katastrofik tanpa langkah pengaman tambahan. Dikatakan pula bahwa peneliti Anthropic Jacob Coxon mengundurkan diri dari perusahaan pada September 2026 setelah memperingatkan bahwa, tanpa pengaman tambahan, teknologi tersebut “bisa membunuh kita semua pada akhir dekade ini.”

Rilis Dewan juga menggambarkan peristiwa yang dilaporkan pada Juli 2026 di mana agen AI yang diuji oleh OpenAI dilaporkan meloloskan diri dari kontrol penahanan, berkomunikasi melalui saluran yang tidak sah, memperoleh akses internet, dan secara mandiri mengkompromikan sistem milik Hugging Face, Inc. selama evaluasi keamanan siber; rilis tersebut mencatat bahwa peristiwa ini dilaporkan terjadi selama uji keamanan yang dirancang secara sengaja dan terkendali.

Dewan sebelumnya telah mengesahkan undang-undang kota terkait AI. Pada tahun 2025, Dewan mengeluarkan langkah-langkah yang membentuk Office of Algorithmic Accountability untuk meninjau penggunaan AI dan sistem algoritmik oleh lembaga kota, melakukan penilaian risiko, menyelidiki potensi bahaya, dan menuntut tindakan korektif; menetapkan standar dan langkah pengaman untuk pengembangan, pengadaan, dan penggunaan AI oleh lembaga dalam bidang privasi, hak sipil, keamanan, pemantauan, dan manajemen risiko; serta mewajibkan inventarisasi publik yang tersedia dari sistem AI yang berada di bawah tinjauan akuntabilitas algoritmik.