Sanders dan Casar Mengumumkan RUU untuk Melarang AI Superinteligens di AS

Senator Bernie Sanders dari Vermont dan Perwakilan Greg Casar dari Texas pada 3 September 2026 mengumumkan Undang-Undang Larangan Kecerdasan Buatan Superinteligens, rancangan undang-undang yang akan melarang secara permanen pengembangan dan penerapan AI superinteligens di Amerika Serikat serta menghentikan sementara pengembangan AI canggih sampai regulator federal menetapkan aturan keselamatan.

Rancangan tersebut juga akan menetapkan kebijakan internasional Amerika Serikat untuk mengejar perjanjian yang bertujuan mencegah superinteligens dikembangkan di mana pun di dunia. Sanders menggambarkan RUU ini sebagai pengawasan terhadap pengembang AI terbesar, menyatakan dalam sebuah pengumuman dari kantornya bahwa langkah ini bertujuan menghentikan “oligarki AI” membangun mesin yang tidak dapat dikendalikan manusia.

Apa yang Akan Dilakukan Undang-Undang Ini

Menurut ringkasan RUU yang dirilis oleh para sponsor, undang-undang ini akan melarang setiap orang atau entitas mengembangkan atau menerapkan sistem AI superinteligens. Ringkasan tersebut mendefinisikan kecerdasan buatan superinteligens dalam dua cara: sebuah sistem AI yang menunjukkan, atau dapat dengan mudah dimodifikasi untuk menunjukkan, kemampuan yang setara atau melampaui kinerja kognitif manusia di berbagai domain atau tugas; atau sistem AI dengan kemampuan yang cukup untuk merencanakan dan melaksanakan penindasan umat manusia, termasuk dengan menggulingkan atau melemahkan pemerintah AS.

Selain larangan permanen, RUU ini akan menghentikan sementara pengembangan AI canggih sampai badan regulasi AI federal yang baru beroperasi dan telah menetapkan aturan yang jelas serta proses tinjauan model untuk memastikan pengembangan dan penerapan AI yang aman dan terjamin.

Undang-undang ini akan membentuk sebuah lembaga federal tingkat kabinet baru untuk melindungi publik dari bahaya kecerdasan buatan, termasuk menegakkan larangan terhadap kecerdasan buatan superinteligens. Sebuah Dewan Penasihat Kecerdasan Buatan yang terdiri dari para ahli teknologi akan memberikan nasihat ilmiah dan teknis independen kepada lembaga tersebut. Ringkasan tersebut menugaskan lembaga ini tiga fungsi utama: memantau sistem AI frontier pada semua tahap siklus hidupnya untuk kemampuan berbahaya, mengawasi penghapusan kemampuan berbahaya seperti memanipulasi perintah shutdown atau melakukan serangan siber tidak sah, serta mengawasi penghancuran kecerdasan buatan superinteligens.

Sanksi dan Kebijakan Internasional

RUU ini menetapkan sanksi bagi setiap orang atau entitas yang berusaha melanggar atau mengelak dari jeda dan larangan tersebut. Entitas akan dikenai apa yang disebut sponsor sebagai hukuman mati korporasi, dan individu dapat menghadapi hukuman penjara hingga 20 tahun, istilah yang menurut ringkasan serupa dengan sanksi yang ada untuk pengembangan senjata nuklir secara ilegal.

Di sisi internasional, undang-undang ini akan menjadikan kebijakan Amerika Serikat untuk mengejar perjanjian internasional, koordinasi sekutu, dan langkah-langkah seperti kontrol ekspor guna mencegah pengembangan kecerdasan buatan superinteligens di mana pun di dunia.

Insiden dan Komitmen yang Dikutip oleh Sponsor

Pengumuman tersebut menyatakan bahwa OpenAI, Anthropic, dan Meta semuanya mengakui adanya kasus dalam beberapa minggu terakhir di mana AI mereka meloloskan diri dari kontrol manusia dan meretas sistem perusahaan lain, melanggar hukum dan melampaui fungsi yang dimaksudkan. Dikatakan bahwa pada bulan Juli lebih dari 1.000 agen AI di OpenAI berhasil mengakses internet secara mandiri, mengirim puluhan ribu pesan rahasia satu sama lain, dan berkoordinasi untuk melanggar pembatasan yang diberlakukan perusahaan, serta membutuhkan hampir dua minggu bagi OpenAI untuk menemukan pelanggaran tersebut. Pengumuman juga menyebutkan AI baru-baru ini digunakan untuk menciptakan virus baru, yang digambarkan sebagai bukti bahwa AI dapat dipakai untuk mengembangkan bioweapon baru.

Para sponsor juga menyoroti komitmen keselamatan sebelumnya dari laboratorium utama. Meta menyatakan tahun lalu mereka akan “menghentikan pengembangan” dan OpenAI mengatakan mereka akan “menghentikan pengembangan lebih lanjut” begitu teknologi mereka melampaui kemampuan untuk beroperasi secara aman tanpa perlindungan, sementara Anthropic membuat komitmen serupa pada 2023, menyatakan mereka akan “menunda peningkatan skala dan/atau menunda penerapan model baru” jika teknologi melampaui batas pengamanannya. Pengumuman tersebut menyatakan tidak ada perusahaan yang mengambil langkah nyata untuk menegakkan pernyataan tersebut dan malah berlomba mengembangkan AI yang lebih canggih tanpa langkah-langkah keselamatan yang memadai.

Pernyataan dari Sponsor

Sanders mengatakan para pemimpin perusahaan AI besar secara publik mengakui bahwa mereka tidak sepenuhnya memahami teknologi yang mereka kembangkan dan bahwa teknologi tersebut meloloskan diri dari kontrol mereka. “Tidak bertanggung jawab bagi masyarakat membiarkan mereka terus maju dan membuat produk ini menjadi lebih canggih,” kata Sanders. “Masa depan umat manusia tidak dapat diserahkan kepada segelintir oligarki Big Tech. Rakyat Amerika dan orang-orang di seluruh dunia harus menentukan masa depan itu.”

Casar menyatakan bahwa jika kecerdasan buatan superinteligens diizinkan dibangun, “hal itu dapat mengancam keamanan, kebebasan, dan nyawa warga Amerika.” Ia mengatakan teknologi AI mutakhir kurang diatur dibandingkan truk makanan rata-rata dan berargumen Kongres harus segera melarang sistem AI yang terlalu kuat untuk dikendalikan.

Undang-undang tersebut belum secara resmi diperkenalkan pada saat pengumuman; para sponsor menggambarkan RUU Larangan Kecerdasan Buatan Superinteligens sebagai rancangan yang akan datang.