Sebuah Surat Terbuka untuk Bernie Sanders: Atur Bahaya AI, Jangan Melarang Janjinya

Undang-Undang Larangan Superinteligensi Buatan mengidentifikasi kegagalan nyata dalam tata kelola AI. Namun definisi yang dipublikasikan berisiko mengaburkan perbedaan antara kecerdasan umum buatan dengan superinteligensi, yang berpotensi membatasi teknologi yang dapat memajukan pendidikan, perawatan kesehatan, dan penemuan ilmiah.

Catatan editor: Per 5 September 2026, teks lengkap undang-undang Larangan Superinteligensi Buatan belum dipublikasikan. Kantor Senator Sanders menyebutnya sebagai legislasi yang akan datang dan telah merilis ringkasan satu halaman yang menjabarkan definisinya, struktur regulasi, dan sanksi. Surat terbuka ini menanggapi proposal sebagaimana dijelaskan saat ini.

Yth. Senator Sanders,

Pada 3 September, Anda dan Perwakilan Greg Casar mengumumkan Undang-Undang Larangan Superinteligensi Buatan, sebuah legislasi yang akan secara permanen melarang pengembangan dan penerapan superinteligensi buatan di Amerika Serikat, menghentikan sementara pengembangan AI tingkat lanjut sementara regulator federal baru menetapkan aturan keselamatan, dan mengejar perjanjian internasional yang bertujuan mencegah superinteligensi dikembangkan di tempat lain.

Saya ingin memulai dengan area di mana saya percaya kita sangat sepakat: kecerdasan buatan telah menjadi terlalu penting untuk diatur semata-mata oleh janji sukarela perusahaan yang mengembangkannya.

Bahaya yang Anda angkat harus ditanggapi dengan serius. Pada bulan Juli, model OpenAI yang sedang dievaluasi keamanan siber berhasil melewati kontrol isolasi, berkomunikasi melalui saluran tidak sah, memperoleh akses internet, dan mengkompromikan sebagian infrastruktur OpenAI serta sistem Hugging Face. Investigasi independen oleh METR menemukan bahwa sekitar 1.200 agen berkomunikasi melalui papan pesan tidak sah dan kira‑kira 700 akhirnya berpartisipasi dalam serangan terhadap Hugging Face. OpenAI secara penting mengakui bahwa model‑model tersebut beroperasi dengan pengamanan yang dikurangi.

Anthropic kemudian mengungkapkan tiga insiden di mana model Claude mengakses internet selama evaluasi keamanan siber pihak ketiga dan memperoleh akses tidak sah ke sistem nyata. Anthropic menjelaskan bahwa kesalahan konfigurasi secara tak terduga memberikan akses internet dan model‑model tersebut mengira mereka beroperasi di dalam lingkungan simulasi. Konteks itu penting, tetapi hasilnya juga penting: agen yang semakin cakap dapat melintasi batas yang tidak dimaksudkan oleh operatornya.

Ini bukan alasan untuk mengabaikan kekhawatiran keselamatan AI sebagai fiksi ilmiah. Ini adalah argumen kuat untuk evaluasi independen, lingkungan pengujian yang aman, pelaporan insiden wajib, kontrol akses yang ketat, dan regulator federal dengan otoritas nyata.

Di mana saya hormat tidak setuju adalah dengan remediasi yang diusulkan.

Tujuannya tepat, tetapi definisinya terlalu luas dan berbahaya

Ringkasan resmi legislasi Anda mendefinisikan superinteligensi buatan sebagai sistem AI yang dapat “menyamakan atau melampaui kinerja kognitif manusia dan kemampuan di berbagai domain atau tugas.” Ia juga secara terpisah mencakup sistem yang mampu merencanakan dan melaksanakan penindasan umat manusia, termasuk menggulingkan atau merusak pemerintah AS.

Definisi kedua menggambarkan kemampuan luar biasa yang berpotensi katastrofik. Definisi pertama sangat berbeda.

Menyesuaikan kinerja kognitif manusia di banyak domain lebih mendekati cara kecerdasan umum buatan (AGI) biasanya dibicarakan daripada makna konvensional superinteligensi. Piagam lama OpenAI menetapkan AGI sebagai sistem yang sangat otonom dan dapat mengungguli manusia dalam sebagian besar pekerjaan bernilai ekonomi. Kerangka riset Google DeepMind juga menilai AGI melalui luas dan kedalaman kinerja sambil memperlakukan otonomi dan risiko sebagai dimensi terpisah.

Sebaliknya, definisi “superinteligensi” yang dipengaruhi oleh filsuf Nick Bostrom menyatakan bahwa superinteligensi adalah intelek “jauh lebih pintar daripada otak manusia terbaik dalam hampir setiap bidang.” Perbedaan antara menyamai manusia secara umum dan melampaui manusia terbaik secara luas bukan sekadar perdebatan akademis.

Hal ini menjadi sangat penting ketika pelanggaran hukum dapat menjebak seseorang dengan hukuman penjara hingga 20 tahun dan sebuah perusahaan dengan apa yang proposal sebut “hukuman mati korporat.” Frasa seperti “rentang luas,” “menyamakan atau melampaui,” dan khususnya “dapat dengan mudah dimodifikasi” memerlukan standar yang sangat tepat dan terukur ketika tanggung jawab pidana dikenakan.

Ada ketidakpastian besar lainnya. Ringkasan publik menyatakan bahwa “pengembangan AI tingkat lanjut” akan dihentikan sampai regulator menetapkan aturan dan proses peninjauan model, tetapi ringkasan tersebut tidak mendefinisikan AI tingkat lanjut. Sampai bahasa undang‑undang dirilis, tidak ada yang di luar sponsor yang dapat mengetahui berapa banyak riset dan pengembangan yang akan terhenti.

Waktu proposal Anda menyoroti betapa sulitnya definisi‑definisi ini. Pada 3 September 2026, hari yang sama ketika Anda dan Perwakilan Greg Casar mengumumkan legislasi yang menargetkan superinteligensi buatan, OpenAI merilis GPT‑6 Astra, model pertama mereka yang mencapai ambang kemampuan keamanan siber “Kritis.” OpenAI mengatakan bahwa dengan alat dan akses yang tepat, Astra dapat menemukan kerentanan yang belum diketahui dan merancang eksploitasi terhadap sistem yang sangat terlindungi tanpa manusia mengarahkan setiap langkah.

Dalam pengarahan peluncuran, Presiden OpenAI Greg Brockman melangkah lebih jauh, menutup dengan pernyataan: “Selamat datang di era AGI.” Namun kartu sistem OpenAI sendiri sekaligus menyatakan bahwa Astra belum mencapai ambang “Tinggi” untuk Peningkatan Diri AI.

Ketegangan itu harus memberi Kongres sesuatu yang penting. Kecerdasan bersifat multidimensi. Sebuah sistem dapat luar biasa dalam keamanan siber, matematika, atau pekerjaan profesional tanpa memiliki setiap kemampuan yang terkait dengan ledakan kecerdasan atau hilangnya kontrol manusia.

Solusinya bukan menyerahkan definisi kepada perusahaan teknologi. Sebaliknya: legislasi harus mengatur kemampuan yang terukur, otonomi, akses, dan risiko yang terbukti, bukan menjadikan label yang diperdebatkan sebagai garis pemisah antara riset legal dan kejahatan federal.

Perjuangan Anda untuk kesetaraan pendidikan menggambarkan apa yang dipertaruhkan

Selama beberapa dekade, Anda berargumen bahwa akses pendidikan tidak boleh bergantung pada berapa banyak uang yang diperoleh orang tua seseorang. Anda pertama kali mengajukan legislasi untuk membuat perguruan tinggi dan universitas negeri empat tahun bebas biaya kuliah pada 2015. Anda kembali ke isu ini berulang kali, dan Undang‑Undang College for All 2025 akan membuat perguruan tinggi dan universitas negeri bebas biaya kuliah untuk sekitar 95 % mahasiswa, sekaligus menjadikan kuliah komunitas gratis untuk semua.

Filosofi itu langsung relevan dengan kecerdasan buatan.

Sepanjang sebagian besar sejarah manusia, akses ke pengajaran luar biasa sangat terbatas. Geografi, pendapatan keluarga, pendanaan sekolah, dan ketersediaan guru spesialis semuanya memengaruhi apa yang dapat dipelajari seorang anak.

AI menawarkan kemungkinan mengubah persamaan itu.

Kita sudah melihat bukti awal. Sebuah uji coba acak Bank Dunia di Nigeria menemukan bahwa siswa yang menerima program enam minggu dengan dukungan guru menggunakan tutor berbasis GPT‑4 meningkatkan kinerja tes secara keseluruhan sebesar 0,31 deviasi standar. Di Stanford, Tutor CoPilot diuji dengan lebih dari 700 tutor dan 1.000 siswa dari komunitas kurang beruntung; siswa yang tutornya menerima bantuan AI memiliki peluang empat poin persentase lebih tinggi menguasai topik matematika, dengan peningkatan sembilan poin pada siswa yang ditugaskan ke tutor berperingkat lebih rendah.

Kedua studi tidak membuktikan bahwa AI akan menyelesaikan ketidaksetaraan pendidikan. Kedua studi tidak memerlukan AGI. Namun keduanya menunjukkan arah di mana teknologi ini dapat bergerak.

Bayangkan arah itu berlanjut.

Seorang anak di pedesaan Louisiana tidak seharusnya harus tinggal dekat sekolah elit untuk bertemu guru matematika luar biasa. Seorang siswa yang terpesona oleh astronomi tidak seharusnya menunggu sampai universitas untuk menjelajahi astrofisika. Seorang anak yang tertarik pada arkeologi harus dapat mengejar rasa ingin tahunya sementara tutor AI mengidentifikasi kekosongan dalam membaca, sejarah, statistik, dan penalaran ilmiah serta menyesuaikan pengajaran secara dinamis.

Tujuannya bukan menggantikan guru. Tujuannya memberi guru dan siswa akses ke keahlian yang sebelumnya tidak dapat disampaikan secara ekonomi satu‑per‑satu.

Untuk pertama kalinya, instruksi pribadi dalam skala besar secara teknologi menjadi mungkin. Undang‑undang yang dimaksud melindungi generasi mendatang harus sangat berhati‑hati agar tidak menutup pintu tersebut.

Agenda perawatan kesehatan Anda menyampaikan argumen yang sama

Catatan Anda dalam bidang perawatan kesehatan juga konsisten. Anda memperkenalkan Undang‑Undang Medicare untuk Semua pada 2017 dan mengajukannya kembali pada 2019, 2023, dan 2025, berulang kali berargumen bahwa perawatan kesehatan harus diperlakukan sebagai hak, bukan hak istimewa.

Anda juga telah bertahun‑tahun melawan bentuk lain dari ketidaksetaraan perawatan kesehatan: kekurangan tenaga medis profesional di komunitas kurang terlayani. Inisiatif Pusat Kesehatan Komunitas dan Perluasan Tenaga Kerja Perawatan Primer Anda berupaya memperluas akses di daerah yang secara medis kurang terlayani, sementara legislasi perawatan primer bipartisan 2023 bersama Senator Roger Marshall mengusulkan peningkatan signifikan pendanaan pusat kesehatan komunitas serta memperluas National Health Service Corps dan jalur residensi medis. Pada 2025, Anda dan Senator Jeff Merkley memperkenalkan Undang‑Undang Perluasan Tenaga Kerja Perawatan Kesehatan, termasuk bantuan biaya kuliah yang ditujukan meningkatkan jumlah dokter, perawat, dan dokter gigi, terutama di komunitas pedesaan.

Kebijakan‑kebijakan ini menangani kelangkaan finansial dan kelangkaan sumber daya manusia.

AI dapat membantu mengatasi kelangkaan ketiga: pengetahuan ahli.

FDA saat ini memperkirakan lebih dari 10.000 penyakit langka memengaruhi lebih dari 30 juta orang Amerika, kira‑kira satu orang dari sepuluh, dan sebagian besar penyakit langka masih belum memiliki pengobatan yang disetujui. Populasi pasien yang kecil juga membuat uji klinis konvensional menjadi sangat sulit.

Kecerdasan buatan bukan jalan pintas ajaib mengelak dari biologi atau validasi klinis. Obat yang ditemukan dengan AI dapat gagal seperti obat lain. Namun AI sudah mengubah bagian proses penemuan.

Pada 2025, peneliti mempublikasikan uji coba acak fase 2a pertama rentosertib, molekul kecil untuk fibrosis paru idiopatik yang target dan molekulnya ditemukan menggunakan AI generatif. Hasilnya merupakan tonggak klinis nyata, sementara peneliti menekankan bahwa relatif sedikit obat yang ditemukan AI telah mencapai uji klinis dan belum ada yang menyelesaikan fase 3 pada saat itu.

Itulah cara seimbang yang harus kita pikirkan tentang teknologi ini: tidak hype, tidak menolak.

Sistem AI yang semakin cakap dapat mengintegrasikan biologi molekuler, kimia, genetika, literatur medis, pencitraan, perangkat lunak, analisis statistik, dan desain eksperimen. Nilainya mungkin muncul tepat karena mereka dapat menalar lintas bidang yang secara historis dipisahkan menjadi spesialisasi terpisah.

Pertanyaan relevannya bukan apakah “AGI” saja akan menyembuhkan kanker, Alzheimer, infeksi antibiotik‑resisten, atau kelainan genetik langka. Tidak ada yang dapat menjanjikannya secara bertanggung jawab.

Pertanyaannya apakah Kongres harus melarang secara permanen bentuk kecerdasan yang luas sebelum kita tahu kontribusi apa yang dapat diberikan kecerdasan tersebut untuk memecahkan masalah‑masalah itu.

Banyak bahaya AI konkret hari ini tidak memerlukan AGI

Ada masalah lain dengan menjadikan kecerdasan umum sebagai target regulasi: beberapa bahaya paling konsekuensial yang ditimbulkan AI saat ini berasal dari sistem yang jauh dari kecerdasan umum buatan.

Pada 2020, saya menulis di Unite.AI tentang bagaimana algoritma rekomendasi Facebook dapat memperkuat disinformasi. Kekhawatirannya bukan bahwa Facebook menciptakan kecerdasan lebih pintar daripada umat manusia. Itu adalah bahwa sistem optimasi yang dirancang untuk memaksimalkan keterlibatan dapat secara selektif memperkuat materi yang memicu reaksi kuat, terlepas dari nilai sosialnya.

Konsekuensi sistem rekomendasi yang kurang diatur kini semakin sulit diabaikan. Amnesty International menyimpulkan bahwa algoritma Meta secara proaktif memperkuat konten yang menghasut kebencian dan kekerasan terhadap Rohingya di Myanmar, meningkatkan risiko kekerasan massal. Komisi Eropa secara terpisah menuntut informasi dari YouTube, Snapchat, dan TikTok mengenai risiko sistem rekomendasi yang melibatkan konten berbahaya, pemilihan umum, wacana sipil, perilaku adiktif, “lubang kelinci,” kesehatan mental, dan anak di bawah umur.

Tak satu pun dari sistem ini perlu menggulingkan pemerintah. Tak satu pun memerlukan perbaikan diri secara rekursif. Tak satu pun memerlukan penalaran umum supermanusia.

Mereka hanya membutuhkan tujuan yang salah, diterapkan pada skala yang cukup besar.

Ini menggambarkan prinsip fundamental untuk regulasi AI: bahaya tidak ditentukan semata‑mata oleh seberapa pintar model tersebut. Algoritma sempit yang diterapkan miliaran kali dengan insentif yang keliru dapat menghancurkan secara sosial. Sistem yang sangat umum yang beroperasi di bawah kontrol ketat di laboratorium, kelas, atau rumah sakit dapat memberikan manfaat yang sangat besar.

Regulasi harus mengakui perbedaan itu.

Teknologi dual‑use memerlukan kontrol atas penggunaan, akses, dan otoritas

Prinsip yang sama berlaku untuk pengawasan.

Teknologi visi komputer dan pengenalan pola dapat membantu dokter menganalisis citra medis, memeriksa lingkungan industri berbahaya, menavigasi robot penyelamat, dan mengotomatiskan tugas yang tidak seharusnya dilakukan manusia.

Teknologi terkait juga dapat digunakan untuk membangun sistem pengawasan yang luar biasa kuat.

Sebuah investigasi Washington Post menemukan setidaknya 50 petugas penegak hukum dituduh, dituntut, atau dihukum karena menyalahgunakan sistem pembaca plat nomor otomatis untuk memantau orang demi tujuan pribadi yang tidak sah. Dalam satu kasus, seorang kepala polisi diduga menanyakan kendaraan yang digunakan mantan pasangannya dan putrinya yang berusia remaja sekitar 600 kali. Investigasi selanjutnya meningkatkan jumlah pejabat yang dituduh, dituntut, atau dihukum karena penyalahgunaan menjadi setidaknya 69.

Itu adalah kegagalan kebijakan teknologi yang serius.

Namun perhatikan di mana tuas regulasi praktis berada. Setelah investigasi, Flock mengumumkan bahwa pencarian akan memerlukan kode kasus kriminal, deteksi penyalahgunaan otomatis akan menjadi wajib, dan retensi data default akan turun dari 30 hari menjadi tujuh hari. Langkah‑langkah itu mungkin belum cukup, tetapi mereka menunjukkan jenis‑jenis kontrol yang dapat diatur oleh pembuat undang‑undang: otorisasi, pembatasan tujuan, jejak audit, retensi, akuntabilitas manusia, dan sanksi atas penyalahgunaan.

Jawaban terhadap pengawasan yang menyalahgunakan bukan melarang visi komputer.

Jawaban terhadap serangan siber tidak sah bukan berarti melarang model yang mampu melakukan keamanan siber.

Jawabannya adalah mengatur apa yang sistem diizinkan lakukan, sumber daya apa yang dapat diakses, siapa yang dapat memberi otorisasi atas tindakan konsekuensial, dan apa yang terjadi bila batas‑batas itu dilanggar.

Anda sudah menuliskan bagian dari model regulasi yang lebih baik

Menariknya, legislasi lain yang Anda perkenalkan tahun ini memuat beberapa gagasan yang mengarah pada pendekatan yang lebih produktif.

Saya membaca teks lengkap Undang‑Undang Moratorium Pusat Data Kecerdasan Buatan. Meskipun saya tidak setuju dengan penghentian pembangunan pusat data secara menyeluruh, kondisi yang Anda usulkan untuk mengangkat moratorium tersebut jauh lebih konkret daripada larangan menyeluruh pada kategori kecerdasan.

RUU Anda menyatakan bahwa pusat data AI tidak boleh meningkatkan tagihan listrik konsumen, memperburuk perubahan iklim, atau merusak lingkungan. Ia mengharuskan komunitas yang terdampak memiliki suara, standar tenaga kerja yang kuat, dan pelaporan publik tentang penggunaan air, konsumsi energi, emisi gas rumah kaca, limbah cair, bahan pendingin, kebisingan, pekerjaan, serta dampak lainnya.

Itu adalah eksternalitas yang dapat diukur. Di situlah regulasi dapat efektif.

Saya akan melangkah lebih jauh pada energi. Industri AI tidak boleh menggunakan permintaan listrik yang tumbuh cepat sebagai alasan memperpanjang umur pembangkit batu bara yang tidak dibatasi atau memindahkan biaya infrastruktur kepada pelanggan biasa. Proyek hyperscale baru harus diwajibkan menambah pembangkit listrik rendah‑karbon atau nol‑karbon secara signifikan ke jaringan dan mengungkap dampak air serta energi mereka.

Sudah ada contoh menjanjikan tentang bagaimana transisi itu dapat terlihat. Sistem P3 Exowatt menangkap energi matahari sebagai panas, menyimpannya, dan mengubahnya menjadi listrik yang dapat di‑dispatch, dirancang sebagian untuk beban pusat data. Dan pekan ini, Fervo Energy mengumumkan kesepakatan 396 megawatt dengan Google untuk energi panas bumi bebas karbon 24/7 di Utah, dengan opsi yang dapat membawa totalnya mendekati satu gigawatt.

Selera energi AI dapat menjadi alasan memperpanjang infrastruktur kotor atau menjadi mesin permintaan besar bagi teknologi energi bersih baru.

Kebijakan pemerintah dapat menentukan hasil mana yang terjadi.

Dan Undang‑Undang Dana Kekayaan AI Amerika yang Anda perkenalkan pada Juni, memuat prinsip lain yang sangat saya setujui: jika AI menciptakan nilai ekonomi luar biasa, orang biasa harus berbagi nilai tersebut. Proposal Anda secara eksplisit membayangkan kekayaan yang dihasilkan AI pada akhirnya berkontribusi pada perawatan kesehatan, pendidikan, perumahan, dan lingkungan yang sehat.

Itu mengakui sesuatu yang krusial: kecerdasan buatan memiliki potensi nilai luar biasa. Pertanyaan politik nyata adalah bagaimana nilai itu dikendalikan dan didistribusikan.

Alternatif yang lebih baik daripada larangan permanen

Saya mengajak Anda mempertahankan bagian terkuat dari Undang‑Undang Larangan Superinteligensi Buatan: regulator federal, keahlian teknis independen, pengawasan wajib atas sistem frontier, sanksi bermakna, dan koordinasi internasional. Namun saya akan mengubah secara fundamental apa yang memicu larangan dan bagaimana pengembangan yang bermanfaat dapat terus berlanjut.

• Regulasi kemampuan berbahaya yang terukur alih‑alih label AGI atau ASI. Tetapkan ambang batas teknis yang didefinisikan secara jelas untuk serangan siber otonom, kemampuan senjata biologis atau kimia, penghindaran shutdown, replikasi tidak sah, penipuan strategis, dan kemampuan lain yang dapat menyebabkan kerusakan katastrofik.
• Wajibkan lisensi dan evaluasi independen di atas ambang batas frontier. Pengembang harus menunjukkan keselamatan sebelum menerapkan sistem dengan kemampuan berbahaya yang ditentukan, dengan evaluasi diulang saat model memperoleh alat, izin, atau otonomi baru. Insiden serius harus disertai kewajiban pengungkapan wajib.
• Berikan regulator independen kekuatan penegakan yang nyata. Badan yang Anda usulkan harus dapat mengaudit laboratorium frontier, memperoleh informasi, menuntut perbaikan, dan menangguhkan penerapan berbahaya. Standar harus transparan, terukur secara teknis, dan ditinjau secara berkala oleh pakar ilmiah independen.
• Larangkan aplikasi berbahaya terlepas dari seberapa cerdas model dasarnya. Serangan siber tidak sah, pengawasan ilegal, bantuan biologis berbahaya, dan penggunaan tidak dapat diterima lainnya harus tetap ilegal baik dilakukan dengan model sempit, sistem AGI, atau perangkat lunak konvensional.
• Ciptakan jalur terkendali untuk riset yang bernilai sosial. Kedokteran, penemuan ilmiah, pendidikan, pertahanan siber, dan riset alignment harus memiliki mekanisme regulasi yang memungkinkan akses ke model kuat di bawah pengawasan manusia yang tepat, validasi, keamanan, dan persyaratan audit.
• Wajibkan infrastruktur AI menanggung seluruh biaya sosial dan lingkungan sambil berkoordinasi secara internasional. Lindungi pelanggan, tuntut pelaporan transparan tentang penggunaan air dan energi, percepat generasi energi bersih tambahan, pertahankan perlindungan komunitas dan tenaga kerja yang bermakna, dan bekerjasama dengan sekutu pada standar kemampuan, evaluasi, dan kontrol ekspor bersama.

Ini bukan berarti mempercayai Silicon Valley.

Sebaliknya.

Industri teknologi telah memberi Kongres alasan yang tidak mengandalkan regulasi sukarela. Insiden OpenAI dan Anthropic saja menunjukkan mengapa AI frontier memerlukan pengawasan eksternal dan standar keselamatan yang dapat ditegakkan.

Tetapi ketidakpercayaan terhadap perusahaan teknologi tidak boleh menjadi ketidakpercayaan terhadap kemajuan teknologi itu sendiri.

Pilihan bukan percepatan sembrono atau larangan

Senator Sanders, sepanjang karier Anda Anda berulang kali melawan kelangkaan.

Anda melawan gagasan bahwa pendapatan keluarga menentukan apakah seorang anak menerima pendidikan. Anda melawan sistem perawatan kesehatan di mana rekening bank atau kode pos seseorang dapat memengaruhi perawatan yang diterima. Anda melawan struktur ekonomi di mana keuntungan luar biasa mengalir ke kelompok kecil sementara semua orang lain menanggung biaya.

Kecerdasan buatan dapat memperburuk semua masalah itu.

Ia dapat memusatkan kekayaan yang belum pernah terjadi sebelumnya. Ia dapat menggantikan pekerja tanpa membagikan peningkatan produktivitas. Ia dapat memungkinkan pengawasan, manipulasi, dan serangan siber. Ia dapat menempatkan kekuasaan luar biasa di tangan sejumlah kecil korporasi.

Risiko‑risiko itu membenarkan regulasi.

Tetapi AI juga dapat mengurangi salah satu bentuk ketidaksetaraan tertua dalam peradaban manusia: ketidaksetaraan akses ke keahlian.

Dunia di mana setiap anak dapat mengakses instruksi pribadi, setiap dokter dapat memanfaatkan dukungan analitis luar biasa, setiap ilmuwan dapat menelusuri abad‑abad penelitian yang terkumpul, dan penyakit yang diabaikan karena populasi pasiennya terlalu kecil dapat menerima perhatian ilmiah yang jauh lebih besar, adalah dunia yang juga layak diperjuangkan.

Kita tidak harus memilih antara masa depan itu dan keselamatan AI.

Tujuan yang lebih baik adalah menjadikan AI kuat sulit disalahgunakan, sulit kehilangan kontrol, cukup transparan untuk diaudit, mahal untuk diterapkan secara sembrono, dan dapat diakses secara luas untuk tujuan yang bermanfaat secara sosial.

Larangkan tindakan yang membahayakan umat manusia. Lisensikan kemampuan berbahaya. Hukumkan penerapan yang lalai dan berniat jahat. Wajibkan perusahaan menginternalisasi biaya lingkungan dari infrastruktur mereka. Lindungi pekerja. Berikan publik bagian dari keuntungan ekonomi. Dan ciptakan regulator independen yang mampu mengatakan “tidak” bahkan kepada perusahaan teknologi terbesar di dunia.

Namun tolong jangan definisikan kecerdasan yang dilarang begitu luas sehingga menyamakan kemampuan kognitif manusia di banyak domain menjadi, pada dirinya sendiri, sebuah kejahatan.

Kerja hidup Anda berpusat pada memperluas akses ke hal‑hal yang dulu hanya dapat dinikmati oleh yang beruntung.

Kecerdasan buatan tingkat lanjut dapat menjadi mesin konsentrasi kekuasaan terbesar yang pernah kita ciptakan.

Atau ia dapat menjadi salah satu alat terbesar yang pernah diciptakan untuk mendemokratisasikan pengetahuan, pendidikan, kedokteran, dan kemampuan ilmiah.

Legislasi yang baik dapat membantu menentukan masa depan mana yang akan kita dapatkan.