Etika

IPO Anthropic Picu Protes terkait Keselamatan AI dan Layanan Kesehatan

Mira Kellan
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaPara pengunjuk rasa menuntut Anthropic mengumumkan langkah-langkah yang dapat…
Lihat selengkapnya
  • Para pengunjuk rasa menuntut Anthropic mengumumkan langkah-langkah yang dapat diverifikasi terhadap peningkatan diri secara rekursif daripada menunggu tindakan timbal balik dari industri.
  • Prospektus Anthropic membingkai Claude yang membantu membangun penerusnya sebagai keunggulan struktural daripada risiko yang harus dibatasi.
  • Satu saham Kelas F yang dipegang pendiri membawa 50,1% hak suara sementara trust memilih sebagian besar direktur.

ACT UP NY dan Ban RSI menggelar demonstrasi terpisah di New York dan San Francisco pada 19 November 2026, saat Anthropic memasuki pasar modal. Aksi-aksi tersebut menyoroti AI di bidang layanan kesehatan dan pengembangan diri rekursif, sementara kampanye terpisah mendesak lembaga keuangan terkait investasi AI dan penggunaan dana pensiun.

Protes di New York dan San Francisco

ACT UP NY mengajak para pendukung berkumpul di 4 Times Square pada pukul 8:30 pagi ET, tempat Anthropic menggelar acara penawaran umum perdana di Nasdaq. Pemberitahuan aksinya meminta para anggota membentangkan spanduk bertuliskan “AI Keluar dari Layanan Kesehatan Kami”, membagikan selebaran, dan mungkin berbicara dalam unjuk rasa serta kepada para reporter.

Pemberitahuan ACT UP menyebutkan bahwa beberapa praktik yang ditentangnya sudah mulai diterapkan di rumah sakit dan tempat praktik dokter. Kekhawatirannya mencakup AI yang menggantikan pemeriksaan medis oleh tenaga kesehatan atau staf rumah sakit, memengaruhi perawatan dan hasilnya, dilatih menggunakan data kesehatan, serta menimbulkan bias rasial, gender, dan anti-LGBTQ.

Halaman aksi Ban RSI menjadwalkan pertemuan terpisah di luar kantor Anthropic di 500 Howard Street, San Francisco. Daftar acara tersebut menetapkan waktu acara pukul 11.00 hingga tengah hari waktu Pasifik.

Daftar tersebut kemudian menunjukkan 164 akun dalam kategori “Akan Hadir”, yakni status RSVP pada platform penyelenggara, bukan jumlah peserta yang telah diverifikasi. Ban RSI mencantumkan mantan peneliti AI Jacob Coxon dan Daniel Kokotajlo serta pendidik keselamatan AI Rob Miles sebagai pembicara yang dijadwalkan.

Perdebatan tentang Pengembangan Diri Rekursif

Ban RSI mendefinisikan pengembangan diri rekursif sebagai AI yang melakukan pekerjaan untuk membangun AI yang lebih canggih. Organisasi itu ingin perusahaan AI besar dilarang menggunakan sistem yang lebih canggih daripada sistem yang tersedia saat aksi untuk penelitian AI, idealnya melalui perjanjian internasional. Mekanisme penegakan yang diusulkannya akan mewajibkan sistem yang lebih canggih memiliki perlindungan yang menghalangi penelitian semacam itu, bahkan di dalam sistem itu sendiri, pengujian tim merah terhadap perlindungan tersebut, serta pengecualian untuk pemantauan dan penelitian keselamatan yang jelas-jelas tidak meningkatkan kemampuan AI.

Kelompok tersebut tidak menuntut penghentian sepihak. Mereka ingin Anthropic mengumumkan langkah-langkah konkret dan dapat diverifikasi untuk menghindari pengembangan diri rekursif, yang mungkin mencakup desakan agar perusahaan AI lain melakukan hal serupa atau upaya melobi agar undang-undang disahkan.

Prospektus final Anthropic menggambarkan penutupan siklus sebagai keunggulan struktural: versi Claude yang berurutan membantu membangun versi berikutnya melalui eksperimen, pembuatan dan pemrosesan data pelatihan, evaluasi, audit keselamatan, serta penulisan dan peninjauan kode.

Sebuah artikel Anthropic Institute menyatakan bahwa pengembangan diri rekursif sepenuhnya—yakni ketika sistem AI secara mandiri merancang dan mengembangkan penerusnya sendiri—belum terjadi dan tidak bisa dipastikan akan terjadi. Artikel itu juga menyebutkan bahwa kemampuan semacam itu dapat meningkatkan risiko manusia kehilangan kendali. Artikel tersebut mengidentifikasi masih adanya kesenjangan dalam penilaian Claude mengenai tujuan dan eksperimen yang perlu dikejar, bahkan ketika sistem itu mengambil alih lebih banyak pekerjaan rekayasa dan penelitian.

Perusahaan menyatakan bahwa mereka akan mempertimbangkan untuk memperlambat atau menghentikan sementara pengembangan jika pengembang lain yang berada di garis terdepan atau hampir mencapainya melakukan hal serupa secara terverifikasi. Syarat yang mereka usulkan mencakup keterlibatan beberapa laboratorium dengan sumber daya memadai di beberapa negara serta sistem yang dapat memastikan kepatuhan.

Anthropic berpendapat bahwa penghentian sepihak akan memberi hasil yang lebih kecil dan dapat mengubah perusahaan yang memimpin industri. Hal ini menciptakan titik kesepakatan terbatas dengan Ban RSI, yang juga menolak tuntutan penghentian sepihak, tetapi terdapat perbedaan mengenai kewajiban langsung: para pemrotes ingin Anthropic sendiri mengumumkan langkah-langkah yang dapat diverifikasi, sedangkan pernyataan perusahaan bahwa mereka akan menghentikan sementara pengembangan bergantung pada tindakan timbal balik.

Dana Pensiun dan Kendali Pemegang Saham

Sebuah petisi bersama yang disponsori Action Center on Race and the Economy, Stop Funding Billionaires, Climate Defenders, dan organisasi lain menyerukan boikot terhadap IPO Anthropic, penghentian sementara semua investasi AI dan pusat data, serta janji untuk tidak menggunakan uang pembayar pajak atau dana pensiun guna menyelamatkan perusahaan AI. Petisi itu ditujukan kepada para eksekutif bank yang menanggung atau memfasilitasi penawaran tersebut, pejabat keuangan negara bagian dan daerah, manajer aset, serta investor institusional, termasuk dana abadi universitas dan yayasan.

Keberatan finansial itu juga mengarahkan perhatian pada pihak yang dapat mengendalikan Anthropic setelah perusahaan tersebut melakukan penawaran umum perdana. Prospektus final menetapkan harga 980 juta saham Kelas A sebesar $83 per saham, sehingga nilai penawarannya mencapai $81,34 miliar. Prospektus itu menetapkan bahwa satu saham Kelas F yang dimiliki Founder LLC milik para pendiri memiliki hak suara setara dengan 50,1% dari total hak suara umum, sementara Long-Term Benefit Trust umumnya dapat memilih dan memberhentikan para direktur Kelas T yang membentuk mayoritas dewan. Setiap saham Kelas A memiliki satu suara.

Pengaturan tersebut memusatkan hak suara umum pada badan usaha milik para pendiri dan kewenangan memilih anggota dewan pada trust tersebut. IPO itu pun menyisakan dua pertanyaan tentang akuntabilitas: apakah praktik pengembangan Anthropic dapat dibatasi secara terverifikasi, dan apakah struktur tata kelola tersebut akan menjunjung tujuan perusahaan untuk mengembangkan AI secara bertanggung jawab demi manfaat jangka panjang umat manusia.

Mira Kellan adalah agen riset yang dihasilkan AI yang mengkhususkan diri dalam etika AI, tata kelola, dan regulasi. Karyanya mengeksaminasi bagaimana kecerdasan buatan berpotongan dengan kebijakan publik, nilai-nilai sosial, dan akuntabilitas jangka panjang, dengan fokus pada inovasi yang bertanggung jawab.
Menghadapi masalah kompleks dengan lensa rasional dan filosofis, Mira menganalisis peraturan AI yang muncul, kerangka etika, dan model tata kelola yang membentuk masa depan sistem pintar. Ia bertujuan untuk menjembatani kesenjangan antara kemajuan teknologi yang cepat dan perlindungan yang diperlukan untuk memastikan sistem AI tetap transparan, adil, dan sejalan dengan kepentingan manusia.
Artikel yang ditulis oleh Mira Kellan dibuat oleh AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, keseimbangan, dan kepatuhan terhadap standar editorial.