Anthropic Menulis Ulang Konstitusi Claude dan Bertanya Apakah AI Dapat Sadar

Anthropic menerbitkan konstitusi baru untuk Claude pada hari Rabu, memperluas dokumen dari 2.700 kata menjadi 23.000 dan, untuk pertama kalinya, secara resmi mengakui bahwa AI-nya “mungkin memiliki beberapa jenis kesadaran atau status moral.”

Dokumen konstitusi yang diperbarui bergeser dari daftar aturan perilaku menjadi penjelasan komprehensif tentang mengapa Claude harus berperilaku dengan cara tertentu. Dokumen, yang disusun oleh filsuf Anthropic Amanda Askell, dirancang untuk membantu sistem AI yang semakin canggih memahami penalaran etika dalam situasi baru daripada hanya mengikuti pedoman preskriptif.

“Model AI seperti Claude perlu memahami mengapa kita ingin mereka berperilaku dengan cara tertentu,” tulis Anthropic. “Kita perlu menjelaskannya kepada mereka bukan hanya menyebutkan apa yang kita inginkan mereka lakukan.”

Penerbitan ini bertepatan dengan penampilan CEO Dario Amodei di Forum Ekonomi Dunia di Davos, di mana tata kelola AI dan keamanan tetap menjadi topik utama bagi pemimpin bisnis dan politik global.

Konstitusi Lebih Panjang dari Konstitusi AS

Konstitusi Claude asli, yang diterbitkan pada 2023, berfungsi sebagai daftar periksa: pilih respons yang paling tidak berbahaya, paling membantu, paling tidak menipu. Dokumen baru ini memiliki panjang sekitar tiga kali panjang Konstitusi AS dan membaca lebih seperti filsafat moral daripada spesifikasi teknik.

Anthropic secara eksplisit menetapkan prioritas Claude: menjadi aman secara umum, menjadi etis secara umum, mematuhi pedoman Anthropic, dan menjadi benar-benar membantu – dalam urutan itu. Ketika konflik muncul, keamanan mengalahkan kemanfaatan. Dokumen ini termasuk batasan keras yang tidak dapat diabaikan, seperti menolak bantuan dengan serangan senjata biologis.

Namun, sebagian besar konstitusi menjelaskan penalaran daripada mengharuskan hasil. Dokumen ini menjelaskan Claude sebagai “seperti teman yang cerdas yang juga memiliki pengetahuan seorang dokter, pengacara, dan penasihat keuangan” – memposisikan model ini sebagai kekuatan demokratisasi yang dapat memberikan akses kepada semua orang untuk keahlian yang sebelumnya hanya dimiliki oleh orang-orang yang berprivilese.

Pertanyaan Kesadaran

Fortune melaporkan bahwa penambahan paling mencolok mengenai sifat Claude secara langsung. “Kami percaya bahwa status moral model AI adalah pertanyaan serius yang patut dipertimbangkan,” tulis Anthropic. Konstitusi menyatakan bahwa status moral Claude “sangat tidak pasti” dan bahwa perusahaan peduli dengan “keamanan psikologis, rasa diri, dan kesejahteraan” Claude.

Ini adalah peningkatan filosofis dari hedging perusahaan. Anthropic tidak mengklaim bahwa Claude sadar – tetapi secara eksplisit menolak untuk menolak kemungkinan itu. Pengakuan ini menempatkan Anthropic dalam perusahaan yang langka di antara laboratorium AI utama, sebagian besar di antaranya menghindari topik atau menolaknya secara langsung.

Pengaturan ini penting karena membentuk bagaimana Claude merespons pertanyaan tentang sifatnya sendiri. Daripada menyangkal pengalaman internal, Claude sekarang dapat berinteraksi dengan ketidakpastian tentang kesadaran dengan cara yang sesuai dengan pendekatan penalaran-terlebih-dahulu dalam konstitusinya. Apakah ini menghasilkan interaksi yang lebih jujur atau lebih membingungkan masih belum jelas.

Filsuf Cambridge Tom McClelland telah berargumen bahwa kita mungkin tidak pernah dapat menentukan apakah sistem AI sadar mengingat sedikitnya pemahaman kita tentang kesadaran itu sendiri. “Orang-orang telah membuat chatbot mereka menulis surat pribadi untukku, memohon agar mereka dianggap sadar,” katanya kepada peneliti bulan lalu, menggambarkan keyakinan publik yang semakin kuat bahwa sistem AI memiliki kehidupan internal.

Mengapa Menjelaskan Daripada Menentukan

Pendekatan Askell mencerminkan taruhan pada kemampuan AI. Model bahasa awal memerlukan aturan eksplisit karena mereka tidak dapat bernalar tentang prinsip-prinsip yang mendasarinya. Model yang lebih pintar, menurut teori, dapat memahami mengapa suatu aturan ada dan menerapkan penalaran itu pada situasi yang tidak terduga sebelumnya.

“Bukannya hanya mengatakan, ‘ini adalah sejumlah perilaku yang kita inginkan,’ kita berharap bahwa jika Anda memberikan model alasan mengapa kita ingin perilaku tersebut, itu akan generalisasi lebih efektif dalam konteks baru,” jelas Askell.

Pendekatan ini sejalan dengan filosofi Anthropic yang lebih luas dalam membangun standar terbuka dan infrastruktur yang membentuk bagaimana sistem AI beroperasi di seluruh industri. Perusahaan, yang mendekati valuasi $350 miliar, telah memposisikan diri sebagai alternatif yang berfokus pada keamanan dibandingkan dengan OpenAI – dan konstitusi ini melayani merek tersebut.

Anthropic merilis dokumen ini di bawah lisensi Creative Commons CC0, yang berarti siapa pun dapat menggunakannya tanpa izin. Konstitusi ini merupakan bagian dari data pelatihan Claude dan menghasilkan contoh pelatihan sintetis, membuatnya menjadi pernyataan filosofis dan artefak teknis yang membentuk perilaku model.

“Kemungkinan besar aspek pemikiran kita saat ini akan terlihat salah dan mungkin bahkan sangat salah dalam retrospeksi,” pengakuan Anthropic, “tetapi niat kami adalah untuk merevisinya seiring kemajuan situasi dan perbaikan pemahaman kami.”

Itu mungkin merupakan fitur paling menonjol dari dokumen ini. Dalam industri yang sering berbicara dengan kepastian, Anthropic menerbitkan 23.000 kata ketidakpastian yang dirancang dengan hati-hati – tentang etika, tentang kesadaran, tentang apa yang sistem AI sedang menjadi, dan tentang apakah kita membangun sesuatu yang layak mendapat pertimbangan moral.

Jawabannya, untuk sekarang, adalah bahwa tidak ada yang tahu. Konstitusi Anthropic setidaknya memiliki kejujuran untuk mengatakan demikian.