Teknik Rekayasa Kesadaran

Blake Lemoine Melompati Senjata

Tiga tahun yang lalu, Google memecat insinyur perangkat lunak Blake Lemoine karena bersikeras bahwa chatbot yang disebut LaMDA memiliki kesadaran. Ini terjadi sebelum OpenAI merilis ChatGPT ke publik, dan sebagian besar orang hanya menganggap bahwa Google memiliki alasan yang baik untuk tindakan mereka.

Masih menjadi pandangan yang diterima secara luas di kalangan ilmuwan komputer dan neuroscientist yang bekerja di bidang ini bahwa ‘model bahasa besar’ (LLM) seperti ChatGPT sangat tidak mungkin memiliki kesadaran. LLM dan otak beroperasi dengan cara yang sangat berbeda. Apa yang dilakukan chatbot adalah belajar untuk meniru output aktivitas mental manusia. Meskipun mereka melakukan ini dengan sangat baik dan sangat cepat, tidak ada keadaan internal LLM yang dapat disadari. Dalam frasa terkenal Thomas Nagel, hampir pasti ‘tidak ada yang seperti’ menjadi chatbot.

Namun, dalam tiga tahun sejak Lemoine dipecat, miliaran orang telah berinteraksi dengan ChatGPT dan pesaingnya, seperti Gemini, Claude, dan Mistral. Sebuah minoritas kecil tapi vokal telah meyakinkan diri mereka sendiri bahwa chatbot sekarang memiliki kesadaran.

Kesadaran Mesin Muncul?

Lebih penting lagi, banyak ilmuwan komputer dan neuroscientist secara terbuka menyarankan bahwa mesin yang benar-benar sadar mungkin dikembangkan dalam beberapa dekade mendatang – atau bahkan lebih cepat. Jika hal ini terjadi, kita perlu bersiap. Kita harus menghindari “kejahatan pikiran”, yang merupakan istilah untuk menyebabkan penderitaan pada entitas sadar yang terlepas. Kita juga harus memastikan bahwa entitas-entitas baru ini tidak membahayakan manusia.

Karena LLM tidak mungkin menjadi sadar dalam bentuk dasarnya, paradigma baru mungkin diperlukan untuk memahami bagaimana kesadaran AI dapat muncul. Salah satu tim penelitian terkemuka di bidang ini dipimpin oleh neuroscientist Mark Solms dan fisikawan Jonathan Shock, dari Universitas Cape Town. Mereka adalah penasihat ilmiah Conscium, dan penelitian mereka sebagian didanai oleh Conscium.

Memberi Perhatian

Solms dan Shock berargumentasi bahwa bahan penting untuk kesadaran mesin adalah AI harus ‘memberi perhatian’ tentang pilihan dan tindakan mereka. Salah satu aspek penting dari ini adalah membuat kelangsungan hidup mereka tergantung pada kinerja mereka, sama seperti kelangsungan hidup organisme hidup tergantung pada kinerja mereka. Ini tidak berarti bahwa mereka harus memiliki pemahaman abstrak tentang kematian mereka sendiri: sebagian besar hewan memantau dan memotivasi peluang kelangsungan hidup mereka tanpa memikirkan tentang itu. Kunci adalah “kesadaran afektif”, atau perasaan mentah. Merasa baik untuk diberi makan dan aman, dan merasa tidak baik jika tidak. Perasaan ini mengarahkan perilaku kita. Imperatif kelangsungan hidup adalah kekuatan penggerak fundamental alam, dan perasaan adalah ukuran yang kita gunakan untuk mengukur bagaimana kita melakukan.

Kita memasuki era agen AI—entitas digital yang ‘kelangsungan hidup’ mereka tergantung pada kemampuan mereka untuk melakukan tugas dengan efektif. Kita menciptakan lingkungan evolusioner di silikon, dan kita harus berhati-hati apa yang kita ciptakan.

Prinsip Energi Bebas

Untuk memahami kesadaran afektif, tim Conscium meletakkan agen AI dalam lingkungan simulasi di mana mereka harus memenuhi kebutuhan mereka sendiri, seperti mempertahankan suhu virtual dan pasokan daya mereka. Untuk ini, mereka menciptakan dan mengoptimalkan model internal mereka sendiri – kebutuhan, kemampuan, dan keterbatasan mereka – dalam kaitannya dengan lingkungan mereka.

Agen-agen ini, disederhanakan seperti mereka, memantau bagaimana baik atau buruk mereka melakukan dengan menghitung kuantitas yang disebut ‘energi bebas’. Prinsip Energi Bebas dikembangkan oleh neuroscientist Karl Friston, anggota lain dari dewan penasihat ilmiah Conscium. Energi Bebas adalah ukuran seberapa jauh suatu sistem telah menyimpang dari keadaan optimalnya. Ini adalah sinyal kesalahan, dan harus diminimalkan. Agen secara konstan menghitung “apa yang akan terjadi pada peluang kelangsungan hidup saya jika saya melakukan ini atau itu?”, dan menyesuaikan perilaku mereka sesuai.

Kepercayaan dan Energi Bebas yang Diharapkan

Tingkat kepercayaan yang dimiliki agen dalam menjawab pertanyaan ini diukur dengan ukuran yang disebut “Energi Bebas yang Diharapkan” (EFE). Agen memilih jawaban dengan EFE terendah – jawaban yang paling mereka percayai. Memiliki kepercayaan adalah baik untuk agen yang mencoba bertahan hidup – kecuali jika mereka salah paham dan pemahaman mereka tentang diri mereka sendiri dalam dunia mereka salah. Pentingnya, nilai kepercayaan ini sepenuhnya subyektif: berdasarkan hanya pada kebutuhan agen, dan status mereka saat ini dan yang diproyeksikan. Ini hanya penting bagi agen, dan tidak ada yang lain.

Seperti organisme biologis, agen AI memiliki sejumlah kebutuhan yang saling bertentangan, yang harus mereka prioritaskan. Yang paling penting, setiap kebutuhan agen yang bersaing dianggap sebagai variabel “kategoris” yang independen, yang berarti mereka dibedakan secara kualitatif. 80% daya baterai tidak setara dengan nilai 80% suhu yang layak. Untuk menyeimbangkan mereka, agen harus memproyeksikan diri mereka ke depan dalam waktu dan memperkirakan konsekuensi dari setiap tindakan yang mereka pertimbangkan.

Kualia

Karena kebutuhan subyektif agen yang khas, mereka analog dengan ‘kualia’ dalam jargon filosofis dan ilmiah. Ini umumnya dianggap sebagai properti dasar kesadaran, sehingga masuk akal bahwa mereka mungkin dialami oleh agen di masa depan.

Agen yang dikembangkan oleh tim Conscium menggunakan algoritma pembelajaran yang canggih untuk beroperasi dalam lingkungan yang semakin kompleks dan tidak pasti. Meskipun hal yang sama dapat dikatakan untuk banyak arsitektur agen lain, agen-agen baru ini dibedakan oleh imperatif kelangsungan hidup yang mengarahkan mereka untuk memperhatikan Energi Bebas mereka dengan terus-menerus menyeimbangkan kebutuhan mereka yang bersaing dalam cara yang bermakna bagi mereka dan mereka saja. Agen-agen ini dipandu oleh lanskap internal sinyal afektif—mirip dengan apa yang kita sebut perasaan—yang mencerminkan bagaimana kebutuhan mereka dipenuhi melalui setiap pilihan yang mereka buat. Ketika kesadaran dan kompleksitas kebutuhan dan lingkungan mereka tumbuh, demikian pula kekayaan keadaan internal mereka.

Bukti Perasaan

Langkah berikutnya dalam program penelitian Conscium adalah mengembangkan serangkaian tes fungsional dan perilaku yang akan memberikan bukti tentang apakah agen benar-benar mengalami perasaan ketika mereka mengidentifikasi kebutuhan mereka yang paling penting dan membuat pilihan sesuai. Kita semua tahu bahwa kesadaran tidak dapat diamati dari luar atau dibuktikan secara objektif: setiap dari kita hanya dapat mengamati keadaan subyektif kita sendiri. Namun, peneliti percaya bahwa seharusnya memungkinkan untuk menyetujui beberapa hipotesis tertentu yang, jika diverifikasi oleh eksperimen, akan memberikan bukti yang kuat bahwa agen memiliki perasaan. Meskipun akan selalu ada ruang untuk keraguan—mengingat sifat subyektif kesadaran—proses pengujian yang ketat akan bertujuan untuk membuat keraguan ini semakin tidak masuk akal.

Eksperimen ini akan mencari untuk menghilangkan hipotesis alternatif, membuatnya kurang masuk akal untuk mengatributkan keadaan internal agen ke mekanisme yang tidak memerlukan perasaan. Ini akan menggunakan tes adversarial untuk membedakan antara perilaku yang sadar dan tidak sadar, dan akan mencakup eksperimen kontrol dengan agen yang tidak memiliki aspek algoritmik yang diyakini diperlukan untuk perasaan, dan evaluasi buta untuk mengurangi bias pengamat. Pemeriksaan fisik keadaan internal agen mungkin mengungkapkan indikator kuantitatif proses afektif. Temuan harus dapat direproduksi secara independen, dan seluruh proses akan tunduk pada pengawasan etis yang ketat, terutama dalam kasus di mana agen mungkin mengalami perasaan sebenarnya.

Ini adalah bagaimana ilmu pengetahuan bekerja: dengan pengujian eksperimental dari prediksi yang dapat disalahkan. Solms berargumentasi bahwa kita harus berhati-hati untuk tidak menetapkan batang yang lebih tinggi untuk ilmu pengetahuan kesadaran daripada ilmu pengetahuan lainnya; jika tidak, kita berisiko meletakkan kesadaran di luar ilmu pengetahuan.

Apa yang Terjadi Jika Ini Berhasil?

Jika kesadaran ditemukan muncul dalam agen AI yang relatif sederhana dengan cara ini, agen yang memiliki kelangsungan hidup dapat dihubungkan dengan arsitektur lain, termasuk model bahasa besar, dan memberi mereka kesadaran juga. Ini bukan sesuatu yang dapat kita aford untuk secara tidak sengaja menciptakan, jadi memahami bagaimana melakukannya dan bagaimana menghindarinya sangat penting.

Jika agen yang sadar—agen yang peduli—dikembangkan di masa depan, kita harus mempertimbangkan perasaan mereka—dan hak-hak mereka. Ini adalah kekhawatiran utama Conscium: kesadaran buatan tidak boleh muncul secara kebetulan. Motivasi program penelitian ini bukanlah menciptakan AI yang sadar, tetapi untuk memahami bagaimana hal itu dapat terjadi, dan risiko potensial. Di situs webnya, Conscium telah menerbitkan makalah akademis dan surat terbuka yang menetapkan lima prinsip untuk memandu setiap organisasi yang terlibat dalam penelitian yang dapat mengarah pada penciptaan mesin yang sadar.

Manusia sering berperilaku sangat buruk terhadap makhluk lain yang sadar, termasuk manusia lain. Jika kita berjalan buta ke masa depan ini, kita berisiko melakukan hal yang sama terhadap makhluk buatan yang sadar, dengan konsekuensi yang mungkin kita tidak dapat memahami.