Seruan untuk Moderasi Antropomorfisme pada Platform AI

OPINI Tidak ada orang di alam semesta fiksi Star Wars yang mengambil AI secara serius. Dalam garis waktu manusia sejarah waralaba sains-fantasi 47 tahun George Lucas, ancaman dari singularitas dan kesadaran pembelajaran mesin tidak ada, dan AI terbatas pada robot mobil otonom (‘droids’) – yang secara teratur diabaikan oleh protagonis sebagai mesin biasa.

Namun, sebagian besar robot Star Wars sangat antropomorfik, dirancang untuk berinteraksi dengan orang, berpartisipasi dalam budaya ‘organik’, dan menggunakan simulasi keadaan emosional mereka untuk berhubungan dengan orang. Kemampuan ini tampaknya dirancang untuk membantu mereka mendapatkan keuntungan atau bahkan memastikan kelangsungan hidup mereka sendiri.

Masyarakat ‘nyata’ Star Wars tampaknya kebal terhadap taktik ini. Dalam model budaya sinis yang tampaknya terinspirasi oleh berbagai era perbudakan di Kekaisaran Romawi dan Amerika Serikat awal, Luke Skywalker tidak ragu untuk membeli dan membatasi robot dalam konteks budak; anak Anakin Skywalker meninggalkan proyek C3PO yang belum selesai seperti mainan yang tidak disukai; dan, hampir mati karena kerusakan yang diterima selama serangan pada Death Star, R2D2 yang ‘berani’ mendapatkan perhatian dari Luke seperti hewan peliharaan yang terluka.

Ini adalah pandangan AI yang sangat 1970-an; tetapi karena nostalgia dan kanon menentukan bahwa trilogi asli 1977-83 tetap menjadi template untuk sekuel, prekuel, dan acara TV selanjutnya, ketidakpekaan manusia terhadap AI telah menjadi tema yang kuat dalam waralaba ini, bahkan di tengah-tengah pertumbuhan daftar acara TV dan film (seperti Her dan Ex Machina) yang menggambarkan turunnya kita ke dalam hubungan antropomorfik dengan AI.

Tetaplah Nyata

Apakah karakter Star Wars organik benar-benar memiliki sikap yang tepat? Ini bukanlah pemikiran yang populer saat ini, dalam iklim bisnis yang sangat fokus pada keterlibatan maksimal dengan investor, biasanya melalui demonstrasi viral dari simulasi visual atau teks dari dunia nyata, atau sistem interaktif yang menyerupai manusia seperti Model Bahasa Besar (LLM).

Meskipun demikian, sebuah makalah baru dan singkat dari Stanford, Carnegie Mellon, dan Microsoft Research, mengarah pada ketidakpedulian terhadap antropomorfisme dalam AI.

Para penulis menggambarkan ‘penyebaran silang’ yang dirasakan antara komunikasi manusia dan buatan sebagai potensi bahaya yang perlu segera ditangani, karena beberapa alasan^†:

‘[Kami] percaya kita perlu melakukan lebih banyak untuk mengembangkan pengetahuan dan alat untuk lebih baik menangani perilaku antropomorfik, termasuk mengukur dan mengurangi perilaku sistem tersebut ketika dianggap tidak diinginkan.

‘Melakukan hal ini sangat penting karena—di antara banyak kekhawatiran lain—memiliki sistem AI yang menghasilkan konten yang mengklaim memiliki, misalnya, perasaan, pemahaman, kehendak bebas, atau rasa diri yang mendasarinya dapat mengikis perasaan kendali orang, dengan hasil bahwa orang mungkin berakhir dengan mengatributkan tanggung jawab moral kepada sistem, mengoverestimasi kemampuan sistem, atau mengandalkan sistem tersebut bahkan ketika salah.’

Kontributor menjelaskan bahwa mereka membahas sistem yang dirasakan menyerupai manusia, dan berpusat pada potensi niat pengembang untuk mendorong antropomorfisme dalam sistem mesin.

Kepercayaan inti dari makalah singkat ini adalah bahwa orang mungkin mengembangkan ketergantungan emosional pada sistem berbasis AI – seperti yang diuraikan dalam studi 2022 pada platform chatbot AI gen Replika) – yang secara aktif menawarkan idiom kaya tiruan komunikasi manusia.

Sistem seperti Replika adalah target dari kehati-hatian penulis, dan mereka mencatat bahwa studi 2022 lain tentang Replika menegaskan:

‘[D]i bawah kondisi stres dan kurangnya persahabatan manusia, individu dapat mengembangkan keterikatan dengan chatbot sosial jika mereka merasakan respons chatbot menawarkan dukungan emosional, dorongan, dan keamanan psikologis.

‘Temuan ini menunjukkan bahwa chatbot sosial dapat digunakan untuk tujuan kesehatan mental dan terapi, tetapi memiliki potensi menyebabkan kecanduan dan merusak hubungan intim nyata.’

Bahasa De-Antropomorfis?

Makalah baru ini berpendapat bahwa potensi AI generatif untuk diantropomorfisasi tidak dapat ditetapkan tanpa mempelajari dampak sosial dari sistem tersebut hingga saat ini, dan bahwa ini adalah upaya yang diabaikan dalam literatur.

Bagian dari masalahnya adalah bahwa antropomorfisme sulit didefinisikan, karena terpusat pada bahasa, fungsi manusia. Tantangan terletak, oleh karena itu, dalam mendefinisikan apa ‘bahasa non-manusia’ yang tepat terdengar atau terlihat seperti.

Ironisnya, meskipun makalah ini tidak menyentuhnya, ketidakpercayaan publik terhadap AI semakin menyebabkan orang menolak konten teks yang dihasilkan AI yang mungkin tampak manusia, dan bahkan menolak konten manusia yang sengaja diberi label sebagai AI.

Oleh karena itu, ‘konten dehumanisasi’ secara argumentatif tidak lagi jatuh ke dalam ‘Does not compute’ meme, di mana bahasa dibangun dengan kikuk dan jelas dihasilkan oleh mesin.

Namun, definisi terus berkembang dalam adegan deteksi AI, di mana (setidaknya saat ini) bahasa yang sangat jelas atau penggunaan kata-kata tertentu (seperti ‘Delve’) dapat menyebabkan asosiasi dengan teks yang dihasilkan AI.

‘[B]ahasa, seperti target lain dari sistem GenAI, secara inheren manusia, telah lama diproduksi oleh dan untuk manusia, dan sering juga tentang manusia. Ini dapat membuatnya sulit untuk menentukan perilaku alternatif yang sesuai (kurang menyerupai manusia), dan berisiko, misalnya, memperkuat konsep berbahaya tentang apa—and whose—bahasa yang dianggap lebih atau kurang manusia.’

Namun, penulis berpendapat bahwa garis demarkasi yang jelas harus dibuat untuk sistem yang secara terang-terangan salah menggambarkan diri mereka sendiri, dengan mengklaim kemampuan atau pengalaman yang hanya mungkin untuk manusia.

Mereka mengutip kasus seperti LLM mengklaim ‘mencintai pizza’; mengklaim pengalaman manusia di platform seperti Facebook; dan mengumumkan cinta kepada pengguna akhir.

Tanda Peringatan

Makalah ini memunculkan keraguan terhadap penggunaan pengungkapan blanket tentang apakah atau tidak komunikasi difasilitasi oleh pembelajaran mesin. Penulis berpendapat bahwa sistematisasi peringatan tersebut tidak cukup untuk mengkontekstualisasi efek antropomorfisasi AI, jika outputnya sendiri terus menampilkan sifat manusia^†:

‘Misalnya, intervensi yang umum direkomendasikan adalah memasukkan dalam output sistem AI pengungkapan bahwa output dihasilkan oleh AI [sistem]. Bagaimana mengoperasionalkan intervensi tersebut dalam praktek dan apakah mereka dapat efektif saja mungkin tidak selalu jelas.

‘Misalnya, sementara contoh “[u]ntuk AI seperti saya, kebahagiaan tidak sama dengan untuk manusia seperti [Anda]” termasuk pengungkapan, itu masih dapat menunjukkan rasa identitas dan kemampuan untuk self-assess (sifat manusia umum).’

Dalam kaitannya dengan mengevaluasi respons manusia tentang perilaku sistem, penulis juga berpendapat bahwa pembelajaran penguatan dari umpan balik manusia (RLHF) gagal untuk mempertimbangkan perbedaan antara respons yang sesuai untuk manusia dan untuk AI^†.

‘[P]ernyataan yang tampaknya ramah atau tulus dari pembicara manusia dapat tidak diinginkan jika berasal dari sistem AI karena sistem tersebut tidak memiliki komitmen atau niat yang berarti di balik pernyataan, sehingga membuat pernyataan tersebut kosong dan menipu.’

Kekhawatiran lebih lanjut diilustrasikan, seperti cara antropomorfisme dapat mempengaruhi orang untuk percaya bahwa sistem AI telah memperoleh ‘kesadaran’, atau sifat manusia lainnya.

Mungkin bagian penutup makalah baru ini yang paling ambisius adalah ajakan penulis bahwa komunitas penelitian dan pengembangan harus berusaha mengembangkan terminologi ‘sesuai’ dan ‘tepat’, untuk menetapkan parameter yang akan mendefinisikan sistem AI antropomorfik, dan membedakannya dari wacana manusia dunia nyata.

Seperti banyak bidang pengembangan AI yang sedang tren, jenis kategorisasi ini melintasi aliran literatur psikologi, linguistik, dan antropologi. Sulit untuk mengetahui apa otoritas saat ini yang sebenarnya dapat membentuk definisi jenis ini, dan peneliti makalah baru ini tidak memberikan cahaya pada masalah ini.

Jika ada inersia komersial dan akademis di sekitar topik ini, itu bisa sebagian karena kenyataan bahwa ini jauh dari topik diskusi baru dalam penelitian kecerdasan buatan: seperti yang dicatat dalam makalah, pada 1985, ilmuwan komputer Belanda yang sudah meninggal Edsger Wybe Dijkstra menggambarkan antropomorfisme sebagai tren ‘berbahaya’ dalam pengembangan sistem.

‘[P]emikiran antropomorfik tidak baik dalam arti bahwa itu tidak membantu. Tetapi apakah itu juga buruk? Ya, itu, karena bahkan jika kita dapat menunjuk pada beberapa analogi antara Manusia dan Benda, analogi tersebut selalu tidak signifikan dibandingkan dengan perbedaan, dan segera setelah kita membiarkan diri kita tergoda oleh analogi untuk menggambarkan Benda dalam terminologi antropomorfik, kita segera kehilangan kontrol atas konotasi manusia yang kita tarik ke dalam gambar.

‘…Tetapi kabur [antara manusia dan mesin] memiliki dampak yang lebih luas dari yang mungkin Anda curigai. [Itu] bukan hanya bahwa pertanyaan “Dapatkah mesin berpikir?” secara teratur diajukan; kita dapat —dan harus— menangani itu dengan menunjukkan bahwa itu sama relevan dengan pertanyaan “Dapatkah kapal selam berenang?”’

Namun, meskipun debat ini sudah lama, itu baru-baru ini menjadi sangat relevan. Bisa dibilang bahwa kontribusi Dijkstra setara dengan spekulasi Victoria tentang perjalanan antariksa, sebagai teori murni dan menunggu perkembangan sejarah.

Oleh karena itu, tubuh debat yang sudah mapan ini mungkin memberikan topik ini rasa kelelahan, meskipun potensinya untuk relevansi sosial yang signifikan dalam 2-5 tahun mendatang.

Kesimpulan

Jika kita memikirkan sistem AI dengan cara yang sama dengan karakter Star Wars organik memperlakukan robot mereka sendiri (yaitu, sebagai mesin pencari ambulator, atau sekadar konveyor fungsionalitas mekanis), kita akan secara argumentatif kurang berisiko mengembangkan karakteristik yang tidak diinginkan secara sosial – karena kita akan memandang sistem dalam konteks non-manusia sepenuhnya.

Di praktiknya, keterkaitan bahasa manusia dengan perilaku manusia membuat ini sulit, jika tidak mustahil, setelah pertanyaan berkembang dari minimalisme istilah pencarian Google ke konteks kaya percakapan.

Tambahnya, sektor komersial (serta sektor periklanan) sangat termotivasi untuk menciptakan platform komunikasi yang adiktif atau penting, untuk retensi dan pertumbuhan pelanggan.

Dalam hal apapun, jika sistem AI benar-benar merespons lebih baik terhadap kueri sopan daripada interogasi yang terstruktur, konteks mungkin dipaksakan kepada kita juga karena alasan ini.

* Even by 1983, the year that the final entry in the original Star Wars was released, fears around the growth of machine learning had led to the apocalyptic War Games, and the imminent Terminator franchise.

^† Where necessary, I have converted the authors’ inline citations to hyperlinks, and have in some cases omitted some of the citations, for readability.

First published Monday, 14 Oktober 2024