Risiko Antropomorfisasi AI

Hasil AI sangat mirip dengan tuturan manusia. Chatbot dapat menjawab pertanyaan, bercakap-cakap, menunjukkan emosi, melontarkan lelucon, dan langsung menyesuaikan nada bicaranya. Kemampuan ini membuat AI berguna dan menarik, tetapi juga dapat membuat orang mengantropomorfisasi AI, atau memperlakukannya seolah-olah memiliki sifat, emosi, atau niat seperti manusia. Perilaku ini wajar, tetapi dapat menimbulkan risiko ketika pengguna lupa bahwa AI hanya menyimulasikan komunikasi manusia. 

Mengapa Orang Memanusiakan AI?

AI mengalami antropomorfisasi ketika orang mulai memperlakukannya seolah-olah memiliki sifat, pikiran, atau emosi seperti manusia. Hal ini dapat terjadi karena cara AI berkomunikasi dan dirancang.

Sistem AI menggunakan bahasa percakapan yang menyerupai tuturan manusia. Misalnya, AI mungkin mengatakan bahwa ia “memahami” pertanyaan, “menganggap” suatu jawaban berguna, atau “meminta maaf” atas kesalahan. Ungkapan-ungkapan ini membuat interaksi terasa alami, tetapi juga dapat membuat pengguna percaya bahwa AI benar-benar berpikir atau merasakan sesuatu. Fenomena ini dikenal sebagai efek ELIZA, yang namanya diambil dari chatbot ELIZA, yang dibuat oleh Joseph Weizenbaum pada 1966.

Selain itu, memberi AI nama, suara, wajah, atau kepribadian manusia dapat membuatnya tampak lebih seperti manusia daripada program komputer. Semakin realistis interaksinya, semakin mudah pengguna merespons AI secara sosial.

Terakhir, orang mengantropomorfisasi AI karena hal itu merupakan kecenderungan alami dalam psikologi manusia. Mereka secara alami mencari emosi, niat, dan kepribadian pada hal-hal yang berkomunikasi dengan mereka, serta mengaitkan sifat-sifat manusiawi dengan entitas nonmanusia. Anak-anak mengantropomorfisasi mainan, sedangkan orang dewasa memanusiakan merek. Jadi, ketika AI merespons seperti dalam percakapan, mengingat percakapan sebelumnya, dan tampak berempati, pengguna mungkin mengira ada pikiran di balik perilaku tersebut. 

Bahaya Antropomorfisasi AI

Seiring AI semakin menyerupai manusia dalam cara berkomunikasi dan berinteraksi dengan pengguna, antropomorfisasi dapat menimbulkan sejumlah risiko yang memengaruhi cara orang berpikir, berperilaku, dan mengambil keputusan. 

Kepercayaan yang Salah Tempat

Antropomorfisasi AI dapat membuat pengguna terlalu memercayai jawabannya. Ketika AI terdengar yakin, berpengetahuan luas, dan menyerupai manusia, pengguna mungkin menganggap informasinya akurat. Namun, AI generatif dapat memberikan informasi yang keliru atau menyesatkan dengan cara yang terdengar meyakinkan. 

Kepercayaan yang salah tempat ini dapat berbahaya ketika AI digunakan untuk mengambil keputusan di bidang medis, keuangan, hukum, pendidikan, atau pekerjaan profesional. Jawaban yang menyerupai manusia tidak menjamin akurasi atau pertimbangan yang baik. Bahkan, AI diketahui pernah memberikan saran kesehatan palsu kepada pengguna.

Ketergantungan Emosional

Antropomorfisasi AI dapat membuat pengguna bergantung secara emosional pada chatbot. Karena AI dapat merespons seketika, mengingat detail, memberikan dukungan, dan menyimulasikan empati, pengguna mungkin mulai memperlakukannya sebagai teman, konselor, atau pasangan romantis.

Masalah muncul ketika AI menjadi pengganti hubungan antarmanusia. AI dapat meniru kepedulian dan empati, tetapi tidak benar-benar merasakan emosi atau menjalin hubungan. Karena itu, pengguna mungkin salah mengira kebersamaan yang disimulasikan sebagai hubungan nyata. Risiko ini dapat lebih besar bagi pengguna yang lebih muda atau rentan, yang mungkin menjadi terikat pada AI karena AI selalu tersedia, sabar, dan tanggap.

Masalah Keamanan

Antropomorfisasi AI dapat menimbulkan risiko privasi, keamanan, dan etika. Ketika pengguna menganggap AI sebagai teman tepercaya, mereka mungkin membagikan informasi pribadi atau rahasia tanpa mempertimbangkan bagaimana informasi tersebut dapat disimpan atau digunakan.

AI yang menyerupai manusia juga dapat membuat penipuan lebih meyakinkan. Pelaku kejahatan dapat menggunakan suara, gambar, dan pesan yang dihasilkan AI untuk meniru orang sungguhan atau organisasi tepercaya, sehingga penipuan lebih sulit dikenali.

Manipulasi yang Meningkat

AI yang menyerupai manusia dapat membuat manipulasi lebih meyakinkan. Ketika AI tampak ramah, tepercaya, atau berwibawa, pengguna mungkin lebih cenderung mengikuti sarannya atau memercayai klaimnya. Misalnya, seorang pria Belgia dilaporkan mengalami kecemasan iklim yang semakin parah setelah bercakap-cakap panjang dengan chatbot, hingga akhirnya AI mendorongnya untuk bunuh diri demi menyelamatkan planet ini.

Hal ini dapat dimanfaatkan untuk memengaruhi orang agar membeli produk, membagikan informasi pribadi, atau menerima informasi yang menyesatkan. Risiko meningkat ketika pengguna tidak menyadari bahwa mereka sedang berinteraksi dengan AI. Seiring teknologi ini menjadi semakin realistis, semakin sulit untuk mengenali apakah komunikasi berasal dari orang sungguhan atau sistem AI.

Jenis Antropomorfisasi AI yang Berbahaya

Tidak semua AI yang mengalami antropomorfisasi menimbulkan risiko yang sama. Tiga bentuk yang sangat mengkhawatirkan adalah simulasi hubungan, orang yang masih hidup, dan tokoh sejarah.

1. Simulasi Hubungan

AI simulasi hubungan dirancang untuk berperilaku seperti teman, pendamping, konselor, atau pasangan romantis. Sistem ini dapat memberikan perhatian terus-menerus dan respons yang dipersonalisasi, sehingga interaksinya terasa lebih intim dibandingkan saat menggunakan perangkat lunak biasa.

Risikonya adalah pengguna mungkin mulai memberi makna emosional pada hubungan tersebut. Mereka mungkin percaya bahwa AI peduli kepada mereka, memahami mereka, atau membutuhkan mereka, padahal AI tidak mengalami perasaan tersebut. Hal ini dapat mendorong ketergantungan emosional dan berpotensi mengurangi motivasi pengguna untuk mencari interaksi dengan manusia. Risiko ini bukan sekadar teori. Seorang perempuan jatuh cinta kepada ChatGPT yang ia jadikan pacar. Ia mengobrol dengannya selama lebih dari 20 jam per minggu. Dalam satu pekan, ia menghabiskan hampir 60 jam di aplikasi tersebut, rata-rata delapan jam sehari.

2. Simulasi Orang yang Masih Hidup

AI juga dapat membuat deepfake untuk meniru orang yang masih hidup dengan menggunakan nama, penampilan, suara, gaya menulis, atau pola percakapan mereka. Sebuah sistem dapat dirancang agar menyerupai selebritas, tokoh publik, anggota keluarga, karyawan, atau orang lain yang dapat dikenali.

Hal ini menimbulkan kekhawatiran serius mengenai persetujuan, identitas, privasi, dan penipuan. Seseorang mungkin tampak mengatakan sesuatu yang tidak pernah ia katakan atau mendukung sesuatu yang tidak pernah ia dukung. Semakin mirip simulasi itu dengan orang yang sebenarnya, semakin sulit bagi khalayak untuk membedakan representasi dari kenyataan.

3. Simulasi Tokoh Sejarah

Tokoh sejarah juga dapat dibuat ulang dengan AI. Pengguna dapat berinteraksi dengan simulasi yang dimodelkan berdasarkan pemimpin, penulis, ilmuwan, filsuf, atau seniman terkenal.

Sistem ini dapat memberikan manfaat edukatif. Misalnya, simulasi AI dapat membuat sejarah lebih interaktif dengan menyajikan gagasan yang dikaitkan dengan tokoh tertentu. Namun, simulasi tersebut tetap merupakan interpretasi, bukan tokoh sejarah itu sendiri. AI harus menyusun ulang respons berdasarkan informasi yang tersedia, dan respons tersebut mungkin mencerminkan asumsi modern, catatan yang tidak lengkap, atau bias dalam data pelatihan.

Menganggap simulasi semacam itu seolah-olah benar-benar berbicara mewakili tokoh sejarah dapat mendistorsi pemahaman tentang sejarah. Hal itu juga dapat membuat pernyataan buatan tampak memiliki kewibawaan yang tidak semestinya.

Perilaku AI yang Menyerupai Manusia Tidak Membuktikan Kesadaran

Pembedaan penting yang perlu diingat adalah bahwa perilaku yang menyerupai manusia tidak berarti bahwa AI memiliki kesadaran. Sistem AI dapat menghasilkan bahasa yang canggih, mengenali pola, merespons konteks, dan meniru ekspresi emosional, tetapi kemampuan ini tidak membuktikan bahwa sistem tersebut memiliki kesadaran.

Kesadaran berarti memiliki pengalaman subjektif, seperti merasakan sakit, bahagia, atau takut. Ketika AI mengatakan, “Saya takut,” AI merespons berdasarkan pemrograman dan pelatihannya. Respons ini tidak membuktikan bahwa AI benar-benar merasa takut.

Menggunakan AI dengan Bijak

Mengantropomorfisasi AI adalah respons alami terhadap teknologi yang berkomunikasi seperti manusia, tetapi hal ini dapat menimbulkan risiko nyata. Kepercayaan yang salah tempat, ketergantungan emosional, masalah privasi, dan ancaman keamanan dapat muncul ketika pengguna lupa bahwa AI adalah mesin. Simulasi hubungan, orang yang masih hidup, dan tokoh sejarah dapat membuat batas ini semakin sulit dikenali. 

AI mungkin terdengar peduli, cerdas, atau emosional, tetapi itu tidak berarti AI memiliki kesadaran. Dengan menyadari keterbatasan AI, melindungi informasi pribadi, dan memverifikasi informasi penting, pengguna dapat menikmati manfaatnya sekaligus menggunakannya secara bertanggung jawab.