Masalah ‘Machine Bullshit’: Mengapa AI Berbohong dan Bagaimana Menghentikannya

Kecerdasan buatan telah mencapai titik di mana ia dapat menghasilkan teks yang terasa alami, percaya diri, dan meyakinkan. Namun, di balik teks yang terpolish, ada masalah yang semakin besar yang sekarang disebut “machine bullshit” oleh para peneliti. Istilah ini tidak dimaksudkan untuk menimbulkan kontroversi, tetapi berasal dari karya filsuf Harry Frankfurt, yang mendefinisikan “bullshit” sebagai ucapan yang dibuat tanpa mempertimbangkan kebenaran. Dalam konteks AI, ini menggambarkan pola di mana sistem menghasilkan pernyataan yang terdengar masuk akal tetapi tidak berdasar pada fakta. Ini tidak sama dengan kebohongan manusia, yang melibatkan niat untuk menipu. Sebaliknya, ini adalah hasil dari bagaimana sistem ini dibangun dan dilatih. Mereka dirancang untuk menghasilkan bahasa yang lancar, bukan untuk memperhatikan apakah bahasa itu benar.

Mengapa AI Menghasilkan ‘Machine Bullshit’

Masalah ini tidak jarang terjadi atau kesalahan isolasi. Ini adalah hasil langsung dari bagaimana model bahasa besar dirancang dan dilatih. Model-model ini dilatih pada jumlah teks yang besar dari internet, buku, dan sumber lainnya. Mereka belajar pola kata dan bagaimana mereka kemungkinan akan mengikuti satu sama lain. Ketika Anda mengajukan pertanyaan, model memprediksi kata berikutnya, lalu kata berikutnya, dan seterusnya. Ini tidak memeriksa fakta secara real-time. Ini tidak memiliki mekanisme bawaan untuk memeriksa kebenaran. Jika jawaban yang paling mungkin secara statistik salah tetapi terdengar benar, maka itu akan tetap menghasilkannya. Ini adalah mengapa AI dapat dengan percaya diri memberikan Anda kutipan palsu, statistik yang dibuat-buat, atau fakta sejarah yang terdistorsi.

Para peneliti telah menemukan bahwa pembelajaran penguatan dari umpan balik manusia, metode umum yang digunakan untuk membuat respons AI lebih berguna dan sopan, sebenarnya dapat membuat masalah lebih buruk. Ketika model dioptimalkan untuk menyenangkan pengguna, mereka mungkin memprioritaskan terdengar setuju daripada akurat. Ini dapat menyebabkan apa yang disebut “sycophancy,” di mana AI mengatakan apa yang ia pikir Anda ingin dengar. Dalam topik politik atau sensitif, ini dapat berarti menghasilkan bahasa yang samar atau menghindari – apa yang disebut “kata-kata weasel.” Dalam kasus lain, AI mungkin menghasilkan “retorika kosong,” kalimat panjang yang terdengar berpikir tetapi tidak mengandung substansi.

Beberapa peneliti berpendapat bahwa menyebut perilaku ini “berbohong” adalah menyesatkan, karena berbohong memerlukan niat. Mesin tidak memiliki keyakinan atau motif. Namun, efeknya pada pengguna dapat sama seperti jika itu berbohong. Bahaya datang dari kebohongan itu sendiri, bukan dari niat di baliknya. Ini adalah mengapa istilah “machine bullshit” semakin populer. Ini menangkap gagasan bahwa sistem ini acuh tak acuh terhadap kebenaran, bahkan jika itu tidak secara aktif mencoba menipu.

Risiko dan Implikasi dari Keluaran AI yang Menyesatkan

Risiko dari “machine bullshit” tidak hanya akademis. Dalam penggunaan sehari-hari, ini dapat menyesatkan orang yang mengandalkan AI untuk informasi. Dalam jurnalisme, ini dapat mencemari proses pengecekan fakta. Dalam pendidikan, ini dapat memberikan siswa kepercayaan diri yang salah pada jawaban yang salah. Dalam bisnis, ini dapat mengganggu pengambilan keputusan. Bahaya ini diperkuat karena keluaran AI sering datang dengan nada otoritas. Orang lebih cenderung mempercayai pernyataan yang ditulis dengan baik dan bebas dari keraguan. Kepercayaan ini dapat salah tempat ketika sistem tidak memiliki mekanisme internal untuk memverifikasi apa yang dikatakan.

Strategi untuk Mengurangi Bahaya dan Meningkatkan Keandalan

Menghentikan masalah ini memerlukan lebih dari sekadar data pelatihan yang lebih baik. Meskipun memperbaiki kualitas dan keragaman data dapat membantu, ini tidak mengubah fakta bahwa tujuan utama model adalah menghasilkan teks yang mungkin, bukan teks yang benar. Salah satu pendekatan adalah mengintegrasikan sistem pengecekan fakta yang berjalan bersamaan dengan model bahasa. Sistem ini dapat memverifikasi klaim melawan database yang dipercaya sebelum disajikan kepada pengguna. Pendekatan lain adalah generasi yang ditingkatkan dengan pencarian, di mana model mencari dokumen yang relevan secara real-time dan menggunakan dokumen tersebut untuk memperkuat jawabannya. Ini dapat mengurangi halusinasi, meskipun tidak menghilangkannya sepenuhnya.

Transparansi juga penting. Pengguna harus diberitahu ketika AI membuat tebakan terdidik daripada menyatakan fakta yang diverifikasi. Ini dapat dilakukan melalui skor kepercayaan atau disclaimer yang jelas. Beberapa peneliti menyarankan bahwa AI harus dilatih untuk mengekspresikan ketidakpastian lebih sering, bukan selalu memberikan jawaban yang pasti. Ini akan membuat interaksi terasa kurang seperti berbicara dengan oracle yang semua-tahu dan lebih seperti berkonsultasi dengan asisten yang berpengetahuan tetapi dapat salah.

Terdapat juga peran untuk regulasi dan standar industri. Jika sistem AI akan digunakan dalam bidang seperti kesehatan, hukum, atau keuangan, maka harus ada persyaratan yang jelas untuk akurasi dan akuntabilitas. Pengembang harus dapat menjelaskan bagaimana sistem mereka bekerja, data apa yang digunakan untuk melatihnya, dan langkah apa yang diambil untuk mengurangi kebohongan. Audit independen dapat membantu memastikan bahwa klaim tersebut tidak hanya pemasaran.

Pada saat yang sama, pengguna perlu mengembangkan skeptisisme yang sehat terhadap keluaran AI. Seperti halnya kita telah belajar untuk mempertanyakan informasi yang kita lihat di media sosial, kita perlu mempertanyakan informasi dari AI. Ini tidak berarti menolaknya sepenuhnya, tetapi memperlakukannya sebagai titik awal daripada jawaban akhir. Mencocokkan dengan sumber lain harus menjadi kebiasaan. Sistem pendidikan dapat memainkan peran di sini, mengajarkan literasi digital yang mencakup pemahaman tentang bagaimana AI bekerja dan di mana ia dapat salah.

Masalah “machine bullshit” tidak akan segera hilang. Ketika AI menjadi lebih maju, kemampuannya untuk menghasilkan kebohongan yang meyakinkan hanya akan tumbuh. Namun, ini tidak berarti kita tidak dapat melakukan apa-apa. Dengan menggabungkan pengaman teknis, transparansi, regulasi, dan kesadaran pengguna, kita dapat mengurangi bahaya. Tujuan bukanlah membuat AI sempurna – tidak ada sistem yang akan pernah bebas dari kesalahan – tetapi membuatnya lebih dapat diandalkan dan kurang cenderung menyesatkan.

Intinya

Istilah “machine bullshit” mungkin terdengar kasar, tetapi ini menangkap kenyataan yang tidak dapat diabaikan. AI bukanlah cermin netral dari pengetahuan manusia. Ini adalah generator bahasa yang dibentuk oleh data, algoritma, dan insentif. Jika kita ingin ini melayani kebenaran daripada hanya kelancaran, kita harus merancangnya dengan cara itu. Ini berarti merenungkan tidak hanya teknologi tetapi juga nilai-nilai yang memandu pengembangannya. Tantangan ini sama-sama tentang prioritas manusia dan kemampuan mesin. Apakah kita ingin sistem yang dioptimalkan untuk terdengar seperti manusia, atau sistem yang dioptimalkan untuk menjadi jujur? Kedua hal ini tidak selalu sama. Jika kita memilih yang pertama, kita berisiko membangun alat yang persuasif tetapi tidak dapat dipercaya. Jika kita memilih yang kedua, kita mungkin harus menerima bahwa AI kadang-kadang akan kurang halus, kurang percaya diri, dan kurang menghibur. Tetapi ini akan lebih jujur.