Menghentikan AI dari Membuat Cerita: Panduan untuk Mencegah Hallusinasi

AI sedang merevolusi cara hampir setiap industri beroperasi. Ini membuat kita lebih efisien, lebih produktif, dan – ketika diimplementasikan dengan benar – lebih baik dalam pekerjaan kita secara keseluruhan. Namun, ketika ketergantungan kita pada teknologi baru ini meningkat dengan cepat, kita harus mengingatkan diri kita sendiri tentang satu fakta sederhana: AI tidak tak tercela. Keluaran AI tidak boleh diambil begitu saja karena, sama seperti manusia, AI dapat membuat kesalahan.

Kita menyebut kesalahan-kesalahan ini “hallusinasi AI.” Kesalahan-kesalahan seperti ini berkisar dari menjawab masalah matematika dengan tidak benar hingga memberikan informasi yang tidak akurat tentang kebijakan pemerintah. Di industri yang sangat diatur, hallusinasi dapat menyebabkan denda yang mahal dan masalah hukum, tidak hanya pelanggan yang tidak puas.

Frekuensi hallusinasi AI seharusnya menjadi alasan untuk khawatir: diperkirakan bahwa model bahasa besar modern (LLM) mengalami hallusinasi sekitar 1% hingga 30% dari waktu. Ini menghasilkan ratusan jawaban palsu yang dihasilkan setiap hari, yang berarti bisnis yang ingin menggunakan teknologi ini harus sangat selektif ketika memilih alat mana yang akan diimplementasikan.

Mari kita jelajahi mengapa hallusinasi AI terjadi, apa yang dipertaruhkan, dan bagaimana kita dapat mengidentifikasi dan memperbaikinya.

Garbage in, garbage out

Apakah Anda ingat bermain permainan “telepon” sebagai anak-anak? Bagaimana kalimat awal akan terdistorsi ketika disampaikan dari pemain ke pemain, menghasilkan pernyataan yang sama sekali berbeda ketika mencapai akhir lingkaran?

Cara AI belajar dari inputnya mirip dengan itu. Respon yang dihasilkan LLM hanya sebaik informasi yang diberikan, yang berarti konteks yang tidak benar dapat menyebabkan pembentukan dan penyebaran informasi palsu. Jika sistem AI dibangun atas data yang tidak akurat, ketinggalan zaman, atau bias, maka keluarannya akan mencerminkan hal itu.

Sebagai contoh, LLM hanya sebaik inputnya, terutama ketika tidak ada intervensi atau pengawasan manusia. Ketika solusi AI yang lebih otonom berkembang, sangat penting bahwa kita memberikan alat dengan konteks data yang benar untuk menghindari menyebabkan hallusinasi. Kita memerlukan pelatihan data yang ketat, dan/atau kemampuan untuk memandu LLM sehingga mereka hanya merespons dari konteks yang diberikan, bukan menarik informasi dari mana saja di internet.

Mengapa hallusinasi penting?

Untuk bisnis yang berhadapan dengan pelanggan, akurasi adalah segalanya. Jika karyawan bergantung pada AI untuk tugas seperti mensintesis data pelanggan atau menjawab pertanyaan pelanggan, mereka perlu percaya bahwa respon yang dihasilkan alat tersebut akurat.

Sebaliknya, bisnis berisiko mengalami kerusakan reputasi dan loyalitas pelanggan. Jika pelanggan diberikan jawaban yang tidak memadai atau palsu oleh chatbot, atau jika mereka harus menunggu sementara karyawan memeriksa keluaran chatbot, mereka mungkin membawa bisnis mereka ke tempat lain. Orang tidak boleh khawatir tentang apakah bisnis yang mereka hubungi memberikan informasi palsu – mereka ingin dukungan yang cepat dan dapat diandalkan, yang berarti mendapatkan interaksi ini dengan benar sangat penting.

Pemimpin bisnis harus melakukan tugas mereka dengan baik ketika memilih alat AI yang tepat untuk karyawan mereka. AI seharusnya membebaskan waktu dan energi staf untuk fokus pada tugas yang lebih berharga; berinvestasi pada chatbot yang memerlukan pengawasan manusia terus-menerus mengalahkan tujuan adopsi. Tapi, apakah keberadaan hallusinasi benar-benar begitu menonjol atau apakah istilah tersebut hanya digunakan berlebihan untuk mengidentifikasi setiap respon yang kita anggap tidak benar?

Mengatasi hallusinasi AI

Pertimbangkan: Teori Makna Dinamis (DMT), konsep bahwa pemahaman antara dua orang – dalam hal ini pengguna dan AI – sedang dipertukarkan. Namun, keterbatasan bahasa dan pengetahuan subjek menyebabkan ketidaksesuaian dalam interpretasi respon.

Dalam kasus respon yang dihasilkan AI, memungkinkan bahwa algoritma yang mendasarinya belum sepenuhnya dilengkapi untuk menafsirkan atau menghasilkan teks dengan cara yang sesuai dengan harapan kita sebagai manusia. Ketidaksesuaian ini dapat menyebabkan respon yang mungkin tampak akurat di permukaan tetapi pada akhirnya kekurangan kedalaman atau nuansa yang diperlukan untuk pemahaman yang sebenarnya.

Lebih lanjut, sebagian besar LLM umum menarik informasi hanya dari konten yang tersedia secara publik di internet. Aplikasi perusahaan AI berfungsi lebih baik ketika mereka diberitahu oleh data dan kebijakan yang spesifik untuk industri dan bisnis individu. Model juga dapat ditingkatkan dengan umpan balik manusia langsung – terutama solusi yang dirancang untuk merespons nada dan sintaks.

Alat seperti itu juga harus diuji secara ketat sebelum menjadi menghadap konsumen. Ini adalah bagian penting dari mencegah hallusinasi AI. Seluruh aliran harus diuji menggunakan percakapan berbasis giliran dengan LLM memainkan peran sebagai persona. Ini memungkinkan bisnis untuk lebih yakin tentang keberhasilan umum percakapan dengan model AI sebelum merilisnya ke dunia.

Sangat penting bagi pengembang dan pengguna teknologi AI untuk tetap menyadari teori makna dinamis dalam respon yang mereka terima, serta dinamika bahasa yang digunakan dalam input. Ingat, konteks adalah kunci. Dan, sebagai manusia, sebagian besar konteks kita dipahami melalui cara yang tidak terkatakan, apakah itu melalui bahasa tubuh, tren sosial – bahkan nada kita. Sebagai manusia, kita memiliki potensi untuk mengalami hallusinasi dalam menanggapi pertanyaan. Namun, dalam iterasi AI saat ini, pemahaman manusia-ke-manusia kita tidak dengan mudah dikontekstualisasikan, jadi kita perlu lebih kritis tentang konteks yang kita berikan dalam menulis.

Untuk mengatakan – tidak semua model AI diciptakan sama. Ketika teknologi berkembang untuk menyelesaikan tugas yang semakin kompleks, sangat penting bagi bisnis yang mempertimbangkan implementasi untuk mengidentifikasi alat yang akan meningkatkan interaksi dan pengalaman pelanggan daripada menguranginya.

Beban tidak hanya berada pada penyedia solusi untuk memastikan mereka telah melakukan semua yang mereka bisa untuk meminimalkan kemungkinan hallusinasi terjadi. Pembeli potensial juga memiliki peran mereka. Dengan memprioritaskan solusi yang dilatih dan diuji secara ketat dan dapat belajar dari data milik sendiri (bukan hanya apa saja di internet), bisnis dapat membuat sebagian besar dari investasi AI mereka untuk menyiapkan karyawan dan pelanggan untuk sukses.