Bahaya Menggunakan Kutipan untuk Mengotentikasi Konten NLG

Opini Model Generasi Bahasa Alami seperti GPT-3 cenderung ‘mengalami halusinasi’ materi yang mereka sajikan dalam konteks informasi faktual. Di era yang luar biasa peduli dengan pertumbuhan berita palsu berbasis teks, ‘penerbangan khayalan’ ini mewakili hambatan eksistensial bagi pengembangan sistem penulisan dan ringkasan otomatis, dan untuk masa depan jurnalisme yang didorong oleh AI, di antara berbagai sub-sektor lain dari Pemrosesan Bahasa Alami (NLP).

Masalah utama adalah bahwa model bahasa GPT-style mengambil fitur dan kelas kunci dari korpus pelatihan teks yang sangat besar dan belajar menggunakan fitur-fitur ini sebagai blok bangunan bahasa dengan terampil dan autentik, terlepas dari akurasi konten yang dihasilkan, atau bahkan keterimaannya.