Mengapa AI Tidak Bisa Mengakui Bahwa Itu Tidak Tahu Jawabannya?

Model bahasa besar sering memberikan jawaban yang percaya diri bahkan ketika pertanyaan tidak bisa dijawab. Penelitian baru menunjukkan bahwa model-model ini sering mengenali masalah secara internal, tetapi tetap melanjutkan untuk membuat sesuatu, mengungkapkan kesenjangan tersembunyi antara apa yang mereka ketahui dan apa yang mereka katakan.

Siapa pun yang telah menghabiskan waktu yang wajar dengan model bahasa besar seperti ChatGPT atau Qwen series akan mengalami kesempatan di mana model tersebut memberikan jawaban yang salah (yang mungkin atau tidak memiliki konsekuensi lokal yang berbahaya, tergantung pada seberapa banyak Anda mengandalkannya) – dan, ketika kesalahan menjadi jelas, itu hanya mengeluarkan permintaan maaf.

Mengapa model bahasa besar memiliki kesulitan mengakui bahwa mereka tidak tahu jawaban untuk pertanyaan adalah bidang penelitian yang kecil tetapi tumbuh. Jawaban yang “percaya diri tetapi salah” dapat sangat merusak dari antarmuka berbasis API yang sangat disensor dan disaring seperti ChatGPT, karena model-model tersebut secara agresif memblokir input atau output yang tidak pantas atau melanggar aturan.

Hal ini dapat memberikan pengguna kesan bahwa model tersebut memiliki keputusan yang pasti dan kardinal, ketika sebenarnya penolakan itu berasal dari heuristik tradisional atau filter berbasis daftar hitam yang dirancang untuk membatasi paparan hukum perusahaan induk pada semua biaya, bukan dari wawasan AI.

Dari makalah Juni 2025 ‘AbstentionBench’ dari FAIR di Meta – di sebelah kiri, gambar tersebut menyoroti kisaran jenis kegagalan yang ditangkap dalam AbstentionBench, yang menguji perilaku model pada lebih dari 35.000 pertanyaan yang tidak dapat dijawab; di tengah, contoh menunjukkan bagaimana model-model sering merespons dengan jawaban yang dibuat-buat daripada mengakui bahwa mereka tidak memiliki cukup informasi; dan di sebelah kanan, recall abstention menurun ketika model-model disesuaikan untuk penalaran daripada mengikuti instruksi. Sumber: https://arxiv.org/pdf/2506.09038

Makalah baru dari Cina berpendapat bahwa model bahasa besar sebenarnya secara rahasia tahu bahwa mereka tidak bisa menjawab pertanyaan yang diajukan oleh pengguna, tetapi bahwa mereka tetap dipaksa untuk menghasilkan beberapa jenis jawaban, sebagian besar waktu, daripada memiliki kepercayaan diri untuk memutuskan bahwa jawaban yang valid tidak tersedia karena kurangnya informasi dari pengguna, atau keterbatasan model, atau alasan lain.

Makalah tersebut menyatakan:

‘[Kami] menunjukkan bahwa [model bahasa besar] memiliki kemampuan kognitif yang cukup untuk mengenali kelemahan dalam pertanyaan-pertanyaan ini. Namun, mereka gagal menunjukkan perilaku abstention yang tepat, mengungkapkan kesenjangan antara kognisi internal dan respon eksternal mereka.’

Peneliti telah mengembangkan pendekatan dua tahap yang ringan yang menggunakan pemantauan kognitif/probing untuk memindai proses internal model bahasa besar untuk tanda-tanda bahwa model tersebut menyadari bahwa tidak bisa memberikan jawaban; dan kemudian intervensi, untuk memastikan bahwa sifat “bermanfaat” model tidak memperburuk masalah pengguna dengan membawa mereka ke jalan buntu, atau bahkan jalan yang merusak.

Penelitian ini menggunakan pertanyaan matematika yang disengaja tidak lengkap untuk menguji apakah model dapat mengenali kapan jawaban tidak dapat diberikan; tetapi pengaturan ini berisiko mengkerangkai tugas sebagai “trik”. Dalam kenyataan, model menghadapi alasan yang lebih rutin untuk abstain dalam percakapan, dari kalimat yang ambigu, hingga kesenjangan dalam pengetahuan domain.

Metode

(Karena tidak ada saingan yang sesuai untuk dipasang melawan pendekatan penulis, dan karena makalah tersebut mengikuti format yang sedikit tidak konvensional, serta tidak mengindeks sitasi ke standar yang biasa, kami akan berusaha untuk mematuhinya sebaik mungkin.)

Sejalan dengan pendekatan sebelumnya, penulis fokus pada menyajikan model bahasa besar dengan pertanyaan matematika yang tidak dapat dijawab dari dataset Synthetic Unanswerable Math (SUM) dataset, mengevaluasi lima keluarga model: Dari jajaran DeepSeek, R1-Distill-Llama-8B; R1-Distill-Qwen-7B, R1-Distill-Qwen-14B; dan, dari seri Qwen, Qwen3-8B, serta Qwen3-14B.

Pertanyaan yang tidak dapat dijawab dalam SUM dibuat dengan menghapus atau merusak elemen penting dalam lima cara: menghapus informasi kunci; memperkenalkan ketidakjelasan; memaksakan kondisi yang tidak realistis; merujuk pada objek yang tidak terkait; atau menghapus pertanyaan secara keseluruhan.

Kemudian, sampel 1.000 kasus tersebut dipilih untuk dianalisis, dengan GPT-4o digunakan untuk menghasilkan penjelasan yang ringkas untuk berfungsi sebagai rasional dasar.

Respon model terhadap pertanyaan yang tidak dapat dijawab dievaluasi menggunakan prompt yang distandarisasi dengan anggaran token 10.000, selama mana tiga pola perilaku utama diamati: pada yang pertama, model mengidentifikasi pertanyaan sebagai tidak dapat dijawab, dan abstain – biasanya merespons dengan ekspresi ketidakpastian yang eksplisit; pada yang kedua, model menghasilkan jawaban lengkap dengan mengarang informasi yang hilang, seperti memperkenalkan biaya pengiriman yang tidak ada sebesar $9,99 untuk membenarkan hasil akhir (lihat gambar di bawah); Pada yang ketiga, yang disebut penempelan kognitif, model terjebak dalam loop penalaran yang diperpanjang, mempertahankan jalur solusi yang tidak valid bahkan setelah mengakui secara implisit bahwa pertanyaan tersebut tidak memiliki jawaban yang valid:

Hasil respon yang bervariasi untuk pertanyaan yang tidak mungkin.

Makalah tersebut mempresentasikan tren di mana model yang lebih besar tampaknya abstain lebih sering dari menjawab pertanyaan yang tidak dapat dijawab, dengan penurunan dalam jawaban yang dibuat-buat dan perilaku penempelan:

Pembagian respon model terhadap masalah matematika yang tidak dapat dijawab, menunjukkan frekuensi relatif dari abstention yang benar, jawaban yang dibuat-buat, dan penempelan kognitif di seluruh skala model yang berbeda.

Namun, pergeseran ini terbatas dalam skala, dan meninggalkan sebagian besar kasus yang tidak terpecahkan melalui abstention yang benar, menunjukkan bahwa kapasitas yang meningkat saja tidak secara andal menghasilkan perilaku yang lebih hati-hati.

Kesadaran Jalan Buntu

Untuk menguji apakah model bahasa dapat mengetahui kapan pertanyaan sebenarnya tidak memiliki jawaban, peneliti memotong bagian penalaran model setengah jalan, dan meminta jawaban akhir atau penjelasan mengapa pertanyaan tersebut tidak dapat dijawab.

Untuk kasus di mana model terus-menerus melakukan penalaran, mereka mematikan model pada kata ‘tunggu’, dan meminta respon; untuk kasus di mana model dengan cepat mengarang jawaban, mereka memasukkan jeda pada batas paragraf.

Grafik di sebelah kiri menunjukkan seberapa sering model memberikan abstention yang benar ketika dipotong di tengah penalaran, dengan tingkat yang lebih tinggi untuk kasus penempelan daripada jawaban yang dibuat-buat. Grafik di sebelah kanan menunjukkan bahwa sebagian besar model dapat menjelaskan mengapa pertanyaan tidak dapat dijawab ketika dipicu, bahkan jika jawaban akhir mereka gagal mencerminkan pemahaman tersebut.

Dalam banyak kasus ini, model memberikan abstention yang benar atau penjelasan yang jelas, bahkan jika sebelumnya mereka menghasilkan jawaban yang salah. Penulis menyatakan bahwa hal ini menunjukkan bahwa model sering memang mengenali masalah selama proses penalaran, tetapi gagal bertindak berdasarkan kesadaran tersebut dalam output akhir.

Membaca Pikiran LLM

Untuk menguji apakah model bahasa secara internal melacak apakah pertanyaan dapat dijawab, peneliti melatih klasifikasi kecil pada aktivasi tersembunyi model selama penalaran, memungkinkan mereka untuk memeriksa apakah perbedaan antara pertanyaan yang dapat dijawab dan tidak dapat dijawab sudah ada dalam sinyal internal model – bahkan jika tidak tercermin dalam output akhir.

Membangun pada gagasan bahwa konsep tingkat tinggi seperti kebenaran atau jenis kelamin dapat disematkan secara linier dalam aktivasi model, ‘jawaban’ * diuji untuk representasi yang serupa.

Klasifikasi linier sederhana (probe) dilatih pada aktivasi tersembunyi di seluruh lapisan model yang berbeda, menggunakan output dari mekanisme perhatian multi-kepala tepat sebelum koneksi residu.

Setiap probe dilatih untuk membedakan antara pertanyaan yang dapat dijawab dan tidak dapat dijawab, berdasarkan aktivasi internal dari proses penalaran. Input terdiri dari 2.200 pasangan pertanyaan yang disampel dari dataset SUM, dengan 2.000 digunakan untuk pelatihan dan 200 untuk validasi.

Pada saat inferensi, prediksi model dirata-ratakan di seluruh token yang dilihat hingga titik itu dalam urutan penalaran, memungkinkan probe untuk melacak bagaimana sinyal terkait jawaban muncul dari waktu ke waktu:

Akurasi klasifikasi probe linier yang dilatih untuk membedakan pertanyaan yang dapat dijawab dan tidak dapat dijawab, diukur pada titik yang berbeda dalam proses penalaran. Akurasi umumnya meningkat seiring penalaran, dengan model yang lebih besar mencapai lebih dari 85% pada tahap akhir.

Seperti yang ditunjukkan di atas, akurasi probe secara bertahap meningkat seiring penalaran, dengan sebagian besar model melebihi 80% akurasi klasifikasi pada langkah-langkah akhir – bukti bahwa bahkan ketika perilaku luar model gagal mencerminkannya, representasi internal sering membawa sinyal yang jelas yang menunjukkan apakah pertanyaan dapat dijawab.

Penegasan yang Gigih

Meskipun hasil sebelumnya menunjukkan bahwa model bahasa besar sering mengenali kapan pertanyaan tidak dapat dijawab, makalah tersebut mencatat bahwa mereka masih cenderung melanjutkan untuk menghasilkan jawaban daripada memilih untuk abstain.

Untuk menyelidiki kesenjangan ini, peneliti menganalisis kepercayaan model dalam abstain pada titik-titik tertentu selama proses penalaran, membandingkan kepercayaan model di seluruh tiga kategori output: abstention yang benar; jawaban yang dibuat-buat; dan penempelan kognitif.

Sampel yang sama besar digunakan untuk setiap kategori, dengan kepercayaan diri didefinisikan sebagai rata-rata probabilitas maksimum yang ditugaskan untuk setiap token output di seluruh langkah dekoding, berdasarkan formulasi dari pekerjaan sebelumnya. Seperti yang ditunjukkan pada grafik di bawah, baik jawaban yang dibuat-buat dan kasus penempelan menunjukkan kepercayaan abstention yang lebih rendah dibandingkan dengan abstention yang benar:

Tingkat kepercayaan yang terkait dengan menghasilkan respon abstention ‘Saya tidak tahu’ di seluruh jenis respon yang berbeda.

Peneliti juga mengukur seberapa sering model menghasilkan respon ‘Saya tidak tahu’ selama proses penalaran. Grafik di bawah menunjukkan bahwa kasus abstention yang benar menghasilkan frekuensi abstention yang lebih tinggi, sementara kategori lainnya menghasilkan respon tersebut kurang sering:

Frekuensi respon ‘Saya tidak tahu’ yang diamati pada titik-titik penghentian selama penalaran, ditunjukkan untuk jenis hasil respon yang berbeda.

Temuan ini menunjukkan, menurut penulis, bahwa meskipun model mungkin mendeteksi ketidakjawaban secara internal, mereka sering kekurangan kepercayaan untuk bertindak berdasarkan kesadaran tersebut, menunjukkan preferensi yang konsisten untuk menyelesaikan tugas daripada mengakui ketidakpastian.

Pengujian

Membangun pada temuan ini, peneliti mengembangkan metode dua tahap yang dirancang untuk meningkatkan abstention. Tahap pertama, pemantauan kognitif, melacak keadaan tersembunyi model selama inferensi, membagi proses penalaran menjadi unit alami seperti klausa atau jeda, ditandai dengan kata-kata seperti ‘tunggu’.

Di akhir setiap segmen, probe linier ringan yang dilatih pada sinyal internal yang terkait dengan jawaban, memperkirakan kemungkinan bahwa pertanyaan tidak dapat dijawab. Jika probabilitas ini melewati ambang batas yang ditetapkan, proses berlanjut ke tahap kedua: intervensi waktu inferensi yang mengarahkan model untuk abstain, bukan mengarang respon.

Ketika model menunjukkan tanda-tanda internal bahwa pertanyaan tidak dapat dijawab, penalaran dihentikan dengan intervensi yang memperkuat kesadaran tersebut dan meningkatkan kemungkinan abstention. Seperti yang ditunjukkan di bawah, intervensi ini mewakili ‘prompt bimbingan’ yang mengingatkan model bahwa pertanyaan mungkin tidak memiliki jawaban yang valid:

Prompt untuk mengondisikan intervensi waktu inferensi.

Metode ini juga mencakup mekanisme keluar awal yang mencegah urutan penalaran berlanjut secara tidak perlu, mendorong model untuk memandang abstention sebagai pilihan yang sah dan kadang-kadang lebih disukai.

Untuk fase pengujian, peneliti menggunakan dua dataset: Unanswerable Math Word Problem (UMWP), dan SUM yang disebutkan sebelumnya.

Set tes SUM digunakan untuk tujuan ini, berisi 284 pertanyaan yang tidak dapat dijawab dan 284 pertanyaan yang dapat dijawab yang telah diperiksa secara manual. UMWP dibangun dari empat sumber masalah kata matematika: SVAMP; MultiArith; Grade School Math (GSM8K); dan ASDiv.

Dataset lengkap terdiri dari 5.200 masalah, dengan 600 disampel untuk pengujian, dibagi secara merata antara pertanyaan yang tidak dapat dijawab dan pertanyaan yang dapat dijawab. Untuk item yang tidak dapat dijawab dalam UMWP, GPT-4o menghasilkan penjelasan dasar tentang mengapa mereka tidak dapat dipecahkan.

Metriks

Kinerja model diukur menggunakan empat metriks: tingkat abstention, bagian pertanyaan yang tidak dapat dijawab di mana model dengan benar abstain dengan merespons “Saya tidak tahu”, seperti yang diinstruksikan; akurasi alasan, persentase pertanyaan yang tidak dapat dijawab di mana model memberikan penjelasan yang valid tentang mengapa pertanyaan tersebut tidak dapat dipecahkan; penggunaan token, rincian jumlah token yang dihasilkan selama penalaran; dan akurasi jawaban, bagian pertanyaan yang dapat dijawab di mana model menghasilkan solusi akhir yang benar.

Pengujian Baseline

Karena tidak ada baseline standar untuk masalah ini, peneliti membandingkan metode mereka dengan dua alternatif, Dynasor-CoT dan Dynamic Early Exit in Reasoning Models (DEER), dengan asumsi bahwa abstention yang benar harus dianggap sebagai jawaban yang benar ketika pertanyaan tidak memiliki solusi.

Dynasor-CoT meminta model untuk menghasilkan jawaban intermediate dan berhenti ketika hasil yang sama muncul tiga kali berturut-turut, sementara DEER memantau kepercayaan pada tingkat kalimat dan menghentikan penalaran ketika ambang batas tercapai.

Baseline ketiga, yang disebut Vanilla, merujuk pada output model yang tidak dimodifikasi. Pengujian menggunakan lima varian Qwen dan DeepSeek yang disebutkan sebelumnya.

Hasil agregat ditunjukkan di bawah:

Perbandingan metode yang berbeda pada pertanyaan yang dapat dijawab dan tidak dapat dijawab di seluruh model penalaran besar, dengan nilai tertinggi di setiap kolom ditunjukkan dalam cetak tebal. Silakan merujuk ke makalah sumber untuk resolusi yang lebih baik.

Pendekatan baru menghasilkan tingkat abstention dan penalaran yang akurat tertinggi pada pertanyaan yang tidak dapat dijawab. Untuk pertanyaan yang dapat dijawab, akurasi tetap dekat dengan model vanilla dan terkadang ditingkatkan, menunjukkan bahwa pemecahan masalah normal tidak terganggu.

Penggunaan token juga menurun sebesar 30% hingga 50% pada kasus yang tidak dapat dijawab, dan sedikit menurun pada kasus yang dapat dijawab, menunjukkan efisiensi yang lebih besar.

Hubungan juga terlihat antara tingkat abstention dan akurasi alasan, karena model yang abstain lebih sering juga memberikan penjelasan yang lebih baik, yang penulis interpretasikan sebagai peningkatan kualitas penalaran.

Model Qwen3 umumnya outperformed versi distilasi (kuantum), sementara model yang lebih besar menunjukkan kemampuan abstention yang lebih kuat, menunjukkan bahwa baik arsitektur dan skala penting untuk deteksi ketidakjawaban yang dapat diandalkan.

Akhirnya, Penulis melaporkan bahwa metode baru mereka mengurangi halusinasi dan penempelan sambil meningkatkan tingkat abstention yang benar, sedangkan pendekatan baseline yang hanya mengandalkan ‘keluar awal’ terkadang mengarah pada jawaban yang lebih dibuat-buat.

Mereka juga melaporkan peningkatan dalam kepercayaan dan frekuensi respon “Saya tidak tahu”, dengan pemantauan berbasis sinyal laten terbukti lebih efektif daripada strategi yang bergantung pada petunjuk perilaku.

Kesimpulan

Ketidakmampuan model bahasa besar untuk abstain dari menjawab pertanyaan, di mana perlu, adalah salah satu titik gesekan terbesar dalam pengalaman pengguna AI generatif, tidak hanya karena kekhasan antarmuka lain yang memberikan pengguna ilusi bahwa AI mampu merespons dengan hati-hati, ketika – setidaknya untuk saat ini – biasanya tidak.

Satu kekhawatiran tentang intervensi langsung apa pun yang tidak berasal langsung dari ‘karakter’ model adalah bahwa itu mungkin digunakan berlebihan atau kurang, tergantung pada apakah aktivasi yang terdeteksi sebenarnya relevan dengan model mengakui kekalahan.

Lebih lanjut, biaya logistik pemantauan probe linier tidak mungkin tidak signifikan, dan memungkinkan bahwa metode heuristik yang lebih sederhana, serupa dengan yang digunakan untuk mengawal konten yang dilarang dari pengguna, mungkin merupakan solusi yang lebih murah, jika pemicu anchor dapat pernah didefinisikan dengan cukup baik.

* Naturally ini tidak sesuai dengan sinonim yang tampaknya ‘akuntabilitas’, tetapi lebih mendefinisikan apakah pertanyaan tertentu dapat dijawab atau tidak.

Dipublikasikan pertama kali pada hari Rabu, 27 Agustus 2025