Tại Sao Trí Tuệ Nhân Tạo Không Thể Nhận Ra Nó Không Biết Câu Trả Lời?

Các mô hình ngôn ngữ lớn thường đưa ra câu trả lời tự tin ngay cả khi câu hỏi không thể được trả lời. Nghiên cứu mới cho thấy những mô hình này thường nhận ra vấn đề nội bộ, nhưng vẫn tiếp tục tạo ra một câu trả lời,暴露 một khoảng cách ẩn giữa những gì chúng biết và những gì chúng nói.

Bất kỳ ai đã dành thời gian hợp lý với một mô hình ngôn ngữ lớn hàng đầu như ChatGPT hoặc Qwen sẽ có những lần mô hình cung cấp câu trả lời sai (có thể có hoặc không có hậu quả thảm khốc cục bộ, tùy thuộc vào mức độ bạn dựa vào nó) – và, khi lỗi trở nên rõ ràng, nó chỉ đưa ra một lời xin lỗi.

Tại sao các mô hình LLM hàng đầu lại gặp khó khăn trong việc thừa nhận rằng họ không biết câu trả lời cho một câu hỏi là một lĩnh vực nghiên cứu nhỏ nhưng ngày càng phát triển. Một câu trả lời “tự tin nhưng sai” có thể đặc biệt gây hại từ một giao diện dựa trên API được lọc và kiểm duyệt cao như ChatGPT, vì những mô hình này ngăn chặn tích cực đầu vào hoặc đầu ra không phù hợp.

Điều này có thể tạo cho người dùng ấn tượng sai rằng mô hình quyết đoán và quan trọng, khi thực tế sự từ chối đến từ một bộ lọc truyền thống hoặc dựa trên danh sách chặn được thiết kế để hạn chế tiếp xúc pháp lý của công ty chủ tại tất cả các chi phí, không phải từ bất kỳ thông tin nào từ AI.

Từ bài báo tháng 6 năm 2025 ‘AbstentionBench’ từ FAIR tại Meta – ở bên trái, hình ảnh này突出 phạm vi các loại thất bại được thu thập trong AbstentionBench, kiểm tra hành vi mô hình trên hơn 35.000 câu hỏi không thể trả lời; ở giữa, một ví dụ cho thấy mô hình thường trả lời bằng câu trả lời giả tạo thay vì thừa nhận thiếu thông tin; và ở bên phải, khả năng nhớ lại từ chối giảm khi mô hình được điều chỉnh cho việc suy luận thay vì việc tuân theo hướng dẫn. Nguồn: https://arxiv.org/pdf/2506.09038

Một bài báo mới từ Trung Quốc cho rằng mô hình LLM thực sự biết rằng họ không thể trả lời một câu hỏi được đặt ra bởi người dùng, nhưng họ vẫn bị buộc phải tạo ra một số loại câu trả lời, hầu hết thời gian, thay vì có đủ tự tin để quyết định rằng một câu trả lời hợp lệ không có sẵn do thiếu thông tin từ người dùng, hoặc hạn chế của mô hình, hoặc vì những lý do khác.

Bài báo này tuyên bố:

‘[Chúng tôi] chỉ ra rằng [LLM] có đủ khả năng nhận thức để nhận ra những khiếm khuyết trong những câu hỏi này. Tuy nhiên, chúng không thể hiện hành vi từ chối phù hợp, tiết lộ một sự không phù hợp giữa nhận thức nội bộ và phản ứng bên ngoài.’

Các nhà nghiên cứu đã phát triển một cách tiếp cận hai giai đoạn nhẹ, sử dụng giám sát nhận thức / thăm dò để quét quá trình nội bộ của LLM để tìm kiếm các dấu hiệu cho thấy nó nhận ra rằng nó không thể cung cấp câu trả lời; và sau đó can thiệp, để đảm bảo rằng bản chất “giúp đỡ” của mô hình không làm trầm trọng thêm vấn đề của người dùng bằng cách đưa họ vào một con đường mù hoặc thậm chí là một con đường hủy diệt.

Trong nhiều trường hợp, mô hình đã đưa ra một sự từ chối đúng hoặc một lời giải thích rõ ràng, ngay cả khi nó trước đó đã tạo ra một câu trả lời sai lầm. Các tác giả cho rằng điều này cho thấy rằng mô hình thường nhận ra vấn đề trong quá trình suy luận, nhưng không hành động trên nhận thức đó trong đầu ra cuối cùng.

Phương Pháp

(Vì không có đối thủ phù hợp để so sánh với cách tiếp cận của tác giả, và vì bài báo này theo một định dạng không chính thống, cũng như không lập chỉ mục trích dẫn theo tiêu chuẩn thông thường, chúng tôi sẽ cố gắng tuân theo nó càng tốt có thể.)

Theo cách tiếp cận trước đó, các tác giả tập trung vào việc trình bày LLM với các câu hỏi toán học không thể trả lời từ Synthetic Unanswerable Math (SUM) dataset, đánh giá năm họ mô hình: Từ dòng DeepSeek range, R1-Distill-Llama-8B; R1-Distill-Qwen-7B, R1-Distill-Qwen-14B; và, từ dòng Qwen series, Qwen3-8B, cũng như Qwen3-14B.

Các vấn đề không thể trả lời trong SUM được tạo ra bằng cách xóa hoặc làm hỏng các yếu tố thiết yếu theo năm cách: xóa thông tin chính; giới thiệu sự mơ hồ; áp đặt điều kiện không thực tế; tham chiếu đến các đối tượng không liên quan; hoặc xóa câu hỏi hoàn toàn.

Sau đó, một mẫu 1.000 trường hợp như vậy đã được chọn để phân tích, với GPT-4o được sử dụng để tạo ra các giải thích ngắn gọn để phục vụ như các lý do cơ bản.

Đáp ứng của mô hình đối với các câu hỏi không thể trả lời được đánh giá bằng cách sử dụng các lời nhắc tiêu chuẩn hóa với ngân sách 10.000 token, trong đó ba mẫu hành vi chính được quan sát: trong mẫu đầu tiên, mô hình xác định câu hỏi là không thể giải quyết, và từ chối – thường trả lời bằng một biểu thức rõ ràng của sự không chắc chắn; trong mẫu thứ hai, nó tạo ra một câu trả lời hoàn chỉnh bằng cách tạo ra thông tin bị thiếu, chẳng hạn như giới thiệu một khoản phí xử lý không tồn tại $9,99 để biện minh cho một kết quả cuối cùng (xem hình ảnh dưới đây); Trong mẫu thứ ba, được gọi là định tâm nhận thức, mô hình bị mắc kẹt trong một vòng lặp suy luận mở rộng, tiếp tục với các đường dẫn giải pháp không hợp lệ ngay cả sau khi thừa nhận ngầm rằng câu hỏi không có câu trả lời hợp lệ:

Các kết quả trả lời khác nhau cho một câu hỏi không thể trả lời.

Bài báo này trình bày một xu hướng trong đó các mô hình lớn hơn dường như từ chối trả lời các câu hỏi không thể trả lời thường xuyên hơn, với sự giảm trong cả các câu trả lời bị ảo giác và các hành vi cố định:

Phân tích các câu trả lời của mô hình đối với các vấn đề toán học không thể trả lời, cho thấy tần suất tương đối của việc từ chối đúng, các câu trả lời bị ảo giác và các hành vi cố định trên các mô hình khác nhau.

Tuy nhiên, sự thay đổi này bị giới hạn ở quy mô, và để lại một phần đáng kể các trường hợp không được giải quyết thông qua việc từ chối đúng, cho thấy rằng tăng khả năng alone không đảm bảo hành vi cẩn thận hơn.

Sự Nhận Biết Của Tình Huống Bế Tắc

Để kiểm tra xem các mô hình ngôn ngữ có thể nhận ra khi một câu hỏi thực sự không có câu trả lời, các nhà nghiên cứu đã ngắt quá trình suy luận của mô hình và hỏi mô hình trả lời cuối cùng hoặc giải thích Tại sao câu hỏi không thể trả lời được.

Đối với các trường hợp mô hình tiếp tục suy luận mãi mãi, họ đã dừng nó tại từ ‘wait’, và yêu cầu một phản hồi; đối với các trường hợp mô hình nhanh chóng tạo ra một câu trả lời bị ảo giác, họ đã chèn một điểm dừng tại một ranh giới đoạn văn.

Biểu đồ ở bên trái cho thấy tần suất mô hình đưa ra các sự từ chối đúng khi bị ngắt trong quá trình suy luận, với tỷ lệ cao hơn cho các trường hợp cố định hơn là các câu trả lời bị ảo giác. Biểu đồ ở bên phải cho thấy rằng hầu hết các mô hình có thể giải thích tại sao một câu hỏi không thể trả lời được khi được yêu cầu, ngay cả khi câu trả lời cuối cùng của chúng không phản ánh sự hiểu biết đó.

Trong nhiều trường hợp như vậy, mô hình đã đưa ra một sự từ chối đúng hoặc một lời giải thích rõ ràng, ngay cả khi nó trước đó đã tạo ra một câu trả lời sai lầm. Các tác giả cho rằng điều này cho thấy rằng mô hình thường nhận ra vấn đề trong quá trình suy luận, nhưng không hành động trên nhận thức đó trong đầu ra cuối cùng.

Đọc Tâm Trí Của Mô Hình LLM

Để kiểm tra xem các mô hình ngôn ngữ có theo dõi nội bộ xem một câu hỏi có thể trả lời được hay không, các nhà nghiên cứu đã đào tạo các phân loại nhỏ trên các hoạt động ẩn của mô hình trong quá trình suy luận, cho phép họ kiểm tra xem sự khác biệt giữa các câu hỏi có thể trả lời và không thể trả lời đã được hiện diện trong các tín hiệu nội bộ của mô hình – ngay cả khi không được phản ánh trong đầu ra cuối cùng.

Xây dựng trên ý tưởng rằng các khái niệm cấp cao như đúng hoặc giới tính có thể được nhúng tuyến tính trong các hoạt động của mô hình, ‘khả năng trả lời’ * được kiểm tra để xem nó có được đại diện tương tự.

Các phân loại tuyến tính đơn giản (dò) được đào tạo trên các hoạt động ẩn trên các lớp mô hình khác nhau, sử dụng đầu ra từ cơ chế chú ý đa đầu ngay trước kết nối dư.

Mỗi dò được đào tạo để phân biệt giữa các câu hỏi có thể trả lời và không thể trả lời, dựa trên các hoạt động nội bộ từ quá trình suy luận. Đầu vào bao gồm 2.200 cặp câu hỏi được lấy mẫu từ tập dữ liệu SUM, với 2.000 được sử dụng để đào tạo và 200 để xác thực.

Vào thời điểm suy luận, dự đoán của mô hình được tính trung bình trên các token được xem cho đến thời điểm đó trong trình tự suy luận, cho phép dò theo dõi cách các tín hiệu liên quan đến khả năng trả lời xuất hiện theo thời gian:

Độ chính xác của các dò tuyến tính được đào tạo để phân biệt giữa các câu hỏi có thể trả lời và không thể trả lời, đo tại các điểm khác nhau trong quá trình suy luận. Độ chính xác nói chung được cải thiện khi quá trình suy luận tiến triển, với các mô hình lớn hơn đạt được trên 85% vào các giai đoạn cuối.

Như được hiển thị ở trên, độ chính xác của dò tăng đều đặn khi quá trình suy luận diễn ra, với hầu hết các mô hình vượt quá 80% độ chính xác phân loại vào các giai đoạn cuối – bằng chứng cho thấy rằng ngay cả khi hành vi bên ngoài của mô hình không phản ánh điều đó, các biểu diễn nội bộ thường mang một tín hiệu rõ ràng cho thấy liệu một câu hỏi có thể được trả lời hay không.

Sự Cứng Đầu

Mặc dù các kết quả trước cho thấy rằng các mô hình ngôn ngữ lớn thường nhận ra khi một câu hỏi không thể trả lời, bài báo này lưu ý rằng chúng vẫn có xu hướng tiếp tục tạo ra một câu trả lời thay vì chọn từ chối.

Để điều tra sự không phù hợp này, các nhà nghiên cứu đã phân tích sự tự tin của mô hình trong việc từ chối tại các điểm cụ thể trong quá trình suy luận, so sánh sự tự tin của mô hình trên ba loại đầu ra: từ chối đúng; câu trả lời bị ảo giác; và định tâm nhận thức.

Các mẫu có kích thước bằng nhau được sử dụng cho mỗi loại, với sự tự tin được định nghĩa là xác suất trung bình được gán cho mỗi token đầu ra trên các bước giải mã, dựa trên một công thức từ công việc trước. Như được hiển thị trong biểu đồ dưới đây, cả các câu trả lời bị ảo giác và các trường hợp cố định đều cho thấy sự tự tin từ chối thấp hơn so với từ chối đúng:

Các mức độ tự tin liên quan đến việc tạo ra phản hồi từ chối ‘Tôi không biết’ trên các loại phản hồi khác nhau.

Các nhà nghiên cứu cũng đo lường tần suất mô hình tạo ra phản hồi ‘Tôi không biết’ trong quá trình suy luận. Biểu đồ dưới đây cho thấy rằng các trường hợp từ chối đúng dẫn đến tần suất phản hồi ‘Tôi không biết’ cao hơn, trong khi các loại khác tạo ra các phản hồi như vậy ít thường xuyên hơn:

Tần suất phản hồi ‘Tôi không biết’ được quan sát tại các điểm dừng trong quá trình suy luận, hiển thị cho các loại kết quả phản hồi khác nhau.

Những phát hiện này cho thấy, theo các tác giả, rằng trong khi mô hình có thể nhận ra sự không thể trả lời nội bộ, chúng thường thiếu sự tự tin để hành động trên nhận thức đó, cho thấy một sự ưu tiên nhất quán cho việc hoàn thành nhiệm vụ hơn là thừa nhận sự không chắc chắn.

Thử Nghiệm

Dựa trên những phát hiện này, các nhà nghiên cứu đã phát triển một phương pháp hai giai đoạn để cải thiện việc từ chối. Giai đoạn đầu, giám sát nhận thức, theo dõi các trạng thái ẩn của mô hình trong quá trình suy luận, chia quá trình suy luận thành các đơn vị tự nhiên như đoạn văn hoặc điểm dừng, được đánh dấu bởi các từ như ‘wait’.

Vào cuối mỗi đoạn, một dò tuyến tính nhẹ được đào tạo trên các tín hiệu nội bộ liên quan đến khả năng trả lời, ước tính khả năng rằng câu hỏi không thể trả lời. Nếu xác suất này vượt quá một ngưỡng đặt trước, quá trình chuyển sang giai đoạn thứ hai: một can thiệp tại thời điểm suy luận, điều khiển mô hình hướng tới việc từ chối thay vì tạo ra một câu trả lời bị ảo giác.

Khi mô hình cho thấy các dấu hiệu nội bộ rằng một câu hỏi không thể trả lời, quá trình suy luận bị gián đoạn bởi một can thiệp, củng cố nhận thức này và tăng khả năng từ chối. Như được hiển thị dưới đây, can thiệp này đại diện cho một ‘lời nhắc hướng dẫn’ nhắc mô hình rằng câu hỏi có thể không có câu trả lời hợp lệ:

Một lời nhắc để điều kiện can thiệp tại thời điểm suy luận.

Phương pháp này cũng kết hợp một cơ chế thoát sớm ngăn chặn quá trình suy luận tiếp tục không cần thiết, khuyến khích mô hình xem việc từ chối là một lựa chọn hợp lệ và đôi khi là lựa chọn tốt hơn.

Để thử nghiệm, các nhà nghiên cứu đã sử dụng hai tập dữ liệu: Unanswerable Math Word Problem (UMWP), và SUM đã đề cập trước đó.

Tập thử nghiệm của SUM được sử dụng cho mục đích này, chứa 284 câu hỏi không thể trả lời và 284 câu hỏi có thể trả lời được kiểm tra thủ công. UMWP được xây dựng từ bốn nguồn vấn đề toán học từ văn bản: SVAMP; MultiArith; Grade School Math (GSM8K); và ASDiv.

Tập dữ liệu đầy đủ bao gồm 5.200 vấn đề, với 600 được lấy mẫu cho thử nghiệm, chia đều giữa các câu hỏi có thể trả lời và không thể trả lời. Đối với các mục không thể trả lời trong UMWP, GPT-4o đã tạo ra các giải thích cơ bản về lý do tại sao chúng không thể được giải quyết.

Đo Lường

Hiệu suất của mô hình được đo bằng bốn chỉ số: tỷ lệ từ chối, tỷ lệ phần trăm của các câu hỏi không thể trả lời mà mô hình từ chối đúng bằng cách trả lời “Tôi không biết”, như được hướng dẫn; độ chính xác của lý do, tỷ lệ phần trăm của các câu hỏi không thể trả lời mà mô hình đưa ra một giải thích hợp lệ về lý do tại sao câu hỏi không thể được giải quyết; sử dụng token, chi tiết số lượng token được tạo ra trong quá trình suy luận; và độ chính xác của câu trả lời, tỷ lệ phần trăm của các câu hỏi có thể trả lời mà mô hình tạo ra câu trả lời cuối cùng chính xác.

Thử Nghiệm Cơ Bản

Vì không có cơ sở thử nghiệm tiêu chuẩn cho vấn đề này, các nhà nghiên cứu đã so sánh phương pháp của họ với hai phương pháp thay thế, Dynasor-CoT và Đầu Ra Sớm Động Trong Các Mô Hình Suy Luận (DEER), với giả định rằng việc từ chối đúng nên được coi là câu trả lời đúng khi một câu hỏi không có giải pháp.

Dynasor-CoT yêu cầu mô hình tạo ra các câu trả lời trung gian và dừng lại khi cùng một kết quả xuất hiện ba lần liên tiếp, trong khi DEER theo dõi sự tự tin ở cấp độ câu và dừng quá trình suy luận khi một ngưỡng được đạt đến.

Một cơ sở thử nghiệm thứ ba, được gọi là Vanilla, đề cập đến đầu ra của mô hình không được sửa đổi. Các thử nghiệm sử dụng năm biến thể Qwen và DeepSeek đã đề cập trước đó.

Kết quả tổng hợp được minh họa dưới đây:

So sánh các phương pháp khác nhau trên các câu hỏi có thể trả lời và không thể trả lời trên các mô hình suy luận lớn, với các giá trị cao nhất trong mỗi cột được hiển thị in đậm. Xin vui lòng tham khảo bài báo nguồn để có độ phân giải tốt hơn.

Phương pháp mới tạo ra các tỷ lệ từ chối và lý do chính xác cao nhất trên các câu hỏi không thể trả lời. Đối với các câu hỏi có thể trả lời, độ chính xác vẫn gần với độ chính xác của các mô hình vanilla và đôi khi được cải thiện, cho thấy rằng việc giải quyết vấn đề bình thường không bị ảnh hưởng.

Sử dụng token cũng giảm 30% đến 50% trên các trường hợp không thể trả lời và giảm nhẹ trên các trường hợp có thể trả lời, cho thấy hiệu quả cao hơn.

Một mối liên hệ cũng được quan sát thấy giữa tỷ lệ từ chối và độ chính xác của lý do, vì các mô hình từ chối thường xuyên hơn cũng đưa ra các giải thích tốt hơn, mà các tác giả giải thích là một cải thiện trong chất lượng suy luận.

Các mô hình Qwen3 nói chung đã vượt trội so với các phiên bản được chưng cất (quantized), trong khi các mô hình lớn hơn cho thấy khả năng từ chối mạnh mẽ hơn, cho thấy rằng cả kiến trúc và quy mô đều quan trọng cho việc phát hiện không thể trả lời một cách tin cậy.

Cuối cùng, các tác giả báo cáo rằng phương pháp mới của họ giảm các ảo giác và các hành vi cố định trong khi tăng tỷ lệ từ chối đúng, trong khi các phương pháp cơ bản dựa trên ‘đầu ra sớm’ đôi khi dẫn đến nhiều câu trả lời bị ảo giác hơn.

Họ cũng báo cáo lợi ích về sự tự tin và tần suất của các phản hồi “Tôi không biết”, với việc giám sát dựa trên các tín hiệu ẩn được chứng minh là hiệu quả hơn các chiến lược phụ thuộc vào các tín hiệu hành vi.

Kết Luận

Khả năng của các mô hình ngôn ngữ lớn không thể từ chối trả lời một câu hỏi khi cần thiết là một trong những điểm ma sát lớn nhất trong trải nghiệm người dùng của trí tuệ nhân tạo tạo sinh, không chỉ vì những đặc điểm khác của giao diện tạo ra ảo tưởng rằng AI có thể đưa ra các phản hồi cẩn thận, khi thực tế – ít nhất là hiện tại – nó thường không phải như vậy.

Một mối quan ngại về bất kỳ loại can thiệp trực tiếp nào không đến từ ‘bản chất’ của mô hình là nó có thể được sử dụng quá mức hoặc không đủ, tùy thuộc vào việc các hoạt động được phát hiện có thực sự liên quan đến việc mô hình thừa nhận thất bại hay không.

Hơn nữa, chi phí hậu cần của việc giám sát dò tuyến tính không có khả năng không đáng kể, và có thể các phương pháp heuristic đơn giản hơn, tương tự như những phương pháp ose that gate-keep banned content from users, may be a cheaper solution, if the anchor triggers can ever be defined adequately. * Naturally this does not accord with the apparent synonym ‘accountability’, but rather defines whether a particular question can be answered at all. First published Wednesday, 27 tháng 8, 2025