Cuộc Đấu Tranh Để Ngăn Chặn Trí Tuệ Nhân Tạo Gian Lận Trong Các Bài Kiểm Tra

Nghiên cứu mới từ một trường đại học Trung Quốc cung cấp cái nhìn sâu sắc về lý do tại sao các mô hình xử lý ngôn ngữ tự nhiên như GPT-3 có xu hướng ‘gian lận’ khi được hỏi một câu hỏi khó, tạo ra các câu trả lời có thể chính xác về mặt kỹ thuật nhưng không có hiểu biết thực sự về tại sao câu trả lời là chính xác; và tại sao chúng thể hiện rất ít hoặc không có khả năng giải thích logic đằng sau các câu trả lời ‘dễ’ của chúng. Các nhà nghiên cứu cũng đề xuất một số phương pháp mới để giúp các hệ thống ‘học tập chăm chỉ’ hơn trong giai đoạn đào tạo.

Vấn đề là hai mặt: thứ nhất, chúng ta thiết kế các hệ thống nhằm đạt được kết quả nhanh chóng và sử dụng tối ưu tài nguyên. Ngay cả khi, như với GPT-3, tài nguyên có thể lớn hơn nhiều so với dự án nghiên cứu NLP trung bình có thể huy động, văn hóa tối ưu hóa kết quả này vẫn chi phối phương pháp luận, vì nó đã trở thành quy ước học thuật.

Do đó, kiến trúc đào tạo của chúng ta thưởng cho các mô hình hội tụ nhanh và tạo ra các phản hồi rõ ràng cho các câu hỏi, ngay cả khi mô hình NLP sau đó không thể chứng minh phản hồi của nó, hoặc chứng minh cách nó đạt được kết luận của mình.

Sự Tendency Sớm Để Gian Lận

Điều này xảy ra vì mô hình học ‘câu trả lời tắt’ sớm hơn nhiều so với việc học các loại kiến thức phức tạp hơn. Vì độ chính xác tăng thường được thưởng một cách không phân biệt trong suốt quá trình đào tạo, mô hình sau đó ưu tiên bất kỳ phương pháp nào cho phép nó trả lời một câu hỏi ‘mượt mà’, và không có hiểu biết thực sự.

Vì việc học tắt sẽ luôn đại diện cho lần đầu tiên thành công trong quá trình đào tạo, phiên sẽ tự nhiên thiên về việc tránh nhiệm vụ khó khăn hơn là đạt được một quan điểm nhận thức hữu ích và đầy đủ hơn, có thể chứa các lớp thuộc tính và logic sâu sắc hơn.

Cung Cấp Trí Tuệ Nhân Tạo Các Câu Trả Lời ‘Dễ’

Vấn đề thứ hai là mặc dù các sáng kiến nghiên cứu gần đây đã nghiên cứu xu hướng của Trí Tuệ Nhân Tạo để ‘gian lận’ theo cách này, và đã xác định hiện tượng ‘câu trả lời tắt’, vẫn chưa có nỗ lực nào để phân loại ‘vật liệu cho phép tắt’ trong một tập dữ liệu đóng góp, điều mà sẽ là bước đầu tiên hợp lý trong việc giải quyết những gì có thể là một khiếm khuyết kiến trúc cơ bản trong các hệ thống đọc hiểu máy (MRC).

Bài báo mới này, một sự hợp tác giữa Viện Công nghệ Máy tính Wangxuan và Phòng thí nghiệm Linguistics Máy tính then chốt MOE tại Đại học Bắc Kinh, thử nghiệm các mô hình ngôn ngữ khác nhau với một tập dữ liệu mới được chú thích bao gồm các phân loại cho ‘các giải pháp dễ’ và ‘các giải pháp khó’ cho một câu hỏi có thể xảy ra.

Nguồn: https://arxiv.org/pdf/2106.01024.pdf

Tập dữ liệu sử dụng việc viết lại như một tiêu chí cho các câu trả lời phức tạp và sâu sắc hơn, vì hiểu biết ngữ nghĩa là cần thiết để tái định hình kiến thức thu được. Ngược lại, các câu trả lời ‘tắt’ có thể sử dụng các token như ngày tháng, và các từ khóa bao quát khác, để tạo ra một câu trả lời chính xác về mặt事 thực, nhưng không có ngữ cảnh hoặc lý do.

Thành phần tắt của các chú thích bao gồm việc khớp từ câu hỏi (QWM) và khớp đơn giản (SpM). Đối với QWM, mô hình sử dụng các thực thể được trích xuất từ dữ liệu văn bản cung cấp và loại bỏ ngữ cảnh; đối với SpM, mô hình xác định sự chồng lấp giữa câu trả lời và câu hỏi, cả hai đều được cung cấp trong dữ liệu đào tạo.

Dữ Liệu Tắt Gần Như ‘Lây Lan’ Trong Ảnh Hưởng Trong Một Tập Dữ Liệu

Các nhà nghiên cứu cho rằng các tập dữ liệu có xu hướng chứa một tỷ lệ cao các câu hỏi tắt, khiến các mô hình đào tạo phụ thuộc vào các thủ thuật tắt.

Hai mô hình được sử dụng trong các thí nghiệm là BiDAF và BERT-base của Google. Các nhà nghiên cứu quan sát thấy rằng ngay cả khi được đào tạo trên các biến thể của tập dữ liệu với tỷ lệ cao hơn của ‘các câu hỏi khó’, cả hai mô hình vẫn hoạt động tốt hơn trên các câu hỏi tắt hơn là các câu hỏi viết lại khó hơn, mặc dù số lượng ví dụ trong tập dữ liệu rất nhỏ.

Điều này trình bày ‘dữ liệu tắt’ gần như trong ngữ cảnh của một loại virus – rằng chỉ cần một lượng nhỏ trong tập dữ liệu là đủ để nó được áp dụng và ưu tiên trong quá trình đào tạo, theo các tiêu chuẩn và thực hành thông thường trong NLP.

Chứng Minh Sự Gian Lận

Một phương pháp mà nghiên cứu sử dụng để chứng minh sự mong manh của một câu trả lời tắt là thay thế một từ thực thể ‘dễ’ bằng một từ bất thường. Khi một phương pháp tắt đã được sử dụng, logic của phản hồi ‘gian lận’ không thể được cung cấp; nhưng khi câu trả lời được cung cấp từ ngữ cảnh sâu sắc hơn và đánh giá ngữ nghĩa của một loạt văn bản đóng góp rộng lớn hơn, có thể cho hệ thống phân tích lỗi và xây dựng lại một câu trả lời chính xác.

Thay thế ‘Beyoncé’ (một người) bằng ‘America’ (một địa điểm), cho thấy liệu mô hình có logic nền tảng nào cho câu trả lời của nó.

Các Lối Cắt Do Một Áp Lực Kinh Tế

Về một số lý do kiến trúc tại sao các lối tắt lại được ưu tiên như vậy trong các luồng công việc đào tạo NLP, các tác giả nhận xét ‘Các mô hình MRC có thể học các thủ thuật tắt, như QWM, với ít tài nguyên tính toán hơn so với các thử thách đọc hiểu, như xác định việc viết lại’.

Điều này, sau đó, có thể là một kết quả không mong muốn của các triết lý tối ưu hóa và bảo tồn tài nguyên tiêu chuẩn trong các phương pháp đọc hiểu máy, và áp lực để có được kết quả với tài nguyên hạn chế trong các khung thời gian chặt chẽ.

Các nhà nghiên cứu cũng lưu ý:

‘[Vì] thủ thuật tắt có thể được sử dụng để trả lời hầu hết các câu hỏi đào tạo một cách chính xác, các câu hỏi chưa giải quyết còn lại có thể không khuyến khích các mô hình khám phá các giải pháp tinh vi đòi hỏi kỹ năng thách thức.’

Nếu kết quả của bài báo được chứng minh sau đó, dường như lĩnh vực tiền xử lý dữ liệu rộng lớn và ngày càng phát triển có thể cần xem xét ‘các crib ẩn’ trong dữ liệu như một vấn đề cần được giải quyết trong dài hạn, hoặc sửa đổi các kiến trúc NLP để ưu tiên các quy trình nhập dữ liệu thách thức hơn. g skills.’ Nếu kết quả của bài báo được chứng minh sau đó, dường như lĩnh vực tiền xử lý dữ liệu rộng lớn và ngày càng phát triển có thể cần xem xét ‘các crib ẩn’ trong dữ liệu như một vấn đề cần được giải quyết trong dài hạn, hoặc sửa đổi các kiến trúc NLP để ưu tiên các quy trình nhập dữ liệu thách thức hơn.