Trợ lý trò chuyện AI đấu tranh với sự hiểu biết ngôn ngữ

Sự ra đời của trợ lý trò chuyện AI đã thay đổi trải nghiệm trò chuyện, mang lại những tiến bộ似乎 song song với sự hiểu biết và sử dụng ngôn ngữ của con người. Những trợ lý trò chuyện này, được thúc đẩy bởi các mô hình ngôn ngữ lớn, đang trở nên thành thạo trong việc điều hướng các phức tạp của tương tác con người.

Tuy nhiên, một nghiên cứu gần đây đã chỉ ra sự dễ bị tổn thương dai dẳng của các mô hình này trong việc phân biệt ngôn ngữ tự nhiên với những câu nói vô nghĩa. Điều tra được thực hiện bởi các nhà nghiên cứu tại Đại học Columbia đã đưa ra những hiểu biết thú vị về các cải tiến tiềm năng trong hiệu suất của trợ lý trò chuyện và xử lý ngôn ngữ của con người.

Điều tra về các mô hình ngôn ngữ

Đội ngũ nghiên cứu đã trình bày về nghiên cứu của họ liên quan đến chín mô hình ngôn ngữ khác nhau được đưa ra nhiều cặp câu. Những người tham gia nghiên cứu được yêu cầu phân biệt câu nào là “tự nhiên” hơn trong mỗi cặp, phản ánh việc sử dụng hàng ngày. Các mô hình sau đó được đánh giá dựa trên việc liệu đánh giá của họ có trùng với lựa chọn của con người.

Khi các mô hình được so sánh với nhau, những mô hình dựa trên mạng nơ-ron chuyển đổi đã thể hiện hiệu suất vượt trội so với các mô hình mạng nơ-ron hồi tiếp và mô hình thống kê đơn giản. Tuy nhiên, thậm chí các mô hình tinh vi hơn cũng đã thể hiện lỗi, thường chọn những câu được coi là vô nghĩa bởi con người.

Đấu tranh với những câu vô nghĩa

Tiến sĩ Nikolaus Kriegeskorte, một nhà điều tra chính tại Viện Zuckerman của Columbia, đã nhấn mạnh sự thành công tương đối của các mô hình ngôn ngữ lớn trong việc nắm bắt các khía cạnh quan trọng bị bỏ lỡ bởi các mô hình đơn giản hơn. Ông lưu ý, “Thật vậy, ngay cả những mô hình tốt nhất chúng tôi nghiên cứu vẫn có thể bị đánh lừa bởi những câu vô nghĩa cho thấy rằng các tính toán của chúng đang thiếu một điều gì đó về cách con người xử lý ngôn ngữ.”

Một ví dụ nổi bật từ nghiên cứu đã nhấn mạnh các mô hình như BERT đánh giá sai sự tự nhiên của các câu, trái ngược với các mô hình như GPT-2, đã phù hợp với phán quyết của con người. Những khiếm khuyết phổ biến trong các mô hình này, như Christopher Baldassano, Tiến sĩ, một giáo sư trợ lý tâm lý học tại Columbia lưu ý, đã gây ra lo ngại về việc dựa vào hệ thống AI trong các quy trình ra quyết định, chỉ ra những “điểm mù” rõ ràng của chúng trong việc gắn nhãn các câu.

Ảnh hưởng và hướng đi tương lai

Những khoảng trống trong hiệu suất và việc khám phá lý do tại sao một số mô hình vượt trội hơn những mô hình khác là những lĩnh vực quan tâm của Tiến sĩ Kriegeskorte. Ông tin rằng việc hiểu những khác biệt này có thể thúc đẩy đáng kể tiến bộ trong các mô hình ngôn ngữ.

Nghiên cứu cũng mở ra những con đường để khám phá liệu các cơ chế trong trợ lý trò chuyện AI có thể kích thích những câu hỏi khoa học mới, giúp các nhà thần kinh học giải mã những phức tạp của não bộ con người.

Tal Golan, Tiến sĩ, tác giả tương ứng của bài báo, bày tỏ sự quan tâm đến việc hiểu các quá trình tư duy của con người, xem xét khả năng ngày càng tăng của các công cụ AI trong xử lý ngôn ngữ. “So sánh sự hiểu biết ngôn ngữ của chúng với ngôn ngữ của chúng ta mang lại cho chúng ta một cách tiếp cận mới để suy nghĩ về cách chúng ta suy nghĩ,” ông bình luận.

Khám phá khả năng ngôn ngữ của trợ lý trò chuyện AI đã tiết lộ những thách thức còn tồn tại trong việc căn chỉnh sự hiểu biết của chúng với nhận thức của con người.

Các nỗ lực liên tục để khám phá những khác biệt này và những khám phá tiếp theo có thể không chỉ nâng cao hiệu quả của trợ lý trò chuyện AI mà còn giúp giải mã những lớp phức tạp của các quá trình nhận thức của con người.

Sự tương phản giữa sự hiểu biết ngôn ngữ được thúc đẩy bởi AI và nhận thức của con người tạo nền tảng cho những khám phá đa dạng, có thể thay đổi nhận thức và nâng cao kiến thức trong các lĩnh vực liên kết của AI và khoa học thần kinh.