Google hình dung một hệ thống truy vấn giống GPT-3, không có kết quả tìm kiếm

Một bài báo mới từ bốn nhà nghiên cứu của Google đề xuất một hệ thống ‘chuyên gia’ có khả năng trả lời các câu hỏi của người dùng một cách có thẩm quyền mà không cần trình bày một danh sách các kết quả tìm kiếm có thể, tương tự như mô hình Q&A đã được công chúng chú ý thông qua sự ra đời của GPT-3 trong năm qua.

Bài báo này, có tiêu đề Rethinking Search: Making Experts out of Dilettantes, đề xuất rằng tiêu chuẩn hiện tại của việc trình bày người dùng với một danh sách kết quả tìm kiếm khi có yêu cầu là một ‘gánh nặng nhận thức’, và đề xuất cải thiện khả năng của hệ thống xử lý ngôn ngữ tự nhiên (NLP) để cung cấp một phản hồi có thẩm quyền và quyết định.

Theo mô hình đề xuất của một ‘chuyên gia’, kho dữ liệu đa lĩnh vực sẽ được tích hợp vào mô hình ngôn ngữ thay vì được trình bày rõ ràng như một nguồn tài nguyên để người dùng đánh giá và điều hướng. Nguồn: https://arxiv.org/pdf/2105.02274.pdf

Bài báo, do Donald Metzler tại Google Research dẫn đầu, đề xuất cải thiện loại phản hồi của mô hình đa lĩnh vực hiện có thể thu được từ các mô hình ngôn ngữ tự động hồi quy sâu như GPT-3. Các cải thiện chính được đề xuất là a) mô hình sẽ có khả năng trích dẫn chính xác các nguồn thông tin đã cung cấp phản hồi, và b) mô hình sẽ được ngăn chặn khỏi việc ‘tưởng tượng‘ phản hồi hoặc tạo ra thông tin nguồn không tồn tại, điều này hiện đang là vấn đề với các kiến trúc như vậy.

Đào tạo và Khả năng đa lĩnh vực

Ngoài ra, mô hình ngôn ngữ được đề xuất trong bài báo, được mô tả là ‘Một Mô hình cho tất cả các Nhiệm vụ Truy xuất Thông tin’, sẽ được đào tạo trên nhiều lĩnh vực, bao gồm hình ảnh và văn bản. Nó cũng cần có hiểu biết về nguồn gốc của kiến thức, điều này đang thiếu trong các kiến trúc kiểu GPT-3.

‘Để thay thế chỉ mục bằng một mô hình thống nhất, nó phải có thể cho mô hình mình có kiến thức về vũ trụ của các định danh tài liệu, giống như các chỉ mục truyền thống. Một cách để thực hiện điều này là chuyển từ các mô hình ngôn ngữ truyền thống sang các mô hình corpus chung, mô hình hóa mối quan hệ giữa các thuật ngữ, tài liệu và tài liệu.’

Trong hình ảnh trên, từ bài báo, ba cách tiếp cận để phản hồi yêu cầu của người dùng: bên trái, các mô hình ngôn ngữ ngầm trong kết quả tìm kiếm thuật toán của Google đã chọn và ưu tiên một ‘phản hồi tốt nhất’, nhưng để lại nó như kết quả hàng đầu trong số nhiều kết quả. Giữa, một phản hồi đối thoại kiểu GPT-3, nói với sự tự tin, nhưng không biện minh cho các tuyên bố của nó hoặc trích dẫn nguồn. Bên phải, hệ thống chuyên gia đề xuất tích hợp phản hồi ‘tốt nhất’ từ kết quả tìm kiếm được xếp hạng trực tiếp vào một phản hồi giáo dục, với các chú thích theo phong cách học thuật (không được hiển thị trong hình ảnh gốc) chỉ ra các nguồn thông tin đã cung cấp phản hồi.

Loại bỏ Kết quả Độc hại và Không chính xác

Các nhà nghiên cứu lưu ý rằng tính chất động và liên tục cập nhật của chỉ mục tìm kiếm là một thách thức để sao chép hoàn toàn trong một mô hình học máy như vậy. Ví dụ, khi một nguồn thông tin được tin cậy một thời gian đã được đào tạo trực tiếp vào hiểu biết của mô hình về thế giới, việc loại bỏ ảnh hưởng của nó (ví dụ, sau khi nó bị mất uy tín) có thể khó hơn việc chỉ loại bỏ một URL khỏi kết quả tìm kiếm, vì các khái niệm dữ liệu có thể trở nên trừu tượng và được đại diện rộng rãi trong quá trình đào tạo.

Ngoài ra, một mô hình như vậy sẽ cần được đào tạo liên tục để cung cấp cùng mức độ phản hồi với các bài viết và xuất bản mới như hiện tại được cung cấp bởi Google thông qua việc thu thập liên tục các nguồn. Về cơ bản, điều này có nghĩa là triển khai liên tục và tự động, trái với chế độ hiện tại, nơi các sửa đổi nhỏ được thực hiện đối với trọng số và cài đặt của thuật toán tìm kiếm tự do, nhưng thuật toán chính thường chỉ được cập nhật không thường xuyên.

Mặt tấn công của một Hệ thống Chuyên gia Tập trung

Một mô hình tập trung liên tục hấp thụ và tổng quát hóa dữ liệu mới có thể biến đổi mặt tấn công của các yêu cầu tìm kiếm.

Hiện tại, một kẻ tấn công có thể đạt được lợi ích bằng cách đạt được thứ hạng cao cho các miền hoặc trang web chứa thông tin sai lệch hoặc mã độc. Dưới sự bảo trợ của một ‘chuyên gia’ oracle không rõ ràng hơn, cơ hội để chuyển hướng người dùng đến các miền tấn công bị giảm đáng kể, nhưng khả năng tiêm các cuộc tấn công dữ liệu độc hại tăng lên.

Điều này là vì hệ thống đề xuất không loại bỏ thuật toán xếp hạng tìm kiếm, mà che giấu nó khỏi người dùng, tự động hóa việc ưu tiên kết quả hàng đầu, và tích hợp nó (hoặc chúng) vào một tuyên bố giáo dục. Các kẻ tấn công đã có thể điều khiển thuật toán tìm kiếm của Google để bán sản phẩm giả, chuyển hướng người dùng đến các miền phát tán malware, hoặc vì mục đích thao túng chính trị, trong số nhiều trường hợp sử dụng khác.

Không phải Trí tuệ Nhân tạo Tổng quát

Các nhà nghiên cứu nhấn mạnh rằng một hệ thống như vậy sẽ không có khả năng đủ điều kiện để trở thành Trí tuệ Nhân tạo Tổng quát (AGI), và đặt triển vọng của một hệ thống trả lời chuyên gia phổ quát trong bối cảnh xử lý ngôn ngữ tự nhiên, phải đối mặt với tất cả các thách thức mà các mô hình như vậy hiện đang gặp phải.

Bài báo phác thảo năm yêu cầu cho một phản hồi ‘chất lượng cao’:

1: Uy tín
Giống như các thuật toán xếp hạng hiện tại, ‘uy tín’ dường như được suy ra từ trích dẫn từ các miền chất lượng cao được coi là có uy tín. Các nhà nghiên cứu quan sát:

‘Các phản hồi nên tạo ra nội dung bằng cách kéo từ các nguồn có uy tín cao. Đây là một lý do khác tại sao việc thiết lập các kết nối rõ ràng hơn giữa các chuỗi thuật ngữ và siêu dữ liệu tài liệu là rất quan trọng. Nếu tất cả các tài liệu trong một corpus được chú thích với một điểm số uy tín, điểm số đó nên được tính đến khi đào tạo mô hình, tạo phản hồi, hoặc cả hai.’

Mặc dù các nhà nghiên cứu không đề xuất rằng các kết quả tìm kiếm truyền thống sẽ trở nên không khả dụng nếu một hệ thống chuyên gia như vậy được chứng minh là hoạt động và phổ biến, nhưng toàn bộ bài báo vẫn trình bày hệ thống xếp hạng truyền thống và danh sách kết quả tìm kiếm dưới ánh sáng của một hệ thống thu thập thông tin ‘lỗi thời’ và đã lỗi thời.

‘Sự thật rằng việc xếp hạng là một thành phần quan trọng của mô hình này là một triệu chứng của hệ thống thu thập thông tin cung cấp cho người dùng một lựa chọn các câu trả lời có thể, điều này gây ra một gánh nặng nhận thức khá lớn cho người dùng. Mong muốn trả lại câu trả lời thay vì danh sách các kết quả được xếp hạng là một trong những yếu tố thúc đẩy việc phát triển các hệ thống trả lời câu hỏi. ‘

2: Minh bạch
Các nhà nghiên cứu nhận xét:

‘Bất cứ khi nào có thể, nguồn gốc của thông tin được trình bày cho người dùng nên được cung cấp cho họ. Đây có phải là nguồn thông tin chính? Nếu không, nguồn thông tin chính là gì?’

3: Xử lý thiên vị
Bài báo lưu ý rằng các mô hình ngôn ngữ được đào tạo trước được thiết kế không để đánh giá sự thật thực nghiệm, mà để tổng quát hóa và ưu tiên các xu hướng thống trị trong dữ liệu. Nó thừa nhận rằng chỉ thị này mở ra mô hình cho các cuộc tấn công (như đã xảy ra với trò chuyện tự động có thiên vị của Microsoft vào năm 2016), và rằng các hệ thống phụ sẽ cần để bảo vệ chống lại các phản hồi hệ thống thiên vị như vậy.

4: Cho phép quan điểm đa dạng
Bài báo cũng đề xuất các cơ chế để đảm bảo sự đa dạng của quan điểm:

‘Các phản hồi được tạo ra nên đại diện cho một loạt các quan điểm đa dạng nhưng không nên gây phân cực. Ví dụ, đối với các truy vấn về các chủ đề gây tranh cãi, cả hai bên của chủ đề nên được trình bày một cách công bằng và cân bằng. Điều này rõ ràng có liên quan chặt chẽ với thiên vị mô hình.’

5: Ngôn ngữ Dễ tiếp cận
Ngoài việc cung cấp các bản dịch chính xác trong trường hợp phản hồi được coi là có thẩm quyền nằm trong một ngôn ngữ khác, bài báo đề xuất rằng các phản hồi nên được ‘viết bằng ngôn ngữ đơn giản nhất có thể’. vào tiếng Việt Dịch sang tiếng Việt trong khi giữ nguyên một giọng điệu biên tập chuyên nghiệp, tự nhiên và tối ưu hóa SEO.