Cài đặt ‘Chế độ Đúng sự’ cho Mô hình Ngôn ngữ

Đúng hay trò chuyện: chọn một. Một phương pháp đào tạo mới cho phép người dùng thông báo cho rô-bốt trò chuyện AI chính xác mức ‘sự thật’ như thế nào, biến độ chính xác thành một nút điều khiển có thể tăng hoặc giảm.

Một sự hợp tác nghiên cứu mới giữa Mỹ và Trung Quốc đang cung cấp một điều mà gần như tất cả người dùng rô-bốt trò chuyện AI sẽ đánh giá cao: một ‘nút ảo’ thông báo cho rô-bốt liệu nó nên ‘trò chuyện’ hay ‘đúng sự’.

Hệ thống này được tạo ra bằng cách đào tạo tinh chỉnh một mô hình Mistral-7B trên dữ liệu tổng hợp, để lược đồ cho một ‘thang đo sự thật’ có thể được ghi vào mô hình. Sau khi sửa đổi này, mô hình Mistral có thể kiểm soát số lượng事 thực trong một câu trả lời; giá trị ‘sự thật’ cao hơn do người dùng cung cấp, càng ít – nhưng chắc chắn – sẽ là đáp ứng ngắn hơn.

Tại các thiết lập thấp hơn, câu trả lời của rô-bốt trò chuyện trở thành những gì các tác giả của bài báo gọi là ‘thông tin’, tức là nó sẽ đưa ra một câu trả lời dài hơn và chứa nhiều事 thực hơn; nhưng một số事 thực có thể là giả tưởng.

Dữ liệu tổng hợp mà hệ thống được đào tạo trên sử dụng Wikipedia làm tài liệu tham khảo cho một lĩnh vực kiểm tra: các事 thực sinh học thực tế về con người. Cho dù người ta nghĩ Wikipedia nên là một nguồn tài liệu có thẩm quyền hay không, giá trị của công việc là trong việc thiết kế bất kỳ loại hệ thống nào có thể hạn chế động lực tự nhiên của các mô hình ngôn ngữ lớn (LLM) để đưa ra câu trả lời, ngay cả khi nó không có câu trả lời để đưa ra.

… (còn tiếp)