3 Cách Giữ Thông Tin Fresh Trong Các Mô Hình Ngôn Ngữ Lớn

Các Mô Hình Ngôn Ngữ Lớn (LLM) như GPT3, ChatGPT và BARD đang là tâm điểm chú ý hiện nay. Mọi người đều có ý kiến về cách những công cụ này tốt hoặc xấu cho xã hội và ý nghĩa của chúng đối với tương lai của trí tuệ nhân tạo. Google đã nhận được nhiều chỉ trích vì mô hình mới BARD của họ đã trả lời sai một câu hỏi phức tạp (một chút). Khi được hỏi “Những khám phá mới từ Kính viễn vọng Không gian James Webb mà tôi có thể kể cho đứa trẻ 9 tuổi của mình?” – Trợ lý ảo đã cung cấp ba câu trả lời, trong đó 2 câu đúng và 1 câu sai. Câu trả lời sai là rằng hình ảnh đầu tiên của một “hành tinh ngoài hệ Mặt trời” được chụp bởi JWST, điều này không chính xác. Vì vậy, cơ bản là mô hình đã lưu trữ một sự kiện không chính xác trong cơ sở kiến thức của nó. Để các mô hình ngôn ngữ lớn hoạt động hiệu quả, chúng ta cần một cách để cập nhật những sự kiện này hoặc bổ sung thêm kiến thức mới.

Hãy cùng xem xét cách thông tin được lưu trữ trong mô hình ngôn ngữ lớn (LLM). Các mô hình ngôn ngữ lớn không lưu trữ thông tin và sự kiện theo cách truyền thống như cơ sở dữ liệu hoặc tệp. Thay vào đó, chúng đã được đào tạo trên lượng lớn dữ liệu văn bản và đã học được các mẫu và mối quan hệ trong dữ liệu đó. Điều này cho phép chúng tạo ra các phản hồi giống như con người đối với các câu hỏi, nhưng chúng không có vị trí lưu trữ cụ thể cho thông tin đã học được. Khi trả lời một câu hỏi, mô hình sử dụng đào tạo của nó để tạo ra một phản hồi dựa trên đầu vào nó nhận được. Thông tin và kiến thức mà một mô hình ngôn ngữ có được là kết quả của các mẫu nó đã học được trong dữ liệu được đào tạo, không phải là kết quả của việc nó được lưu trữ rõ ràng trong bộ nhớ của mô hình. Kiến trúc Transformer mà hầu hết các LLM hiện đại dựa vào có mã hóa nội bộ của các sự kiện được sử dụng để trả lời câu hỏi được hỏi trong lời nhắc.

Vậy, nếu các sự kiện bên trong bộ nhớ của LLM là sai hoặc lạc hậu, thông tin mới cần được cung cấp thông qua một lời nhắc. Lời nhắc là văn bản được gửi đến LLM với câu hỏi và bằng chứng hỗ trợ có thể là các sự kiện mới hoặc được sửa chữa. Dưới đây là 3 cách để tiếp cận vấn đề này.

1. Một cách để sửa các sự kiện được mã hóa của LLM là cung cấp các sự kiện mới liên quan đến ngữ cảnh bằng cách sử dụng một cơ sở kiến thức bên ngoài. Cơ sở kiến thức này có thể là các cuộc gọi API để lấy thông tin liên quan hoặc một tìm kiếm trên cơ sở dữ liệu SQL, No-SQL hoặc Vector. Kiến thức tiên tiến hơn có thể được trích xuất từ một đồ thị kiến thức lưu trữ các thực thể dữ liệu và mối quan hệ giữa chúng. Tùy thuộc vào thông tin mà người dùng đang hỏi, thông tin ngữ cảnh liên quan có thể được truy xuất và cung cấp như các sự kiện bổ sung cho LLM. Những sự kiện này cũng có thể được định dạng để trông giống như các ví dụ đào tạo để cải thiện quá trình học tập. Ví dụ, bạn có thể truyền một loạt các cặp câu hỏi và câu trả lời để mô hình học cách cung cấp câu trả lời.

2. Một cách sáng tạo hơn (và tốn kém hơn) để bổ sung LLM là thực sự tinh chỉnh nó bằng cách sử dụng dữ liệu đào tạo. Thay vì truy vấn cơ sở kiến thức cho các sự kiện cụ thể để thêm vào, chúng ta xây dựng một tập dữ liệu đào tạo bằng cách lấy mẫu từ cơ sở kiến thức. Sử dụng các kỹ thuật học có giám sát như tinh chỉnh, chúng ta có thể tạo ra một phiên bản mới của LLM được đào tạo trên kiến thức bổ sung này. Quá trình này thường tốn kém và có thể tiêu tốn một vài nghìn đô la để xây dựng và duy trì một mô hình tinh chỉnh trong OpenAI. Tất nhiên, chi phí dự kiến sẽ giảm theo thời gian.

3. Một lựa chọn khác là sử dụng các phương pháp như Học tăng cường (RL) để đào tạo một tác nhân với phản hồi của con người và học một chính sách về cách trả lời câu hỏi. Phương pháp này đã được chứng minh là rất hiệu quả trong việc xây dựng các mô hình có kích thước nhỏ hơn trở nên giỏi trong các nhiệm vụ cụ thể. Ví dụ, ChatGPT nổi tiếng được phát hành bởi OpenAI đã được đào tạo trên sự kết hợp của học có giám sát và RL với phản hồi của con người.

Tóm lại, đây là một lĩnh vực đang phát triển mạnh với mọi công ty lớn đều muốn tham gia và thể hiện sự khác biệt của mình. Chúng ta sẽ sớm thấy các công cụ LLM lớn ở hầu hết các lĩnh vực như bán lẻ, chăm sóc sức khỏe và ngân hàng có thể phản hồi một cách giống như con người, hiểu được các sắc thái của ngôn ngữ. Những công cụ LLM được tích hợp với dữ liệu doanh nghiệp có thể giúp đơn giản hóa việc truy cập và cung cấp dữ liệu đúng cho đúng người vào đúng thời điểm.