Bộ nhớ hoạt động và bộ nhớ bền vững trong AI: Cách AI ghi nhớ, truy xuất và quên

Bộ nhớ hoạt động là thông tin mà hệ thống AI có thể sử dụng cho tác vụ đang xử lý. Bộ nhớ bền vững là thông tin được ứng dụng xung quanh lưu giữ để có thể sử dụng lại sau này. Mối quan hệ giữa hai loại bộ nhớ này quyết định liệu trợ lý có thể tiếp tục một dự án, áp dụng một tùy chọn, sửa một giả định đã lỗi thời hay ngừng nhắc lại điều lẽ ra đã phải quên hay không.

Hãy hình dung một trợ lý đang giúp bạn chuẩn bị báo cáo nghiên cứu. Trong một cuộc trò chuyện, trợ lý có thể tham chiếu đến dàn ý, những chỉnh sửa mới nhất của bạn và các nguồn bạn vừa cung cấp. Nếu mở một cuộc trò chuyện riêng sau đó một tuần, khả năng duy trì tính liên tục lại phụ thuộc vào một cơ chế khác: ứng dụng có lưu thông tin liên quan hay không, có tìm được thông tin đó hay không và có cung cấp lại thông tin cho mô hình hay không.

Đó là lý do AI có thể dường như nhớ một chi tiết nhưng lại quên một chi tiết khác trong cùng cuộc trao đổi. Ghi nhớ là một chuỗi thao tác. Lỗi có thể xảy ra khi thông tin được thu thập, lưu trữ, tìm kiếm, lựa chọn, diễn giải hoặc cập nhật.

Hướng dẫn này xem xét chi tiết chuỗi thao tác đó. Để tìm hiểu hệ thống phân loại rộng hơn về bộ nhớ tình tiết, ngữ nghĩa và thủ tục, hãy xem bài giới thiệu của chúng tôi về các loại bộ nhớ của tác nhân AI. Ở đây, trọng tâm là ranh giới giữa những gì đang hoạt động ở hiện tại và những gì có thể được lưu giữ sau khi tác vụ hiện tại kết thúc.

Bộ nhớ hoạt động và bộ nhớ bền vững thực sự có nghĩa là gì?

Các thuật ngữ này mô tả những khác biệt hữu ích về kiến trúc, nhưng không tạo thành một cặp khái niệm được chuẩn hóa thống nhất. Giao diện sản phẩm và các bài nghiên cứu sử dụng những thuật ngữ như “bộ nhớ làm việc”, “bộ nhớ ngắn hạn”, “ngữ cảnh”, “trạng thái” và “bộ nhớ dài hạn” theo những cách chồng lấn nhau. Vì vậy, để giải thích chính xác, cần định nghĩa rõ các thuật ngữ.

Trong bài viết này, ngữ cảnh đang hoạt động là thông tin được cung cấp cho mô hình để tạo phản hồi hiện tại: chỉ dẫn, tin nhắn, kết quả được chọn từ các công cụ, tài liệu được truy xuất và những đầu vào khác mà mô hình có thể xử lý. Trạng thái tác vụ đang hoạt động có phạm vi rộng hơn. Trạng thái này có thể bao gồm kế hoạch, danh sách kiểm tra hoặc các biến mà ứng dụng duy trì nhưng chưa đưa vào ngữ cảnh của mô hình. Chúng tôi dùng “bộ nhớ hoạt động” như một thuật ngữ bao quát trên thực tế cho tập hợp thông tin đang được xử lý này, đồng thời phân biệt hai khái niệm khi cần thiết.

Bộ nhớ bền vững là thông tin được lưu giữ, tồn tại sau khi phản hồi hoặc phiên kết thúc và vẫn có thể sử dụng về sau. Thông tin đó có thể là một tùy chọn đã lưu, ghi chú dự án, bản ghi sự kiện, trường dữ liệu trong cơ sở dữ liệu có cấu trúc hoặc điểm kiểm tra cho phép tiếp tục một tác vụ còn dang dở. Tính bền vững mô tả việc lưu giữ thông tin; điều đó không đảm bảo thông tin sẽ được chia sẻ trong mọi cuộc trò chuyện.

Do đó, có hai câu hỏi riêng biệt: Thông tin có còn tồn tại không? và Mô hình có nhận được thông tin khi cần không? Bản ghi hội thoại đã lưu có thể trả lời câu hỏi thứ nhất mà chưa giải quyết được câu hỏi thứ hai.

Ngoại lệ quan trọng: trạng thái ngắn hạn có thể được lưu

“Ngắn hạn” không phải lúc nào cũng có nghĩa là “chỉ được lưu trong RAM dễ mất dữ liệu”. Trạng thái làm việc của một cuộc trò chuyện có thể được lưu thành điểm kiểm tra trong cơ sở dữ liệu và khôi phục sau khi bị gián đoạn. Chẳng hạn, tài liệu về bộ nhớ của LangChain phân biệt trạng thái giới hạn trong một luồng, được lưu qua các điểm kiểm tra, với bộ nhớ dài hạn được sắp xếp thành các không gian tên riêng.

Hãy hình dung một nhân viên hỗ trợ tạm dừng xử lý trong lúc chờ khách hàng tải lên biên lai. Điểm kiểm tra đã lưu của nhân viên đó thuộc về trường hợp hỗ trợ này. Điểm kiểm tra được lưu bền vững, nhưng không nên tự động trở thành thông tin chung về khách hàng hoặc xuất hiện trong những yêu cầu không liên quan.

Một cách hữu ích để đánh giá bất kỳ tính năng bộ nhớ nào là xem xét ba khía cạnh: thời gian lưu giữ, phạm vi áp dụng và khả năng truy cập trong lần gọi mô hình hiện tại. Một nhãn như “dài hạn” không thể trả lời đầy đủ bất kỳ câu hỏi nào trong số đó.

So sánh nhanh bộ nhớ hoạt động và bộ nhớ bền vững

Cùng một thông tin có thể xuất hiện ở cả hai cột. Tùy chọn đã lưu cho một dự án thuộc bộ nhớ dài hạn; bản sao được đưa vào lời nhắc hôm nay thuộc bộ nhớ đang hoạt động. Xóa bản sao đó khỏi lời nhắc không nhất thiết đồng nghĩa với việc xóa bản gốc đã lưu.

Điều gì diễn ra trong một phản hồi AI?

Trong một ứng dụng mô hình ngôn ngữ điển hình, phần mềm của ứng dụng tập hợp dữ liệu đầu vào, mô hình tạo ra dữ liệu đầu ra, rồi phần mềm quyết định bước tiếp theo. Đầu vào có thể chứa cuộc hội thoại hiển thị, nhưng cũng có thể bao gồm chỉ dẫn hệ thống, mô tả công cụ, ghi chú được truy xuất và thông tin mà người dùng không thấy trong bản ghi trò chuyện.

Ngữ cảnh được tập hợp này là bằng chứng trực tiếp mà mô hình có thể sử dụng. Nếu một thông điệp trước đó không còn được đưa vào, mô hình không thể khôi phục chính xác nội dung của thông điệp đó một cách đáng tin cậy chỉ vì ứng dụng từng hiển thị nó. Mô hình có thể suy luận ra một câu trả lời hợp lý dựa trên các manh mối xung quanh, nhưng suy luận khác với hồi tưởng.

Một công cụ mở rộng phạm vi thông tin mà hệ thống có thể truy cập. Mô hình có thể yêu cầu một tệp dự án, nhận nội dung của tệp rồi sử dụng nội dung đó trong phản hồi tiếp theo. Tệp đã nằm trong tầm truy cập của ứng dụng trước khi trở thành bằng chứng hiện hành. Sự khác biệt này giải thích vì sao một tác nhân có thể truy cập kho lưu trữ lớn mà không cần đọc toàn bộ kho trong mỗi lượt tương tác.

Bên trong, các hệ thống triển khai transformer cũng duy trì trạng thái tính toán, bao gồm bộ nhớ đệm dùng để tránh lặp lại công việc. Những cơ chế này hữu ích để suy luận hiệu quả, nhưng không nên nhầm lẫn chúng với một bản ghi có thể chỉnh sửa, có kiểm soát quyền truy cập về các tùy chọn của người dùng hoặc lịch sử dự án. Phản hồi nhanh hơn không chứng minh rằng bộ nhớ cá nhân đã được tạo.

Vì sao cửa sổ ngữ cảnh lớn hơn không giải quyết được vấn đề bộ nhớ

Cửa sổ ngữ cảnh lớn hơn cho phép ứng dụng cung cấp nhiều tài liệu hơn cùng lúc. Điều này có thể hữu ích khi câu trả lời phụ thuộc vào mối liên hệ giữa các phần trong một tài liệu dài hoặc giữa một số nguồn có liên quan. Tuy nhiên, cửa sổ lớn hơn không quyết định tài liệu nào đáng được lưu giữ, phiên bản nào có thẩm quyền, hay người dùng có được phép truy cập tài liệu đó hay không.

Việc đưa thông tin vào cửa sổ ngữ cảnh cũng không đảm bảo mô hình sẽ sử dụng thông tin đó chính xác. Nghiên cứu Lạc ở giữa cho thấy các mô hình được thử nghiệm có thể hoạt động khác nhau tùy thuộc vào vị trí xuất hiện của bằng chứng liên quan trong những đầu vào dài. Kết quả này cảnh báo rằng cần đánh giá mức độ sử dụng ngữ cảnh thực tế, thay vì xem dung lượng được quảng bá là sự bảo đảm cho khả năng hồi tưởng; đây không phải là dự đoán hiệu suất cố định cho mọi mô hình mới hơn.

Giả sử một kho lưu trữ dự án có bốn mươi cuộc thảo luận về ngày ra mắt. Ba mươi chín cuộc thảo luận đề cập đến ngày ban đầu, còn thay đổi được phê duyệt gần nhất đã dời ngày đó. Cung cấp cả bốn mươi cuộc thảo luận sẽ tạo ra vấn đề về khối lượng cần đọc và độ thẩm quyền của thông tin. Một bản ghi trạng thái hiện tại được duy trì cẩn thận và liên kết với thay đổi đã phê duyệt có thể giúp xác định câu trả lời liên quan dễ dàng hơn.

Vì vậy, ngữ cảnh dài và truy xuất có chọn lọc có thể bổ trợ cho nhau. Truy xuất giúp tìm một tập hợp bằng chứng hữu ích; ngữ cảnh đủ lớn cho phép mô hình xem xét đồng thời các bằng chứng đó. Lựa chọn thiết kế phụ thuộc vào nhiệm vụ, quy mô tài liệu nguồn và hậu quả của việc bỏ sót một điều kiện hoặc giới hạn.

Thông tin trở thành bộ nhớ dài hạn như thế nào

Bộ nhớ bền vững bắt đầu từ quyết định lưu thông tin. Ứng dụng có thể lưu một chỉ dẫn rõ ràng của người dùng, rút ra một dữ kiện tiềm năng từ cuộc hội thoại, lưu giữ một sự kiện hoặc tạo bản tóm tắt. Mỗi cách đều tạo ra một loại bằng chứng khác nhau.

“Với Dự án Cedar, hãy dùng hệ mét” là một tùy chọn rõ ràng của dự án. “Có vẻ người dùng thích dùng hệ mét” là một suy luận. “Ba báo cáo gần nhất của Cedar đều dùng hệ mét” là một quan sát. Một bản ghi hữu ích giữ nguyên những khác biệt này, thay vì gộp chúng thành một khẳng định không kèm điều kiện về mọi nhiệm vụ trong tương lai.

Một bản ghi hữu ích bao gồm những gì

Đối với một trợ lý dự án giả định, hồ sơ có thể bao gồm phát biểu, mã định danh dự án, người dùng hoặc tổ chức sở hữu thông tin đó, tương tác làm nguồn, dấu thời gian, trạng thái hiệu lực và mọi ngoại lệ. Các trường này giúp xác định thông tin bắt nguồn từ đâu và liệu thông tin đó còn áp dụng hay không.

{
  "scope": "project:cedar",
  "statement": "Use metric units in project reports",
  "source_type": "explicit_user_instruction",
  "source_ref": "conversation_17/message_8",
  "status": "current",
  "exception": "Client edition may require dual units"
}

Đây là lược đồ minh họa, không phải tiêu chuẩn chung. Mục đích của lược đồ là cho thấy vì sao một mục ghi nhớ cần chứa nhiều hơn một câu. Tham chiếu nguồn giúp xác minh thông tin; phạm vi ngăn khái quát hóa quá mức; trường trạng thái cho phép thực hiện đính chính.

Ghi ngay lập tức so với xử lý nền

Việc ghi ngay lập tức có thể giúp yêu cầu tiếp theo sử dụng được thông tin đính chính rõ ràng. Xử lý nền có thể xem xét một tương tác đã hoàn tất, gộp các mục trùng lặp hoặc tạo bản tóm tắt được cân nhắc kỹ hơn. Tài liệu của LangChain mô tả cả hai cách tiếp cận cùng những điểm đánh đổi, trong đó có phần việc phát sinh thêm trên luồng phản hồi tức thời.

Một thiết kế thực tế có thể lưu ngay một tùy chọn đã được xác nhận, rồi xử lý phiên nghiên cứu dài sau đó. Tuy nhiên, thiết kế này vẫn phải xử lý khoảng thời gian giữa hai bước. Nếu hệ thống báo với người dùng rằng tùy chọn đã được lưu trước khi thao tác ghi thành công, cuộc trò chuyện tiếp theo có thể bộc lộ lỗi duy trì tính liên tục.

Hoạt động ghi dữ liệu vào bộ nhớ cũng cần có chính sách xử lý lỗi. Nếu kho lưu trữ tạm thời không khả dụng, ứng dụng có thể thông báo rằng thao tác lưu chưa hoàn tất hoặc giữ lại một tác vụ đang chờ, được đánh dấu rõ ràng. Coi một lần thử ghi dữ liệu là mục ghi nhớ đã lưu thành công sẽ tạo ra trải nghiệm gây hiểu lầm cho người dùng.

Cách bộ nhớ dài hạn trở lại ngữ cảnh đang hoạt động

Truy xuất là một chuỗi quyết định về điều kiện đủ, mức độ liên quan và bằng chứng. Trước tiên, hệ thống cần xác định người dùng, khách hàng thuê hệ thống, dự án hoặc tác vụ có hồ sơ mà hệ thống được phép tham khảo. Sau đó, hệ thống tìm các hồ sơ tiềm năng và chọn nội dung cần đưa vào ngữ cảnh phản hồi.

Phương pháp truy xuất nên phù hợp với câu hỏi. Câu hỏi “Hạn chót đã được phê duyệt của Cedar là ngày nào?” có thể được trả lời tốt nhất bằng cách tra cứu chính xác một trường dữ liệu của dự án. Câu hỏi “Chúng ta đã từng gặp lỗi triển khai này chưa?” có thể phù hợp với tìm kiếm từ khóa và tìm kiếm mức độ tương đồng ngữ nghĩa trên các sự cố trước đây. Cơ sở dữ liệu vectơ là một lựa chọn trong quy trình đó, chứ không phải yêu cầu bắt buộc đối với mọi bộ nhớ.

Tìm kiếm ngữ nghĩa đặc biệt hữu ích khi cách diễn đạt thay đổi. Truy vấn về việc “giữ cho báo cáo ngắn gọn” có thể khớp với tùy chọn đã lưu là “bản tóm tắt điều hành ngắn”. Tuy nhiên, một phát biểu có liên quan có thể nói về khách hàng khác hoặc phiên bản dự án đã bị loại bỏ. Mức độ tương đồng giúp xác định các nội dung tiềm năng, chứ không chứng minh được tính xác thực hay quyền truy cập.

Truy xuất cần có kết quả “không tìm thấy”

Hãy xem xét câu hỏi: “Tháng trước tôi đã phê duyệt hạn mức chi tiêu nào?” Nếu không tìm thấy số tiền đã được phê duyệt, câu trả lời hữu ích sẽ chỉ rõ bằng chứng còn thiếu và đề nghị làm rõ. Đưa ra một con số nghe có vẻ hợp lý sẽ biến việc không có thông tin trong bộ nhớ thành một sự phê duyệt được bịa ra.

Do đó, giao diện bộ nhớ cần phân biệt giữa thông tin khớp đã được xác nhận, thông tin khớp chưa chắc chắn, thông tin mâu thuẫn và trường hợp không có bản ghi hỗ trợ. Mỗi kết quả có thể dẫn đến cách xử lý khác nhau: trả lời trực tiếp, nêu rõ mức độ chắc chắn, yêu cầu làm rõ hoặc từ chối hành động dựa trên một giả định không có căn cứ.

Sau khi truy xuất, việc diễn giải vẫn rất quan trọng. Bản ghi ghi “ngân sách tối đa đề xuất: $5,000, đang chờ phê duyệt” không được biến thành “ngân sách đã phê duyệt: $5,000”. Việc giữ nguyên các điều kiện giới hạn trong nội dung lưu trữ và ngữ cảnh được cung cấp cũng quan trọng như việc tìm đúng tài liệu.

Ví dụ thực tế: Ghi nhớ một dự án theo thời gian

Hãy hình dung một trợ lý đang giúp một nhóm thực hiện báo cáo nghiên cứu Cedar. Ví dụ sau đây chỉ là giả định, nhưng cho thấy một số lựa chọn phổ biến trong thiết kế bộ nhớ.

Phiên một: Thiết lập dự án

Người dùng yêu cầu viết báo cáo, quy định sử dụng đơn vị mét, cung cấp ba nguồn và cho biết bản nháp đến hạn vào thứ Sáu. Ngữ cảnh hiện tại bao gồm những chỉ dẫn đó và các trích đoạn từ nguồn. Trạng thái tác vụ hiện tại ghi lại những mục nào đã hoàn thành và những nhận định nào vẫn cần được xác minh.

Các bản ghi có thể lưu trữ lâu dài phục vụ những mục đích khác nhau. Tùy chọn sử dụng đơn vị mét thuộc về dự án. Hạn nộp bản nháp thuộc về cột mốc hiện tại. Các nguồn được cung cấp thuộc kho lưu trữ bằng chứng của dự án. Những nhận định chưa được xác minh thuộc danh sách nghiên cứu đang chờ xử lý, đồng thời phải giữ nguyên mức độ chưa chắc chắn của chúng.

Phiên hai: Tiếp tục với bằng chứng phù hợp

Ba ngày sau, người dùng yêu cầu hoàn thành phần phương pháp. Trợ lý cần dàn ý mới nhất, các nguồn liên quan, trạng thái tác vụ hiện tại và quy tắc định dạng áp dụng. Trợ lý không nhất thiết cần mọi câu đã bị loại bỏ trong buổi lên ý tưởng trước đó.

Nếu điểm kiểm tra ghi rằng phần tổng quan tài liệu đã hoàn tất, trợ lý vẫn nên mở tài liệu đã lưu trước khi chỉnh sửa các phần xung quanh. “Đã hoàn tất” là một nhận định về tiến độ; bản thân tài liệu mới cho thấy những gì thực sự đã hoàn thành. Các tham chiếu lâu bền đến tài liệu có thể hữu ích hơn một bản tóm tắt cố gắng tái hiện toàn bộ nội dung của chúng.

Phiên ba: Áp dụng ngoại lệ mà không viết lại mọi thứ

Người dùng yêu cầu một bản dành cho khách hàng, sử dụng cả đơn vị mét lẫn đơn vị Anh. Tác vụ hiện tại cần dùng cả hai hệ đơn vị. Việc quy tắc chung của dự án có thay đổi hay không phụ thuộc vào cách diễn đạt và phạm vi yêu cầu của người dùng: “cho ấn bản này” có phạm vi hẹp hơn “từ giờ trở đi, hãy dùng cả hai”.

Một trợ lý cẩn trọng sẽ ghi lại ngoại lệ dành riêng cho ấn bản này. Trợ lý khái quát hóa quá mức sẽ sửa tùy chọn chung và khiến các báo cáo sau mắc lỗi. Đây vẫn là lỗi bộ nhớ, ngay cả khi mọi thao tác ghi vào cơ sở dữ liệu và yêu cầu truy xuất đều thành công.

Phiên bốn: Hoàn tất và loại bỏ trạng thái tạm thời

Sau khi bàn giao, cần đánh dấu cột mốc là đã hoàn thành. Khi được yêu cầu “tiếp tục báo cáo”, trợ lý nên mở phiên bản đã bàn giao và hỏi cần chỉnh sửa những gì, thay vì tiếp tục một danh sách kiểm tra đã lỗi thời. Theo chính sách của dự án, các ghi chú nháp tạm thời có thể hết hạn, trong khi báo cáo cuối cùng và những quyết định quan trọng vẫn được lưu lại.

Ở đây có thể thấy giá trị của bộ nhớ dài hạn: giảm việc phải giải thích lặp lại và duy trì tính liên tục tốt hơn. Cũng có thể thấy cái giá phải trả: ứng dụng phải duy trì mối liên hệ giữa các tùy chọn, ngoại lệ, tài liệu và trạng thái tác vụ luôn thay đổi.

Tóm tắt, nén ngữ cảnh và nguy cơ làm mất ngoại lệ

Các cuộc trao đổi dài có thể tích lũy nhiều thông tin hơn mức cần thiết cho câu trả lời tiếp theo. Việc nén ngữ cảnh thay thế một phần lịch sử đó bằng một bản biểu diễn ngắn gọn hơn. Bản tóm tắt có thể giữ lại mục tiêu, các quyết định, câu hỏi chưa được giải đáp và tham chiếu đến công việc gốc.

Hướng dẫn của Anthropic về thiết kế ngữ cảnh mô tả việc nén ngữ cảnh và các ghi chú được lưu bên ngoài cửa sổ ngữ cảnh như những phương pháp duy trì tính liên tục trong quá trình làm việc kéo dài. Cả hai phương pháp đều làm thay đổi thông tin sẵn có cho các câu trả lời sau này, vì vậy chất lượng của chúng rất quan trọng.

Việc nén thông tin có chọn lọc. Bản tóm tắt như “Dùng đơn vị mét” ngắn hơn câu “Dùng đơn vị mét, trừ bản dành cho khách hàng cần cả hai hệ đơn vị”. Nhưng câu đó cũng không đúng trong một trường hợp quan trọng của dự án. Ngoại lệ bị bỏ sót có thể âm thầm tồn tại qua các bản tóm tắt sau này và trở nên khó lần ra.

Với trợ lý Cedar của chúng ta, bản bàn giao tốt hơn sẽ giữ lại quy tắc chung, ngoại lệ của quy tắc đó, các mục đã hoàn thành, những việc xác minh còn lại và tham chiếu đến các tệp mới nhất. Những chi tiết chính xác như số tiền đã được phê duyệt hoặc mã định danh nên được lưu trong các bản ghi có cấu trúc hoặc tài liệu nguồn khi việc dùng số liệu gần đúng có thể gây hại.

Bản tóm tắt cũng cần giữ nguyên mức độ chưa chắc chắn. “Chúng ta đã cân nhắc dùng Khảo sát B” không được biến thành “Khảo sát B đã được chọn”. Nếu lịch sử đã nén khiến các quyết định còn mang tính dự kiến trông như quyết định cuối cùng, hệ thống đã tạo ra ký ức sai trong lúc cố tiết kiệm ngữ cảnh.

Cách bộ nhớ AI nên xử lý việc đính chính và thông tin mâu thuẫn

Bộ nhớ lâu dài sẽ kém hữu ích nếu không thể thay đổi. Dự án có thể chuyển hướng, sở thích có thể thay đổi và thông tin trước đó có thể được phát hiện là sai. Nếu chỉ thêm nội dung đính chính thành một bản ghi khác mà không nêu rõ trạng thái của nó, hệ thống truy xuất có thể phải lựa chọn giữa hai thông tin mâu thuẫn.

Một cách cập nhật hữu ích hơn là xác định bằng chứng mới thay thế thông tin nào. Nếu người phụ trách dự án dời ngày khởi chạy từ 15 tháng 11 sang 29 tháng 11, bản ghi cũ có thể được đánh dấu là đã bị thay thế và liên kết với quyết định mới. Các câu hỏi về thời hạn hiện tại sẽ sử dụng phiên bản mới; còn câu hỏi về kế hoạch ban đầu có thể tham chiếu phiên bản lịch sử.

Chỉ dựa vào tính mới của thông tin không thể giải quyết mọi mâu thuẫn. Một ghi chú dự thảo mới đây có thể kém thẩm quyền hơn một chính sách đã được phê duyệt từ trước. Người dùng có thể được phép thay đổi sở thích cá nhân nhưng không có quyền thay đổi quy định áp dụng cho toàn tổ chức. Chính sách cập nhật phải tính đến loại thông tin và thẩm quyền của nguồn cung cấp thông tin đó.

Một số mâu thuẫn cần được giữ nguyên trạng thái chưa giải quyết cho đến khi có người làm rõ. Nếu hai người phụ trách dự án đưa ra các ngày không thống nhất mà không nêu rõ thông tin nào thay thế thông tin nào, trợ lý có thể hiển thị cả hai nguồn và hỏi thông tin nào được ưu tiên. Việc âm thầm chọn bản ghi giống nhất hoặc mới nhất sẽ che giấu một quyết định mà hệ thống có thể không được phép đưa ra.

AI quên có nghĩa là gì?

Quên không phải là một công tắc duy nhất. Một sản phẩm có thể ngừng đưa một thông tin vào lời nhắc, loại thông tin đó khỏi hoạt động tìm kiếm thông thường, đánh dấu là lỗi thời, xóa bản ghi nhớ hoặc xóa các bản sao được lưu giữ ở nơi khác. Những thao tác này có tác động khác nhau đến hành vi sau này và dữ liệu được lưu giữ.

Rời khỏi ngữ cảnh đang hoạt động

Một thông tin có thể không còn xuất hiện trong đầu vào tiếp theo của mô hình vì các tin nhắn cũ đã bị lược bỏ hoặc tóm tắt. Điều này làm giảm lượng thông tin mô hình có thể sử dụng ngay. Bản ghi hội thoại gốc hoặc bản ghi nhớ vẫn có thể tồn tại và được đưa trở lại thông qua một lần truy xuất sau đó.

Để thông tin hết hạn hoặc ngăn truy xuất

Một thời hạn đã hết hiệu lực vẫn có thể được giữ trong kho lưu trữ, đồng thời bị loại khỏi các truy vấn về công việc hiện tại. Việc ngăn truy xuất hữu ích khi cần lưu giữ thông tin lịch sử, nhưng không nên mô tả thao tác này là xóa hoàn toàn. Tìm kiếm lịch sử hoặc quy trình quản trị vẫn có thể truy cập bản ghi.

Xóa bộ nhớ đã lưu

Khi xóa một bản ghi được lưu trữ lâu dài, cũng cần xử lý các dạng biểu diễn phục vụ truy xuất được tạo ra từ bản ghi đó. Nếu một câu bị xóa khỏi hồ sơ nhưng vẫn còn trong bản tóm tắt có thể tìm kiếm, trợ lý có thể tái dựng cùng sở thích ấy về sau. Tùy theo kiến trúc hệ thống, việc xóa có thể cần được thực hiện riêng đối với bản ghi nguồn, các bản nhúng, bản tóm tắt, bộ nhớ đệm và các bản sao.

Bản sao lưu và nhật ký có thể tuân theo lịch lưu giữ riêng. Sản phẩm cần giải thích rõ những giới hạn này và ngăn nội dung đã xóa hoạt động trở lại khi khôi phục dữ liệu. “Chúng tôi sẽ không còn sử dụng bộ nhớ này” và “mọi bản sao được lưu giữ đều đã bị xóa” là hai cam kết khác nhau.

Thay đổi trọng số mô hình

Việc xóa bộ nhớ bên ngoài không tự làm thay đổi các tham số của mô hình. Nếu thông tin đã được dùng trong quá trình huấn luyện, việc xử lý thông tin đó trong mô hình là một vấn đề riêng, liên quan đến quy trình huấn luyện và triển khai. Tương tự, xóa một ký ức cá nhân không thể đảm bảo rằng mô hình sẽ không bao giờ tạo ra thông tin tương tự dựa trên kiến thức chung hoặc các gợi ý được cung cấp trong một lời nhắc mới.

Vì vậy, một phép thử về khả năng quên có ý nghĩa cần kiểm tra cả việc hệ thống còn lưu thông tin hay không lẫn việc các cơ chế truy xuất thông thường có thể đưa thông tin đó trở lại hay không. Chỉ một câu trả lời trong cuộc trò chuyện rằng “Tôi đã quên” không chứng minh được điều nào trong hai điều đó.

Bộ nhớ, RAG, quá trình huấn luyện và bộ nhớ đệm: Ranh giới nằm ở đâu

Tạo sinh tăng cường truy xuất, hay RAG, cung cấp bằng chứng bên ngoài cho mô hình trong quá trình tạo sinh. Nghiên cứu RAG ban đầu kết hợp các tham số của mô hình với một chỉ mục tài liệu có thể truy xuất. Hệ thống bộ nhớ cá nhân cũng có thể dùng tính năng truy xuất, nhưng còn cần các chính sách để tạo, cập nhật và loại bỏ hồ sơ từ những lần tương tác.

Có thể truy xuất sổ tay của công ty mà không coi đó là ký ức về người dùng. Có thể truy xuất ghi chú về một lần tương tác trước đó từ một tệp đơn giản mà không cần chỉ mục vector. Truy xuất là một cơ chế; mục đích và vòng đời của các hồ sơ nền tảng sẽ quyết định loại hệ thống đang được xây dựng.

Huấn luyện và tinh chỉnh làm thay đổi các tham số của mô hình. Ngược lại, bộ nhớ ngoài thông thường thay đổi bằng chứng được cung cấp cho mô hình. Trợ lý có thể hành xử khác đi khi làm theo một tùy chọn vừa được lưu, dù trọng số mô hình vẫn không đổi.

Bộ nhớ đệm prompt và suy luận tái sử dụng các phép tính trước đó khi được hỗ trợ. Chúng có thể cải thiện hiệu quả, nhưng tự thân không xác định được liệu một thông tin được ghi nhớ có còn cập nhật, được phép sử dụng hay phù hợp với các tác vụ trong tương lai hay không. Các lớp này có thể cùng tồn tại, và việc khắc phục sự cố đòi hỏi phải xác định lớp nào gây ra hành vi đang quan sát.

MemGPT là một ví dụ kiến trúc có ảnh hưởng: hệ thống này khám phá việc chuyển thông tin giữa ngữ cảnh có giới hạn và các tầng bộ nhớ ngoài bằng cách vận dụng phép loại suy với hệ điều hành. Bài học hữu ích là cần quản lý rõ ràng việc luân chuyển thông tin, thay vì cho rằng bộ nhớ lưu trữ tự động mở rộng ngữ cảnh tức thời của mô hình mà không có giới hạn.

Vì sao bộ nhớ bền vững có thể khiến sai sót kéo dài hơn

Một câu trả lời sai có thể chỉ ảnh hưởng đến một lần tương tác. Một ký ức sai có thể ảnh hưởng đến nhiều lần. Nếu trợ lý suy luận rằng người dùng đã phê duyệt một quyết định, lưu suy luận đó thành sự thật rồi dẫn lại hồ sơ đã lưu sau này, lỗi trước đó của chính trợ lý có thể mang dáng vẻ như được bằng chứng độc lập xác nhận.

Với trợ lý dự án của chúng ta, cần phân biệt rõ nguồn ban đầu với cách diễn giải của mô hình. Bản tóm tắt quyết định có thể giúp tra cứu, nhưng mọi hành động có hệ quả đáng kể cần dựa trên chính quyết định đã được phê duyệt. Việc lặp lại một suy luận thiếu căn cứ trong nhiều ghi chú do hệ thống tạo ra không biến nó thành nhiều xác nhận độc lập.

Bộ nhớ bền vững cũng tạo ra một con đường khiến chỉ dẫn bị nhiễm bẩn. Một tài liệu không đáng tin cậy có thể chứa câu yêu cầu trợ lý thay đổi hành vi trong tương lai. Lưu câu đó thành quy tắc vận hành sẽ khiến nội dung bên ngoài vượt qua ranh giới thẩm quyền. Ứng dụng cần xử lý câu đó dựa trên nguồn gốc của nó, thay vì nâng nó thành chỉ dẫn đáng tin cậy chỉ vì nó xuất hiện trong kho bộ nhớ.

Môi trường dùng chung tạo thêm một ranh giới khác. Một thông tin có thể liên quan đến câu hỏi nhưng thuộc về khách hàng hoặc dự án khác. Các bước kiểm tra quyền truy cập cần giới hạn việc truy xuất trước khi thông tin đến được mô hình. Yêu cầu mô hình bỏ qua hồ sơ không được phép sử dụng sau khi chúng đã được cung cấp là một thiết kế kém an toàn hơn.

Cách đánh giá xem bộ nhớ có thực sự hoạt động hay không

Một màn trình diễn thuyết phục thường yêu cầu trợ lý nhắc lại một tùy chọn đã lưu. Một cuộc đánh giá nghiêm túc theo dõi thông tin thay đổi qua nhiều phiên và kiểm tra xem bộ nhớ có cải thiện kết quả của tác vụ đã hoàn thành hay không.

LongMemEval đánh giá khả năng trích xuất thông tin, suy luận qua nhiều phiên, suy luận theo thời gian, cập nhật kiến thức và từ chối trả lời khi cần. Các hạng mục này cho thấy chất lượng bộ nhớ dài hạn không chỉ là truy xuất một câu khớp duy nhất. Cần diễn giải kết quả điểm chuẩn đã công bố trong phạm vi các hệ thống và thiết lập được kiểm thử, thay vì mặc định rằng chúng mô tả mọi sản phẩm hiện có.

Với quy trình làm việc của Cedar, một cuộc đánh giá có thể đưa vào một tùy chọn, tiếp tục dự án, thêm một ngoại lệ, sửa thời hạn, xóa ghi chú rồi đặt các câu hỏi nhằm phát hiện việc nhớ lại thông tin đã lỗi thời hoặc không có căn cứ. Cũng cần kiểm thử cùng mô hình khi không bật tính năng bộ nhớ để xác định liệu hệ thống bổ sung này có cải thiện kết quả hay không.

• Độ chính xác khi ghi: Hệ thống có lưu đúng nội dung dự định, cùng phạm vi và các điều kiện kèm theo hay không?
• Tính hữu ích của việc truy xuất: Hệ thống có tìm được bằng chứng cần thiết cho tác vụ mà không làm ngữ cảnh tràn ngập lịch sử không liên quan hay không?
• Xử lý cập nhật: Khi có đính chính, thông tin hiện hành có được thay thế mà vẫn giữ lại những phân biệt hữu ích về lịch sử hay không?
• Từ chối trả lời: Trợ lý có thừa nhận khi không có hồ sơ hỗ trợ hay không?
• Cách ly: Các hồ sơ có luôn nằm trong phạm vi đúng người dùng, khách thuê và dự án hay không?
• Khả năng quên: Việc xóa hoặc hết hạn có ngăn hệ thống nhớ lại thông tin đó trong tương lai như dự định hay không, kể cả thông qua các bản tóm tắt được tạo ra từ thông tin ấy?
• Chi phí vận hành: Những cải thiện đạt được có xứng đáng với độ trễ, số lần gọi mô hình, dung lượng lưu trữ và công sức bảo trì tăng thêm hay không?

Cần truy nguyên lỗi về từng giai đoạn. Câu trả lời bị thiếu có thể do ghi dữ liệu không thành công, phạm vi tìm kiếm không chính xác, quyết định xếp hạng kém, thiếu một điều kiện cần nêu hoặc mô hình đọc sai bằng chứng xác đáng. Tăng kích thước ngữ cảnh sẽ không khắc phục được tất cả những lỗi này.

Chọn thiết kế bộ nhớ phù hợp

Một bản tóm tắt tài liệu chỉ dùng một lần có thể chỉ cần tài liệu hiện tại và hướng dẫn. Nếu quá trình phân tích bị gián đoạn, việc lưu một mốc trạng thái tác vụ sẽ hữu ích. Trợ lý dùng cho một dự án kéo dài có thể cần các quyết định được quản lý theo phiên bản và tham chiếu đến sản phẩm công việc. Trợ lý hoạt động qua nhiều phiên làm việc của người dùng có thể cần một kho lưu trữ tùy chọn riêng, có thể chỉnh sửa.

Trước tiên, hãy xác định câu hỏi trong tương lai mà bộ nhớ được thiết kế để trả lời. Câu hỏi “Việc gì vẫn chưa hoàn thành?” cần trạng thái tác vụ. Câu hỏi “Khách hàng này yêu cầu định dạng nào?” cần một tùy chọn áp dụng trong phạm vi cụ thể. Câu hỏi “Vì sao chúng ta bác bỏ phương án này?” cần một bản ghi quyết định kèm bằng chứng hỗ trợ. Những câu hỏi khác nhau đòi hỏi cách biểu diễn khác nhau.

Nên ưu tiên một số lượng nhỏ các bản ghi rõ ràng, có thể xác định nguồn gốc, thay vì một kho lưu trữ không chọn lọc được trình bày như thể là cá nhân hóa. Hãy tách trạng thái hiện tại khỏi các sự kiện trong quá khứ, giữ lại liên kết đến tài liệu nguồn và đưa việc chỉnh sửa cũng như xóa dữ liệu vào thiết kế ngay từ đầu.

Bộ nhớ chủ động giúp hệ thống AI duy trì một hiện tại mạch lạc. Bộ nhớ dài hạn có thể giúp hệ thống duy trì tính liên tục theo thời gian. Chất lượng của sự liên tục đó phụ thuộc vào những quyết định ở giữa hai loại bộ nhớ: nội dung nào được lưu, nội dung nào được truy xuất lại, phiên bản nào được ưu tiên và nội dung nào có thể bị xóa.