Giới hạn Bộ nhớ của ChatGPT gây bực tức — Não bộ chỉ ra một cách tốt hơn

Nếu bạn là người dùng mạnh của ChatGPT, bạn có thể đã gặp phải màn hình “Bộ nhớ đầy” đáng sợ. Thông báo này xuất hiện khi bạn đạt đến giới hạn bộ nhớ đã lưu của ChatGPT, và nó có thể là một chướng ngại vật đáng kể trong các dự án dài hạn. Bộ nhớ được coi là một tính năng quan trọng cho các nhiệm vụ phức tạp, liên tục – bạn muốn AI của mình mang lại kiến thức từ các phiên trước vào các đầu ra tương lai. Việc nhìn thấy cảnh báo bộ nhớ đầy trong quá trình thực hiện dự án thời gian thực (ví dụ, khi tôi đang giải quyết lỗi máy chủ HTTP 502 trên một trong các trang web chị em của chúng tôi) có thể cực kỳ bực tức và gây gián đoạn.

Bực tức với Giới hạn Bộ nhớ của ChatGPT

Vấn đề cốt lõi không phải là việc tồn tại giới hạn bộ nhớ – ngay cả người dùng ChatGPT Plus trả phí cũng có thể hiểu rằng có thể có những giới hạn thực tế về lượng dữ liệu có thể được lưu trữ. Vấn đề thực sự là làm thế nào bạn phải quản lý các bộ nhớ cũ khi đạt đến giới hạn. Giao diện hiện tại để quản lý bộ nhớ là繁 tạp và tốn thời gian. Khi ChatGPT thông báo rằng bộ nhớ của bạn đã đầy 100%, bạn có hai lựa chọn: xóa từng bộ nhớ một hoặc xóa tất cả cùng một lúc. Không có lựa chọn trung gian hoặc công cụ chọn lọc để quản lý hiệu quả thông tin đã lưu.

Xóa từng bộ nhớ một, đặc biệt nếu bạn phải làm điều này vài ngày một lần, cảm giác như một công việc không phù hợp với sử dụng lâu dài. Sau tất cả, hầu hết các bộ nhớ đã lưu đều được giữ lại vì một lý do – chúng chứa thông tin quý giá mà bạn đã cung cấp cho ChatGPT về nhu cầu hoặc doanh nghiệp của mình. Tự nhiên, bạn sẽ muốn xóa số lượng mục tối thiểu cần thiết để giải phóng không gian, để không làm suy giảm sự hiểu biết của AI về lịch sử của bạn. Tuy nhiên, thiết kế của quản lý bộ nhớ buộc bạn phải thực hiện một cách tiếp cận tất cả hoặc không có gì hoặc một quá trình kiểm tra thủ công chậm. Tôi đã quan sát rằng mỗi bộ nhớ đã xóa chỉ giải phóng khoảng 1% không gian bộ nhớ, cho thấy hệ thống chỉ cho phép khoảng 100 bộ nhớ trước khi nó đầy (100% sử dụng). Giới hạn cứng này cảm thấy tùy tiện khi xem xét quy mô của các hệ thống AI hiện đại, và nó làm suy yếu lời hứa của ChatGPT trở thành một trợ lý thông minh phát triển cùng bạn theo thời gian.

Điều gì Nên Xảy Ra

Nếu xem xét rằng ChatGPT và cơ sở hạ tầng đằng sau nó có quyền truy cập vào tài nguyên tính toán gần như không giới hạn, thì thật ngạc nhiên khi giải pháp cho bộ nhớ dài hạn lại rất thô sơ. Lý tưởng, bộ nhớ AI dài hạn nên sao chép cách não bộ con người hoạt động và xử lý thông tin theo thời gian. Não bộ con người đã phát triển các chiến lược hiệu quả để quản lý bộ nhớ – chúng ta không chỉ ghi lại từng sự kiện từ từ và lưu trữ nó vĩnh viễn. Thay vào đó, não bộ được thiết kế cho hiệu quả: chúng ta giữ thông tin chi tiết trong ngắn hạn, sau đó dần dần tổng hợp và nén những chi tiết đó vào bộ nhớ dài hạn.

Trong khoa học thần kinh, tổng hợp bộ nhớ đề cập đến quá trình mà các bộ nhớ ngắn hạn không ổn định được chuyển đổi thành các bộ nhớ ổn định và dài hạn. Theo mô hình tiêu chuẩn của tổng hợp, các trải nghiệm mới được mã hóa ban đầu bởi hippocampus, một khu vực của não bộ quan trọng cho việc hình thành ký ức theo từng giai đoạn, và theo thời gian kiến thức đó được “đào tạo” vào vỏ não để lưu trữ vĩnh viễn. Quá trình này không xảy ra ngay lập tức – nó đòi hỏi sự qua đi của thời gian và thường xảy ra trong thời gian nghỉ ngơi hoặc ngủ. Hippocampus thực sự hoạt động như một bộ đệm học nhanh, trong khi vỏ não dần dần tích hợp thông tin vào một hình thức bền vững hơn trên các mạng nơ-ron rộng khắp. Nói cách khác, “bộ nhớ ngắn hạn” (bộ nhớ làm việc và trải nghiệm gần đây) của não bộ được chuyển giao và tái tổ chức một cách có hệ thống vào một cửa hàng bộ nhớ dài hạn phân tán. Việc chuyển giao nhiều bước này làm cho bộ nhớ trở nên kháng lại sự can thiệp hoặc quên, tương tự như việc ổn định một bản ghi để nó không bị ghi đè dễ dàng.

Điều quan trọng là bộ não con người không lãng phí tài nguyên bằng cách lưu trữ mọi chi tiết từ từ. Thay vào đó, nó có xu hướng lọc ra các chi tiết không quan trọng và giữ lại những gì quan trọng nhất từ trải nghiệm của chúng ta. Các nhà tâm lý học đã lâu đã lưu ý rằng khi chúng ta nhớ lại một sự kiện trong quá khứ hoặc thông tin đã học, chúng ta thường nhớ lại bản chất của nó hơn là một tài khoản từ từ hoàn hảo. Ví dụ, sau khi đọc một cuốn sách hoặc xem một bộ phim, bạn sẽ nhớ các điểm chính và chủ đề, nhưng không phải mọi dòng đối thoại. Theo thời gian, cách diễn đạt chính xác và các chi tiết nhỏ của trải nghiệm mờ dần, để lại một bản tóm tắt trừu tượng hơn về những gì đã xảy ra. Trên thực tế, nghiên cứu cho thấy rằng bộ nhớ từ từ của chúng ta (chi tiết chính xác) mờ dần nhanh hơn bộ nhớ bản chất (ý nghĩa chung) khi thời gian trôi qua. Đây là một cách hiệu quả để lưu trữ kiến thức: bằng cách loại bỏ các chi tiết không cần thiết, não bộ “nén” thông tin, giữ lại những phần quan trọng nhất có khả năng hữu ích trong tương lai.

Sự nén thần kinh này có thể được so sánh với cách máy tính nén tệp, và thực sự các nhà khoa học đã quan sát thấy các quá trình tương tự trong não bộ. Khi chúng ta tái tạo lại một ký ức hoặc tưởng tượng một kịch bản trong tương lai, đại diện thần kinh được hiệu quả hóa và loại bỏ một số chi tiết – đó là một phiên bản nén của trải nghiệm thực. Các nhà khoa học thần kinh tại UT Austin đã phát hiện ra một cơ chế sóng não cho phép chúng ta nhớ lại một chuỗi sự kiện (ví dụ, một buổi chiều tại cửa hàng tạp hóa) chỉ trong vài giây bằng cách sử dụng một nhịp não nhanh hơn mã hóa thông tin ít chi tiết hơn, cấp cao hơn. Về bản chất, não bộ của chúng ta có thể tua nhanh qua các ký ức, giữ lại đường nét và điểm chính trong khi bỏ qua chi tiết phong phú, điều mà sẽ không cần thiết hoặc quá cồng kềnh để phát lại đầy đủ. Kết quả là các kế hoạch tưởng tượng và ký ức được nhớ lại được lưu trữ dưới dạng nén – vẫn hữu ích và có thể hiểu được, nhưng hiệu quả hơn nhiều về không gian và thời gian so với trải nghiệm ban đầu.

Một khía cạnh quan trọng khác của quản lý bộ nhớ con người là ưu tiên. Không phải mọi thứ进入 bộ nhớ ngắn hạn đều được lưu trữ vĩnh viễn. Não bộ của chúng ta vô thức quyết định những gì đáng nhớ và những gì không, dựa trên tầm quan trọng hoặc ý nghĩa cảm xúc. Một nghiên cứu gần đây tại Đại học Rockefeller đã chứng minh nguyên tắc này bằng cách sử dụng chuột: chuột được tiếp xúc với một số kết quả trong mê cung (một số phần thưởng cao, một số phần thưởng vừa phải, một số tiêu cực). Ban đầu, chuột học tất cả các mối liên hệ, nhưng khi được kiểm tra một tháng sau, chỉ có phần thưởng cao nhất được nhớ lại trong khi các chi tiết ít quan trọng hơn đã biến mất.

Nói cách khác, não bộ đã lọc ra tiếng ồn và giữ lại ký ức quan trọng nhất đối với mục tiêu của động vật. Các nhà nghiên cứu thậm chí đã xác định được một khu vực não, thalamus trước, hoạt động như một loại người điều tiết giữa hippocampus và vỏ não trong quá trình tổng hợp, tín hiệu cho các ký ức nào quan trọng đủ để “lưu” lâu dài. Thalamus dường như gửi sự củng cố liên tục cho các ký ức có giá trị – về cơ bản nói với vỏ não “giữ cái này” cho đến khi ký ức được mã hóa hoàn toàn – trong khi cho phép các ký ức ít quan trọng hơn mờ dần. Phát hiện này nhấn mạnh rằng quên không chỉ là một thất bại của bộ nhớ, mà là một tính năng hoạt động của hệ thống: bằng cách buông bỏ thông tin không cần thiết hoặc trùng lặp, não bộ ngăn chặn việc lưu trữ bộ nhớ của nó bị lộn xộn và đảm bảo kiến thức hữu ích nhất có thể dễ dàng truy cập.

Tái đánh giá Bộ nhớ AI với Nguyên tắc Con người

Cách não bộ con người xử lý bộ nhớ cung cấp một bản thiết kế rõ ràng cho cách ChatGPT và các hệ thống AI tương tự nên quản lý thông tin dài hạn. Thay vì đối xử với từng bộ nhớ đã lưu như một điểm dữ liệu riêng biệt phải được giữ mãi hoặc xóa thủ công, một AI có thể tổng hợp và tóm tắt các bộ nhớ cũ trong nền. Ví dụ, nếu bạn có mười cuộc trò chuyện hoặc事 thực liên quan đến dự án đang diễn ra của mình, AI có thể tự động hợp nhất chúng thành một bản tóm tắt súc tích hoặc một tập hợp các kết luận chính – về cơ bản là nén bộ nhớ trong khi vẫn giữ lại bản chất của nó, tương tự như não bộ nén chi tiết thành bản chất. Điều này sẽ giải phóng không gian cho thông tin mới mà không thực sự “quên” những gì quan trọng về các tương tác cũ. Thực tế, tài liệu của OpenAI gợi ý rằng các mô hình của ChatGPT có thể thực hiện một số cập nhật và kết hợp tự động các chi tiết đã lưu, nhưng trải nghiệm người dùng hiện tại cho thấy nó chưa được mịn màng hoặc đủ.

Một cải tiến khác được lấy cảm hứng từ con người sẽ là việc giữ lại bộ nhớ ưu tiên. Thay vì một giới hạn cứng 100 mục, AI có thể đánh giá những bộ nhớ nào đã được liên quan hoặc quan trọng nhất đối với nhu cầu của người dùng, và chỉ loại bỏ (hoặc lấy mẫu nhỏ) những bộ nhớ ít quan trọng nhất. Trong thực tế, điều này có thể có nghĩa là ChatGPT xác định rằng một số事 thực (ví dụ: mục tiêu cốt lõi của công ty, thông số kỹ thuật dự án đang diễn ra, sở thích cá nhân) là rất quan trọng và nên luôn được giữ lại, trong khi các mảnh thông tin một lần từ vài tháng trước có thể được lưu trữ hoặc xóa trước. Cách tiếp cận động này tương tự như cách não bộ liên tục cắt tỉa các kết nối không sử dụng và củng cố các kết nối thường được sử dụng để tối ưu hóa hiệu quả nhận thức.

Tóm lại, một hệ thống bộ nhớ dài hạn cho AI nên phát triển, không chỉ lấp đầy và ngừng lại. Bộ nhớ con người rất linh hoạt – nó biến đổi và tái tổ chức theo thời gian, và nó không mong đợi người dùng bên ngoài quản lý từng khe bộ nhớ. Nếu bộ nhớ của ChatGPT hoạt động giống như của chúng ta, người dùng sẽ không phải đối mặt với một bức tường đột ngột ở 100 mục, cũng không phải lựa chọn giữa việc xóa mọi thứ hoặc nhấp qua một trăm mục một lần. Thay vào đó, các bộ nhớ trò chuyện cũ sẽ dần biến thành một cơ sở kiến thức cô đọng mà AI có thể dựa vào, và chỉ những phần thực sự lỗi thời hoặc không liên quan mới sẽ biến mất. Cộng đồng AI, là đối tượng mục tiêu ở đây, có thể đánh giá cao rằng việc triển khai một hệ thống như vậy có thể liên quan đến các kỹ thuật như tóm tắt ngữ cảnh, cơ sở dữ liệu vector để thu hồi kiến thức, hoặc các lớp bộ nhớ phân cấp trong mạng nơ-ron – tất cả đều là các lĩnh vực nghiên cứu đang hoạt động. Trên thực tế, việc cung cấp cho AI một dạng “bộ nhớ theo giai đoạn” nén lại theo thời gian là một thách thức được biết đến, và việc giải quyết nó sẽ là một bước nhảy vọt đối với AI học liên tục và mở rộng cơ sở kiến thức một cách bền vững.

Kết luận

Giới hạn bộ nhớ hiện tại của ChatGPT cảm thấy như một giải pháp tạm thời không tận dụng được toàn bộ sức mạnh của AI. Bằng cách nhìn vào nhận thức của con người, chúng ta thấy rằng bộ nhớ dài hạn hiệu quả không phải là về việc lưu trữ dữ liệu thô không giới hạn – mà là về nén thông minh, tổng hợp và quên những điều đúng đắn. Khả năng của não bộ con người giữ lại những gì quan trọng trong khi tiết kiệm lưu trữ chính xác là điều làm cho bộ nhớ dài hạn của chúng ta trở nên rộng lớn và hữu ích. Để AI trở thành một đối tác lâu dài thực sự, nó nên áp dụng một chiến lược tương tự: tự động cô đọng các tương tác trong quá khứ thành những hiểu biết lâu dài, thay vì offload gánh nặng đó lên người dùng. Sự bực tức khi gặp phải cảnh báo “bộ nhớ đầy” có thể được thay thế bằng một hệ thống phát triển cùng với việc sử dụng, học hỏi và ghi nhớ một cách linh hoạt, giống như con người. Việc áp dụng những nguyên tắc này không chỉ giải quyết điểm đau của UX mà còn mở khóa một trải nghiệm AI mạnh mẽ và cá nhân hóa hơn cho toàn bộ cộng đồng người dùng và nhà phát triển phụ thuộc vào các công cụ này.