Giới hạn bộ nhớ của ChatGPT thật đáng thất vọng — Bộ não cho thấy một cách tốt hơn

Nếu bạn là người dùng ChatGPT thành thạo, gần đây bạn có thể đã gặp phải màn hình "Bộ nhớ đầy" đáng sợ. Thông báo này xuất hiện khi bạn đạt đến giới hạn bộ nhớ đã lưu của ChatGPT và nó có thể là rào cản đáng kể trong các dự án dài hạn. Bộ nhớ được cho là một tính năng chính cho các tác vụ phức tạp, đang diễn ra – bạn muốn AI của mình mang kiến ​​thức từ các phiên trước vào các đầu ra trong tương lai. Việc nhìn thấy cảnh báo bộ nhớ đầy giữa một dự án nhạy cảm về thời gian (ví dụ: khi tôi đang khắc phục sự cố lỗi máy chủ HTTP 502 liên tục trên một trong các trang web chị em của chúng tôi) có thể cực kỳ khó chịu và gây gián đoạn.

Sự thất vọng với giới hạn bộ nhớ của ChatGPT

Vấn đề cốt lõi không phải là giới hạn bộ nhớ tồn tại – ngay cả người dùng trả phí ChatGPT Plus cũng có thể hiểu rằng có thể có giới hạn thực tế về lượng dữ liệu có thể lưu trữ. Vấn đề thực sự là làm thế nào bạn phải quản lý những ký ức cũ khi đạt đến giới hạn. Giao diện hiện tại để quản lý bộ nhớ rất tẻ nhạt và tốn thời gian. Khi ChatGPT thông báo rằng bộ nhớ của bạn đã đầy 100%, bạn có hai lựa chọn: cẩn thận xóa từng ký ức một hoặc xóa tất cả cùng một lúc. Không có công cụ lựa chọn ở giữa hoặc hàng loạt nào để cắt tỉa thông tin được lưu trữ của bạn một cách hiệu quả.

Việc xóa từng bộ nhớ một, đặc biệt là nếu bạn phải làm điều này sau mỗi vài ngày, có vẻ như là một công việc vặt không có lợi cho việc sử dụng lâu dài. Rốt cuộc, hầu hết các bộ nhớ đã lưu đều được lưu giữ vì một lý do – chúng chứa ngữ cảnh có giá trị mà bạn đã cung cấp cho ChatGPT về nhu cầu hoặc doanh nghiệp của mình. Đương nhiên, bạn muốn xóa số lượng mục tối thiểu cần thiết để giải phóng dung lượng, do đó, bạn không cản trở AI hiểu lịch sử của bạn. Tuy nhiên, thiết kế quản lý bộ nhớ buộc phải áp dụng phương pháp tất cả hoặc không có gì hoặc quản lý thủ công chậm. Cá nhân tôi đã quan sát thấy rằng mỗi bộ nhớ bị xóa chỉ giải phóng khoảng 1% của không gian bộ nhớ, cho thấy hệ thống chỉ cho phép khoảng Tổng cộng 100 ký ức trước khi đầy (sử dụng 100%). Giới hạn cứng này có vẻ tùy ý xét đến quy mô của các hệ thống AI hiện đại và làm giảm đi lời hứa của ChatGPT trở thành trợ lý hiểu biết phát triển cùng bạn theo thời gian.

Những gì nên xảy ra

Khi xem xét rằng ChatGPT và cơ sở hạ tầng đằng sau nó có quyền truy cập vào các tài nguyên tính toán gần như không giới hạn, thật đáng ngạc nhiên khi giải pháp cho bộ nhớ dài hạn lại quá thô sơ. Lý tưởng nhất là bộ nhớ AI dài hạn sẽ mô phỏng tốt hơn cách bộ não con người hoạt động và xử lý thông tin theo thời gian. Bộ não con người đã phát triển các chiến lược hiệu quả để quản lý trí nhớ – chúng ta không chỉ ghi lại từng sự kiện theo từng từ và lưu trữ vô thời hạn. Thay vào đó, bộ não được thiết kế để đạt hiệu quả: chúng ta lưu giữ thông tin chi tiết trong thời gian ngắn, sau đó dần dần Củng cố và nén những chi tiết đó vào bộ nhớ dài hạn.

Trong khoa học thần kinh, củng cố bộ nhớ đề cập đến quá trình mà các ký ức ngắn hạn không ổn định được chuyển đổi thành các ký ức ổn định, lâu dài. Theo mô hình chuẩn của sự hợp nhất, các trải nghiệm mới ban đầu được mã hóa bởi hippocampus, một vùng não quan trọng trong việc hình thành trí nhớ theo từng giai đoạn, và theo thời gian, kiến ​​thức sẽ được “được đào tạo” vào vỏ não để lưu trữ vĩnh viễn. Quá trình này không diễn ra ngay lập tức – nó cần thời gian trôi qua và thường diễn ra trong thời gian nghỉ ngơi hoặc ngủ. Về cơ bản, hồi hải mã hoạt động như một vùng đệm học nhanh, trong khi vỏ não dần dần tích hợp thông tin thành một dạng bền vững hơn trên khắp các mạng lưới thần kinh rộng khắp. Nói cách khác, “bộ nhớ ngắn hạn” của não (bộ nhớ làm việc và những trải nghiệm gần đây) được chuyển giao và sắp xếp lại một cách có hệ thống thành một kho lưu trữ bộ nhớ dài hạn phân tán. Quá trình chuyển giao nhiều bước này làm cho bộ nhớ chống lại sự can thiệp hoặc quên lãng tốt hơn, tương tự như việc ổn định bản ghi âm để nó không dễ bị ghi đè.

Điều quan trọng là bộ não con người không lãng phí tài nguyên bằng cách lưu trữ mọi chi tiết nguyên văn. Thay vào đó, nó có xu hướng lọc ra những chi tiết tầm thường và giữ lại những gì có ý nghĩa nhất từ ​​những trải nghiệm của chúng ta. Các nhà tâm lý học từ lâu đã lưu ý rằng khi chúng ta nhớ lại một sự kiện trong quá khứ hoặc thông tin đã học, chúng ta thường nhớ cốt lõi của nó thay vì một lời kể hoàn hảo, từng từ một. Ví dụ, sau khi đọc một cuốn sách hoặc xem một bộ phim, bạn sẽ nhớ những điểm chính và chủ đề của cốt truyện, nhưng không nhớ từng câu thoại. Theo thời gian, cách diễn đạt chính xác và các chi tiết nhỏ của trải nghiệm sẽ mờ dần, để lại một bản tóm tắt trừu tượng hơn về những gì đã xảy ra. Trên thực tế, nghiên cứu cho thấy trí nhớ nguyên văn (chi tiết chính xác) của chúng ta mờ dần nhanh hơn trí nhớ tóm tắt (ý nghĩa chung) theo thời gian. Đây là một cách hiệu quả để lưu trữ kiến ​​thức: bằng cách loại bỏ các chi tiết không liên quan, não bộ sẽ “nén” thông tin, giữ lại những phần thiết yếu có khả năng hữu ích trong tương lai.

T chèn ép thần kinh có thể được ví như cách máy tính nén các tệp và thực tế các nhà khoa học đã quan sát các quá trình tương tự trong não. Khi chúng ta phát lại một ký ức hoặc tưởng tượng một viễn cảnh trong tương lai, biểu diễn thần kinh được tăng tốc hiệu quả và loại bỏ một số chi tiết - đó là phiên bản nén của trải nghiệm thực tế. Các nhà khoa học thần kinh tại UT Austin đã khám phá ra một cơ chế sóng não cho phép chúng ta nhớ lại toàn bộ chuỗi sự kiện (ví dụ, một buổi chiều ở cửa hàng tạp hóa) chỉ trong vài giây bằng cách sử dụng nhịp não nhanh hơn mã hóa thông tin ít chi tiết, cấp cao. Về bản chất, não của chúng ta có thể tua nhanh qua các ký ức, giữ lại phác thảo và các điểm quan trọng trong khi bỏ qua các chi tiết phong phú, vốn không cần thiết hoặc quá cồng kềnh để phát lại đầy đủ. Hệ quả là các kế hoạch tưởng tượng và các trải nghiệm được ghi nhớ được lưu trữ dưới dạng cô đọng - vẫn hữu ích và dễ hiểu, nhưng hiệu quả hơn nhiều về không gian và thời gian so với trải nghiệm ban đầu.

Một khía cạnh quan trọng khác của việc quản lý trí nhớ của con người là ưu tiên. Không phải mọi thứ đi vào bộ nhớ ngắn hạn đều được lưu trữ lâu dài. Bộ não của chúng ta vô thức quyết định điều gì đáng nhớ và điều gì không, dựa trên ý nghĩa hoặc mức độ nổi bật về mặt cảm xúc. A nghiên cứu gần đây tại Đại học Rockefeller đã chứng minh nguyên lý này bằng cách sử dụng chuột: những con chuột được tiếp xúc với một số kết quả trong mê cung (một số có phần thưởng cao, một số có phần thưởng nhẹ, một số tiêu cực). Ban đầu, những con chuột học được tất cả các mối liên kết, nhưng khi được kiểm tra một tháng sau đó, chỉ có nổi bật nhất trí nhớ có phần thưởng cao được giữ lại trong khi các chi tiết ít quan trọng hơn đã biến mất.

Nói cách khác, não đã lọc tiếng ồn và giữ lại ký ức quan trọng nhất đối với mục tiêu của động vật. Các nhà nghiên cứu thậm chí còn xác định được một vùng não, đồi thị trước, hoạt động như một loại bộ điều tiết giữa hồi hải mã và vỏ não trong quá trình củng cố, báo hiệu ký ức nào đủ quan trọng để "lưu" trong thời gian dài. Đồi thị dường như liên tục gửi sự củng cố cho những ký ức có giá trị - về cơ bản là bảo vỏ não "giữ ký ức này" cho đến khi ký ức được mã hóa hoàn toàn - trong khi cho phép những ký ức ít quan trọng hơn mờ dần. Phát hiện này nhấn mạnh rằng quên không chỉ là một sự thất bại của trí nhớ mà còn là một tính năng tích cực của hệ thống: Bằng cách loại bỏ những thông tin tầm thường hoặc dư thừa, não bộ ngăn chặn bộ nhớ lưu trữ bị lộn xộn và đảm bảo kiến ​​thức hữu ích nhất có thể dễ dàng truy cập được.

Suy nghĩ lại về bộ nhớ AI với các nguyên tắc của con người

Cách bộ não con người xử lý bộ nhớ cung cấp một bản thiết kế rõ ràng về cách ChatGPT và các hệ thống AI tương tự nên quản lý thông tin dài hạn. Thay vì xử lý từng bộ nhớ đã lưu như một điểm dữ liệu riêng biệt phải được lưu giữ mãi mãi hoặc xóa thủ công, AI có thể củng cố và tóm tắt những ký ức cũ trong nền. Ví dụ, nếu bạn có mười cuộc trò chuyện hoặc sự kiện liên quan được lưu trữ về dự án đang diễn ra của mình, AI có thể tự động hợp nhất chúng thành một bản tóm tắt ngắn gọn hoặc một tập hợp các kết luận chính – nén hiệu quả bộ nhớ trong khi vẫn giữ được bản chất của nó, giống như não cô đọng các chi tiết thành ý chính. Điều này sẽ giải phóng không gian cho thông tin mới mà không thực sự “quên” những gì quan trọng về các tương tác cũ. Thật vậy, tài liệu của OpenAI gợi ý rằng các mô hình của ChatGPT có thể tự động cập nhật và kết hợp các chi tiết đã lưu, nhưng trải nghiệm người dùng hiện tại cho thấy tính năng này vẫn chưa liền mạch hoặc chưa đầy đủ.

Một cải tiến khác lấy cảm hứng từ con người sẽ là ưu tiên lưu giữ trí nhớ. Thay vì giới hạn 100 mục cứng nhắc, AI có thể cân nhắc những ký ức nào có liên quan thường xuyên nhất hoặc quan trọng nhất đối với nhu cầu của người dùng và chỉ loại bỏ (hoặc giảm mẫu) những ký ức có vẻ ít quan trọng nhất. Trong thực tế, điều này có nghĩa là ChatGPT xác định rằng một số sự kiện nhất định (ví dụ: mục tiêu cốt lõi của công ty bạn, thông số kỹ thuật của dự án đang diễn ra, sở thích cá nhân) là rất nổi bật và luôn phải được lưu giữ, trong khi những thông tin riêng lẻ từ nhiều tháng trước có thể được lưu trữ hoặc loại bỏ trước. Cách tiếp cận năng động này tương tự như cách não bộ liên tục cắt tỉa các kết nối không sử dụng và củng cố những kiến ​​thức thường dùng để tối ưu hóa hiệu quả nhận thức.

Điểm mấu chốt là một hệ thống bộ nhớ dài hạn cho AI nên phát triển, không chỉ lấp đầy và dừng lại. Trí nhớ của con người có khả năng thích ứng đáng kinh ngạc – nó biến đổi và tự tổ chức lại theo thời gian, và nó không mong đợi người dùng bên ngoài quản lý vi mô từng khe cắm bộ nhớ. Nếu bộ nhớ của ChatGPT hoạt động giống như của chúng ta hơn, người dùng sẽ không phải đối mặt với bức tường đột ngột ở 100 mục nhập, cũng như không phải lựa chọn đau đớn giữa việc xóa mọi thứ hoặc nhấp qua từng trăm mục một. Thay vào đó, các ký ức trò chuyện cũ hơn sẽ dần dần biến thành một cơ sở kiến ​​thức được chắt lọc mà AI có thể sử dụng và chỉ những phần thực sự lỗi thời hoặc không liên quan mới biến mất. Cộng đồng AI, là đối tượng mục tiêu ở đây, có thể đánh giá cao rằng việc triển khai một hệ thống như vậy có thể liên quan đến các kỹ thuật như tóm tắt ngữ cảnh, cơ sở dữ liệu vector để truy xuất kiến ​​thức, hoặc các lớp bộ nhớ phân cấp trong mạng nơ-ron – tất cả các lĩnh vực nghiên cứu đang hoạt động. Trên thực tế, việc cung cấp cho AI một dạng “bộ nhớ theo từng giai đoạn” nén lại theo thời gian là một thách thức đã biết và việc giải quyết nó sẽ là một bước tiến tới AI học liên tục và mở rộng cơ sở kiến ​​thức của mình một cách bền vững.

Kết luận

Giới hạn bộ nhớ hiện tại của ChatGPT giống như một giải pháp tạm thời không tận dụng được toàn bộ sức mạnh của AI. Khi nhìn vào nhận thức của con người, chúng ta thấy rằng trí nhớ dài hạn hiệu quả không phải là lưu trữ dữ liệu thô không giới hạn - mà là nén, hợp nhất và quên đi những điều đúng đắn một cách thông minh. Khả năng lưu giữ những gì quan trọng trong khi tiết kiệm dung lượng lưu trữ của bộ não con người chính xác là điều khiến trí nhớ dài hạn của chúng ta trở nên rộng lớn và hữu ích. Để AI trở thành đối tác lâu dài thực sự, nó nên áp dụng một chiến lược tương tự: tự động chắt lọc các tương tác trong quá khứ thành những hiểu biết lâu dài, thay vì chuyển gánh nặng đó cho người dùng. Sự bực bội khi chạm đến bức tường "bộ nhớ đầy" có thể được thay thế bằng một hệ thống phát triển một cách duyên dáng theo cách sử dụng, học hỏi và ghi nhớ theo cách linh hoạt, giống con người. Việc áp dụng các nguyên tắc này không chỉ giải quyết được điểm khó khăn của UX mà còn mở ra trải nghiệm AI mạnh mẽ và được cá nhân hóa hơn cho toàn bộ cộng đồng người dùng và nhà phát triển dựa vào các công cụ này.