MemPalace của Milla Jovovich hướng đến giải quyết vấn đề bộ nhớ của AI

Hàng triệu người mở cửa sổ trò chuyện hàng ngày và bắt đầu giải thích mình cho trí tuệ nhân tạo (AI). Nó lắng nghe chăm chú, tạo ra câu trả lời nghe có vẻ thông minh và sau đó, khi phiên kết thúc, quên mọi chi tiết về tương tác.

Quy mô của nghi lễ này là đáng kinh ngạc. Riêng ChatGPT xử lý hơn một tỷ truy vấn mỗi ngày, với hơn 800 triệu người dùng hoạt động hàng tuần tính đến cuối năm 2025. Việc áp dụng AI tạo sinh đã đạt hơn 16% dân số thế giới, một con số không tồn tại có ý nghĩa ba năm trước.

Một cơ sở hạ tầng khổng lồ với chi phí môi trường ngày càng tăng hỗ trợ mô hình này: các trung tâm dữ liệu của Mỹ đã tiêu thụ 183 terawatt-giờ điện vào năm 2024, nhiều hơn 4% tổng lượng điện tiêu thụ của đất nước, hay xấp xỉ nhu cầu điện hằng năm của Pakistan.

Do sự thiếu hụt bộ nhớ của các hệ thống AI, một tỷ lệ lớn năng lượng đó được chi để thiết lập lại ngữ cảnh. Các giải thích lặp đi lặp lại, giới thiệu lại dự án và đổ ngữ cảnh tại đầu mỗi phiên là các tính toán bị lãng phí.

Bộ nhớ là thứ biến một công cụ thành một người cộng tác

Các trợ lý AI không có bộ nhớ lâu dài theo mặc định. Điều này không thành vấn đề nếu chúng ta sử dụng AI như máy tính bỏ túi: nhập một số, nhận kết quả rồi tiếp tục.

Nhưng hầu hết mọi người không sử dụng nó theo cách đó nữa. Họ có những cuộc trò chuyện dài, lặp đi lặp lại, sâu sắc và có ngữ cảnh với AI – xây dựng mọi thứ trong vài tuần hoặc vài tháng, phát triển ngôn ngữ, quyết định và lịch sử chung. Lượng ngữ cảnh mà AI có thể chủ động duy trì tại bất kỳ thời điểm nào có thể thay đổi tùy thuộc vào cấp độ đăng ký.

Cho đến nay, AI đã chứng minh là một công cụ tuyệt vời, nhưng từ những giai đoạn phát triển ban đầu, nó đã hướng tới việc được coi là một người bạn đồng hành. Đó là một tham vọng đòi hỏi bộ nhớ. Nếu không, tiến bộ sẽ tiếp tục bị đặt lại từ đầu.

Bộ nhớ lâu dài thay đổi những gì AI có thể làm trong thực tế. Một nhà phát triển nhận được một AI giữ lại các quyết định kiến trúc và lý do đằng sau chúng. Một nhóm nhận được một AI biết lịch sử dự án mà không cần được cung cấp lại thông tin. Một nhà văn nhận được một AI đã tích lũy kiến thức về công việc của họ theo thời gian. Năng lực của mô hình ít quan trọng hơn việc nó có thực sự tích lũy được kiến thức về người sử dụng hay không.

Tại sao vấn đề này đã khó để giải quyết

Thử thách không chỉ là lưu trữ mà còn là truy xuất. Về lý thuyết, bạn có thể cung cấp mọi cuộc trò chuyện trong quá khứ vào một phiên mới. Nhưng điều đó nhanh chóng trở nên tính toán không hợp lý. Cửa sổ ngữ cảnh, mặc dù đang mở rộng, không phải là vô tận. Đưa nhiều tháng trò chuyện chưa được sắp xếp vào một lời nhắc không chỉ không hiệu quả mà còn tốn thời gian và năng lượng.

Paras Pandey, một kỹ sư dữ liệu, đặt ra khó khăn cốt lõi một cách đơn giản: “Bộ nhớ AI thực sự là một vấn đề về tính trung thực của truy xuất được ngụy trang thành một vấn đề lưu trữ. Bạn có thể giữ lại mọi thứ, phần khó là truy xuất đúng lát cắt của nó tại thời điểm suy luận mà không bịa thêm để lấp các khoảng trống. Đó là một phiên bản khó hơn của những gì chúng ta đã giải quyết trong các hệ thống dữ liệu trong nhiều năm, và lĩnh vực này vẫn còn trong giai đoạn đầu.”

Các phương pháp bộ nhớ AI hiện tại liên quan đến việc để hệ thống quyết định những gì đáng nhớ. Nhưng để AI quyết định những gì quan trọng thường vứt bỏ chính xác loại ngữ cảnh tinh vi mà làm cho cuộc trao đổi ban đầu có giá trị. Bạn giữ lại ý tưởng chung nhưng mất toàn bộ cuộc trò chuyện nơi bạn giải thích mối quan tâm cụ thể của mình, và các lựa chọn thay thế bạn đã xem xét và từ chối.

Tình huống lý tưởng sẽ là làm cho thông tin chính xác có thể tìm thấy tại đúng thời điểm.

Giới thiệu MemPalace

Đây chính xác là vấn đề mà MemPalace, một dự án mã nguồn mở mới được phát hành, nhằm giải quyết. Thay vì tóm tắt hoặc loại bỏ, nó lưu trữ các cuộc trò chuyện đầy đủ và xây dựng một cấu trúc có thể điều hướng xung quanh chúng, vay mượn từ kỹ thuật cung điện ký ức của Hy Lạp cổ đại, nơi các nhà hùng biện đặt các ý tưởng trong tâm trí vào các phòng cụ thể của một tòa nhà tưởng tượng để nhớ lại chúng sau này.

Điều làm cho MemPalace đáng chú ý không chỉ là sự thanh lịch của cách tiếp cận. Đó là kết quả. Trong các bài đánh giá chuẩn học thuật về khả năng truy xuất bộ nhớ AI, MemPalace đã đạt điểm số cao nhất từng được công bố cho một hệ thống miễn phí, và nó làm như vậy trong khi chạy hoàn toàn trên máy của bạn, không cần đăng ký, không phụ thuộc vào đám mây và không cần API bên ngoài.

Các dịch vụ thương mại cạnh tranh tính phí từ 20 đến 250 đô la mỗi tháng cho các chức năng tương đương và thường có hiệu suất kém hơn.

Sự kết hợp giữa hiệu suất hàng đầu, hoàn toàn miễn phí và chạy trên máy của bạn là điều không thường thấy đến mức đáng được chú ý. Và vì nó chạy trên phần cứng của bạn chứ không phải trên máy chủ từ xa, mọi truy vấn bạn định tuyến qua MemPalace là một truy vấn không thêm vào sổ sách năng lượng đang phồng lên của ngành công nghiệp trung tâm dữ liệu.

Bức tranh rộng hơn

MemPalace là một dự án, nhưng nó chỉ ra một điều lớn hơn: sự công nhận rằng bộ nhớ lâu dài không phải là một tính năng cao cấp thêm vào các hệ thống AI, mà là một thành tựu cơ bản cho các trường hợp sử dụng mới của AI.

Dự án được xây dựng bởi một đội nhỏ, Milla Jovovich (Vâng, nữ diễn viên từ Resident Evil), Ben Sigman, và Claude, và được liệt kê là có chỉ bảy commit.

Việc một hệ thống được tạo ra với nguồn lực tinh gọn như vậy lại vượt qua các sản phẩm thương mại có đội ngũ kỹ sư chuyên trách cho thấy khó khăn thực sự nằm ở đâu.

Vấn đề không nằm ở máy tính hay nguồn lực. Điều cần thiết là một mô hình rõ ràng hơn về những gì bộ nhớ thực sự phải làm.