Dự án MemPalace của Milla Jovovich nhằm giải quyết vấn đề bộ nhớ của Trí tuệ nhân tạo

Hàng triệu người mở cửa sổ trò chuyện hàng ngày và bắt đầu giải thích mình cho trí tuệ nhân tạo (AI). Nó lắng nghe chăm chú, tạo ra câu trả lời nghe có vẻ thông minh và sau đó, khi phiên kết thúc, quên mọi chi tiết về tương tác.

Quy mô của nghi lễ này là đáng kinh ngạc. ChatGPT alone xử lý hơn một tỷ truy vấn mỗi ngày, với hơn 800 triệu người dùng hoạt động hàng tuần tính đến cuối năm 2025. Việc áp dụng trí tuệ nhân tạo tạo ra đã đạt hơn 16% dân số thế giới, một con số không tồn tại có ý nghĩa ba năm trước.

Một cơ sở hạ tầng khổng lồ với giá môi trường ngày càng tăng hỗ trợ mô hình này: các trung tâm dữ liệu của Mỹ đã tiêu thụ 183 terawatt-giờ điện vào năm 2024, nhiều hơn 4% tổng lượng điện tiêu thụ của đất nước, hoặc tương đương với nhu cầu điện hàng năm của Pakistan.

Do sự thiếu hụt bộ nhớ của các hệ thống AI, một tỷ lệ lớn năng lượng đó được chi để thiết lập lại ngữ cảnh. Các giải thích lặp đi lặp lại, giới thiệu lại dự án và đổ ngữ cảnh tại đầu mỗi phiên là các tính toán bị浪 phí.

Bộ nhớ là thứ biến một công cụ thành một người cộng tác

Các trợ lý AI không có bộ nhớersistent theo mặc định. Điều này không thành vấn đề nếu chúng ta sử dụng AI như một máy tính: nhập một số, nhận được kết quả, di chuyển.

Nhưng hầu hết mọi người không sử dụng nó theo cách đó nữa. Họ có những cuộc trò chuyện dài, lặp đi lặp lại, sâu sắc và có ngữ cảnh với AI – xây dựng mọi thứ trong vài tuần hoặc vài tháng, phát triển ngôn ngữ, quyết định và lịch sử chung. Số lượng ngữ cảnh mà AI có thể giữ trong tâm trí tại bất kỳ thời điểm nào có thể thay đổi tùy thuộc vào cấp độ đăng ký.

Cho đến nay, AI đã chứng minh là một công cụ tuyệt vời, nhưng từ những giai đoạn phát triển ban đầu, nó đã hướng tới việc được coi là một người bạn đồng hành. Đó là một tham vọng đòi hỏi bộ nhớ. Nếu không, tiến bộ sẽ tiếp tục reset.

Bộ nhớersistent thay đổi những gì AI có thể làm trong thực tế. Một nhà phát triển nhận được một AI giữ lại các quyết định kiến trúc và lý do đằng sau chúng. Một nhóm nhận được một AI biết lịch sử dự án mà không cần được brief lại. Một nhà văn nhận được một AI đã tích lũy kiến thức về công việc của họ theo thời gian. Khả năng của mô hình quan trọng ít hơn liệu nó có thể tích lũy kiến thức về người dùng hay không.

Tại sao vấn đề này đã khó để giải quyết

Thử thách không chỉ là lưu trữ mà còn là thu hồi. Về lý thuyết, bạn có thể cung cấp mọi cuộc trò chuyện trong quá khứ vào một phiên mới. Nhưng điều đó nhanh chóng trở nên tính toán không hợp lý. Cửa sổ ngữ cảnh, mặc dù đang mở rộng, không phải là vô tận. Đổ tháng ngôn ngữ không có cấu trúc vào một lời nhắc không chỉ không hiệu quả mà còn tốn thời gian và năng lượng.

Paras Pandey, một kỹ sư dữ liệu, đặt ra khó khăn cốt lõi một cách đơn giản: “Bộ nhớ AI thực sự là một vấn đề về tính trung thực của thu hồi được ngụy trang thành một vấn đề lưu trữ. Bạn có thể giữ lại mọi thứ, phần khó là thu hồi đúng lát cắt của nó tại thời điểm suy luận mà không tưởng tượng ra khoảng trống. Đó là một phiên bản khó hơn của những gì chúng ta đã giải quyết trong các hệ thống dữ liệu trong nhiều năm, và lĩnh vực này vẫn còn trong giai đoạn đầu.”

Các phương pháp bộ nhớ AI hiện tại liên quan đến việc để hệ thống quyết định những gì đáng nhớ. Nhưng để AI quyết định những gì quan trọng thường vứt bỏ chính xác loại ngữ cảnh tinh vi mà làm cho cuộc trao đổi ban đầu có giá trị. Bạn giữ lại ý tưởng chung nhưng mất toàn bộ cuộc trò chuyện nơi bạn giải thích mối quan tâm cụ thể của mình, và các lựa chọn thay thế bạn đã xem xét và từ chối.

Cảnh huống lý tưởng sẽ là làm cho thông tin chính xác có thể tìm thấy tại đúng thời điểm.

Giới thiệu MemPalace

Đây chính xác là vấn đề mà MemPalace, một dự án mã nguồn mở mới được phát hành, nhằm giải quyết. Thay vì tóm tắt hoặc loại bỏ, nó lưu trữ các cuộc trò chuyện đầy đủ và xây dựng một cấu trúc có thể điều hướng xung quanh chúng, vay mượn từ kỹ thuật cổ điển của cung điện bộ nhớ, nơi các nhà hùng biện sẽ đặt các ý tưởng vào các phòng cụ thể của một tòa nhà tưởng tượng để nhớ lại chúng sau này.

Điều làm cho MemPalace đáng chú ý không chỉ là sự优雅 của cách tiếp cận. Đó là kết quả. Trong các chuẩn mực học thuật tiêu chuẩn cho việc thu hồi bộ nhớ AI, MemPalace đã đăng tải điểm số cao nhất từ trước đến nay cho một hệ thống miễn phí, và nó làm như vậy trong khi chạy hoàn toàn trên máy của bạn, không cần đăng ký, không phụ thuộc vào đám mây và không cần API bên ngoài.

Các dịch vụ thương mại cạnh tranh tính phí từ 20 đến 250 đô la mỗi tháng cho các chức năng tương đương và thường có hiệu suất kém hơn.

Sự kết hợp giữa hiệu suất hàng đầu, hoàn toàn miễn phí và chạy trên máy của bạn là điều không thường thấy đến mức đáng được chú ý. Và vì nó chạy trên phần cứng của bạn chứ không phải trên máy chủ từ xa, mọi truy vấn bạn định tuyến qua MemPalace là một truy vấn không thêm vào sổ sách năng lượng đang phồng lên của ngành công nghiệp trung tâm dữ liệu.

Cảnh quan lớn hơn

MemPalace là một dự án, nhưng nó chỉ ra một điều lớn hơn: sự công nhận rằng bộ nhớersistent không phải là một tính năng cao cấp thêm vào các hệ thống AI, mà là một thành tựu cơ bản cho các trường hợp sử dụng mới của AI.

Dự án được xây dựng bởi một đội nhỏ, Milla Jovovich (Vâng, nữ diễn viên từ Resident Evil), Ben Sigman, và Claude, và được liệt kê là có chỉ bảy commits.

That a system outperforming commercial products with dedicated engineering teams came from such a lean effort says something about where the real difficulty lies.

The problem wasn’t computers or resources. It was a clearer model of what memory actually needs to do.