Milla Jovovich’s MemPalace Bertujuan untuk Menyelesaikan Masalah Memori AI

Jutaan orang membuka jendela obrolan setiap hari dan mulai menjelaskan diri mereka kepada kecerdasan buatan (AI). AI mendengarkan dengan saksama, langsung menghasilkan jawaban yang terdengar cerdas, dan kemudian, ketika sesi berakhir, melupakan setiap detail tentang interaksi tersebut.

Skala ritual ini sangat mengagumkan. ChatGPT saja menangani lebih dari satu miliar kueri per hari, dengan lebih dari 800 juta pengguna aktif mingguan pada akhir 2025. Adopsi AI generatif telah mencapai lebih dari 16% dari populasi dunia, sebuah angka yang tidak ada tiga tahun yang lalu.

Infrastruktur besar dengan biaya lingkungan yang meningkat mendukung model ini: pusat data AS mengonsumsi 183 terawatt-jam listrik pada 2024, lebih dari 4% dari total penggunaan negara, atau sekitar setara dengan kebutuhan listrik tahunan Pakistan.

Karena kurangnya memori pada sistem AI, sebagian besar energi tersebut dihabiskan untuk membangun kembali konteks. Penjelasan berulang, pengenalan proyek kembali, dan pembuangan konteks di awal setiap sesi merupakan komputasi yang terbuang.

Memori Adalah yang Mengubah Alat Menjadi Kolaborator

Asisten AI tidak memiliki memori yang persisten secara default. Ini tidak akan menjadi masalah jika kita menggunakan AI seperti kalkulator: memasukkan angka, mendapatkan hasil, dan melanjutkan.

Tapi sebagian besar orang tidak menggunakan AI seperti itu lagi. Mereka memiliki percakapan panjang, iteratif, dan sangat kontekstual dengan AI—membangun sesuatu selama beberapa minggu atau bulan, mengembangkan bahasa bersama, keputusan, dan sejarah. Jumlah konteks yang dapat AI simpan di memori pada waktu tertentu dapat bervariasi tergantung pada tingkat langganan.

Sampai sekarang, AI telah terbukti menjadi alat yang luar biasa, tetapi sejak tahap pengembangan awal, AI telah bertujuan untuk dianggap sebagai teman. Ambisi itu memerlukan memori. Tanpa itu, kemajuan akan terus dimulai dari awal.

Memori yang persisten mengubah apa yang dapat dilakukan AI dalam prakteknya. Seorang pengembang mendapatkan AI yang mempertahankan keputusan arsitektur dan alasan di baliknya. Sebuah tim mendapatkan AI yang mengetahui sejarah proyek tanpa perlu diberi tahu kembali. Seorang penulis mendapatkan AI yang telah mengumpulkan pengetahuan tentang karyanya selama waktu. Kemampuan model tersebut tidak lebih penting daripada kemampuan untuk mengumpulkan pengetahuan tentang orang yang menggunakannya.

Mengapa Ini Telah Sulit untuk Diselesaikan

Tantangan bukan hanya penyimpanan, tetapi juga pengambilan. Secara teori, Anda dapat memasukkan setiap percakapan sebelumnya ke dalam sesi baru. Tapi itu dengan cepat menjadi komputasi yang tidak masuk akal. Jendela konteks, meskipun diperluas, tidaklah tak terhingga. Membuang bulan-bulan percakapan tidak terstruktur ke dalam prompt tidak hanya tidak efektif, tetapi juga memakan waktu dan energi.

Paras Pandey, seorang insinyur data, menjelaskan inti kesulitan dengan jelas: “Memori AI sebenarnya adalah masalah keaslian pengambilan yang disamarkan sebagai masalah penyimpanan. Anda dapat menyimpan apa saja, bagian yang sulit adalah mengambil potongan yang tepat dari itu pada saat inferensi tanpa menghaluskan celahnya. Itu adalah versi yang lebih sulit dari apa yang telah kita selesaikan dalam sistem data selama bertahun-tahun, dan bidang ini masih awal.”

Pendekatan memori AI saat ini melibatkan membiarkan sistem memutuskan apa yang layak diingat. Tapi membiarkan AI memutuskan apa yang penting sering kali membuang konteks nuansa yang membuat pertukaran asli menjadi berharga. Anda menyimpan ide umum, tetapi kehilangan seluruh percakapan di mana Anda menjelaskan kekhawatiran spesifik Anda, dan alternatif yang Anda pertimbangkan dan tolak.

Skenario idealnya adalah membuat informasi yang tepat dapat ditemukan pada saat yang tepat.

Memasuki MemPalace

Inilah masalah yang tepat yang diatasi oleh MemPalace, sebuah proyek sumber terbuka yang baru saja dirilis. Daripada merangkum atau membuang, MemPalace menyimpan percakapan secara penuh dan membangun struktur yang dapat dinavigasi di sekitarnya, mengambil dari teknik kuno Yunani kuno dari istana memori, di mana orator akan meletakkan ide di ruangan tertentu dari bangunan yang dibayangkan untuk mengingatnya nanti.

Apa yang membuat MemPalace menonjol bukan hanya keeleganan pendekatannya. Ini adalah hasilnya. Dalam benchmark akademis standar untuk pengambilan memori AI, MemPalace telah mencetak skor tertinggi yang pernah dipublikasikan untuk sistem gratis, dan melakukan ini sambil berjalan sepenuhnya di mesin Anda, tanpa langganan, tanpa ketergantungan cloud, dan tanpa API eksternal yang diperlukan.

Layanan komersial yang bersaing mengenakan biaya mulai dari $20 hingga $250 per bulan untuk fungsionalitas yang setara, dan sering kali performa yang lebih buruk.

Kombinasi kinerja kelas dunia, sepenuhnya lokal, dan sepenuhnya gratis ini tidak biasa sehingga patut mendapat perhatian. Dan karena berjalan di perangkat keras Anda bukan di server jarak jauh, setiap kueri yang Anda alihkan melalui MemPalace adalah satu yang tidak menambahkan ke buku besar energi industri pusat data.

Gambaran Besar

MemPalace adalah satu proyek, tetapi ini menunjuk ke sesuatu yang lebih besar: pengakuan bahwa memori yang persisten bukanlah tambahan premium untuk sistem AI, melainkan fitur fundamental untuk kasus penggunaan AI yang baru.

Proyek ini dibangun oleh tim kecil, Milla Jovovich (Ya, aktris dari Resident Evil), Ben Sigman, dan Claude, dan terdaftar sebagai memiliki hanya tujuh komit.

Bahwa sistem yang mengungguli produk komersial dengan tim insinyur yang didedikasikan berasal dari upaya yang sangat ramping ini mengatakan sesuatu tentang di mana kesulitan sebenarnya berada.

Masalahnya bukanlah komputer atau sumber daya. Ini adalah model yang lebih jelas tentang apa yang memori sebenarnya perlu lakukan.