Apa Itu Memori Agen AI? Memori Jangka Pendek, Jangka Panjang, Episodik, dan Semantik Dijelaskan

Memori agen AI adalah sistem yang menyimpan, mengatur, dan mengambil kembali informasi yang mungkin dibutuhkan agen di luar respons modelnya yang langsung. Ia dapat mempertahankan status tugas aktif, pengalaman masa lalu, fakta, preferensi, dan prosedur yang dipelajari, tetapi bukan satu basis data dan bukan hal yang sama dengan jendela konteks model.

Memori membantu agen tetap koheren selama tugas panjang dan interaksi berulang. Memori juga dapat memperkenalkan fakta usang, risiko privasi, dan pengambilan yang menyesatkan. Pertanyaan desain utama bukan “Bagaimana agen dapat mengingat semuanya?” melainkan “Apa yang harus diingat, berapa lama, dan di bawah otoritas apa?”

Konteks Bukan Memori

jendela konteks model adalah informasi yang tersedia selama inferensi tertentu: instruksi, pesan, hasil alat, dokumen yang diambil, dan masukan lainnya. Ia berfungsi seperti ruang kerja sementara.

Memori adalah mekanisme yang lebih luas yang menentukan informasi mana yang dipertahankan dan bagaimana catatan terpilih kembali ke ruang kerja tersebut. Basis data yang penuh dengan percakapan adalah penyimpanan; ia menjadi memori yang berguna hanya ketika sistem dapat mengambil informasi yang tepat pada waktu yang tepat dan menampilkan keandalannya.

Perbedaan ini penting karena jendela konteks yang besar tidak menyelesaikan manajemen memori. Mengisi prompt dengan setiap peristiwa sebelumnya meningkatkan biaya dan dapat mengalihkan perhatian model dengan detail yang tidak relevan atau kontradiktif.

Jenis-Jenis Utama Memori Agen

Sistem produksi dapat mengimplementasikan keempatnya dengan kombinasi status percakapan, basis data terstruktur, pencarian vektor, log peristiwa, dan instruksi berversi. Taksonomi ini menjelaskan peran informasi, bukan produk basis data yang menyimpannya. Preferensi pelanggan adalah memori semantik baik ia berada di tabel relasional maupun indeks vektor.

Memori Kerja atau Jangka Pendek

Memori kerja menyimpan status aktif dari tugas saat ini: tujuan, rencana terkini, observasi terbaru, pertanyaan terbuka, output alat, dan langkah yang selesai. Memori ini sering disimpan sebagian dalam percakapan dan sebagian dalam objek status terstruktur.

Karena konteks kerja terbatas, agen yang berjalan lama dapat merangkum peristiwa lama, menyimpan variabel penting secara terpisah, atau memuat hanya bagian selanjutnya yang relevan dari sebuah tugas.

Memori Episodik

Memori episodik mencatat pengalaman sebagai peristiwa: apa yang terjadi, kapan, dalam situasi apa, tindakan apa yang diambil, dan apa hasilnya. Sebuah agen mungkin mengingat bahwa suatu penyebaran tertentu gagal setelah perubahan konfigurasi atau bahwa seorang pengguna menolak rekomendasi dengan alasan yang dinyatakan.

Catatan episodik dapat mendukung penalaran berbasis kasus—menemukan situasi masa lalu yang mirip dengan yang sedang berlangsung. Mereka memerlukan atribusi yang cermat karena hasil sebelumnya mungkin bergantung pada kondisi yang kini tidak lagi berlaku.

Memori Semantik

Memori semantik mewakili fakta dan konsep secara terpisah dari satu peristiwa. Contohnya termasuk bahasa pilihan pelanggan, definisi metrik internal, atau hubungan antar produk.

Memori semantik dapat berada dalam dokumen, indeks vektor, basis data relasional, atau grafik pengetahuan. Fakta penting harus mencakup asal-usul, cap waktu, dan kepemilikan sehingga agen dapat membedakan catatan otoritatif dari rangkuman yang dihasilkan model.

Memori Prosedural

Memori prosedural menangkap cara melakukan pekerjaan: alur kerja, aturan pemilihan alat, daftar periksa, rencana yang berhasil, atau keterampilan yang dapat digunakan kembali. Pada sistem saat ini, ini sering muncul sebagai instruksi berversi, kode, atau templat yang diuji, bukan model yang diam-diam mengubah dirinya sendiri.

Memisahkan pembaruan prosedural dari percakapan biasa adalah fitur keamanan. Satu interaksi yang tidak biasa tidak boleh secara otomatis menulis ulang aturan operasi agen.

Bagaimana Agen Mengingat Sesuatu

Pipeline memori praktis memiliki empat tahap.

1. Menangkap: mengamati pesan, tindakan, hasil, atau perubahan lingkungan.
2. Pilih dan enkode: memutuskan apakah informasi layak disimpan dan mengubahnya menjadi catatan dengan metadata.
3. Simpan: menempatkan catatan dalam sistem yang tepat dengan kontrol akses dan kebijakan retensi.
4. Ambil: ketika tugas baru muncul, mencari catatan yang relevan, memberi peringkat, dan menempatkan seleksi kecil dalam konteks.

Beberapa sistem menambahkan konsolidasi: menggabungkan observasi berulang, menyelesaikan duplikat, atau mengubah peristiwa menjadi fakta yang tahan lama. Proses itu tidak boleh menghapus asal-usul atau ketidakpastian.

Cara Kerja Pengambilan

Pencarian kesamaan vektor umum karena dapat menemukan catatan yang terkait secara semantik meskipun kata-katanya berbeda. Namun kesamaan saja tidak cukup. Preferensi berusia enam bulan mungkin relevan secara topik tetapi tidak lagi valid.

Pengambilan yang kuat dapat menggabungkan beberapa sinyal:

• relevansi semantik: seberapa dekat catatan cocok dengan tugas saat ini;
• kebaruan: apakah informasi terbaru harus mendapat bobot lebih;
• pentingnya: apakah catatan memengaruhi keputusan atau batasan utama;
• otoritas: apakah berasal dari sistem tepercaya, pengguna, atau inferensi model;
• ruang lingkup: apakah agen dan pengguna saat ini diizinkan mengaksesnya;
• keanekaragaman: apakah memori terpilih menambah informasi berbeda alih-alih mengulang satu poin.

Arsitektur Memori Berpengaruh

Penelitian Generative Agents memperkenalkan arsitektur di mana agen menyimpan observasi, mengambil memori berdasarkan relevansi, kebaruan, dan pentingnya, serta membentuk refleksi tingkat tinggi untuk memandu perencanaan. Penelitian ini menunjukkan bagaimana memori dapat menciptakan kontinuitas dalam perilaku simulasi.

MemGPT menangani konteks terbatas melalui analogi sistem operasi, menggunakan tingkatan memori dan perpindahan eksplisit antara konteks aktif kecil dan penyimpanan eksternal yang lebih besar. Pelajaran yang lebih luas adalah bahwa konteks harus dikelola sebagai sumber daya yang langka.

Ide-ide ini memengaruhi agen modern, tetapi memori produksi sering menggunakan komponen yang lebih sederhana: status tugas terstruktur, log peristiwa, penyimpanan vektor, dan preferensi pengguna yang eksplisit. Kompleksitas harus mengikuti kebutuhan yang terbukti.

Memori vs. Generasi Berbasis Pengambilan

Generasi berbasis pengambilan (RAG) membawa informasi eksternal ke dalam konteks model. Memori agen dapat menggunakan teknik pengambilan yang sama, tetapi sumber dan siklus hidupnya berbeda.

Sistem RAG dapat mengambil dari basis pengetahuan terkurasi yang ada secara independen dari agen. Sistem memori sering mencakup catatan yang dibuat oleh interaksi agen sendiri dan harus memutuskan apa yang harus ditulis serta apa yang harus dibaca. Batasnya dapat kabur, tetapi memori memperkenalkan personalisasi, retensi, dan risiko data yang dihasilkan sendiri yang tidak dimiliki oleh pengambilan dokumen biasa.

Kegagalan Memori Umum

Konflik tidak dapat dihindari. Seorang pengguna dapat mengubah preferensi, dua sistem dapat tidak setuju tentang sebuah akun, atau rangkuman dapat mengabaikan pengecualian penting. Memori yang dapat diandalkan menyimpan cap waktu dan sumber, menentukan sistem mana yang berwenang, dan menampilkan kontradiksi yang belum terselesaikan alih-alih secara diam-diam memilih catatan yang muncul pertama.

• Memori usang: fakta lama menggantikan nilai sistem catatan yang lebih baru.
• Memori palsu: inferensi yang dihasilkan model disimpan seolah-olah telah dikonfirmasi.
• Gangguan pengambilan: catatan yang serupa namun tidak relevan mengalihkan perhatian model.
• Over-personalisasi: sistem menerapkan preferensi di luar konteks di mana preferensi tersebut diberikan.
• Kebocoran lintas-pengguna: catatan dari satu orang atau penyewa muncul dalam konteks orang lain.
• Pencemaran: konten berbahaya disimpan sehingga dapat memanipulasi perilaku agen di kemudian hari.
• Penyimpanan tak terbatas: data sensitif tetap ada tanpa tujuan yang jelas atau jalur penghapusan.

Mendesain Memori dengan Tanggung Jawab

Mulailah dengan kategori yang eksplisit. Pisahkan fakta yang berwenang, preferensi yang diberikan pengguna, rangkuman model, dan log interaksi mentah. Simpan asal-usul dan cap waktu. Berikan fakta berdampak tinggi aturan kedaluwarsa atau minta konfirmasi ketika bukti bertentangan.

Pengguna harus dapat melihat, memperbaiki, dan menghapus memori pribadi yang tahan lama bila diperlukan. Kontrol akses harus diterapkan baik saat penyimpanan maupun pengambilan. Sebuah catatan yang ada dalam basis data tidak secara otomatis memenuhi syarat untuk setiap agen, tugas, atau pengguna.

Evaluasi memori sebagai sebuah sistem. Uji apakah agen mengambil catatan yang berguna, mengabaikan yang tidak relevan, menghormati fakta yang diperbarui, tahan terhadap upaya pencemaran, dan berperilaku benar ketika tidak ada memori yang tersedia. Ukur perbaikan dibandingkan dengan penambahan latensi, biaya, dan eksposur privasi.

Apakah Memori Berarti Agen Belajar?

Biasanya, tidak ada bobot model yang berubah. Sebagian besar memori agen adalah informasi eksternal yang diambil ke dalam konteks model saat runtime. Hal itu dapat mengubah perilaku secara dramatis, tetapi berbeda dari pelatihan atau penyetelan ulang model yang mendasarinya. Menjaga perbedaan ini tetap jelas membantu tim memahami kebalikan: sebuah catatan eksternal dapat diperbaiki atau dihapus tanpa melatih ulang model.

Tidak selalu. Sebagian besar memori agen mengubah informasi yang diberikan kepada model tetap; tidak memperbarui parameter model. Sistem dapat berperilaku berbeda karena konteksnya berubah, yang dapat menyerupai pembelajaran tanpa memodifikasi jaringan saraf yang mendasarinya.

Pemisahan itu berguna. Memori eksternal dapat diperiksa, diperbaiki, diatur, dan dihapus lebih mudah dibandingkan pengetahuan yang tertanam melalui pelatihan.

Hal yang Perlu Diingat tentang Memori Agen AI

Memori agen AI adalah arsitektur pengambilan dan tata kelola di sekitar model. Memori kerja mempertahankan tugas saat ini; memori episodik mencatat pengalaman; memori semantik menyimpan fakta; dan memori prosedural mengkode cara kerja yang dapat digunakan kembali.

Sistem memori terbaik bersifat selektif, dapat dipertanggungjawabkan, sadar izin, dan mudah diperbaiki. Mengingat lebih banyak bukanlah tujuan. Membantu agen membawa bukti yang tepat ke keputusan yang tepat—tanpa melanggar kepercayaan—adalah tujuan.