الذاكرة النشطة مقابل الذاكرة المستمرة في الذكاء الاصطناعي: كيف يتذكر الذكاء الاصطناعي المعلومات ويسترجعها وينساها

الذاكرة النشطة هي المعلومات المتاحة لنظام الذكاء الاصطناعي لأداء المهمة التي يعمل عليها الآن. أما الذاكرة المستمرة، فهي المعلومات التي يحتفظ بها التطبيق المحيط بالنظام لاستخدامها مجددًا في وقت لاحق. وتحدد العلاقة بينهما ما إذا كان بإمكان المساعد مواصلة مشروع، أو تطبيق تفضيل، أو تصحيح افتراض قديم، أو التوقف عن إظهار شيء كان ينبغي له نسيانه.

لنفترض أن مساعدًا يعينك على إعداد تقرير بحثي. ففي أثناء محادثة واحدة، يمكنه الرجوع إلى المخطط، وآخر تعديلاتك، والمصادر التي زودته بها للتو. أما إذا بدأت محادثة منفصلة بعد أسبوع، فاستمرار العمل يعتمد على آلية مختلفة: هل حفظ التطبيق المعلومات ذات الصلة، وهل يستطيع العثور عليها، وهل يزوّد النموذج بها مجددًا؟

لذلك، قد يبدو أن الذكاء الاصطناعي يتذكر تفصيلًا واحدًا وينسى آخر من المحادثة نفسها. فالتذكر سلسلة من العمليات، وقد يقع الخلل عند التقاط المعلومات أو تخزينها أو البحث عنها أو اختيارها أو تفسيرها أو تحديثها.

يتناول هذا الدليل هذه السلسلة بالتفصيل. وللاطلاع على تصنيف أوسع للذاكرة العرضية والدلالية والإجرائية، راجع مقدمتنا عن أنواع ذاكرة وكلاء الذكاء الاصطناعي. وينصب التركيز هنا على الحد الفاصل بين ما هو نشط الآن وما يمكن أن يستمر بعد انتهاء المهمة الحالية.

ما المقصود فعلًا بالذاكرة النشطة والذاكرة المستمرة؟

تصف هذه المصطلحات فروقًا معمارية مفيدة، لكنها لا تشكل ثنائية موحدة عالميًا. فتستخدم واجهات المنتجات والأوراق البحثية مصطلحات «ذاكرة العمل» و«الذاكرة قصيرة الأمد» و«السياق» و«الحالة» و«الذاكرة طويلة الأمد» بمعانٍ متداخلة. لذلك، يتطلب الشرح الدقيق تعريف هذه المصطلحات.

نقصد في هذا المقال بـالسياق النشط المعلومات التي تُقدَّم إلى النموذج كي يصوغ رده الحالي: التعليمات والرسائل ومخرجات الأدوات المختارة والمواد المسترجعة وغيرها من المدخلات التي يستطيع النموذج معالجتها. أما حالة المهمة النشطة فنطاقها أوسع؛ إذ قد تشمل خطة أو قائمة تحقق أو متغيرات يحتفظ بها التطبيق لكنه لم يُدرجها بعد في سياق النموذج. ونستخدم «الذاكرة النشطة» بوصفها تسمية عامة وعملية لمجموعة العمل الحالية هذه، مع التمييز بين المفهومين كلما اقتضى الأمر.

تعني الذاكرة المستمرة المعلومات المحتفظ بها التي تبقى بعد انتهاء الرد أو الجلسة، وتظل متاحة للاستخدام لاحقًا. وقد تكون تفضيلًا محفوظًا، أو ملاحظة عن مشروع، أو سجلًا لحدث، أو حقلًا منظمًا في قاعدة بيانات، أو نقطة حفظ تتيح استئناف مهمة غير مكتملة. ويصف الاستمرار الاحتفاظ بالمعلومات، لكنه لا يضمن مشاركتها عبر كل المحادثات.

لذلك، ثمة سؤالان منفصلان: هل ما تزال المعلومات موجودة؟ وهل سيتلقاها النموذج عندما يحتاج إليها؟ قد يجيب حفظ سجل المحادثة عن السؤال الأول من دون أن يحل المشكلة الثانية.

الاستثناء المهم: يمكن حفظ الحالة قصيرة الأمد

لا تعني «قصيرة الأمد» دائمًا «مخزنة في ذاكرة الوصول العشوائي المتطايرة فقط». إذ يمكن حفظ حالة العمل في محادثة في قاعدة بيانات، ثم استئنافها بعد انقطاع. فعلى سبيل المثال، تميّز وثائق الذاكرة في LangChain بين الحالة المرتبطة بسلسلة محادثة، التي تُحفظ عبر نقاط الحفظ، والذاكرة الأطول أمدًا، التي تُنظَّم في مساحات أسماء منفصلة.

تخيل وكيل دعم يتوقف مؤقتًا ريثما يرفع أحد العملاء إيصالًا. تنتمي نقطة الحفظ الخاصة به إلى حالة الدعم هذه. وتكون نقطة الحفظ دائمة، لكن ينبغي ألا تتحول تلقائيًا إلى معلومة عامة عن العميل أو أن تظهر في طلبات لا صلة لها بها.

من الطرق المفيدة لتقييم أي ميزة للذاكرة النظر في ثلاثة أبعاد: مدة الاحتفاظ والنطاق ومدى إتاحتها لاستدعاء النموذج الحالي. فتسمية مثل «طويلة الأمد» لا تجيب عن أي من هذه الأسئلة إجابة كاملة.

الذاكرة النشطة مقابل الذاكرة المستمرة في لمحة

قد تظهر الحقيقة نفسها في كلا العمودين. فتفضيل مشروع محفوظ يُعدّ مستمرًا، أما النسخة المُدرجة في موجّه اليوم فهي نشطة. ولا تؤدي إزالة هذه النسخة من الموجّه بالضرورة إلى حذف الأصل المحفوظ.

ما الذي يحدث أثناء استجابة واحدة من الذكاء الاصطناعي؟

في تطبيق نموذجي لنموذج لغوي، تُعِدّ البرامج المحيطة به مُدخلًا، وينشئ النموذج مُخرجًا، ثم تقرر البرامج ما سيحدث بعد ذلك. وقد يتضمن المُدخل المحادثة الظاهرة، لكنه قد يشمل أيضًا تعليمات النظام، وأوصاف الأدوات، والملاحظات المسترجعة، ومعلومات لا يراها المستخدم في سجل المحادثة.

يمثل هذا السياق المُجمّع الأدلة المتاحة للنموذج في اللحظة الراهنة. وإذا لم تعد رسالة سابقة مُدرجة فيه، فلا يمكن للنموذج استعادة محتواها الدقيق على نحو موثوق لمجرد أن التطبيق عرضها في وقت سابق. وقد يستنتج إجابة معقولة من القرائن المحيطة، لكن الاستنتاج يختلف عن التذكّر.

توسّع الأداة نطاق ما يمكن للنظام الوصول إليه. فقد يطلب النموذج ملفًا للمشروع، ويتلقى محتواه، ثم يستخدمه في استجابة لاحقة. كان الملف متاحًا للتطبيق قبل أن يصبح دليلًا نشطًا. ويوضح هذا الفرق كيف يمكن للوكيل الوصول إلى أرشيف كبير من دون قراءة الأرشيف كله في كل مرة.

تحافظ تطبيقات المحوّلات داخليًا أيضًا على حالة حسابية، بما في ذلك ذاكرات التخزين المؤقت المستخدمة لتجنب تكرار العمل. وتفيد هذه الآليات في الاستدلال بكفاءة، لكن ينبغي عدم الخلط بينها وبين سجل قابل للتحرير ومراعٍ للأذونات لتفضيلات المستخدم أو سجل مشروعاته. ولا تثبت الاستجابة الأسرع أن ذاكرة شخصية قد أُنشئت.

لماذا لا تحل نافذة السياق الأكبر مشكلة الذاكرة؟

تتيح نافذة السياق الأكبر للتطبيق تقديم مواد أكثر دفعة واحدة. وقد يكون ذلك مفيدًا عندما تعتمد الإجابة على الروابط بين أجزاء مستند طويل أو بين عدة مصادر ذات صلة. لكنها لا تحدد أي المواد ينبغي الاحتفاظ بها، ولا أي نسخة هي المعتمدة، ولا ما إذا كان يحق للمستخدم الوصول إليها.

كما أن إدراج المعلومات في نافذة السياق لا يضمن أن يستخدمها النموذج استخدامًا صحيحًا. وأظهرت دراسة الضياع في المنتصف أن أداء النماذج التي اختُبرت قد يختلف تبعًا لموضع ظهور الأدلة ذات الصلة في المُدخلات الطويلة. وتحذّر هذه النتيجة من الاكتفاء بتقييم السعة المعلنة بوصفها ضمانًا للتذكّر، وتؤكد ضرورة تقييم مدى فعالية استخدام السياق؛ لكنها لا تمثل تنبؤًا ثابتًا بأداء كل نموذج أحدث.

لنفترض أن أرشيف مشروع يضم أربعين مناقشة لموعد الإطلاق. تذكر تسع وثلاثون منها الموعد الأصلي، بينما يغيّره آخر تعديل معتمد. إن تقديم المناقشات الأربعين كلها يثير مشكلة تتعلق بالقراءة وتحديد المرجعية المعتمدة. ويمكن لسجل محدّث بعناية عن الحالة الراهنة، مرتبط بالتعديل المعتمد، أن يسهّل تحديد الإجابة ذات الصلة.

لذلك يمكن للسياق الطويل والاسترجاع الانتقائي أن يكمّل أحدهما الآخر. فالعثور على مجموعة مفيدة من الأدلة هو دور الاسترجاع، بينما تتيح نافذة سياق واسعة بما يكفي للنموذج دراسة تلك الأدلة مجتمعة. ويتوقف اختيار التصميم على المهمة، وحجم المواد المصدرية، والعواقب المترتبة على إغفال أحد القيود أو التحفظات.

كيف تتحول المعلومات إلى ذاكرة دائمة؟

تبدأ الذاكرة الدائمة بقرار الحفظ. إذ يمكن للتطبيق حفظ تعليمات صريحة من المستخدم، أو استنتاج حقيقة محتملة من محادثة، أو الاحتفاظ بحدث، أو إنشاء ملخص. وينتج عن كل مسار نوع مختلف من الأدلة.

«استخدم الوحدات المترية في مشروع سيدار» هو تفضيل صريح للمشروع. أما «يبدو أن المستخدم يفضّل الوحدات المترية» فهو استنتاج. و«استخدمت التقارير الثلاثة الأخيرة لمشروع سيدار الوحدات المترية» فهو ملاحظة. ويحافظ السجل المفيد على هذه الفروق بدلًا من دمجها في ادعاء مطلق يشمل كل مهمة مستقبلية.

ما الذي يتضمنه السجل المفيد؟

في مساعد افتراضي لإدارة المشاريع، قد يتضمن السجل العبارة، ومعرّف المشروع، والمستخدم أو المؤسسة التي تخصها المعلومة، والتفاعل الذي وردت فيه، وطابعًا زمنيًا، وحالة الصلاحية، وأي استثناء. تتيح هذه الحقول معرفة مصدر المعلومة وما إذا كانت لا تزال سارية.

{
  "scope": "project:cedar",
  "statement": "Use metric units in project reports",
  "source_type": "explicit_user_instruction",
  "source_ref": "conversation_17/message_8",
  "status": "current",
  "exception": "Client edition may require dual units"
}

هذا مخطط توضيحي، وليس معيارًا عالميًا. والغرض منه بيان سبب وجوب احتواء الذاكرة على ما هو أكثر من مجرد جملة. تساعد الإشارة إلى المصدر على التحقق، ويحول تحديد النطاق دون التعميم المفرط، كما يتيح حقل الحالة تصحيح المعلومات.

الكتابة الفورية مقابل المعالجة في الخلفية

قد تتيح الكتابة الفورية تصحيحًا صريحًا في الطلب التالي مباشرة. أما المعالجة في الخلفية، فيمكنها مراجعة تفاعل مكتمل، ودمج السجلات المكررة، أو إعداد ملخص أكثر تأنّيًا. وتشرح وثائق LangChain النهجين والمفاضلات بينهما، بما في ذلك العمل الإضافي الذي يُلقى على عاتق مسار الاستجابة الفورية.

قد يحفظ تصميم عملي تفضيلًا مؤكّدًا فورًا، ثم يعالج جلسة بحث طويلة في وقت لاحق. ومع ذلك، يجب أن يتعامل مع الفترة الفاصلة بين الخطوتين. فإذا أخبر النظام المستخدم بأنه حفظ تفضيلًا قبل نجاح عملية الكتابة، فقد تكشف المحادثة التالية عن إخفاق في استمرارية السياق.

تحتاج كتابة الذاكرة أيضًا إلى سياسة للتعامل مع الإخفاق. فإذا تعذر الوصول إلى التخزين مؤقتًا، يمكن للتطبيق الإبلاغ عن عدم اكتمال الحفظ أو إبقاء العملية معلّقة مع توضيح حالتها. أما التعامل مع محاولة الكتابة على أنها ذاكرة حُفظت بنجاح، فيؤدي إلى تجربة مضللة للمستخدم.

كيف تعود الذاكرة الدائمة إلى السياق النشط

الاسترجاع سلسلة من القرارات المتعلقة بالأهلية والصلة والأدلة. يحتاج النظام أولًا إلى تحديد المستخدم أو المستأجر أو المشروع أو المهمة التي يجوز له الرجوع إلى سجلاتها. ثم يعثر على السجلات المرشحة ويختار ما يدرجه في سياق الاستجابة.

ينبغي أن تتناسب طريقة الاسترجاع مع السؤال. قد تكون أفضل إجابة عن «ما الموعد النهائي المعتمد لمشروع Cedar؟» هي البحث المباشر في حقل المشروع المحدد. أما سؤال «هل سبق أن واجهنا خطأ النشر هذا؟» فقد يستفيد من البحث بالكلمات المفتاحية وقياس التشابه الدلالي بين الوقائع السابقة. وقاعدة البيانات المتجهية خيار ضمن هذه العملية، وليست شرطًا لكل أنواع الذاكرة.

يكون البحث الدلالي مفيدًا بوجه خاص عند اختلاف الصياغة. فقد يتطابق استعلام عن «إبقاء التقارير موجزة» مع تفضيل محفوظ ينص على «ملخصات تنفيذية قصيرة». لكن قد تتعلق عبارة ذات صلة بعميل آخر أو بإصدار متروك من المشروع. يحدد التشابه السجلات المرشحة، لكنه لا يثبت صحتها أو وجود إذن باستخدامها.

يجب أن يتيح الاسترجاع نتيجة «لم يُعثر على شيء»

تأمل السؤال: «ما حد الإنفاق الذي وافقت عليه الشهر الماضي؟» إذا تعذر العثور على مبلغ معتمد، توضح الإجابة المفيدة أن الدليل المطلوب غير متاح، وتطلب استيضاحًا. أما تقديم رقم يبدو معقولًا، فيحوّل غياب المعلومة في الذاكرة إلى تفويض مختلق.

لذلك، ينبغي لواجهة الذاكرة أن تميّز بين تطابق مؤكد، وتطابق غير مؤكد، وتعارض، وعدم وجود سجل يدعم المعلومة. وقد تفضي هذه النتائج إلى سلوكيات مختلفة: الإجابة مباشرة، أو التحفّظ في الإجابة، أو طلب التوضيح، أو الامتناع عن التصرف استنادًا إلى افتراض لا تدعمه الأدلة.

حتى بعد استرجاع المعلومات، يظل تفسيرها مهمًا. فالسجل الذي يقول «الحد الأقصى للميزانية المقترح: 5,000 دولار، بانتظار الموافقة» يجب ألا يتحول إلى «الميزانية المعتمدة: 5,000 دولار». والاحتفاظ بالقيود في المعلومات المخزنة والسياق المقدَّم لا يقل أهمية عن العثور على المستند الصحيح.

مثال تطبيقي: تذكّر مشروع بمرور الوقت

تخيّل مساعدًا يعين فريقًا على إعداد التقرير البحثي Cedar. والمثال التالي افتراضي، لكنه يكشف عددًا من الخيارات الشائعة في تصميم الذاكرة.

الجلسة الأولى: تأسيس المشروع

يطلب المستخدم تقريرًا، ويحدد الوحدات المترية، ويقدّم ثلاثة مصادر، ويقول إن موعد تسليم المسودة يوم الجمعة. ويشمل السياق النشط هذه التعليمات ومقتطفات المصادر. أما حالة المهمة النشطة، فتسجل الأقسام التي أُنجزت والادعاءات التي لا تزال بحاجة إلى التحقق.

للسجلات المحتمل حفظها في الذاكرة المستمرة أغراض مختلفة. فتفضيل الوحدات المترية يخص المشروع، والموعد النهائي للمسودة يخص المرحلة الحالية. وينبغي حفظ المصادر المقدَّمة في أرشيف أدلة المشروع. أما الادعاءات التي لم يُتحقق منها، فمكانها قائمة بالأبحاث المعلّقة، مع الإبقاء على ما يحيط بها من عدم يقين.

الجلسة الثانية: استئناف العمل بالاستناد إلى الأدلة المناسبة

بعد ثلاثة أيام، يطلب المستخدم إكمال قسم المنهجية. ويحتاج المساعد إلى أحدث مخطط تفصيلي، والمصادر ذات الصلة، وحالة المهمة الحالية، وقاعدة التنسيق المنطبقة. لكنه لا يحتاج بالضرورة إلى كل جملة مستبعدة من جلسة العصف الذهني السابقة.

إذا أفادت نقطة التحقق بأن مراجعة الأدبيات مكتملة، فينبغي للمساعد مع ذلك فتح الملف المحفوظ قبل إجراء تعديلات حولها. فعبارة «مكتمل» ادعاء بشأن التقدم، أما المستند نفسه فهو الدليل على ما أُنجز. وقد تكون الإشارات الدائمة إلى الملفات أكثر فائدة من ملخص يحاول استنساخ محتوياتها كاملة.

الجلسة الثالثة: تطبيق استثناء من دون إعادة كتابة كل شيء

يطلب المستخدم نسخة مخصصة للعملاء تتضمن الوحدات المترية والإمبراطورية معًا. وينبغي أن تستخدم المهمة الحالية النظامين معًا. أما تغيير القاعدة العامة للمشروع، فيعتمد على صياغة طلب المستخدم ونطاقه؛ فعبارة «في هذه النسخة» أضيق نطاقًا من «استخدم النظامين معًا من الآن فصاعدًا».

يسجل المساعد الدقيق استثناءً خاصًا بهذه النسخة. أما المساعد الذي يعمم أكثر من اللازم، فيعيد صياغة التفضيل العام، ما يؤدي إلى أخطاء في التقارير اللاحقة. ويُعد ذلك إخفاقًا في الذاكرة حتى لو نجحت جميع عمليات الكتابة في قاعدة البيانات وطلبات الاسترجاع.

الجلسة الرابعة: إنهاء العمل والتخلص من الحالة المؤقتة

بعد التسليم، ينبغي وضع علامة «مكتمل» على المرحلة. وينبغي أن يوجّه طلب مثل «تابع التقرير» المساعد إلى النسخة التي سُلّمت، وأن يدعوه إلى السؤال عن التعديل المطلوب، بدلًا من استئناف قائمة تحقق متقادمة. ويمكن أن تنتهي صلاحية ملاحظات العمل المؤقتة وفقًا لسياسة المشروع، بينما يظل التقرير النهائي والقرارات المهمة متاحين.

تتضح هنا فائدة الذاكرة المستمرة: تقليل الحاجة إلى تكرار الشرح وتحسين استمرارية العمل. كما تتضح تكلفتها: إذ يتعين على التطبيق الحفاظ على الروابط بين التفضيلات والاستثناءات والملفات وحالة المهمة المتغيرة.

التلخيص والضغط ومخاطر فقدان الاستثناء

قد تتراكم في المحادثات الطويلة مواد تفوق ما يفيد في إعداد الرد التالي. ويستبدل ضغط السياق جزءًا من هذا السجل بتمثيل أصغر حجمًا. وقد يحافظ الملخص على الهدف والقرارات والأسئلة التي لم تُحسم والإشارات إلى العمل الأصلي.

تتناول إرشادات Anthropic لهندسة السياق ضغط السياق والملاحظات المخزنة خارج نافذة السياق بوصفهما نهجين للحفاظ على استمرارية العمل على مدى فترات طويلة. وتغيّر كلتا الطريقتين المواد المتاحة للردود المستقبلية، لذا فإن جودتهما مهمة.

الضغط انتقائي. فملخص مثل «استخدم الوحدات المترية» أقصر من «استخدم الوحدات المترية، باستثناء نسخة العملاء التي تتطلب النظامين معًا». لكنه غير صحيح أيضًا في إحدى الحالات المهمة للمشروع. وقد يستمر الاستثناء المفقود خفيةً في الملخصات اللاحقة، ويصعب تتبعه.

وبالنسبة إلى مساعدنا في مشروع Cedar، ينبغي أن يحافظ ملخص تسليم أقوى على القاعدة العامة واستثنائها والأقسام المكتملة ومهام التحقق المتبقية والإشارات إلى أحدث الملفات. أما التفاصيل الدقيقة، مثل المبالغ المعتمدة أو المعرّفات، فينبغي أن تبقى في سجلات منظّمة أو مستندات مصدرية عندما يكون التقريب ضارًا.

ينبغي للملخصات أيضًا أن تحافظ على عدم اليقين. فعبارة «درسنا استخدام Survey B» يجب ألا تتحول إلى «اختير Survey B». وإذا جعل السجل المضغوط القرارات المؤقتة تبدو نهائية، يكون النظام قد أنشأ ذكرى زائفة في محاولته توفير مساحة في السياق.

كيف ينبغي لذاكرة الذكاء الاصطناعي التعامل مع التصحيحات والتعارضات

تصبح الذاكرة المستديمة أقل فائدة إذا تعذّر تغييرها. فالمشروعات تتطور، والتفضيلات تتبدل، وقد يتبين أن معلومات سابقة كانت خاطئة. وقد تؤدي إضافة تصحيح كسجل آخر غير مقيّد إلى أن يختار نظام الاسترجاع بين عبارتين متناقضتين.

يحدّد التحديث الأكثر فائدة ما الذي تحل الأدلة الجديدة محله. فإذا غيّر صاحب المشروع موعد الإطلاق من 15 نوفمبر إلى 29 نوفمبر، أمكن وضع علامة على السجل القديم تفيد بأنه استُبدل، وربطه بالقرار الجديد. وتستند الأسئلة عن الموعد النهائي الحالي إلى النسخة الجديدة، بينما يمكن للأسئلة عن الخطة الأصلية الرجوع إلى النسخة التاريخية.

لا تكفي حداثة المعلومة وحدها لحسم كل تعارض. فقد تكون ملاحظة حديثة في مسودة أقل حجية من سياسة أقدم معتمدة. وقد يُصرح للمستخدم بتغيير تفضيل شخصي من دون أن يُصرح له بتغيير قاعدة تسري على المؤسسة بأكملها. وينبغي أن تراعي سياسة التحديث نوع الحقيقة ومدى حجية مصدرها.

ينبغي أن تظل بعض التناقضات بلا حسم إلى أن يوضحها شخص ما. فإذا قدّم صاحبا مشروع تاريخين متعارضين من دون نص صريح على استبدال أحدهما بالآخر، أمكن للمساعد عرض المصدرين والسؤال عن التاريخ المعتمد. أما اختيار السجل الأكثر تشابهًا أو الأحدث بصمت، فيخفي قرارًا قد لا يكون من حق النظام اتخاذه.

ماذا يعني أن ينسى الذكاء الاصطناعي؟

النسيان ليس مفتاحًا واحدًا. فقد يتوقف المنتج عن إدراج حقيقة في الموجّهات، أو يستبعدها من البحث المعتاد، أو يضع عليها علامة تفيد بأنها قديمة، أو يحذف سجلها من الذاكرة، أو يزيل نسخًا أخرى محتفَظًا بها. وتختلف آثار هذه العمليات في السلوك مستقبلًا وفي البيانات المحتفَظ بها.

الخروج من السياق النشط

قد تختفي حقيقة من مدخل النموذج التالي لأن الرسائل الأقدم حُذفت أو لُخّصت. وهذا يقلل ما يمكن للنموذج استخدامه فورًا. لكن قد يظل نص المحادثة الأصلي أو سجل الذاكرة موجودًا، وقد يعود عبر عملية استرجاع لاحقة.

انتهاء صلاحية الاسترجاع أو حجبه

قد يظل الموعد النهائي الذي انتهت صلاحيته محفوظًا في الأرشيف، مع استبعاده من الاستعلامات المتعلقة بالعمل الجاري. ويكون الحجب مفيدًا عندما يكون للاحتفاظ بالسجلات التاريخية غرض، لكن لا ينبغي وصفه بأنه حذف كامل. فقد يظل السجل متاحًا عبر بحث تاريخي أو سير عمل إداري.

حذف الذاكرة المخزنة

ينبغي أن يشمل حذف سجل دائم أيضًا تمثيلات الاسترجاع المشتقة منه. فإذا أُزيلت جملة من ملف شخصي لكنها بقيت في ملخص قابل للبحث، فقد يعيد المساعد استنتاج التفضيل نفسه لاحقًا. وقد تستلزم السجلات المصدرية والتضمينات والملخصات وذاكرات التخزين المؤقت والنسخ المتماثلة أعمال إزالة منفصلة، بحسب البنية.

قد تخضع النسخ الاحتياطية والسجلات لجداول احتفاظ خاصة بها. وينبغي للمنتج توضيح هذه الحدود بجلاء ومنع إعادة تنشيط المواد المحذوفة أثناء الاستعادة. فالوعد بـ«أننا لن نعود إلى استخدام هذه الذاكرة» يختلف عن الوعد بـ«إزالة جميع النسخ المحتفَظ بها».

تغيير أوزان النموذج

لا يؤدي حذف الذاكرة الخارجية، بحد ذاته، إلى تغيير معلمات النموذج. وإذا استُخدمت المعلومات في التدريب، فإن معالجتها داخل النموذج مسألة منفصلة تتعلق بعمليتي التدريب والنشر. وبالمثل، لا يضمن حذف ذاكرة شخصية ألا ينتج النموذج أبدًا حقيقة مشابهة استنادًا إلى المعرفة العامة أو إلى قرائن واردة في موجّه جديد.

لذلك، ينبغي لاختبار النسيان المجدي أن يتحقق من أمرين: هل ما زال النظام يخزّن المعلومات، وهل يمكن لمسارات الاسترجاع المعتادة أن تعيد إدخالها؟ إن ردًا واحدًا في محادثة يقول «لقد نسيت» لا يثبت أيًا من الأمرين.

الذاكرة والتوليد المعزّز بالاسترجاع والتدريب والتخزين المؤقت: أين تقع الحدود

يوفّر التوليد المعزّز بالاسترجاع، أو RAG، أدلة خارجية للنموذج أثناء التوليد. وقد جمع البحث الأصلي في RAG بين معاملات النموذج وفهرس للمستندات يمكن استرجاعها. ويمكن لنظام الذاكرة الشخصية استخدام الاسترجاع أيضًا، لكنه يحتاج كذلك إلى سياسات لإنشاء السجلات المستمدة من التفاعلات وتحديثها وإيقاف العمل بها.

قد يُسترجع دليل الشركة من دون أن يكون ذكرى تخص المستخدم. وقد تُسترجع ملاحظة عن تفاعل سابق من ملف بسيط من دون فهرس متجهي. الاسترجاع آلية؛ أما الغرض من السجلات الأساسية ودورة حياتها فيحددان نوع النظام الجاري بناؤه.

يعدّل التدريب والضبط الدقيق معاملات النموذج. أما الذاكرة الخارجية المعتادة فتغيّر الأدلة المقدمة إلى النموذج. ويمكن لمساعد يتبع تفضيلًا حُفظ حديثًا أن يتصرف على نحو مختلف، مع بقاء أوزان نموذجه دون تغيير.

يعيد التخزين المؤقت للمطالبات والاستدلال استخدام عمليات حسابية سابقة حيثما كان ذلك مدعومًا. ويمكن لهذه الآليات تحسين الكفاءة، لكنها لا تحدد بمفردها ما إذا كان الادعاء المتذكَّر حديثًا أو مصرّحًا به أو ملائمًا للمهام المستقبلية. ويمكن لهذه الطبقات أن تعمل معًا، ويتطلب استكشاف الأعطال تحديد الطبقة المسؤولة عن السلوك الملحوظ.

يقدّم MemGPT مثالًا معماريًا مؤثرًا؛ إذ بحث في نقل المعلومات بين سياق محدود ومستويات ذاكرة خارجية بالاستعانة بتشبيه بنظام التشغيل. ويتمثل الدرس المفيد في ضرورة إدارة حركة المعلومات صراحةً، بدلًا من افتراض أن التخزين يوسّع تلقائيًا سياق النموذج المباشر بلا حدود.

لماذا قد تجعل الذاكرة المستمرة الأخطاء أكثر رسوخًا

قد يؤثر رد خاطئ في تفاعل واحد، أما الذكرى الخاطئة فقد تؤثر في تفاعلات كثيرة. فإذا استنتج مساعد أن مستخدمًا وافق على قرار، ثم حفظ هذا الاستنتاج بوصفه حقيقة واستشهد لاحقًا بالسجل المحفوظ، فقد يبدو خطؤه السابق وكأنه دليل مستقل.

ينبغي أن يظل المصدر الأصلي متميزًا عن تفسير النموذج في مساعد مشروعنا. ويمكن لملخص القرار أن يسهّل الوصول إليه، لكن يجب أن يستند أي إجراء ذي تبعات إلى القرار المعتمد نفسه. فتكرار استنتاج واحد غير مدعوم في عدة ملاحظات مولّدة لا يحوّله إلى عدة تأكيدات مستقلة.

تتيح الذاكرة المستمرة أيضًا مسارًا لتسرّب التعليمات. فقد يتضمن مستند غير موثوق جملة تطلب من المساعد تغيير سلوكه مستقبلًا. ومن شأن تخزين تلك الجملة باعتبارها قاعدة تشغيلية أن ينقل محتوى خارجيًا عبر حدود الصلاحيات. وينبغي للتطبيق أن يتعامل معها وفقًا لمصدرها، لا أن يرفعها إلى مرتبة التعليمات الموثوقة لمجرد ظهورها في مخزن للذاكرة.

تضيف البيئات المشتركة حدًا فاصلًا آخر. فقد تكون معلومة ما ذات صلة بالسؤال، لكنها تخص عميلًا أو مشروعًا آخر. وينبغي أن تقيّد ضوابط الوصول عملية الاسترجاع قبل وصول المعلومات إلى النموذج. أما مطالبة النموذج بتجاهل السجلات غير المصرح بها بعد تقديمها إليه بالفعل، فهي تصميم أضعف.

كيفية تقييم ما إذا كانت الذاكرة تعمل فعلًا

غالبًا ما يطلب العرض التوضيحي المقنع من المساعد تكرار تفضيل واحد محفوظ. أما التقييم الجاد فيتابع المعلومات المتغيرة عبر عدة جلسات ويتحقق مما إذا كانت الذاكرة تحسّن إنجاز المهمة.

يقيّم LongMemEval استخلاص المعلومات، والاستدلال عبر الجلسات، والاستدلال الزمني، وتحديث المعرفة، والامتناع عن الإجابة. وتوضح هذه الفئات أن جودة الذاكرة طويلة الأمد تتجاوز استرجاع جملة واحدة مطابقة. وينبغي تفسير نتائج المعايير المنشورة في ضوء الأنظمة والإعدادات التي اختُبرت، لا افتراض أنها تصف كل منتج متاح حاليًا.

في سير عمل Cedar، يمكن أن يتضمن التقييم إدخال تفضيل، واستئناف المشروع، وإضافة استثناء، وتعديل موعد نهائي، وحذف ملاحظة، ثم طرح أسئلة تكشف ما إذا كان الاسترجاع قديمًا أو غير مدعوم. وينبغي أيضًا اختبار النموذج نفسه من دون ميزة الذاكرة، للتحقق مما إذا كان النظام المضاف يحسّن النتائج.

• دقة الحفظ: هل حفظ النظام العبارة المقصودة بنطاقها وتحفظاتها؟
• جدوى الاسترجاع: هل عثر النظام على الأدلة اللازمة للمهمة من دون إغراق السياق بتاريخ غير ذي صلة؟
• التعامل مع التحديثات: هل حلّ التصحيح محل الحقيقة الحالية مع الحفاظ على الفروق التاريخية المفيدة؟
• الامتناع عن الإجابة: هل أقرّ المساعد بعدم وجود سجل يدعم الإجابة؟
• العزل: هل ظلت السجلات محصورة بالمستخدم والمستأجر والمشروع المناسبين؟
• النسيان: هل حال الحذف أو انتهاء الصلاحية دون استرجاع المعلومات المقصودة مستقبلًا، بما في ذلك عبر الملخصات المشتقة؟
• التكلفة التشغيلية: هل بررت التحسينات ما أُضيف من زمن استجابة واستدعاءات للنموذج وتخزين وصيانة؟

ينبغي تتبّع الإخفاقات إلى المرحلة التي حدثت فيها. فقد يكون غياب الإجابة ناتجًا عن فشل في الكتابة، أو عن نطاق بحث غير صحيح، أو قرار سيئ بشأن ترتيب النتائج، أو إغفال قيد، أو سوء قراءة النموذج لأدلة جيدة. ولن تؤدي زيادة حجم السياق إلى معالجة كل هذه الإخفاقات.

اختيار تصميم الذاكرة المناسب

قد لا يحتاج تلخيص مستند لمرة واحدة إلا إلى المستند الحالي والتعليمات. ويستفيد التحليل الذي انقطع من نقطة تحقق للمهمة. وقد يحتاج مساعد مشروع متكرر إلى قرارات مؤرخة بإصدارات ومراجع للمواد الناتجة. أما المساعد الذي يعمل عبر جلسات كثيرة للمستخدم، فقد يحتاج إلى مخزن تفضيلات منفصل قابل للتحرير.

ابدأ بتحديد السؤال المستقبلي الذي يُفترض أن تجيب عنه الذاكرة. فالسؤال «ما الذي لم يكتمل بعد؟» يتطلب حالة المهمة. والسؤال «ما التنسيق الذي يشترطه هذا العميل؟» يتطلب تفضيلًا محدد النطاق. أما السؤال «لماذا رفضنا هذا النهج؟» فيتطلب سجلًا للقرار تدعمه الأدلة. وتستدعي الأسئلة المختلفة تمثيلات مختلفة.

فضّل عددًا قليلًا من السجلات الواضحة التي يمكن إسنادها إلى مصادرها على أرشيف عشوائي يُقدَّم على أنه تخصيص. وافصل الحالة الراهنة عن الأحداث التاريخية، وحافظ على الروابط إلى المواد المصدرية، واجعل التصحيح والحذف جزءًا من التصميم منذ البداية.

تمنح الذاكرة النشطة نظام الذكاء الاصطناعي حاضرًا متماسكًا. ويمكن للذاكرة المستمرة أن تمنحه استمرارية عبر الزمن. وتعتمد جودة هذه الاستمرارية على القرارات المتخذة بين النوعين: ما الذي يُحفظ، وما الذي يُسترجع، وأي إصدار يُعتمد، وما الذي يُسمح باختفائه.