مشكلة الذاكرة في الذكاء الاصطناعي: لماذا يغير السياق الطويل الكفاءة كل شيء، وما هو ما يلزم لتحقيقه

زميل في العمل الذي ينسى كل محادثة سابقة في لحظة انتهاء الجلسة لن يستمر طويلا في معظم الوظائف. ومع ذلك ، يعمل الكثير من الذكاء الاصطناعي في الأعمال بالطريقة نفسها. تنتهي الجلسة ويتلاشى السياق معها. قد لا يلاحظ المستخدم الذي يطرح أسئلة منفردة الفرق ، ولكن الشركة التي تعمل على عملية تستمر لفترة أطول من جلستين يصل إلى الحد في الوقت نفسه.

العمل الحقيقي يستمر من جلسة إلى أخرى ، وغالبًا ما تستند القرارات التي يتم اتخاذها يوم الخميس على قرارات اتخذت يوم الإثنين ، مع الحاجة إلى استمرار التفكير خلفها. نظام ذكاء اصطناعي يمحو نفسه عند انتهاء الجلسة يمكنه الأداء جيدًا داخل الجلسة ولا يساهم في مهمة تستمر لأكثر من أسبوع.

لقد غير الذكاء الاصطناعي في الشركات بشكل هادئ ما يطلبه من نموذج. لسنوات ، تم الحكم على النماذج بشكل كبير على مقدار المعرفة التي امتصوها. الآن ، تحتاج الشركات إلى أن يبقوا على المعلومات الصحيحة في مجال الرؤية أثناء سير العمل ، وهو ما يتطلب نوعًا مختلفًا من الهندسة الكفء. حتى الآن ، لم تتحقق القدرة على الحفاظ على هذا المستوى من المعرفة المستدامة بسبب كمية الذاكرة الكبيرة (وحدات معالجة الرسومات) والتحكم والحساب والتكلفة المطلوبة لتوسيع هذه القدرة. يصبح الحفاظ على تأخير مقبول ومستوى من الهلوسة النموذجية تحديًا مع الاستخدام المتزامن عند استخدام سياق طويل. هناك طلب متزايد على هذه القدرات على المعرفة ولا توجد ذاكرة وكفاءة كافية لسد هذه الاحتياجات. لذلك ، يطرح السؤال التالي: كيف تحقق ذكاء أكثر دقة في المقاييس باستخدام بنية تحتية وأثر أقل؟

مكتب العمل ودرج الملفات

يتم تضمين عنصرين تحت عنوان الذاكرة ، ويتصرفان بشكل مختلف بدرجة كافية بحيث يعتمد باقي هذا على فصل بينهما.

ابدأ بنافذة السياق ، والتي تمثل مقدار ما يمكن للنموذج استقباله وتحليله في عملية واحدة. يعمل مثل سطح المكتب. مكتب صغير يستقبل بضعة صفحات في المرة الواحدة ، لذلك يبقى كل شيء آخر في درج ويتحصل عليه ويتم إزالته أثناء العمل ، بينما يسمح المكتب الكبير بفتح الملف بأكمله أثناء العمل عليه. يتم مسح ما يحمل المكتب في نهاية كل يوم.

الذاكرة المستدامة هي درج الملفات بجانب المكتب. يختار النظام ما يحفظه ويعيده عندما يصبح ذا صلة ، لذلك يمكن أن يؤثر شيء حدث هذا الأسبوع على ما يفعله في الأسبوع التالي. تحتاج هذه المخزنات إلى قراراتها الخاصة حول ما يجب تخزينه وكيفية تنظيمه ومتى إعادته.

لقد تم توجيه معظم سباق الهندسة إلى المكتب. النافذة التي كانت تحتوي في السابق على بضعة آلاف من الرموز الآن تمتد إلى مئات الآلاف ، والنموذج الأكبر من OpenAI وAnthropic يصل إلى مليون رمز.

مكتب أكبر لا يحل مشكلة الذاكرة

هنا يصطدم التحريك الواضح – فقط قم بتوسيع المكتب – بالمشكلة.

أظهر باحثون في جامعة ستانفورد في عام 2024 أن دقة النموذج تنخفض بشكل حاد عندما تقع المعلومات التي يحتاجها النموذج في منتصف مدخلات طويلة. أطلقوا عليها اسم “迷失 في منتصف الطريق” ، وتم الحفاظ على هذا التأثير حتى بالنسبة للنماذج المصممة خصيصًا للسياق الطويل. يturned يظهر أن وضع المزيد من المعلومات أمام النموذج ليس مثل استخدام النموذج بشكل موثوق به.

الترشيح يجنى المزيد من السعة

لقد نمت هندسة السياق إلى مجال على خلفية هذا ، مع استطلاع عام 2025 يعتمد على أكثر من 1400 ورقة لتحديد أساليبها وتنصح شركة Gartner عملاءها في يوليو 2025 بالتركيز على السياق أكثر من الدفعات. انتقلت الحرفة من صياغة تعليمات أكثر حدة إلى تجميع مجموعة أكثر حدة من المدخلات للنموذج للعمل منها.

يرفع المكتب الأكبر الرهان على ما تختاره لوضعه عليه. إذا قمت بتحويل مخزن وثائق كامل إلى السطح ، فإن الصفحات القليلة التي تهم تضل مع الضوضاء والتناقضات والإصدارات المسبقة ، بينما يسمح الاختيار الأضيق لما يهم بالفعل بال任务 للنموذج نفسه بأداء أفضل بكثير. يعتمد الحكم على ما ينتمي إلى وضع النموذج وكيف يتم إطاره ومتى يظهر وما يبقى في الدرج.

داخل الجلسة وبعدها

السياق الطويل هو ما يسمح للوكيل الذكاء الاصطناعي بالعمل عبر وظيفة طويلة بدلاً من تبادل واحد. يبقى الوكيل الذي يعالج استعراض التأ乂مت لعدة أيام أو تسجيل مورد معين يبقى على كامل المهمة في النافذة أثناء تشغيلها ، بحيث يعتمد كل خطوة على حالة كاملة للمهمة. يمكن أن يغني السياق الطويل عن الذاكرة داخل الجلسة.

هناك حيث يتوقف التشابه. يجب أن تعيش المعلومات التي يجب على النظام أن يتذكرها في الأسبوع التالي ، بعد انتهاء هذه الجلسة ، في مكان ما لا تقع النافذة فيه.

بناء هذا النوع من الذاكرة يطرح مجموعة مختلفة من المشاكل ، والتي بدأت الصناعة في مواجهتها فقط. يجعلني تدريبي في علم النفس وعلم الأعصاب أجد صعوبة في تجاهل التشابه مع الذاكرة البشرية. لا نستعيد تسجيلًا مثاليًا للحدث. كل مرة نتذكرها ، نعيد بناءها ، ويمكن أن تصبح الأخطاء الصغيرة جزءًا من الإصدار المقبول مع مرور الوقت. يمكن أن يطور الذاكرة الآلية مشكلة مماثلة عندما يتم تلخيص المعلومات المخزنة أو دمجها أو كتابتها مرة أخرى. مع مرور الوقت ، يمكن أن يتحرك السجل بعيدًا عن الحدث الأصلي unless يتم فحصه وتصحيح الأخطاء وإزالة المعلومات التي أصبحت غير موثوقة.

لم يصل العديد من الشركات التي تعمل على هذه الأنظمة إلى هذه المشاكل بعد ، وقليل منهم قريب من الحل. ما سأراقبه في مورد هو ليس حجم النافذة التي يعلن عنها. نموذج يحمل 10 ملايين رمز قيمته قليل إذا كانت معظم المعلومات التي يحتفظ بها قديمة أو غير ذات صلة أو خاطئة. يمكن أن تبدو إجاباته مدعومة جيدًا بينما تستند إلى معلومات لا ينبغي للشركة أن تثق بها. ما يجنى المال هو الحكم حول ما يجب الاحتفاظ به والقدرة على التفكير بدقة على جميع المعلومات ، على جزء من التكلفة البنية والتأثير. هذا هو القيام بأكثر مع أقل ، وليس كل النوافذ الأكبر تاتي بهذه القدرة الحقيقية.