قادة الفكر

أزمة ذاكرة الذكاء الاصطناعي: نحن نبني عصرًا مظلمًا رقميًا

Xiaowei Jiang
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةلا تستطيع وكلاء الذكاء الاصطناعي مشاركة الرؤى التشغيلية بسبب البنى المنعزلة، مما يخلق…
عرض المزيد
  • لا تستطيع وكلاء الذكاء الاصطناعي مشاركة الرؤى التشغيلية بسبب البنى المنعزلة، مما يخلق نقاط عمى يمكن تجنبها.
  • تسمح الذاكرة المشتركة للوكلاء بالوصول إلى السياق المستمد من بعضهم البعض عند وقت اتخاذ القرار، مما يعزز الخبرة.
  • هندسة السياق هي التخصص الجديد الحاسم لتشكيل التجربة الخام إلى إشارات دائمة وذات صلة باتخاذ القرار.

يتم إدخال ملايين من وكلاء الذكاء الاصطناعي إلى الأنظمة الإنتاجية. ومع ذلك ، لا يمكن لأي منهم تقريبًا مشاركة الخبرة التشغيلية. هذا هو السبب في أن هذا الخيار الهندسي مهم — وماذا يحدث إذا كنا محقين.

في الساعة 2:06 مساءً ، يقوم عميل بتقديم طلب عبر الإنترنت لشراء جهاز كمبيوتر محمول.

يتصل وكيل الدفع بقاعدة بياناته التشغيلية: تاريخ شراء نظيف ، والمبلغ ضمن النطاق العادي ، وعنوان الشحن تم استخدامه في السابق ، والجهاز والموقع متوافقان مع الطلبات الناجحة الأخيرة. كل شيء يبدو طبيعيًا. يوافق الوكيل على الطلب.

في نفس الوقت ، يقوم وكيل السلوك بمعالجة بيانات تدفق النقرات في نظام lakehouse للبيانات الخاص بالشركة. من الجلسة ، يستمد نمطًا: المستخدم وصل مباشرة إلى عنوان URL للدفع العميق بدون تصفح أو سلوك مقارنة. هذه الإشارة ضعيفة بمفردها، لكنها مؤشر مبكر معروف في سيناريوهات الاستيلاء على الحساب عندما تقترن بمشتريات تبدو طبيعية من سائر الجوانب.

يسجل وكيل السلوك هذا التفسير كمعرفة مشتقة للتحليل والتدريب على النماذج في وقت لاحق.

ولكن وكيل الدفع لا يراه. ليس لأن الإشارة لم تُحسب ، ولا لأنها تم تجاهلها — ولكن لأن المعرفة تعيش داخل نظام لا يتشاور فيه وكيل الدفع أثناء الموافقة.

يتصرف كل وكيل بشكل صحيح بالنظر إلى ما يمكنه رؤيته. كل واحد يكتب إلى النظام الذي يمتلكه. ولكن الإيضاح الذي يستنبطه وكيل واحد يبقى مخفيًا عن الوكيل الآخر في وقت اتخاذ القرار.

يتم شحن الجهاز المحمول.

بعد ست وثلاثين ساعة، يُعترض على المبلغ المدفوع. ويؤكد التحقيق أن الحساب تعرض للاختراق في وقت أسبق من يوم الطلب. أبقى المهاجم المعاملة ضمن الحدود الطبيعية، معتمدًا على أن التحذير المبكر الوحيد موجود كمعرفة سلوكية محبوسة خارج سياق اتخاذ القرار لدى وكيل الدفع.

الفشل لم يكن ناجمًا عن نقص في البيانات أو بطء في المعالجة أو نموذج سيئ. كان ناجمًا عن انعزال معرفة الوكيل: تم تشكيل المعرفة ، ولكنها لم تُشارك.

وهذا يفضح مشكلة لا يتحدث عنها أحد تقريبًا. لقد بنينا بنى لا يمكن لوكلاء الذكاء الاصطناعي الذين يتخذون القرارات فيها الوصول إلى ما اكتشفه وكلاء آخرون.

المشكلة التي حلتها المطبعة

قبل المطبعة ، كانت المعرفة هشة. عندما يموت عالم، يموت معه جزء كبير مما تعلمه. قد يقضي رياضياتي في لندن عقودًا في اكتشاف مبادئ التي سيعيد رياضياتي في باريس اكتشافها بشكل مستقل بعد خمسين عامًا. كان التقدم حقيقيًا ، لكنه كان محليًا وبطيئًا ويعود مرارًا إلى نقطة البداية.

المطبعة لم تجعل الأفراد أكثر ذكاء. لقد أتاحت حفظ المعرفة خارج ذاكرة الفرد. توقفت المعرفة عن كونها مرتبطة بذهن واحد وبدأت في الاستمرار بعد حياة منشئها. يمكن مشاركة الأفكار والعودة إليها والبناء عليها عبر الأجيال. هذا هو ما سمح بالتقدم المركب.

نحن في خطر تكرار الخطأ الذي حدث قبل المطبعة مع الذكاء الاصطناعي.

معظم المنظمات الآن تطرح وكلاء الذكاء الاصطناعي عبر الأنظمة الإنتاجية ، مع العديد من التجارب النشطة في مجالات مثل الدعم العميلي وتطوير البرمجيات والأبحاث والكشف عن الاحتيال. يتم نشر هؤلاء الوكلاء عادةً كخدمات مستقلة متوافقة مع بنى الخدمات المصغرة الحديثة ، كل منها بقاعدة بياناته الخاصة وحدوده التشغيلية. حتى داخل نفس المنظمة ، يستمد الوكلاء أفكارًا من خبرتهم التشغيلية ولكنهم نادرًا ما يشاركون المعرفة التي ينتجونها مع وكلاء آخرين يتخذون قرارات متعلقة.

ونتيجة لذلك ، تظل الرؤية التشغيلية منقسمة. قد تتحسن القرارات المحلية ، ولكن الخبرة لا تتراكم عبر النظام. كل اختراق يبقى محبوسًا داخل وكيل واحد هو اختراق لا يمكن تراكمه.

هذه المرة ، العامل المحدد ليس الذكاء أو السرعة. إنه الذاكرة. من دون وسيلة تمكّن أنظمة الذكاء الاصطناعي من حفظ اكتشافاتها خارج ذاكرتها الخاصة ومشاركتها، يعود التقدم إلى نقطة البداية أكثر مما يتراكم.

كيف تبدو الذاكرة المشتركة فعليًا

يمكن أن تعزز نافذة السياق الأوسع التفكير الفردي ، لكنها لا تنشئ خبرة مشتركة مستمرة عبر الوكلاء.

تغير الذاكرة المشتركة النتائج لا من خلال تحسين النماذج ، ولكن من خلال تغيير ما يمكن للوكلاء رؤيته في وقت اتخاذ القرار.

في نظام محبوس ، يتصرف كل وكيل بشكل صحيح داخل حدوده. يقيّم وكيل الدفع مخاطر المعاملة. يحلل وكيل السلوك أنماط تدفق النقرات. كل واحد يكتب استنتاجاته إلى النظام الذي يمتلكه ، وتبقى تلك الاستنتاجات مخفية عن الوكلاء الآخرين الذين يعملون بالتوازي. تكون القرارات محليًا صحيحة ، ولكنها غير كاملة على المستوى العالمي.

مع طبقة ذاكرة مشتركة ، تختفي تلك الحدود.

عندما يقوم وكيل السلوك بمعالجة جلسة ، يستمد إشارة ضعيفة ولكنها معنوية: نمط الملاحة المرتبط بمحاولات الاستيلاء على الحساب في وقت مبكر. بدلاً من تخزين ذلك الإيضاح فقط لتحليل غير متصل ، يكتب الإشارة إلى الذاكرة المشتركة ، المرتبطة بالجلسة النشطة.

بعد لحظات، عندما يقيّم وكيل الدفع عملية الشراء، يستعلم من الذاكرة نفسها. ما زالت المعاملة تبدو طبيعية، لكنه يرى الآن سياقًا إضافيًا: تحذيرًا سلوكيًا لم يكن ليظهر لولا ذلك. لا تحسم أي من الإشارتين الأمر بمفردها، لكنهما معًا تتجاوزان عتبة تستدعي تحققًا إضافيًا.

لم يتغير شيء في الوكلاء أنفسهم. لا يتم إعادة تدريب أي نماذج. لا يتدخل مراقب مركزي. الفرق هو الرؤية: يصبح الإيضاح الذي يستنبطه وكيل واحد متاحًا لوكيل آخر بينما لا يزال مهمًا.

والأهم أن هذه المعرفة تستمر. عندما يكون النتيجة معروفة فيما بعد — احتيال أو شرعي — يتم تسجيل العلاقة بين الإشارة والنتيجة. مع مرور الوقت ، يراكم النظام سجلًا تجريبيًا لمعرفة أي مؤشرات ضعيفة تميل إلى أن تكون مهمة ، وفي أي ظروف. يتم إطلاع القرارات المستقبلية على الخبرة التي تمتد إلى ما وراء أي تفاعل أو وكيل فردي.

الذاكرة المشتركة ليست مخزنًا للبيانات ولا قاعدة بيانات تشغيلية. إنها طبقة منخفضة زمن الاستجابة لسياق مشتق: إشارات ، وتفسيرات ، وتركيبات تنجو من التفاعل الذي أنتجها وتبقى قابلة للاستعلام من قبل وكلاء آخرين يتخذون قرارات متعلقة.

هذا هو كيف يتراكم الخبرة — ليس داخل أي نموذج ، ولكن عبر النظام ككل.

المفاضلة المعمارية وراء انعزال معرفة الوكلاء

انعزال معرفة الوكلاء ليس خطأً في التنفيذ، بل هو النتيجة المتوقعة لبنى مؤسسية صُممت لنوع مختلف من المستهلكين.

على مدى عقود ، قامت الأنظمة الإنتاجية بفصل الحمولات حسب الوظيفة. تم تحسين الأنظمة التشغيلية لتحقيق معاملات منخفضة زمن الاستجابة ومتسقة ، في حين تم تحسين الأنظمة التحليلية للتجميع واسع النطاق واكتشاف الأنماط التاريخية (OLTP vs. OLAP). انعكست هذه الفصل عن كيفية استهلاك الإيضاح: كانت نتائج التحليل تُنتج لمن يقرأها ، وليس للألات ، ونتيجة لذلك ، كانت متوقعة أن تصل بشكل غير متزامن وخارج مسار اتخاذ القرار.

يرث وكلاء الذكاء الاصطناعي هذا الانقسام الهندسي ، ولكنهم لا يتناسبون معه.

النتيجة ليست مجرد تأخير في الإيضاح ، ولكن نقاط عمياء هيكلية. الإشارات التي تنتجها الأنظمة التحليلية ، حسب التصميم ، تكتشف بعد أن تم اتخاذ القرارات في الوقت الفعلي بالفعل. توجد إشارات يمكن أن تغير النتائج ، ولكنها لا يمكن أن تظهر في وقت اتخاذ القرار لأنها تقع في أنظمة لا تُستخدم بشكل مستمر من قبل وكلاء اتخاذ القرارات المستقلين.

البنية ليست معطلة. إنه غير متوافق مع متطلبات الأنظمة المستقلة.

الانضباط المفقود: هندسة السياق

تطرح الذاكرة المشتركة مشكلة لا يستعد لها معظم الفرق: تحديد ما الخبرة التي يجب أن تستمر.

تولّد أنظمة الذكاء الاصطناعي كميات هائلة من الخبرة الخام — معاملات ، وضغطات ، ورسائل ، وأفعال ، ونتائج. لا يُعتبر استمرار كل ذلك عمليًا أو مفيدًا. بدون اختيار متعمد ، تصبح الذاكرة المشتركة ضجيجًا. التحدي لا يكمن في جمع المزيد من البيانات ، ولكن في تشكيل الخبرة إلى سياق يمكن لوكلاء آخرين استخدامه.

هذا هو دور هندسة السياق.

تتمثل هندسة السياق في تحديد ما المراقبات التي تصبح إشارات مستمرة ، وكيف تمثيل تلك الإشارات ، ومتي يجب إظهارها لوكلاء آخرين. تقع بين الأحداث الخام والتفكير الوكيل ، وتحول النشاط العابر إلى فهم مشترك ذي صلة بالقرار.

في الممارسة ، يعني ذلك رفع الأنماط والمؤشرات والتركيبات الشرطية ، في حين يسمح لمعظم الخبرة الخام بالتلاشي. قد لا يكون إشارة ضعيفة أو حالة حافة مهمة في عزلة ، ولكنها تصبح قيمة عندما تتراكم وتظهر في اللحظة المناسبة.

تحدد هندسة السياق ما إذا كانت الذاكرة المشتركة تخزّن الخبرة فقط — أو تمكنها من التراكم.

ماذا يحدث إذا كنا محقين

هذا ليس قلقًا في المستقبل. إنه قرار هندسي يتم اتخاذه — غالبًا بشكل ضمني — من قبل فرق البنية التحتية اليوم.

المسار الافتراضي هو العزل. يعمل وكلاء الذكاء الاصطناعي بشكل مستقل ، يستندون فقط إلى خبرتهم. كل واحد يتخذ قرارات سريعة ومحلية صحيحة ، ولكن تطور الذكاء يصل إلى مرحلة من الركود. تكرر نفس الحالات الحافة ، وتُكتشف إشارات ضعيفة مرة أخرى ، وتتكرر الأخطاء بمزيد من السرعة والكمية.

البديل هو طبقة ذاكرة مشتركة.

عندما يظل السياق المشتق مستمرًا ومرئيًا في وقت اتخاذ القرار ، تتوقف الخبرة عن التبخر. تظل الإيضاحات المكتشفة متاحة. تكتسب الإشارات الضعيفة معنى من خلال التراكم. تتحسن القرارات لا لأن النماذج تتغير ، ولكن لأن الوكلاء لم يعودوا يستدلون بمعزل عن غيرهم.

لا يتطلب ذلك نماذج أكبر أو إعادة تدريب في الوقت الفعلي أو تحكم مركزي. يتطلب معاملة الذاكرة كطبقة هندسية من الدرجة الأولى — مصممة للوصول منخفض زمن الاستجابة والاستمرار والرؤية المشتركة.

تتصلب الافتراضات الهندسية بسرعة. تصبح الأنظمة التي يتم بناؤها بدون ذاكرة مشتركة أكثر صعوبة في إعادة بنائها مع انتشار الوكلاء. الاختيار بسيط: بناء أنظمة تتراكم الخبرة — أو أنظمة تتم إعادة ضبطها باستمرار.

شياوى جيانج هو الرئيس التنفيذي وكبير معماريي الأنظمة في Tacnode، حيث يركز على بناء بنية تحتية للسياق لوكلاء الذكاء الاصطناعي.