قادة الفكر
أزمة الذاكرة الاصطناعية: نحن نبني عصرًا مظلمًا رقميًا
ملايين الوكلاء الذكيين تدخل الأنظمة الإنتاجية.几乎 لا يمكن لأي منهم مشاركة الخبرة التشغيلية. هذا هو السبب في أن اختيار الهيكل المعماري مهم—وما هي التغييرات إذا كننا حصلنا عليها بشكل صحيح.
في الساعة 2:06 مساءً ، يقوم عميل بتقديم طلب عبر الإنترنت لشراء جهاز كمبيوتر محمول.
يقوم وكيل الدفع بالاستفسار عن قاعدة بياناته التشغيلية: تاريخ شراء نظيف ، ومبلغ ضمن النطاق العادي ، وعنوان الشحن المستخدم مسبقًا ، والجهاز والموقع متوافقان مع الطلبات الناجحة الأخيرة. كل شيء يبدو طبيعيًا. يوافق الوكيل على الطلب.
في نفس الوقت ، يقوم وكيل السلوك بمعالجة بيانات تيار النقرات في مخزن البيانات الخاص بالشركة. من الجلسة ، يستمد نمطًا: وصل المستخدم مباشرة إلى عنوان URL深 للcheckout بدون تصفح أو سلوك مقارن. هذا الإشارة ضعيف بمفرده ، ولكنها إشارة معروفة في سيناريوهات الاستيلاء على الحساب عند الجمع بينها مع مشتريات أخرى عادية.
يسجل وكيل السلوك هذا التفسير كمعرفة مشتقة لتحليل وتدريب النماذج في وقت لاحق.
الوكيل لا يرى ذلك أبدًا. ليس لأن الإشارة لم تُحسب ، وليس لأنها تم تجاهلها – ولكن لأن المعرفة تعيش داخل نظام لا يستشيره وكيل الدفع أثناء التصديق.
يتصرف كل وكيل بشكل صحيح مع ما يمكنه رؤيته. كل منهم يكتب إلى النظام الذي يمتلكه. ولكن الإشارة المستمدة من قبل وكيل واحد تكون غير مرئية للآخر في وقت اتخاذ القرار.
تُشحن جهاز الكمبيوتر المحمول.
بعد ستة وثلاثين ساعة ، يتم نزاع الشحنة. وتؤكد التحقيقات أن الحساب قد تم اختراقه في وقت سابق من ذلك اليوم. اعتمد المهاجم على حقيقة أن唯一 تحذير مبكر موجود كان كخبرة سلوكية محبوسة خارج سياق اتخاذ القرار لوكيل الدفع.
الفشل لم يكن ناجمًا عن نقص البيانات أو معالجة بطيئة أو نموذج سيئ. كان ذلك نتيجة لمنطقة الوكيل: تم تشكيل المعرفة ، ولكنها لم تُshared.
وهذا يفضح مشكلة لا يتحدث عنها几乎 أحد. لقد بنينا هيكلًا معماريًا حيث لا يمكن للوكلاء الذكيين الذين يتخذون القرارات الوصول إلى ما اكتشفه وكلاء آخرون بالفعل.
المشكلة التي حلها مطبعة الطباعة
قبل مطبعة الطباعة ، كانت المعرفة هشة. عندما يموت عالم ، يموت معظم ما تعلمه. قد يقضي رياضياتي في لندن عقودًا في اكتشاف المبادئ التي سيكتشفها رياضياتي في باريس بشكل مستقل بعد خمسين عامًا. كان التقدم حقيقيًا ، ولكن كان محليًا وبطيئًا ومتكررًا.
لم تجعل مطبعة الطباعة الأفراد أكثر ذكاءً. لقد خارجت الذاكرة. توقفت المعرفة عن الارتباط بذهن واحد وبدأت في الاستمرار بعد حياة منشئها. يمكن مشاركة الإشارات والتفاسير والارتباطات وزيارتها مرة أخرى وبناءها عبر الأجيال. هذا هو ما سمح بالتقدم المركب.
نحن في خطر تكرار الخطأ السابق لمطبعة الطباعة مع الذكاء الاصطناعي.
معظم المنظمات الآن ت نشر وكلاء ذكيين عبر أنظمة الإنتاج ، مع العديد منهم يجرّبون بنشاط في مجالات مثل دعم العملاء وتطوير البرمجيات والبحث والكشف عن الاحتيال. عادة ما يتم نشر هؤلاء الوكلاء كخدمات مستقلة متوافقة مع هيكل الميكروسيرفيس الحديث ، كل منها بقاعدة بيانات وحده وحدود تشغيلية. حتى داخل نفس المنظمة ، يستمد الوكلاء رؤى من خبرتهم الإنتاجية الخاصة ، لكنهم نادرًا ما يشاركون المعرفة التي ينتجونها مع وكلاء آخرين يتخذون قرارات متعلقة.
نتيجة لذلك ، تبقى رؤية تشغيلية منقسمة. قد تتحسن القرارات المحلية ، لكن الخبرة لا تتراكم عبر النظام. كل اختراق يبقى محبوسًا داخل وكيل واحد هو اختراق لا يمكن تراكمه.
هذه المرة ، العامل المحدد ليس الذكاء أو السرعة. إنه الذاكرة. بدون طريقة للأنظمة الذكية لخارجية وتحميل ما يكتشفه ، يعادة التقدم أكثر مما يبني.
ما يبدو عليه الذاكرة المشتركة
يمكن أن تعزز نوافذ السياق الأوسع العقل الفردية ، ولكنها لا تخلق خبرة مستمرة ومشتركة عبر الوكلاء.
تغير الذاكرة المشتركة النتائج لا من خلال تحسين النماذج ، ولكن من خلال تغيير ما يمكن للوكلاء رؤيته في وقت اتخاذ القرار.
في نظام منعزل ، يتصرف كل وكيل بشكل صحيح داخل حدوده. يقيم وكيل الدفع مخاطر المعاملة. يقوم وكيل السلوك بتحليل أنماط النقرات. كل منهم يكتب استنتاجاته إلى النظام الذي يمتلكه ، وتبقى الاستنتاجات مخفية عن الوكلاء الآخرين الذين يعملون بالتوازي. تكون القرارات محليًا صحيحة ، ولكنها غير كاملة على المستوى العالمي.
مع طبقة ذاكرة مشتركة ، تختفي هذه الحدود.
عندما يقوم وكيل السلوك بمعالجة جلسة ، يستمد إشارة ضعيفة ولكنها معنوية: نمط التنقل المرتبط بمحاولات الاستيلاء على الحساب في وقت مبكر. بدلاً من تخزين هذا الفهم فقط لتحليل غير متزامن ومدرب نموذج ، يكتب الإشارة إلى الذاكرة المشتركة ، المرتبطة بالجلسة النشطة.
في لحظات لاحقة ، عندما يقوم وكيل الدفع بتقييم الشراء ، يستفسر عن تلك الذاكرة نفسها. لا يزال التعامل يبدو طبيعيًا. لكنه يرى سياقًا إضافيًا: تحذيرًا سلوكيًا لن يكون غائبًا في غير ذلك.
لا شيء يتغير في الوكلاء أنفسهم. لا يتم إعادة تدريب أي نماذج. لا يتدخل مراقب مركزي. الفرق هو الرؤية: يصبح الفهم المكتسب من قبل وكيل متاحًا لوكيل آخر بينما لا يزال مهمًا.
هذه هي الطريقة التي تتراكم بها الخبرة – لا داخل نموذج واحد ، ولكن عبر النظام ككل.
التنازلات المعمارية وراء مناطق الوكلاء
مناطق الوكلاء ليست خطأً في التنفيذ. إنها النتيجة المتوقعة لأنظمة معمارية تم تصميمها حول نوع مختلف من المستهلك.
لمدة عقود ، قامت الأنظمة الإنتاجية بفصل الحمولات حسب الوظيفة. تم تحسين الأنظمة التشغيلية من أجل معاملات متسقة وسرعة منخفضة ، في حين تم تحسين الأنظمة التحليلية من أجل اكتشاف الأنماط التاريخية والتراكم على نطاق كبير (OLTP vs. OLAP). انعكست هذه الفصل كيف تم استهلاك الرؤية: تم إنتاج نتائج تحليلية للبشر ، وليس الآلات ، وبالتالي كان من المتوقع أن تصل بشكل غير متزامن وخارج مسار اتخاذ القرار الحرج.
ورثة الوكلاء الذكيين هذا الانقسام المعماري ، لكنهم لا يتناسبون معه.
النتيجة ليست مجرد إبطاء الرؤية ، ولكن نقاط عمياء هيكلية. التفسيرات التي يتم اكتشافها في الأنظمة التحليلية ، حسب التصميم ، تكتشف بعد أن تم اتخاذ القرارات في الوقت الفعلي بالفعل. الإشارات التي يمكن أن تغير النتائج موجودة ، ولكنها لا يمكن أن تظهر في وقت اتخاذ القرار لأنها تقع في أنظمة لا تهدف إلى الاستفسار بشكل مستمر من قبل متخذي القرارات الأوتوماتيكيين.
الهيكل المعماري ليس مكسورًا. إنه غير متوافق مع متطلبات الأنظمة الأوتوماتيكية.
المنضبط المفقود: هندسة السياق
تُقدم الذاكرة المشتركة مشكلة لا يستعد لها معظم الفرق: تحديد الخبرة التي يجب أن تستمر.
توليد أنظمة الذكاء الاصطناعي كميات هائلة من الخبرة الخام – معاملات ، نقرات ، رسائل ، أفعال ، نتائج. لا يُعد استمرار كل ذلك عمليًا أو مفيدًا. بدون اختيار متعمد ، تصبح الذاكرة المشتركة ضوضاء. التحدي لا يتمثل في جمع المزيد من البيانات ، ولكن في تشكيل الخبرة إلى سياق يمكن لوكلاء آخرين استخدامه.
هذا هو دور هندسة السياق.
تقع هندسة السياق بين الأحداث الخام وعقل الوكيل ، وتحول النشاط العابر إلى فهم مشترك ذي صلة بالقرار.
في الممارسة ، يعني ذلك تعزيز الأنماط والمؤشرات والارتباطات الشرطية ، في حين يسمح لمعظم الخبرة الخام بالتلاشي. قد لا يكون إشارة ضعيفة أو حالة حافة مهمة في عزل ، ولكنها تصبح قيمة عندما تتراكم وتظهر في اللحظة المناسبة.
تحدد هندسة السياق ما إذا كانت الذاكرة المشتركة تخزّن الخبرة فقط – أو تمكنها من التراكم.
ما يحدث إذا كنّا حصلنا على هذا بشكل صحيح
هذا ليس قلقًا في المستقبل. إنه قرار معماري يتم اتخاذه – غالبًا بشكل ضمني – من قبل فرق البنية التحتية اليوم.
الطريق الافتراضي هو العزلة. يتصرف الوكلاء الذكيون بشكل مستقل ، يستندون فقط إلى خبرتهم الخاصة. يتخذ كل منهم قرارات سريعة ومحلية صحيحة ، ولكن الذكاء يصل إلى حده الأقصى. تكرر نفس الحالات الحافة ، وتُكتشف إشارات ضعيفة مرة أخرى ، وتتكرر الأخطاء بسرعة أكبر وحجم أكبر.
البديل هو طبقة ذاكرة مشتركة.
عندما تستمر السياق المشتقة وتصبح مرئية في وقت اتخاذ القرار ، ت停止 الخبرة عن التبخر. تظل الإشارات المكتشفة متاحة. تكتسب الإشارات الضعيفة معنى من خلال التراكم. تتحسن القرارات لا لأن النماذج تتغير ، ولكن لأن الوكلاء لم يعد يتصرفون بمعزل.
هذا لا يتطلب نماذج أكبر أو إعادة تدريب في الوقت الفعلي أو سيطرة مركزية. يتطلب معاملة الذاكرة كطبقة معمارية من الدرجة الأولى – مصممة للوصول منخفض الزمن والاستمرار والرؤية المشتركة.
هذا هو كيف يتراكم الخبرة – لا داخل نموذج واحد ، ولكن عبر النظام ككل.
