أزمة الذاكرة الاصطناعية: نحن نبني عصرًا مظلمًا رقميًا

يتم إدخال ملايين من وكلاء الذكاء الاصطناعي إلى الأنظمة الإنتاجية. ومع ذلك ، لا يمكن لمعظمهم مشاركة الخبرة التشغيلية. هذا هو السبب في أن هذا الخيار الهندسي مهم — وماذا يحدث إذا كنا محقين.

في الساعة 2:06 مساءً ، يقوم عميل بتقديم طلب عبر الإنترنت لشراء جهاز كمبيوتر محمول.

يتصل وكيل الدفع بقاعدة بياناته التشغيلية: تاريخ شراء نظيف ، والمبلغ ضمن النطاق العادي ، وعنوان الشحن تم استخدامه في السابق ، والجهاز والموقع متوافقان مع الطلبات الناجحة الأخيرة. كل شيء يبدو طبيعيًا. يوافق الوكيل على الطلب.

في نفس الوقت ، يقوم وكيل السلوك بمعالجة بيانات السلسلة النقرات في مخزن البيانات الخاص بالشركة. من الجلسة ، يستمد نمطًا: المستخدم وصل مباشرة إلى عنوان URL للدفع العميق بدون تصفح أو سلوك مقارنة. هذا الإشارة ضعيف بمفرده ، ولكنه سابقة معروفة في سيناريوهات الاستيلاء على الحساب عندما ي 结ب مع مشتريات عادية أخرى.

يسجل وكيل السلوك هذا التفسير كمعرفة مشتقة للتحليل والتدريب على النماذج في وقت لاحق.

ولكن وكيل الدفع لا يراه. ليس لأن الإشارة لم تُحسب ، ولا لأنها تم تجاهلها — ولكن لأن المعرفة تعيش داخل نظام لا يتشاور فيه وكيل الدفع أثناء الموافقة.

يتصرف كل وكيل بشكل صحيح مع考虑 ما يمكنه رؤيته. كل واحد يكتب إلى النظام الذي يمتلكه. ولكن الإيضاح الذي يستنبطه وكيل واحد يبقى مخفيًا عن الوكيل الآخر في وقت اتخاذ القرار.

يتم شحن الجهاز المحمول.

بعد ستة وثلاثين ساعة ، يتم الطعن في الشحنة. وتؤكد التحقيقات أن الحساب تمت سرقته في وقت سابق من ذلك اليوم. اعتمد المهاجم على حقيقة أن唯一 تحذير مبكر كان موجودًا كمعرفة سلوكية محبوسة خارج سياق اتخاذ القرار لوكيل الدفع.

الفشل لم يكن ناجمًا عن نقص في البيانات أو بطء في المعالجة أو نموذج سيئ. كان ناجمًا عن حجر زاوية لوكيل: تم تشكيل المعرفة ، ولكنها لم تُshared.

وهذا يفضح مشكلة لا يتحدث عنها أحد تقريبًا. لقد بنينا هندسات لا يمكن لوكلاء الذكاء الاصطناعي فيها الوصول إلى ما اكتشفه وكلاء آخرون.

المشكلة التي حلها مطبعة الغيت

قبل مطبعة الغيت ، كانت المعرفة هشة. عندما يموت عالم ، تموت معظم ما تعلمه. قد يقضي رياضياتي في لندن عقودًا في اكتشاف مبادئ التي سيعيد رياضياتي في باريس اكتشافها بشكل مستقل بعد خمسين عامًا. كان التقدم حقيقيًا ، لكنه كان محليًا وبطيئًا ومتكررًا.

مطبعة الغيت لم تجعل الأفراد أكثر ذكاء. لقد جعلت الذاكرة外ية. توقفت المعرفة عن كونها مرتبطة بذهن واحد وبدأت في الاستمرار بعد حياة منشئها. يمكن مشاركة الأفكار والعودة إليها والبناء عليها عبر الأجيال. هذا هو ما سمح بالتقدم المركب.

نحن في خطر تكرار الخطأ الذي حدث قبل مطبعة الغيت مع الذكاء الاصطناعي.

معظم المنظمات الآن تطرح وكلاء الذكاء الاصطناعي عبر الأنظمة الإنتاجية ، مع العديد من التجارب النشطة في مجالات مثل الدعم العميلي وتطوير البرمجيات والأبحاث والكشف عن الاحتيال. يتم نشر هؤلاء الوكلاء عادةً كخدمات مستقلة متوافقة مع هندسات الخدمات الصغيرة الحديثة ، كل منها بقاعدة بياناته الخاصة وحدوده التشغيلية. حتى داخل نفس المنظمة ، يستمد الوكلاء أفكارًا من خبرتهم التشغيلية ولكنهم نادرًا ما يشاركون المعرفة التي ينتجونها مع وكلاء آخرين ي اتخذون قرارات متعلقة.

ونتيجة لذلك ، تظل الرؤية التشغيلية منقسمة. قد تتحسن القرارات المحلية ، ولكن الخبرة لا تتراكم عبر النظام. كل اختراق يبقى محبوسًا داخل وكيل واحد هو اختراق لا يمكن تراكمه.

هذه المرة ، العامل المحدد ليس الذكاء أو السرعة. إنه الذاكرة. بدون طريقة للنظم الاصطناعية لتحويل ما يكتشفه وتشاركه ، يتحقق التقدم أكثر من Reset.

ما يبدو عليه الذاكرة المشتركة

يمكن أن تعزز نافذة السياق الأوسع التفكير الفردي ، ولكنها لا تخلق خبرة مستمرة ومشتركة عبر الوكلاء.

تغير الذاكرة المشتركة النتائج لا من خلال تحسين النماذج ، ولكن من خلال تغيير ما يمكن للوكلاء رؤيته في وقت اتخاذ القرار.

في نظام محبوس ، يتصرف كل وكيل بشكل صحيح داخل حدوده. يوافق وكيل الدفع على مخاطر العامل. يحلل وكيل السلوك أنماط السلسلة النقرات. كل واحد يكتب استنتاجاته إلى النظام الذي يمتلكه ، وتبقى تلك الاستنتاجات مخفية عن الوكلاء الآخرين الذين يعملون بالتوازي. تكون القرارات محليًا صحيحة ، ولكنها غير كاملة على المستوى العالمي.

مع طبقة ذاكرة مشتركة ، تختفي تلك الحدود.

عندما يقوم وكيل السلوك بمعالجة جلسة ، يستمد إشارة ضعيفة ولكنها معنوية: نمط الملاحة المرتبط بمحاولات الاستيلاء على الحساب في وقت مبكر. بدلاً من تخزين ذلك الإيضاح فقط لتحليل غير متصل ، يكتب الإشارة إلى الذاكرة المشتركة ، المرتبطة بالجلسة النشطة.

في لحظات لاحقة ، عندما يوافق وكيل الدفع على الشراء ، يتصل بذاكرة تلك. لا يزال العامل يبدو طبيعيًا. ولكنها ترى سياقًا إضافيًا: تحذير سلوكي كان سيكون غائبًا في غير ذلك.

لم يتغير شيء في الوكلاء أنفسهم. لا يتم إعادة تدريب أي نماذج. لا يتدخل مراقب مركزي. الفرق هو الرؤية: يصبح الإيضاح الذي يستنبطه وكيل واحد متاحًا لوكيل آخر بينما لا يزال مهمًا.

و 무엇 مهم ، أن ذلك الإيضاح يستمر. عندما يكون النتيجة معروفة فيما بعد — احتيال أو شرعي — يتم تسجيل العلاقة بين الإشارة والنتيجة. مع مرور الوقت ، ي tíchulates النظام سجلًا تجريبيًا لمعرفة أي مؤشرات ضعيفة تميل إلى أن تكون مهمة ، وفي ظروف nào. يتم إطلاع القرارات المستقبلية على الخبرة التي تمتد إلى ما وراء أي互одействة أو وكيل فردي.

الذاكرة المشتركة ليست مخزنًا للبيانات ولا قاعدة بيانات تشغيلية. إنها طبقة منخفضة الاتساق لسياق مشتق: إشارات ، وتفسيرات ، وتركيبات تنجو من التفاعل الذي أنتجها وتبقى قابلة للاستعلام من قبل وكلاء آخرين ي اتخذون قرارات متعلقة.

هذا هو كيف يتراكم الخبرة — ليس داخل أي نموذج ، ولكن عبر النظام ككل.

التبادل الهندسي خلف حجر زاوية الوكيل

حجر زاوية الوكيل ليس خطأً في التنفيذ. إنه النتيجة المتوقعة للархيتكتур التي تم تصميمها حول نوع مختلف من المستهلك.

لم عقود ، قامت الأنظمة الإنتاجية بفصل الحمولات حسب الوظيفة. تم تحسين الأنظمة التشغيلية لتحقيق معاملات منخفضة الاتساق ومستمرة ، في حين تم تحسين الأنظمة التحليلية للتحليل الكبير والمعرفة التاريخية للأنماط (OLTP vs. OLAP). انعكست هذه الفصل عن كيفية استهلاك الإيضاح: كانت نتائج التحليل تُنتج لمن يقرأها ، وليس للألات ، ونتيجة لذلك ، كانت متوقعة أن تصل بشكل غير متزامن وخارج مسار اتخاذ القرار.

ورثة وكلاء الذكاء الاصطناعي هذا الانقسام الهندسي ، ولكنهم لا يتناسبون معه.

النتيجة ليست مجرد تأخير في الإيضاح ، ولكن نقاط عمياء هيكلية. الإشارات التي تنتجها الأنظمة التحليلية ، حسب التصميم ، تكتشف بعد أن تم اتخاذ القرارات في الوقت الفعلي بالفعل. توجد إشارات يمكن أن تغير النتائج ، ولكنها لا يمكن أن تظهر في وقت اتخاذ القرار لأنها تقع في أنظمة لا تُستخدم بشكل مستمر من قبل وكلاء اتخاذ القرارات المستقلين.

الархيتكتور لا يُكسر. إنه غير متوافق مع متطلبات الأنظمة المستقلة.

الانضباط المفقود: هندسة السياق

تطرح الذاكرة المشتركة مشكلة لا يستعد لها معظم الفرق: تحديد ما الخبرة التي يجب أن تستمر.

توليد أنظمة الذكاء الاصطناعي كميات هائلة من الخبرة الخام — معاملات ، وضغطات ، ورسائل ، وأفعال ، ونتائج. لا يُعتبر استمرار كل ذلك عمليًا أو مفيدًا. بدون اختيار متعمد ، تصبح الذاكرة المشتركة ضجيجًا. التحدي لا يكمن في جمع المزيد من البيانات ، ولكن في تشكيل الخبرة إلى سياق يمكن لوكلاء آخرين استخدامه.

هذا هو دور هندسة السياق.

تتمثل هندسة السياق في تحديد ما المراقبات التي تصبح إشارات مستمرة ، وكيف تمثيل تلك الإشارات ، ومتي يجب إظهارها لوكلاء آخرين. تقع بين الأحداث الخام والتفكير الوكيل ، وتحول النشاط العابر إلى فهم مشترك ذي صلة بالقرار.

في الممارسة ، يعني ذلك رفع الأنماط والمؤشرات والتركيبات الشرطية ، في حين يسمح لمعظم الخبرة الخام بالتلاشي. قد لا يكون إشارة ضعيفة أو حالة حافة مهمة في عزلة ، ولكنها تصبح قيمة عندما تتراكم وتظهر في اللحظة المناسبة.

تحدد هندسة السياق ما إذا كانت الذاكرة المشتركة تخزّن الخبرة فقط — أو تمكنها من التراكم.

ماذا يحدث إذا كنا محقين

هذا ليس قلقًا في المستقبل. إنه قرار هندسي يتم اتخاذه — غالبًا بشكل ضمني — من قبل فرق البنية التحتية اليوم.

المسار الافتراضي هو العزل. يعمل وكلاء الذكاء الاصطناعي بشكل مستقل ، يستندون فقط إلى خبرتهم. كل واحد يتخذ قرارات سريعة ومحلية صحيحة ، ولكن الذكاء يصل إلى الحد الأقصى. تكرر نفس الحالات الحافة ، وتُكتشف إشارات ضعيفة مرة أخرى ، وتتكرر الأخطاء بمزيد من السرعة والكمية.

البديل هو طبقة ذاكرة مشتركة.

عندما تظل السياق المشتقة مستمرة ومرئية في وقت اتخاذ القرار ، ت停止 الخبرة عن التبخر. تظل الإيضاحات المكتشفة متاحة. تكتسب الإشارات الضعيفة معنى من خلال التراكم. تتحسن القرارات لا لأن النماذج تتغير ، ولكن لأن الوكلاء لم يعد يreason في عزلة.

لا يتطلب ذلك نماذج أكبر أو إعادة تدريب في الوقت الفعلي أو تحكم مركزي. يتطلب معاملة الذاكرة كطبقة هندسية من الدرجة الأولى — مصممة للوصول منخفض الاتساق والاستمرار والرؤية المشتركة.

تتصلب الافتراضات الهندسية بسرعة. تصبح الأنظمة التي يتم بناؤها بدون ذاكرة مشتركة أكثر صعوبة في إعادة بنائها مع انتشار الوكلاء. الاختيار بسيط: بناء أنظمة تتراكم الخبرة — أو أنظمة تتم إعادة ضبطها باستمرار.