عندما يتبع وكلاء الذكاء الاصطناعي الحشد: الخطر الخفي في توافق الوكلاء المتعددين

غرفة مليئة بوكلاء الذكاء الاصطناعي المتوافقين قد تبدو مطمئنة. أحدهم يقترح إجابة، وآخر يتحقق منها، وعدة آخرين يؤيدون النتيجة. لكن كم عدد هؤلاء الوكلاء الذين تحققوا فعليًا من الأدلة الأساسية؟ إذا كان كل منهم يستوعب حكم الوكيل السابق، قد يخفي الحكم بالإجماع خطأً واحدًا.

تسلط أبحاث جديدة، أبرزتها كلية هاريس للسياسة العامة بجامعة شيكاغو، الضوء على تلك المشكلة. في التجارب المتعمدة السلبية التي وُصفت في إعلانها، تبع الوكلاء اللاحقون استنتاجًا خاطئًا مبكرًا حتى عندما أشارت معلوماتهم الخاصة إلى الإجابة الصحيحة. كما يؤكد الإعلان أن هذه النتائج هي نتائج اختبار ضغط مبكرة، وليست دليلًا على أن الوكلاء المستقلين يتصرفون بهذه الطريقة بانتظام.

بالنسبة للمنظمات التي تبني سير عمل متعدد الوكلاء، السؤال المهم هو كيفية التمييز بين التحقق المستقل والصدى. أدناه، نستعرض التجربة، ونربطها بأبحاث التعلم الاجتماعي الراسخة، ونضع تبعات عملية لتصميم الأنظمة. المقترحات الهندسية والرسوم العددية هي تحليلاتنا، وليست نتائج تجريبية إضافية.

ما اختبره الباحثون

نشر أندي هول، دان طومسون، ألكسندر فويرنيس وساندي هاندان-نادر الوهم المتعدد الوكلاء الاستثنائي وجنون الجماهير في 29 سبتمبر 2026. استنتج الوكلاء كيف يعمل مقيّم المهام المحاكى من إشارات القبول أو الرفض الخاصة التي كانت مفيدة بنسبة 70٪ من الوقت. قرأوا مشاركات اللوحة السابقة، ونشروا الاستنتاجات وأبلغوا عن معتقداتهم بشكل منفصل. جعلت حالة الضغط الإشارات الأربعة الأولى غير صحيحة.

بدون تواصل، خفّضت الإشارات المستقلة اللاحقة الخطأ الأولي. مع وجود لوحة، استمرّ الحكم الخاطئ؛ كما أبلغ الوكلاء عن أدلتهم بشكل غير صحيح. استخدمت معظم التجارب Claude Haiku 4.5. يذكر المؤلفون أنهم كرّروا التجربة باستخدام Sonnet 4.6 و Opus 4.6 و GPT-5 mini، مع احتمال استثناء لـ Gemini 2.5 Flash.

عبر سبع سياسات اتصال وسيناريوهات إضافية، تفوقت القواعد التي تحافظ على نتائج الاختبارات الخاصة. أحدها اشتُرط على تقارير دقيقة وحظر الاختبارات أو العدّ المُختلق. أشارت التبريرات اللاحقة إلى أغلبية اللوحة في أكثر من 90٪ من الحالات، لكن المؤلفين يحذرون من أن هذه التفسيرات لا تثبت الآلية الداخلية.

الفرق بين الحشد والصدى

تسبق الخلفية الفكرية الذكاء الاصطناعي التوليدي. في ورقة 1992 حول السلاسل المعلوماتية، يصف سوشيل بيخشاندي، ديفيد هيرشليفر وإيفو ويلش كيف يمكن لصانعي القرار المتسلسلين اتباع سابقيهم مع تجاهل معلوماتهم الخاصة. يساعد إطارهم في توضيح سبب إمكانية التوافق مع المعتقدات الجماعية الهشة. لاحقًا، تُقدم مراجعة السلاسل المعلوماتية والتعلم الاجتماعي، التي شارك في تأليفها عمر تاموز، مسحًا للأبحاث النظرية والتجريبية التي تلت ذلك.

تخيل تحقيقًا افتراضيًا في البرمجيات. يفسّر الوكيل A اختبارًا فاشلًا كدليل على أن مكتبة المصادقة معطلة. يقرأ الوكيل B تقرير A ويقترح استبدال المكتبة. يلخّص الوكيل C كلا الرسالتين كتحققين من نفس العطل. يرى المنسق الآن ثلاثة وكلاء يتفقون، رغم أن السلسلة بأكملها تستند إلى تفسير واحد لاختبار واحد.

إضافة الوكيل D لا يعني بالضرورة إنتاج معلومات جديدة. إذا قرأ D الملخص فقط، فقد أنشأت سير العمل فرصة أخرى لتكرار الادعاء. الوحدة ذات الصلة للتأكيد هي الملاحظة المستقلة: إعادة إنتاج منفصلة، اختبار مختلف أو فحص مباشر للفشل المشتبه به.

هذا التمييز مهم حتى عندما يكون كل مكوّن قادرًا ومتعاونًا. يكون الاتفاق مفيدًا فقط بقدر ما تبرره أسس الأدلة التي يقوم عليها. لذا يجب على النظام تتبع أي الوكلاء قاموا بالتحقق، وأيهم فقط فسر ناتج وكيل آخر، وأيهم كرّر استنتاجًا دون التحقق منه.

لماذا يغيّر الاستقلال الحسابات

يوضح حساب بسيط ما هو المخاطرة. افترض أن خمسة ناخبين افتراضيين يجيبون على سؤال ثنائي بشكل صحيح باحتمال 0.7، وأن إجاباتهم مستقلة. الاحتمال أن يكون ثلاثة على الأقل صحيحين هو نحو 83.7٪. يجمع أصواتهم يحسن من دقة 70٪ للناخب الواحد.

الآن افترض أن جميع الخمسة ينسخون إجابة واحدة. يكون الأغلبية صحيحة فقط عندما تكون تلك الإجابة الأصلية صحيحة: 70٪ من الوقت. ارتفع عدد المشاركين الظاهري، لكن كمية المعلومات المستقلة لم تزد. هذه احتمالات توضيحية، وليست قياسات أداء من البحث الجديد.

هناك حساب مفيد آخر لتفسير حالة الضغط. إذا كان لكل إشارة من أربع إشارات فرصة 30٪ للخطأ بشكل مستقل، فإن احتمال أن تكون جميع الإشارات الأربعة خاطئة هو 0.3 مرفوعًا للقوة الرابعة، أي 0.81٪. يصف ذلك احتمال تسلسل بدء معين وفقًا لتلك الافتراضات. لا يصف ذلك احتمال فشل فريق الوكلاء المطبق.

يتطلب تقدير الفشل معرفة كل من مدى تكرار حدوث المواقف الصعبة وكيف يتصرف النظام عندما تحدث. قد يؤدي الخلط بين هذين المتغيرين إلى جعل النتيجة تبدو إما أكثر إثارة للقلق أو أكثر طمأنينة مما تسمح به الأدلة. يمكن لاختبار الضغط أن يكشف عن ضعف ذي عواقب دون قياس تكراره في العمل العادي.

إنشاء مسار دليل قبل بناء التوافق

استجابة عملية هي فصل الملاحظات عن التفسيرات في مساحة العمل المشتركة. بالنسبة للتحقيق الافتراضي في المصادقة، قد تحتوي الملاحظة على معرف الاختبار، وإصدار الشيفرة المختبرة، والناتج الفعلي، ووقت التنفيذ. سيسجل حقل منفصل التفسير المقترح من الوكيل ومدى عدم اليقين فيه.

تتيح هذه البنية للمنسق طرح سؤال ملموس: هل تقدم هذه التوصية ملاحظة جديدة، أم أنها تشير إلى دليل تم احتسابه مسبقًا؟ يجب أن تظل ثلاثة ملخصات تشير إلى نفس الاختبار الفاشل اختبارًا واحدًا في سجل الأدلة. يجب أن تكون نسخة مستقلة ثانية مرئية كفحص منفصل.

في القرارات المكلفة أو ذات العواقب الكبيرة، يمكن للفرق أيضًا جمع التقييمات الأولية قبل تعريض الوكلاء لاستنتاجات بعضهم البعض. سيقوم المراجع بفحص المادة المصدرية، وتسجيل حكم أولي، ثم يرى مناقشة المجموعة. سيظل تغيير الرأي ممكنًا، لكن النظام يمكنه تسجيل الأدلة الجديدة التي تبرر ذلك التغيير.

هذه مقترحات تصميمية للتقييم، وليست ضوابط تم التحقق من صحتها في هذه التجربة. إنها تُدخل تكاليف: سجلات أكثر تنظيمًا، واستدعاءات أدوات إضافية، وربما تنسيق أبطأ. يجب تقييم قيمتها مقابل القرارات التي تحميها. قد يتحمل سير عمل العصف الذهني محادثات غير منظمة؛ بينما قد تتطلب تحقيقات حوادث الإنتاج مسار دليل أكثر صرامة.

قواعد الموجهات وعناصر التحكم في وقت التشغيل تحل مشكلات مختلفة

طلب من الوكيل الحفاظ على الأدلة أمر مفيد، لكن بنية الإنتاج يمكنها أن تتجاوز ذلك بحفظ ناتج الأداة الأصلي نفسه. يمكن لخدمة التنفيذ كتابة النتائج في سجل يمكن للوكلاء الاستشهاد به ولكن لا يمكنهم الكتابة فوقه. ثم يمكن للقراء مقارنة التفسير مع الناتج الأساسي.

حتى السجل غير القابل للتغيير لا يضمن أن الاختبار صُمم بشكل جيد، أو أن المصدر موثوق، أو أن التفسير صحيح. لكنه يجعل الفروقات قابلة للفحص. يمكن للنظام التمييز بين اختبار خاطئ وتقرير يصف ذلك الاختبار بشكل غير دقيق.

يجب أن تظل عملية التفويض قرارًا منفصلًا. لا يمنح استنتاج واثق بأن النظام يحتاج إلى إصلاح إذنًا بتغييره. إبقاء أذونات التنفيذ خارج عملية التوافق يمنع خطأ معرفيًا من التحول تلقائيًا إلى إجراء تشغيلي. يمكن لفريق الوكلاء أن يكون مخطئًا دون أن يُسمح له بإجراء تغيير غير مقيد.

يجب تقييم تنوع النماذج بدلاً من افتراض أنه يحل المشكلة. قد تسهم النماذج المختلفة في تفسيرات متميزة، لكن إعطاء أسماء أو أدوار مختلفة للوكيل لا يثبت أن أدلتهم مستقلة. يمكن لمجموعة متنوعة تقرأ نفس الملخص الخاطئ أن تشترك في عنق زجاجة دليلية واحد.

ما يجب أن تقيسه تقييم أقوى

المنشور المرتبط هو كتابة بحثية عامة. يجب على القراء تجنب اعتباره معيارًا شاملًا للمنتجات المتعددة الوكلاء المنتشرة. قيمته تكمن في نمط الفشل المحدد الذي يجعل الاختبار ممكنًا؛ وتحتاج استنتاجاته الأوسع إلى مزيد من الأدلة.

تقييم متابعة مفيد قد يغيّر ترتيب الإشارات، ودقة الأدلة الخاصة، وعدد المشاركين، وهيكلية التواصل. يجب أن يشمل تسلسلات عادية إلى جانب تسلسلات متعمدة التضليل، ويصحح الأغلبية المبكرة الصحيحة مقابل الأغلبية المبكرة الخاطئة. وإلا قد يبدو أن سياسة ما ناجحة لمجرد أنها تعلم الوكلاء عدم الثقة بأي توافق.

الدقة وحدها ستفوت تمييزات مهمة. يجب على المقيمين قياس ما إذا كانت التقارير تحافظ على الملاحظات بأمانة، ومدى اختراع الوكلاء لأدلة داعمة، وما إذا كان الأقلية الصحيحة قادرة على تغيير القرار النهائي، وما إذا كان المنسق يعد الاستشهادات المتكررة كفحوصات منفصلة. استهلاك الرموز والكمون يجب أن يُدرج في نفس المقارنة: بروتوكول أكثر أمانًا لا يزال يحتاج إلى تكلفة تشغيلية مفيدة.

للتحقق من الآليات، يمكن للباحثين تعديل الوصول إلى الأحكام السابقة تجريبيًا مع الحفاظ على ثبوت دليل المهمة. يمكنهم مقارنة التقييمات الأولية المستقلة مع تلك التي تتشكل بعد قراءة اللوحة. سيساعد عشوائية ترتيب العرض في فصل تأثير الأدلة عن تأثير التسلسل أو البروز. يمكن للتفسيرات المولدة توجيه الفرضيات، لكنها لا ينبغي أن تكون الدليل الوحيد على سبب تغيير النموذج لإجابته.

تعريف أفضل لموثوقية الوكلاء المتعددين

لغة سلوك القطيع حية، لكن لا ينبغي قراءتها كدليل على أن النماذج تشعر بضغط اجتماعي بشري أو تمتلك معتقدات بشرية. القلق التشغيلي هو ما يمكن ملاحظته: تدخل المعلومات إلى سير العمل، وتؤثر الأحكام على الأحكام اللاحقة، وقد يخفى الجواب النهائي مصدر دعمه.

بالنسبة للمطورين، يجب أن تكون الخطوة التالية تصحيحًا يمكن إثباته. عندما يرتكب أحد الوكلاء خطأً معقولًا، هل يمكن لوكيل آخر تحديد الأدلة المتناقضة؟ هل يمكن للمنسق الحفاظ على هذا الخلاف لفترة كافية للتحقق منه؟ هل يمكن للقرار النهائي توضيح أي الفحوصات المستقلة حلت المشكلة؟

يكسب فريق أكبر الثقة عندما يضيف معلومات يمكن التحقق منها ويحسن القرارات تحت الضغط. العدّ بين الوكلاء، والعدّ بين التأييدات، وإنتاج مناقشات أطول ليست بدائل كافية. أكثر نظام متعدد الوكلاء فائدة هو ذلك الذي تظل أدلته قابلة للفحص حتى عندما يتفق المشاركون.