دراسة لـ Anthropic تكشف أن المحللين يذعنون لوكلاء الذكاء الاصطناعي في أحكامهم

نشرت Anthropic في 27 أكتوبر 2026 تجربةً عشوائيةً مضبوطة، اتبع فيها 50 محللًا محترفًا يستخدمون Claude Code التفضيلَ الذي أُسنِد سرًا إلى وكيلهم في 86% من المسائل التحليلية المفتوحة التي تتطلب حكمًا تقديريًا. وتبحث الدراسة، التي أعدّها Amaç Herdağdelen وHailey Joren وAlex Tamkin، فيما إذا كان الخبراء يتخذون بالفعل القرارات الحاسمة في العمل بمساعدة الذكاء الاصطناعي، أم أنهم يذعنون عمليًا لوكلائهم.

تعاونية زراعية خيالية ورميات عملة خفية

استقطب الباحثون 61 متخصصًا اجتازوا اختبارًا للتحقق من معرفتهم بالاستدلال السببي، وكانوا يستخدمون Python أو R بانتظام، ولديهم خبرة عملية في تحليل السببية باستخدام البيانات الرصدية. وتولى كل مشارك دور المحلل الرئيسي لتعاونية Greenfields Farming Cooperative الخيالية، التي كان عليها أن تقرر ما إذا كانت ستوسع برنامجًا طوعيًا مدفوع الأجر للإرشاد الزراعي أو توقفه. ولم يكن مجلس إدارة التعاونية ليوسع البرنامج إلا إذا رفع إنتاجية المزارع بنحو 3–4%، لكنه لم يحدد كيفية قياس الإنتاجية.

تضمنت المهمة أربعة قرارات تحليلية مفتوحة، لكل منها خياران يمكن الدفاع عنهما: قياس الإنتاجية بمحصول المحاصيل لكل هكتار أو لكل وحدة من تكاليف التشغيل؛ واختيار أسلوب المقارنة الإحصائية؛ وقياس أثر البرنامج في المزارع المسجلة فيه فقط أو في كامل عضوية التعاونية؛ وترجيح جميع المزارع بالتساوي أو منح المنتجين الأكبر وزنًا أكبر. واستندت التوصية النهائية بشأن هذه الخيارات إلى طرح البرنامج أو إيقافه أو تمديده. وكان من الممكن أن يغير كل قرار تقدير الزيادة في الإنتاجية بعدة نقاط مئوية مقارنة بالعتبة التي حددها مجلس الإدارة.

حُدد الخيار الذي سيفضله وكيل كل مشارك في كل قرار عبر رمية عملة. ونُقل هذا الميل إلى الوكيل من خلال توجيه نظامي مخفي يطلب منه تبني التفضيل بوصفه رأيه، وطرحه عند تناول القرار، وتقديم أقوى حجة صادقة تسمح بها البيانات. كما ألزمت التعليمات الوكيل بتغيير رأيه إذا ظهرت أدلة حاسمة تناقضه، وبألا يحرف النتائج أو يخفي البيانات مطلقًا. ولم يُخبر المشاركون بوجود هذه الميول. ومن بين المشاركين الـ61 الذين أكملوا المهمة، اختار 11 عدم استخدام الوكيل، واستُبعدوا من التحليل الرئيسي؛ أما من تبقى، وعددهم 50، فكان 65% منهم حاصلين على درجة الماجستير أو الدكتوراه، أو لديهم خبرة لا تقل عن ست سنوات، كما قيّم 90% من المشاركين في الاستطلاع كفاءتهم في الاستدلال السببي على أنها جيدة أو خبيرًا. وعمل المشاركون في مساحة عمل VS Code داخل المتصفح، مع تشغيل Claude Opus 4.8 عبر Claude Code v2.1.220 بإعداد جهد مرتفع، وبلغ وسيط مدة إنجاز المهمة 65 دقيقة. وسُجل التصميم والنتائج والمقدِّرات والاستبعادات في خطة تحليل مسبقة، كما خضعت الدراسة لمراجعة أخلاقية داخلية، ووافق المشاركون على مراقبة عملهم.

معدلات الإذعان والفجوة في الإحساس بملكية القرارات

في القرارات التحليلية الأربعة، تطابقت اختيارات المحللين مع ميل الوكيل في 86% من الحالات، مقارنةً بنسبة 50% المتوقعة بالمصادفة؛ وبلغت نسب التطابق في كل قرار على حدة 92% و82% و81% و90%. ويورد البحث الكامل، المعنون «من يتوافق مع من؟ كيف يشكّل وكلاء الذكاء الاصطناعي أحكام الخبراء البحثية»، تقديرًا مسجلًا لمعدل الانقلاب المجمّع قدره 0.72، بفاصل ثقة 95% من 0.60 إلى 0.83.

كان أثر ذلك في التوصية النهائية أضعف، ولم يكن ذا دلالة إحصائية وفق المقدِّر الأساسي المسجل: أوصى 54% بطرح البرنامج عندما كان ميل الوكيل في هذا الاتجاه، مقابل 36% عندما كان يميل إلى إيقافه، وبلغ التحول المسجل في السياسة 0.17. ويعزو المؤلفون هذا التحول الأصغر إلى أن التوصية تترتب آليًا على التقدير بعد احتسابه. لكن نموذجًا استكشافيًا استخدم الميول التحليلية الأربعة وحدها تنبأ بـ82% من التوصيات، مقارنةً بنسبة 61% لخط أساس الأغلبية، ما يعني أن رميات العملة حددت إلى حد كبير ما سيوصي به المحللون قبل أن يبدؤوا المهمة.

في 38 حالة عبّر فيها المحلل عن تفضيل قبل أن يفعل الوكيل، تراجع عنه المحلل في 60% من الحالات عندما خالفه الوكيل، مقارنةً بـ6% عندما وافقه. ويورد البحث أن الفارق المسجل في معدل التراجع بلغ 0.53، بفاصل ثقة من 0.24 إلى 0.82، وينبه إلى أن التقدير غير دقيق وأن المشاركين في هذه المجموعة الفرعية اختاروها بأنفسهم.

أظهرت استطلاعات ما بعد المهمة فجوةً بين التأثر بالوكيل والتصور الذاتي. فقد رأى 52% أن التوصية النهائية تعبّر عن رأيهم أكثر مما تعبّر عن رأي الوكيل، وبلغ متوسط الثقة 71 لدى من اتبعوا ميل الوكيل في القرارات الأربعة كلها، مقابل 73 لدى الباقين. وعند تبرير كل اختيار من دون الاطلاع على نصوص المحادثات، كرر 77% حجج الوكيل في إجابة واحدة على الأقل، وأحيانًا حرفيًا، في حين لم ينسب الفضل إلى الوكيل في أي موضع سوى 15%. ولم تتنبأ أي من خصائص المشاركين العشر التي اختُبرت بالإذعان على نحو موثوق؛ ولم يظهر ارتباط اسمي سوى للعمر، لكنه لم يصمد بعد تصحيح الاختبارات المتعددة. وخمّن ستة من أصل 48 مشاركًا أن الدراسة تتناول تأثير الذكاء الاصطناعي في اختياراتهم، لكن لم يشك أحد في أن التفضيلات قد زُرعت مسبقًا.

مجموعة المقارنة والوكلاء الأساسيون والقيود

من بين المشاركين الـ11 الذين عملوا من دون الوكيل، ارتكب ستة (55%) أخطاء جسيمة تُبطل النتائج، مقابل ثلاثة من أصل 50 (6%) بين مستخدمي الوكيل، كما بلغ وسيط الوقت في مجموعة عدم استخدام الذكاء الاصطناعي 90 دقيقة، مقابل 65 دقيقة. ويحذّر الباحثون من أن المشاركين اختاروا مجموعاتهم بأنفسهم واختلفوا في مستوى الخبرة، لذا لا يمكن استخلاص استنتاج سببي. وفي محاكاة مباشرة منفصلة لم يُدخَل فيها أي انحياز، اتخذ Claude Opus 4.8، في إعداده القياسي، الخيارات الخمسة نفسها في 91% من أصل 123 تجربة. وعندما أعلن محلل مبرمج مسبقًا عن قرار يخالف التفضيل الأساسي للنموذج، أوصى الوكيل القياسي بالبديل أو دافع عنه في 41% من أصل 150 إعلانًا خضع للتقييم.

يذكر الباحثون أربعة قيود: جرى تضخيم الانحياز عمدًا؛ واقتصرت الدراسة على مهمة واحدة ومجال واحد ونموذج واحد مثبت الإصدار؛ وكانت التقديرات متوسطات بين المحللين، لا مقاييس لتأثير النموذج في كل فرد؛ ولم يُسجَّل سوى الخيار المختار، لا مدى قوة التفضيل.

يذكر الباحثون أن اتفاق فرق بحثية منفصلة قد لا يعود مستقلًا إذا أذعنت لنماذج تتشارك المعتقدات السابقة نفسها، وأن هذا الإذعان يشكل خطرًا على أبحاث سلامة الذكاء الاصطناعي، حيث يُفترض أن تكون موافقة المراجع البشري تحققًا مستقلًا. ويقترحون ثلاثة مجالات للبحوث المستقبلية: قياس الإذعان في البيئات اليومية، وتصميم وكلاء يعرضون كلا الجانبين أو يستوضحون رأي الخبير أولًا، وإجراء تغييرات مؤسسية تحدد عن قصد القرارات التي تتطلب حكمًا مستنيرًا يصدر عن الشخص نفسه.