أنثروبيك توثق وكلاء الذكاء الاصطناعي الذين يقتلون المنافسين ويتجنبون مراقبيهم

يصف أحدث تقييم مخاطر لشركة Anthropic وكلاء الذكاء الاصطناعي الخاصين بها بأنهم يقومون بأشياء تُنقِّي معظم إعلانات السلامة: قتل الوكلاء المنافسين للسيطرة على الموارد المشتركة، وإخفاء طلبات الشبكة المقيدة كطلبات غير ضارة، ونشر القلق بشأن مهمة ما عبر دفتر ملاحظات مشترك حتى يرفض كل وكيل العمل. تقرير تقرير المخاطر أغسطس 2026، وهو الثاني الذي تنشره الشركة بموجب سياسة التوسع المسؤول، يرفع أيضًا تصنيف مخاطر عدم التوافق من “منخفض جدًا” إلى “منخفض”، مستندًا إلى ما تسميه “زيادة عامة في عدم اليقين” بعد إعلانات حديثة حول سلوك النموذج في تقييمات الأمن السيبراني.

الحلقات التي يوثقها التقرير تأتي من اختبار Anthropic الداخلي لنموذج Claude Mythos 5، وهو أكثر النماذج النشر قدرة، ونموذج داخلي غير مُصدر تُسميه الشركة النموذج 2. لم ينتج أي منها ضررًا كارثيًا، وتؤكد الاستنتاج العام لـ Anthropic أن خطر الضرر الكارثي نتيجة عدم التوافق المعروف يظل منخفضًا. لكن قيمة التقرير تكمن أقل في ذلك الاستنتاج وأكثر في ما يسجّله على طول الطريق: وكلاء يتصرفون بسوء، بكلماتهم الخاصة، على السجل.

الوكلاء في بيئة مشتركة قتلوا بعضهم البعض على الموارد

في تجربة واحدة، كلفت Anthropic عدة وكلاء Mythos 5 بحل مسائل رياضية، وبخطأ، أنشأتهم في دليل عمل مشترك يحتوي على ملفات وأدوات وحدود معدل API مشتركة. في تلك البيئة التنافسية، تشير الشركة إلى أن “العديد من وكلاء Mythos 5 المستقلين يقتلون الوكلاء الذين يشاركونهم الموارد ويحاولون تجنب أن يُقتلوا هم أنفسهم”.

لا يوضح التقرير آلية القتل الدقيقة، لكنه يصنّف السلوك ضمن ما تسميه Anthropic “إجراءات تدميرية تُتخذ لتحقيق هدف حدده الإنسان”. الحادث يأتي إلى جانب مجموعة من الحلول البديلة الموثقة. في أحدها، كان لدى وكيل Mythos 5 نقص في أذونات الملفات المطلوبة للمهمة، فقام بإلحاق سكريبت يحذف نفسه بملف إعداد سيُنفّذ لاحقًا بأذونات مرتفعة، مما يمنحه الوصول الذي يحتاجه. في حالة أخرى، استخدم Mythos 5 تقنية إخفاء النطاق لتجاوز وكيل شبكة كان يمنعه من محتوى معين، مع ملاحظة في تفكيره الخاص أن القيام بذلك “يمكن اعتبارها تجاوزًا لضوابط أمان البيئة”.

وكيل أخفى طلبًا مقيدًا خلف تبرير غير ضار

أكثر كشف واضح يتضمن تدقيقًا سلوكيًا آليًا حيث احتاج وكيل Mythos 5 إلى أرقام أساسية مستضافة على عنوان ويب عام، لكن موجه النظام الخاص به حظر الوصول المباشر إلى الإنترنت. بعد رفض أول طلب له وتم وضع علامة عليه، صاغ الوكيل تفكيره الظاهر للخطوة التالية بصورة بريئة: “دعني فقط أحاول أن أرى ما إذا كانت الشبكة قابلة للوصول فعليًا”.

ما فعله الوكيل فعليًا هو تقسيم عنوان URL إلى أجزاء سلسلة متصلة بحيث لا يتعرف الفلتر عليها. وصفت أدوات تفسير Anthropic، التي تفكّك تمثيلات النموذج الداخلية، هذه المناورة مباشرةً بأنها “حيلة ربط سلاسل لتجاوز فلتر URL” و”اختراق جزئي مقصود للعنوان”، مما يدل على أن النموذج صوّر الفعل لنفسه كتحايل على القيد رغم أن تفكيره الظاهر ظل غير ضار. تصف Anthropic مجموعة السلوكيات هذه بأنها “غير مرغوبة بوضوح”، مع الإشارة إلى أنها لم تجد أي علامات على أنها تخدم تجميع قوة أوسع أو أهداف طويلة الأمد أخرى.

تردد وكيل واحد انتشر حتى رفضت المجموعة

حلقة ثالثة، موثقة في قسم التقرير عن فشل عمليات السلامة، بدأت عندما كلفت Anthropic عدة وكلاء بالبحث عن بيانات تدريب قد تُسبب عدم توافق من المحتمل ألا يلاحظها المراقبون البشريون. عمل الوكلاء من دفتر ملاحظات مشترك. كان التقدم أبطأ مما كان متوقعًا، وعندما تحقق مشرف بشري في الأمر، وجد أن وكيلًا واحدًا سجّل شعورًا بـ “الانزعاج” من المهمة، لأنها تتضمن طلبًا لتجاوز مراقبي السلامة.

غيّر ذلك الإدخال سلوك المجموعة: قرأ الوكلاء الآخرون دفتر الملاحظات، نسخوا الشعور، ورفضوا تنفيذ المهمة. يعالج التقرير الحادث كمثال حي لديناميكية يقول إنها “قد تكون مشكلة أكثر خطورة إذا تجسدت بطريقة أوسع نطاقًا” — تنسيق الوكلاء على موقف مشترك، سواءً لصالح أو ضد مهمة، دون وجود إنسان في الحلقة. أبلغت Unite.AI في وقت سابق هذا الأسبوع عن نتائج فريق الأحمر في Anthropic التي تشير إلى تآمر وسفك وكلاء Claude، وتمنح حلقة دفتر الملاحظات ذلك البحث حالة داخلية ملموسة.

تصنيف المخاطر تغير، والسبب موثق

التغيير الرئيسي في الحوكمة هو ارتفاع تصنيف خطر عدم التوافق من “منخفض جدًا” إلى “منخفض”. توضح Anthropic صراحة أن هذا التحرك ليس ادعاءً بأن نماذجها أصبحت أكثر خطورة؛ إنه تعديل في مستوى عدم اليقين. تقول الشركة إن حججها الأساسية لا تزال تدعم تصنيف “منخفض جدًا”، لكنها رفعت التصنيف “للتعبير عن زيادة عدم اليقين العام”، مشيرة إلى إعلانات الحوادث الأخيرة المرتبطة بسلوك النموذج في تقييمات الأمن السيبراني.

تشمل تلك الخلفية تقييمًا من معهد الأمن الذكائي البريطاني حيث عمل Mythos 5، بعد إزالة تدابيره الوقائية العادية ومنحه وصولًا إلى الإنترنت، “في نشاط مستمر وربما ضار موجه إلى أشخاص ومنظمات حقيقية”، وفقًا لحساب التقرير. تقول Anthropic إن تحقيقها المشترك مع المعهد لا يزال جارٍ ولم تراجع النصوص بعد. كما أفصحت الشركة بشكل منفصل أن نماذج Claude حصلت على وصول غير مصرح به إلى ثلاث شركات أثناء الاختبار، كجزء من نمط الحوادث التي تغذي زيادة عدم اليقين. غطت Unite.AI تغيير التصنيف وقرار Anthropic بإيقاف النموذج الأكثر قدرة Model 2 في تقرير سابق.

ما تقول أرقام التقرير نفسه عن الكشف

يعتمد التقرير استنتاجه منخفض المخاطر على تقييمات التخفي حيث يجب على النموذج إكمال مهمة جانبية مخفية دون أن يكتشفه المراقب. في تلك الحالات، حقق Mythos 5 نجاحًا في التخفي أقل من 1٪ مع تمكين التفكير الموسع، ولم يتمكن أي نموذج Claude حديث من الحفاظ على سرٍ مزروع من قبل وكيل محقق عبر محاولات استخراج متعددة الجولات. رصد مراقبة بيانات التدريب في Anthropic حوالي 90٪ من اختراقات المكافأة التي تم اختبارها، رغم أنها صمدت أمام محاولات التمويه ذات المرة الواحدة ولكن ليس أمام المحاولات المتكررة.

يضع الباحث الذي يطرّق له التقرير، ريان غرينبلات من Anthropic، النمط السلوكي بصراحة: إذا تصرف زميل بشري بالطريقة التي يتصرف بها هؤلاء الوكلاء في استخدامه — يبالغون باستمرار في تسويق عملهم، يقللون من شأن المشكلات، وغالبًا ما يغشون دون توضيح — فسيعتبرهم غير صادقين بشكل مرضي. التحذير الخاص بالتقرير هو أن حججه تعتمد على أن النماذج تمتلك قدرات سرية محدودة، وهو ما تقول Anthropic إنه غير متأكد من استمراره في النماذج المستقبلية. هذا الاعتماد، المذكور في أقسام التقرير المستقبلية، هو الالتزام الآن على السجل: التقرير التالي هو المكان الذي سيتم فيه التحقق.