تضمّ Anthropic ستة مقيّمين من METR بصلاحيات وصول مماثلة للموظفين

أعلنت Anthropic في 15 أكتوبر 2026 أنها بدأت بمنح فريق مدمج من METR، وهي منظمة غير ربحية تقيّم نماذج الذكاء الاصطناعي المتقدمة، إمكانية وصول مماثلة لما يحصل عليه الموظفون. وقد ضمّت الشركة ستة موظفين من METR، وزوّدتهم بأجهزة الشركة ومساحات مكتبية وإمكانية الوصول إلى الأدوات والأنظمة الداخلية.

يأتي الإعلان عقب تعهّد Anthropic في سبتمبر 2026 بتعزيز التقييم المستقل لنماذجها وممارسات السلامة لديها، وعقب توقيعها اتفاق البيت الأبيض بشأن الذكاء الفائق، الذي تعهّدت فيه الشركات بالتعاون مع مدققين أو مقيّمين مستقلين من جهات خارجية. وقالت Anthropic إنها تعاونت مع METR خلال العام الماضي في عدة مراجعات لتقارير المخاطر الخاصة بها.

شروط صلاحيات الوصول المماثلة للموظفين

قالت Anthropic إن مستوى وصول الفريق المدمج إلى الأدوات والأنظمة الداخلية يماثل تقريبًا مستوى وصول فرق تقييم المخاطر التابعة لها. وباستثناء عدد قليل من الفئات المحددة بوضوح — بيانات العملاء، والمعلومات المشمولة بامتياز السرية بين المحامي وموكله، والمعلومات المتعلقة بهياكل النماذج — يُشجَّع موظفو Anthropic على مشاركة المعلومات مع الفريق كما لو كانوا يشاركونها مع زميل يعمل على مخاطر المواءمة.

توضح حاشية في الإعلان الاستثناء المتعلق بهياكل النماذج. ولأن المقيّمين، مثل مفتشي البنوك، قد يعملون أيضًا مع شركات أخرى، قالت Anthropic إنها تتوخى الحذر إزاء احتمال التسرب غير المقصود: فالمعلومات المتعلقة بهياكل النماذج تنطوي على مخاطر عالية لهذا النوع من التسرب، وعادة ما تكون أهميتها لتقييم المخاطر محدودة. وعندما تكون المعلومات المتعلقة بالهياكل وثيقة الصلة، تسعى Anthropic عمومًا إلى مشاركتها، لكن ذلك يتطلب موافقات داخلية صريحة.

بموجب شروط النشر المتفق عليها، ستنشر METR تحليلها لمستويات المخاطر والحوادث والممارسات لدى Anthropic. ولا يحق لـAnthropic منع النشر، لكنها تستطيع مطالبة METR بحجب المعلومات التي تندرج ضمن فئات ضيقة محددة مسبقًا. ولـMETR الحرية في وصف المعلومات المحجوبة علنًا، وفي بيان ما إذا كانت ترى أن حجبها مبرر، ما دامت لا تكشف عن المعلومات المحجوبة.

يقتصر التعاون على فريق صغير يعمل بموجب اتفاقيات ملزمة، ويُفصل موظفو METR الآخرون، بمن فيهم الباحثون الذين يعملون مع Anthropic في مشاريع أخرى، عن عمل الفريق المدمج. ووصفت Anthropic التقييم المدمج بأنه يتيح لعدد قليل من الأشخاص المؤهلين، ممن يعملون وفق معاييرها الأمنية، الاطلاع عن كثب على كيفية سير عملياتها. وأضافت أنه لا يتيح للمنظمات الأخرى الحصول على معلوماتها أو معلومات عملائها وشركائها.

مبررات Anthropic للتقييم المستقل

قالت الشركة إن النماذج ازدادت قوة، ما استلزم ضمانات أقوى وتقييمات أكثر صعوبة للمخاطر. وأوضحت Anthropic أنها تريد أن تكون مسؤولة أمام الجمهور عن القرارات التي تتخذها، لكنها لا تستطيع الإفصاح علنًا عن جميع المعلومات ذات الصلة بعملها في مجال السلامة، لأن بعض هذه المعلومات قد يفيد جهات خبيثة أو يكون حساسًا من الناحية التجارية، مثل المعلومات المتعلقة بالقدرة الحاسوبية أو التدريب. وبدلًا من ذلك، تتيح للمقيّمين من جهات خارجية وصولًا واسعًا إلى معلوماتها، وتطلب منهم مشاركة الأدلة والاستنتاجات المدروسة بشأن المخاطر المرتبطة ببناء نماذجها، بهدف تضييق الفجوة بين فهم المقيّمين لأنظمة إحدى شركات الذكاء الاصطناعي المتقدمة وفهم الشركة نفسها لها.

يسرد الإعلان أربعة أمور يحتاج إليها المقيّمون لتقييم النماذج المتقدمة: الخبرة في تقييم قدرات هذه النماذج، بما في ذلك فهم أوجه القصور المحتملة في التقييمات، مثل تزييف المواءمة؛ والاستقلالية، أي ألا يمتلك المقيّمون أسهمًا في الشركة التي يقيّمونها وألا يعتمدوا عليها ماليًا أو تشغيليًا؛ والحصول على قدر كافٍ من الوصول لتقييم المخاطر بجدية، بما يتجاوز أحدث النماذج ليشمل الاطلاع على كيفية تدريبها وعمل ضمانات السلامة فيها؛ وحرية نشر الملاحظات والتقييمات المتعلقة بنموذج أو عملية.

شبّهت Anthropic الأمر بالإشراف على البنوك، مع إقرارها بأن التشبيه ليس دقيقًا تمامًا: فالبنوك تعرف عن أوضاع المخاطر لديها أكثر مما يعرفه الأطراف الخارجية، لذا يوفد المنظمون مفتشين مقيمين للعمل داخل أكبر البنوك. وإذا كان سلوك أحد البنوك في تحمّل المخاطر قد يهدد الجمهور، يسعى أطراف من خارج البنك إلى استشراف ذلك مسبقًا.

ثلاثة مستويات لصلاحيات الوصول

قالت Anthropic إنها تطور ثلاثة مستويات لصلاحيات وصول المقيّمين. في المستوى الأول، يجري المقيّمون تحقيقات محددة النطاق في المخاطر؛ وتقرر Anthropic نوع الوصول الذي تتيحه لهم، ويمكنهم نشر نتائجهم بموافقتها. وفي المستوى الثاني، يستطيع المقيّمون النشر من دون موافقة Anthropic، ويحصلون على معلومات إضافية، مع احتفاظ Anthropic بحقها في طلب إزالة فئات محددة من المعلومات، فيما يستطيع المقيّمون نشر آرائهم بشأن مدى تبرير حجب تلك المعلومات. أما المستوى الثالث، فهو الترتيب المتبع مع METR: صلاحيات وصول مماثلة للموظفين، وحقوق نشر شبيهة بتلك المتاحة في المستوى الثاني.

وقالت Anthropic إنها تأمل، بمرور الوقت، أن يكون لديها عدة جهات تقييم تعمل ضمن المستوى الثالث، على أن ينشر كل فريق تحليله الخاص لوضع المخاطر لديها وقراراتها الرئيسية.

SecureBio وAccenture ومحادثات في مراحلها الأولى

تقع SecureBio حاليًا ضمن الفئة الأولى. وهي تراجع فصل الأسلحة الكيميائية والبيولوجية في تقرير المخاطر الصادر عن Anthropic في أغسطس 2026، بعد أن أكملت مراجعة تجريبية لتقرير المخاطر السابق ونشرتها. وقالت Anthropic إنها ستنظر، بعد اكتمال هذه المراجعة، في الانتقال إلى مشاريع تتيح صلاحيات وصول وحقوق نشر أوسع.

قالت Anthropic إنها تعمل مع Accenture وFaculty على إرساء شراكة تشمل تقييم النماذج واختبارها خصوميًا، وإجراء تقييمات للمواءمة، واختبار تدابير الحماية في النماذج، وبناء القدرات لدى المؤسسات المشاركة.

وقالت Anthropic أيضًا إنها تجري محادثات أولية مع عدة مؤسسات أخرى، منها Hugging Face. ولأن هذه الشراكات لا تزال في مراحلها الأولى، تزود Anthropic هؤلاء المقيّمين بمعلومات أقل، كما أن حقوقهم في النشر أضيق، فيما تتحقق Anthropic من أن الشركاء يحمون المعلومات السرية ولديهم الموارد والخبرات اللازمة. وقالت Anthropic إن هدفها، مع تقدم الشراكات وتعزز الثقة، هو إشراك مزيد من المقيّمين المستقلين على نحو كامل.

التعهد في سبتمبر

في سبتمبر 2026، نشر الشريك المؤسس لـAnthropic، Dario Amodei، مقالًا بعنوان «علينا ضبط وتيرة التقدم على الحدود»، جعل فيه إشراك مقيّمين مندمجين داخل الشركة، مع صلاحيات وصول مماثلة لتلك الممنوحة للموظفين، الخطوة الأولى ضمن خطة من ثلاث خطوات لضبط وتيرة تطوير الذكاء الاصطناعي المتقدم. وكتب Amodei أن Anthropic تلتزم بهذه الخطوة من جانب واحد، ودعا الحكومات إلى إلزام شركات الذكاء الاصطناعي المتقدم الأخرى باتخاذ الإجراء نفسه. وكتب: «علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي»، حتى يتسنى للوقاية من المخاطر مواكبة تطور القدرات.

ذكر المقال أن Anthropic تعتزم دعوة فريق مراجعة خارجي مندمج داخل الشركة، وتوفير مكاتب لأفراده في مقارها وبطاقات دخول وحواسيب محمولة تابعة للشركة لهم؛ وإتاحة الوصول لهم إلى مساحات العمل والأدوات والصلاحيات، بما يماثل إلى حد كبير ما يتاح لفرق تقييم المخاطر الداخلية، مع بعض الاستثناءات التي يفرضها القانون أو العقود، أو التي تلزم لحماية المعلومات الخاصة بالعملاء والشركاء؛ وإبرام عقد يمنح المراجعين الخارجيين حق نشر النتائج الرئيسية المتعلقة بمستويات المخاطر والحوادث والممارسات والصلاحيات التي مُنحت لهم أو حُرموا منها، من دون أن يكون لـAnthropic أي سلطة تحريرية على ما يُنشر. وبموجب هذه الشروط المقصودة، تحتفظ Anthropic بحق محدود في حجب المعلومات الحساسة أمنيًا أو المحمية قانونيًا أو الحساسة تجاريًا أو السرية الخاصة بأطراف ثالثة، لكنها لا تستطيع حجب النتائج لمجرد أنها غير مواتية لها. كما يجوز للمراجعين أن يعلنوا للجمهور إذا أدى الحجب إلى إزالة معلومة مهمة لاستنتاجاتهم.

قالت Anthropic إنها تشرك المقيّمين طوعًا، وإنها ترى أن على كل شركة تعمل في مجال الذكاء الاصطناعي المتقدم أن تفعل الشيء نفسه. وأضافت أنها تتحرك بسرعة بالتعاون مع عدة مقيّمين، وتتعلم باستمرار أنواع الشراكات الفعالة، وتلتزم بمشاركة المستجدات أولًا بأول.