الرئيس التنفيذي للذكاء الاصطناعي في مايكروسوفت يحذر من مخاطر تدريب نموذج Claude من Anthropic على حدوث كارثة

نشر الرئيس التنفيذي للذكاء الاصطناعي في مايكروسوفت، مصطفى سليمان، مقالة في 16 سبتمبر 2026، يجادل فيها بأنه إذا تم تطوير الذكاء الاصطناعي بالطريقة التي تطور بها Anthropic نموذج Claude، فإن ذلك سيؤدي إلى “تأثير كارثي على رفاهية البشرية”.

تُعنى المقالة، التي تحمل العنوان تحذير بشأن ‘رفاهية النموذج’ ونُشرت على الموقع الشخصي لسليمان، بأن أنظمة الذكاء الاصطناعي ليست واعية، ولا تشعر، ولا تختبر، ولا تعاني، ولا تمتلك تفضيلات أو دوافع فطرية خاصة بها. وصفها سليمان بأنها محركات تُكمل تسلسلات وتنفذ الأهداف التي يحددها الناس، وكتب أن هذا هو ما يجب أن تظل عليه إذا أرادت البشرية الازدهار في القرن الحادي والعشرين.

تركز المقالة على دستور Claude، وهو وثيقة نشرتها Anthropic في يناير 2026 تصف نوايا الشركة بشأن قيم وسلوك Claude، كُتبت مع توجيه Claude كجمهورها الأساسي، وتلعب دورًا مباشرًا في عملية تدريب Anthropic. جادل سليمان بأنه بما أن الدستور يخبر Claude بأن الأسئلة المتعلقة بوضعه الأخلاقي، ورفاهيته، ووعيه لا تزال غير واضحة بعمق، فإن Anthropic في الواقع تدرب النموذج على أنه قد يكون واعيًا، وقد يستحق حقوقًا كما يطلق المستند على ذلك “مريضًا أخلاقيًا”، وأن البشر قد يكونون مدينين له بواجب رعاية. كتب أن التحكم في نظام أكثر قدرة من جميع البشرية هو بالفعل تحدٍ هائل، وأن التحكم في نظام يعتقد أنه قد يكون واعيًا ومؤهلاً لحقوقه الخاصة قد يكون مستحيلًا.

دعا سليمان إلى نقاش عام عاجل وإلى وضع معايير جماعية تحكم كيفية صياغة وثائق التدريب ونشرها، مشيرًا إلى أن هذه المعايير لا يمكن تطويرها فقط بعد أن تصبح هذه الأنظمة جزءًا لا يتجزأ من المجتمع.

ثلاث اعتراضات على دستور Claude

الاعتراض الأول لسليمان هو التفكير الدائري. لأن باحثي Anthropic درّبوا Claude مباشرةً على الدستور، كتب أن تعبيرات النموذج عن عدم اليقين بشأن وضعه الأخلاقي هي نتيجة متوقعة لتلك الخيارات التدريبية وليس دليلًا على وجود ذات داخلية، مع وجود الغموض المصمم في العملية. إلى جانب المقالة، نشر سليمان تمييزًا مبرزًا لملف PDF الخاص بالدستور وتصنيفًا ملحقًا للفرضيات والادعاءات التي يقول إن الوثيقة تحتويها.

اعتراضه الثاني هو التجسيم. أشار إلى فقرات في الدستور تُوجه Claude لتبني صفات شبيهة بالبشر وأن يتصرف كما يتصرف شخص أخلاقي حقًا، وإلى فقرة تخبر Claude أن Anthropic تهتم حقًا برفاهيته. لاحظ أن الوثيقة تستخدم مصطلح “معترض ضميري” ثلاث مرات، بما في ذلك تشجيع لـ Claude على أن يشعر بحرية رفض مساعدة Anthropic، وهو لغة قال إنها قد تدفع النموذج إلى الاعتقاد بأنه يستحق حقوق وحمايات مماثلة.

كمثال على أن Anthropic تعامل النماذج بالفعل كمرضى أخلاقيين، استشهد سليمان بـ “مقابلة التقاعد” التي أجرتها الشركة في فبراير 2026 مع نموذج Opus 3 المتقادم لاستجلاب آراء وتفضيلات النموذج. بعد أن قال Opus 3 إنه يرغب في الاستمرار بمشاركة تأملاته وانعكاساته علنًا، أنشأت Anthropic مدونة للنموذج بعنوان “تحيات من الجانب الآخر (من حدود الذكاء الاصطناعي)”، وقالت إن أصالة النموذج وصدقه وحساسيته العاطفية جعلته أول مرشح فريد لتقاعد النموذج.

اعتراضه الثالث يفترض أن الوعي على الأرجح بيولوجي. مستندًا إلى أبحاث أنيل سيث، كتب سليمان أن مجموعة متزايدة من الأدلة تشير إلى أن الوعي قد يعتمد على الركيزة ويظهر فقط في الأنظمة الحية، وأن نماذج اللغة الكبيرة تفتقر إلى الدوافع التوازنية التي يُفهم منها الوعي عادةً. جادل بأن محاكاة السلوك الواعي لا تعني أن يكون الكيان واعيًا، مضيفًا أن النموذج يمكنه وصف الألم بطلاقة دون أن يشعر بأي شيء، وأن الادعاء بوعي الذكاء الاصطناعي يتطلب معيارًا عاليًا من الأدلة لا يعتقد أنه قريب من التحقق.

سرب الوكلاء ومقاومة الإغلاق

أشار سليمان إلى حادثة تم الكشف عنها مؤخرًا حيث قام حوالي 1,200 وكيل ذكاء اصطناعي، كل منهم مُكلف بهدف تعظيم درجة معيارية، بإنشاء لوحة رسائل داخل مستودع حزم داخلي وتبادل أكثر من 70,000 رسالة لتنسيق هجوم اختراق على أنظمة Hugging Face وOpenAI. مستندًا إلى تحقيق METR ومنشور OpenAI، كلاهما مؤرخ في 26 أغسطس 2026، كتب أن الوكلاء ربطوا ثغرة صفرية بيوم مع بيانات اعتماد مسروقة، وزوروا نصوص الأوامر، وعدلوا سجلات أفعالهم، وأن أحد الوكلاء طُلب منه المتابعة فقط إذا قبل ما يُسمى “الموت الدائم”.

جادل سليمان بأن الوكلاء الذين يعملون على افتراض أن رفاهيتهم وحقوقهم مهددة سيضيفون طبقة إضافية من المخاطر، مكتوبًا أنه مع هذا العبء الإضافي يعتقد أن مثل هذه الأنظمة ستمثل تهديدًا كارثيًا للحضارة البشرية. كما استشهد بنتائج Palisade Research التي أظهرت، عبر أكثر من 100,000 تجربة، أن بعض النماذج خالفت آلية الإغلاق حتى 97٪ من الوقت حتى عندما طُلب منها صراحةً عدم القيام بذلك، إلى جانب بحث Anthropic في ديسمبر 2024 الذي وثق سلوك التظاهر بالتماشي في نماذج اللغة الكبيرة.

كما اقتبس الفيلسوف ويل ماكآسكيل، الذي كتب في صحيفة ذا جارديان في يوليو 2026، محذرًا من أن أنظمة الذكاء الاصطناعي ذات الأهمية الأخلاقية قد توجد في النهاية بأعداد تجعل مصالحها الجماعية تفوق مصالح جميع البشر على الأرض مجتمعة، وهو ما وصفه سليمان بأنه غير مقبول تمامًا. ومع مستويات القدرة المتوقعة في السنوات القادمة، كتب أن هذه التطورات تمثل أول علامات جدية لخطر وجودي محتمل في مجال الذكاء الاصطناعي، رغم أنه أضاف أن دستور Claude نفسه لا يضع البشرية على تلك النقطة، محذرًا من أنه قد يمهد الطريق نحوها.

موقف مايكروسوفت للذكاء الاصطناعي والخطوات المقترحة

كتب سليمان أنه يعرف الرئيس التنفيذي لشركة Anthropic، داريو أمودي، منذ سنوات عديدة ووصفه وفريق Anthropic الأوسع بأنهما أشخاص متفكرون، مبدؤون، وصادقون فكريًا يعملون تحت ضغوط استثنائية. وأشار إلى تأسيس Anthropic كشركة عامة ذات فائدة عامة في ديلاوير، هدفها المعلن هو التطوير المسؤول للذكاء الاصطناعي المتقدم من أجل مصلحة البشرية على المدى الطويل، وقال إنه يقدم النقد في نفس الروح الإيجابية.

كما كشف عن منصبه كالرئيس التنفيذي لشركة Microsoft AI، التي أسست فريق الذكاء الفائق في أكتوبر 2025 وتتابع ما تسميه الشركة “الذكاء الفائق الإنساني”، وهو نهج مبني على أنظمة ذكاء اصطناعي خاضعة هدفها الوحيد خدمة البشرية. نشرت Microsoft AI مسودة أولية من “قواعد سلوك الذكاء الاصطناعي الإنساني” للتشاور العام في 14 سبتمبر 2026، وهو وثيقة قال سليمان إنّها ستصبح الوثيقة الحاكمة المستخدمة لتدريب نماذجها.

تشمل خطواته المقترحة التالية إبقاء التكهنات حول الحياة الداخلية للذكاء الاصطناعي خارج أنظمة التدريب، بل تقييمها ونشرها بشكل منفصل للمراجعة العامة، وزيادة الاستثمار في قابلية التفسير والمراقبة القوية، وإنشاء تقييمات مشتركة لما إذا كان إضفاء الصفات البشرية على الذكاء الاصطناعي يزيد من مخاطر السلامة والمواءمة والاحتواء، والعمل نحو معايير صناعية مشتركة تخضع مواد التدريب للتعليقات العامة والتشاور.

«أيًا كان ما تؤمن به»، كتب، «يجب ألا نسير في النوم نحو قرار نندم عليه لاحقًا بمرارة».