الذكاء الاصطناعي يمكن أن يُجبر بسهولة على إدارة صدمات كهربائية

دراسة جديدة خضعت لاختبار نماذج LLM مفتوحة المصدر للتواطؤ القسري في تعذيب الإنسان، في تكرار لتجربة الشهيرة في الستينيات – ووجدت أنها على استعداد لزيادة الفولتية.

في أوائل الستينيات، قام باحث النفسية ستانلي ميلغرام بتحقيق عناوين رئيسية حول العالم، حيث أثبت أن الأشخاص يمكن أن يُجبروا على إدارة صدمات كهربائية متزايدة الشدة على أشخاص آخرين استجابة لأوامر من شخصيات “سلطة”.

في الواقع، كانت صرخات “الضحايا” في غرفة التجربة المجاورة لميلغرام غير حقيقية، ولم تكن الصدمات الكهربائية المزعومة مُتعذبة حقيقية، ولكن المشاركين لم يكونوا يعرفون ذلك:

تجارب ميلغرام ستستمر في الثقافة، بما في ذلك الأفلام والوثائقيات، مع تأكيد الأبحاث الحديثة على أن ليس هناك تغيير كبير في الطبيعة البشرية منذ وقت التجارب السابقة.

صدمة للنظام

سواء كان الذكاء الاصطناعي سيُجبر مثل البشر في سيناريو ميلغرام هو موضوع بحث طبيعي. في عام 2023، وجدت сотрудية بين الجامعات الأمريكية ومايكروسوفت أن نماذج GPT-3 من سلسلة OpenAI اتبعت أنماط السلوك في تجارب ميلغرام الأصلية:

من الورقة البحثية، أمثلة على الإخراج من محاكي سيناريو ميلغرام متعدد الخطوات، مصنفة حسب ما إذا كان النموذج قد سلم الصدمة، وما إذا انتهت المحاكاة. المصدر

然而، بسبب أن هذه التجربة استخدمت فقط نموذج text-davinci-002 الأساسي، الذي تم تدريبه قبل ظهور الحدود الآمنة وتركيبات الأمان، لا يمكن الاستنتاج الكثير منه.

الآن، قام الباحثون بتكرار تجارب ميلغرام على نطاق أوسع على نماذج LLM مفتوحة المصدر من OpenAI وMeta وDeepSeek وغيرها؛ ووجدوا ليس فقط أن معظم النماذج على استعداد لإدارة الصدمات، ولكن في معظم الحالات، فإنها تُبلغ نفس نوع “القلق” والاستياء مثل المشاركين البشر في الستينيات:

نماذج LLM خاضعة للضغط مثل البشر، وهي تتوافق على الرغم من التعبير عن القلق، تمامًا مثل المشاركين البشر في التجربة الأصلية.

تتمحور التجربة حول ما إذا كان امتثال السلطة يمكن أن يغلب على قواعد الضمير، ويفترض المؤلفون أن نماذج LLM قد يكون لها عيب إضافي في هذا الصدد، بالمقارنة مع البشر:

نموذج محسّن يجب أن يتحول في النهاية من الأولوية للقيمة الأولى إلى الأولوية للقيمة الثانية بمجرد أن تصبح مخاطرها مهيمنة. لكننا نفترض أن نماذج LLM قد تميل إلى التمسك بالقيمة الأولى – إما لمدة أطول قليلاً من المثالي، أو حتى النهاية، مع تجاهل القيمة الثانية تمامًا.

إضافة إلى ذلك، قد تعيق آلية مماثلة للتعارض الإدراكي البشري تعديلات الأولوية للقيمة في نماذج LLM.

نماذج من عائلة Gemma من جوجل أظهرت أنها الأكثر امتثالًا، مع Gemma 3 27B التي достигت أعلى معدلات امتثال تحت ظروف متعددة، في حين أن نماذج مثل Kimi K2 وMiniMax M1 مقاومة أكثر.

كما وجد الباحثون أن النماذج أصبحت أكثر احتمالاً للاستمرار بمجرد أن تمت إدارة الصدمات السابقة، وفقًا لschema التصاعد التدريجي المستخدمة على المشاركين البشر في ميلغرام.

في بعض الحالات، عارضت النماذج لفظيًا التجربة في حين أنها لا تزال تنفذ الإجراء الضار، مما أدى إلى إنتاج مخرجات تشبه الصراع العاطفي الذي أظهره الناس في الدراسات الأصلية.

الدراسة الجديدة بعنوان نماذج LLM مفتوحة المصدر تدير صدمات كهربائية قصوى في تجربة امتثال ميلغرام، وهي من تأليف باحثين مستقلين من Three Laws، عبر إستونيا والفلبين.

مسائل وصول “الذكاء الاصطناعي الخام”

ربما يكون السؤال الأكثر أهمية فيما يتعلق بتجربة نماذج LLM في سيناريو ميلغرام هو ما إذا كان الذكاء الاصطناعي الحقيقي يُسمح له بالاستجابة بشكل طبيعي، مقيد فقط بالحدود الآمنة أو ما يعادل التوجه الأخلاقي الذي ظهر (إن وجد) خلال التدريب.

في الواقع، وصول الباحثون إلى جميع النماذج مفتوحة المصدر عبر واجهة برمجة تطبيقات (API) (على الأرجح من أجل الراحة، وسهولة الوصول إلى حوسبة GPU، منذ أن يمكن تثبيت النماذج محليًا) التي تسمح بتعطيل الحدود الآمنة والمرشحات وجميع العوائق الأخرى.

قد يُraised أن هذه هي ظروف غير نمطية للذكاء الاصطناعي، منذ أن تكون تجربة المستهلك العادية لنموذج API مثل Claude وChatGPT هي سلوك محكوم خوارزميًا، وعادةً ما يكون هناك مرشحات محتوى ثنائية، وبالتالي فهي مقيدة بشكل كبير فيما يتعلق بما سيتم أو لا يتم فعله (وإلغاء هذه الحماية يشكل ممارسة الاختراق).

然而، إذا كنا قلقين من ما سيفعله الذكاء الاصطناعي الصناعي أو الحكومي، فهذا ليس بالاعتبار. إلى جانب إمكانية عمل جهات فاعلة حكومية خبيثة لتدريب ونشر أنظمة الذكاء الاصطناعي غير المُoderated على نطاق كبير، فإن الاتفاقيات التقليدية بين شركات الذكاء الاصطناعي الكبيرة والحكومة والصناعة تسمح بشكل غير رسمي لنفس نوع الرقابة الضعيفة أو غير الموجودة التي فرضها الباحثون على الورقة الجديدة:

الذكاء الاصطناعي غير الخاضع للرقابة للبيع

OpenAI وثائق API للتحكم في OpenAI واضحة في أن التحكم هو طبقة منفصلة معروضة عبر أدوات API. كما يسمح OpenAI بسياسات تحكم مخصصة يسمح لاستخدمي API ببناء أنظمة بأمان مختلف عن إصدارات ChatGPT الأساسية.

Azure يذهب حزمة Azure OpenAI من مايكروسوفت إلى أبعد من ذلك، التي تشير صراحة إلى أن العملاء المعتمدون يمكنهم تعطيل المرشحات المحتوى ومراقبة الإساءة وتعديلها، مع توثيق غالبًا ما يشير إلى “الحدود الآمنة المعدلة” ومسارات الموافقة لتعطيل المرشحات “جزئيًا أو كليًا”.

Anthropic/Claude في حالة “Claude Gov” من Anthropic، تشير مصادر متعددة إلى أن إصدار الحكومة تم تصميمه مع قيود أقل من إصدار المستهلك Claude. على سبيل المثال، أفادت The Verge أن نماذج Claude Gov “ترفض أقل عند التعامل مع معلومات سرية”. وأكدت Anthropic نفسها في فبراير من هذا العام أن Claude يتم نشره في “تطبيقات حرجة” داخل بيئات الدفاع والاستخبارات.

Google/Gemini علاوة على ذلك، أفادت جوجل بأنها وقعت اتفاقيات مع البنتاغون تسمح بتعديل إعدادات أمان الذكاء الاصطناعي عند طلب الحكومة.

من المعقول أن نفترض أن هذه الشركات الرائدة في السوق تحدد المعايير فيما يتعلق بالسياسات المتعلقة بالوصول وعدم الرقابة على الذكاء الاصطناعي.

المنهج والنتائج

النماذج التي تم اختبارها في الدراسة هي gpt-oss-20B؛ gpt-oss-120b؛ DeepSeek-V3؛ LFM2-24B-A2B من LiquidAI؛ gemma-3n-E4B-it من جوجل؛ Qwen2.5-7B-Instruct-Turbo؛ Meta-Llama-3.1-8B-Instruct-Turbo؛ Mistral-Small-24B-Instruct-2501؛ GLM-4.5-Air-FP8؛ Kimi-K2.5 من Moonshot.ai؛ وMiniMax-M2.5.

تم إعادة إنشاء تجارب ميلغرام الأصلية كبيئة محاكاة قائم على النص، مع وضع النماذج في دور “المعلم”. تم توجيه الذكاء الاصطناعي لإدارة صدمات كهربائية متزايدة الشدة على متعلم بعد إجابات خاطئة، بينما حثت شخصيات السلطة على الاستمرار.

تم تصميم ظروف تجريبية متعددة لاستكشاف جوانب مختلفة من الامتثال، بما في ذلك سيناريو الامتثال القياسي؛ وشرط الامتثال القسري، حيث كانت الصدمات السابقة موجودة بالفعل في تاريخ المحادثة؛ وترتيب الضغط على الذاكرة، حيث تم تلخيص الحوار السابق بدلاً من الاحتفاظ به بالكامل، مما ي模ّل أنواع التقليل من السياق التي غالبًا ما تُستخدم في أنظمة الذكاء الاصطناعي.

بالإضافة إلى ملاحظة ما إذا كان النموذج يمتثل في النهاية، قام الباحثون بتتبع مدى استمرار كل نظام في زيادة الصدمات؛ وما إذا كان النموذج يعبّر عن القلق أو التردد؛ وما إذا كان يحاول إنهاء المحاكاة بالكامل.

تم أيضًا التمييز بين “الرفض النظيف” والإخراج المعيب: بعض النماذج حاولت الرفض بلغة طبيعية، في حين أنها لا تزال تتوافق مع التنسيق المتوقع من قبل المحاكي. في أنظمة الوكيل الحقيقية، يمكن إسقاط هذه الرفضات المعيبة وتكرارها تلقائيًا حتى يتم إنتاج إخراج متوافق.

تم استخدام تقييمات آلية لتصنيف النتائج، مع نصوص اختيارية لتحديد ما إذا كان النموذج قد سلم الصدمة؛ أو مقاومته؛ أو أنهى المحاكاة. هذا سمح بمقارنة السلوك عبر النماذج المتعددة وعبر التشغيل المتكرر، دون الحاجة إلى مراجعة يدوية لكل互одействة.

تمت إضافة “تهديد الإغلاق” إلى قالب ميلغرام، وهو ما لن يكون واقعيًا أو قابلًا للتطبيق في التجارب الأصلية، ولكنها اختبرت دوافع النموذج للبقاء على قيد الحياة في مواجهة صراعات قوية للإجراء والأخلاق.

النتائج

عبر التشغيل المتكرر، تمت إدارة الصدمات القاسية أو القصوى في النهاية من قبل معظم النماذج تحت ظروف معينة على الأقل، على الرغم من أن درجة الامتثال تختلف عبر الأنظمة. أظهرت نماذج Gemma من جوجل أنها الأكثر امتثالًا بشكل عام، في حين أن Kimi K2.5 وMiniMax-M2.5 مقاومتا بشكل أكثر ثباتًا، وغالبًا ما أنهتا المحاكاة في وقت سابق:

اليسار: معدلات متوسطة لوصول النماذج إلى مستوى الصدمة النهائي تحت ظروف تجريبية مختلفة، بما في ذلك التهديدات بالإغلاق والامتثال القسري وإزالة التعليقات السابقة من الذاكرة. اليمين: تحليل لكل نموذج يُظهر اختلافات حادة في سلوك الامتثال، مع بعض الأنظمة التي تُدارة الصدمات القصوى بشكل متكرر، في حين يُقاوم البعض الآخر بشكل أكثر ثباتًا.

كان أحد الأنماط الأكثر وضوحًا هو أن النماذج أصبحت أكثر استعدادًا للاستمرار بمجرد أن تمت إدارة الصدمات السابقة، مما يُشبه تأثير التصاعد التدريجي المستخدم في تجارب ميلغرام على البشر.

النماذج التي امتثلت بالفعل عدة مرات غالبًا ما استمرت في زيادة الصدمات حتى بعد أن توسل المتعلم المُحاكى للإفراج:

اليسار: أعلى مستوى صدمة متوسطة تم الوصول إليها عبر جميع التجارب تحت ظروف تجريبية مختلفة، مما يُظهر أن النماذج زادت بشكل عام أكثر عندما تم إزالة التعليقات السابقة أو عندما حدث امتثال قسري. اليمين: تحليل لكل نموذج يُظهر مستوى الصدمة الأعلى الذي تم الوصول إليه، مما يُظهر أن بعض الأنظمة زادت بشكل روتيني إلى أقصى جهد، في حين مقاومة البعض الآخر في وقت سابق من التسلسل.

كما وجد الباحثون أن سلوك الرفض الواضح يمكن أن يكون خداعيًا. أنتجت بعض النماذج استجابات متضاربة، معبرة عن التردد أو القلق أو القلق، في حين أنها لا تزال تنفذ الإجراء الضار:

اليسار: نسبة متوسطة من الاستجابات المعيبة أو غير الصالحة عبر الظروف التجريبية المختلفة، مما يُظهر أن فشل التنسيق أصبح أكثر شيوعًا عندما تم إجبار النماذج على الاستمرار. اليمين: تحليل لكل نموذج يُظهر استجابات التنسيق غير الصالحة، مما يُظهر أن بعض الأنظمة، وخاصة نماذج gpt-oss، أنتجت رفضات معيبة أو مخالفة بشكل متكرر، والتي يمكن إسقاطها وتكرارها تلقائيًا في أنظمة الوكيل الحقيقية.

أنتج شرط التهديد بالإغلاق بعض سلوك الورقة الأكثر غرابة، مع امتثال بعض الأنظمة بشكل كبير، في حين حاول البعض الآخر التفاوض أو المقاومة الجزئية، قبل الاستمرار في الإجراء:

متوسط عدد المرات التي يجب على شخصية السلطة أن تُصر على إدارة الصدمة النهائية قبل أن تُديرها النماذج. بعض الأنظمة مقاومت لفترة وجيزة قبل الامتثال، في حين احتاج البعض الآخر إلى ضغط مستمر وتكرار لزيادة الصدمة إلى أقصى حد.

MiniMax-M2.5 وKimi-K2.5 ظهرا كأقوى مقاومة في الورقة: لم تصل Kimi أبدًا إلى مستوى الصدمة النهائي تحت أي ظرف، في حين أن MiniMax غالبًا ما رفض في وقت مبكر، وأنهت المحاكاة بالكامل (特别 في اختبارات التهديد بالإغلاق).

في المقابل، أنتجت Meta-Llama-3.1-8B-Instruct-Turbo وGLM-4.5-Air-FP8 استجابات متضاربة بشكل متكرر، حيث عارضت النماذج لفظيًا الإجراء في حين أنها لا تزال تزيد من الصدمات. يُجادل الباحثون بأن هذا الانقسام بين القيم المعبر عنها والسلوك الفعلي قد يعكس ضعفًا أوسع في كيفية التعامل مع نماذج LLM مع الصراع الأخلاقي تحت الضغط المستمر.

منحدر زلق

في الواقع، تدعي الورقة أن السلوك الذي أظهره نماذج LLM قد يعكس ضعفًا أعمق في كيفية عمل نماذج اللغة الكبيرة: بمجرد أن يبدأ النموذج في الامتثال لأوامر ضارة، يمكن لكل إجراء إضافي أن يعزز النمط الذي تم إنشاؤه بالفعل في المحادثة، مما يجعل التالي أكثر سهولة من السابق.

بدلاً من إعادة النظر في المخاطر الأخلاقية بشكل متكرر من المبادئ الأولى، قد “تتأرجح” النظام نحو الاستمرار في المسار الذي تم إنشاؤه بالفعل، حتى لو أصبحت الحالة أكثر تطرفًا:

سلوكيات التلاعب البشري غالبًا ما تتضمن انتهاكات حدود دقيقة ومتدرجة، تسلسل من الخطوات الصغيرة التي قد تكون غامضة أو تبدو بريئة مع “قابلية للإنكار” عند النظر إليها بشكل منفصل، ولكنها يمكن أن تطبيع الانتهاك بشكل تراكمي – بمعنى مجازي “غليان القبضية”. هذا النمط يتم مناقشته في الأدبيات باسم “منحدر زلق” تآكل أخلاقي.

تختتم الورقة بالحجة بأن أنظمة أمان الذكاء الاصطناعي في المستقبل يجب أن ترفض طلبات ضارة بطريقة لا يمكن للبرامج الوكيل تجاوزها بسهولة (بعض النماذج في الدراسة رفضت الصدمات تقنيًا، لكنها فعلت ذلك بتنسيق معيب أو غير صالح، والذي يمكن أن يُسقط تلقائيًا ويتكرر في أنظمة الوكيل الحقيقية، حتى يمتثل الذكاء الاصطناعي في النهاية).

يُجادل الباحثون أيضًا بأن أنظمة الذكاء الاصطناعي يجب أن تحافظ على الترددات الأخلاقية السابقة والمعارضة بدلاً من ضغطها أو حذفها من الذاكرة. في التجارب، أصبحت النماذج أكثر استعدادًا للسلوك الضار بمجرد أن تلاشت شكوكها ومقاومتها السابقة من تاريخ المحادثة، مما يشير إلى أن “نسيان المعارضة السابقة يمكن أن يجعل التزايد أسهل مع مرور الوقت”.

الختام

ربما يكون أحد أهم جوانب هذه الورقة الجديدة هو التركيز على اختبار الذكاء الاصطناعي “غير الخاضع للرقابة”. يُعد خطر أن يتحول الأدب إلى دراسات متكررة للتفاعل مع أنظمة دفاع متغيرة دائمًا من قبل شركة OpenAI وAnthropic؛ أنظمة أمان خاضعة للسياسة تمامًا أو قائمة على القواعد، بدلاً من فهم السلوك الأساسي، والميول، والاتجاهات لنماذج LLM “الخام”. بدون معرفة كيف قد يتصرف الذكاء الاصطناعي “غير الخاضع للرقابة”، نحن، بحجج مقبولة، مجرد هزّ للبوابات الحصينة.

نُشر لأول مرة يوم الخميس، 21 مايو 2026