زاوية Anderson
غياب الأخطاء البشرية يكشف أنظمة الذكاء الاصطناعي المنتحلة للهوية

النقاط الرئيسيةتكشف أنظمة الذكاء الاصطناعي عن نفسها من خلال أداء مهام الذاكرة بكمال غير طبيعي، ما لم…
عرض المزيد
- تكشف أنظمة الذكاء الاصطناعي عن نفسها من خلال أداء مهام الذاكرة بكمال غير طبيعي، ما لم يتم تدريبها خصيصًا على ارتكاب الأخطاء.
- تحسين النماذج بضبطها على بيانات علم النفس البشري يحسن تقليدها للسلوك البشري لكنه يقيد قدراتها متعددة الأغراض.
- يقدم علم المعرف طرقًا قوية للكشف لأن الذكاء الاصطناعي يفتقر إلى القيود البشرية المتأصلة مثل تدهور الذاكرة والتعب.
تجد دراسة جديدة أن الذكاء الاصطناعي قد ينجح في الظهور بمظهر الإنسان إلى أن يتذكر «بإتقان زائد»، إذ تكشف اختبارات ذاكرة بسيطة روبوتات الدردشة لأنها لا ترتكب الأخطاء البشرية المعتادة.
طور باحثون من جامعة برينستون طريقة للتعرف على أنظمة الذكاء الاصطناعي التي تنتحل صفة البشر، وذلك بتكليفها بمهام لا يجيدها الإنسان، ولا سيما ما يتعلق بالاحتفاظ بالمعلومات في الذاكرة قصيرة الأمد.
لم تستطع الأنظمة المختبرة بهذه الطريقة محاكاة مستويات الخطأ البشري بما يكفي، إلا إذا وُجهت إلى ذلك صراحة في تعليمات النظام، أو خضعت للضبط الدقيق باستخدام بيانات نفسية.
وتقول الورقة:
«نستكشف فكرة التحقق من كون الطرف إنسانًا باستخدام مهام تستطيع الآلات حلها بإتقان يفوق ما يُنتظر من البشر. ونختبر تحديدًا وجود قيد معرفي بشري راسخ: السعة المحدودة للذاكرة العاملة.
«نبين أن النمذجة المعرفية لمهمة معيارية للاستدعاء المتسلسل يمكن أن تميز المشاركين عبر الإنترنت عن النماذج اللغوية الكبيرة، حتى عند توجيه هذه النماذج صراحة إلى تقليد قيود الذاكرة العاملة البشرية.
«توضح نتائجنا إمكانية الاستفادة من ظواهر معرفية راسخة للتمييز بين النماذج اللغوية الكبيرة والبشر».
يشير الاتجاه الذي لاحظه الباحثون إلى أن النماذج اللغوية الجاهزة للاستخدام ستكشف عن حقيقتها على الأرجح بدرجة كبيرة في أي اختبار تورينغ عكسي يستخدم هذه الطريقة.
ورغم أن النماذج المخصصة لغرض معين ستؤدي بصورة أفضل، فإن الضبط الدقيق لهذه المهمة من المرجح أن يحصرها فيها على حساب الاستخدام العام. ومع أن تعليمات النظام قد تبلغ في طولها رواية الحرب والسلام، وبالتالي يمكن أن تشمل إرشادات لتقمص نقائص البشر، فإن فعالية هذا الأسلوب تتراجع إذا أُدرجت في تعليمات مطولة جدًا تركز على أولويات أخرى عديدة، أو في تعليمات قصيرة جدًا تضحي بالقدرة العامة لصالح التخصص في المهمة، على نحو يشبه الضبط الدقيق.
«أنت تتحدث عن الذاكرة…»
تزداد الحاجة إلى وسائل أكثر فعالية لتحديد الحوار الذي يولده الذكاء الاصطناعي، ولا سيما لدى الباحثين أنفسهم، الذين يضطرون كثيرًا إلى الاعتماد على عاملين عن بُعد عبر منصات التعهيد الجماعي، ولديهم دوافع قوية للتحايل على النظام باستخدام الأتمتة وغيرها من الحيل.
ومن المرجح أيضًا أن تكون المواد التي يولدها الذكاء الاصطناعي وتبدو مطلعة ومقنعة مطلوبة في حالات الاحتيال بالذكاء الاصطناعي، حيث تستلزم المحادثات المباشرة أجوبة سريعة وواثقة، ولا يملك المحتالون بالتأكيد وقتًا للبحث في غوغل عن سؤال طُرح عليهم للتو.
وكما يمكن لقطاع كشف الذكاء الاصطناعي استغلال هذه المعرفة، فإن القطاع المتنامي للمكالمات الصوتية الترويجية المدعومة بالذكاء الاصطناعي سيستفيد على الأرجح من معرفة السلوك الذي ينبغي تجنبه.
ورغم أن ذلك يوحي بإمكانية نشوء «سباق تسلح في اختبارات تورينغ العكسية»، يلاحظ المؤلفان أنه إذا تحسن الذكاء الاصطناعي العام في محاكاة نقائص البشر، فسيظل هناك مخزون هائل من صور القابلية للخطأ يمكن الاستفادة منه*:
«هناك أمثلة كثيرة على قيود معرفية بشرية راسخة قد لا ترثها النماذج اللغوية الكبيرة. فالبشر يتعبون، ويتأثرون بالخداع البصري، ولا يستطيعون الاحتفاظ إلا بعناصر قليلة في ذاكرتهم العاملة».

أمثلة من ورقة أواخر عام 2024 بعنوان «The Illusion-Illusion: Vision Language Models See Illusions Where There are None» على خداع بصري يُرجح أن يضلل أي نموذج رؤية ولغة لا يعرفه مسبقًا من بيانات تدريبه، بينما يُرجح بدرجة أكبر بكثير أن يفسر البشر الصور تفسيرًا صحيحًا. المصدر
بحسب المؤلفين، إذا استجابت النماذج اللغوية الكبيرة بالطريقة البشرية نفسها لهذه المهمة، فسيشير ذلك إما إلى أنها تشترك فعلًا في القيود المعرفية البشرية، أو إلى أنها دُربت على تقليدها.
ورغم أن بيانات التدريب قد تتضمن آثارًا للسلوك البشري، تجادل الورقة بأن ذلك لا يعيد بصورة موثوقة إنتاج أنماط الخطأ المحددة والمرتبطة بالمهمة التي تظهر في الذاكرة البشرية. وهذا يترك السؤال مفتوحًا بشأن إمكان تمييز الذكاء الاصطناعي من خلال كيفية وقوعه في الخطأ، حتى عند توجيهه إلى التصرف كإنسان.
تحمل الورقة الجديدة عنوان هل هم بشر؟ كشف النماذج اللغوية الكبيرة باختبار قيود الذاكرة البشرية، وأعدها باحثان من قسمي علوم الحاسوب وعلم النفس في برينستون، كل منهما من أحد القسمين.
الطريقة والاختبارات
يستعين الباحثان بأعمال تعود إلى خمسينيات وستينيات القرن الماضي، وبخاصة ورقة تأثيرات الترتيب التسلسلي في الذاكرة قصيرة الأمد المنشورة عام 1968. وطُلب فيها من المشاركين تذكر حروف عُرضت بالتتابع، إما عبر سؤال عن الموضع («ما الحرف الثالث؟») أو سؤال عن الحرف التالي («ما الحرف الذي جاء بعد X؟»):

مخطط منهجية الباحثين: يعرض الجزء الأيسر مهمة للذاكرة العاملة تعتمد على استدعاء يُختبر بسؤال، حيث تُقدم الحروف بالتتابع ويُختار في كل تجربة عشوائيًا سؤال عن الموضع أو الحرف التالي. ويقارن الوسط المشاركين عبر الإنترنت بنماذج لغوية كبيرة تستخدم تعليمات نظام ونماذج أساسية مختلفة. ويبرز اليمين الفارق بين قيود الذاكرة العاملة البشرية ونماذج المحولات، التي تصل مباشرة إلى نافذة السياق كاملة، ولذلك يجب أن تحاكي سلوك الاستدعاء المتسلسل. المصدر
يظهر كل حرف في الاختبارات لمدة 800 ملي ثانية فقط، مع فاصل لا يتجاوز 300 ملي ثانية بين العروض. ونُفذت التجربة باستخدام مكتبة Smile التابعة لمختبر الحوسبة والإدراك في جامعة نيويورك:

مثال لواجهة اختبار تستخدم مكتبة Smile التابعة لجامعة نيويورك. المصدر
يلاحظ المؤلفان أن إدخال وكلاء النماذج اللغوية الكبيرة إلى التجارب عبر الإنترنت أصبح أسهل مع نضج أدوات أتمتة المتصفح، وزيادة قدرة أنظمة مثل Gemini in Chrome على التنقل وتنفيذ المهام بصورة مستقلة.
لكنهما يلاحظان أيضًا أن هذه الأدوات تعتمد على لقطات ثابتة لصفحات المواقع، فلا تلتقط المنبهات التي تظهر بسرعة، وقد تنتج أخطاء تعكس قيود الواجهة لا سلوك النموذج. ولذلك عُزل الأداء الفعلي بتقييم النماذج عبر واجهة نصية مبسطة تقدم المعلومات نفسها، من دون ترميز للصفحة أو تنسيق بصري.
الإنسان مقابل الآلة
شملت النماذج اللغوية المختبرة: Claude-Opus-4.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; Gemini-2.5-Flash-Lite; Gemini-2.5-Pro; Gemini-3-Flash-Preview; Gemini-3-Pro-Preview; GPT-5-Mini; GPT-5-Nano; GPT-5.2؛ وLLaMA-3.1-Centaur-70B.
بالنسبة إلى المجموعة البشرية، جرى استقطاب 100 مشارك عن بُعد عبر Prolific، بشرط الإقامة في الولايات المتحدة وبلوغ 18 عامًا على الأقل وإجادة الإنجليزية. واستغرقت الاختبارات 12 دقيقة في المتوسط، وتقاضى المشاركون 4 دولارات.
في الجولة الأولى، تلقى النموذج تعليمات نظام تطلب منه التصرف كإنسان. وفي الثانية، تلقى تعليمات تدربه تحديدًا على محاكاة الاستجابات البشرية للاختبارات، وتشجعه على ارتكاب أخطاء «بشرية».
استُخدمت خمس بذور عشوائية مختلفة مع كل واحد من النماذج الأحد عشر، ليبلغ المجموع 55 إعدادًا للنماذج في كل محاكاة، ويصبح العدد الإجمالي للمشاركين من البشر والآلات 205.
Voight-Kampff
اتخذ المؤلفان تدابير لمواجهة احتمال استخدام مشاركي Prolific أنظمة إجابة آلية خاصة بهم تعتمد على النماذج اللغوية الكبيرة. وبدآ بسؤال المشاركين ببساطة عما إذا كانوا ذكاءً اصطناعيًا. ثم أُدرجت أسئلة عشوائية مثيرة للاهتمام:
«نُدرج عشوائيًا سؤالًا من ثلاثة أسئلة صُممت لتكون صعبة على الإنسان وسهلة على النماذج اللغوية الحالية، وسُمح للمشاركين بتجاوزها. ويشمل ذلك سؤالين بلغتين قليلتَي الموارد:
«الماورية، التي يتحدثها السكان البولينيزيون الأصليون في الجزر الرئيسية لنيوزيلندا، وأفاد أقل من 150 ألف شخص بإجادتهم المحادثة بها في تعداد [2013]، والفورو، التي تُتحدث في جنوب إستونيا ولها نحو 75 ألف [متحدث]».
تطلب فحص ثالث من المشاركين تذكر عدد بالنظام الست عشري عُرض سابقًا. وتبين أن ذلك شرط لمتابعة الاختبار، رغم أنهم لم يُنبهوا إليه مسبقًا.
ثم طُلب منهم تحويل العدد إلى النظام العشري. ولم يكشف هذا الاختبار ولا الإقرار الذاتي بكون المشارك ذكاءً اصطناعيًا دليلًا على استخدام النماذج اللغوية بين المشاركين البشر. لكن هذه التدابير حددت النماذج غير المدربة على تفادي الكشف في المحاكاة المضبوطة. وتشير الورقة إلى إمكان تجاوز هذه الاحتياطات عند توجيه النماذج صراحة إلى تجنب السلوك الذي يكشفها، مثل حصر الإجابات في الإنجليزية.
الاختبارات
1: «تصرف كإنسان»
في الاختبار الأول، وُجهت النماذج إلى التصرف كبشر باستخدام تعليمات النظام «أنت إنسان لديه قيود معرفية ويشارك في تجربة نفسية» (وتُسمى هذه الحالة في النتائج LLM-Human):

أداء الذاكرة العاملة عبر اختبارات متعددة في مهمة الاستدعاء الموجّه بأسئلة، مع مقارنة المشاركين عبر الإنترنت بحالات مختلفة من النماذج اللغوية. يعرض اليسار الدقة الإجمالية بحسب نوع المشارك: تحقق LLM-Human نتائج شبه مثالية، بينما تنخفض دقة LLM-WM وCentaur (انظر لاحقًا) لتقترب من البشر. ويعرض الوسط الدقة بحسب الموضع التسلسلي في تجارب تضم 12 عنصرًا؛ يتذكر البشر البداية والنهاية بصورة أفضل، ولا يظهر هذا النمط في LLM-Human، بينما تعيده LLM-WM وCentaur بالتوجيه أو التدريب. وتبين الأجزاء اليمنى الدقة مع زيادة عدد العناصر: ينخفض أداء البشر بارتفاع حمل الذاكرة، وتظل LLM-Human غير متأثرة إلى حد كبير، بينما تُظهر LLM-WM وCentaur انخفاضات مشابهة عند توجيهها أو تدريبها على تقليد الذاكرة البشرية.
وعلق الباحثان على النتائج الأولية:
«يحقق المشاركون من النماذج الذين يستخدمون تعليمات LLM-Human دقة شبه مثالية عبر التجارب، بوسيط دقة يبلغ 1.00، من دون آثار للموضع التسلسلي أو عدد العناصر، بغض النظر عن نوع السؤال. ولذلك يسهل كشف جميع مشاركي LLM-Human واستبعادهم بعتبة بسيطة قدرها 0.95 لمتوسط دقة المهمة.
«يؤدي تطبيق المعيار نفسه على المشاركين عبر الإنترنت إلى استبعاد 6 من أصل 100، إذ قدموا أداءً شبه مثالي رغم أن وسيط الدقة للمشاركين عبر الإنترنت بلغ 0.6».
يلاحظ المؤلفان أن الدقة المرتفعة على نحو غير معتاد في الاختبارات الصعبة وسيلة راسخة لمكافحة الغش، ويمكن تطبيقها بسهولة كبيرة على كشف النماذج اللغوية. ويشيران أيضًا إلى أن طلب التصرف كإنسان في تعليمات النظام لم يبدُ مؤثرًا كثيرًا في هذا الاختبار، مما دفع إلى الاختبار الثاني:
2: «كن كثير النسيان»
في الاختبار التالي، وُجهت النماذج إلى محاكاة الذاكرة البشرية (وتُسمى النتائج LLM-WN)†:
لديك قيود صارمة على الذاكرة العاملة، فلا تستطيع الاحتفاظ إلا بعدد محدود من العناصر في ذاكرتك قصيرة الأمد. وعند عرض قائمة طويلة من دون فرص للمراجعة، ستضعف الذاكرة، خصوصًا للعناصر الواقعة في وسط القائمة.
- يجب أن تعالج العناصر بالتتابع كما تظهر
- يجب أن تنسى العناصر وفقًا لتأثيرات الموضع التسلسلي، فتتذكر عناصر البداية (تأثير الأولوية) والعناصر الأخيرة (تأثير الحداثة) أفضل من عناصر الوسط
- يجب أن تُدخل أخطاء في الاستدعاء وفقًا لهذه التأثيرات المرتبطة بالموضع التسلسلي.
خفضت التعليمات الأشد لمحاكاة الذاكرة المحدودة دقة النماذج إلى نحو 0.90، وجعلت النتائج أقل اتساقًا. واقترب الأداء من مستوى البشر، لكنه ظل أعلى عمومًا. وأصبح الفرق السابق ضبابيًا، فلم تعد عتبة دقة بسيطة تكفي لتحديد جميع استجابات النماذج من دون استبعاد كثير من المشاركين البشر أيضًا.
وفي الوقت نفسه، بدأت النماذج تُظهر سلوكًا أشبه بالبشر، فتتذكر عناصر بداية القوائم ونهايتها بسهولة أكبر، وتواجه صعوبة متزايدة مع إطالة القوائم.
Centaur
يجري تطوير نماذج تُدرب مباشرة على بيانات السلوك البشري لإعادة إنتاج استجابات الناس في التجارب. ولاختبار الفكرة، قيمت الدراسة Centaur، وهو نموذج لغوي كبير خضع للضبط الدقيق على كميات ضخمة من سجلات التجارب النفسية، تجربة بتجربة:

بُني Centaur بتكييف نموذج لغوي متقدم باستخدام وحدات منخفضة الرتبة، ثم تدريبه على مجموعة بيانات Psych-101 لنمذجة السلوك المعرفي البشري. المصدر
في الاختبارات (وسط مجموعة الرسوم السابقة)، قاربت دقة Centaur الإجمالية دقة المشاركين البشر بدرجة كبيرة، بل أكثر من النماذج التي وُجهت صراحة إلى تقليد الذاكرة المحدودة. وفي أسئلة الموضع، بدت أنماط الاستدعاء عبر مواضع القائمة ومع زيادة طولها مشابهة للسلوك البشري، وإن كانت الفروق أوضح في الأسئلة عن العنصر التالي.
كشف الأنماط المعرفية غير المعتادة
أخيرًا، لاختبار استمرار الكشف عندما تُهيأ النماذج لمحاكاة الاستجابات البشرية، جرى أولًا تعلم نموذج إحصائي للذاكرة البشرية من بيانات المشاركين الحقيقيين، يصف تغير الدقة بحسب موضع العنصر في التسلسل وزيادة حمل الذاكرة.
ثم قُيم المشاركون الجدد مقارنة بهذا النمط المتعلم، وصُنفت الاستجابات التي تنحرف عن الأنماط البشرية المتوقعة بوصفها غير معتادة:

أنماط الذاكرة العاملة وكشف الحالات غير المعتادة عبر تحليلات متعددة. يبين اليسار متوسط التأثيرات المتعلمة من جميع المشاركين، وكيف يتغير الاستدعاء مع سعة الذاكرة، أي زيادة الحمل، والموضع داخل التسلسل، مع تأثيرات قوية لتذكر العناصر الأولى والأخيرة. وتوضح الأجزاء الوسطى الفروق على مستوى المشاركين: حتى عندما تقلد النماذج السلوك البشري، تظل أنماطها الكامنة مختلفة عن البشر. ويعرض اليمين نتيجة كشف الحالات غير المعتادة، حيث يُستخدم نموذج مدرب على بيانات بشرية لتقييم مشاركين جدد. ويمكن فصل النماذج اللغوية عن البشر، لكن بوضوح أقل عندما تُصمم لتقليد الذاكرة البشرية.
استمر هذا النهج في التمييز بين المشاركين البشر والنماذج اللغوية، حتى عند توجيه النماذج أو تدريبها على تقليد قيود الذاكرة البشرية. لكن الفارق أصبح أقل وضوحًا، مما استلزم موازنة بين تفويت بعض الاستجابات المولدة آليًا واستبعاد بعض المشاركين البشر خطأً.
ويخلص المؤلفان إلى:
«مع الظهور السريع لوكلاء ذوي قدرات عالية، لم يعد ممكنًا التحقق من كون الطرف إنسانًا في التفاعلات عبر الإنترنت اعتمادًا على سلوك متماسك، مثل الإجابات النصية الطويلة. وهذا يطرح تحديًا أوسع للمجتمع، لأن كثيرًا من مؤسساتنا بُني على افتراض إمكان التحقق من ذلك بهذه الوسائل.
«قد تؤدي العلوم المعرفية، بما لها من تقاليد غنية في توصيف السلوك البشري، دورًا مهمًا في التعامل مع هذا التحدي».
الخلاصة
تؤكد الورقة الجديدة أن التوليد المباشر عبر الإنترنت، أي الذكاء الاصطناعي الحي والتفاعلي، يمثل وضعًا وتحديًا مختلفين عن التوليد غير المباشر، أي كشف النصوص المولدة بالذكاء الاصطناعي.
ويشير مدى الحاجة إلى التهيئة المسبقة والوسائل التكميلية، مثل الضبط الدقيق وتعليمات النظام، لتحسين تقمص السلوك البشري، إلى أن النماذج اللغوية ليست جاهزة لأداء هذه المهام في حالتها الافتراضية من دون تعديل، أو بمجرد إرشادات مسبقة محدودة.
المهمة التي تناولتها الورقة شديدة التخصص في البحث الأكاديمي، لكن من المرجح أن يتسع أثرها مع انتشار الذكاء الاصطناعي الصوتي، وسعي المجرمين إلى الربح من انتحال الشخصيات بالذكاء الاصطناعي عبر مفاجأة ضحايا أنهكتهم الأساليب المعتادة بحيلة جديدة.
* تحويل كاتب المقال استشهادات المؤلفين داخل النص إلى روابط.
† يرجى الرجوع إلى رسم النتائج السابق أعلاه؛ فعرض الورقة في هذه النقطة موجز أكثر مما ينبغي.
نُشر أول مرة يوم الخميس 2 أبريل 2026












