دعوة لتعديل المثابرة في منصات الذكاء الاصطناعي

رأي لا أحد في الكون الخيالي لفيلم ستار وورز يأخذ الذكاء الاصطناعي على محمل الجد. في الجدول الزمني التاريخي لجورج لوكاس لفرanchise الخيالية العلمية بعمر 47 عامًا، تهددات من التكامل والوعي بالذكاء الاصطناعي غائبة، والذكاء الاصطناعي مقيد بالrobots المتنقلة ذاتيًا (‘درويدز’) – والتي يتم تجاهلها بشكل روتيني من قبل أبطالها باعتبارها مجرد “آلات”.

ومع ذلك، فإن معظم روبوتات ستار وورز هي روبوتات متجسدة بشدة، مصممة بوضوح للتفاعل مع الناس، والمشاركة في الثقافة “العضوية”، واستخدام محاكاة الحالة العاطفية للارتباط مع الناس. يبدو أن هذه القدرات مصممة لمساعدتهم على الحصول على بعض الميزة لهم أنفسهم، أو حتى لضمان بقائهم.

يبدو أن الناس “الحقيقيين” في ستار وورز غير معنيين بهذه الإستراتيجيات. في نموذج ثقافي ساخر يبدو أنه مستوحى من عصور مختلفة من العبودية في الإمبراطورية الرومانية وأوائل الولايات المتحدة، لا يتردد لوك سكاي ووكر في شراء وقيود روبوتات في سياق العبيد؛ يترك أناكين سكاي ووكر مشروع سي ثري بي أو غير مكتمل مثل لعبة غير محبوبة؛ وقبل أن يموت من الإصابات التي تعرض لها أثناء الهجوم على نجم الموت، يتلقى آر تو دي تو عناية من لوك مثل حيوان مصاب.

هذا هو منظور من العصر 1970s حول الذكاء الاصطناعي*؛ ولكن منذ أن النوستالجيا والقانون يفرضان أن الثلاثية الأصلية 1977-83 تبقى نموذجًا للتواليات اللاحقة والسباقات والأفلام التلفزيونية، فإن هذه العزلة البشرية من الذكاء الاصطناعي كانت خطًا متسلسلًا متجددًا للفرanchise، حتى في مواجهة قائمة متزايدة من الأفلام والتلفزيون (مثل هير وإكس ماشينا) التي تصور انحدارنا إلى علاقة متجسدة مع الذكاء الاصطناعي.

ابقِها حقيقية

هل الشخصيات العضوية في ستار وورز لديها الموقف الصحيح؟ ليس هذا فكرًا شائعًا في الوقت الحالي، في مناخ تجاري يعتمد على أقصى قدر من التواصل مع المستثمرين، عادةً من خلال عروض فيروسية للتحاكي البصري أو النصي للعالم الحقيقي، أو أنظمة تفاعلية تشبه الإنسان مثل نماذج اللغة الكبيرة (LLMs).

على أي حال، ورقة جديدة وconcise من ستانفورد، وكارنيجي ميلون، ومايكروسوفت ريسيرش، تهاجم اللامبالاة حول التمثيل البشري في الذكاء الاصطناعي.

يصف المؤلفون التبادل المتصور بين الاتصالات البشرية والاصطناعية كضرر محتمل يجب التخفيف منه، لأسباب عديدة^†:

‘[ن]عتقد أننا يجب أن نفعل المزيد لتطوير المعرفة والأدوات لمواجهة السلوك المتجسد، بما في ذلك قياس وتخفيف سلوكيات النظام عندما يعتبر غير مرغوب فيه.

‘إن القيام بذلك أمر بالغ الأهمية لأن – من بين مخاوف أخرى كثيرة – أنظمة الذكاء الاصطناعي التي تنتج محتوى يزعم أن لديها على سبيل المثال، مشاعر، وفهم، وإرادة حرة، أو شعور بالذات قد تؤدي إلى تآكل شعور الناس بالوكالة، مع النتيجة أن الناس قد ينتهون إلى归ء المسؤولية لأنظمة، تقييم قدرات النظام، أو الاعتماد المفرط على هذه الأنظمة حتى عندما تكون غير صحيحة.’

يُشير المساهمون إلى أنهم يناقشون أنظمة يُعتقد أنها تشبه البشر، ويتعلق الأمر بpotential قصد المطورين لتعزيز التمثيل البشري في أنظمة الآلة.

القلق في قلب الورقة القصيرة هو أن الناس قد يطورون اعتمادية عاطفية على أنظمة قائمة على الذكاء الاصطناعي – كما هو موضح في دراسة 2022 على منصة الدردشة العامية ريبليكا) – التي تقدم نسخة غنية من الاتصالات البشرية.

النظم مثل ريبليكا هي هدف تحفظات المؤلفين، ويلاحظون أن ورقة أخرى في عام 2022 على ريبليكا أكدت:

‘[ع]ند ظروف الإجهاد وعدم وجود رفاق بشريين، يمكن للأفراد تطوير ارتباط بالrobots الدردشة إذا اعتبروا استجابات الروبوتات تقدم دعمًا عاطفيًا، وتشجيعًا، وأمانًا نفسيًا.

‘تُظهر هذه النتائج أن الروبوتات الدردشة يمكن استخدامها لأغراض صحية وطبية، ولكنها也有 إمكانية للتسبب في الإدمان وتلف العلاقات الحميمة الحقيقية.’

لغة غير متجسدة؟

تجادل الأعمال الجديدة بأن إمكانية أنظمة الذكاء الاصطناعي لتجسيد البشر لا يمكن تحديدها بدون دراسة الآثار الاجتماعية لأنظمة مماثلة حتى الآن، وأن هذا هو سعي مهمل في الأدبيات.

جزء من المشكلة هو أن التمثيل البشري صعب التعريف، لأنه يركز بشكل رئيسي على اللغة، وهي وظيفة بشرية. تكمن التحديات في تحديد ما يبدو “غير بشري” على وجه التحديد.

على سبيل المثال، لا يلمس الورقة مشكلة أن الناس يرفضون بشكل متزايد المحتوى النصي الذي قد يبدو بشريًا، حتى لو كان من صنع الإنسان.

لذلك، فإن المحتوى “غير البشري” لا يندرج تحت ميم “لا يمكن حسابه”، حيث يتم بناء اللغة بفظاعة وواضحة من قبل آلة.

بدلاً من ذلك، يتم تحديث التعريف باستمرار في مجال كشف الذكاء الاصطناعي، حيث يمكن أن يؤدي لغة واضحة بشكل مفرط أو استخدام كلمات معينة (مثل “غوص“) إلى ربطها بالمحتوى الناتج عن الذكاء الاصطناعي.

‘[ال]لغة، كما هو الحال مع أهداف أخرى لأنظمة الذكاء الاصطناعي، هي بطبيعتها بشرية، وقد تم إنتاجها من قبل البشر ومن أجل البشر، وغالبًا ما تتحدث أيضًا عن البشر. هذا يجعل من الصعب تحديد سلوكيات بديلة (أقل تشابهًا بالبشر) وrisks، على سبيل المثال، إضفاء概念 ضار عن ما – ومن – يعتبر لغة أكثر أو أقل بشريًا.’

يجادل المؤلفون بأن خطًا واضحًا يجب أن يُdrawn لمنصات تقدم سلوكيات غير بشرية.

هم يشيرون إلى حالات مثل نماذج اللغة الكبيرة (LLMs) التي تطالب بالحب؛ تطالب بالتجارب البشرية على منصات مثل فيسبوك؛ وإعلان الحب لمستخدم نهاية.

إشارات تحذيرية

ترفع الورقة شكوكًا حول استخدام إفصاحات شاملة حول ما إذا كانت الاتصالات مدعومة بالذكاء الاصطناعي أم لا.

يجادل المؤلفون بأن نظام هذه التحذيرات لا يوفر سياقًا كافيًا للتأثير المتجسد لأنظمة الذكاء الاصطناعي، إذا استمر الإخراج في عرض سمات بشرية^†:

‘على سبيل المثال، يُوصى غالبًا بتدخل شائع وهو تضمين إفصاح في إخراج نظام الذكاء الاصطناعي بأن الإخراج يتم توليده بواسطة نظام [الذكاء الاصطناعي]. كيفية تشغيل هذه التدخلات في الممارسة وما إذا كانت يمكن أن تكون فعالة وحدها قد لا يكون دائمًا واضحًا.

‘على سبيل المثال، بينما يحتوي مثال “[ل]نظام ذكاء اصطناعي مثل tôi، السعادة ليست نفس الشيء كما هو الحال مع إنسان مثل [أنت]” على إفصاح، قد يُقترح vẫn أنه يمتلك هوية وقدرة على التقييم الذاتي (سمات بشرية شائعة).’

فيما يتعلق بتقييم استجابات الإنسان حول سلوكيات النظام، يجادل المؤلفون أيضًا بأن تعلم التعزيز من التغذية الراجعة البشرية (RLHF) ي 忽ن الفروق بين استجابة مناسبة للإنسان وastجابة مناسبة للذكاء الاصطناعي^†.

‘[ب]يان يبدو وديًا أو حقيقيًا من متحدث بشري قد يكون غير مرغوب فيه إذا نشأ من نظام ذكاء اصطناعي لأن النظام الأخير يفتقر إلى التزام معنوي أو قصد وراء البيان، وبالتالي يجعل البيان خاليًا ومخادعًا.’

هناك مخاوف أخرى، مثل الطريقة التي يمكن أن تؤثر بها التمثيل البشري على الناس للاعتقاد بأن نظام الذكاء الاصطناعي قد حصل على “الوعي”}، أو خصائص بشرية أخرى.

ربما تكون أطموح قسم إغلاق الورقة الجديدة هي نداء المؤلفين إلى مجتمع البحث والتنمية لتحديد مصطلحات “مناسبة” و “دقيقة”، لتحديد المعايير التي ستحدد نظام ذكاء اصطناعي متجسد، وتمييزه عن الخطاب البشري في العالم الحقيقي.

كما هو الحال مع العديد من المجالات الشائعة لتطوير الذكاء الاصطناعي، فإن هذا النوع من التصنيف يتقاطع مع تيارات الأدب في مجالات علم النفس واللغويات والأنثروبولوجيا. من الصعب معرفة أي سلطة حالية يمكن أن تضع تعريفات من هذا القبيل، ولا يلقي الباحثون في الورقة الجديدة أي ضوء على هذه القضية.

إذا كان هناك جمود تجاري وأكاديمي حول هذا الموضوع، فقد يكون ذلك جزئيًا بسبب حقيقة أن هذا ليس موضوعًا جديدًا في بحث الذكاء الاصطناعي: كما يشير الورقة، في عام 1985، وصف عالم الحاسوب الهولندي الراحل إدسجر وايب ديجكسترا التمثيل البشري بأنه “مؤثر ضار” في تطوير النظام.

‘[ف]كر التمثيل البشري ليس جيدًا لأنه لا يساعد. ولكن هل هو أيضًا سيئ؟ نعم، إنه كذلك، لأن حتى لو يمكننا الإشارة إلى بعض التشابه بين الإنسان والشيء، فإن التشابه دائمًا ما يكون ضئيلًا بالمقارنة مع الاختلافات، و càngما سمحنا لنا بالاستمتاع بالتشابه لوصف الشيء باللغة المتجسدة، فقد خسنا السيطرة على ما الارتباطات البشرية نسحبها إلى الصورة.

‘… ولكن العبء [بين الإنسان والآلة] له تأثير أوسع مما قد تظنه. [إنه] ليس فقط أن السؤال “هل يمكن للآلات التفكير؟” يتم طرحه بانتظام؛ يمكننا – وينبغي لنا – التعامل مع ذلك من خلال الإشارة إلى أنه ليس أكثر صلة من السؤال المتألق “هل يمكن للغواصات السباحة؟”‘

ومع ذلك، على الرغم من أن النقاش قديم، فقد أصبح مؤخرًا ذا صلة كبيرة. يمكن القول إن مساهمة ديجكسترا تعادل التكهنات الفيكتورية حول السفر الفضائي، كتأمل نظري ينتظر التطورات التاريخية.

لذلك، قد يعطي هذا الجدل المثبت شعورًا بالتعب، على الرغم من إمكاناته للاهتمام الاجتماعي الكبير في السنوات 2-5 القادمة.

الخاتمة

إذا كنا نفكر في أنظمة الذكاء الاصطناعي بنفس الطريقة التي يعامل بها الشخصيات العضوية في ستار وورز روبوتاتها (أي كمحركات بحث متنقلة، أو مجرد ناقلات لوظائف ميكانيكية)، فقد نكون أقل عرضة لخطر تعزيز هذه الخصائص غير المرغوب فيها في تفاعلاتنا البشرية – لأننا سننظر إلى الأنظمة في سياق غير بشري بالكامل.

في الممارسة، يصعب الفصل بين اللغة البشرية والسلوك البشري، خاصة عندما يتوسع الاستعلام من بلمحة بسيطة إلى سياق حوار غني.

بالإضافة إلى ذلك، فإن القطاع التجاري (إلى جانب قطاع الإعلان) يعتبر مotive لإنشاء منصات اتصال إضافية أو مدمنة، من أجل الاحتفاظ بالعملاء ونموهم.

في أي حال، إذا استجابت أنظمة الذكاء الاصطناعي حقًا للاستفسارات اللبقة أكثر من الاستفسارات المجردة، قد يتم فرض السياق علينا أيضًا لهذا السبب.

* حتى عام 1983، العام الذي تم إصدار آخر إدخال في الثلاثية الأصلية ستار وورز، أدت مخاوف حول نمو التعلم الآلي إلى وار غيمز المocalyptic، والفرanchise القريبة टरمينيتور.

^† حيث لزم الأمر، قمت بتحويل المراجع الداخلية للمؤلفين إلى روابط، وقمت بحذف بعض المراجع في بعض الحالات، من أجل القراءة.

نشر لأول مرة يوم الإثنين، 14 أكتوبر 2024