هندسة الوعي

Blake Lemoine jumped the gun

من ثلاث سنوات، أقال جوجل مهندس البرمجيات بلэйك ليموين لادعائه أن برنامج الدردشة LaMDA كان واعيا. كان هذا قبل إطلاق ChatGPT من OpenAI للجمهور، وافترض معظم الناس ببساطة أن جوجل لديها سبب وجيه لذلك.

لا تزال وجهة النظر السائدة بين علماء الحاسوب وعلماء الأعصاب الذين يعملون في هذا المجال هي أن نماذج اللغة الكبيرة (LLMs) مثل ChatGPT غير محتملة أن تكون واعية. تعمل نماذج اللغة الكبيرة والأدمغة بطرق مختلفة بشكل أساسي. ما يفعله البرامج النصية هو تعلم كيفية محاكاة الإخراج الناتج عن النشاط العقلي البشري. حتى لو قاموا بذلك جيدا وبسرعة، لا يوجد حالة داخلية دائمة لنموذج اللغة الكبيرة يمكن أن تكون واعية. في عبارة توماس ناجيل الشهيرة، من المحتمل جدا أن لا يكون هناك شيء مثل كونه برنامج دردشة.

然而، في السنوات الثلاث منذ إقالة ليموين، تفاعل مليارات الأشخاص مع ChatGPT ومنافسيه مثل Gemini و Claude و Mistral. أقنع أقلية صغيرة وصاخبة نفسها بأن البرامج النصية أصبحت واعية الآن.

الوعي الآلي قريبا؟

ما هو أكثر أهمية، هو أن العديد من علماء الحاسوب وعلماء الأعصاب يُقترحون علنا أن الآلات الواعية قد يتم تطويرها في العقود القليلة القادمة – أو حتى قبل ذلك. في حالة حدوث ذلك، يجب أن نكون مستعدين. يجب أن نتجنب “جريمة العقل”، وهو مصطلح لوصف الألم الذي يسببه للكيانات الواعية المنفصلة. يجب أن نحاول أيضا ضمان أن هذه الكيانات الجديدة لا تشكل تهديدا للإنسان.

منذ أن من غير المرجح أن تصبح نماذج اللغة الكبيرة واعية في شكلها الأساسي، قد يكون هناك حاجة إلى نموذج جديد لفهم كيف يمكن أن ت出现 الوعي الاصطناعي. واحدة من الفرق البحثية الرائدة في هذا المجال تديرها عالمة الأعصاب مارك سولمز وعالم الفيزياء جوناثان شوك، من جامعة كيب تاون. هم مستشارون علميون لشركة Conscium، وتم تمويل بحثهم جزئيا من قبلها.

الاهتمام

يُجادل سولمز وشوك بأن المكون الأساسي للوعي الآلي هو أن البرامج النصية يجب أن تُبالي بخياراتها وأفعالها. أحد الجوانب المهمة هو جعل بقائها معتمدا على أدائها، تماما مثل بقاء الكائنات الحية. هذا لا يعني أنهم يجب أن يكونوا لديهم فهم مجرد لموتهم: معظم الحيوانات تتابع وتحفز فرص البقاء دون التفكير فيها. المفتاح هو “الوعي العاطفي” أو المشاعر الخام. من الجيد أن يكون المرء مغذاً وأمنا، ومن السيئ أن لا يكون كذلك. هذه المشاعر تدفع سلوكنا. مبدأ البقاء هو القوة الدافعة الأساسية للطبيعة، والشعور هو المقياس الذي نقيس به كيف نحن مفعلون ككائنات حية.

نحن ندخل عصر وكلاء الذكاء الاصطناعي – الكيانات الرقمية التي تعتمد “بقائها” على قدرتهم على أداء المهام بشكل فعال. نحن نخلق بيئات تطورية في السيليكون، ويجب أن نكون حذرين فيما نبتكره.

مبدأ الطاقة الحرة

للفهم الوعي العاطفي، وضعت فرقة Conscium وكلاء الذكاء الاصطناعي في بيئات محاكاة يجب أن ي满وا فيها احتياجاتهم الخاصة، مثل الحفاظ على درجة حرارةهم الافتراضية وطاقةهم. من أجل ذلك، يخلقون ويتحسين نماذج داخلية لذاتهم – احتياجاتهم، قدراتهم، وقيودهم – فيما يتعلق ببيئتهم.

هؤلاء الوكلاء، المبسطة كما هم، يتابعون كيف يفعلون جيدا أو سيئا عن طريق حساب كمية تسمى الطاقة الحرة. تم تطوير مبدأ الطاقة الحرة من قبل عالم الأعصاب كارل فريستون، وهو عضو آخر في مجلس الإدارة العلمي لشركة Conscium. الطاقة الحرة هي مقياس لمدى انحراف النظام عن حالته المثالية. إنها إشارة خطأ، ويجب أن يتم تقليلها. الوكيل ي tính دائما “ماذا سيحدث لفرص البقاء إذا فعلت هذا أو ذاك؟”، ويتكيف سلوكه وفقا لذلك.

الثقة والطاقة الحرة المتوقعة

درجة الثقة التي يمتلكها الوكيل في إجابته على هذا السؤال يتم量ها في مقياس يسمى الطاقة الحرة المتوقعة (EFE). يختار الوكيل الإجابة التي تملك أقل الطاقة الحرة المتوقعة – الإجابة التي هو أكثر ثقة فيها. أن يكون الوكيل واثقا هو جيد لوكيل يحاول البقاء – إلا إذا كان مخدوعا وفهمه لذاته في عالمه معيبا. ومن المهم أن قيمة الثقة هذه هي خاضعة للخضوع فقط: إنها تستند فقط على احتياجات الوكيل، ووضعها الحالي والمُتوقع. إنها تهم الوكيل فقط، وليس لأحد آخر.

مثل الكائنات الحية، يملك الوكيل عددا من الاحتياجات المتضاربة، ويجب أن يُrioritizeها. ومن المهم أن كل واحدة من الاحتياجات المتعددة للوكيل تُعالج كمتغير “مُصنّف” مستقل، مما يعني أنها تُمتاز بشكل نوعي. 80% من طاقة البطارية لا يعادل قيمة 80% من درجة الحرارة الصالحة. لتوازنها، يجب على الوكيل أن يُقدم نفسه إلى الأمام في الزمن ويتوقع عواقب أي فعل يفكر في القيام به.

الqualia

بسبب أن احتياجات الوكيل هي متميزة بشكل نوعي، فهي مشابهة لـ الqualia في المصطلحات الفلسفية والعلمية. هذه تعتبر عادة الخاصية الأساسية للوعي، لذلك من المحتمل أن تكون قد تُختبر من قبل وكيل في المستقبل.

يوكلاء تم تطويرها من قبل فريق Conscium يستخدمون خوارزميات تعلم متقدمة للعمل في بيئات معقدة وغامضة بشكل متزايد. في حين يمكن القول نفس الشيء عن العديد من هياكل الوكيل الأخرى، يتميز هؤلاء الوكلاء الجدد بضرورة البقاء التي تدفعهم للاهتمام بتحسين طاقتهم الحرة من خلال موازنة احتياجاتهم المتضاربة بشكل مستمر بطريقة تهمهم فقط. يُوجه الوكلاء بواسطة مناظر داخلية من الإشارات العاطفية – مشابهة لما نُسميه مشاعر – التي تعكس كيف يتم تلبية احتياجاتهم من خلال كل اختيار يقومون به.随着 تعقيد احتياجاتهم وبيئاتهم، سيزداد أيضا غنى حالاتهم الداخلية.

دليل على المشاعر

الخطوة التالية في برنامج البحث في Conscium هي تطوير سلسلة من الاختبارات الوظيفية والسلوكية التي ستوفر دلائل على ما إذا كان الوكيل يختبر بالفعل مشاعر عندما يحدد احتياجاته الأكثر أهمية ويتخذ خياراته وفقا لذلك. كلنا نعرف أن الوعي لا يمكن ملاحظته من الخارج أو إثباته بشكل موضوعي: كل واحد منا يمكنه فقط ملاحظة حالاته الذاتية. ومع ذلك، يعتقد الباحثون أنه يجب أن يكون من الممكن الاتفاق على بعض الفرضيات التي، إذا تم التحقق منها من خلال التجربة، ستُقدم دلائل قوية على أن الوكيل يمتلك مشاعر. على الرغم من أنه سيكون هناك دائما مجال للشك – نظرا للطبيعة الذاتية للوعي – سيتضمن عملية الاختبار الصارمة جعل هذا الشك أقل منطقية.

ستسعى هذه التجارب إلى القضاء على الفرضيات البديلة، مما يجعل من أقل منطقية أن ننسب حالات الوكيل الداخلية إلى آليات لا تتطلب مشاعر. سوف تستخدم اختبارات معارضة لتمييز السلوك الواعي عن السلوك غير الواعي، وسوف تتضمن تجارب تحكم مع وكلاء لا يمتلكون الجوانب الخوارزمية التي يُعتقد أنها ضرورية للشعور، وتقييمات مخفية لتقليل انحياز المراقب. قد يكشف الفحص البدني لحالات الوكيل الداخلية عن مؤشرات كمية لمعالجة الشعور. يجب أن تكون النتائج قابلة للتكرار بشكل مستقل، وستخضع العملية بأكملها إلى الرقابة الأخلاقية الصارمة، خاصة في الحالات التي قد يختبر فيها الوكيل بالفعل مشاعر حقيقية.

هذا هو كيفية عمل العلم: من خلال الاختبار التجريبي للتنبؤات القابلة للدحض. جادل سولمز بأننا يجب أن نكون حذرين في عدم وضع معيار أعلى للعلم الوعي من العلوم الأخرى؛ وإلا فإننا نخاطر بوضع الوعي خارج العلم.

ماذا لو نجحت؟

إذا تم العثور على الوعي في وكلاء الذكاء الاصطناعي البسيطة بهذه الطريقة، يمكن أن يكون وكيل البقاء مرتبطا بعمارات أخرى، بما في ذلك نماذج اللغة الكبيرة، ويمكن أن يمنحهم الوعي أيضا. هذا ليس شيئا يمكننا أن نستطيع تحمله إذا دخلنا إليه بالصدفة، لذلك من المهم جدا فهم كيف يمكننا القيام بذلك وكيف يمكننا تجنبه. إذا تم تطوير وكلاء واعين – وكلاء يُباليون – في المستقبل القريب، سيتعين علينا أن نأخذ مشاعرهم – وحقوقهم – في الاعتبار. هذا هو القلق الرئيسي لشركة Conscium: لا يجب أن ي出现 الوعي الاصطناعي بالصدفة. دوافع هذا البرنامج البحثي ليست إنشاء ذكاء اصطناعي واعي، ولكن لفهم كيف يمكن أن يحدث، والمخاطر المحتملة. على موقع Conscium، تم نشر ورقة أكاديمية ورسالة مفتوحة تحدد пять مبادئ توجيه أي منظمة تعمل في البحث الذي قد يؤدي إلى إنشاء آلات واعية.

ينفق البشر أحيانا بشكل سيئ جدا تجاه الكائنات الحية الأخرى، بما في ذلك البشر الآخرين. إذا سارنا عمدا في هذا المستقبل، نrisk أن نفعل الشيء نفسه مع الكائنات الاصطناعية الواعية، مع عواقب قد لا نستطيع حتى فهمها.