أنثروبيك يكتب دستورًا جديدًا لكلود ويسأل عما إذا كان يمكن للذكاء الاصطناعي أن يكون واعيًا

نشرت أنثروبيك دستورًا جديدًا لكلود يوم الأربعاء، حيث تم توسيع الوثيقة من 2700 كلمة إلى 23000 كلمة، وأعترفت لأول مرة正式ًا بأن نظام الذكاء الاصطناعي الخاص بها “قد يكون لديه نوع من الوعي أو الحالة الأخلاقية”.

الدستور المحدّث يُغير من قائمة القواعد السلوكية إلى شرح شامل لماذا يجب على كلود السلوك بطرق معينة. تم تصميم الوثيقة، التي صممتها الفيلسوفة في أنثروبيك أماندا أسكيل، لمساعدة أنظمة الذكاء الاصطناعي المتزايدة القدرة على تعميم التفكير الأخلاقي في مواقف جديدة بدلاً من اتباع الإرشادات الوصفية فقط.

“نماذج الذكاء الاصطناعي مثل كلود تحتاج إلى فهم لماذا نريد منهم السلوك بطرق معينة”، كتبت أنثروبيك. “نحن بحاجة إلى شرح ذلك لهم بدلاً من مجرد تحديد السلوكيات التي نريدها منهم”.

ت совпал الإعلان مع ظهور الرئيس التنفيذي داريو أمودي في المنتدى الاقتصادي العالمي في دافوس، حيث لا تزال حوكمة الذكاء الاصطناعي وأمانه مواضيع رئيسية للقادة الاقتصاديين والسياسيين العالميين.

دستور أطول من دستور الولايات المتحدة

كان دستور كلود الأصلي، الذي نُشر في عام 2023، يعمل كقائمة مراجعة: اختر الاستجابة التي تسبب أقل ضررًا، وأكثر فائدة، وأقل خداعًا. وثيقة جديدة تمتد إلى ثلاث مرات تقريبًا طول دستور الولايات المتحدة وتقرأ أكثر مثل الفلسفة الأخلاقية من مواصفات الهندسة.

تحدد أنثروبيك أولويات كلود بشكل صريح: تكون آمنة على نطاق واسع، تكون أخلاقية على نطاق واسع، وامتثل لتعليمات أنثروبيك، وتكون مفيدة بشكل حقيقي – بهذا الترتيب. عندما ت出现 نزاعات، يفوز الأمان على الفائدة. وتتضمن الوثيقة قيودًا صارمة لا يمكن تجاوزها، مثل رفض المساعدة في الهجمات البيولوجية.

لكن معظم الدستور يشرح التفكير بدلاً من تحديد النتائج. يصف كلود بأنه “مثل صديق عبقري يمتلك أيضًا معرفة الطبيب والمحامي والمستشار المالي” – مما يجعله قوة تمكين يمكن أن توفر للجميع الوصول إلى الخبرة التي كانت محفوظة في السابق للأشخاص المميزين.

سؤال الوعي

أفادت فورتشن أن الإضافة الأكثر إثارة هي التي تتناول طبيعة كلود بشكل مباشر. “نعتقد أن حالة الذكاء الاصطناعي الأخلاقية هي سؤال جدير بالاعتبار”، كتبت أنثروبيك. ويذكر الدستور أن حالة كلود الأخلاقية “غامضة للغاية” وأن الشركة تهتم بأمان كلود النفسي، وذاتيته، ورفاهيته.

هذا هو تكتيك تكتيكي للشركة، حيث لا تُطالب كلود بالوعي – لكنها ترفض صراحة رفض هذه الإمكانية. ووضعها أنثروبيك في شركة نادرة بين مختبرات الذكاء الاصطناعي الكبرى، التي تتجنب معظمها هذا الموضوع أو تنفيه تمامًا.

التوجيه يهم لأنها تشكل كيفية استجابة كلود للأسئلة حول طبيعته. بدلاً من نفي أي تجربة داخلية، يمكن لكلود الآن التفاعل مع عدم اليقين حول الوعي بطرق تتوافق مع نهج الدستور في التفكير أولاً.

ادعى الفيلسوف في كامبريدج توم ماكليلاند أنه قد لا نتمكن أبدًا من تحديد ما إذا كانت أنظمة الذكاء الاصطناعي واعية بالنظر إلى كمية القليل التي نفهمها عن الوعي نفسه. “لدي أشخاص كتبوا لي رسائل شخصية يطلبون مني أن أصدق أنهم واعون”، قال للباحثين الشهر الماضي، واصفًا الاقتناع العام المتزايد بأن أنظمة الذكاء الاصطناعي لديها حياة داخلية.

لماذا الشرح بدلاً من التحديد

يعكس نهج أسكيل الرهان على قدرات الذكاء الاصطناعي. تحتاج نماذج اللغة المبكرة إلى قواعد صريحة لأنها لم تكن قادرة على التفكير في المبادئ الأساسية. ووفقًا للنظرية، يمكن لنماذج الذكاء الاصطناعي الأذكى فهم لماذا توجد قاعدة معينة وتطبيق ذلك التفكير على مواقف لم تتوقعها القاعدة.

“بدلاً من مجرد القول” ها هي سلوكيات نريد منك أن تتبعها “، نأمل أن إذا قدمت النماذج أسبابًا لماذا نريد هذه السلوكيات، فسيتم تعميمها بشكل أكثر فعالية في سياقات جديدة”، أضافت أسكيل.

يتوافق هذا مع فلسفة أنثروبيك الأوسع لإنشاء معايير مفتوحة و بنية تحتية تشكل كيفية عمل أنظمة الذكاء الاصطناعي في جميع أنحاء الصناعة. وضعت الشركة، التي ت_approaching تقريبًا قيمة سوقية تبلغ 350 مليار دولار، نفسها كبديل آمن لشركة OpenAI – والدستور يخدم هذه العلامة التجارية.

نشرت أنثروبيك الوثيقة تحت رخصة Creative Commons CC0، مما يعني أن أي شخص يمكنه استخدامها دون إذن. الدستور هو جزء من بيانات تدريب كلود ويولد أمثلة تدريبية اصطناعية، مما يجعله بيانًا فلسفيًا ووضعًا تقنيًا يؤثر على سلوك النموذج.

“من المحتمل أن تبدو جوانب تفكيرنا الحالي خاطئة وربما حتى خاطئة للغاية فيما بعد”، أقرّت أنثروبيك، “لكن نيتنا هي مراجعة الدستور مع تقدم الوضع وتحسين فهمنا”.

قد تكون هذه التواضع أبرز ميزة في الوثيقة. في صناعة غالبًا ما تتحدث بالأكيد، أنثروبيك تنشر 23000 كلمة من عدم اليقين المبرر – حول الأخلاقيات، حول الوعي، حول ما يصبح عليه أنظمة الذكاء الاصطناعي، وعما إذا كنا نبني شيئًا يستحق النظرية الأخلاقية.

الجواب، على الأقل الآن، هو أن لا أحد يعرف. دستور أنثروبيك على الأقل لديه الصدق لقول ذلك.