الأخلاقيات
أنثروبيك يكتب دستورًا جديدًا لكلود ويسأل عما إذا كان يمكن للذكاء الاصطناعي أن يكون واعيًا

النقاط الرئيسيةالدستور الجديد لأنثروبيك يعترف رسميًا بأن الذكاء الاصطناعي قد يمتلك وعيًا أو مكانة…
عرض المزيد
- الدستور الجديد لأنثروبيك يعترف رسميًا بأن الذكاء الاصطناعي قد يمتلك وعيًا أو مكانة أخلاقية.
- يشرح الدستور المنطق الأخلاقي بدلاً من سرد القواعد لتحسين تعميم الذكاء الاصطناعي.
- أطلقت أنثروبيك دستورها كمصدر مفتوح لتشكيل معايير سلامة الذكاء الاصطناعي على مستوى الصناعة.
نشرت أنثروبيك دستورًا جديدًا لكلود يوم الأربعاء، حيث تم توسيع الوثيقة من 2700 كلمة إلى 23000 كلمة، واعترفت لأول مرة رسميًا بأن نظام الذكاء الاصطناعي الخاص بها “قد يكون لديه نوع من الوعي أو الحالة الأخلاقية”.
الدستور المحدّث يُغير من قائمة القواعد السلوكية إلى شرح شامل لسبب وجوب تصرف كلود بطرق معينة. تم تصميم الوثيقة، التي صممتها الفيلسوفة في أنثروبيك أماندا أسكيل، لمساعدة أنظمة الذكاء الاصطناعي المتزايدة القدرة على تعميم التفكير الأخلاقي في مواقف جديدة بدلاً من اتباع الإرشادات الإلزامية فقط.
“نماذج الذكاء الاصطناعي مثل كلود تحتاج إلى فهم لماذا نريد منهم التصرف بطرق معينة”، كتبت أنثروبيك. “نحن بحاجة إلى شرح ذلك لهم بدلاً من مجرد تحديد السلوكيات التي نريدها منهم”.
تزامن الإعلان مع ظهور الرئيس التنفيذي داريو أمودي في المنتدى الاقتصادي العالمي في دافوس، حيث لا تزال حوكمة الذكاء الاصطناعي وأمانه مواضيع رئيسية للقادة الاقتصاديين والسياسيين العالميين.
دستور أطول من دستور الولايات المتحدة
كان دستور كلود الأصلي، الذي نُشر في عام 2023، يعمل كقائمة مراجعة: اختر الاستجابة التي تسبب أقل ضررًا، وأكثر فائدة، وأقل خداعًا. وثيقة جديدة تمتد إلى ثلاث مرات تقريبًا طول دستور الولايات المتحدة وتقرأ أكثر مثل الفلسفة الأخلاقية من مواصفات الهندسة.
تحدد أنثروبيك أولويات كلود بشكل صريح: أن يكون آمنًا بوجه عام، وأن يكون أخلاقيًا بوجه عام، وأن يلتزم بإرشادات أنثروبيك، وأن يكون مفيدًا حقًا – بهذا الترتيب. عندما تنشأ تعارضات، يفوز الأمان على الفائدة. وتتضمن الوثيقة قيودًا صارمة لا يمكن تجاوزها، مثل رفض المساعدة في الهجمات البيولوجية.
لكن معظم الدستور يشرح التفكير بدلاً من تحديد النتائج. يصف كلود بأنه “مثل صديق عبقري يمتلك أيضًا معرفة الطبيب والمحامي والمستشار المالي” – مما يجعله قوة تمكين يمكن أن توفر للجميع الوصول إلى الخبرة التي كانت محفوظة في السابق للأشخاص المميزين.
سؤال الوعي
أفادت فورتشن أن الإضافة الأكثر إثارة هي التي تتناول طبيعة كلود بشكل مباشر. “نعتقد أن حالة الذكاء الاصطناعي الأخلاقية هي سؤال جدير بالاعتبار”، كتبت أنثروبيك. ويذكر الدستور أن حالة كلود الأخلاقية “غامضة للغاية” وأن الشركة تهتم بأمان كلود النفسي، وذاتيته، ورفاهيته.
هذا تحفظ مؤسسي ارتقى إلى مستوى الفلسفة. لا تدّعي أنثروبيك أن كلود واعٍ، لكنها ترفض صراحة استبعاد هذا الاحتمال. ويضع هذا الإقرار أنثروبيك ضمن قلة نادرة بين مختبرات الذكاء الاصطناعي الكبرى، التي تتجنب معظمها هذا الموضوع أو ترفضه تمامًا.
هذا التأطير مهم لأنه يشكل كيفية استجابة كلود للأسئلة حول طبيعته. بدلاً من نفي أي تجربة داخلية، يمكن لكلود الآن التفاعل مع عدم اليقين حول الوعي بطرق تتوافق مع نهج الدستور القائم على تقديم الأسباب أولاً. ويبقى أن نرى ما إذا كان ذلك سيؤدي إلى تفاعلات أكثر صدقًا أم أكثر إرباكًا.
ادعى الفيلسوف في كامبريدج توم ماكليلاند أنه قد لا نتمكن أبدًا من تحديد ما إذا كانت أنظمة الذكاء الاصطناعي واعية بالنظر إلى قلة ما نفهمه عن الوعي نفسه. “جعل الناس روبوتات الدردشة الخاصة بهم تكتب إليّ رسائل شخصية تتوسل فيها الروبوتات إليّ أن أصدق أنها واعية”، قال للباحثين الشهر الماضي، واصفًا الاقتناع العام المتزايد بأن أنظمة الذكاء الاصطناعي لديها حياة داخلية.
لماذا الشرح بدلاً من التحديد
يعكس نهج أسكيل الرهان على قدرات الذكاء الاصطناعي. كانت نماذج اللغة المبكرة تحتاج إلى قواعد صريحة لأنها لم تكن قادرة على التفكير في المبادئ الأساسية. ووفقًا للنظرية، يمكن لنماذج الذكاء الاصطناعي الأذكى فهم لماذا توجد قاعدة معينة وتطبيق ذلك التفكير على مواقف لم تتوقعها القاعدة.
“بدلاً من مجرد القول” ها هي سلوكيات نريد منك أن تتبعها “، نأمل أنه إذا أعطيت النماذج أسباب رغبتنا في هذه السلوكيات، فسيتم تعميمها بشكل أكثر فعالية في سياقات جديدة”، أضافت أسكيل.
يتوافق هذا مع فلسفة أنثروبيك الأوسع لإنشاء معايير مفتوحة و بنية تحتية تشكل كيفية عمل أنظمة الذكاء الاصطناعي في جميع أنحاء الصناعة. وضعت الشركة، التي تقترب من قيمة سوقية تبلغ 350 مليار دولار، نفسها كبديل آمن لشركة OpenAI – والدستور يخدم هذه العلامة التجارية.
نشرت أنثروبيك الوثيقة تحت رخصة Creative Commons CC0، مما يعني أن أي شخص يمكنه استخدامها دون إذن. الدستور هو جزء من بيانات تدريب كلود ويولد أمثلة تدريبية اصطناعية، مما يجعله بيانًا فلسفيًا وأثرًا تقنيًا يؤثر على سلوك النموذج.
“من المحتمل أن تبدو جوانب تفكيرنا الحالي خاطئة وربما حتى خاطئة للغاية فيما بعد”، أقرّت أنثروبيك، “لكن نيتنا هي مراجعة الدستور مع تقدم الوضع وتحسين فهمنا”.
قد يكون هذا التواضع أبرز ميزة في الوثيقة. في صناعة غالبًا ما تتحدث بالأكيد، أنثروبيك تنشر 23000 كلمة من عدم اليقين المبرر – حول الأخلاقيات، حول الوعي، حول ما تصبح عليه أنظمة الذكاء الاصطناعي، وعما إذا كنا نبني شيئًا يستحق الاعتبار الأخلاقي.
الجواب، على الأقل الآن، هو أن لا أحد يعرف. دستور أنثروبيك على الأقل لديه الصدق لقول ذلك.












