من الشبكات العصبية إلى الإهمال: من المسؤول عندما تفشل الذكاء الاصطناعي؟

يناقش هذا المقال القضايا القانونية المتعلقة بالأضرار الناجمة عن الذكاء الاصطناعي، وأين تكمن المسؤولية إذا لم تكن الشبكة العصبية تعمل بشكل صحيح في العالم الحقيقي.

لقد انتقل الذكاء الاصطناعي (AI) من مختبرات البحث إلى المحاكم والعيادات والسيارات والبورصات، مع شبكات عصبية تشخص الأمراض والموافقة على القروض وتنفيذ المهمات التي كانت تعتبر في السابق حكرًا على البشر. ولكن عندما تفشل هذه الأنظمة في العالم الحقيقي، فإنها تفعل ذلك مع عواقب وخيمة وأحيانًا قاتلة.

كما律ي شخصي في أونتاريو، كندا، ومرشح حالي لدرجة الدكتوراه في إدارة الأعمال الذي يدرس تقاطع الأعمال والقانون والتكنولوجيا، أتكرر السؤال نفسه: إذا حدثت أذية من الذكاء الاصطناعي، من المسؤول؟

الجواب أكثر تعقيدًا. يطرح الذكاء الاصطناعي تحديات للعقائد القائمة على الإهمال والسببية والتنبؤ، ويشكل أسئلة أساسية حول كيفية استجابة القانون للقرارات الآلية.

التوسع في دور الذكاء الاصطناعي في اتخاذ القرارات عالية المخاطر

لم يعد الذكاء الاصطناعي مقصورًا على أتمتة المهام منخفضة المهارة أو منصات التعلم الآلي. إنه الآن يتخذ قرارات في مجالات الرعاية الصحية والتمويل والتوظيف والنقل والشرطة والتحليلات القانونية.

النماذج الحالية للذكاء الاصطناعي تتكون عادةً من شبكات عصبية عميقة، والتي يمكنها رصد الأنماط المعقدة داخل مجموعات بيانات كبيرة، ولكنها لا تزال غير شفافة بشكل كبير لمطوريها. لاحظ الأكاديميون أن أنظمة الذكاء الاصطناعي تُدخل الغموض والاستقلالية في القانون، الذي كان يُحكم في السابق بالتنبؤ والنية. هذا يخلق صراعًا بين الابتكار والمساءلة.

بينما تعامل الأنظمة القانونية مع الأذية المسببة على أنها قابلة للاعتبار من قبل البشر، يوزع الذكاء الاصطناعي المسؤولية على مهندسي مجموعة البيانات، الذين يخلقونها، ويُعدونها، وينشرونها، والمنظمات التي تستخدم مخرجات الذكاء الاصطناعي. تصبح المسؤولية متفرقة.

فجوة المسؤولية: عندما لا يمكن إسناد الأذية بسهولة

يشير العلماء القانونيون بشكل متزايد إلى “فجوة المسؤولية” الناشئة في حوكمة الذكاء الاصطناعي. تعتمد القانون التقليدي على التعويض على تحديد:

1. ال义務 الرعاية
2. انتهاك هذا ال义務
3. السببية
4. الأضرار

يُ复ّق الذكاء الاصطناعي كل عنصر. على سبيل المثال، قد لا يعرف المطورون كيف سيتصرف نموذجهم بعد نشره، وقد تستخدم المنظمات أنظمة التعلم الآلي من الطرف الثالث. من منظور المستخدم النهائي، الآلية لتحديد المخرجات غير شفافة.

لاحظت دراسة أكاديمية كيف يصبح إثبات الخطأ أكثر صعوبة إذا عملت أنظمة الذكاء الاصطناعي بشكل شبه مستقل أو تعلمت بشكل مستقل من خلال عمليات مثل التعلم الآلي. هذا التجزئة يُشكل تحديًا للعقائد التي تعتمد على الفعل البشري.

في قضايا الإصابات الشخصية، يفحص المحاكم عادةً ما إذا تصرف المدعى عليه بشكل معقول في الظروف. ولكن كيف يجب على المحاكم تقييم المعقولية عندما يتم تفويض اتخاذ القرار جزئيًا إلى نماذج إحصائية؟

الشبكات العصبية ومشكلة الشفافية

تعمل أنظمة التعلم العميق غالبًا كـ “صندوق أسود”. عمليات اتخاذ القرار الداخلية ليست سهلة الفهم، حتى للمختصين. هذا نقص في الشفافية له آثار قانونية خطيرة.

إذا أخطأت نظام الذكاء الاصطناعي الطبي في تشخيص السرطان، من يكون المسؤول؟ قد يكون:

• كيفية تدريب النموذج
• ما إذا كانت بيانات التدريب تحتوي على تحيز
• ما إذا كانت عمليات التحقق كافية
• ما إذا كان الأطباء يعتمدون بشكل كبير على الإخراج الآلي

ينصح الأدب القانوني بتمييز بين المسؤولية السببية، والمسؤولية الوظيفية، والمسؤولية القانونية لتعيين المسؤولية عن الأضرار الناجمة عن الذكاء الاصطناعي.

ومع ذلك، في الممارسة، يمكن أن تمتد المسؤولية إلى سلسلة من الجهات الفاعلة:

• موفري البيانات
• مطورو البرمجيات
• مدربو النماذج
• المنشورين
• المنظمات التي تستخدم مخرجات الذكاء الاصطناعي
• المختصون الذين يعتمدون على توصيات الذكاء الاصطناعي

الذكاء الاصطناعي لا يزيل المسؤولية، ولكنه يُعادة توزيعها.

دروس من المركبات ذاتية القيادة: دراسة حالة في مسؤولية الذكاء الاصطناعي

تقدم دعاوى المركبات ذاتية القيادة نظرة أولية إلى كيفية تعامل المحاكم مع الأذية المرتبطة بالذكاء الاصطناعي. تطبق المحاكم المبادئ التقليدية للإهمال ومسؤولية المنتج على التكنولوجيا الجديدة التي تسبب الإصابة. في الحالات الحديثة، بدأت هيئات المحلفين في توزيع المسؤولية بين السائقين البشر وشركات التكنولوجيا التي أنشأت أنظمة القيادة الآلية.

يقترح المعلقون القانونيون أن مبادئ مسؤولية المنتج القائمة، مثل عيب التصميم وعيب التصنيع وعدم الإعلان، تُطبق على الأنظمة القائمة على الذكاء الاصطناعي.

然而، تكشف المركبات ذاتية القيادة عن حدود الأطر القانونية الحالية. يجب أن تُسناد المسؤولية إلى:

يقترح بعض العلماء أن مبادئ مسؤولية المنتج يمكن أن تُستخدم بشكل فعال لتحديد المسؤولية بين الجهات الفاعلة في مجرى النهر.

من وجهة نظر المدعي، تُظهر القضايا أن المحاكم قد لا تزال تطبق المبادئ التقليدية على التكنولوجيا الجديدة، ولكن فقط مع دليل خبير حقيقي ومعرفة تقنية.

المسؤولية الصارمة والإهمال: النظريات القانونية المنافسة

النقاش الرئيسي هو ما إذا كانت الإطارات القانونية التقليدية للإهمال يمكن تطبيقها على أنظمة الذكاء الاصطناعي. يقترح بعض العلماء أنظمة مسؤولية صارمة، بحجة أن الأطراف المتضررة لا ينبغي أن تتحمل عبء إثبات الخطأ في البيئات التكنولوجية المعقدة.

يمكن أن تكون المسؤولية الصارمة مفيدة بشكل خاص عندما تكون الأذية متوقعة ولكن لا مفر منها، عندما يتم نشر نظام الذكاء الاصطناعي على نطاق واسع، وعندما تكون المخاطر موزعة اجتماعيًا.

كما يُجادل أن قانون الإهمال يمكن أن يتكيف مع التغييرات التكنولوجية. البحوث القانونية المقارنة جادلت من أجل بناء مبادئ قائمة، مع آثارها المستقرة وتكيفها التدريجي مع الأضرار الجديدة.

تُظهر المسؤولية الصارمة والإهمال تفضيلات سياسية تتعلق بالابتكار والعدالة، وكيفية توزيع المخاطر والتكاليف.

يجب أن يكون المبتكرون مسؤولين عن المخاطر التكنولوجية؟ أو يجب أن تتحمل المجتمع بشكل عام تكاليف التقدم؟

منظور الأعمال: توزيع المخاطر والتأمين

من منظور الأعمال، مسؤولية الذكاء الاصطناعي ليست فقط مسألة قانونية، ولكنها مسألة إدارة المخاطر. المنظمات التي تنشر أنظمة الذكاء الاصطناعي بدأت في التركيز على أسئلة توزيع المخاطر التعاقدية:

يمكن أن تلعب أسواق التأمين دورًا هامًا في تحديد المساءلة عن الذكاء الاصطناعي. يقترح بعض البحث أن بعض الأضرار من الذكاء الاصطناعي قد تُعالج في النهاية بشكل أفضل من خلال مخططات تعويض هجينة تجمع بين التأمين والتعويض.

الشركات التي تدمج الذكاء الاصطناعي في اتخاذ القرارات التشغيلية يجب أن تضع في اعتبارها خطر الدعاوى القضائية في تحولها الرقمي. عدم القيام بذلك قد يترك هذه المنظمات معرضة لضرر سمعة، وغرامات تنظيمية، ومسؤولية مدنية.

المسؤولية الأخلاقية مقابل المسؤولية القانونية

في العديد من الحالات، لا تكون المسؤولية القانونية متساوية مع المسؤولية الأخلاقية. المناقشات حول حوكمة الذكاء الاصطناعي تشمل المبادئ التالية:

• العدالة
• الشفافية
• المساءلة
• الشفافية

الالتزامات القانونية لا تتبع تلقائيًا من الاعتبارات الأخلاقية.

العمل الحديث يُقترح إطارات概念ية لتحديد المسؤولية في نُظُم الذكاء الاصطناعي متعددة الأطراف ولإنشاء قواعد الإثبات التي تربط قرارات التصميم بنتائج قانونية. وبالتالي، يجب أن تأخذ الأنظمة القانونية التي تسعى إلى تعزيز الابتكار في الاعتبار أيضًا أولئك الذين تضرروا من التكنولوجيا الجديدة. سوف يُشكل هذا التوازن مستقبل حوكمة الذكاء الاصطناعي.

مستقبل الإهمال في عصر الذكاء الاصطناعي

يُشكل الذكاء الاصطناعي افتراضًا أن سلطة اتخاذ القرار تقع دائمًا مع الجهات الفاعلة البشرية. ولكن في النهاية، تظل المسؤولية القانونية بشرية.

في المستقبل القريب، من غير المحتمل أن تعترف المحاكم بأنظمة الذكاء الاصطناعي كأشخاص قانونيين. بدلاً من ذلك، من المتوقع أن تُحمل الأفراد الذين يطورون وينشرون ويكسبون من أنظمة الذكاء الاصطناعي المسؤولية.

كما تُتوقع أن تتطور نماذج هجينة، تجمع بين:

1. مبادئ الإهمال
2. مبادئ مسؤولية المنتج
3. الإشراف التنظيمي
4. مخططات التعويض القائمة على التأمين

بدلاً من استبدال المفاهيم القانونية الشائعة، قد يُجبر الذكاء الاصطناعي المحاكم على توضيحها فقط. من وجهة نظر المدعي، السؤال هو ما حدث.

من يخلق المخاطر؟ من يمكنه منع المخاطر من الإضرار بالأفراد؟

حتى تعتمد التشريعات تكنولوجيا شاملة، سوف تطبق المحاكم المبادئ القانونية الحالية على التكنولوجيا الجديدة. قد تكون الشبكات العصبية جديدة، ولكن الإهمال ليس كذلك.