قادة الفكر
من الشبكات العصبية إلى الإهمال: من يتحمل المسؤولية عندما يفشل الذكاء الاصطناعي؟

النقاط الرئيسيةيخلق غموض الذكاء الاصطناعي فجوة مسؤولية من خلال تعقيد العناصر الأساسية للإهمال مثل…
عرض المزيد
- يخلق غموض الذكاء الاصطناعي فجوة مسؤولية من خلال تعقيد العناصر الأساسية للإهمال مثل الواجب والسببية.
- قد تطبق المحاكم مذاهب المسؤولية عن المنتجات الحالية على الذكاء الاصطناعي لكنها تتطلب أدلة تقنية متقدمة.
- يمكن لأنظمة المسؤولية المطلقة توزيع المخاطر بشكل عادل عندما يكون ضرر الذكاء الاصطناعي متوقعًا لكن السببية غامضة.
يناقش هذا المقال القضايا القانونية المحيطة بالأضرار التي يسببها الذكاء الاصطناعي، والجهة التي قد تتحمل المسؤولية إذا لم تعمل شبكة عصبية على النحو الصحيح في الواقع.
خرج الذكاء الاصطناعي من مختبرات البحث إلى قاعات المحاكم والعيادات والسيارات وأسواق الأوراق المالية. فالشبكات العصبية تشخّص الأمراض، وتوافق على القروض، وتنجز على نحو متزايد مهام عُدّت طويلًا من اختصاص البشر. لكن إخفاق هذه الأنظمة في الواقع قد يخلّف عواقب جسيمة، بل مميتة أحيانًا.
بصفتي محاميًا يمثل المدعين في قضايا الإصابات الشخصية في أونتاريو بكندا، ومرشحًا حاليًا لنيل دكتوراه إدارة الأعمال يدرس تقاطع الأعمال والقانون والتكنولوجيا، يوجّه إليّ الناس على نحو متزايد سؤالًا بسيطًا: إذا تسبب الذكاء الاصطناعي في ضرر، فمن المسؤول؟
الجواب في الواقع أكثر تعقيدًا. فالذكاء الاصطناعي يطرح تحديات أمام القواعد القانونية المتعلقة بالإهمال والسببية وإمكانية التوقع، ويثير أسئلة جوهرية عن كيفية استجابة القانون لقرارات الآلات.
الدور المتنامي للذكاء الاصطناعي في القرارات عالية المخاطر
لم يعد الذكاء الاصطناعي مقتصرًا على أتمتة المهام التي تتطلب مهارات محدودة أو على منصات التعلم الآلي. فهو يتخذ الآن قرارات في الرعاية الصحية والتمويل والتوظيف والنقل والعمل الشرطي والتحليلات القانونية.
تتكون نماذج الذكاء الاصطناعي الحالية عادة من شبكات عصبية عميقة تستطيع اكتشاف أنماط معقدة داخل مجموعات بيانات ضخمة، لكن آلياتها تظل مبهمة إلى حد كبير حتى لمطوريها. لاحظ باحثون أن أنظمة الذكاء الاصطناعي تُدخل عدم قابلية التوقع والاستقلالية إلى مجال القانون الذي كانت تحكمه سابقًا، على نحو صارم، إمكانية التوقع والنية. وينشأ عن ذلك تعارض بين الابتكار والمساءلة.
فبينما تُسند الأنظمة القانونية الأضرار المتسبَّب فيها إلى البشر، يوزع الذكاء الاصطناعي المسؤولية بين مهندسي البيانات، ومطوري الأنظمة، والجهات التي تنشرها، والمستخدمين النهائيين. وهكذا تتشتت المسؤولية.
فجوة المسؤولية: عندما يصعب تحديد من يتحمل تبعة الضرر
يشير فقهاء القانون على نحو متزايد إلى «فجوة مسؤولية» ناشئة في حوكمة الذكاء الاصطناعي. ويعتمد قانون المسؤولية التقصيرية التقليدي على تحديد العناصر التالية:
- واجب بذل العناية
- الإخلال بهذا الواجب
- العلاقة السببية
- الضرر
يعقّد الذكاء الاصطناعي كل عنصر من هذه العناصر. فقد لا يعرف المطورون، مثلًا، كيف سيتصرف النموذج بعد نشره، وقد تستخدم المؤسسات أنظمة تعلم آلي من أطراف ثالثة. ومن منظور المستخدم النهائي، تبقى آلية تحديد المخرجات مبهمة.
أشارت دراسة أكاديمية إلى أن إثبات الخطأ يصبح أصعب إذا تصرفت أنظمة الذكاء الاصطناعي بصورة شبه مستقلة، أو تكيّفت ذاتيًا من خلال عمليات مثل التعلم الآلي. ويتحدى هذا التشتت القواعد القانونية التي تقوم على الفعل البشري.
في دعاوى الإصابات الشخصية، تنظر المحاكم عادة في ما إذا كان المدعى عليه قد تصرف بصورة معقولة في ضوء الظروف. لكن كيف ينبغي لها تقييم المعقولية عندما يُفوَّض جانب من اتخاذ القرار إلى نماذج احتمالية؟
الشبكات العصبية ومشكلة قابلية التفسير
تعمل أنظمة التعلم العميق غالبًا بوصفها «صناديق سوداء». فعمليات اتخاذ القرار داخلها لا يسهل تفسيرها حتى على الخبراء. ولهذا النقص في قابلية التفسير آثار قانونية خطيرة.
إذا أخطأ نظام ذكاء اصطناعي طبي في تشخيص السرطان، فأين يكمن الخطأ؟ قد يتوقف الأمر على ما يلي:
- كيفية تدريب النموذج
- ما إذا كانت بيانات التدريب تنطوي على تحيز
- ما إذا كانت إجراءات التحقق كافية
- ما إذا كان الأطباء قد اعتمدوا أكثر مما ينبغي على المخرجات الآلية
توصي الأدبيات القانونية بالتمييز بين المسؤولية السببية، والمسؤولية المرتبطة بالدور، والمسؤولية القانونية عن التعويض عند إسناد المسؤولية عن أضرار الذكاء الاصطناعي.
لكن المسؤولية قد تمتد عمليًا إلى سلسلة من الأطراف:
- مزودو البيانات
- مطورو البرمجيات
- القائمون على تدريب النماذج
- الجهات التي تنشر الأنظمة
- المؤسسات التي تستخدم مخرجات الذكاء الاصطناعي
- المهنيون الذين يعتمدون على توصيات الذكاء الاصطناعي
لا يلغي الذكاء الاصطناعي المسؤولية، بل يعيد توزيعها.
دروس من المركبات ذاتية القيادة: دراسة حالة في مسؤولية الذكاء الاصطناعي
تقدم دعاوى المركبات ذاتية القيادة لمحة مبكرة عن كيفية تعامل المحاكم مع أضرار الذكاء الاصطناعي. طبقت المحاكم المبادئ التقليدية للإهمال والمسؤولية عن المنتجات على التقنيات الجديدة التي تسبب إصابات. وفي قضايا حديثة بدأت هيئات المحلفين توزيع المسؤولية بين السائقين البشر وشركات التكنولوجيا التي طورت أنظمة القيادة الآلية.
اقترح معلقون قانونيون أن القواعد القائمة للمسؤولية عن المنتجات، مثل عيوب التصميم وعيوب التصنيع والإخفاق في التحذير، تنطبق أيضًا على الأنظمة التي تستخدم الذكاء الاصطناعي.
لكن المركبات ذاتية القيادة تكشف حدود الأطر القانونية الحالية. فهل تُسند المسؤولية إلى الشركة المصنّعة للمركبة؟ أم مطور البرمجيات؟ أم المشغّل البشري؟ أم البيانات التي دُرّبت بها الخوارزمية؟
اقترح بعض الباحثين أن تطبيق مبادئ المسؤولية عن المنتجات بطريق القياس يمكن أن يحدد بفاعلية حدود مسؤولية الأطراف في المراحل السابقة واللاحقة من سلسلة التطوير والاستخدام.
ومن منظور المدعي، تبين هذه القضايا أن المحاكم قد تواصل تطبيق المبادئ التقليدية على التقنيات الجديدة، لكن ذلك يتطلب أدلة خبراء متقدمة حقًا ومعرفة تقنية.
المسؤولية الصارمة والإهمال: نظريتان قانونيتان متنافستان
يتمثل أحد محاور النقاش الرئيسية في مدى إمكان تطبيق أطر الإهمال التقليدية على أنظمة الذكاء الاصطناعي. يدعو بعض الباحثين إلى أنظمة للمسؤولية الصارمة، بحجة أن المتضررين لا ينبغي أن يتحملوا عبء إثبات الخطأ في بيئات تقنية شديدة التعقيد.
قد تكون المسؤولية الصارمة مفيدة خصوصًا عندما يكون الضرر متوقعًا لكن لا يمكن تجنبه، وعندما يُنشر نظام الذكاء الاصطناعي على نطاق واسع، وعندما تتوزع المخاطر على المجتمع. وينطبق ذلك أيضًا عندما يصعب إثبات العلاقة السببية التقنية.
وفي المقابل، يُقال إن قواعد المسؤولية القائمة على الإهمال قادرة على التكيف مع التغير التقني. دافعت بحوث قانونية مقارنة عن البناء على القواعد القائمة لما لها من أثر في الاستقرار، ولقدرتها على التكيف التدريجي مع أضرار جديدة.
تعكس المسؤولية الصارمة والمسؤولية القائمة على الإهمال تفضيلات في السياسة العامة تتعلق بالابتكار والإنصاف وكيفية توزيع المخاطر والتكاليف.
فهل ينبغي أن يتحمل المبتكرون المخاطر التقنية؟ أم ينبغي أن يتقاسم المجتمع على نطاق أوسع تكاليف التقدم؟
منظور الأعمال: توزيع المخاطر والتأمين
من منظور الأعمال، لا تقتصر مسؤولية الذكاء الاصطناعي على القانون، بل تشمل إدارة المخاطر. وقد بدأت المؤسسات التي تنشر هذه الأنظمة التركيز على توزيع المخاطر تعاقديًا، وتأمين المسؤولية المهنية، والتغطية التأمينية للمخاطر السيبرانية، والتزامات التعويض، وأطر الامتثال التنظيمي.
وقد تؤدي أسواق التأمين دورًا مهمًا في ترسيخ المساءلة عن الذكاء الاصطناعي. تشير بعض البحوث إلى أن بعض أضرار الذكاء الاصطناعي قد تُعالَج في نهاية المطاف على أفضل وجه عبر نظم تعويض هجينة تجمع بين التأمين وقانون المسؤولية التقصيرية.
ينبغي للشركات التي تدمج الذكاء الاصطناعي في قراراتها التشغيلية مراعاة مخاطر التقاضي ضمن تحولها الرقمي. وإهمال ذلك قد يعرّضها لضرر بسمعتها وعقوبات تنظيمية ومسؤولية مدنية.
المسؤولية الأخلاقية والمسؤولية القانونية
في كثير من الحالات، لا تتطابق المسؤولية القانونية مع المسؤولية الأخلاقية. وتشمل نقاشات حوكمة الذكاء الاصطناعي المبادئ التالية:
- الإنصاف
- الشفافية
- المساءلة
- قابلية التفسير
لكن الاعتبارات الأخلاقية لا تترتب عليها التزامات قانونية تلقائيًا.
يقترح عمل بحثي حديث أطرًا مفاهيمية لتوزيع المسؤولية في منظومات الذكاء الاصطناعي متعددة الأطراف، ووضع قواعد إثبات تربط قرارات التصميم بالنتائج القانونية. ولذلك يجب على الأنظمة القانونية الساعية إلى تشجيع الابتكار أن تراعي أيضًا من تضرروا من التقنيات الجديدة. وسيشكل هذا التوازن مستقبل حوكمة الذكاء الاصطناعي.
مستقبل المسؤولية القائمة على الإهمال في عصر الذكاء الاصطناعي
يتحدى الذكاء الاصطناعي افتراض أن سلطة اتخاذ القرار تبقى دائمًا بيد أشخاص يمكن تحديد هويتهم. لكن المسؤولية القانونية تظل في نهاية المطاف بشرية.
من غير المرجح أن تعترف المحاكم قريبًا بالشخصية القانونية لأنظمة الذكاء الاصطناعي. وبدلًا من ذلك، يُتوقع تحميل المسؤولية للأفراد الذين يطورون هذه الأنظمة وينشرونها ويستفيدون منها.
ومع ازدياد استقلالية الأنظمة، قد تتطور نماذج هجينة تجمع أشكالًا مختلفة من التنظيم:
- مبادئ المسؤولية القائمة على الإهمال
- قواعد المسؤولية عن المنتجات
- الإشراف التنظيمي
- نظم التعويض القائمة على التأمين
قد لا يحل الذكاء الاصطناعي محل مفاهيم نظام «الكومن لو»، بل قد يدفع المحاكم إلى توضيحها فحسب. ومن منظور المدعي، السؤال هو: ماذا حدث؟
من أنشأ الخطر؟ ومن الأقدر على منعه من إلحاق الضرر بالأفراد؟
إلى أن يقر المشرّعون نظمًا شاملة لمسؤولية الذكاء الاصطناعي، ستطبق المحاكم القواعد القانونية القائمة على التقنيات الجديدة. قد تكون الشبكات العصبية جديدة، لكن الإهمال ليس جديدًا.











