الروبوتات الشبيهة بالبشر قادمة إلى المصانع. فمن المسؤول عندما تتعطل؟

قد ينجح روبوت في اجتياز اختبار أداء، ومع ذلك يتحول إلى مصدر خطر على السلامة إذا واجه عائقًا غير متوقع، أو تغير سلوكه بسبب تحديث برمجي، أو صادف عاملًا حقيقيًا. لم يعد السؤال هو ما إذا كانت الروبوتات الشبيهة بالبشر قادرة على أداء مهمة، بل كيف يمكنها أداؤها. وهل تستطيع ذلك بأمان أم لا، ومن يتحمل المسؤولية إذا حدث خطأ؟

أعلنت Agility Robotics وFORT Robotics عن شراكة في أكتوبر لتعزيز بنية السلامة في الروبوت الشبيه بالبشر Digit 5 من Agility. وتعتزمان اعتماد نهج يدمج أنظمة السلامة المدمجة في الروبوت، والواجهات الخارجية، والاتصالات، وإمكانية التجاوز اليدوي. ويمثل هذا التطور تحولًا مهمًا: إذ يجب أن تكون الروبوتات آمنة في أماكن العمل التي يعمل فيها البشر، وهذا يتطلب أكثر من مجرد تأمين الروبوت نفسه.

لكن التكنولوجيا وحدها لا تكفي للإجابة عن سؤال المساءلة. فإذا ارتكب روبوت خطأً استنادًا إلى مكوّن معيب أخطأ نظام ذكاء اصطناعي في تحديده، فقد تُحمّل المسؤولية للشركة المصنّعة، ومطوّر البرمجيات، ومتكامل النظام، وصاحب العمل الذي يستخدم النظام.

حين تتحول قرارات الذكاء الاصطناعي إلى مخاطر مادية

توجد الروبوتات الصناعية التقليدية عادةً داخل خلايا عمل مغلقة، حيث تفصلها عن العمال حواجز وأجهزة أمان. أما الروبوتات الشبيهة بالبشر فتطرح تحديًا آخر: إذ يُفترض أن تتنقل في بيئات صُممت للبشر، وتؤدي مهامًا متنوعة، وتتكيف مع بيئات مختلفة.

تخلق هذه المرونة مخاطر جديدة. فقد يؤدي الكشف الخاطئ إلى حركة غير ضرورية، وقد يغيّر تحديث برمجي سلوك الروبوت. كما يمكن أن تؤدي التغييرات في تصميم المصنع إلى مخاطر لم تكن موجودة في الاختبارات السابقة.

وقالت دانا ر. وولف، نائبة الرئيس ورئيسة قطاع الصناعة في GFT Americas، لـUnite AI إن منع التدخلات غير الآمنة يتطلب طبقات متعددة من الحماية، مثل ضوابط برمجية حتمية، وعتبات ثقة مخصصة لكل مصنع، ودمج بيانات المستشعرات، والتحقق على مراحل قبل النشر.

وقالت وولف إنه لا يمكن تفادي النتائج الإيجابية الكاذبة تمامًا. وبدلًا من ذلك، ينبغي للمصنّعين التأكد من أن الأخطاء لا تتحول إلى حركات مادية غير آمنة.

وقالت وولف إن عتبات الثقة وسلطة التدخل البشري ينبغي أن تكونا جزءًا من بنية السلامة في النظام، شأنهما شأن أقفال الأمان المادية.

يجب أن تواكب معايير السلامة التطورات

توفر معايير الروبوتات الصناعية الحالية أساسًا قيّمًا، لكنها لا تشكل بالضرورة حلًا لجميع المشكلات التي تطرحها الروبوتات الشبيهة بالبشر المتنقلة.

نشرت المنظمة الدولية للتوحيد القياسي (ISO) متطلبات للسلامة تخص الروبوتات الصناعية، ويغطي المعيار ISO 10218-2 دمج الروبوتات في أنظمة متكاملة.

لكن هذه المعايير لا تشمل جميع تطبيقات الروبوتات المتنقلة التي تعمل مع البشر ولا جميع المخاطر المرتبطة بها.

وقالت وولف إن الاختبارات المستقلة، والتحقق القائم على السيناريوهات، والتجارب المرحلية في أماكن العمل، تكتسب أهمية خاصة مع تطور ممارسات القطاع.

ويجب أيضًا تكرار تقييمات السلامة إذا كان من شأن تغييرات في نموذج الذكاء الاصطناعي، أو البرمجيات، أو قيود الحركة، أو المهام، أو بيئة المصنع أن تجعل التقييمات السابقة غير صالحة.

فبعد تغيير كبير، قد لا يكون الروبوت الذي كان آمنًا في مجموعة من الظروف آمنًا في مجموعة الظروف الجديدة.

يجب أن تتجاوز الرقابة البشرية مجرد الموافقة

ليس من العملي مراقبة كل قرار يتخذه نظام ذكاء اصطناعي، لكن غياب الأشخاص عن القرارات الحاسمة يطرح تحديًا آخر: إذ يصبح إثبات المساءلة أكثر صعوبة.

وقال أدريان فيغيروا راموس، الشريك المؤسس والرئيس التنفيذي لشركتي Flexio وRoutina، إن الرقابة ينبغي أن تركز على القرارات التي تنطوي على أكبر قدر من عدم اليقين أو المخاطر.

وقال لـUnite AI: «في عالم الذكاء الاصطناعي اليوم، يفوق حجم المخرجات قدرة الإنسان على معالجتها. ومراجعة كل شيء تجعل الإنسان عنق الزجاجة، لكن الحكم البشري يظل ضروريًا عند اتخاذ قرارات عالية المخاطر أو منخفضة الثقة».

وينطبق هذا بوجه خاص على الذكاء الاصطناعي المادي. وينبغي أن تشمل الرقابة البشرية أشخاصًا محددين بالاسم يملكون صلاحية تجاوز النظام، وأن تضمن توثيق القرارات ومراجعتها، لا الاكتفاء بالنقر على زر الموافقة.

من يتحمل المسؤولية عندما يتعطل روبوت؟

ينبغي توزيع المسؤولية بحسب مدى سيطرة كل طرف على النظام.

فعلى سبيل المثال، تقع على عاتق المصنّعين مسؤولية وضع تدابير السلامة وتوثيقها. وينبغي لمطوري البرمجيات اختبار أي تغييرات قد تؤثر في الإدراك أو الحركة.

يجب على متكامل النظام التحقق من صلاحيته في البيئة المستهدفة. ويتحمل أصحاب العمل مسؤولية تدريب العمال، والتأكد من وجود ضمانات السلامة، ووضع إجراءات لإيقاف العمليات غير الآمنة.

الأمن السيبراني مهم أيضًا. قد تكون التكنولوجيا التشغيلية عرضة لمشكلات في أجهزة الاستشعار والبرمجيات والأنظمة الخارجية المرتبطة بالروبوتات. ويُعدّ الإخفاق الأمني الذي يؤثر في السلوك المادي مشكلة تتعلق بالسلامة في مكان العمل، فضلًا عن كونه مشكلة في تقنية المعلومات.

يُتوقع أن تصبح الروبوتات الشبيهة بالبشر أكثر مرونة وإنتاجية في المصانع مستقبلًا. لكن اعتمادها لن يستند إلى مقاييس الأداء وحدها. فثمة حاجة إلى تحديد المسؤولية بوضوح، وإجراء تحقق مستقل، وتوفير تدابير وقائية مستدامة طوال العمر التشغيلي للروبوت.

السؤال هو: هل يمكن للروبوت أن يرتكب أخطاء؟ نعم، إذا أنشأ الأفراد الذين يستخدمونه نظامًا يحمّلهم المسؤولية عن تلك الأخطاء.