التباطؤ التلقائي: كيفية إعادة وضع البشر في الحلقة

في تطور دراماتيكي للأحداث، تم إطلاق سيارات روبوتاكسي، وهي سيارات ذاتية القيادة تقوم باصطحاب الركاب بدون مشغل بشري، في سان فرانسيسكو مؤخرًا. بعد جلسة استماع عامة مثيرة للجدل استمرت 7 ساعات، تم دفع القرار إلى الأمام من قبل لجنة الخدمات العامة في كاليفورنيا. على الرغم من الاحتجاجات، هناك شعور بالحتمية في الهواء. لقد كانت كاليفورنيا تخفف تدريجياً من القيود منذ بداية عام 2022. تسمح القواعد الجديدة للشركتين الحاصلتين على تراخيص – Waymo التابعة لشركة Alphabet وCruise التابعة لشركة GM – بإرسال هذه السيارات إلى أي مكان داخل المدينة التي تبلغ مساحتها 7 أميال مربعة، باستثناء الطرق السريعة، وفرض رسوم على الركاب.

فكرة سيارات الأجرة ذاتية القيادة تميل إلى إثارة مشاعر متناقضة: الإثارة (“سيارات أجرة بتكلفة أقل!”) والخوف (“هل سوف تصدمني أو أطفالي؟”) وبالتالي، غالبًا ما تتطلب السلطات التنظيمية أن يتم اختبار السيارات مع ركاب يمكنهم التدخل والسيطرة على الأنظمة قبل حدوث حادث. للأسف، قد لا يكون وجود بشر على حالة تأهب، مستعدين لتعطيل الأنظمة في الوقت الفعلي، هو الطريقة المثلى لضمان السلامة.

في الواقع، من بين 18 حالة وفاة في الولايات المتحدة المرتبطة بحوادث سيارات ذاتية القيادة (حتى فبراير من هذا العام)، كان جميعهم يمتلكون بعض شكل من أشكال التحكم البشري، إما في السيارة أو عن بُعد. هذا يشمل واحدًا من أكثر الحوادث شهرة، والتي وقعت في وقت متأخر من الليل على طريق郊بي واسع في تيمبي، أريزونا، في عام 2018. قامت سيارة اختبار أتوبيس ذاتية القيادة تلقائيًا بقتل امرأة تبلغ من العمر 49 عامًا تدعى إيلين هيرتسبيرغ، التي كانت تجري مع دراجتها العجلة عبر الطريق. كان المشغل البشري في المقعد الأمامي يحدق إلى أسفل، ولم تنبه السيارة حتى قبل لحظة من الاصطدام. كانوا يمتلكون عجلة القيادة متأخرين. تسببت الحادثة في إيقاف أتوبيس لاختبار سيارات ذاتية القيادة. في النهاية، باعت الشركة قسم السيارات الآلية، الذي كان جزءًا رئيسيًا من استراتيجيتها التجارية.

انتهى المطاف بالمشغل في السجن بسبب التباطؤ التلقائي، وهو ظاهرة تم اكتشافها لأول مرة في أيام التدريب الأولية لطيارين الطائرات. غالبًا ما يكون الثقة الزائدة ديناميكية شائعة مع أنظمة الذكاء الاصطناعي. كلما زادت استقلالية النظام، زادت ثقة المشغلين البشرين فيه، وعدم الانتباه الكامل. نصبح متعبين من مراقبة هذه التكنولوجيا. عندما يحدث حادث فعلاً، لا نتوقع ذلك ولا نستجيب في الوقت المناسب.

البشر يمتلكون موهبة طبيعية في ما يسميه خبير المخاطر رون ديمبو “تفكير المخاطر” – طريقة تفكير لا تزال أنظمة التعلم الآلي الأكثر تطورًا غير قادرة على محاكاتها. هذه هي القدرة على التعرف، عندما لا يكون الجواب واضحًا، على أننا يجب أن نبطئ أو نوقف. تفكير المخاطر هو أمر بالغ الأهمية لأنظمة الآلات، مما يخلق مفارقة. البشر يريدون أن يكونوا في الحلقة، ولكن وضعهم تحت السيطرة عندما نعتمد بثقة كبيرة على الأنظمة الآلية، قد يجعل الأمور أسوأ.

كيف يمكن لمطوري الأنظمة الآلية حل هذه المفارقة، بحيث تنتهي تجارب مثل تلك التي تجري في سان فرانسيسكو بنتائج إيجابية؟ الجواب هو الحفاظ على اليقظة الإضافية ليس فقط قبل لحظة الاصطدام، ولكن في مراحل التصميم والتطوير المبكرة. جميع أنظمة الذكاء الاصطناعي تتضمن مخاطر عندما تُترك بدون رقابة. سيارات الأجرة ذاتية القيادة لن تكون خالية من المخاطر، حتى لو كانت أكثر أمانًا، في المتوسط، من السيارات التي يقودها بشر.

حوادث أتوبيس تظهر ما يحدث عندما لا نفكر في المخاطر بpurpose. لفعل ذلك، نحن بحاجة إلى الاحتكاك الإبداعي: جلب وجهات نظر بشرية متعددة إلى اللعب قبل إطلاق هذه الأنظمة. بعبارة أخرى، التفكير في الآثار أنظمة الذكاء الاصطناعي بدلاً من مجرد التطبيقات يتطلب منظور المجتمعات التي سوف تتأثر مباشرة بالتكنولوجيا.

دافعت Waymo وCruise عن سجلات السلامة لمركباتهما، مستندة إلى الاحتمالات الإحصائية. ومع ذلك، يتحول هذا القرار سان فرانسيسكو إلى تجربة حية. عندما يتم جمع النتائج، سوف يكون من المهم للغاية جمع البيانات الصحيحة، وتبادل النجاحات والفشلات، وسماح للمجتمعات المتأثرة بالتعليق جنبًا إلى جنب مع الخبراء والسياسيين والأشخاص من الأعمال. بعبارة أخرى، إبقاء جميع البشر في الحلقة. وإلا، نحن نخاطر بالتباطؤ التلقائي – الرغبة في تفويض اتخاذ القرارات لأنظمة الذكاء الاصطناعي – على نطاق كبير.

جولييت باول وأرت كلينر هما مؤلفان لكتاب جديد مفارقة الذكاء الاصطناعي: 7 مبادئ للتكنولوجيا المسؤولة.