قادة الفكر
التهاون الناجم عن الإفراط في الثقة بالأتمتة: كيف نعيد إشراك البشر؟

النقاط الرئيسيةالمشغّلون البشريون الذين يراقبون الأنظمة المستقلة يصابون بالتراخي الذهني ولا يتفاعلون…
عرض المزيد
- المشغّلون البشريون الذين يراقبون الأنظمة المستقلة يصابون بالتراخي الذهني ولا يتفاعلون عندما يظهر الخطر فجأة.
- يعني التراخي الذهني تجاه الأتمتة أن الناس يثقون بالآلات ثقة عميقة إلى حد أنهم يتوقفون عن الانتباه إلى الطريق.
- الاحتكاك الخلّاق عبر مدخلات مجتمعية متنوعة قبل النشر ضروري لمنع التراخي الذهني تجاه الأتمتة على نطاق واسع.
في تطور دراماتيكي للأحداث، تم إطلاق سيارات روبوتاكسي، وهي سيارات ذاتية القيادة تقوم باصطحاب الركاب بدون مشغل بشري، في سان فرانسيسكو مؤخرًا. بعد جلسة استماع عامة مثيرة للجدل استمرت 7 ساعات، تم دفع القرار إلى الأمام من قبل لجنة الخدمات العامة في كاليفورنيا. على الرغم من الاحتجاجات، هناك شعور بالحتمية في الهواء. لقد كانت كاليفورنيا تخفف تدريجياً من القيود منذ بداية عام 2022. تسمح القواعد الجديدة للشركتين الحاصلتين على تراخيص – Waymo التابعة لشركة Alphabet (GOOG ) وCruise التابعة لشركة GM – بإرسال هذه السيارات إلى أي مكان في أنحاء المدينة، باستثناء الطرق السريعة، وفرض رسوم على الركاب.
فكرة سيارات الأجرة ذاتية القيادة تميل إلى إثارة مشاعر متناقضة: الإثارة (“سيارات أجرة بتكلفة أقل!”) والخوف (“هل سوف تصدمني أو أطفالي؟”) وبالتالي، غالبًا ما تتطلب السلطات التنظيمية أن يتم اختبار السيارات مع ركاب يمكنهم التدخل والسيطرة على الأنظمة قبل حدوث حادث. للأسف، قد لا يكون وجود بشر على حالة تأهب، مستعدين لتعطيل الأنظمة في الوقت الفعلي، هو الطريقة المثلى لضمان السلامة.
في الواقع، من بين 18 حالة وفاة في الولايات المتحدة المرتبطة بحوادث سيارات ذاتية القيادة (حتى فبراير من هذا العام)، كانت جميعها تتضمن شكلًا من أشكال التحكم البشري، إما في السيارة أو عن بُعد. ويشمل ذلك إحدى أشهر هذه الحوادث، والتي وقعت في وقت متأخر من الليل على طريق في الضواحي واسع في تيمبي، أريزونا، في عام 2018. قامت سيارة اختبار أوبر ذاتية القيادة تلقائيًا بقتل امرأة تبلغ من العمر 49 عامًا تدعى إيلين هيرتسبيرغ، التي كانت تعبر الطريق سيرًا وهي تدفع دراجتها. كانت المشغّلة البشرية في مقعد السائق تنظر إلى أسفل، وأعادت نظرها إلى الطريق قبل الاصطدام بنحو ثانية، وبدأت توجيه السيارة بعد فوات الأوان. تسببت الحادثة في إيقاف أوبر لاختبار سيارات ذاتية القيادة. في النهاية، باعت الشركة قسم السيارات الآلية، الذي كان جزءًا رئيسيًا من استراتيجيتها التجارية.
أقرّت المشغّلة بالذنب في تهمة التعريض للخطر، وحُكم عليها بثلاث سنوات من المراقبة القضائية الخاضعة للإشراف، لا بالسجن. ويبرز الحادث التهاون الناجم عن الإفراط في الثقة بالأتمتة، وهو ظاهرة عُرفت منذ البدايات الأولى لتدريب الطيارين. غالبًا ما يكون الثقة الزائدة ظاهرة شائعة مع أنظمة الذكاء الاصطناعي. كلما زادت استقلالية النظام، زادت ثقة المشغلين البشريين فيه، وعدم الانتباه الكامل. نشعر بالملل من مراقبة هذه التكنولوجيا. عندما يحدث حادث فعلاً، لا نتوقع ذلك ولا نستجيب في الوقت المناسب.
البشر يمتلكون موهبة طبيعية في ما يسميه خبير المخاطر رون ديمبو “تفكير المخاطر” – طريقة تفكير لا تزال أنظمة التعلم الآلي الأكثر تطورًا غير قادرة على محاكاتها. وهي القدرة على إدراك ضرورة الإبطاء أو التوقف عندما لا تكون الإجابة واضحة. تفكير المخاطر هو أمر بالغ الأهمية لأنظمة الآلات، مما يخلق مفارقة. البشر يريدون أن يكونوا في الحلقة، ولكن وضعهم في موقع التحكم عندما نعتمد بثقة كبيرة على الأنظمة الآلية، قد يجعل الأمور أسوأ.
كيف يمكن لمطوري الأنظمة الآلية حل هذه المفارقة، بحيث تنتهي تجارب مثل تلك التي تجري في سان فرانسيسكو بنتائج إيجابية؟ الجواب هو الحفاظ على اليقظة الإضافية ليس فقط قبل لحظة الاصطدام، ولكن في مراحل التصميم والتطوير المبكرة. جميع أنظمة الذكاء الاصطناعي تتضمن مخاطر عندما تُترك بدون رقابة. سيارات الأجرة ذاتية القيادة لن تكون خالية من المخاطر، حتى لو كانت أكثر أمانًا، في المتوسط، من السيارات التي يقودها بشر.
يُظهر حادث أوبر ما يحدث عندما لا نفكر في المخاطر عن قصد. لفعل ذلك، نحن بحاجة إلى الاحتكاك الإبداعي: إشراك وجهات نظر بشرية متعددة قبل إطلاق هذه الأنظمة. بعبارة أخرى، التفكير في آثار أنظمة الذكاء الاصطناعي بدلاً من مجرد التطبيقات يتطلب منظور المجتمعات التي سوف تتأثر مباشرة بالتكنولوجيا.
دافعت Waymo وCruise عن سجلات السلامة لمركباتهما، مستندة إلى الاحتمالات الإحصائية. ومع ذلك، يحوّل هذا القرار سان فرانسيسكو إلى تجربة حية. عندما يتم جمع النتائج، سوف يكون من المهم للغاية جمع البيانات الصحيحة، وتبادل النجاحات والإخفاقات، والسماح للمجتمعات المتأثرة بالتعليق جنبًا إلى جنب مع الخبراء والسياسيين ورواد الأعمال. بعبارة أخرى، إبقاء جميع البشر في الحلقة. وإلا، نحن نخاطر بالتهاون الناجم عن الإفراط في الثقة بالأتمتة – الرغبة في تفويض اتخاذ القرارات لأنظمة الذكاء الاصطناعي – على نطاق كبير.
جولييت باول وأرت كلينر هما مؤلفان لكتاب جديد مفارقة الذكاء الاصطناعي: 7 مبادئ للتكنولوجيا المسؤولة.













