تقنيات الذكاء الاصطناعي المتقدمة تعرض تحديات أخلاقية – قادة الفكر

من قبل ألفريد كروز، نائب الرئيس والمستشار العام لقطاع الاستخبارات والأمن في بي إيه إي سيستمز إنك

في وقت سابق من هذا العام، قبل جائحة كورونا، حضرت مؤتمر إثيكس إن텔يجنس في ذا سيتاديل في تشارلستون، حيث ناقشنا موضوع الأخلاقيات في جمع الاستخبارات فيما يتعلق بحماية الأمن القومي. في صناعة الدفاع، نشهد انتشار المعرفة والحوسبة والتقنيات المتقدمة، خاصة في مجال الذكاء الاصطناعي (AI) والتعلم الآلي (ML). ومع ذلك، قد توجد مشاكل كبيرة عند نشر الذكاء الاصطناعي في سياق جمع الاستخبارات أو القتال في الوقت الفعلي.

الذكاء الاصطناعي المقترن بالحوسبة الكمومية يعرض مخاطر

ما يجب أن نسأله، ونحلل، ونتحديد مسارًا للأمام هو عندما نستخدم الذكاء الاصطناعي المقترن بالحوسبة الكمومية في عملية اتخاذ القرارات في زمن الحرب. على سبيل المثال، تذكر فيلم Terminator؟ كما أن تقنيتنا تتخذ قفزات كبيرة، فإن واقع ما قدمه سكاي نت أمامنا. قد نسأل أنفسنا، “هل سكاي نت قادم لينال منا؟” خذ جولة معي في الذاكرة؛ أجهزة الذكاء الاصطناعي أخذت السيطرة لأنها كانت قادرة على التفكير واتخاذ القرارات بنفسها، دون وجود إنسان ليتحكم فيها. عندما استنتجت الأجهزة أن البشر كانوا عيبًا، انطلقت لتدمير البشرية. لا أريد أن أكون مخطئًا، الذكاء الاصطناعي لديه إمكانات كبيرة، لكني أعتقد أنه يجب أن يكون له معايير تحكم بسبب العامل الخطر المشارك.

الغموض الأخلاقي والتحدي الفلسفي للذكاء الاصطناعي

أعتقد أن هذا هو السبب الذي دفعت وزارة الدفاع الأمريكية (DoD) إلى إصدار مبادئها الأخلاقية الخاصة بالذكاء الاصطناعي، لأن استخدام الذكاء الاصطناعي يثير غموضًا أخلاقيًا ومخاطر جديدة. عند الجمع بين الذكاء الاصطناعي والقدرات الحوسبية الكمومية، يتغير khả năng اتخاذ القرارات، ويتزايد خطر فقدان السيطرة – أكثر مما ندركه اليوم. الحوسبة الكمومية تجعل نظام تشغيل الدماغ البشري يخجل، لأن الحواسيب الفائقة يمكن أن تقوم بحسابات أسرع وأكثر دقة من الدماغ البشري.

علاوة على ذلك، استخدام الذكاء الاصطناعي المقترن بالحوسبة يعرض تحديًا فلسفيًا. في أي نقطة سيت 허ل العالم لمشاكل أن تكون لديها إرادة خاصة؟ وإذا سمحنا للأجهزة بالتفكير بنفسها، هل يعني ذلك أن الأجهزة أصبحت واعية؟ هل كونها واعية يعني أنها حية؟ كما مجتمع، لم نحدد بعد كيف نحدد هذه الحالة. وبالتالي، كما هو الحال اليوم، أجهزة تعمل بنفسها بدون تحكم بشري قد تؤدي إلى عواقب. هل يمكن لأجهزة أن تعطل تدخل إنسان لوقف إطلاق النار؟ إذا كانت الأجهزة تعمل بنفسها، هل سنكون قادرين على سحب المفتاح؟

كما أرى الأمر، استخدام الذكاء الاصطناعي من منظور دفاعي سهل. ومع ذلك، كم سيكون من السهل نقلها إلى الهجوم؟ في الهجوم، ستكون الأجهزة تتخذ قرارات إطلاق النار في الميدان. هل سيكون إطلاق النار من قبل جهاز على عدو انتهاكًا لاتفاقية جنيف وقوانين النزاع المسلح؟ مع تحركنا بسرعة في هذا الفضاء، يجب على العالم أن يتفق على أن استخدام الذكاء الاصطناعي والحوسبة الكمومية في القتال يجب أن يخضع للقوانين الحالية.

وزارة الدفاع لديها موقف عند استخدام الذكاء الاصطناعي مع الأنظمة المستقلة، وتقول إن هناك دائمًا شخصًا مشاركًا في عملية اتخاذ القرار؛ شخص سيتخذ القرار النهائي بشأن إطلاق النار. هذا هو قاعدتنا، ولكن ماذا يحدث إذا قرر خصم اتخاذ مسار آخر وترك الذكاء الاصطناعي يتخذ جميع القرارات؟ ثم سيكون للجهاز، الذي ناقشنا أنه أسرع وأكثر ذكاء ودقة، الميزة.

لننظر إلى طائرة بدون طيار مجهزة بالذكاء الاصطناعي والتعرف على الوجه: الطائرة تطلق النار بنفسها بسبب هدف مسبق تم تحديده على أنه إرهابي. من هو المسؤول عن إطلاق النار؟ هل هناك مساءلة إذا كان هناك خطأ متحيز؟

الانحياز المدمج في الذكاء الاصطناعي والتعلم الآلي

البحث يشير إلى حقيقة أن الأجهزة أقل عرضة للخطأ من البشر. ومع ذلك، يثبت البحث أيضًا أن هناك انحيازًا في التعلم الآلي بناءً على “المعلم” البشري الذي يعلم الجهاز. مبادئ وزارة الدفاع الخمسة للأخلاقيات للذكاء الاصطناعي تشير إلى الانحيازات الحالية عندما تقول، “سوف تتخذ وزارة الدفاع خطوات متعمدة لتحديد الانحياز غير المقصود في قدرات الذكاء الاصطناعي.” نحن نعلم بالفعل من خلال دراسات مثبتة أن هناك انحيازًا في تطبيقات التعرف على الوجه تجاه الأشخاص الملونين مع نتائج إيجابية كاذبة. عندما يخلق شخص الكود الذي يعلم الجهاز كيف يتخذ القرارات، سيكون هناك انحياز. قد يكون هذا غير مقصود لأن الشخص الذي يخلق الذكاء الاصطناعي لم يكن على دراية بالانحياز الذي يوجد فيه.

لذلك، كيف يمكننا إزالة الانحياز؟ مخرجات الذكاء الاصطناعي جيدة فقط كما هو مدخله. لذلك، يجب أن يكون هناك ضوابط. يجب أن تتحكم في البيانات التي تدخل لأنها يمكن أن تجعل نتائج الذكاء الاصطناعي أقل صحة. سيتعين على المطورين كتابة الكود بشكل مستمر لإزالة الانحياز.

على العالم أن يحدد أفضل استخدام للتكنولوجيا

التكنولوجيا في حد ذاتها ليست جيدة أو سيئة. إنها كيف يستخدمها البلد يمكن أن يأخذ أفضل النيات ويجعله ي goes wrong. مع تقدم التكنولوجيا بطرق تؤثر على حياة البشر، يجب على العالم أن يعمل معًا لتحديد الإجراءات المناسبة. إذا أزلنا البشر من المعادلة في تطبيقات الذكاء الاصطناعي، فإننا نزل أيضًا ذلك التأخير قبل إطلاق النار – ذلك البوصلة الأخلاقية التي توجّهنا؛ ذلك التأخير عندما نتوقف ونطرح السؤال، “هل هذا صحيح؟” جهاز تعلم للتفاعل لن يكون له ذلك التأخير. لذلك، السؤال هو، في المستقبل، هل سيتعامل العالم مع هذا؟ كم سيتقدم العالم لسماح للأجهزة باتخاذ قرارات قتالية؟