مجموعة الاستشارة التكنولوجية تدعو إلى حدود لاستخدام البنتاغون للذكاء الاصطناعي

أعرب البنتاغون عن نيته للاستثمار بشكل كبير في الذكاء الاصطناعي، مشيرًا إلى أن الذكاء الاصطناعي سيعزز قوة الجيش الأمريكي ويعززه ضد التهديدات المحتملة للأمن القومي. كما ذكر إنجادجت، في هذا الخميس الماضي، دفع مجلس الابتكار الدفاعي إلى الأمام عددًا من المبادئ التوجيهية المقترحة للأخلاقيات لاستخدام الذكاء الاصطناعي في الجيش. وتشمل قائمة المقترحات استراتيجيات لتجنب الانحياز غير المقصود والحكم على الذكاء الاصطناعي الذي سيكون له إجراءات وقف طارئة لمنع الذكاء الاصطناعي من gây ضرر غير ضروري.

كما ذكر وايرد، تم إنشاء مجلس الابتكار الدفاعي من قبل إدارة أوباما لتقديم إرشادات للبنتاغون في الحصول على خبرة وتalent من قطاع التكنولوجيا. ويترأس المجلس حاليًا الرئيس التنفيذي السابق لجوجل، إريك شميدت. وقد كُلفت الإدارة مؤخرًا بإنشاء إرشادات للمبادئ التوجيهية الأخلاقية لتطبيق الذكاء الاصطناعي في المشاريع العسكرية. وفي يوم الخميس، أصدر المجلس إرشاداته وتوصياته للاطلاع. وتشير التقارير إلى أن الوقت قد حان لمناقشات جادة حول استخدام الذكاء الاصطناعي في السياق العسكري قبل أن يحدث حادث خطير يفرض وجودها.

وفقًا لاخبار الذكاء الاصطناعي، ذكر مسؤول عسكري سابق مؤخرًا أن البنتاغون كان متأخرًا في استخدام الذكاء الاصطناعي. ويتطلع البنتاغون إلى تعويض هذا النقص وقد أعلن أن تطوير وتوسيع الذكاء الاصطناعي في الجيش هو أولوية وطنية. ويتعرض خبراء أخلاقيات الذكاء الاصطناعي للقلق من أن البنتاغون قد يستخدم أنظمة الذكاء الاصطناعي بطرق غير أخلاقية في عجلةه لتصبح قائدًا في مجال الذكاء الاصطناعي. و虽然 قدمت لجان أخلاقيات الذكاء الاصطناعي المستقلة اقتراحاتها الخاصة، إلا أن مجلس الابتكار الدفاعي قد اقترح على الأقل خمسة مبادئ يجب على الجيش اتباعها في جميع الأوقات عند تطوير وتنفيذ أنظمة الذكاء الاصطناعي.

المبدأ الأول المقترح من قبل المجلس هو مبدأ أن البشر يجب أن يكونوا مسؤولين دائمًا عن استخدام وتنفيذ وتأثير أي منصة ذكاء اصطناعي تستخدم في السياق العسكري. هذا يذكرنا بسياسة عام 2012 التي حددت أن البشر يجب أن يكونوا جزءًا من عملية اتخاذ القرار في أي وقت يمكن استخدام القوة القاتلة. هناك العديد من المبادئ الأخرى في القائمة التي توفر نصائح عامة مثل التأكد من أن أنظمة الذكاء الاصطناعي يتم بناؤها دائمًا من قبل مهندسين يفهمون ويوثقون برامجهم بدقة. ويوصي مبدأ آخر بأن أنظمة الذكاء الاصطناعي العسكرية يجب دائمًا اختبارها لضمان موثوقيتها. وتظهر هذه الإرشادات وكأنها أمر منطقي، لكن المجلس يريد التأكيد على أهميتها.

المبادئ الأخرى في القائمة تتعلق بالسيطرة على الانحياز في خوارزميات الذكاء الاصطناعي و khảية الذكاء الاصطناعي لاكتشاف ما إذا كان الضرر غير المقصود قد يحدث وفرض نفسه تلقائيًا. وتحدد الإرشادات أنه إذا كان الضرر غير ضروري سيحدث، يجب على الذكاء الاصطناعي أن يكون قادرًا على إلغاء تنشيط نفسه وترك مسؤول بشري لاتخاذ زمام الأمور. ويوصي مشروع المبادئ أيضًا بأن يكون خرج الذكاء الاصطناعي قابلاً للتتبع حتى يتمكن المحللون من رؤية ما أدى إلى اتخاذ الذكاء الاصطناعي لقرار معين.

مجموعة التوصيات التي قدمها المجلس تسلط الضوء على فكرتين مختلفتين. تعكس المبادئ حقيقة أن الذكاء الاصطناعي سيكون جزءًا لا يتجزأ من مستقبل العمليات العسكرية، ولكن معظم الذكاء الاصطناعي لا يزال يعتمد على الإدارة والاتخاذ القرارات البشرية.

على الرغم من أن البنتاغون لا يضطر إلى تبني توصيات المجلس، إلا أنه يبدو أن البنتاغون يأخذ التوصيات على محمل الجد. كما ذكر وايرد، قال مدير مركز الذكاء الاصطناعي المشترك، اللفتنانت جنرال جاك شاناهان، إن توصيات المجلس سوف تساعد البنتاغون على “دعم أعلى معايير الأخلاقيات كما هو مذكور في استراتيجية وزارة الدفاع للذكاء الاصطناعي، مع الاستمرار في تطبيق معايير الاختبار والتحقق الصارمة للتكنولوجيا الجديدة كما هو الحال في تاريخ الجيش الأمريكي”.

يظل قطاع التكنولوجيا متشككًا في استخدام الذكاء الاصطناعي في إنشاء الأجهزة والبرامج العسكرية. وقد احتج موظفو مايكروسوفت وجوجل على التعاون مع الكيانات العسكرية، وألغت جوجل مؤخرًا تجديد العقد الذي كان يشارك فيه في مشروع مافن. وقد وقع عدد من رؤساء تنفيذيين وخبراء وعلماء ومهندسين على عهد لا “المشاركة في ولا دعم تطوير أو تصنيع أو تداول أو استخدام أسلحة ذاتية القتل”. إذا تبنى البنتاغون الإرشادات المقترحة من قبل المجلس، فقد يجعل قطاع التكنولوجيا أكثر استعدادًا للتعاون على المشاريع، على الرغم من أن الوقت فقط سوف ي告诉نا.