فريق البحث يهدف إلى إنشاء الذكاء الاصطناعي القابل للشرح من أجل منع الانتشار النووي والأمن النووي

الباحثون من مختبر الشمال الغربي الهادئ الوطني (PNNL) يحاولون جعل الذكاء الاصطناعي قابلًا للشرح لأغراض منع الانتشار النووي والأمن القومي. والهدف هو جعل القرارات التي يعود بها نماذج الذكاء الاصطناعي شفافة لأي قرار يتعلق بالأمن النووي.

يتم الاهتمام باهتمام أكبر من أي وقت مضى بأهمية نماذج الذكاء الاصطناعي القابلة للشرح، في محاولة لحل مشكلة “الصندوق الأسود” للتعلم الآلي. غالبًا ما يُعتمد على نماذج الذكاء الاصطناعي لاتخاذ قرارات معقدة حتى عندما لا يفهم المسؤولون عن تنفيذ تلك القرارات المنطق وراء تلك القرارات. وكلما زادت الإمكانية الكارثية والخطر الذي يتم اتخاذ القرارات فيه، زادت أهمية أن يكون المنطق وراء تلك القرارات شفافًا.

قد لا يكون من الضروري فهم المنطق وراء التصنيفات إذا كانت تطبيق الذكاء الاصطناعي يقوم بفعل بسيط مثل تصنيف صور الفواكه، ولكن في الحالات التي تتضمن أسلحة نووية أو إنتاج مواد نووية، من الأفضل فتح الصندوق الأسود الذي يحتوي على الذكاء الاصطناعي المستخدم في هذه السيناريوهات.

يعمل علماء PNNL على جعل الذكاء الاصطناعي قابلًا للشرح باستخدام تقنيات جديدة. يعمل هؤلاء الباحثون جنبًا إلى جنب مع مكتب البحث والتطوير لمنع الانتشار النووي الدفاعي التابع لإدارة الطاقة النووية الوطنية (NNSA) التابعة لوزارة الطاقة. ويتولى مكتب البحث والتطوير مسؤولية الإشراف على قدرة الولايات المتحدة على رصد وكشف إنتاج المواد النووية وتطوير الأسلحة النووية وانفجار الأسلحة النووية في جميع أنحاء العالم.

نظرًا لمدى ارتفاع المخاطر المتعلقة بالمسائل المتعلقة بمنع الانتشار النووي، من الحاسم معرفة كيفية وصول نظام الذكاء الاصطناعي إلى استنتاجاته حول هذه القضايا. أنجي شيفيلد هي مديرة برنامج أولى في مكتب البحث والتطوير لمنع الانتشار النووي الدفاعي. وفقًا لشيفيلد، يمكن أن يكون من الصعب غالبًا دمج تقنيات جديدة مثل نماذج الذكاء الاصطناعي في التقنيات والاطار العلمي التقليدية، ولكن عملية دمج الذكاء الاصطناعي في هذه الأنظمة يمكن جعلها أسهل من خلال تصميم طرق جديدة للتفاعل مع هذه الأنظمة بشكل أكثر فعالية. ترغب شيفيلد في أن يخترع الباحثون أدوات تمكن المطورين من فهم كيفية عمل هذه التقنيات المتقدمة.

النقص النسبي في البيانات المتعلقة بالانفجارات النووية وتطوير الأسلحة النووية يعني أن الذكاء الاصطناعي القابل للشرح أكثر أهمية. يمكن أن يؤدي تدريب نماذج الذكاء الاصطناعي في هذا المجال إلى نماذج أقل موثوقية بسبب قلة البيانات相对于 مهمة مثل التعرف على الوجوه. ونتيجة لذلك، يجب أن يكون كل خطوة من الخطوات التي يستخدمها النموذج لاتخاذ قرار قابلة للفحص.

أوضح مارك جريفز، باحث في PNNL، أن المخاطر الكامنة في الانتشار النووي تفرض نظامًا يمكن أن ي告诉 الناس لماذا تم اختيار إجابة معينة.

كما أوضح جريفز عبر EurekaAlert:

“إذا كان نظام الذكاء الاصطناعي يُنتج احتمالية خاطئة حول ما إذا كانت دولة تمتلك سلاحًا نوويًا، فهذا مشكلة بمقياس مختلف تمامًا. لذلك يجب أن يُنتج نظامنا على الأقل تفسيرات حتى يتمكن البشر من التحقق من استنتاجاته واستخدام خبرتهم لتصحيح الفجوات في تدريب الذكاء الاصطناعي الناجمة عن قلة البيانات”.

كما أوضح شيفيلد، لدى PNNL قوتان سيساعدان على حل هذه المشكلة. أولاً، لدى PNNL خبرة كبيرة في مجال الذكاء الاصطناعي. بالإضافة إلى ذلك، لدى الفريق معرفة قوية في مجال المواد النووية والأسلحة. يفهم فريق PNNL قضايا مثل معالجة البلوتونيوم وأنواع الإشارات الفريدة لتطوير الأسلحة النووية. وتعني الجمعية بين خبرة الذكاء الاصطناعي وخبرة الأمن القومي وخبرة المجال النووي أن PNNL مناسب بشكل فريد لمواجهة قضايا الأمن القومي النووي والذكاء الاصطناعي.