الذكاء الاصطناعي الفيدرالي والعسكري في الولايات المتحدة: منصة جديدة تقدم التحقق من الخوارزميات والاعتماد

أطلقت شركة ناشئة تضم مجلس استشاري من كبار الشخصيات العسكرية السابقة في الحكومة منصة جديدة صممت لتقييم أمان وقابلية نشر تطبيقات الذكاء الاصطناعي. يُقال إن المتبنين الأوائل للنظام يشملون سلاح الجو الأمريكي وإدارة الأمن الداخلي.

تُدعى المنصة VESPR، وهي من شركة CalypsoAI التي تأسست عام 2018، ومقرها في وادي السيليكون ودبلن، وموقعها الرسمي ‘غير مكشوف’ في فرجينيا – الأرض التي تتواجد فيها وكالة المخابرات المركزية في لانغلي.

VESPR هو نظام لإدارة مخاطر النماذج (MRM) صُمم لتسهيل نظام اعتماد متوافق مع المتطلبات الفيدرالية للخوارزميات المنشورة. يوفر بيئة رسومية على شكل لوحة تحكم سهلة الاستخدام، بالإضافة إلى واجهة سطر أوامر للاستخدام المتقدم.

Click to enlarge.

يستند VESPR إلى معايير CalypsoAI للتحقق من تعلم الآلة، والتوثيق، والاعتماد، ويضم مكتبات تعلم آلي عدائي مصممة يدوياً. كما يقدم إجراءات اختبار إجهاد آلية للخوارزميات القابلة للنشر المحتملة.

قوة العمل الوطنية لموارد البحث في الذكاء الاصطناعي

قد يكون توقيت الإصدار مرتبطاً بإطلاق إدارة بايدن أمس لقوة عمل جديدة تُدعى قوة العمل الوطنية لموارد البحث في الذكاء الاصطناعي، وهي هيئة صُممت لتعمل كلجنة استشارية فدرالية وفقاً لقانون مبادرة الذكاء الاصطناعي الوطني لعام 2020.

يتصاعد الضغط على الولايات المتحدة وعلى الصعيد العالمي لتطبيق معايير تنظيمية ذات معنى لأنظمة التعلم الآلي، لا سيما في المجالات الحيوية مثل البنية التحتية الأساسية والاستخدام العسكري. ونظراً لأن أنظمة التعلم الآلي لا تزال في مرحلة تكوينية وتشهد سرعة تقدم هائلة، فإنها تمثل مصدرًا غير مستقر وغالبًا ما يثير الجدل، ومن الضروري الآن تحديد خوارزميات تحليلية قابلة للتكرار والموثوقة – إذا كان ذلك ممكنًا.

في أبريل، نشرت CalypsoAI دعمها لقانون الحدود اللامتناهية، وهو مشروع قانون تشريعي يهدف إلى إصلاح تمويل العلوم في ظل تزايد هيمنة الصين كقوة في مجال الذكاء الاصطناعي، إلا أن القانون خُفّف في النهاية خلال مرحلة مجلس الشيوخ.

التحقق للذكاء الاصطناعي الفيدرالي

وفقًا للبيان الصحفي لـ VESPR، تشمل المجالات التي يغطيها الإطار رؤية الحاسوب ومعالجة اللغة الطبيعية (NLP).

تدعي CalypsoAI أن VESPR تم إنشاؤه ‘بمساهمة حاسمة من عملاء الأمن القومي الحاليين ونتيجة لسنوات من الأبحاث الممولة بشكل مستقل في مجال التعلم الآلي العدائي’.

تظهر صور النظام في فيديو ترويجي (انظر نهاية المقال) أنها تشمل روتينات للكشف أو المحاكاة لتسميم البيانات وإدخال الضوضاء، مما يوفر محاكاة لإجراءات المهاجمين المحتملين على الأنظمة المنشورة.

Click to enlarge.

يبدو أن النظام يستخدم بيانات تاريخية للأنشطة الوطنية وكذلك الأجنبية. تشمل الفئات المستهدفة ‘Protests’ و’Riots’، بالإضافة إلى ‘Strategic developments’ الأقل وضوحًا. يبدو أيضًا أن حوادث الإرهاب الوطنية مدرجة في قواعد بيانات النظام المرجعية، مع ‘Violence against civilians’ كفئة هدف أخرى متاحة. تشمل الفئات المستهدفة الأخرى ‘Battles’ و’Explosions/Remote Violence’.

Click to enlarge.

يبدو أن النظام يسمح بحماية الميزات في قسم “BIAS management” من الإعدادات، والذي يبدو مصممًا لمكافحة الإفراط في التعميم أو لتجنب حذف الأحداث الشاذة الصغيرة غير المرغوب فيها والتي قد تكون ذات أهمية في روتين تحليلي. في الفيديو، يعالج VESPR بيانات تاريخية جدولة حول ‘Ukraine’.

بعيدًا عن هذا الحملة الترويجية الأولية، من غير المرجح (ربما عن قصد) أن نسمع المزيد عن هذا المنتج السحابي الموجه للحكومة، مهما كان أداؤه؛ فهو يشارك اسمه مع سلسلة مقاهي، وتطبيق مواعدة اجتماعي، وألبوم بث، ويتعرض باستمرار لهزيمة في نتائج الترتيب من قبل نموذج الكيمياء VSEPR.

حصلت CalypsoAI على تمويل بقيمة 13 مليون دولار في جولة السلسلة A من Paladin Capital Venture Group في يوليو 2020. وشملت المستثمرين الآخرين 8VC، Lockheed Martin (LMT ) Ventures، Manta Ray Ventures، Frontline Ventures، Lightspeed Venture Partners وPallas Ventures.

في منشور مدونة على موقع الشركة، صرّح مؤسس CalypsoAI نيل سيريبريانى، الذي قام بأعمال بحثية غير محددة في وزارة الدفاع عام 2018، أن الشركة تأسست كحل محتمل لمخاوف الحكومات من نشر أنظمة خوارزمية متقدمة في بيئة غير منظمة:

‘السبب الأساسي لهذا الخوف من مشاريع الذكاء الاصطناعي، الذي أدى إلى تركها داخل الحكومة، يبدو بسيطًا، لكنه في الواقع معقد للغاية. تم التخلي عنها بسبب نقص ضمان الجودة […] لا يمكن تقييم نماذج الذكاء الاصطناعي بنفس طريقة تقييم نماذج البرمجيات التقليدية. ذلك يرجع إلى الطبيعة الأساسية لبنية النموذج والطرق المعقدة للغاية التي قد تفشل بها. وبغياب آلية لتقييم هذه الأنظمة غير الحتمية بطريقة حتمية وقابلة للتدقيق، لم تتمكن الجهات داخل الحكومة من تقييم ما يُسمى بـ “جودة” نماذج الذكاء الاصطناعي مقابل معيار مرجعي. أدى ذلك إلى خوف من احتمال فشلها، أو تعطلها، أو اختراقها من قبل خصم في اللحظة التي تُحتاج فيها بشدة، مثلًا في القتال، أو أثناء الطيران، أو خلال إجراء طبي معقد.’

المجلس الاستشاري

قبل شهر من جولة الاستثمار، أنشأت الشركة مجلس استشاري للأمن القومي يضم توني دي مارتينو، المساعد السابق لوزير الدفاع جيم ماتيس، وهو الآن شريك مؤسس في شركة الاستشارات الإستراتيجية ومقرها واشنطن Pallas Advisors؛ وكاري بينغن، النائب الرئيسي السابق لوزير الدفاع للشؤون الاستخبارية (في عهد الرئيس ترامب)؛ وشون روش، نائب مدير مشارك سابق للابتكار الرقمي في وكالة المخابرات المركزية، وهو متخصص سابق في الأمن السيبراني داخل تلك المنظمة؛ ومايكل مولينو، الرئيس التنفيذي السابق لتطوير الشركات في ASRC Federal، التي تقدم خدمات استشارية وبحثية وقدرات هجرة تقنية عبر مجموعة من الخدمات الفيدرالية الحيوية.

وفقًا للبيان:

‘يوفر VESPR قدرات اختبار متقدمة للذكاء الاصطناعي مع سير عمل مبسط لضمان أن كل خوارزمية تعلم آلي تُوضع في الإنتاج قد تم التحقق من أمانها. يقدم VESPR أمانًا وضمانًا لا مثيل لهما لمجموعة متنوعة من أنظمة الذكاء الاصطناعي، من رؤية الحاسوب إلى معالجة اللغة الطبيعية. تضمن عملية VESPR الاختبار والتقييم والتحقق والتصديق (TEVV) طوال دورة حياة التعلم الآلي الآمن (SMLC)، من مرحلة البحث والتطوير حتى نشر النموذج. النتيجة النهائية هي أنظمة ذكاء اصطناعي توفر مراقبة دقيقة وشاملة وتقريرًا عن قدرات النماذج، والضعف، والأداء.’

تم التحديث في الساعة 11:07 صباحًا بتوقيت شرق الولايات المتحدة لتعكس أن مايكل مولينو لم يعد يعمل في ASRC Federal، وهو تصحيح في المقال الأصلي.

تم التحديث في 1January 28, 2024 لإزالة فيديو يوتيوب المكسور.