الأمن السيبراني
الذكاء الاصطناعي الفيدرالي والعسكري الأمريكي: منصة جديدة تقدم التحقق من الخوارزمية والاعتماد
يضم مجلس إدارة من الشخصيات الحكومية العسكرية السابقة، أطلقت شركة استارت أب منصة جديدة مصممة لتقييم أمان وتحميل تطبيقات الذكاء الاصطناعي. ومن بين المستخدمين المبكرين للنظام القوات الجوية الأمريكية ووزارة الأمن الداخلي.
تسمى المنصة VESPR، من CalypsoAI، التي تأسست في عام 2018، ومقرها في وادي السيليكون، دبلن، وموقع غير معلن في فرجينيا – أرض صلبة لوكالة المخابرات المركزية في لانغلي.
VESPR هو نظام إدارة مخاطر النماذج (MRM) مصمم لتسهيل نظام معتمد اتحاديًا لتأكيد الخوارزميات المعتمدة. كما يوفر بيئة واجهة مستخدم友ية وموجهة نحو لوحة التحكم، وواجهة سطر الأوامر (CLI) للاستخدام المتقدم.
انقر للتحميل. Source: https://www.youtube.com/watch?v=lMhS6j7t2pI
VESPR مبني على معايير التحقق والتحقق من صحة واعتماد CalypsoAI، ويتميز بمكتبات تعلم الآلة المعادية المصنعة يدويًا. كما يوفر إجراءات اختبار الإجهاد الآلي للخوارزميات القابلة للنشر المحتملة.
قوة مهمة وطنية للبحوث حول الموارد الاصطناعية
قد تكون توقيت الإطلاق متعلقًا بإطلاق إدارة بايدن البارحة لجنة قوة مهمة وطنية للبحوث حول الموارد الاصطناعية، وهي هيئة مصممة لتكون لجنة استشارية فيدرالية وفقًا لمشروع قانون الوطني للذكاء الاصطناعي لعام 2020.
تزداد الضغوط على الولايات المتحدة، وعلى مستوى العالم، من أجل معايير تنظيمية معنوية لأنظمة التعلم الآلي، لا سيما في المناطق الحيوية مثل البنية التحتية العسكرية. منذ أن لا تزال أنظمة التعلم الآلي في مرحلة تشكيلية وسريعة التقدم، فإنها تمثل وسيلة غير مستقرة في كثير من الأحيان ومثيرة للجدل من التي من الضروري تحديد خوارزميات تحليلية قابلة للتكرار وموثوقة – إذا كان ذلك ممكنًا.
في أبريل، أعلنت CalypsoAI دعمها ل قانون الحدود غير المنتهية، وهو مشروع قانون كونغرسي مصمم لإصلاح تمويل العلوم في مواجهة التميز المتزايد للصين كقوة في مجال الذكاء الاصطناعي، على الرغم من أن القانون قد تم تخفيفه في النهاية في مجلس الشيوخ.
التحقق من صحة الذكاء الاصطناعي الفيدرالي
وفقًا لإعلان صحفي VESPR، تشمل المجالات التي يغطيها الإطار الرؤية الحاسوبية ومعالجة اللغة الطبيعية (NLP).
تطالب CalypsoAI بأن VESPR تم إنشاؤه “بمعلومات حرجة من العملاء الحاليين للأمن القومي وولد من سنوات من البحث المستقل في التعلم الآلي المعادي”.
تظهر الصور من النظام في فيديو ترويجي (انظر نهاية المقال) أنها تشمل كشف و/أو محاكاة إجراءات للتسمم البيانات وضخ الضوضاء، وتوفر محاكاة لإجراءات المهاجمين المحتملين للنظم المعتمدة.
انقر للتحميل.
يبدو أن النظام يستخدم بيانات تاريخية وطنية وأجنبية. تشمل الفئات المستهدفة “الاحتجاجات” و”الأعمال الشغب”، بالإضافة إلى “التطورات الاستراتيجية” الأقل وضوحًا. ويبدو أن حوادث الإرهاب الوطنية أيضًا مدرجة في قواعد بيانات النظام، مع “العنف ضد المدنيين” كفئة مستهدفة أخرى متاحة. تشمل الفئات المستهدفة المتاحة الأخرى “المعارك” و”الانفجارات / العنف عن بعد”.
انقر للتحميل.
يبدو أن النظام يسمح بحماية الميزات في قسم “إدارة التحيز” من التكوين، ويبدو أنه مصمم لمكافحة التكيف المفرط أو تجنب القضاء على أحداث المنشطات الخارجية الصغيرة التي قد تكون ذات أهمية في إجراء تحليلي. في الفيديو، يتم معالجة بيانات جدولية تاريخية حول “أوكرانيا” بواسطة VESPR.
عندما يتجاوز هذا العرض الترويجي الأولي، فمن غير المحتمل (ربما بتصميم) أن نسمع المزيد عن هذا المنتج السحابي المواجه للحكومة، بغض النظر عن كيفية أدائه؛ يتقاسم اسمه مع مقهى، وتطبيق مواعدة اجتماعي، وألبوم بث، ويتم دفعها بلا هوادة إلى الخلف في نتائج المرتبة من قبل نموذج VSEPR الكيميائي.
حصلت CalypsoAI على 13 مليون دولار في تمويل الجولة الأولى من مجموعة Paladin Capital Venture في يوليو 2020. وشمل المستثمرين الآخرون 8VC، وLockheed Martin Ventures، وManta Ray Ventures، وFrontline Ventures، وLightspeed Venture Partners، وPallas Ventures.
في منشور مدونة على موقع الشركة، يذكر مؤسس CalypsoAI، Neil Serebryany، الذي قام بأبحاث غير محددة في وزارة الدفاع في عام 2018، أن الشركة تم تأسيسها كحل محتمل للخوف الحكومي من نشر أنظمة خوارزمية متقدمة في مناخ غير منظم:
‘السبب الرئيسي لهذا الخوف من مشاريع الذكاء الاصطناعي، مما يؤدي إلى إهمالها داخل الحكومة، يبدو مملًا، لكنه في الواقع معقد للغاية. لقد تم إهمالها بسبب نقص في ضمان الجودة […] لا يمكن تقييم نماذج الذكاء الاصطناعي بنفس الطريقة التي يتم بها تقييم نماذج البرمجيات التقليدية. هذا بسبب طبيعة بنية النموذج والطرق المعقدة للغاية التي يمكن أن تفشل فيها. بدون آلية لتقييم هذه الأنظمة غير الحتمية بطريقة حتمية وقابلة للتدقيق، كانت المنظمات داخل الحكومة غير قادرة على تقييم ما يسمى “جودة” نماذج الذكاء الاصطناعي مقابل معيار. هذا أدى إلى خوف من أن تفشل، أو تعطل، أو يتم اختراقها من قبل عدو في الوقت الذي يتم فيه الحاجة إليها أكثر على سبيل المثال في القتال، أو أثناء الطيران، أو خلال إجراء طبي معقد. ‘
مجلس الإدارة الاستشاري
قبل جولة الاستثمار بشهر، أنشأت الشركة مجلسًا استشاريًا للأمن القومي بما في ذلك توني دي مارتينو، مساعدًا سابقًا لوزير الدفاع جيم ماتيس، والآن شريك مؤسس لمجموعة استشارية إستراتيجية في واشنطن، Pallas Advisors؛ السيدة كاري بينجن، نائب الرئيس السابق لوزارة الدفاع لشؤون الاستخبارات (تحت رئاسة ترامب)؛ شون روتش، نائب المدير السابق للاختراق الرقمي في وكالة المخابرات المركزية، وهو خبير سابق في الاستخبارات السيبرانية في تلك المنظمة؛ و مايكل مولينو، الرئيس التنفيذي السابق للتطوير الشركة في ASRC Federal، الذي يوفر استشارات وأبحاث وخدمات هجرة تقنية عبر مجموعة من الخدمات الفيدرالية الحيوية.
وفقًا للإعلان الصحفي:
‘VESPR يوفر قدرات اختبار متقدمة للذكاء الاصطناعي مع تدفق عمل مبسط لضمان أن كل خوارزمية تعلم الآلة موضوعة في الإنتاج قد تم التحقق من أمانها. VESPR يوفر أمانًا وضمانًا غير مسبوقين لأنظمة الذكاء الاصطناعي، من الرؤية الحاسوبية إلى معالجة اللغة الطبيعية. يضمن عملية VESPR اختبارًا وتقييمًا وتصديقًا وتصديقًا (TEVV) على مدار دورة حياة التعلم الآمن (SMLC)، من مرحلة البحث والتطوير إلى نشر النموذج. النتيجة النهائية هي أنظمة ذكاء اصطناعي توفر مراقبة وتقرير دقيق وشامل عن قدرات النموذج وضعفها وأدائها.’
تم تحديثه في 11:07 صباحًا بالتوقيت الشرقي ليعكس أن مايكل مولينو لم يعد يعمل في ASRC Federal، وهو خطأ في المقال الأصلي.
تم تحديثه في 1 يناير 2024 لإزالة فيديو YouTube المعطوب.
