قاعدة بيانات الحوادث الإلكترونية الهادفة إلى جعل خوارزميات الذكاء الاصطناعي أكثر أمانًا

سيكون هناك أخطاء في أي نظام كبير، والتصحيح لهذه الأخطاء يتطلب قاعدة بيانات لهذه الأخطاء التي يمكن تحليلها لتحديد الأثر والسبب المحتمل. مثل قاعدة بيانات إدارة الأغذية والأدوية للتفاعلات الدوائية الضارة، أو قاعدة بيانات مجلس السلامة الوطني للنقل للتحطم الجوي، قاعدة بيانات الحوادث الإلكترونية هي قاعدة بيانات مصممة لتسجيل فشل أنظمة الذكاء الاصطناعي ومساعدة باحثي الذكاء الاصطناعي في تطوير طرق جديدة لتجنب هذه الفشل. يأمل مصممو قاعدة بيانات الحوادث الإلكترونية (AIID) أن تساعد شركات الذكاء الاصطناعي في تطوير أنظمة ذكاء اصطناعي أكثر أمانًا وأخلاقيًا.

ما هي قاعدة بيانات الحوادث الإلكترونية؟

قاعدة بيانات الحوادث الإلكترونية هي منتج لمنظمة الشراكة على الذكاء الاصطناعي (PAI). تأسست PAI في البداية في عام 2016 من قبل أعضاء من فرق بحث الذكاء الاصطناعي في شركات التكنولوجيا الكبيرة مثل فيسبوك وأبل وأمازون وغوغل وآي بي إم ومايكروسوفت. منذ ذلك الحين، انضمت المنظمة إلى أعضاء من العديد من المنظمات، بما في ذلك المنظمات غير الحكومية. في عام 2018، بدأت PAI في إنشاء معيار تصنيف متسق لفشل الذكاء الاصطناعي. ومع ذلك، لم تكن هناك مجموعة من حوادث الذكاء الاصطناعي التي يمكن استخدامها كأساس لهذا التصنيف. لهذا السبب، أنشأت PAI قاعدة بيانات الحوادث الإلكترونية.

وفقًا لموقع TechTalks، تم إعلام بنية قاعدة بيانات الحوادث الإلكترونية من هيكل قاعدة بيانات الحوادث الجوية التي تحتفظ بها هيئة السلامة الوطنية للنقل. منذ بدء جمع التقارير في عام 1996، تمكنت نظام السفر الجوي التجاري من زيادة سلامة صناعة الطيران من خلال أرشفة وتحليل الحوادث. يأملون أن يكون هناك مخزن مشابه للحوادث الإلكترونية يمكن أن يجعل أنظمة الذكاء الاصطناعي أكثر أمانًا وأخلاقيًا وموثوقية. كما استلهمت قاعدة بيانات الحوادث الإلكترونية الإلهام من قاعدة بيانات التهديدات الشائعة والتعرضات، والتي هي مخزن لفشل البرمجيات الملحوظة التي تغطي مجموعة متنوعة من الصناعات والتخصصات.

Sean McGregor هو المستشار الفني الرئيسي في IBM لجائزة Watson AI XPRIZE. McGregor هو أيضًا مسؤول عن الإشراف على تطوير قاعدة بيانات الحوادث الإلكترونية الفعلية. أشار McGregor إلى أن الهدف النهائي لقاعدة بيانات الحوادث الإلكترونية هو منع أنظمة الذكاء الاصطناعي من إحداث ضرر، أو على الأقل تقليل شدة الحوادث الضارة. كما لاحظ McGregor أن أنظمة التعلم الآلي أكثر تعقيدًا وغموضًا من الأنظمة البرمجية التقليدية، ونتيجة لذلك، لا يمكن اختبارها بنفس الطريقة التي تُختبر بها البرمجيات الأخرى. يمكن لأنظمة التعلم الآلي تغيير سلوكها بطرق غير متوقعة. يلاحظ McGregor أن قدرة أنظمة التعلم العميق على التعلم يمكن أن يعني “عطل أكثر احتمالاً، وأكثر تعقيدًا، وأكثر خطورة” عندما تدخل إلى عالم غير منظم.

أكثر من 1000 حادث ذكاء اصطناعي مسجل

منذ إنشاء قاعدة بيانات الحوادث الإلكترونية، تم تسجيل أكثر من 1000 حادث ذكاء اصطناعي في القاعدة. من بين جميع الحوادث في القاعدة، كانت مشاكل العدالة في الذكاء الاصطناعي هي النوع الأكثر شيوعًا من الحوادث الضارة. العديد من هذه حوادث العدالة تتضمن استخدام خوارزميات التعرف على الوجه من قبل الوكالات الحكومية. McGregor يلاحظ أيضًا أن هناك زيادة في عدد الحوادث التي تتضمن الروبوتات التي يتم إضافتها إلى القاعدة. (META ) (AAPL ) (AMZN ) (GOOGL )

يمكن للزوار إلى القاعدة تنفيذ استفسارات، البحث في القاعدة عن حوادث بناءً على معايير مثل الكلمات الرئيسية، معرف الحادث، المصدر، أو المؤلف. على سبيل المثال، عند تشغيل بحث عن “Deepfake”، تظهر 7 تقارير، في حين أن البحث عن “الروبوتات” يعود بنتائج 158 تقريرًا.

يمكن لقاعدة بيانات مركزية للحوادث التي تعمل بشكل غير متوقع أن تساعد الباحثين والمهندسين والأخلاقيين في الإشراف على تطوير ونشر أنظمة الذكاء الاصطناعي. يمكن لمديري المنتجات في الشركات التكنولوجية استخدام قاعدة بيانات الحوادث الإلكترونية لمعرفة ما إذا كان هناك أي مشاكل محتملة قبل استخدام أنظمة التوصية بالذكاء الاصطناعي، أو يمكن لمهندس الذكاء الاصطناعي الحصول على فكرة عن التحيزات المحتملة التي cần تصحيحها عند إنشاء تطبيق الذكاء الاصطناعي. وبالمثل، يمكن لمسؤولي المخاطر استخدام القاعدة لتحديد الآثار السلبية المحتملة المرتبطة بنموذج الذكاء الاصطناعي، مما يتيح لهم التخطيط مسبقًا وتطوير إجراءات لتحديد الأضرار المحتملة.

تم設計 هيكل قاعدة بيانات الحوادث الإلكترونية ليكون مرنًا، مما يتيح إنشاء أدوات جديدة لاستفسار القاعدة واستخراج رؤى معنوية. سوف تعمل الشراكة على الذكاء الاصطناعي ومكجريغور معًا على هندسة تصنيف مرن يمكن استخدامه لتصنيف جميع أشكال حوادث الذكاء الاصطناعي. يأمل الفريق أن بمجرد إنشاء التصنيف المرن، يمكن دمجه مع نظام تلقائي سوف يسجل حوادث الذكاء الاصطناعي تلقائيًا.

“لقد بدأ مجتمع الذكاء الاصطناعي في مشاركة سجلات الحوادث مع بعضهم البعض لتحفيز التغييرات على منتجاتهم وإجراءات التحكم وبرامج البحث”، أوضح McGregor عبر TechTalks. “تم إطلاق الموقع بشكل عام في نوفمبر، لذلك نحن فقط بدأنا في تحقيق فوائد النظام”.