باحثو الذكاء الاصطناعي يطرحون فكرة تقديم مكافآت لتحديد التحيز في الذكاء الاصطناعي لجعل الذكاء الاصطناعي أكثر أخلاقيًا

فريق من باحثي الذكاء الاصطناعي من الشركات ومختبرات تطوير الذكاء الاصطناعي مثل إنتل وغوغل برين وأوبن أيه آي أوصى باستخدام المكافآت للمساعدة في ضمان الاستخدام الأخلاقي للذكاء الاصطناعي. وأوصى الفريق مؤخرًا بعدد من المقترحات المتعلقة bằng استخدام الذكاء الاصطناعي الأخلاقي، ويشمل ذلك اقتراحًا بتقديم مكافآت للأشخاص الذين يكتشفون التحيزات في الذكاء الاصطناعي كوسيلة فعالة لجعل الذكاء الاصطناعي أكثر عادلة.

كما ذكرت فينتش بييت، انضم باحثون من مختلف الشركات في جميع أنحاء الولايات المتحدة وأوروبا لتقديم مجموعة من المبادئ التوجيهية الأخلاقية لتطوير الذكاء الاصطناعي، بالإضافة إلى اقتراحات حول كيفية تطبيق هذه المبادئ. واحدة من الاقتراحات التي قدمها الباحثون كانت تقديم مكافآت للمطورين الذين يجدون تحيزات في برامج الذكاء الاصطناعي. تم تقديم الاقتراح في ورقة بحثية بعنوان “نحو تطوير ذكاء اصطناعي موثوق به: آليات لدعم المطالبات القابلة للتحقق“.

على سبيل المثال، التحيزات في البيانات والخوارزميات تم العثور عليها في كل شيء من التطبيقات الصحية إلى أنظمة التعرف على الوجه المستخدمة من قبل قوات إنفاذ القانون. واحدة من حالات التحيز هي أداة تقييم المخاطر باترن التي تم استخدامها مؤخرًا من قبل وزارة العدل الأمريكية لترشيح السجناء وتحديد من يمكن إرسالهم إلى المنزل عند خفض أحجام السكان في السجون استجابةً لجائحة كورونا.

مارس تقديم مكافآت للمطورين لتحديد السلوك غير المرغوب فيه في البرامج الحاسوبية هو أمر قديم، ولكن هذا قد يكون أول مرة يطرح فيها مجلس أخلاقيات الذكاء الاصطناعي هذه الفكرة على أنها خيار لمكافحة التحيز في الذكاء الاصطناعي. على الرغم من أن من غير المحتمل أن يكون هناك عدد كافٍ من مطوري الذكاء الاصطناعي لتحديد التحيزات بحيث يمكن ضمان أخلاقيات الذكاء الاصطناعي، إلا أنه سيساعد الشركات على خفض التحيز الإجمالي والحصول على فكرة عن أنواع التحيز التي تسرّب إلى أنظمة الذكاء الاصطناعي.

أوضح مؤلفو الورقة أن مفهوم مكافأة الأخطاء يمكن تمديده إلى الذكاء الاصطناعي باستخدام مكافآت التحيز والأمان، ويمكن أن يؤدي استخدام هذه التقنية بشكل صحيح إلى توثيق أفضل للبيانات والنمذجة. سيكون التوثيق أكثر دقة في反映 قيود النموذج والبيانات. يشير الباحثون أيضًا إلى أن نفس الفكرة يمكن تطبيقها على خصائص الذكاء الاصطناعي الأخرى مثل القابلية للتفسير والأمان وحماية الخصوصية.

随着 حدوث المزيد من المناقشات حول المبادئ الأخلاقية للذكاء الاصطناعي، لاحظ العديد منهم أن المبادئ وحدها ليست كافية وأن الإجراءات يجب أن تتم لضمان استخدام الذكاء الاصطناعي بشكل أخلاقي. يشير مؤلفو الورقة إلى أن “اللوائح والقواعد الحالية في الصناعة والأكاديمية غير كافية لضمان تطوير الذكاء الاصطناعي المسؤول”. كما أشار أندرو إنغ، المؤسس المشارك لشركة غوغل برين وقائد في صناعة الذكاء الاصطناعي، إلى أن المبادئ التوجيهية وحدها لا تملك القدرة على ضمان استخدام الذكاء الاصطناعي بشكل مسؤول وعادل، قائلاً إن العديد من هذه المبادئ تحتاج إلى أن تكون أكثر صرامة وافتنانًا.

توصية فريق البحث بتقديم مكافآت لتحديد التحيزات في الذكاء الاصطناعي هي محاولة للانتقال من المبادئ الأخلاقية إلى منطقة الإجراءات الأخلاقية. كما قدم الفريق البحثي عددًا من التوصيات الأخرى التي يمكن أن تحفز الإجراءات الأخلاقية في مجال الذكاء الاصطناعي.

قدم الفريق البحثي عددًا من التوصيات الأخرى التي يمكن للشركات اتباعها لجعل استخدامها للذكاء الاصطناعي أكثر أخلاقيًا. يُقترح إنشاء قاعدة بيانات مركزية لحوادث الذكاء الاصطناعي ومشاركتها مع مجتمع الذكاء الاصطناعي الأوسع. على نحو مماثل، يُقترح إنشاء سجل تدقيق ويجب أن يحتفظ السجلات بمعلومات حول إنشاء وتشغيل التطبيقات الحساسة للأمان على منصات الذكاء الاصطناعي.

为了保护人们的隐私，建议团队使用以隐私为中心的技术，如加密通信、联邦学习和差异隐私。除此之外，研究团队建议广泛提供开源替代品，并且商业人工智能模型应受到严格审查。最后，研究团队建议增加政府资金，以便学术研究人员可以验证硬件性能声明。