شركات ابداع أدوات لمراقبة الذكاء الاصطناعي وتعزيز الاستخدام الأخلاقي للذكاء الاصطناعي

على مدار العام الماضي ، يبدو أن المزيد والمزيد من الاهتمام يُمنح لضمان استخدام الذكاء الاصطناعي بالطرق الأخلاقية. وقد حذرت شركة جوجل ومايكروسوفت مؤخرًا المستثمرين من أن إساءة استخدام خوارزميات الذكاء الاصطناعي أو تصميمها بشكل سيئ يعرض لتحديات أخلاقية وقانونية. وفي غضون ذلك ، قررت ولاية كاليفورنيا مؤخرًا سن قانون يحظر استخدام تقنية التعرف على الوجه من قبل وكالات إنفاذ القانون في كاليفورنيا.

(GOOGL ) (MSFT )

最近 ، حاولت الشركات الناشئة مثل آرثر تصميم أدوات تساعد مهندسي الذكاء الاصطناعي على تقييم أداء نماذج التعلم الآلي. كما ذكرت مجلة وايرد ، تحاول آرثر تقديم أدوات لمطوري الذكاء الاصطناعي لتسهيل اكتشاف المشكلات عند تصميم التطبيقات المالية ، مثل كشف الانحياز في القرارات الاستثمارية أو الإقراض.

تهدف جهود آرثر إلى معالجة مشكلة “الصندوق الأسود” للذكاء الاصطناعي . تصف مشكلة الصندوق الأسود في الذكاء الاصطناعي كيف أن أنظمة التعلم الآلي ، على عكس التعليمات التقليدية التي يمكن تفسيرها بسهولة بواسطة من يعرفون كيف يقرأونها ، تخطط الميزات إلى السلوك دون كشف الأسباب التي تم اختيار هذه السلوكيات أو تفسير كيفية تفسير الميزات. وبعبارة أخرى ، في نظام الصندوق الأسود ، تنفيذ الخوارزمية معتم.

تعمل أنظمة التعلم الآلي عن طريق استخراج الأنماط من البيانات الإدخالية والتفكير في هذه الأنماط. يتم ذلك عن طريق كتابة الكمبيوتر لبرمجته الخاصة من خلال التلاعب ببعض الوظائف الرياضية. من أجل معالجة هذه المشكلة ، يحتاج الباحثون والمهندسون إلى أدوات تجعل مراقبة سلوك برامج التعلم الآلي وتحليله أسهل. تعترف الشركات الناشئة مثل آرثر بصعوبة حل هذه المشكلة ولا تدعي أن لديها الحلول المثالية ، ولكنها تأمل في إحراز تقدم في هذا المجال وجعل فتح الصندوق الأسود أسهل قليلاً. ومن المتوقع أن إذا تم تحليل أنظمة الذكاء الاصطناعي بسهولة أكبر ، فسيصبح تصحيح مشاكل مثل الانحياز أسهل أيضًا.

الشركات الكبيرة مثل فيسبوك已经 تمتلك بعض الأدوات لتحليل آليات عمل أنظمة التعلم الآلي. على سبيل المثال ، لدى فيسبوك أداة تسمى Fairness Flow تهدف إلى ضمان أن الإعلانات التي توصي بالوظائف للأشخاص تستهدف أشخاصًا من خلفيات مختلفة. ومع ذلك ، من المحتمل أن فرق الذكاء الاصطناعي الكبيرة لن ترغب في الاستثمار في وقت لإنشاء أدوات من هذا القبيل ، وبالتالي يوجد فرصة عمل للشركات التي تريد إنشاء أدوات مراقبة لاستخدام شركات الذكاء الاصطناعي.

تركز آرثر على إنشاء أدوات تمكن الشركات من الحفاظ على أنظمة الذكاء الاصطناعي وتحسينها بعد نشر النظام بالفعل. تهدف أدوات آرثر إلى تمكين الشركات من رؤية كيف تتغير أداء نظامها بمرور الوقت ، مما سيسمح للشركات نظريًا باكتشاف التعبيرات المحتملة للانحياز. إذا بدأت برامج توصية القروض الخاصة بشركة ما في استبعاد فئات معينة من العملاء ، يمكن تعيين علامة تشير إلى أن النظام يحتاج إلى مراجعة لضمان عدم التمييز ضد العملاء بناءً على سمات حساسة مثل العرق أو الجنس.

然而 ، آرثر ليست الشركة الوحيدة التي تُنشئ أدوات تسمح لشركات الذكاء الاصطناعي بمراجعة أداء خوارزمياتها. تستثمر العديد من الشركات الناشئة في إنشاء أدوات لمكافحة الانحياز وضمان استخدام خوارزميات الذكاء الاصطناعي بالطرق الأخلاقية. Weights & Biases هي شركة ناشئة أخرى تُنشئ أدوات لمساعدة مهندسي التعلم الآلي في تحليل المشاكل المحتملة في شبكتهم. استخدمت تويوتا أدوات التي أنشأتها Weights & Biases لمراقبة أجهزة التعلم الآلي الخاصة بها أثناء التدريب. وفي غضون ذلك ، تعمل شركة Fiddler على إنشاء مجموعة مختلفة من أدوات مراقبة الذكاء الاصطناعي. حتى أن شركة آي بي إم أنشأت خدمة مراقبة خاصة تسمى OpenScale.

أوضحت ليز أوسوليفان ، واحدة من مؤسسي آرثر ، أن الاهتمام بإنشاء أدوات لمساعدة حل مشكلة الصندوق الأسود يُحفز بزيادة الوعي بقوة الذكاء الاصطناعي.

“يبدأ الناس في إدراك مدى قوة هذه الأنظمة ، ويجب أن يستفيدوا من الفوائد بطريقة مسؤولة” ، كما قالت أوسوليفان .