الشركات الناشئة التي تُطوّر أدوات لمراقبة الذكاء الاصطناعي وتعزيز استخدام الذكاء الاصطناعي بشكل أخلاقي

على مدار العام الماضي ، يبدو أن هناك المزيد والمزيد من الاهتمام بضمان استخدام الذكاء الاصطناعي بطرق أخلاقية. لقد حذر كل من جوجل ومايكروسوفت مؤخرًا مستثمريهما من أن سوء استخدام خوارزميات الذكاء الاصطناعي أو تصميمها بشكل سيئ يعرض لخطر أخلاقي وقانوني. وفي غضون ذلك ، قررت ولاية كاليفورنيا مؤخرًا تمرير مشروع قانون يحظر استخدام تكنولوجيا التعرف على الوجه من قبل وكالات إنفاذ القانون في كاليفورنيا.

最近 ، حاولت الشركات الناشئة مثل آرثر تصميم أدوات تساعد مهندسي الذكاء الاصطناعي على量 وتصنيف أداء نماذج التعلم الآلي. وفقًا لما ذكرته وايرد ، تحاول آرثر تقديم أداة لمطوري الذكاء الاصطناعي تجعل من السهل عليهم اكتشاف المشاكل عند تصميم التطبيقات المالية ، مثل كشف الانحياز في قرارات الاستثمار أو القروض.

تتمثل جهود آرثر في معالجة مشكلة “الصندوق الأسود” للذكاء الاصطناعي. تصف مشكلة الصندوق الأسود في الذكاء الاصطناعي كيفية عمل أنظمة التعلم الآلي بتمثيل الميزات إلى سلوك دون كشف الأسباب التي تُختار بها هذه السلوكيات / كيفية تفسير الميزات. وبعبارة أخرى ، في نظام صندوق أسود ، فإن تنفيذ الخوارزمية معتم.

تعمل أنظمة التعلم الآلي عن طريق استخراج الأنماط من البيانات الإدخالية والاستدلال حول هذه الأنماط. يتم إنجاز ذلك من خلال كتابة الكمبيوتر لبرمجته الخاصة عن طريق معالجة بعض الوظائف الرياضية. من أجل معالجة هذه المشكلة ، يحتاج الباحثون والمهندسون إلى أدوات تجعل ملاحظة وتحليل سلوك برامج التعلم الآلي أسهل. تعترف الشركات الناشئة مثل آرثر بصعوبة حل هذه المشكلة ولا تدعي أن لديها الحلول المثالية ، لكنها تأمل في إحراز تقدم في هذا المجال وجعل كسر صندوق أسود أسهل قليلاً. من المتوقع أنه إذا كان يمكن تحليل أنظمة الذكاء الاصطناعي بسهولة أكبر ، فسيصبح من الأسهل تصحيح مشاكل مثل الانحياز أيضًا.

الشركات الكبيرة مثل فيسبوك已经 لديها بعض الأدوات لتحليل آليات عمل أنظمة التعلم الآلي. على سبيل المثال ، لدى فيسبوك أداة تسمى Fairness Flow تهدف إلى ضمان أن الإعلانات التي توصي بالوظائف للأشخاص تستهدف أشخاصًا من خلفيات مختلفة. ومع ذلك ، من المحتمل أن فرق الذكاء الاصطناعي الكبيرة لن ترغب في الاستثمار في وقت لإنشاء أدوات من هذا القبيل ، وبالتالي يوجد فرصة تجارية للشركات التي ترغب في إنشاء أدوات مراقبة لاستخدام شركات الذكاء الاصطناعي.

تركز آرثر على إنشاء أدوات تمكن الشركات من الحفاظ على أنظمة الذكاء الاصطناعي ومراقبتها بعد نشر النظام بالفعل. تهدف أدوات آرثر إلى السماح للشركات بمشاهدة كيف يتغير أداء نظامها بمرور الوقت ، مما سيسمح نظريًا للشركات باكتشاف التعبيرات المحتملة عن الانحياز. إذا بدأت برمجية توصية القروض بالاستثناء مجموعة معينة من العملاء ، يمكن تعيين علم يشير إلى أن النظام يحتاج إلى مراجعة لضمان عدم تمييزه ضد العملاء بناءً على سمات حساسة مثل العرق أو الجنس.

然而 ، آرثر ليست الشركة الوحيدة التي تُطوّر أدوات تسمح لشركات الذكاء الاصطناعي بمراجعة أداء خوارزمياتها. تستثمر العديد من الشركات الناشئة في إنشاء أدوات لمكافحة الانحياز وضمان استخدام خوارزميات الذكاء الاصطناعي بطرق أخلاقية. Weights & Biases هي شركة ناشئة أخرى تُطوّر أدوات لمساعدة مهندسي التعلم الآلي في تحليل المشاكل المحتملة في شبكتهم. استخدمت تويوتا الأدوات التي أنشأتها Weights & Biases لمراقبة أجهزة التعلم الآلي الخاصة بها أثناء التدريب. وفي غضون ذلك ، تعمل شركة Fiddler على إنشاء مجموعة مختلفة من أدوات مراقبة الذكاء الاصطناعي. حتى إن آي بي إم أنشأت خدمة مراقبة خاصة تسمى OpenScale.

أوضحت ليز أوسوليفان ، واحدة من منشئي آرثر ، أن الاهتمام بإنشاء أدوات لمساعدة حل مشكلة الصندوق الأسود يُحفز بواسطة زيادة الوعي بقوة الذكاء الاصطناعي.

“يبدأ الناس في إدراك مدى قوة هذه الأنظمة ، ويجب أن يستفيدوا من الفوائد بطريقة مسؤولة” ، قال أوسوليفان.