ما هو الذكاء الاصطناعي المسؤول؟ المبادئ والتحديات والفوائد

الذكاء الاصطناعي المسؤول (RAI) يشير إلى تصميم ونشر أنظمة الذكاء الاصطناعي التي تكون شفافة ومتحيزة ومسؤولة وتنطبق على المبادئ الأخلاقية. مع تصاعد أنظمة الذكاء الاصطناعي وتأثيرها، من المهم ضمان تطويرها بطريقة مسؤولة ومتوافقة مع المبادئ الأخلاقية.

النظم الصحية والنقل وإدارة الشبكات والمراقبة هي تطبيقات حاسوبية حيوية حيث يمكن أن يكون فشل النظام له عواقب وخيمة. الشركات الكبيرة تعرف أن الذكاء الاصطناعي المسؤول ضروري لتخفيف مخاطر التكنولوجيا. ومع ذلك، وفقًا لتقرير MIT Sloan/BCG الذي شمل 1093 مستجيبًا، 54% من الشركات تفتقر إلى الخبرة والمهارات في مجال الذكاء الاصطناعي المسؤول.

على الرغم من أن القادة الفكريين والمنظمات طوّروا مبادئ للذكاء الاصطناعي المسؤول، لا يزال هناك تحديات في ضمان تطوير أنظمة الذكاء الاصطناعي بطريقة مسؤولة. دعونا نستكشف هذه الفكرة بالتفصيل:

5 مبادئ للذكاء الاصطناعي المسؤول

1. العدالة

يجب على المتخصصين في التكنولوجيا تصميم الإجراءات بحيث تعامل أنظمة الذكاء الاصطناعي جميع الأفراد والمجموعات بطريقة عادلة دون تحيز. وبالتالي، العدالة هي المتطلب الأساسي في تطبيقات اتخاذ القرارات عالية المخاطر.

العدالة تعرف على أنها:

“دراسة تأثيرها على المجموعات السكانية المختلفة واختيار أحد التعريفات الرياضية للعدالة الجماعية التي ت满ي متطلبات القانون والثقافة والأخلاق المطلوبة.”

2. المسؤولية

المسؤولية تعني أن الأفراد والمنظمات التي تطور ونشر أنظمة الذكاء الاصطناعي يجب أن تكون مسؤولة عن قراراتها وأفعالها. يجب على فريق نشر أنظمة الذكاء الاصطناعي أن يضمن أن نظامهم شفاف ومفسر وقابل للتدقيق ولا يضر بالمجتمع.

المسؤولية تشمل سبعة مكونات:

1. السياق (الغرض الذي يتطلب المسؤولية)
2. النطاق (موضوع المسؤولية)
3. الوكيل (من هو المسؤول؟)
4. المنتدى (الذي يجب على الحزب المسؤول أن يتقدم إليه)
5. المعايير (معايير المسؤولية)
6. العمليات (طريقة المسؤولية)
7. الآثار (عواقب المسؤولية)

3. الشفافية

الشفافية تعني أن السبب وراء اتخاذ القرارات في أنظمة الذكاء الاصطناعي واضح ومفهوم. أنظمة الذكاء الاصطناعي الشفافة قابلة للتفسير.

وفقًا لقائمة التقييم للذكاء الاصطناعي الموثوق، الشفافية لها ثلاثة عناصر رئيسية:

1. ال قابليّة للتّبَع (البيانات والخطوات الأولية للمعالجة والنماذج متاحة)
2. ال قابليّة للتفسير (المنطق وراء اتخاذ القرار أو التنبؤ واضح)
3. التواصل المفتوح (بخصوص حدود نظام الذكاء الاصطناعي)

4. الخصوصية

الخصوصية هي واحدة من المبادئ الرئيسية للذكاء الاصطناعي المسؤول. تشير إلى حماية المعلومات الشخصية. هذا المبدأ يضمن أن تُجمَع المعلومات الشخصية ومعالجتها بموافقة الأفراد ويُحتفظ بها بعيدًا عن الأشخاص الضارين.

كما هو موضح حديثًا، كان هناك حالة لشركة Clearview، التي تصنع نماذج التعرف على الوجوه للقوات القانونية والجامعات. رفع مراقبو البيانات في المملكة المتحدة قضية ضد Clearview AI بقيمة 7.5 مليون جنيه إسترليني لجمع صور للمواطنين البريطانيين من وسائل التواصل الاجتماعي دون موافقة لإنشاء قاعدة بيانات تضم 20 مليار صورة.

5. الأمان

الأمان يعني ضمان أن أنظمة الذكاء الاصطناعي آمنة ولا تهدد المجتمع. مثال على تهديد أماني للذكاء الاصطناعي هو الهجمات المعادية. هذه الهجمات الخبيثة تضلل نماذج التعلم الآلي لاتخاذ قرارات خاطئة. حماية أنظمة الذكاء الاصطناعي من الهجمات الإلكترونية أمر ضروري للذكاء الاصطناعي المسؤول.

4 تحديات وأخطار رئيسية للذكاء الاصطناعي المسؤول

1. التحيز

التحيز البشري المتعلق بالعمر والجنس والجنسية والعرق يمكن أن يؤثر على جمع البيانات، مما قد يؤدي إلى نماذج الذكاء الاصطناعي المحيزة. وجدت دراسة وزارة التجارة الأمريكية أن نظام التعرف على الوجوه يخلط بين الأشخاص ذوي البشرة السوداء. وبالتالي، استخدام الذكاء الاصطناعي في التعرف على الوجوه في قوات القانون يمكن أن يؤدي إلى الاعتقالات الخاطئة. بالإضافة إلى ذلك، صنع نماذج ذكاء اصطناعي عادلة أمر صعب لأن هناك 21 معيارًا مختلفًا لتعريفها. وبالتالي، هناك توازن؛ تلبية معيار واحد من معايير العدالة يعني التضحية بمعيار آخر.

2. القابلية للتفسير

القابلية للتفسير هي تحد رئيسي في تطوير الذكاء الاصطناعي المسؤول. تشير إلى فهم كيفية وصول نموذج التعلم الآلي إلى استنتاج معين.

الشبكات العصبية العميقة تفتقر إلى القابلية للتفسير لأنها تعمل كأ盒ة سوداء مع طبقات متعددة من العصبونات الخفية، مما يجعل من الصعب فهم عملية اتخاذ القرار. هذا يمكن أن يكون تحديًا في اتخاذ القرارات عالية المخاطر مثل الرعاية الصحية والتمويل وغيرها.

علاوة على ذلك، التفسير الرسمي للقابلية للتفسير في نماذج التعلم الآلي صعب لأنه خاضع للذوق ومحدد بالمجال.

3. الحوكمة

الحوكمة تشير إلى مجموعة من القواعد والسياسات والإجراءات التي تُشرف على تطوير ونشر أنظمة الذكاء الاصطناعي. في الآونة الأخيرة، كان هناك تقدم كبير في خطاب الحوكمة للذكاء الاصطناعي، مع تقديم المنظمات لإطارات ودلائل أخلاقية.

دلائل الأخلاقيات للذكاء الاصطناعي الموثوق من قبل الاتحاد الأوروبي، وإطار أخلاقيات الذكاء الاصطناعي الأسترالي، ومبادئ منظمة التعاون والتنمية الاقتصادية للذكاء الاصطناعي هي أمثلة على إطارات الحوكمة للذكاء الاصطناعي.

然而، التقدّم السريع في الذكاء الاصطناعي في السنوات الأخيرة يمكن أن يتجاوز هذه الإطارات الحوكمة. من هنا، هناك حاجة إلى إطار يقيّم العدالة والقابلية للتفسير والأخلاقيات لأنظمة الذكاء الاصطناعي.

4. التنظيم

مع انتشار أنظمة الذكاء الاصطناعي، هناك حاجة إلى تنظيم يأخذ في الاعتبار القيم الأخلاقية والمجتمعية. تطوير تنظيم لا يثبط الابتكار في الذكاء الاصطناعي هو تحد رئيسي في الذكاء الاصطناعي المسؤول.

حتى مع لوائح حماية البيانات العامة (GDPR) و قانون خصوصية المستهلك في كاليفورنيا (CCPA) و قانون حماية المعلومات الشخصية (PIPL) كهيئات تنظيمية، وجد الباحثون في الذكاء الاصطناعي أن 97% من مواقع الويب في الاتحاد الأوروبي لا تتوافق مع متطلبات الإطار القانوني لGDPR.

علاوة على ذلك، يواجه المشرعون تحديًا كبيرًا في التوصل إلى إجماع على تعريف للذكاء الاصطناعي يشمل أنظمة الذكاء الاصطناعي الكلاسيكية وتطبيقات الذكاء الاصطناعي الحديثة.

3 فوائد رئيسية للذكاء الاصطناعي المسؤول

1. تقليل التحيز

الذكاء الاصطناعي المسؤول يقلل من التحيز في عمليات اتخاذ القرار، مما يبني الثقة في أنظمة الذكاء الاصطناعي. تقليل التحيز في أنظمة الذكاء الاصطناعي يمكن أن يوفر نظامًا صحيًا عادلًا ومساوياً ويقلل من التحيز في الخدمات المالية القائمة على الذكاء الاصطناعي وغيرها.

2. تعزيز الشفافية

الذكاء الاصطناعي المسؤول يجعل تطبيقات الذكاء الاصطناعي شفافة، مما يبني الثقة في أنظمة الذكاء الاصطناعي. أنظمة الذكاء الاصطناعي الشفافة تقلل من خطر الخطأ والاستغلال. الشفافية المعززة تجعل من عملية التدقيق لأنظمة الذكاء الاصطناعي أسهل، وتكسب ثقة الأطراف المعنية، ويمكن أن تؤدي إلى أنظمة ذكاء اصطناعي مسؤولة.

3. أمان أفضل

تطبيقات الذكاء الاصطناعي الآمنة تضمن خصوصية البيانات، وتنتج مخرجات موثوقة وآمنة، وتكون محمية من الهجمات الإلكترونية.

الشركات التقنية الكبيرة مثل مايكروسوفت وجوجل، التي تقود تطوير أنظمة الذكاء الاصطناعي، طوّرت مبادئ للذكاء الاصطناعي المسؤول. الذكاء الاصطناعي المسؤول يضمن أن الابتكار في الذكاء الاصطناعي لا يضر بالفرد والمجتمع.

يجب على القادة الفكريين والباحثين والمنظمات والسلطات القانونية أن يستمرّوا في مراجعة أدبيات الذكاء الاصطناعي المسؤول لضمان مستقبل آمن لابتكارات الذكاء الاصطناعي.

لمزيد من المحتوى المتعلق بالذكاء الاصطناعي، زوروا unite.ai.