5 ركائز أساسية لضمان مسؤولية الذكاء الاصطناعي

نحن نشهد نمواً هائلاً في أنظمة الذكاء الاصطناعي والتعلم الآلي لمعالجة محيطات البيانات التي يتم توليدها في الاقتصاد الرقمي الجديد. ومع ذلك، مع هذا النمو، هناك حاجة إلى النظر بجدية في الآثار الأخلاقية والقانونية للذكاء الاصطناعي.

كما ن委ون مهام أكثر تعقيداً وأهمية لأنظمة الذكاء الاصطناعي، مثل الموافقة التلقائية على القروض، على سبيل المثال، يجب أن نكون متأكدين تماماً من أن هذه الأنظمة مسؤولة وموثوقة. وقد أصبحت تقليص الانحياز في الذكاء الاصطناعي مجالاً كبيراً للتركيز بالنسبة للعديد من الباحثين، وله آثار اخلاقية هائلة، كما هو الحال مع مقدار الاستقلالية التي نمنحها لهذه الأنظمة.

مفهوم الذكاء الاصطناعي المسؤول هو إطار هام يمكن أن يساعد في بناء الثقة في تطبيقات الذكاء الاصطناعي. هناك خمس ركائز أساسية للذكاء الاصطناعي المسؤول. وسوف يستكشف هذا المقال هذه الركائز لمساعدتك في بناء أنظمة أفضل.

1. إعادة الإنتاجية

هناك قول قديم في عالم تطوير البرمجيات يقول: “ها، يعمل على جهازي” في مجال التعلم الآلي والذكاء الاصطناعي، يمكن تعديل الجملة إلى: “ها، يعمل على بياناتي”. هذا يعني أن نماذج التعلم الآلي يمكن أن تكون في كثير من الأحيان مثل الصندوق الأسود. يمكن أن تحتوي العديد من مجموعات البيانات على انحيازات متأصلة مثل انحياز العينة أو انحياز التأكيد الذي يقلل من دقة المنتج النهائي.

لمساعدة أنظمة الذكاء الاصطناعي والتعلم الآلي على أن تكون أكثر إعادة إنتاجية، وبالتالي أكثر دقة وموثوقية، الخطوة الأولى هي معايير عملية MLOps. حتى العلماء المتعلمين الأكثر ذكاء لديهم تقنيات وبرمجيات مفضلة، مما يعني أن هندسة الميزات والنمذجة الناتجة ليست متسقة من شخص لآخر. من خلال استخدام أدوات مثل MLflow، يمكنك معايير عملية MLOps وتقليل هذه الاختلافات.

طريقة أخرى لمساعدة أنظمة الذكاء الاصطناعي والتعلم الآلي على أن تكون أكثر إعادة إنتاجية هي من خلال استخدام ما يسمى “مجموعات البيانات الذهبية”. هذه هي مجموعات البيانات الممثلة التي تعمل بشكل أساسي كاختبارات وتحقق من صحة نماذج جديدة قبل إطلاقها في الإنتاج.

2. الشفافية

كما ذكرنا سابقاً، فإن العديد من نماذج التعلم الآلي، وخاصة الشبكات العصبية، هي صناديق سوداء. لجعلها أكثر مسؤولية، نحتاج إلى جعلها أكثر تفسيرية.对于 أنظمة بسيطة مثل أشجار القرار، من السهل جداً فهم كيفية اتخاذ النظام لقرار معين، ولكن مع زيادة دقة و複雜ية نظام الذكاء الاصطناعي، يصبح تفسيره أقل في كثير من الأحيان.

هناك مجال بحث جديد يسمى “الوضوح” الذي يحاول جلب الشفافية حتى إلى الأنظمة المعقدة مثل الشبكات العصبية والتعلم العميق. هذه النماذج تستخدم نماذج وسيطة لتقليد أداء الشبكة العصبية، ولكنها تحاول أيضاً تقديم تفسيرات صالحة لماهية الميزات المهمة.

كل هذا يؤدي إلى العدالة؛ تريد أن تعرف لماذا اتخذ نظام معين قراراً معيناً وتأكد من أن هذا القرار عادل. تريد أيضاً التأكد من أن الميزات غير المناسبة لا يتم النظر فيها حتى لا يتسلل الانحياز إلى نموذجك.

3. المسؤولية

ربما يكون الجانب الأكثر أهمية من الذكاء الاصطناعي المسؤول هو المسؤولية. هناك الكثير من المناقشات حول هذا الموضوع، حتى في القطاع الحكومي، حيث يتعلق الأمر بسياسات ستحدد نتائج الذكاء الاصطناعي. هذا النهج القائم على السياسة يحدد في أي مرحلة يجب أن يكون البشر في الحلقة.

تتطلب المسؤولية مراقبين فعалиن ومقاييس لتوجيه صانعي السياسات ومراقبة أنظمة الذكاء الاصطناعي والتعلم الآلي. تتصل المسؤولية بشكل أساسي بإعادة الإنتاجية والشفافية، ولكنها تحتاج إلى الرقابة الفعالة على شكل لجان أخلاقيات الذكاء الاصطناعي. يمكن لهذه اللجان التعامل مع قرارات السياسة، وتحديد ما هو مهم القياس، وإجراء مراجعات العدالة.

4. الأمان

يركز أمان الذكاء الاصطناعي على سرية البيانات وسلامتها. عند معالجة الأنظمة للبيانات، تريد أن تكون في بيئة آمنة. تريد أن تكون البيانات مشفرة أثناء الراحة في قاعدة البيانات وأثناء استدعائها عبر الأنبوب، ولكن هناك ثغرات أمنية أثناء تغذية البيانات إلى نموذج التعلم الآلي ك نص عادي. تقنيات مثل التشفير الهومومورفيك تحل هذه المشكلة من خلال السماح بتدريب التعلم الآلي في بيئة مشفرة.

هناك جانب آخر هو أمان النموذج نفسه. على سبيل المثال، يمكن لمهاجمين إجراء هجمات عكسية على النموذج لتعلم البيانات المستخدمة في بناء النموذج. هناك أيضاً هجمات تسمم النموذج، التي تقوم بإدخال بيانات سيئة أثناء تدريب النموذج وتدمر أدائه تماماً. يمكن اختبار نموذجك للهجمات المعادية مثل هذه لضمان أمانه وسلامته.

5. الخصوصية

جوجل وOpenMined هما منظمتان قامت مؤخراً بتحديد الأولوية لخصوصية الذكاء الاصطناعي، واستضافت OpenMined مؤخراً مؤتمراً حول هذا الموضوع. مع لوائح جديدة مثل GDPR وCCPA، وربما المزيد قادمة، ستلعب الخصوصية دوراً مركزياً في كيفية تدريب نماذج التعلم الآلي.

طريقة واحدة لضمان معاملة بيانات العملاء بطريقة ت意识 بالخصوصية هي استخدام التعلم الفيدرالي. هذه الطريقة اللامركزية لتعلم الآلة تقوم بتدريب نماذج مختلفة محلياً، ثم تجمع كل نموذج في مركز مركزي مع الحفاظ على سلامة البيانات وأمانها وخصوصيتها. طريقة أخرى هي إدخال الضوضاء الإحصائية بحيث لا يتم تسريب قيم فردية للعملاء. هذا يحافظ على العمل مع المجموعات حتى يتم الحفاظ على بيانات الفرد سليمة وغير متاحة للخوارزمية.

الحفاظ على مسؤولية الذكاء الاصطناعي

 في النهاية، الحفاظ على مسؤولية الذكاء الاصطناعي يقع على عاتق كل منظمة تصمم أنظمة الذكاء الاصطناعي والتعلم الآلي. من خلال متابعة التكنولوجيا داخل كل من هذه الخمس ركائز للذكاء الاصطناعي المسؤول، يمكنك الاستفادة من قوة الذكاء الاصطناعي بطريقة موثوقة وواضحة ستعزز ثقة منظمتك و عملائك ومراقبيك.