نماذج ومنصات الذكاء الاصطناعي

كيفية إجراء تدقيق للمنظمة الذكية في 2023

Haziqa Sajid
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةأطلقت ستانفورد HAI تحديًا بقيمة 71,000 دولار لتصميم عمليات تدقيق أفضل للذكاء الاصطناعي…
عرض المزيد
  • أطلقت ستانفورد HAI تحديًا بقيمة 71,000 دولار لتصميم عمليات تدقيق أفضل للذكاء الاصطناعي لمكافحة التمييز.
  • تفرض اللائحة العامة لحماية البيانات سبعة مبادئ تشمل القانونية والعدالة والشفافية لاستخدام بيانات الذكاء الاصطناعي.
  • ديلويت وبرايس ووترهاوس كوبرز وإرنست ويونغ وكي بي إم جي وغرانت ثورنتون هي الشركات الخمس الكبرى التي تدقق خطوط أنابيب الذكاء الاصطناعي.

يُشير تدقيق الذكاء الاصطناعي إلى تقييم أنظمة الذكاء الاصطناعي للتأكد من أنها تعمل كما هو متوقع دون تحيز أو تمييز ومتوافقة مع المعايير الأخلاقية والقانونية. وقد شهد الذكاء الاصطناعي نمواً كبيراً خلال العقد الماضي. ونتيجة لذلك، أصبحت المخاطر المرتبطة بالذكاء الاصطناعي مصدر قلق للشركات. كما قال إيلون ماسك:

“الذكاء الاصطناعي هو حالة نادرة أعتقد أننا يجب أن نكون استباقيين في التنظيم بدلاً من التفاعل.”

يجب على الشركات تطوير الحوكمة وتقييم المخاطر واستراتيجيات الرقابة للموظفين الذين يعملون مع الذكاء الاصطناعي. تصبح مساءلة الذكاء الاصطناعي حاسمة في اتخاذ القرارات حيث تكون المخاطر عالية مثل نشر الشرطة في منطقة معينة وليس في منطقة أخرى، وتوظيف المرشحين ورفضهم.

سيقدم هذا المقال نظرة عامة على تدقيق الذكاء الاصطناعي، والإطارات واللوائح لتدقيق الذكاء الاصطناعي، وقائمة مراجعة للتدقيق التطبيقات الذكية.

العوامل التي يجب مراعاتها

  • الامتثال: تقييم المخاطر المتعلقة بالامتثال لنظام الذكاء الاصطناعي مع الاعتبارات القانونية والتنظيمية والأخلاقية والاجتماعية.
  • التكنولوجيا: تقييم المخاطر المتعلقة بالقدرات الفنية، بما في ذلك التعلم الآلي ومعايير الأمان وأداء النموذج.

التحديات في تدقيق أنظمة الذكاء الاصطناعي

  • الانحياز: يمكن لأنظمة الذكاء الاصطناعي أن تعزز الانحيازات في البيانات التي يتم تدريبها عليها واتخاذ قرارات غير عادلة. وقد أدرك معهد أبحاث في جامعة ستانفورد، وهو معهد الذكاء الاصطناعي الموجه من قبل الإنسان (HAI)، هذه المشكلة، وأطلق تحدياً لتصميم تدقيق أفضل للذكاء الاصطناعي بقيمة 71,000 دولار. كان الهدف من هذا التحدي هو منع التمييز في أنظمة الذكاء الاصطناعي.
  • التعقيد: أنظمة الذكاء الاصطناعي، خاصة تلك التي تستخدم التعلم العميق، معقدة وتنقصها القدرة على تفسيرها.

اللوائح والإطارات الحالية لتدقيق الذكاء الاصطناعي

تُعتبر اللوائح والإطارات بمثابة النجم الشمالي لتدقيق الذكاء الاصطناعي. وتتم مناقشة بعض الإطارات واللوائح المهمة أدناه.

إطارات التدقيق

  1. إطار COBIT (أهداف التحكم للمعلومات والتكنولوجيا المتعلقة): إنه إطار الحوكمة وإدارة التكنولوجيا في المؤسسة.
  2. إطار تدقيق الذكاء الاصطناعي من معهد المدققين الداخليين (IIA): يهدف هذا الإطار إلى تقييم تصميم وتنمية وعمليات أنظمة الذكاء الاصطناعي ومدى توافقها مع أهداف المنظمة. تتكون ثلاثة مكونات رئيسية من إطار تدقيق الذكاء الاصطناعي من معهد المدققين الداخليين من الاستراتيجية والحوكمة والعامل البشري. ويحتوي على سبعة عناصر هي:
  • القدرة على الصمود أمام الهجمات الإلكترونية
  • كفاءات الذكاء الاصطناعي
  • جودة البيانات
  • هياكل البيانات والبنية التحتية
  • قياس الأداء
  • الأخلاقيات
  • الصندوق الأسود
  1. إطار COSO ERM: يوفر هذا الإطار إطاراً مرجعيًا لتقييم المخاطر لأنظمة الذكاء الاصطناعي في المنظمة. ويتكون من خمسة مكونات للتدقيق الداخلي:
  • البيئة الداخلية: التأكد من أن حوكمة وإدارة المنظمة تديران مخاطر الذكاء الاصطناعي
  • تحديد الأهداف: التعاون مع أصحاب المصلحة لتحديد استراتيجية المخاطر
  • تحديد الحدث: تحديد المخاطر في أنظمة الذكاء الاصطناعي مثل الانحيازات غير المقصودة وانتهاكات البيانات
  • تقييم المخاطر: ما هي تأثير المخاطر؟
  • استجابة للمخاطر: كيف ستستجيب المنظمة لمواقف المخاطر، مثل جودة البيانات غير المثلى؟

اللوائح

يُعتبر قانون حماية البيانات العامة (GDPR) قانونًا في لوائح الاتحاد الأوروبي يضع التزامات على المنظمات لاستخدام البيانات الشخصية. ويتكون من سبعة مبادئ هي:

  • الشرعية والعدالة والشفافية: يجب أن تتم معالجة البيانات الشخصية وفقًا للقانون
  • تقييد الغرض: استخدام البيانات فقط لغرض محدد
  • تقليل البيانات: يجب أن تكون البيانات الشخصية كافية ومحدودة
  • الدقة: يجب أن تكون البيانات دقيقة ومحدّثة
  • تقييد التخزين: لا تخزن البيانات الشخصية التي لم تعد مطلوبة
  • السلامة والسرية: يجب أن يتم معالجة البيانات الشخصية بأمان
  • المسؤولية: يجب على مسؤول معالجة البيانات أن يعالجها بمسؤولية مع الالتزام بالمتطلبات

وتشمل اللوائح الأخرى CCPA و PIPEDA.

قائمة مراجعة لتدقيق الذكاء الاصطناعي

مصادر البيانات

تُعتبر تحديد مصادر البيانات ومراجعتها هي الاعتبار الأول في تدقيق أنظمة الذكاء الاصطناعي. يتحقق المدققون من جودة البيانات ومدى قدرة الشركة على استخدامها.

التحقق المتقاطع

يُعتبر التأكد من أن النموذج تم التحقق منه بشكل صحيح هو واحد من قائمة مراجعة المدققين. يجب ألا يتم استخدام بيانات التحقق لتدريب النموذج، ويجب أن تضمن تقنيات التحقق قدرة النموذج على التعميم.

الاستضافة الآمنة

في بعض الحالات، تستخدم أنظمة الذكاء الاصطناعي البيانات الشخصية. من المهم تقييم ما إذا كانت خدمات الاستضافة أو السحابية تفي بمتطلبات أمان المعلومات مثل إرشادات OWASP.

الذكاء الاصطناعي القابل للتفسير

يُشير الذكاء الاصطناعي القابل للتفسير إلى تفسير وفهم القرارات التي يتخذها نظام الذكاء الاصطناعي والعوامل التي تؤثر عليها. يتحقق المدققون من ما إذا كانت النماذج كافية للتفسير باستخدام تقنيات مثل LIME وSHAP.

مخرجات النموذج

يُعتبر العدل هو الأول الذي يضمنه المدققون في مخرجات النموذج. يجب أن تظل مخرجات النموذج ثابتة عند تغيير متغيرات مثل الجنس أو العرق أو الدين. بالإضافة إلى ذلك، يتم تقييم جودة التنبؤات باستخدام طريقة التقييم المناسبة.

التغذية الراجعة الاجتماعية

يُعتبر تدقيق الذكاء الاصطناعي عملية مستمرة. بعد النشر، يجب على المدققين النظر في التأثير الاجتماعي لنظام الذكاء الاصطناعي. يجب تعديل استراتيجية نظام الذكاء الاصطناعي والمخاطر وفقًا للتعليقات والاستخدام والنتائج والتأثير، إيجابيًا أو سلبيًا.

الشركات التي تُدقق خطوط وأنظمة الذكاء الاصطناعي

هناك خمس شركات كبرى تُدقق أنظمة الذكاء الاصطناعي وهي:

  • ديلويت: ديلويت هي أكبر شركة خدمات مهنية في العالم وتوفر خدمات متعلقة بالتدقيق والضرائب والاستشارات المالية. تستخدم ديلويت آليات الروبوتات والذكاء الاصطناعي والتحليلات لمساعدة المنظمات في تقييم المخاطر لأنظمتهم الذكية.
  • بي و سي: بي و سي هي ثاني أكبر شبكة خدمات مهنية من حيث الإيرادات. وقد طوّرت مناهج تدقيق لمساعدة المنظمات على ضمان المساءلة والموثوقية والشفافية.
  • إي واي: في عام 2022، أعلنت إي واي عن استثمار مليار دولار في منصة تكنولوجيا مدعومة بالذكاء الاصطناعي لتوفير خدمات تدقيق عالية الجودة. الشركات التي تعمل بالذكاء الاصطناعي على دراية جيدة بتدقيق أنظمة الذكاء الاصطناعي.
  • كيه بي إم جي: كيه بي إم جي هي رابع أكبر شركة لتوفير خدمات المحاسبة. توفر كيه بي إم جي خدمات مخصصة في حوكمة الذكاء الاصطناعي وتقييم المخاطر والسيطرة.
  • جرانت ثورنتون: تساعد جرانت ثورنتون العملاء على إدارة المخاطر المرتبطة بنشر الذكاء الاصطناعي والامتثال لأخلاقيات ولوائح الذكاء الاصطناعي.

فوائد تدقيق أنظمة الذكاء الاصطناعي

  • إدارة المخاطر: يمنع التدقيق أو يقلل من المخاطر المرتبطة بأنظمة الذكاء الاصطناعي.
  • الشفافية: يضمن التدقيق أن تطبيقات الذكاء الاصطناعي خالية من التحيز والتمييز.
  • الامتثال: يُعتبر التدقيق لتطبيقات الذكاء الاصطناعي يعني أن النظام يتبع الامتثال القانوني والتنظيمي.

تدقيق الذكاء الاصطناعي: ما الذي يخبئه المستقبل

يجب على المنظمات والسلطات التنظيمية والمدققين البقاء على اتصال بالتطورات في مجال الذكاء الاصطناعي والتعرف على التهديدات المحتملة ومراجعة اللوائح والإطارات والاستراتيجيات بانتظام لضمان استخدام عادل وخالي من المخاطر وأخلاقي للذكاء الاصطناعي.

في عام 2021، اعتمد 193 دولة عضو في اليونسكو اتفاقية عالمية حول أخلاقيات الذكاء الاصطناعي. الذكاء الاصطناعي هو نظام متطور باستمرار.

هل تريد المزيد من المحتوى المتعلق بالذكاء الاصطناعي؟ زور unite.ai.

Haziqa هي عالمة بيانات ذات خبرة واسعة في كتابة المحتوى الفني لشركات الذكاء الاصطناعي والبرمجيات كخدمة.