كيفية إجراء تدقيق للمنظمة الذكية في 2023

يُشير التدقيق الذكي إلى تقييم أنظمة الذكاء الاصطناعي للتأكد من أنها تعمل كما هو متوقع دون تحيز أو تمييز ومتوافقة مع المعايير الأخلاقية والقانونية. وقد شهد الذكاء الاصطناعي نمواً كبيراً خلال العقد الماضي. ونتيجة لذلك، أصبحت المخاطر المرتبطة بالذكاء الاصطناعي مصدر قلق للشركات. كما قال إيلون ماسك:

“الذكاء الاصطناعي هو حالة نادرة أعتقد أننا يجب أن نكون استباقيين في التنظيم بدلاً من التفاعل.”

يجب على الشركات تطوير الحوكمة وتقييم المخاطر والسيطرة على استراتيجيات الموظفين الذين يعملون مع الذكاء الاصطناعي. تصبح مساءلة الذكاء الاصطناعي حاسمة في اتخاذ القرارات حيث تكون المخاطر عالية مثل نشر الشرطة في منطقة معينة وليس في منطقة أخرى، وتوظيف المرشحين ورفضهم.

سيقدم هذا المقال نظرة عامة على التدقيق الذكي، والإطارات واللوائح للتدقيق الذكي، وقائمة مراجعة للتدقيق التطبيقات الذكية.

العوامل التي يجب مراعاتها

• الامتثال: تقييم المخاطر المتعلقة بالامتثال لنظام الذكاء الاصطناعي مع الاعتبارات القانونية والتنظيمية والأخلاقية والاجتماعية.
• التكنولوجيا: تقييم المخاطر المتعلقة بالقدرات الفنية، بما في ذلك التعلم الآلي ومعايير الأمان وأداء النموذج.

التحديات في تدقيق أنظمة الذكاء الاصطناعي

• الانحياز: يمكن لأنظمة الذكاء الاصطناعي أن تعزز الانحيازات في البيانات التي يتم تدريبها عليها واتخاذ قرارات غير عادلة. وقد أدرك معهد أبحاث في جامعة ستانفورد، وهو معهد الذكاء الاصطناعي الموجه من قبل الإنسان (HAI)، هذه المشكلة، وأطلق تحدياً لتصميم تدقيق أفضل للذكاء الاصطناعي بقيمة 71,000 دولار. كان الهدف من هذا التحدي هو منع التمييز في أنظمة الذكاء الاصطناعي.
• الcomplexity: أنظمة الذكاء الاصطناعي، خاصة تلك التي تستخدم التعلم العميق، معقدة وتنقصها القدرة على تفسيرها.

اللوائح والإطارات الحالية للتدقيق الذكي

تُعتبر اللوائح والإطارات بمثابة النجم الشمالي للتدقيق الذكي. وتتم مناقشة بعض الإطارات واللوائح المهمة أدناه.

إطارات التدقيق

1. إطار COBIT (أهداف التحكم للمعلومات والتكنولوجيا المتعلقة): إنه إطار الحوكمة وإدارة التكنولوجيا في المؤسسة.
2. إطار تدقيق الذكاء الاصطناعي من معهد المحاسبين الداخليين (IIA): يهدف هذا الإطار إلى تقييم تصميم وتنمية وعمليات أنظمة الذكاء الاصطناعي ومدى توافقها مع أهداف المنظمة. تتكون ثلاثة مكونات رئيسية من إطار تدقيق الذكاء الاصطناعي من معهد المحاسبين الداخليين من الاستراتيجية والحوكمة والعامل البشري. ويحتوي على سبعة عناصر هي:

• القدرة على الصمود أمام الهجمات الإلكترونية
• كفاءات الذكاء الاصطناعي
• جودة البيانات
• هياكل البيانات والبنية التحتية
• قياس الأداء
• الأخلاقيات
• الصندوق الأسود

3. إطار COSO ERM: يوفر هذا الإطار إطاراً مرجعيًا لتقييم المخاطر لأنظمة الذكاء الاصطناعي في المنظمة. ويتكون من خمسة مكونات للتدقيق الداخلي:

• البيئة الداخلية: التأكد من أن حوكمة وإدارة المنظمة تديران مخاطر الذكاء الاصطناعي
• تحديد الأهداف: التعاون مع أصحاب المصلحة لتحديد استراتيجية المخاطر
• تحديد الحدث: تحديد المخاطر في أنظمة الذكاء الاصطناعي مثل الانحيازات غير المقصودة وانتهاكات البيانات
• تقييم المخاطر: ما هي تأثير المخاطر؟
• استجابة للمخاطر: كيف ستستجيب المنظمة لمواقف المخاطر، مثل جودة البيانات غير المثلى؟

اللوائح

يُعتبر قانون حماية البيانات العامة (GDPR) قانونًا في لوائح الاتحاد الأوروبي يضع التزامات على المنظمات لاستخدام البيانات الشخصية. ويتكون من سبعة مبادئ هي:

• الشرعية والعدالة والشفافية: يجب أن تتم معالجة البيانات الشخصية وفقًا للقانون
• تقييد الغرض: استخدام البيانات فقط لغرض محدد
• تقليل البيانات: يجب أن تكون البيانات الشخصية كافية ومحدودة
• الدقة: يجب أن تكون البيانات دقيقة ومحدّثة
• تقييد التخزين: لا تخزن البيانات الشخصية التي لم تعد مطلوبة
• السلامة والسرية: يجب أن يتم معالجة البيانات الشخصية بأمان
• المسؤولية: يجب على صاحب السلطة معالجة البيانات مسؤولية وفقًا للمطابقات

وتشمل اللوائح الأخرى CCPA و PIPEDA.

قائمة مراجعة للتدقيق الذكي

مصادر البيانات

تُعتبر تحديد مصادر البيانات ومراجعتها هي الاعتبار الأول في تدقيق أنظمة الذكاء الاصطناعي. يتحقق المدققون من جودة البيانات ومدى khảية الشركة لاستخدامها.

التحقق المتقاطع

يُعتبر التأكد من أن النموذج تم التحقق منه بشكل صحيح هو واحد من قائمة مراجعة المدققين. يجب ألا يتم استخدام بيانات التحقق لتدريب النموذج، ويجب أن تضمن تقنيات التحقق من صحة النموذج.

التخزين الآمن

في بعض الحالات، تستخدم أنظمة الذكاء الاصطناعي البيانات الشخصية. من المهم تقييم ما إذا كانت خدمات الاستضافة أو السحابية تفي بمتطلبات أمان المعلومات مثل إرشادات OWASP.

الذكاء الاصطناعي القابل للتفسير

يُشير الذكاء الاصطناعي القابل للتفسير إلى تفسير و理解 القرارات التي يتخذها نظام الذكاء الاصطناعي والعوامل التي تؤثر عليها. يتحقق المدققون من ما إذا كانت النماذج كافية للتفسير باستخدام تقنيات مثل LIME وSHAP.

مخرجات النموذج

يُعتبر العدل هو الأول الذي يضمنه المدققون في مخرجات النموذج. يجب أن تظل مخرجات النموذج ثابتة عند تغيير متغيرات مثل الجنس أو العرق أو الدين. بالإضافة إلى ذلك، يتم تقييم جودة التنبؤات باستخدام طريقة التقييم المناسبة.

التغذية الراجعة الاجتماعية

يُعتبر تدقيق الذكاء الاصطناعي عملية مستمرة. بعد النشر، يجب على المدققين النظر في التأثير الاجتماعي لنظام الذكاء الاصطناعي. يجب تعديل استراتيجية نظام الذكاء الاصطناعي والمخاطر وفقًا للتعليقات والاستخدام والنتائج والتأثير، إيجابيًا أو سلبيًا.

الشركات التي تُدقق خطوط وأنظمة الذكاء الاصطناعي

هناك خمس شركات كبرى تُدقق أنظمة الذكاء الاصطناعي وهي:

• ديلويت: ديلويت هي أكبر شركة خدمات مهنية في العالم وتوفر خدمات متعلقة بالتدقيق والضرائب والاستشارات المالية. تستخدم ديلويت آليات الروبوتات والذكاء الاصطناعي والتحليلات لمساعدة المنظمات في تقييم المخاطر لأنظمتهم الذكية.
• بي و سي: بي و سي هي ثاني أكبر شبكة خدمات مهنية من حيث الإيرادات. وقد طوّرت مناهج تدقيق لمساعدة المنظمات على ضمان المساءلة والموثوقية والشفافية.
• إي واي: في عام 2022، أعلنت إي واي عن استثمار مليار دولار في منصة تكنولوجيا مدعومة بالذكاء الاصطناعي لتوفير خدمات تدقيق عالية الجودة. الشركات التي تعمل بالذكاء الاصطناعي على دراية جيدة بتدقيق أنظمة الذكاء الاصطناعي.
• كيه بي إم جي: كيه بي إم جي هي رابع أكبر شركة لتوفير خدمات المحاسبة. توفر كيه بي إم جي خدمات مخصصة في حوكمة الذكاء الاصطناعي وتقييم المخاطر والسيطرة.
• جرانت ثورنتون: تساعد جرانت ثورنتون العملاء على إدارة المخاطر المرتبطة بنشر الذكاء الاصطناعي والامتثال لأخلاقيات ولوائح الذكاء الاصطناعي.

فوائد تدقيق أنظمة الذكاء الاصطناعي

• إدارة المخاطر: يمنع التدقيق أو يقلل من المخاطر المرتبطة بأنظمة الذكاء الاصطناعي.
• الشفافية: يضمن التدقيق أن تطبيقات الذكاء الاصطناعي خالية من التحيز والتمييز.
• الامتثال: يُعتبر التدقيق لتطبيقات الذكاء الاصطناعي يعني أن النظام يتبع الامتثال القانوني والتنظيمي.

تدقيق الذكاء الاصطناعي: ما الذي يخبئه المستقبل

يجب على المنظمات والسلطات التنظيمية والمدققين البقاء على اتصال بالتطورات في مجال الذكاء الاصطناعي والتعرف على التهديدات المحتملة ومراجعة اللوائح والإطارات والاستراتيجيات بانتظام لضمان استخدام عادل وخالي من المخاطر وأخلاقي للذكاء الاصطناعي.

في عام 2021، اعتمد 193 دولة عضو في اليونسكو اتفاقية عالمية حول أخلاقيات الذكاء الاصطناعي. الذكاء الاصطناعي هو نظام متطور باستمرار.

هل تريد المزيد من المحتوى المتعلق بالذكاء الاصطناعي؟ زور unite.ai.