كيفية إجراء تدقيق ذكاء اصطناعي في 2023

يشير تدقيق الذكاء الاصطناعي إلى تقييم أنظمة الذكاء الاصطناعي لضمان عملها كما هو متوقع دون تحيز أو تمييز ومتوافقة مع المعايير الأخلاقية والقانونية. وقد شهد الذكاء الاصطناعي نمواً أسيًا في العقد الماضي. ونتيجة لذلك ، أصبحت المخاطر المرتبطة بالذكاء الاصطناعي مصدر قلق للمنظمات. كما قال إيلون ماسك:

“الذكاء الاصطناعي هو حالة نادرة أعتقد أننا نحتاج إلى أن نكون نشطاء في التنظيم بدلاً من أن نكون متفاعلين.”

يجب على المنظمات تطوير الحوكمة وتقييم المخاطر واستراتيجيات التحكم للموظفين الذين يعملون مع الذكاء الاصطناعي. تصبح مسؤولية الذكاء الاصطناعي حاسمة في اتخاذ القرارات حيث تكون المراهنات عالية مثل نشر الشرطة في منطقة معينة وليس في منطقة أخرى ، وتوظيف المرشحين ورفضهم.

سيقدم هذا المقال نظرة عامة على تدقيق الذكاء الاصطناعي ، وأطر ولوائح لتدقيق الذكاء الاصطناعي ، وقائمة مراجعة لتدقيق تطبيقات الذكاء الاصطناعي.

العوامل التي يجب مراعاتها

• الامتثال: تقييم المخاطر المتعلقة بالامتثال لنظام الذكاء الاصطناعي مع الاعتبارات القانونية والتنظيمية والأخلاقية والاجتماعية.
• التكنولوجيا: تقييم المخاطر المتعلقة بالقدرات الفنية ، بما في ذلك التعلم الآلي ومعايير الأمان وأداء النموذج.

التحديات التي تواجهها أنظمة الذكاء الاصطناعي

• الانحياز: يمكن لأنظمة الذكاء الاصطناعي تعزيز الانحيازات في البيانات التي يتم تدريبها عليها واتخاذ قرارات غير عادلة. معترفًا بهذه المشكلة ، أطلق معهد أبحاث في جامعة ستانفورد ، الذكاء الاصطناعي الموجه بالبشر (HAI) ، تحدي الابتكار بقيمة 71,000 دولار لتصميم تدقيق أفضل للذكاء الاصطناعي. كان هدف هذا التحدي هو منع التمييز في أنظمة الذكاء الاصطناعي.
• الcomplexity: أنظمة الذكاء الاصطناعي ، خاصة تلك التي تستخدم التعلم العميق ، معقدة وتنقصها القدرة على تفسيرها.

اللوائح والأطر الحالية لتدقيق الذكاء الاصطناعي

اللوائح والأطر تعمل كالنجم الشمالي لتدقيق الذكاء الاصطناعي. يتم مناقشة بعض أطر ولوائح التدقيق المهمة أدناه.

أطر التدقيق

1. إطار COBIT (أهداف التحكم لمعلومات التكنولوجيا المتعلقة): إنه الإطار للحوكمة وإدارة التكنولوجيا في المؤسسة.
2. إطار تدقيق الذكاء الاصطناعي من IIA (معهد المحاسبين الداخليين): يهدف إطار الذكاء الاصطناعي هذا إلى تقييم تصميم وتنمية وعمليات أنظمة الذكاء الاصطناعي وتماسكها مع أهداف المنظمة. تتكون ثلاثة مكونات رئيسية من إطار تدقيق الذكاء الاصطناعي من IIA هي الاستراتيجية والحوكمة والعامل البشري. لديه سبعة عناصر هي كما يلي:

• القدرة على الصمود الإلكتروني
• كفاءات الذكاء الاصطناعي
• جودة البيانات
• هيكل البيانات والبنية التحتية
• قياس الأداء
• الأخلاقيات
• الصندوق الأسود

3. إطار COSO ERM: يوفر هذا الإطار إطارًا مرجعيًا لتقييم المخاطر لأنظمة الذكاء الاصطناعي في المنظمة. لديه خمسة مكونات للتدقيق الداخلي:

• البيئة الداخلية: ضمان أن حوكمة وإدارة المنظمة تديران مخاطر الذكاء الاصطناعي
• تحديد الأهداف: التعاون مع أصحاب المصلحة لإنشاء استراتيجية المخاطر
• تحديد الحدث: تحديد المخاطر في أنظمة الذكاء الاصطناعي مثل الانحيازات غير المقصودة وانتهاك البيانات
• تقييم المخاطر: ماذا سيكون تأثير المخاطر؟
• استجابة للمخاطر: كيف ستستجيب المنظمة للمواقف المخاطرية ، مثل جودة البيانات دون المستوى المطلوب؟

اللوائح

لوائح حماية البيانات العامة (GDPR) هي قانون في لوائح الاتحاد الأوروبي يضع التزامات على المنظمات لاستخدام البيانات الشخصية. لديها سبعة مبادئ:

• الشرعية والعدالة والشفافية: يجب أن تتم معالجة البيانات الشخصية وفقًا للقانون
• تقييد الغرض: استخدام البيانات فقط لغرض محدد
• تقليل البيانات: يجب أن تكون البيانات الشخصية كافية ومحدودة
• الدقة: يجب أن تكون البيانات دقيقة ومحدّثة
• تقييد التخزين: لا تخزن البيانات الشخصية التي لم تعد مطلوبة
• السلامة والسرية: يجب أن تتم معالجة البيانات الشخصية بشكل آمن
• المسؤولية: يتحمل المسؤول مسؤولية معالجة البيانات بشكل مسؤول وفقًا للمطابقات

تتضمن اللوائح الأخرى CCPA و PIPEDA.

قائمة مراجعة لتدقيق الذكاء الاصطناعي

مصادر البيانات

تحديد ومصادقة مصادر البيانات هو الاعتبار الأول في تدقيق أنظمة الذكاء الاصطناعي. يتحقق المدققون من جودة البيانات ومدى khảية استخدام البيانات من قبل الشركة.

التحقق المتقاطع

ضمان أن النموذج تم التحقق منه بشكل صحيح هو واحد من قوائم مراجعة المدققين. يجب ألا يتم استخدام بيانات التحقق لتدريب البيانات ، ويجب أن تضمن تقنيات التحقق من صحة نموذج عام.

التحميل الآمن

في بعض الحالات ، تستخدم أنظمة الذكاء الاصطناعي البيانات الشخصية. من المهم تقييم ما إذا كانت خدمات الاستضافة أو السحابة ت满ي متطلبات أمن المعلومات مثل إرشادات OWASP.

الذكاء الاصطناعي القابل للشرح

الذكاء الاصطناعي القابل للشرح يشير إلى تفسير و理解 القرارات التي يتخذها نظام الذكاء الاصطناعي والعوامل التي تؤثر عليه. يتحقق المدققون من ما إذا كانت النماذج كافية لشرحها باستخدام تقنيات مثل LIME و SHAP.

مخرجات النموذج

العادلة هي الأولى التي يضمنها المدققون في مخرجات النموذج. يجب أن تظل مخرجات النموذج متسقة عند تغيير متغيرات مثل الجنس أو العرق أو الدين. بالإضافة إلى ذلك ، يتم تقييم جودة التنبؤات باستخدام طريقة التقييم المناسبة.

التغذية الراجعة الاجتماعية

تدقيق الذكاء الاصطناعي هو عملية مستمرة. بمجرد نشره ، يجب على المدققين رؤية التأثير الاجتماعي لنظام الذكاء الاصطناعي. يجب تعديل نظام الذكاء الاصطناعي و استراتيجية المخاطر و تدقيقه وفقًا للتعليقات و الاستخدام و العواقب و التأثير ، إيجابي أو سلبي.

الشركات التي تُدقق أنابيب و تطبيقات الذكاء الاصطناعي

خمس شركات كبرى تُدقق الذكاء الاصطناعي هي كما يلي:

• ديلوايت: ديلوايت هي أكبر شركة خدمات مهنية في العالم وتوفر خدمات متعلقة بالتدقيق والضرائب والاستشارات المالية. تستخدم ديلوايت آليات آليّة وذكاء اصطناعي وتحليلات لمساعدة المنظمات في تقييم المخاطر لأنظمتهم الذكاء الاصطناعي.
• بي و سي: بي و سي هي ثاني أكبر شبكة خدمات مهنية من حيث الإيرادات. لقد طوروا منهجيات التدقيق لمساعدة المنظمات على ضمان المساءلة والموثوقية والشفافية.
• إي و واي: في عام 2022 ، أعلنت إي و واي عن استثمار بقيمة مليار دولار في منصة تكنولوجيا ذكاء اصطناعي لتقديم خدمات تدقيق عالية الجودة. الشركات التي تعمل بالذكاء الاصطناعي على دراية جيدة بتدقيق أنظمة الذكاء الاصطناعي.
• كيه بي إم جي: كيه بي إم جي هي رابع أكبر شركة خدمات حسابية توفر خدمات مخصصة في حوكمة الذكاء الاصطناعي وتقييم المخاطر والتحكم.
• غرانت ثورنتون: يساعدون العملاء على إدارة المخاطر المرتبطة بنشر الذكاء الاصطناعي والامتثال لأخلاقيات ولوائح الذكاء الاصطناعي.

فوائد تدقيق أنظمة الذكاء الاصطناعي

• إدارة المخاطر: يمنع التدقيق أو يخفف من المخاطر المرتبطة بأنظمة الذكاء الاصطناعي.
• الشفافية: يضمن التدقيق أن تطبيقات الذكاء الاصطناعي خالية من التحيز والتمييز.
• الامتثال: يعني تدقيق تطبيقات الذكاء الاصطناعي أن النظام يتبع الامتثال القانوني والتنظيمي.

تدقيق الذكاء الاصطناعي: ما يحمل المستقبل

يجب على المنظمات والسلطات التنظيمية والمدققين البقاء على اتصال مع تقدم الذكاء الاصطناعي والتعرف على التهديدات المحتملة ومراجعة اللوائح والأطر والاستراتيجيات بانتظام لضمان استخدام عادل وخالي من المخاطر وأخلاقي للذكاء الاصطناعي.

في عام 2021 ، اعتمد 193 دولة عضو في اليونسكو اتفاقية عالمية بشأن أخلاقيات الذكاء الاصطناعي. الذكاء الاصطناعي هو نظام متطور باستمرار.

هل تريد المزيد من المحتوى المتعلق بالذكاء الاصطناعي؟ قم بزيارة unite.ai.