هل يُعدّ التقليل أفضل نهج لحوكمة الذكاء الاصطناعي؟

مع دمج المؤسسات الذكاء الاصطناعي (AI) في عملياتها التجارية، تحتاج إلى سبل واضحة لإدارة المخاطر المرتبطة بتطويره واستخدامه. توفر الحوكمة الفعالة الإشراف اللازم، لكن الإجراءات المعقدة قد تستنزف الموارد وتبطئ التنفيذ. ويتيح التقليل وسيلة محتملة لجعل الحوكمة أكثر تناسبًا، من خلال الحد من استخدام البيانات غير الضروري مع الحفاظ على المساءلة والضمانات.

لماذا تُعدّ حوكمة الذكاء الاصطناعي مهمة؟

تضع حوكمة الذكاء الاصطناعي السياسات والمسؤوليات وآليات الإشراف التي توجه كيفية تطوير المؤسسات لأنظمة الذكاء الاصطناعي ونشرها واستخدامها. وتساعد المؤسسات على تحديد المخاطر، وإسناد صلاحيات اتخاذ القرار، ووضع إجراءات لمراقبة الأداء ومعالجة المشكلات.

يجب على المؤسسات مراعاة مخاطر عدة عند اعتماد الذكاء الاصطناعي، منها انتهاكات الخصوصية، والثغرات الأمنية، والنتائج المتحيزة، والمخرجات غير الدقيقة، ومحدودية الشفافية. وفي غياب الضوابط المناسبة، قد تؤثر القرارات التي يولدها الذكاء الاصطناعي في العملاء والموظفين وغيرهم من أصحاب المصلحة بطرق يصعب تصحيحها. كما تساعد الحوكمة المؤسسات على استيفاء المتطلبات القانونية المنطبقة ومواءمة استخدام الذكاء الاصطناعي مع أهداف العمل.

أفادت الرابطة الدولية لمتخصصي الخصوصية أن 77% من المؤسسات التي شملها الاستطلاع كانت تعمل على حوكمة الذكاء الاصطناعي في عام 2025. وتشير هذه النتيجة إلى اهتمام مؤسسي كبير بالموضوع، مع أن العمل على الحوكمة لا يعني بالضرورة أن المؤسسة قد استكملت إطارها أو نفذته بالكامل.

تساعد المسؤوليات الواضحة والمراقبة المستمرة المؤسسات على تحديد المسائل المستجدة، والتحقيق في النتائج غير المتوقعة، وتعديل الضوابط مع تغير الأنظمة. ويمكن للحوكمة الفعالة أيضًا أن تعزز ثقة أصحاب المصلحة، إذ تُظهر أن المؤسسة تراعي تبعات استخدام الذكاء الاصطناعي وتتحمل مسؤولية قراراتها.

التحديات التي تواجه حوكمة الذكاء الاصطناعي

على الرغم من أن الحوكمة تساعد المؤسسات على إدارة مخاطر الذكاء الاصطناعي، فقد يكون وضع إشراف فعال والحفاظ عليه أمرًا صعبًا. ويتطلب تحديد نطاق الإشراف أن تقرر المؤسسات أنظمة الذكاء الاصطناعي وأنشطته واعتماداته التي تستلزم الحوكمة. 

لوضع نطاق واضح لحوكمة الذكاء الاصطناعي، يمكن للمؤسسات الرجوع إلى ISO/IEC 42001، الذي يحدد متطلبات إنشاء نظام لإدارة الذكاء الاصطناعي وصيانته. ويمكن للامتثال أن يحسّن أداء النماذج، بما يتيح تطوير ذكاء اصطناعي أسرع وأكثر أمانًا. كما يساعد المؤسسات على تحديد أجزاء عملياتها التي يشملها نظام إدارة الذكاء الاصطناعي لديها. وتأخذ هذه المعايير في الحسبان التغطية الجغرافية، والروابط مع الأنظمة الأخرى، ونطاق أنشطة الذكاء الاصطناعي لديها. 

تشمل التحديات الرئيسية الأخرى ما يلي:

• تعقيد أنظمة الذكاء الاصطناعي: قد تعتمد تطبيقات الذكاء الاصطناعي على نماذج ومجموعات بيانات وأدوات تابعة لجهات خارجية وقرارات مؤتمتة ومترابطة. وقد تجعل هذه الاعتمادات تتبّع المخرجات وتحديد الثغرات الأمنية ومعرفة المواضع التي تستلزم ضوابط أمرًا صعبًا.
• خصوصية البيانات وأمنها: يجب على المؤسسات حماية المعلومات الحساسة في جميع مراحل جمع البيانات وتدريب النماذج ونشرها واستخدامها المستمر. 
• التحيز ومحدودية الشفافية: قد تسهم بيانات التدريب غير الممثلة في نتائج غير منصفة، في حين أن غموض سلوك النماذج قد يصعّب تفسير القرارات أو تقييمها أو الطعن فيها.
• تطور اللوائح والمعايير: قد تواجه المؤسسات العاملة في ولايات قضائية متعددة متطلبات قانونية مختلفة أو متغيرة. وينبغي لعمليات الحوكمة استيعاب الالتزامات ذات الصلة من دون إحداث ازدواجية غير ضرورية.
• قيود الموارد والعمليات: تتطلب المهارات المتخصصة والتوثيق والمراجعات والمراقبة المستمرة وقتًا وتمويلًا. 
• الموازنة بين الإشراف والابتكار: قد تؤدي متطلبات الموافقة المفرطة إلى تأخير المشاريع، في حين قد تترك الضوابط الضعيفة مخاطر كبيرة من دون معالجة.

تسلط هذه التحديات الضوء على أهمية الحد من التعقيد غير الضروري. ومع ذلك، يجب أن يشمل تقليل الحوكمة أيضًا وضع ضوابط تحمي الأشخاص والمعلومات وتضمن مساءلة المؤسسة.

فعلى سبيل المثال، خلص مراقب ولاية نيويورك إلى أن وكالات مدينة نيويورك اتبعت نهجًا غير متسق في الإشراف على الذكاء الاصطناعي، إذ لم تكن لدى بعضها سياسات لتقييم التحيز والدقة. وتُبرز النتائج أن الحد من التعقيد يتطلب معايير حوكمة واضحة ومتسقة للحفاظ على المساءلة. 

ماذا يعني التقليل في حوكمة الذكاء الاصطناعي؟

ينطوي التقليل في حوكمة الذكاء الاصطناعي على الحد من استخدام البيانات غير الضروري والأعباء الإدارية، مع الإبقاء على التدابير اللازمة لإدارة المخاطر. وله بُعدان رئيسيان، هما تقليل البيانات وتقليل الحوكمة. ويهدف كلاهما إلى جعل ممارسات الذكاء الاصطناعي أكثر تناسبًا مع غاياتها وآثارها المحتملة.

تقليل البيانات

يحدّ تقليل البيانات من جمع المعلومات والاحتفاظ بها ومعالجتها ومشاركتها، بحيث تقتصر على ما يحتاج إليه نظام الذكاء الاصطناعي لتحقيق غرض محدد. ويمكن للمؤسسات تطبيق هذا المبدأ عبر تقييد الوصول إلى المعلومات الحساسة واستخدام بيانات مجهولة الهوية أو اصطناعية عند الاقتضاء.

يمكن أن يقلل الحد من البيانات غير الضرورية من مخاطر انتهاك الخصوصية ومن حجم المعلومات التي يتعين على المؤسسات حمايتها. غير أن تقليل البيانات يتطلب تقديرًا دقيقًا. فقد يؤدي حذف معلومات ذات صلة إلى إضعاف دقة النموذج، أو الحد من تمثيل المجموعات المختلفة، أو زيادة صعوبة اكتشاف النتائج المتحيزة. ويتعين على المؤسسات تحديد البيانات اللازمة لتحقيق الغرض المنشود ودعم نتائج موثوقة ومنصفة.

تقليل متطلبات الحوكمة

يركز تقليل متطلبات الحوكمة على تبسيط إجراءات الإشراف. ويمكن للمؤسسات دمج المراجعات المتداخلة وإعادة استخدام التقييمات عند الاقتضاء. كما يمكنها توضيح صلاحيات اتخاذ القرار وإلغاء مستويات الموافقة التي لا توفر حماية جوهرية من المخاطر.

تساعد هذه التغييرات على خفض التكاليف الإدارية والتأخيرات، مع توضيح مسؤوليات الفرق. لكن ينبغي ألا يؤدي تقليل متطلبات الحوكمة إلى إلغاء التوثيق الأساسي أو المراجعة المستقلة أو الإشراف البشري أو الضوابط الإلزامية. والهدف هو جعل الإشراف أكثر كفاءة مع الحفاظ على المساءلة.

استراتيجيات تقليل متطلبات حوكمة الذكاء الاصطناعي

يمكن لنهج تقليل المتطلبات أن يجعل حوكمة الذكاء الاصطناعي أكثر كفاءة عندما توائم المؤسسات بين ممارسات البيانات ومتطلبات الإشراف وبين مخاطر كل حالة استخدام. ويمكن لعدد من التدابير الحد من التعقيد غير الضروري مع الحفاظ على المساءلة والأداء الموثوق والضمانات المناسبة.

اتباع نهج قائم على المخاطر

يمكن للمؤسسات تصنيف أنظمة الذكاء الاصطناعي بحسب الغرض المقصود منها، وأثرها المحتمل، ومدى حساسية بياناتها. ويوفر إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتكنولوجيا بنيةً لإدارة مخاطر الذكاء الاصطناعي عبر أربع وظائفتشمل الحوكمة والتحديد والقياس والإدارة. ويمكن للمؤسسات استخدام هذه الوظائف لتحديد المخاطر وتقييم أهميتها وتقرير الاستجابات المناسبة.

تحديد متطلبات واضحة للبيانات

ينبغي تحديد غرض كل نظام ذكاء اصطناعي قبل البدء في جمع البيانات. ويمكن للمؤسسات بعد ذلك تحديد فئات البيانات اللازمة، وحذف الحقول غير ذات الصلة، وتقييد الوصول، ووضع حدود مناسبة لفترات الاحتفاظ بالبيانات. وينبغي أن تؤكد الاختبارات أن مجموعات البيانات المصغّرة تواصل دعم نتائج دقيقة ومنصفة.

تحسين النماذج وموارد الحوسبة

يمكن أن يساعد تحسين النماذج والخوارزميات الفعالة والأجهزة الموفرة للطاقة على الحد من متطلبات الحوسبة غير الضرورية. ويمكن للشركات استكشاف التعلم الاتحادي، الذي يقلل الحاجة إلى نقلكميات كبيرة من المعلومات. ويمكن لهذه الممارسات خفض تكاليف الحوسبة واستهلاك الطاقة، مع دعم خصوصية البيانات. 

تبسيط مسارات عمل الحوكمة

يمكن للمؤسسات دمج المراجعات المتداخلة، وإعادة استخدام التقييمات التي تغطي المخاطر نفسها، وتوضيح المسؤوليات، ووضع مسارات للموافقة بحسب مستوى المخاطر. وتساعد العمليات الموحدة الفرق على معالجة التطبيقات الاعتيادية بكفاءة، مع إحالة الحالات الأكثر تعقيدًا إلى المختصين المناسبين.

الحفاظ على الضمانات الأساسية

يجب أن يحافظ نهج تقليل المتطلبات على تدابير حماية الخصوصية والأمن، وتقييمات التحيز، والإشراف البشري المناسب، ومسارات التدقيق، وإجراءات الاستجابة للحوادث. كما ينبغي للمؤسسات التأكد من استمرار امتثال العمليات المبسطة للالتزامات القانونية والتنظيمية المعمول بها.

مراقبة الأداء وإعادة تقييم الضوابط

قد تتغير متطلبات الحوكمة مع تطور نظام الذكاء الاصطناعي أو وصوله إلى مستخدمين جدد أو استخدامه في مهام إضافية. وينبغي للمؤسسات مراقبة مخاطر الدقة والإنصاف والخصوصية بعد نشر النظام. كما ينبغي لها إعادة النظر في متطلبات البيانات وإجراءات الإشراف كلما تغيرت الظروف.

إنجاح تقليل المتطلبات في حوكمة الذكاء الاصطناعي

يكون تقليل المتطلبات أكثر فاعلية عندما يندرج ضمن استراتيجية حوكمة قائمة على المخاطر. غير أن المستوى المناسب من تقليل المتطلبات يختلف باختلاف غرض نظام الذكاء الاصطناعي وتعقيده وأثره المحتمل. ومن خلال الموازنة بين الكفاءة والضمانات المناسبة والمساءلة والتقييم المستمر، يمكن للمؤسسات تبسيط حوكمة الذكاء الاصطناعي مع الحفاظ على استخدام مسؤول وموثوق للذكاء الاصطناعي.