كيف تجعل القطاعات الخاضعة للتنظيم قرارات الذكاء الاصطناعي خاضعة للمساءلة

على مدى العقد الماضي، اتبع تبنّي الذكاء الاصطناعي في المؤسسات نمطًا متوقعًا: استثمارات ضخمة، وتجارب أولية واعدة، وتأثير متفاوت في العمليات الفعلية. لكن الذكاء الاصطناعي لم يعد تجريبيًا في قطاعي المصارف والتأمين؛ فهو يؤثر اليوم في قرارات بالغة الأهمية تتعلق بكشف الاحتيال، والموافقة على الائتمان، والاكتتاب التأميني، والمطالبات. وتنطوي هذه القرارات على تبعات كبيرة ماليًا وتنظيميًا وعلى مستوى السمعة. ويتزايد تأثرها ليس بالنماذج الفردية فحسب، بل أيضًا بسير عمل يقوده وكلاء الذكاء الاصطناعي ومسارات آلية لاتخاذ القرار تمتد عبر أنظمة متعددة ومراحل مختلفة من العملية.

لقد تغيّر التحدي. لم يعد يتعلق بتوليد الرؤى، بل أصبح يتعلق باتخاذ قرارات استراتيجية والدفاع عن مبرراتها.

ومع دمج الذكاء الاصطناعي في مسارات عمل ذات عواقب مهمة، يجب أن تتمكن المؤسسات والجهات الحكومية من شرح كيفية الوصول إلى النتيجة، وإثبات وجود ضوابط مناسبة، وتبرير النتيجة للجهات التنظيمية والعملاء ومجالس الإدارة. ولم يعد السؤال المحوري لدى قادة المخاطر والامتثال والبيانات والتكنولوجيا هو ما يستطيع الذكاء الاصطناعي فعله، بل ما إذا كانت القرارات المدعومة به تصمد أمام التدقيق.

ويدفع هذا التحول إلى بروز ذكاء القرار، أو Decision Intelligence، بوصفه نهجًا تشغيليًا لا يركز على النماذج منفردة، بل على كيفية تصميم القرارات وحوكمتها ومراقبتها وتحسينها في بيئات العمل الفعلية.

اختبار واقع الذكاء الاصطناعي

سرّع الذكاء الاصطناعي التوليدي وتيرة التجريب، ووسّع إتاحة المعرفة، وحسّن تجربة المستخدم. لكن مبادرات كثيرة تتعثر عند مواجهة تعقيد التكامل، وتشتت المسؤوليات، ومتطلبات الحوكمة.

وتظهر هذه الفجوات سريعًا في القطاعات الخاضعة للتنظيم. فرفض الائتمان أو إيقاف معاملة أو رفض مطالبة تأمينية يحمل تبعات قانونية ومتعلقة بالامتثال. وحتى حين يساهم الذكاء الاصطناعي في جزء من القرار فقط، تظل المؤسسة مسؤولة عن النتيجة. وعليها أن توضح كيف جُمعت المدخلات، وما القيود والضوابط الوقائية التي طُبقت، وأين تدخل التقدير البشري.

ومؤشرات الأداء التقنية، مثل الدقة ومعامل التحسن مقارنة بخط الأساس «lift» ومعدلات الكشف، ضرورية لكنها غير كافية. فالجهات التنظيمية والقيادات التنفيذية تهتم بسلامة القرار.

من التركيز على المكونات إلى التركيز على القرارات

تسعى معظم برامج الذكاء الاصطناعي إلى تحسين المكونات الفردية. لكن القرارات في الواقع نادرًا ما تنشأ عن درجة يصدرها نموذج واحد.

فقد يجمع تنبيه الاحتيال بين إشارات متعددة وحدود تستند إلى السياسات ومراجعات يدوية قبل إيقاف المعاملة. وغالبًا ما تمزج قرارات الاكتتاب التأميني بين النماذج التنبؤية والمتطلبات التنظيمية وإرشادات تقبّل المخاطر والخبرة البشرية. وتمتد المساءلة عبر فرق علوم البيانات والمنتجات والعمليات والامتثال.

ويعيد ذكاء القرار صياغة المشكلة. فبدلًا من السؤال عما إذا كان النموذج يؤدي جيدًا، يطرح الأسئلة التالية:

• هل يمكننا تتبّع كيفية اتخاذ هذا القرار؟
• هل يمكننا تفسيره بعد أشهر أو سنوات؟
• هل يمكننا تحسينه بصورة منهجية ومستمرة دون زيادة المخاطر؟

في البيئات الخاضعة للتنظيم، تفوق أهمية هذه الأسئلة المكاسب التدريجية في أداء النماذج.

المساءلة أصبحت توقعًا تنظيميًا

تطوّر الموقف التنظيمي. فالجهات الرقابية تتعامل مع الذكاء الاصطناعي بصورة متزايدة لا بوصفه تقنية تجريبية، بل عاملًا يؤثر في سلوك السوق والنتائج التي تؤول إلى المستهلكين.

وفي الولايات المتحدة، تواصل الجهات المنظمة للمصارف تعزيز توقعاتها بشأن حوكمة النماذج والتحقق من صلاحيتها وتوثيقها، بغض النظر عن درجة تطورها التقني. وتظل المؤسسات مسؤولة عن الضبط والرقابة حتى مع ازدياد الأتمتة.

أما في أوروبا، فالمتطلبات أكثر وضوحًا. إذ يضع قانون الذكاء الاصطناعي للاتحاد الأوروبي التزامات محددة على أنظمة الذكاء الاصطناعي عالية المخاطر، بما فيها المستخدمة في الخدمات المالية والتأمين. فالحوكمة والتوثيق وقابلية التدقيق ليست مزايا اختيارية، بل متطلبات تنظيمية.

والرسالة واحدة عبر الولايات القضائية: إذا أثّر الذكاء الاصطناعي في نتائج المستهلكين أو الأسواق، وجب على المؤسسات أن تتمكن من شرح عمليات اتخاذ القرار التي أدت إلى تلك النتائج والدفاع عن مبرراتها.

لماذا يتصدر قطاعا المصارف والتأمين

تواجه قطاعات عديدة تحديات حوكمة الذكاء الاصطناعي، لكن المصارف والتأمين في المقدمة لأن حجم التبعات واضح والرقابة صارمة.

فعلى أنظمة مكافحة الاحتيال الموازنة بين السرعة والأثر في العملاء. ويجب أن تكون قرارات الائتمان والاكتتاب التأميني متسقة وغير تمييزية. كما يجب أن تصمد نتائج المطالبات أمام المراجعة التنظيمية واعتراضات حاملي وثائق التأمين. وفي كل حالة، تنشأ القرارات عن مزيج من البيانات والقواعد والتحليلات والتقدير البشري.

وتزيد الجهات التنظيمية أيضًا من تركيزها. فقد أطلقت هيئة السلوك المالي البريطانية مؤخرًا مراجعة للذكاء الاصطناعي المتقدم في الخدمات المالية للأفراد، وربطت نشره صراحة بنتائج المستهلكين ومعايير الحوكمة.

والدلالة واضحة: أصبح الذكاء الاصطناعي يُعامل بوصفه بنية تحتية مالية أساسية.

ذكاء القرار بوصفه نهجًا تشغيليًا

غالبًا ما يُوصَف ذكاء القرار خطأً بأنه مجرد طبقة أخرى من الأتمتة. وفي القطاعات الخاضعة للتنظيم، نادرًا ما تكون الاستقلالية الكاملة ممكنة أو مرغوبة. وتضمن قيود السياسات ومستويات تحمّل المخاطر بقاء البشر مشاركين في العملية.

والهدف أكثر عملية: جعل القرارات شفافة وقابلة للمراجعة والتحسين المستمر.

ويعني ذلك عمليًا إظهار منطق القرار بصورة مستقلة بدلًا من دفنه في الشيفرة أو النماذج أو جداول البيانات. ويعني تحديد ما يلي بوضوح:

• البيانات التي استندت إليها النتيجة
• السياسات والقيود التي طُبقت
• المواضع التي حدث فيها تدخل بشري
• الجهة التي تتحمل مسؤولية القرار النهائي

ومع مرور الوقت، ينشئ ذلك ذاكرة مؤسسية. ولا يقتصر ما يمكن للمؤسسة فحصه على مدى جودة أداء النموذج، بل يشمل أيضًا ما إذا كانت عملية اتخاذ القرار قد أنتجت نتائج متسقة ومتوافقة مع المتطلبات في ظروف التشغيل الفعلية.

وهذه الشفافية لا تزيل التعقيد، بل تجعله قابلًا للحوكمة وتعزز الثقة.

أين تتعثر عمليات نشر الذكاء الاصطناعي التقليدية

تتعثر مبادرات كثيرة للذكاء الاصطناعي عند الحدود الفاصلة بين وحدات المؤسسة. تحسّن فرق البيانات النماذج، وتتحمل فرق الأعمال مسؤولية النتائج، وتتولى فرق المخاطر والامتثال الرقابة. وحين تمتد القرارات عبر الأطراف الثلاثة، تتشتت المساءلة.

ولا يستطيع فريق واحد أن يوضح بدقة كيف بُني القرار، وما المفاضلات التي أُدرجت فيه، أو كيف ينبغي أن يتطور.

ويظهر هذا التشتت خصوصًا في القطاعات الخاضعة للتنظيم، حيث تشمل القرارات مراحل متعددة وجهات متعددة مسؤولة عنها. ومن دون إطار يتمحور حول القرار، غالبًا ما يؤدي تحسين النتائج إلى زيادة التعرض للمخاطر، لأن التفاعلات بين النماذج والقواعد والتقدير البشري تظل غامضة.

ويعالج ذكاء القرار ذلك بالتعامل مع القرارات بوصفها منتجات تُدار. فيمكن تصميمها واختبارها ومراقبتها وتحسينها مع إتاحة رؤية مشتركة لأصحاب المصلحة. وينشئ ذلك لغة مشتركة تربط الأداء التقني بنتائج الأعمال والتوقعات التنظيمية.

وتتجه المؤسسات بصورة متزايدة إلى نمذجة عمليات اتخاذ القرار نفسها ضمن هياكل سياقية أو قائمة على الرسوم البيانية، تتيح تتبع المدخلات والعلاقات والنتائج بمرور الوقت. وتساعد طبقة السياق هذه الفرق على فهم القرار الذي اتُّخذ، ولماذا اتُّخذ، وكيف ينبغي تطويره مع تغيّر الظروف.

وبالنسبة إلى المؤسسات الخاضعة للتدقيق، يتمحور هذا التحول حول التحكم أكثر مما يتمحور حول الابتكار.

تحويل مخاطر الذكاء الاصطناعي إلى ميزة استراتيجية

بالنسبة إلى مديري المعلومات والبيانات والمخاطر وقادة الأعمال الذين ينشرون الذكاء الاصطناعي على نطاق واسع، فإن المطلوب واضح: لم يعد النجاح يُقاس بعدد النماذج المنشورة، بل بمدى جودة حوكمة القرارات التي تؤثر فيها.

والمؤسسات التي ترسم مسارات القرار، وتوضح المسؤوليات، وتوثق مواضع تدخل الذكاء الاصطناعي، وتدمج مراجعات منظمة في سير العمل، ستتحرك بسرعة أكبر وقدرة أعلى على الصمود والتعافي. ففي البيئات الخاضعة للتنظيم، يتفوق الانضباط التشغيلي على الجِدة التقنية.

ويبرز ذكاء القرار لا بوصفه فئة تقنية إضافية، بل هيكلًا تشغيليًا يجعل استخدام الذكاء الاصطناعي قابلًا للتبرير والدفاع عنه. وهو يمكّن المؤسسات من إثبات المساءلة، ومواءمة الفرق من مختلف الوظائف، وتوسيع استخدام الذكاء الاصطناعي بثقة.

وفي الأسواق شديدة التنظيم، لا تقتصر هذه القدرة على أساسيات الامتثال، بل تمثل ميزة تنافسية.