الأخلاقيات
حوكمة الذكاء الاصطناعي في 2027: انتقال المساءلة إلى سير العمل

النقاط الرئيسيةتتطلب المساءلة تسمية شخص يتمتع بسلطة حقيقية لإيقاف أو تغيير نشر نظام ذكاء اصطناعي.
عرض المزيد
- تتطلب المساءلة تسمية شخص يتمتع بسلطة حقيقية لإيقاف أو تغيير نشر نظام ذكاء اصطناعي.
- يجب أن تتيح الاستئنافات للناس تقديم حقائق ناقصة والوصول إلى مراجع يمكنه عكس النتائج.
- ينبغي إعادة النظر في تقييمات الأثر عندما تتغير النماذج أو البيانات أو الفئات السكانية المتأثرة تغيرًا جوهريًا.
يتلقى شخص ما قرارًا آليًا لا يفهم له أي مبرر. فيطلب مراجعته. وفي مكان ما داخل المؤسسة، تنص سياسة على أن مسؤولية الأمر تقع على عاتق مسؤول تنفيذي، لكن فريق الدعم لا يستطيع العثور على أي شخص مخوّل بتغيير النتيجة. الحوكمة موجودة على الورق. أما الشخص فما زال عالقًا.
سيصعب الدفاع عن هذه الفجوة في 2027. فمع دخول الذكاء الاصطناعي في العمليات الاعتيادية، سيتعين على المؤسسات أن تكون قادرة على ممارسة المساءلة فيما لا يزال القرار محل الاعتراض يؤثر في حياة شخص ما.
يوفر إطار NIST لإدارة مخاطر الذكاء الاصطناعي وإرشادات OECD لعام 2026 بشأن العناية الواجبة أسسًا تنظيمية بالفعل. أتوقع أن يطالب المشترون في 2027 بأدلة على تطبيق هذه الممارسات ضمن سير العمل التشغيلي. وتتعلق التوقعات التالية بالمساءلة المؤسسية، لا بوعدٍ بأن قائمة تحقق بعينها قادرة على جعل كل نظام ذكاء اصطناعي منصفًا.
1. ستحدد سجلات المساءلة شخصًا قادرًا على تغيير النتيجة
أكثر الأسماء دلالةً على مخطط حوكمة الذكاء الاصطناعي هو اسم الشخص القادر على أن يقول: توقّف. في 2027، ستحدد مؤسسات أكثر أدوارًا تتمتع بصلاحية فعلية لتعليق عملية نشر أو تغييرها. وهذا يغيّر معنى الملكية: فالمسؤولية تصبح حقًا في اتخاذ القرار، تترتب عليه عواقب لمشروع قد يحرص شخص آخر على مواصلة تشغيله.
إن تحمّل المسؤولية من دون امتلاك الصلاحية يجعل صاحبها واجهةً شكلية. فقد يتولى مسؤول الحوكمة تحديث سجل الجرد، في حين يغيّر فريق المنتج النموذج، ويغيّر المورد الخدمة، ويغيّر فريق العمليات عتبة اتخاذ القرار. وليس بالضرورة أن يسيطر شخص واحد على عواقب النظام الناتج.
تربط وظيفة الحوكمة في إطار NIST بين الأدوار وإدارة المخاطر المؤسسية. ويقدم الدليل العملي لـNIST إجراءات قابلة للتطبيق والتكييف من جانب المؤسسات. وهذه موارد طوعية، ولا تشكل دليلًا على أن الجهات التي تتبناها تطبقها بالفعل على نحو جيد.
أتوقع أن يتبلور مسار أكثر وضوحًا للصلاحيات: من يحق له الموافقة على حالة استخدام، ومن يستطيع تضييق نطاقها، ومن يمكنه إيقافها عندما تتغير الأدلة. ويمكن إسناد قرارات مختلفة إلى أدوار مختلفة. المهم أن تصمد هذه الصلاحيات أمام ضغوط الأعمال المعتادة، وأن تُمارس وفق معيار موثق. ولن يثبت حدوث التغيير المتوقع وجود مخطط جيد الصياغة للمسؤوليات لا يستخدمه أحد.
ما الذي ينبغي مراقبته في 2027
ابحثوا عن معايير منشورة لتعليق الأنظمة، وسجلات لقرارات حوكمة فعلية، ومسارات تصعيد تتجاوز المسؤول عن إيرادات المنتج. فالسياسة التي تسمي مسؤولًا تنفيذيًا مسؤولًا من دون أن توضح ما الذي يمكنه تغييره تقدم دليلًا أضعف من دراسة حالة تشغيلية.
ما الذي يعنيه ذلك للشركات
حدّدوا صلاحيات اتخاذ القرار قبل توسيع نطاق النشر. وينبغي للمشترين أن يسألوا عمّن يملك صلاحية الموافقة على الاستثناءات، وما إذا كان بإمكان إدارة المخاطر إيقاف سير العمل من دون موافقة المورد. ويمكن للمؤسسين تقليص مدة مراجعات الشركات الكبرى من خلال توضيح هذه المسؤوليات في المنتج واتفاقية الخدمة.
2. ستصبح آلية الطعن إحدى وظائف المنتج
قد يشرح التفسير لشخص ما سبب اتخاذ القرار، لكنه يظل عاجزًا عن تصحيحه. أتوقع أن تجعل منتجات المؤسسات الطعن في القرارات أكثر عملية في 2027، من خلال الاحتفاظ بالأدلة الأصلية وتسجيل ما يقرره المراجع. وسيُقاس نجاح هذه الميزة بما يحدث بعد أن يقول الشخص إن النظام أغفل أمرًا مهمًا.
يعالج التفسير والطعن مشكلتين مختلفتين. فالتفسير يخبر الشخص بما يُفترض أنه حدث. أما الطعن فيمنحه سبيلًا لتغيير نتيجة قد تكون خاطئة أو ناقصة أو غير ملائمة لظروفه. وقد لا يفي نموذج دعم عام بأي من هذين الغرضين إذا عجز المراجع عن إعادة بناء القرار الأصلي.
تتعامل إرشادات OECD مع العناية الواجبة بوصفها عملية مستمرة تشمل الآثار والاستجابات. وهذا يجعل المعالجة سؤالًا مهمًا في تصميم الأعمال، إلى جانب كونه مسألة أخلاقية. وأتوقع أن يحوّل بعض الموردين هذه العملية إلى سير عمل قابل للتكرار، بدلًا من ترك كل عميل يرتجل حلًا بمفرده.
سيكون التحدي الأكبر ضمان استقلال المراجع وإتاحة السياق له. فإعادة تشغيل النموذج نفسه بصياغة مختلفة قليلًا لا تمثل عملية طعن حقيقية. كذلك، ينبغي ألا يتطلب الاحتفاظ بالأدلة تخزينًا عشوائيًا للمعلومات الشخصية الحساسة. يحتاج النظام إلى سياق كافٍ للقرار يدعم تصحيحه، مع الالتزام بالقيود المناسبة على الاحتفاظ بالمعلومات وإمكانية الوصول إليها.
ما الذي ينبغي مراقبته في 2027
ابحثوا عن إمكانية تقديم الوقائع الناقصة، والوصول إلى مراجع بشري مؤهل، وتلقي قرار موثق بشأن الطعن. وستكشف معدلات إلغاء القرارات والمدة اللازمة لتصحيحها أكثر مما يكشفه مجرد وجود زر للطعن. أما تراكم الطلبات من دون إجابة فسيضعف الأهمية العملية للتوقع.
ما الذي يعنيه ذلك للشركات
خصصوا ميزانية للأشخاص الذين يتولون معالجة القرارات محل الاعتراض. وينبغي تقييم الوفورات الناتجة عن الأتمتة لدى المورّد إلى جانب عبء المراجعة وتكاليف التصحيح. وعلى فرق المنتجات تصميم آليات توثيق الأدلة وصلاحيات الوصول بما يراعي إجراءات الاستئناف، لأن إعادة بناء القرارات لاحقًا قد تكون مكلفة أو مستحيلة.
3. ستواكب تقييمات الأثر التغييرات الجوهرية في النظام
قد يتحول مساعد داخلي لصياغة النصوص إلى أداة لفرز العملاء، عبر سلسلة من القرارات المتعلقة بالمنتج التي تبدو صغيرة. وقد يظل سجل الموافقة على الإطلاق قائمًا، في حين يكون الغرض من الاستخدام قد تغير من دون أن يعكس ذلك. وفي عام 2027، ستعيد برامج حوكمة أكثر النظر في التغييرات الجوهرية التي تطرأ على النماذج والبيانات والفئات السكانية المتأثرة، معتبرةً الموافقة مسؤولية مستمرة.
قد يصبح النظام المعتمد لصياغة المراسلات الداخلية ذا تبعات مهمة عندما تبدأ مخرجاته في تحديد العملاء الذين يتلقون عرضًا. قد لا يتغير النموذج، لكن دوره الاجتماعي يكون قد تغير. وعلى العكس، قد يؤدي تحديث من المورّد إلى تغيير سلوك النظام، حتى حين تبدو سير العمل الموجّهة للعملاء متطابقة.
يتناول ISO/IEC 42001 إدارة الذكاء الاصطناعي على مستوى المؤسسات، وتربط مناقشة ISO للمعيار 42001 وتقييم الأثر بين ممارسات الإدارة وتقييم الآثار. ولا يجعل أيٌّ منهما شهادة نظام الإدارة ضمانًا لدقة كل مخرج أو لقبول كل عملية نشر.
التحدي العملي هو تحقيق التناسب. فتكرار تقييم كامل بسبب تصحيح إملائي من شأنه أن يثقل كاهل العملية، بينما يؤدي تجاهل ظهور فئة سكانية جديدة متأثرة إلى تقويضها. وستحتاج المؤسسات إلى توضيح مسوّغ يمكن الدفاع عنه يبيّن التغييرات التي تؤثر في المخاطر وتلك التي لا تؤثر فيها.
ما الذي ينبغي مراقبته في 2027
ابحثوا عن محفزات محددة لإعادة التقييم، وعن أمثلة قُلِّصت فيها شروط نشرٍ ما بعد المراجعة. فسجلات الإصدارات وحدها لن تكون كافية. ومن شأن وجود أدلة على مقارنة المؤسسات للآثار الفعلية قبل تغيير جوهري وبعده أن يعزز هذا التوقع بدرجة كبيرة.
ما الذي يعنيه ذلك للشركات
أدرجوا في عقود المورّدين أحكامًا للإخطار بالتغييرات وحقوقًا في التقييم. وداخليًا، اربطوا سجل النماذج بالأنظمة التي تدير تغييرات النشر. والهدف هو تحديد التغييرات المهمة في وقت مبكر بما يكفي لاتخاذ إجراء، من دون تحويل كل عملية صيانة اعتيادية إلى قرار على مستوى مجلس الإدارة.
4. سترافق شهادات الحوكمةَ ادعاءاتٌ أضيق نطاقًا
قد تبعث الشهادة على طمأنينة تفوق ما تبرره الأدلة. أما النقاش التجاري الأصعب فيتناول ما تغطيه الشهادة فعلًا. وفي عام 2027، ستوضح وثائق الضمان والمشتريات بصورة أكبر الفرق بين ممارسات المؤسسة الإدارية وسلوك عملية نشر بعينها. وسيجعل هذا التحديد الضمان أكثر فائدة، حتى إن جعل الادعاء التسويقي أقل شمولًا.
كلما زادت شعبية أحد أوسمة الحوكمة، زاد إغراء التعامل معه بوصفه ختمًا شاملًا للسلامة. لكن أنشطة الضمان المختلفة تجيب عن أسئلة مختلفة. فتدقيق العمليات الإدارية لا يثبت أن النموذج يعمل بموثوقية مع فئة سكانية لم يختبره المقيّم عليها قط.
يحدد ISO/IEC 42006 متطلبات الجهات التي تدقق أنظمة إدارة الذكاء الاصطناعي وتعتمدها. وهو ذو صلة بجودة عملية الاعتماد نفسها، لكنه لا يحوّل ISO/IEC 42001 إلى معيار لقياس أداء المنتجات. وسيزداد الأهمية التجارية لهذا التمييز مع استخدام المورّدين مؤهلات الضمان في عمليات البيع.
ثقتي بهذا التوقع أقل، لأن الحوافز قد تشجع على طمأنة واسعة بدلًا من التحفظ الدقيق في صياغة الادعاءات. ومع ذلك، لدى المشترين المتمرسين سبب للمطالبة بضمان على مستوى المؤسسة وأدلة تخص حالة الاستخدام على حد سواء: فهم يتحملون العواقب إذا أخفق منتج مورّد معتمد ضمن سير العمل لديهم. وينبغي للضمان الجيد أن يوضح الأسئلة التي لا تزال مطروحة، لا أن يوحي بعدم وجود أي أسئلة.
ما الذي ينبغي مراقبته في 2027
ابحثوا عن بيان صريح يحدد الجهة المعتمدة والنطاق والاستثناءات وفترة الصلاحية، إلى جانب اختبارات منفصلة للتطبيق. أما الادعاءات بأن شهادةً ما تثبت خلو نظام ذكاء اصطناعي من التحيز أو امتثاله على نحو شامل، فتتعارض مع الاتجاه المتوقع هنا.
ما الذي يعنيه ذلك للشركات
استعينوا بالاعتماد لتوجيه إجراءات التحقق، ثم قيّموا النشر الفعلي. وينبغي للمورّدين إعداد شرح واضح لما يشمله ضمانهم. أما المشترون، فعليهم السؤال عن المخاطر التي لم تُحسم بعد، والتي لا تزال مسؤوليتهم، وعن الأدلة التي تبرر قبولها.
يجب أن تصمد الحوكمة أمام النتائج غير الملائمة
تتجلى المساءلة عندما يكون لدى المؤسسة سبب يدفعها إلى مقاومتها: إطلاق واعد، أو تصحيح مكلف، أو حالة استخدام مربحة تتطلب تضييق نطاقها. وستُظهر أقوى نماذج الحوكمة في عام 2027 كيفية اتخاذ تلك القرارات، وما إذا كان المتأثرون بها قد أتيحت لهم فرصة حقيقية لإسماع صوتهم.












