خطة حوكمة الذكاء الاصطناعي لديك تواجه مشكلة في الوردية الليلية

تخيل أن سير عمل الذكاء الاصطناعي يُشير إلى استثناء في الساعة 2:13 ص. لقد نفّذ النظام تمامًا ما طلبته خطة الحوكمة: توقف واستدعى تدخل إنسان. هناك مشكلة واحدة فقط. الشخص المؤهل لاتخاذ القرار يبدأ عمله في الساعة التاسعة.

تلك الفجوة مهمة في أي عملية تستمر خارج ساعات العمل. يمكن للسياسة أن تُعيّن مالكًا وتحدد مسار تصعيد واضح. في الساعة 2 ص، لا يفيد أي منهما إذا كان الشخص الوحيد الذي يفهم الاستدعاء أو يملك الصلاحية لاتخاذه غير متصل.

لذلك يجب أن تكون التوفرية جزءًا من التحكم نفسه. بالنسبة لنظام يعمل طوال الليل، فإن الأسئلة العملية واضحة: من يغطي العملية، ما الذي يمكنه قراره، ما الذي يحتاج إلى رؤيته، وماذا يحدث إذا لم يرد أحد؟ يجب أن يظل الجواب صالحًا عند تغيير الوردية.

لللوائح ساعة. للعمليات عدة ساعات

يوفر التقويم التنظيمي للموضوع ميزة زمنية. في 2 أغسطس 2026، بدأ مكتب الذكاء الاصطناعي في المفوضية الأوروبية والسلطات الوطنية بفرض الأحكام السارية من قانون الذكاء الاصطناعي، وسادت قواعد الشفافية الجديدة.

لا ينبغي تمديد ذلك التاريخ إلى ادعاء أن جميع الالتزامات المتعلقة بالذكاء الاصطناعي عالي المخاطر أصبحت قابلة للتنفيذ مرة واحدة. يحدد جدول المفوضية الحالي قواعد الأنظمة عالية المخاطر في الملحق الثالث في 2 ديسمبر 2027، وتأتي قواعد الذكاء الاصطناعي عالي المخاطر المدمج في المنتجات المنظمة في 2 أغسطس 2028.

النقطة التشغيلية الأضيق أكثر فائدة على أي حال. تنتقل متطلبات الحوكمة من العمل السياسي إلى التنفيذ، بينما الأنظمة التي تُحكم عليها تعمل بالفعل عبر الليالي وعطلات نهاية الأسبوع ومناطق الزمن المختلفة. سيواجه التحكم المصمم وفق مخطط تنظيمي من الاثنين إلى الجمعة استثناءً في صباح السبت في النهاية.

العديد من خطط الحوكمة لا تصف تلك المواجهة. فهي تحدد من يملك النظام، من يوافق على حالة الاستخدام وأي لجنة تراجع المخاطر. هذه قرارات ضرورية. لكنها لا تخبر المشغل الليلي ما إذا كان يجب إبقاء المعاملة معلقة لمدة سبع ساعات، أو ما إذا كان المحلل المناوب يمكنه تحريرها، أو من يتحمل المخاطر إذا استمر طابور الانتظار في النمو.

السياسة لها اسم في صندوق. العملية تحتاج إلى شخص على الخط.

الإنسان في الحلقة يفترض وجود جدول

قامت Unite.AI بالفعل بإثبات أن بوابة التحقق الحقيقية تحتاج إلى رؤية ذات معنى وتحكم. يحتاج المراجع إلى رؤية الإجراء المقترح وسبب توقف النظام. والأهم من ذلك، يجب أن تتيح الشاشة لهم القيام بشيء مفيد: الموافقة عليه، تغييره، رفضه أو إغلاق العملية.

التغطية هي مشكلة التصميم التالية. لا يمكن لشاشة مراجعة مصممة جيدًا أن تساعد عندما يكون المراجع الوحيد المؤهل نائمًا، في إجازة أو يعمل في منطقة أخرى دون تسليم رسمي.

هنا تصبح عبارة “الإنسان في الحلقة” غامضة جدًا. يمكن أن تُخفي عدة وظائف مختلفة. مالك سير العمل مسؤول عن كيفية تشغيل العملية، بينما المراجع أثناء الوردية يفسر الاستثناء ويجمع السياق المفقود. أخصائي المجال يحكم على مخاطر المجال. المصرّح لديه السلطة للسماح أو تعديل أو إيقاف الإجراء المقترح. عندما يشير الاستثناء إلى فشل أوسع، ينسق مالك الحادث الاستجابة.

دمج الأدوار ليس مشكلة تلقائية. في سير عمل منخفض المخاطر، قد يكون الترتيب الأنظف. لكن يجب توثيقه. قد يفتقر المحلل الذي يفهم مخرجات النموذج إلى الصلاحية لإصدار دفعة كبيرة، أو تجاوز حد السلامة، أو الموافقة على إجراء يؤثر على العملاء.

يُعد NIST AI Risk Management Framework مفيدًا هنا لأنه يعامل الحوكمة كهيكل تشغيلي. تتطلب وظيفة الحوكمة فيه أدوارًا واضحة ومسؤوليات وخطوط اتصال، مع تمكين الأشخاص المناسبين وتكليفهم بالمسؤولية وتدريبهم. كما يطلب تعريف عمليات الإشراف البشري وتقييمها وتوثيقها. عبارة “سيراجعه إنسان” لا تفي بمعيار الوضوح هذا.

حدد ما يعنيه التأهيل قبل وصول التنبيه

كون الشخص في الخدمة لا يجعله جاهزًا لاتخاذ القرار. قد يعرف العملية التجارية جيدًا ولا يزال يفتقر إلى أساس لتقييم استثناء النموذج المحدد هذا.

يجب تعريف التأهيل بناءً على القرار، لا بناءً على المسمى الوظيفي العام. قد تتطلب المؤسسة من المراجع أن يفهم هدف سير العمل، والأدلة التي يظهرها النظام، وحدود النموذج، والعتبة السياسية ذات الصلة، وعواقب كل إجراء متاح. قد تحتاج بعض الأدوار أيضًا إلى تدريب حديث أو شهادة أو ممارسة إشرافية حديثة.

الأحدثية مهمة. قد يبدو الشخص الذي أكمل التدريب قبل عامين مؤهلًا في جدول بيانات ثابت رغم أن النموذج والواجهة وقواعد التصعيد تغيرت مرتين منذ ذلك الحين. سؤال الحوكمة هو ما إذا كانت أدلة الجاهزية لا تزال تتطابق مع سير العمل الحالي.

يجب تسجيل الصلاحية بشكل منفصل. خذ بعين الاعتبار محلل احتيال يمكنه شرح سبب إشارة المعاملة. قد يكون هذا المحلل مؤهلًا تمامًا لتقييم الأدلة لكنه غير قادر على إصدار الدفع فوق مبلغ محدد. وبالتالي يعتمد القرار الليلي على نوعين من التغطية: شخص قادر على اتخاذ الحكم وشخص مسموح له بتفويض الإجراء.

هذا التمييز يمنع فشلاً شائعاً. تجد الفرق شخصاً مطلعاً، وتعتبر توافره تغطية كاملة، ثم تكتشف أثناء الحادث أن هذا الشخص لا يستطيع اتخاذ الخطوة المطلوبة. تستمر التصعيد صعوداً حتى يصل إلى شخص مؤهل ومخول، غالباً بعد أن يكون الموعد التشغيلي قد انقضى.

تبدأ تعريف التغطية القابلة للاستخدام بأربع أسئلة. ما الذي يجب أن يعرفه المراجع؟ أي دليل يثبت ذلك؟ يحتاج المراجع أيضاً إلى حد قرار محدد. أخيراً، متى تنتهي صلاحية هذا الإذن أو تتطلب إعادة تقييم؟ إذا كانت تلك الإجابات موجودة في أنظمة مختلفة، يجب على عملية التصعيد أن توفق بينها قبل تعيين الحالة.

امنح المراجع الصلاحية والنظام الافتراضي الآمن

يحتاج المراجع بعد ساعات العمل إلى أكثر من إشعار. يجب أن يصل التنبيه مع الإجراء المقترح، والمصادر أو السجلات التي تدعمه، والاستثناء الذي أثار المراجعة، والوقت المتاح، وعواقب التأخير. كما يجب أن يوضح ما يُسمح للمراجع بفعله.

تحتاج تلك الصلاحيات إلى حدود. هل يُسمح للمراجع بالموافقة على الإجراء كما هو مقترح أم تعديلّه؟ قد يكون الرفض دائماً، أو قد يعيد الحالة إلى قائمة الانتظار فقط. قد تبرر عدة استثناءات مماثلة أيضاً إيقاف سير العمل الأوسع. الحد النهائي هو النقطة التي يجب فيها استدعاء موافق ثانٍ.

تنتمي هذه الأسئلة إلى تصميم ضوابط تشغيل وكلاء الذكاء الاصطناعي، وليس إلى مناقشة طارئة بعد تكوين قائمة الانتظار. توفر حالات الإيقاف، والعزل، والصلاحيات المقيدة للفرق التشغيلية مكاناً آمناً لوضع العمل غير المؤكد. تُظهر سجلات القياس عن بُعد والتدقيق ما حدث بينما كان العملية في انتظار.

أصعب حالة هي عدم الاستجابة. يحتاج كل سير عمل محكوم إلى إجابة مسبقة الموافقة لتلك الحالة. بناءً على المخاطر، قد يحتفظ النظام بالإجراء، أو يضعه في قائمة الانتظار للوردية المؤهلة التالية، أو يستمر في وضع مخفض أو يوقف العملية المتأثرة. قد يوقف نظام دعم العملاء استرداداً كبيراً غير عادي بينما يواصل الطلبات الروتينية. قد يعزل سير عمل جودة التصنيع دفعة مشكوك فيها بدلاً من السماح للخط أن يعتبر الصمت موافقة.

لا يمكن اعتبار الصمت موافقة.

تعمل التفويضات فقط مع خطوط الحماية. سجّل من نقل الصلاحية، ومن استلمها، وأي مكالمات يغطيها، ومتى تنتهي، وأي حدود. بدون هذا الأثر، تصبح عملية ما بعد الساعات مجرد سلسلة من الرسائل التي سيكون من المستحيل تجميعها لاحقاً.

التسليم بين الورديات جزء من التحكم

بعض الاستثناءات ستستمر بعد انتهاء الوردة. قد يكون المراجع الخارج قد جمع الأدلة، واتصل بأحد المتخصصين، واستبعد خياراً دون الوصول إلى قرار نهائي. رقم التذكرة وملاحظة سريعة لا تشكل تسليماً كافياً. يضيع المراجع التالي وقتاً ثميناً في إعادة بناء العمل الذي تم إنجازه بالفعل.

هذه ليست مشكلة جديدة. لطالما اعتبرت العمليات الحرجة للسلامة التسليم كعمل بحد ذاته. تصف هيئة الصحة والسلامة في المملكة المتحدة التسليم الفعّال بين المناوبات بأنه عملية من ثلاثة أجزاء: إعداد من قبل الموظفين الخارجين، تبادل معلومات ذات صلة بالمهمة، وتدقيق متقاطع من قبل الموظفين الداخلين عند توليهم المسؤولية. توجيهاتها تفضّل التواصل الثنائي المدعوم بالمعلومات المكتوبة والشفوية، مع توفير الوقت والموارد الكافية لإنجاز المهمة.

يحتاج تسليم استثناء الذكاء الاصطناعي إلى نفس الانضباط، مع تكييفه مع سير العمل. يجب أن يحمل السجل الإجراء المقترح، والأدلة التي قدمها النظام، وسبب التصعيد، والخطوات التي تم اتخاذها، والخيارات المستبعدة، والوقت المتبقي، ومستوى الخطر الحالي. كما يحتاج إلى تحديد الملكية على كلا جانبي النقل.

الجزء الأهم هو الإقرار. يمكن للسجل أن يُظهر أن المعلومات كُتبت. لا يمكنه إثبات أن المراجع الداخل فهم حالة القضية أو قبل المسؤولية عن القرار التالي. يمنح التدقيق المتقاطع الشخص الداخل فرصة لتحدي الأدلة المفقودة، وتأكيد الموعد النهائي، وإعادة صياغة الإجراء المسموح به التالي.

تصميم الواجهة مهم هنا. لا ينبغي لشاشة التسليم أن تحجب مبررات النموذج، وملاحظات الإنسان، وحالة الصلاحية في علامات تبويب منفصلة. يحتاج المراجع الداخل إلى رؤية ما تغير خلال الوردة السابقة وأي حقائق لا تزال بحاجة إلى فحص. وإلا، كل تسليم يخلق فرصة جديدة لفقدان السياق.

رسم خريطة التغطية المؤهلة عبر الورديات

يمكن لمعظم الفرق إعداد قائمة بالأشخاص المرتبطين بسير عمل الذكاء الاصطناعي. القليل فقط يمكنه إظهار أن كل فترة تشغيلية تحتوي على المزيج المناسب من المعرفة والسلطة.

نقطة الانطلاق العملية هي عرض الدور حسب الوردة. ابنِ العرض حول القرارات الفعلية، لا حول الأسماء في القائمة. لكل تصعيد محتمل، سجّل المعرفة المطلوبة، وكيفية إثبات الكفاءة الحالية، والسلطة اللازمة للتصرف. ثم ضع ذلك مقابل الأشخاص الذين يغطيون الليالي، وعطلات نهاية الأسبوع، والعطلات.

يمكن لمصفوفة المهارات أو الكفاءات أن تجعل خطر التوظيف مرئياً عن طريق رسم تغطية مؤهلة عبر النوبات، والأدوار والمواقع قبل حدوث استثناء. قد تكشف المصفوفة أن شخصًا واحدًا يحمل المؤهل الحالي الوحيد لمراجعة حرجة، أو أن شهادة ستنتهي خلال عملية نشر مخططة، أو أن نوبة نهاية الأسبوع لديها خبرة تقنية لكن لا يوجد موافق نهائي.

تصبح الفجوات ملموسة. ومع ذلك، فإن هذه الرؤية ليست دليلًا على أن أي شخص يمكنه أداء العمل، لأن الممارسة المثبتة، والتدريب الحالي، والقرارات الملاحظة لا تزال مهمة، ولا يمكن للمصفوفة منح سلطة قانونية أو تنظيمية. وظيفتها أضيق: إظهار أين يعتمد نموذج التغطية على افتراضات، سجلات قديمة أو شخص واحد.

بمجرد أن تصبح الفجوات مرئية، يكون لدى الفرق خيارات. يمكنهم تدريب مراجِع آخر، تعديل تغطية الاستدعاء، تضييق صلاحيات سير العمل الليلي أو تغيير الاحتياطي الآمن حتى تتحسن التغطية. يعتمد الرد الصحيح على عواقب التأخير وعواقب اتخاذ قرار خاطئ. يمكن لقائمة انتظار منخفضة المخاطر الانتظار. قد يتطلب استثناء متعلق بالسلامة تغطية متخصص فورية أو إيقاف صارم.

يجب أيضًا اختبار التغطية، وليس مجرد توثيقها. أجرِ تمرينًا بعد ساعات العمل. فعّل استثناءً تمثيليًا، اتبع مسار التصعيد وقس ما إذا كان الشخص المعين يحصل على ما يكفي من السياق للتصرف ضمن الوقت المسموح. ثم كرّر الاختبار عبر تغيير نوبة. غالبًا ما تبدو التغطية الورقية مطمئنة حتى تصل الرسالة الأولى إلى رقم هاتف قديم أو إلى شخص حد موافقته منخفض جدًا.

إجراء اختبار نوبة الليل

تعتمد حوكمة المؤسسة بالفعل على مالكين محددين ومسارات تصعيد. يتحقق اختبار نوبة الليل مما إذا كانت تلك الهياكل لا تزال قابلة للاستخدام عندما لا يكون الأشخاص المعتادون على مكاتبهم.

ابدأ بسير عمل حقيقي واستثناء معقول. اسأل من يتلقى التنبيه في أقل ساعة ملائمة. تأكد من أن الشخص مؤهل لهذا الحكم بالضبط، ثم تحقق مما يمكنه الموافقة عليه أو تغييره أو إيقافه أو تفويضه. اتبع مسار عدم الاستجابة. أخيرًا، احمل الحالة غير المحلولة عبر تسليم النوبة وانظر ما إذا كان المراجع القادم يستطيع شرح وضعها دون إعادة بناء التحقيق.

عادةً ما يكشف الاختبار عن مشاكل روتينية: دور بدون جدول استدعاء، سجل مؤهل لا يتطابق مع النموذج الحالي، موافق حدوده منخفضة جدًا أو تسليم ينقل الملاحظات دون نقل الملكية. الروتينية جيدة. هذه مشاكل تشغيلية قابلة للإصلاح، شريطة أن تُكتشف قبل أن يضعها استثناء حي على موعد نهائي.

يمكن لسير عمل الذكاء الاصطناعي أن يعمل طوال الليل. يجب أن تكون حوكمته كذلك.