الذكاء الاصطناعي لا يزال بحاجة إلى مدرب وإشراف بشري يحتاج إلى دليل

الذكاء الاصطناعي موجود في كل مكان تنظر إليه، ولا يستثني كرة القدم الاحترافية.

قدمت الرابطة الوطنية لكرة القدم (NFL) مبادرة Digital Athlete، التي تستخدم البيانات والذكاء الاصطناعي لمساعدة الفرق على تحديد السيناريوهات التي قد يواجه فيها اللاعبون خطر إصابة مرتفع. تجمع بين الفيديو والبيانات من التدريب، والتمارين، والمباريات مع ملايين المحاكاة، مما يمنح جميع الفرق الـ32 إمكانية الوصول إلى معلومات الاتجاهات على مستوى الدوري. ثم يستخدم المدربون وطاقم التدريب هذه المعلومات لتطوير برامج وقائية من الإصابات، وتدريب، وتعافي مخصصة.

بينما التقنية تقرأ الملعب، يظل المدربون مسؤولين عن اتخاذ القرارات. ومع توسع المؤسسات لاستخدام الذكاء الاصطناعي عبر عمليات الأعمال، بما في ذلك الامتثال والتحقيقات في مكان العمل، يبدو أن إمكانات الأتمتة لا حدود لها. لكن ما هي المهام التي ينبغي للذكاء الاصطناعي أن يؤديها، وتحت أي ظروف، وبأي إشراف بشري؟

هنا يأتي دور دليل التشغيل التنظيمي لتحديد النغمة: فهو يوفّر للمدربين الوسائل لاستفادة من أدوات الذكاء الاصطناعي مع الحفاظ على الإشراف البشري حيث يهم.

امنح الذكاء الاصطناعي موقعًا بدلاً من السيطرة على كامل الملعب

تتضمن التحقيقات مستويات مختلفة من المخاطر. يمكن للذكاء الاصطناعي المساعدة في تنظيم المعلومات من التقارير الأولية و:

• تحديد التفاصيل المفقودة
• تلخيص المعلومات في تقرير نهائي
• إنشاء جداول زمنية
• إظهار الأنماط التي قد يرغب المحققون في فحصها بمزيد من التفصيل

يمكن لهذه الاستخدامات تقليل الفرز اليدوي وتوفير الوقت للتركيز على الأعمال التي تتطلب الحكم البشري.

ضع في الاعتبار أن الذكاء الاصطناعي يمكنه تلخيص ادعاء، لكنه لا يستطيع تحديد ما إذا كان موثوقًا. يمكن للذكاء الاصطناعي تحديد عدم التناسق، لكنه لا يستطيع معرفة سبب وجوده. هنا قد تقع المؤسسات في مشاكل إذا استخدمت الذكاء الاصطناعي دون ضوابط.

للحفاظ على الإشراف، يحتاج الذكاء الاصطناعي إلى دور محدد. يجب على المؤسسات تحديد:

• المهام التي يُقصد من النظام أن يؤديها
• المعلومات التي يمكنه الوصول إليها
• حدود ما يُسمح له بفعله
• المواقف التي يحتاج فيها الشخص إلى تولي السيطرة

يوفر إطار عمل إدارة مخاطر الذكاء الاصطناعي الصادر عن National Institute of Standards and Technology’s AI Risk Management Framework معيارًا مفيدًا. يصف خريطة الطريق الخاصة بـ NIST ملفات تعريف AI RMF كطريقة لإظهار كيفية تطبيق الإطار على قطاعات معينة، أو تقنيات، أو سياقات، أو إعدادات أخرى. بعبارة أخرى، يصبح حوكمة الذكاء الاصطناعي المسؤولة أكثر قابلية للتنفيذ عندما تقوم المؤسسات بترجمة المبادئ العامة إلى واقع حالة الاستخدام المحددة.

يمكن لدليل تشغيل الذكاء الاصطناعي أن يقوم بشيء مشابه على المستوى التشغيلي. فهو يحدد الأدوار، والسيناريوهات، والإجراءات بدقة.

الإشراف البشري هو مشكلة في تصميم النظام

أصبح مصطلح “الإنسان في الحلقة” شائعًا في المناقشات حول الذكاء الاصطناعي المسؤول. لكن وجود شخص ما في مكان ما ضمن سير العمل لا يجعل نظام الذكاء الاصطناعي مُحكمًا تلقائيًا.

حددت NIST human-AI teaming كمنطقة مهمة للبحث والإرشاد في إدارة مخاطر الذكاء الاصطناعي. من بين القضايا التي تبرزها هي كيفية تفسير الأشخاص للمخرجات التي ينتجها الذكاء الاصطناعي وكيفية إشراف البشر على أنظمة الذكاء الاصطناعي التي تعمل في بيئات العالم الحقيقي.

لا ينبغي اعتبار الإشراف البشري حلاً مؤقتًا حتى يصبح الذكاء الاصطناعي متطورًا بما يكفي للعمل بمفرده. في العديد من البيئات ذات المخاطر العالية، يُعدّ جزءًا من البنية المطلوبة لاستخدام الذكاء الاصطناعي بمسؤولية على المدى الطويل.

تشير دراسة مُراجعة من قبل الأقران حول الإشراف البشري في حوكمة الذكاء الاصطناعي إلى أن المشرفين البشريين من المتوقع أن يحسنوا الدقة والسلامة للحفاظ على القيم الإنسانية وبناء الثقة. ومع ذلك، لا يكون البشر دائمًا مشرفين موثوقين. يعتمد الإشراف الفعّال على الكفاءة، والحوافز، وتصميم دور الإشراف. peer-reviewed examination of human oversight in AI governance

بالنسبة للمحقق، فإن طلب الموافقة على توصية مولدة بالذكاء الاصطناعي لا يكفي إذا كان يفتقر إلى المعلومات أو السلطة اللازمة للطعن فيها. يجب على دليل التشغيل أن يحدد ليس فقط أن الإنسان مشارك، بل أيضًا كيف ومتى يمكن لهذا الشخص التدخل.

تسليم المسؤولية مهم بقدر أهمية النموذج

هناك تحدٍ آخر: حتى عندما يكون للإنسان السلطة النهائية، يمكن للطريقة التي يعرض بها الذكاء الاصطناعي المعلومات أن تؤثر على القرار اللاحق.

توضح دراسة ما قبل النشر لعام 2025 من باحثين بجامعة كاليفورنيا، سانتا باربارا لماذا يهم تصميم الواجهة. في تجربة محكمة شارك فيها 108 مشاركين في سيناريو اتخاذ قرار صحي، اختبر الباحثون ستة أشكال من دعم اتخاذ القرار بالذكاء الاصطناعي. وجدوا أن الآليات، بما في ذلك معلومات ثقة الذكاء الاصطناعي، والشروحات النصية، وتصوير الأداء، حسّنت دقة القرار المشترك بين الإنسان والذكاء الاصطناعي في تجربتهم. preprint study from researchers at the University of California, Santa Barbara

تُبرز الدراسة أيضًا خطر الانحياز الأوتوماتيكي: يمكن للناس الاعتماد الزائد على اقتراحات الذكاء الاصطناعي، بما في ذلك غير الصحيحة.

تظهر هذه التجربة لماذا يتطلب تسليم المسؤولية بين الآلة والإنسان تصميمًا واختبارًا متعمدين.

عند توسيع هذا الأمر وإدخال مفهوم التحقيق، تبرز عدة أسئلة:

• هل يرى المحقق فقط الاستنتاج المولد بالذكاء الاصطناعي، أم يمكنه فحص المعلومات الكامنة وراءه؟

• هل يمكن للنظام إبلاغ عن عدم اليقين؟

• هل يتضح عندما تكون المعلومات مفقودة؟

• هل يمكن للمحققين رفض مخرجات وتوثيق السبب؟

هذه أسئلة حوكمة بقدر ما هي أسئلة تقنية.

خمسة أسئلة يجب أن يجيب عليها كل دليل تشغيل للذكاء الاصطناعي

يجب أن يحول دليل تشغيل الذكاء الاصطناعي المفيد المبادئ المجردة مثل “الذكاء الاصطناعي المسؤول” و”الإشراف البشري” إلى قواعد تشغيلية ملموسة.

1. ما الذي يُسمح للذكاء الاصطناعي بفعله؟ يجب على المؤسسات تفويض مهام محددة بدلاً من منح إذن واسع لاستخدام الذكاء الاصطناعي عبر سير العمل.
2. ما هي المعلومات التي يمكنه استخدامها؟ بالنسبة للتحقيقات والإبلاغ عن المخالفات، تحتاج المؤسسات إلى حدود واضحة حول المعلومات المتاحة لنظام الذكاء الاصطناعي وكيفية التعامل معها.
3. كيف سيقيم الناس مخرجاته؟ يحتاج المراجعون البشريون إلى ما يكفي من السياق لفهم ما أنتجه النظام، والقيود ذات الصلة، والمعلومات اللازمة للتشكيك في النتيجة.
4. متى يجب أن يتدخل الإنسان؟ يجب أن يحدد دليل التشغيل محفزات التصعيد بدلاً من الاعتماد على الموظفين الفرديين لتقرير متى تجاوز الذكاء الاصطناعي الحد.
5. أين تنتهي سلطة الذكاء الاصطناعي؟ يجب أن تتطلب بعض القرارات حكماً بشريًا، ويحتاج الأشخاص المسؤولون عن تلك القرارات إلى سلطة حقيقية لتجاهل أو تجاوز أو إيقاف التقنية.

تنعكس هذه الأفكار في أحد أهم وثائق تنظيم الذكاء الاصطناعي في العالم. Article 14 of the EU AI Act يضع متطلبات الإشراف البشري لأنظمة الذكاء الاصطناعي التي تندرج ضمن الفئة عالية المخاطر وفقًا للقانون. ويشير إلى أن إجراءات الإشراف يجب أن تكون متناسبة مع مخاطر النظام، واستقلاليته، وسياق الاستخدام. كما يطلب أن يكون المشرفون قادرين على فهم القدرات والقيود ذات الصلة، وتفسير المخرجات بشكل صحيح، والبقاء متيقظين من الانحياز الأوتوماتيكي، وتجاهل أو تجاوز المخرجات، والتدخل في النظام أو إيقافه.

هذا لا يعني أن كل أداة ذكاء اصطناعي تُستخدم في تحقيق تُصنّف تلقائيًا كنظام عالي المخاطر. يوضح الإطار مبدأً مهمًا لحوكمة الذكاء الاصطناعي. يجب أن يوفر الإشراف البشري للإنسان قدرات ذات معنى، وليس مجرد موقع في سير العمل.

الذكاء الاصطناعي لا يحل محل المدرب. إنه يغيّر ما يمكن للمدرب رؤيته.

يُعد الرياضي الرقمي في NFL جذابًا ليس لأنه يثبت أن الذكاء الاصطناعي يمكنه استبدال المدربين، بل لأنه يُظهر كيف يمكن للتقنية المتطورة توسيع المعلومات المتاحة للمحترفين ذوي الخبرة.

يمكن للذكاء الاصطناعي مساعدة الأشخاص على معالجة المعلومات، وإظهار ما يستحق الانتباه، وإحداث اتساق أكبر عبر المهام المتكررة. ومع ذلك، غالبًا ما تتطلب اللحظات الأكثر حسمًا في التحقيق شيئًا مختلفًا: السياق، والشك، والتفسير، والمسؤولية.

لذلك، ستحرص المؤسسات الأكثر استعدادًا للاستفادة من الذكاء الاصطناعي على طرح أسئلة تتجاوز ما يمكن للتقنية أتمتته. سيتحددون ما يجب أن يفعله، وما لا يجب أن يفعله، وكيف ينبغي للإنسان والذكاء الاصطناعي العمل معًا.