الفجوة المتسعة بين سياسات الذكاء الاصطناعي وإنفاذها على أرض الواقع

لا يخضع الذكاء الاصطناعي لمدونة قواعد موحدة

يُوظَّف الذكاء الاصطناعي في مختلف القطاعات والتطبيقات بوتيرة أسرع من تطور السياسات وأطر الحوكمة اللازمة للإشراف عليه. تاريخيًا، خضعت تطبيقات الذكاء الاصطناعي إلى حد كبير للوائح القائمة المتعلقة بحماية المستهلك والخصوصية والقطاعات المحددة، إلى جانب السياسات الداخلية الخاصة بالشركات. وتستحدث الحكومات الآن متطلبات خاصة بالذكاء الاصطناعي، لكنها لا تزال مجزأة، وغالبًا ما تقدم إرشادات محدودة بشأن كيفية عمل الأنظمة فعليًا. لذلك، تجد الشركات نفسها مضطرة إلى التوفيق بين المتطلبات الخارجية ومستوى تقبلها للمخاطر وأهداف منتجاتها وواقع عملياتها.

يتجه الاتحاد الأوروبي إلى إنفاذ أجزاء من قانون الذكاء الاصطناعي فعليًا، في حين تفضّل السياسة الفيدرالية الأمريكية صراحةً إطارًا وطنيًا أقل عبئًا، ويسعى الأمر التنفيذي رقم 14365 إلى الحد من تعارض متطلبات الولايات، حتى مع استحداث الولايات أكثر من 1,000 إجراء متعلقًا بالذكاء الاصطناعي في عام 2025. وتحدد كل جهة من هذه الجهات وجهة مختلفة، فيما يقع عبء التوفيق بينها على الشركات التي تطوّر هذه الأنظمة وتنشرها.

لكن وضع المتطلبات التنظيمية ليس سوى جانب واحد من التحدي. فمع انتشار الذكاء الاصطناعي في مزيد من التطبيقات والسياقات، يتعين على الشركات تحويل المتطلبات العامة والسياسات الداخلية إلى ضوابط تشغيلية وقرارات فردية يتخذها الذكاء الاصطناعي. ولا يستطيع أي إطار تنظيمي توقع كل تطبيق أو سياق أو مفاضلة. لذلك، تحتاج المؤسسات إلى رسم مسار يبدأ من المتطلبات الحاكمة والسياسات الداخلية ويمتد إلى سلوك النظام والنتائج القابلة للقياس والتدقيق أو المراجعة. ويتبنى إطار NIST لإدارة مخاطر الذكاء الاصطناعي نهجًا مشابهًا، إذ يشدد على القياس والإدارة المستمرين بدلًا من التعامل مع الحوكمة باعتبارها تمرينًا مستقلًا للامتثال. تنتقل المتطلبات إلى المستويات الأدنى، فيما تصعد الأدلة في الاتجاه المعاكس: فقد تحدد الجهات التنظيمية والمسؤولون التنفيذيون النتائج المنشودة، لكن على المؤسسات أن تثبت ما إذا كانت أنظمتها تحققها فعلًا.

وهذا يضع جانبًا كبيرًا من المسؤولية العملية عن حوكمة الذكاء الاصطناعي على عاتق المؤسسات التي تنشر هذه الأنظمة.

تتعقد الحوكمة عند مستوى التنفيذ

تحدد اللوائح وأطر الحوكمة عمومًا المبادئ والالتزامات والنتائج المنشودة. لكن أنظمة الإنتاج يتعين عليها ترجمة هذه الأمور إلى قرارات فردية، وهنا تكمن صعوبة الحوكمة. فقد تنص سياسة على منع التمييز أو حماية المستخدمين أو توفير الشفافية أو إتاحة مراجعة بشرية مجدية، لكن النظام التشغيلي عليه أن يجيب عن أسئلة أكثر تحديدًا بكثير: عند أي عتبة يتخذ إجراءً؟ واستنادًا إلى أي أدلة وبأي درجة من الثقة؟ ومتى تصبح المراجعة البشرية مطلوبة؟ وما الذي يُسجَّل؟ وماذا يحدث عندما لا يكون النظام متأكدًا؟

تتوقع الجهات التنظيمية بالفعل إجابات عن هذه الأسئلة. وقد صرحت كل من FTC وDOJ وCFPB وEEOC بأنها ستنفذ صلاحياتها القائمة على الأنظمة المؤتمتة، ما يعني أن أحدًا سيطلب من شركة ما في نهاية المطاف توضيح كيفية اتخاذ نظامها للقرارات.

لنتأمل منصة لديها سياسة واضحة تحظر التحرش. فقد تكون رسالة تتضمن ألفاظًا نابية مزاحًا بريئًا بين الأصدقاء، في حين قد تكون رسالة تبدو غير مؤذية جزءًا من حملة متواصلة تستهدف مستخدمًا آخر. ويتعين على النظام تحديد السياق الذي يمكنه الاستناد إليه بثقة، ومقدار الأدلة الكافي للتدخل، ونوع التدخل المناسب: حظر الرسالة، أو تحذير المرسل، أو إحالتها إلى مراجعة بشرية، أو عدم اتخاذ أي إجراء. وقد يؤدي خفض عتبات الكشف إلى رصد مزيد من السلوكيات الضارة، لكنه قد يؤدي أيضًا إلى كبت محادثات مشروعة. وقد تحسن المراجعة البشرية جودة الأحكام، لكنها قد تؤخر التدخل. ولا تحدد أي من هذه القرارات سياسة عامة تحظر التحرش، لكنها مجتمعةً تحدد كيفية إنفاذ تلك السياسة فعليًا.

لا تحسم أي وثيقة للسياسات هذه المفاضلات مسبقًا، لذا يتعين على شخص داخل الشركة اتخاذ القرارات بشأنها وتوثيقها وإعادة النظر فيها. وهذا الشخص يضع السياسات فعليًا، سواء أشار الهيكل التنظيمي إلى ذلك أم لا.

ما الذي يتطلبه الذكاء الاصطناعي المسؤول فعليًا

إذا كان الأشخاص الذين ينفذون النظام هم عمليًا من يضعون سياساته، فلا يمكن التعامل مع الذكاء الاصطناعي المسؤول على أنه مجرد إعلان عن النوايا، إذ يجب أن يتجلى في سلوك النظام يومًا بعد يوم. وهذا يعني إدارة كيفية استخدام الذكاء الاصطناعي وقياسه وتصحيحه بمرور الوقت، لا الاكتفاء بإقرار سياسة أو اجتياز تقييم أولي. وفي الممارسة العملية، تبرز ثلاث أفكار أساسية، تنبع كل منها من المفاضلات المذكورة أعلاه:

• ينبغي أن تتناسب الحوكمة مع حجم العواقب. فنظام الذكاء الاصطناعي الذي يقترح نصوصًا إعلانية أو يوافق على قرض أو يرصد تهديدًا أمنيًا أو يدعم قرارًا طبيًا ينطوي كل منها على مخاطر مختلفة تمامًا. وينبغي للمؤسسات تحديد المجالات التي تستدعي ضوابط ورقابة وإشرافًا أشد، استنادًا إلى العواقب المحتملة.
• الدقة وحدها لا تكفي. فالأخطاء المختلفة تترتب عليها تكاليف مختلفة. إذ قد تؤدي النتيجة الإيجابية الخاطئة في الإشراف على المحتوى إلى كبت خطاب مشروع، في حين قد تترتب على خطأ في الإقراض أو الرعاية الصحية أو الأمن عواقب أشد بكثير. وينبغي أن تعكس الحوكمة الأثر الواقعي للقرار، لا أداء النموذج فحسب.
• التقييم المستمر والتغذية الراجعة عنصران أساسيان. وينبغي أن تسهم حالات تجاوز قرارات النظام والطعون والحوادث والحالات الاستثنائية والنتائج اللاحقة كلها في التقييم المستمر.

إطار عملي للحوكمة الداخلية للذكاء الاصطناعي

يتطلب تطبيق هذه المبادئ دمج الحوكمة في أساليب تصميم أنظمة الذكاء الاصطناعي ونشرها وإدارتها. وهناك أربع ممارسات بالغة الأهمية:

• التعامل مع متطلبات الحوكمة بوصفها متطلبات للمنتج والنظام منذ البداية. فإضافة ضوابط الامتثال بعد النشر غالبًا ما تكون مكلفة وهشة. ومن الأسهل بكثير تصميم الخصوصية والشفافية وقابلية التدقيق وآليات المراجعة ضمن النظام، بدلًا من إدخالها عليه لاحقًا.
• إنشاء سلسلة قابلة للتدقيق تربط السياسة بالقرار. ينبغي أن تتمكن المؤسسات من ربط المتطلب التنظيمي أو السياسة الداخلية بالضابط المطبّق والقرار الناتج عنه. كما تحتاج إلى الأدلة اللازمة لتقييمه.
• تحديد المسؤوليات والمساءلة بوضوح. حدّدوا الجهة المسؤولة عن السياسة، ومن يقرر مستوى المخاطر المقبول، ومن يراقب الأداء. وينبغي أيضًا أن تكون هناك جهة مخوّلة بالتدخل عندما يتصرف النظام على نحو يتجاوز تلك الحدود.
• إنشاء بنية تحتية مشتركة وقابلة للتكيّف للحوكمة. ينبغي أن تدعم ضوابط البيانات ومسارات التدقيق والسياسات القابلة للتهيئة وسير عمل المراجعة وعمليات القياس متطلبات تنظيمية وحالات استخدام متعددة. كما ينبغي تكييف الضوابط والحدود وفقًا للاختصاص القضائي والتطبيق والمخاطر، بما يتيح للمؤسسات الاستجابة للمتطلبات المتغيرة دون إعادة بناء أنظمتها.

يجب أن تنجح الحوكمة على أرض الواقع

يمكن للوائح أن تحدد الالتزامات والمبادئ، لكن لا يزال على الشركات تحويلها إلى أنظمة تتخذ قرارات فعلية على نطاق واسع. وهذا يجعل الحوكمة الداخلية مسؤولية تشغيلية، لا مجرد إجراء للامتثال. فكل شركة تنشر الذكاء الاصطناعي على نطاق واسع تصوغ بالفعل سياساتها من خلال الحدود التي تضعها وقواعد المراجعة ومسارات التصعيد، والسؤال الوحيد المفتوح هو ما إذا كانت تفعل ذلك عن قصد.

سيواصل المنظمون تحديد النتائج التي يريدون تحقيقها، ولن يتفقوا دائمًا عليها؛ لذا يتعين على الشركة أن تقرر كيف تتحول تلك التوقعات إلى ضوابط، ثم أن تثبت بالأدلة فاعلية هذه الضوابط. وستكون الشركات التي ترسّخ الآن وضوح المسؤوليات، والضوابط القابلة للقياس والتدقيق، والبنية التحتية القابلة للتكيّف، في موقع أفضل مع استمرار تطور اللوائح.

عاينت هذه المشكلة من زوايا عدة: في بيئات الأمن السيبراني، وأثناء بناء نماذج المخاطر، والآن خلال تشغيل أنظمة الذكاء الاصطناعي على نطاق واسع. والدرس متشابه في كل هذه الحالات: لا ينجح أي إطار عمل إلا إذا أمكن تحويله إلى قرارات واضحة، وقياسه عمليًا، وتحسينه عندما تكشف الظروف الواقعية عن مواطن القصور.