قادة الفكر

لماذا ينبغي للشركات اتباع نهج قائم على القيم في حوكمة الذكاء الاصطناعي

Isabella Grandi
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيسمح إطار حوكمة الذكاء الاصطناعي القائم على القيم للشركات بالعمل عالميًا دون الحاجة إلى…
عرض المزيد
  • يسمح إطار حوكمة الذكاء الاصطناعي القائم على القيم للشركات بالعمل عالميًا دون الحاجة إلى إعادة بناء الأنظمة لكل ولاية قضائية.
  • يعزز اعتماد ست قيم رئيسية مثل المساءلة والإنصاف ثقة الجمهور ويحقق أعلى المعايير الأخلاقية.
  • تُخلق حوكمة الذكاء الاصطناعي القوية قيمة تجارية من خلال تمكين الدخول السريع إلى الأسواق وتقليل المخاطر عبر مناطق متعددة.

في سبتمبر 2025، اجتمعت جميع الدول الأعضاء في الأمم المتحدة للمرة الأولى لمناقشة الحوكمة الدولية للذكاء الاصطناعي، ومُثّل كثير منها مجددًا في فبراير خلال قمة تأثير الذكاء الاصطناعي في دلهي. وأسفر الحدث عن إطلاق هيئتين جديدتين تتمحوران حول حوكمة الذكاء الاصطناعي، لكنه لم يكن، في أفضل الأحوال، سوى نجاح رمزي.

صُممت آليات الأمم المتحدة الجديدة لتحقيق الإجماع، ولذلك تبتعد عن المجالات الخلافية، مثل الاستخدامات العسكرية للذكاء الاصطناعي، وتفتقر إلى مصادر تمويل واضحة وصلاحيات للإنفاذ. ولا ينبغي أن يفاجئ هذا المراقبين المخضرمين. فالأمم المتحدة اليوم لا تملك القدرة على التحرك سريعًا أو ضمان التزام الجميع بقراراتها، مما يجعلها منتدى يصعب فيه إحداث تغيير حقيقي.

ينسجم ذلك مع نمط راسخ. فعلى الرغم من سنوات من المحاولات المتفرقة لبناء توافق بشأن تنظيم الذكاء الاصطناعي، لم تُبرم اتفاقات دولية مهمة، فنشأ فراغ اضطرت فيه الدول والتكتلات إلى وضع قواعدها الخاصة. ومع ذلك، تظل الحوكمة الفعالة للذكاء الاصطناعي ضرورية إذا أردنا اعتماده على نطاق واسع، ونيل ثقة الجمهور، واستخدامه بما يحقق منافع اجتماعية واقتصادية مستدامة

التدبير بالمتاح والترميم

يمثل غياب آليات حوكمة مشتركة ومتفق عليها مشكلة للشركات العالمية التي تبني أنظمة الذكاء الاصطناعي وتشغّلها. فهي تريد نشر أنظمتها في العالم كله، لكن لا يوجد نطاقان قضائيان يتبعان مجموعة القواعد نفسها. لذلك تضطر إلى إنشاء إطار حوكمة عام لنظامها، ثم إعادة بنائه من الصفر في كل بلد تعمل فيه، لضمان امتثاله للقوانين واللوائح المحلية. ويخلق هذا النهج قدرًا هائلًا من العمل الإضافي، ويرفع تكاليف مبادرات الذكاء الاصطناعي ويجعلها أكثر عرضة للتأخير، ويضعف قدرة الشركات العالمية على تحقيق وفورات الحجم وإتاحة أدوات فعالة للمستخدمين في كل مكان.

لكن ثمة بديلًا. فبالنسبة إلى الشركات الراغبة في تبسيط نهجها، قد يكون الخيار الأفضل بناء إطار لحوكمة الذكاء الاصطناعي يراعي المبادئ الأخلاقية المشتركة بين هذه المناطق المختلفة، ويضمن الالتزام بمعايير عالية في كل مكان لحماية حرية الأفراد وخصوصيتهم وأمنهم. ويمثل هذا أسلوبًا قويًا لشركات الذكاء الاصطناعي لتعزيز ثقة الجمهور بتقنياتها، وتقوية قاعدة عملائها، والاستفادة من المنافع المحتملة للذكاء الاصطناعي للمجتمع.

ست قيم أساسية لحوكمة الذكاء الاصطناعي

أقترح على أي منظمة ترغب في اعتماد نهج قائم على القيم لحوكمة الذكاء الاصطناعي استخدام القيم الست التي نتبعها: المساءلة، وقابلية التفسير، والشفافية، والإنصاف، والأمن، وقابلية الاعتراض على القرارات.

اخترنا هذه القيم لأنها تغطي جميع المجالات الرئيسية في دورة حياة نظام الذكاء الاصطناعي، ولأنها دُوّنت بالفعل في معايير دولية ووطنية متعددة تخص الذكاء الاصطناعي، مثل معيار المنظمة الدولية للتوحيد القياسي ISO/IEC 42001 و دليل الذكاء الاصطناعي للحكومة البريطانية.

نبدأ بالمساءلة، التي تعني معرفة المسؤول عن كل أمر في كل مرحلة من دورة حياة الذكاء الاصطناعي. ومن دون تحديد واضح للمسؤوليات، قد تُغفل ضوابط حيوية لعدم وجود فرد أو فريق يتحمل المسؤولية النهائية. ينبغي للمنظمات تعيين مسؤولين قياديين محددين بالاسم، مثل كبير مسؤولي الذكاء الاصطناعي، للأنظمة والمراحل الرئيسية، واستخدام نموذج حوكمة قائم على المخاطر، وإخضاع أدوات الأطراف الثالثة للتدقيق نفسه المطبق على الأدوات المطورة داخليًا. وهذا يعني فهم شروط الموردين وقيودهم ومسؤولياتهم القانونية بالمستوى نفسه الذي تفهم به المنظمة أنظمتها.

وتعبّر منظمة التعاون الاقتصادي والتنمية OECD عن ذلك بوضوح في إرشاداتها بشأن تعزيز المساءلة في الذكاء الاصطناعي، إذ توصي المنظمات بإنشاء «آليات لدمج عملية إدارة مخاطر الذكاء الاصطناعي ضمن الحوكمة التنظيمية الأوسع، وتعزيز ثقافة إدارة المخاطر داخل المنظمات وعبر سلسلة قيمة الذكاء الاصطناعي بأكملها».

تأتي بعد ذلك قابلية التفسير. ينبغي أن تستطيع المنظمات إظهار كيف يصل نظام الذكاء الاصطناعي إلى قرار. ويتطلب ذلك آليات لتوثيق اتخاذ القرارات وتتبعها، إلى جانب سجلات واضحة لتصميم النظام وبيانات التدريب وعمليات القرار. وتتيح هذه العناصر مجتمعةً للفرق فهم أصل المعلومات ومسارها، من نشأة النظام حتى نشره.

يركز الإنصاف على ضمان أن تنتج أنظمة الذكاء الاصطناعي نتائج عادلة، وألا تكرر التحيزات القائمة أو تضخمها. ومن دون فحوص مقصودة، قد تسبب الأنظمة الضرر بإنتاج نتائج منحازة، وخصوصًا في المجالات عالية التأثير مثل التوظيف والرعاية الصحية والعدالة الجنائية. ولتقليل ذلك، ينبغي تطبيق تدابير لكشف التحيز، ومراجعة المخرجات بانتظام عبر الفئات المعنية، وتصميم أطر حوكمة تستوعب متطلبات عدم التمييز المحلية. ويعني هذا عمليًا بناء أنظمة تفي بأعلى معيار قانوني يُرجّح أن تواجهه، بما فيه الالتزامات بموجب قوانين مثل قانون المساواة البريطاني لعام 2010 وميثاق الحقوق الأساسية للاتحاد الأوروبي.

تمنح الشفافية وضوحًا للمستخدمين والجهات التنظيمية معًا. ينبغي أن يفهم الناس متى يُستخدم الذكاء الاصطناعي، ودوره في اتخاذ القرار، والبيانات التي يستند إليها. وتتمثل نقطة انطلاق عملية في توحيد التوثيق عبر الأنظمة، بدعم أدوات داخلية مثل بطاقات النماذج. وهي وثائق قصيرة تُرفق بنماذج التعلم الآلي، وتشرح سياق الاستخدام المقصود، وتفاصيل إجراءات تقييم الأداء، وغيرها من المعلومات ذات الصلة. ومن دون الشفافية، لا يستطيع المستخدمون الاعتراض على نتائج غير عادلة، ولا تستطيع الجهات التنظيمية التدخل بفاعلية، وقد تُخفى الآثار الضارة.

يتعلق الأمن بحماية أنظمة الذكاء الاصطناعي من الوصول غير المصرح به، والتلاعب، والسلوك غير المقصود. وإذا كان الأمن ضعيفًا، فقد تُعرّض الأنظمة المنظمات والمستخدمين وبياناتهم للخطر، بما يشمل أضرارًا مالية وأضرارًا بالسمعة. ينبغي تحديد عتبات للأداء والدقة، واختبار تحمّل الأنظمة في ظروف واقعية، وإدراج اختبارات الفريق الأحمر لاكتشاف الثغرات.

وأخيرًا، تضمن قابلية الاعتراض وجود طريقة واضحة وميسّرة للطعن في القرارات المعتمدة على الذكاء الاصطناعي أو استئنافها. ومن دونها، لا يملك المستخدمون المتأثرون سبيلًا للإنصاف، وقد لا تظهر المشكلات أو تُحل أبدًا. ينبغي للمنظمات توفير قنوات للإبلاغ عند موضع الاستخدام، وتعيين مسؤولين قياديين لإدارة الشكاوى، وضمان إمكان إيقاف الأنظمة مؤقتًا أو مراجعتها أو تحديثها عند الحاجة.

ما فوائد الإطار القائم على القيم؟

هناك سببان قويان لاعتماد هذا النهج القائم على القيم في حوكمة الذكاء الاصطناعي. أولهما أن من يبنون الأنظمة وينشرونها يتحملون مسؤولية أخلاقية تجاه الأشخاص والمنظمات المتأثرة بها. وثانيهما أن هذا النهج أكثر فاعلية في تحقيق المنافع التي يعد بها الذكاء الاصطناعي عمليًا.

يضع مستخدمو الأنظمة، سواء كانوا شركات أو أفرادًا، ثقة ضمنية في مطوريها بألا يسيئوا استخدام البيانات الشخصية أو يعرّضوهم لمخاطر غير ضرورية. وعندما تخرق المنظمات هذه الثقة، يصعب عليها جدًا الاحتفاظ بالمستخدمين. وفي النهاية، لن يتقبل الناس إدخال الأنظمة ما لم يجتمع لديهم الأمران: الثقة بهذه الأنظمة ورؤية المنافع الواضحة التي تحققها. وسيؤدي غياب ذلك إلى مزيد من الانقسام الاجتماعي والاقتصادي، وإضاعة كثير من الفرص التي تتيحها هذه التقنية.

في المقابل، تستطيع الشركات التي تطبق إطارًا قائمًا على القيم في كل مكان، بما فيه المناطق ذات متطلبات الحوكمة الأخف، أن تثبت للعملاء والمستثمرين والجهات التنظيمية أنها تُلزم نفسها بمستوى أعلى من الحد الأدنى للامتثال. ويبني هذا الثقة والمشاركة، ثم النجاح التجاري في نهاية المطاف.

الحوكمة القوية للذكاء الاصطناعي تولّد القيمة، وليست عبئًا للامتثال. فهي تمكّن الشركات من طرح منتجات جديدة بسرعة أكبر، وتقليل تعرّضها للمخاطر، وتوسيع حلولها بثقة عبر أسواق متعددة.

وخلص تقرير ماكينزي «حالة الذكاء الاصطناعي» إلى ما يلي، وفقًا لنتائجه: «إن إشراف الرئيس التنفيذي على حوكمة الذكاء الاصطناعي… هو أحد العناصر الأشد ارتباطًا بارتفاع الأثر على صافي الأرباح، وفق ما تصرّح به المنظمة نفسها، نتيجة استخدامها للذكاء الاصطناعي التوليدي»، مما يبرز المنافع التجارية لهذا النهج. ومن هذا المنظور، يجسّد إدماج أطر أخلاقية قوية في أنظمة الذكاء الاصطناعي سعيًا مستنيرًا إلى المصلحة الذاتية.

لكن، فضلًا عن كل ذلك، فهذا ببساطة هو الصواب. لقد بنينا سياستنا العالمية للذكاء الاصطناعي الأخلاقي حول المبدأ نفسه: يجب أن تخدم التقنيات المتقدمة الناس والمجتمع، لا العكس. ويعكس ذلك الرؤية الأوسع لمجتمع 5.0، وهو نموذج ابتكار يتمحور حول الإنسان ويسعى إلى الجمع بين التقدم الاقتصادي وحل التحديات الاجتماعية.

إذا أردنا للتقنيات الناشئة مثل الذكاء الاصطناعي أن تسهم في مجتمع أسعد وأكثر انسجامًا، فلا بد أن تقوم على أسس أخلاقية قوية. ويبدأ ذلك بالتركيز ليس فقط على المعايير التي يتعين على المنظمات استيفاؤها، بل أيضًا على المعايير التي تطمح إلى بلوغها.

إيزابيلا غراندي هي مديرة استراتيجية البيانات والذكاء الاصطناعي والحوكمة والأخلاقيات في NTT DATA UK&I. تتعاون مع المؤسسات لصياغة وتطبيق الذكاء الاصطناعي المسؤول وحوكمة الذكاء الاصطناعي، بما يساعدها على الانتقال من وضعها الحالي إلى نموذج تشغيلي أكثر نضجًا وقائم على البيانات.

يركز عملها على إدماج الممارسات الأخلاقية والإدارة المتينة لمخاطر الذكاء الاصطناعي في كيفية تصميم المؤسسات لأنظمة الذكاء الاصطناعي ونشرها، لضمان ترسيخ الاستخدام المسؤول في هياكل اتخاذ القرار والعمليات اليومية.