لماذا يجب على الشركات اتباع نهج قائم على القيم في حوكمة الذكاء الاصطناعي

في سبتمبر 2025، اجتمعت جميع الدول الأعضاء في الأمم المتحدة لأول مرة لمناقشة حوكمة الذكاء الاصطناعي على المستوى الدولي؛ وقد تم تمثيل العديد منهم مرة أخرى في فبراير في قمة تأثير الذكاء الاصطناعي في دلهي. أدى الحدث إلى إطلاق两个 هيئات جديدتين مركزتين على حوكمة الذكاء الاصطناعي؛ ولكنها كانت، على أفضل تقدير، نجاحًا رمزيًا.

تم تصميم آليات الأمم المتحدة الجديدة لتأمين الإجماع: إنها تبتعد عن المناطق المتنازع عليها مثل الاستخدامات العسكرية للذكاء الاصطناعي، وتفتقر إلى مصادر واضحة للتمويل وسلطات إنفاذ. ولا ينبغي أن يكون هذا مفاجئًا للمراقبين المخضرمين. الأمم المتحدة الحالية تفتقر إلى القدرة على الحركة بسرعة أو ضمان الامتثال الشامل لقراراتها، مما يجعلها منتدى صعبًا لتحقيق التغيير الحقيقي.

هذا يتوافق مع نمط محدد جيدًا. على الرغم من سنوات من المحاولات المبعثرة لبناء إجماع على لوائح الذكاء الاصطناعي، لم تكن هناك أي اتفاقيات دولية هامة، مما خلق فراغًا أجبرت فيه البلدان والكتلة على تطوير قواعدها الخاصة. ومع ذلك، فإن الحوكمة الفعالة للذكاء الاصطناعي أمر بالغ الأهمية إذا كنا نريد رؤيته يتم تبنيه على نطاق واسع، وثقته من قبل الجمهور، واستخدامه في طرق تؤدي إلى منافع اجتماعية واقتصادية دائمة

التصليح والصيانة

للسocieties العالمية التي تبني وتشغل أنظمة الذكاء الاصطناعي، فإن عدم وجود آليات حوكمة مشتركة وموافقة عليها يعد مشكلة. إنهم يرغبون في نشر أنظمة الذكاء الاصطناعي في جميع أنحاء العالم، ولكن لا توجد ولايتان تتبع نفس مجموعة القواعد. لذلك، فإنهم مجبورون على إنشاء إطار حوكمة عام حول نظامهم، ثم إعادة بنائه من الأساس في كل بلد يعملون فيه لضمان امتثاله للقوانين واللوائح المحلية. هذا النهج يخلق قدرًا كبيرًا من العمل الإضافي، ويجعل مبادرات الذكاء الاصطناعي أكثر تكلفة ورضوخًا للتأخير، ويضعف قدرة الشركات العالمية على تحقيق اقتصاديات الحجم ومشاركة أدوات فعالة مع المستخدمين في كل مكان.

然而، هناك بديل. بالنسبة للشركات التي تبحث عن تسهيل نهجها، قد يكون الخيار الأفضل هو بناء إطار حوكمة للذكاء الاصطناعي يأخذ في الاعتبار المبادئ الأخلاقية الشائعة عبر هذه المناطق المختلفة، وضمان أنهم يلبيوا معايير عالية في كل مكان من حيث حماية حريات الأفراد وخصوصيتهم وأمانهم. يمثل هذا الأسلوب طريقة قوية للشركات التي تعمل بالذكاء الاصطناعي لزيادة الثقة العامة في تقنيتهم، وتعزيز قاعدة عملائهم، وتحقيق منافع الذكاء الاصطناعي المحتملة للمجتمع.

ستة قيم رئيسية لحوكمة الذكاء الاصطناعي

أوصي أي منظمة مهتمة بتبني نهج قائم على القيم في حوكمة الذكاء الاصطناعي باستخدام ستة قيم رئيسية التي نتبعها: المساءلة، والوضوح، والشفافية، والعدالة، والأمان، والطعن.

لقد اخترنا هذه القيم لأنها تغطي جميع مجالات دورة حياة نظام الذكاء الاصطناعي، وأنه تم تشفيرها بالفعل في معايير دولية ووطنية متعلقة بالذكاء الاصطناعي، مثل معيار المنظمة الدولية للتوحيد القياسي ISO/IEC 42001 و كتاب الذكاء الاصطناعي للحكومة البريطانية.

لنبدأ من الأعلى، تعني المساءلة معرفة من هو المسؤول عما في كل مرحلة من مراحل دورة حياة الذكاء الاصطناعي. بدون ملكية واضحة، يمكن省略 التحكمات الحيوية لأن لا فرد أو فريق يحمل المسؤولية النهائية. يجب على المنظمات تعيين أصحاب مسؤولية رفيعة المستوى ومسمى – مثل ضباط الذكاء الاصطناعي الرئاسيين – لأنظمة الذكاء الاصطناعي ومراحلها الرئيسية، واستخدام نموذج حوكمة قائم على المخاطر، وتطبيق نفس الفحص لأدوات الطرف الثالث كما هو الحال لأدوات التطوير الداخلي. هذا يعني فهم شروط الموردين والقيود والمسؤوليات بنفس القدر الذي يفهمون به أنظمتهم.

تنقل المنظمة للتعاون الاقتصادي والتنمية إرشاداتها بشأن تعزيز المساءلة في الذكاء الاصطناعي هذا جيدًا، والتي توصي المنظمات بإنشاء “آليات لتضمين عملية إدارة مخاطر الذكاء الاصطناعي في الحوكمة التنظيمية الأوسع، وتعزيز ثقافة إدارة المخاطر داخل المنظمات وعبر سلسلة قيمة الذكاء الاصطناعي بأكملها”.

التالي هو الوضوح. يجب على المنظمات أن تكون قادرة على إظهار كيف يصل نظام الذكاء الاصطناعي إلى قرار. ذلك يتطلب آليات لتسجيل وتحديد اتخاذ القرارات، جنبًا إلى جنب مع سجلات واضحة لتصميم النظام وبيانات التدريب وعمليات اتخاذ القرار. معًا، يسمح ذلك للفرق بفهم سلالة المعلومات من بداية النظام حتى نشره.

تركز العدالة على ضمان أن أنظمة الذكاء الاصطناعي تنتج نتائج عادلة ولا تكرر أو تعزز التحيزات الحالية. بدون فحص متعمد، يمكن لأنظمة أن تسبب ضررًا من خلال تقديم نتائج مائلة – مشكلة خاصة في مجالات التأثير العالي مثل التوظيف والرعاية الصحية والعدالة الجنائية. للتحفيز على ذلك، يجب على المنظمات تنفيذ تدابير لاكتشاف التحيز، ومراجعة الإخراج بانتظام عبر المجموعات ذات الصلة، وتصميم إطارات حوكمة يمكنها تلبية متطلبات عدم التمييز المحلية. في الممارسة، هذا يعني بناء أنظمة تلبية أعلى معيار قانوني يحتمل مواجهته، بما في ذلك التزامات بموجب قوانين مثل قانون المساواة في المملكة المتحدة 2010 والميثاق الأوروبي للحقوق الأساسية.

الشفافية تتعلق بإحضار الوضوح للمستخدمين والمنظمين. يجب على الناس أن يفهموا متى يتم استخدام الذكاء الاصطناعي، وما الدور الذي يلعبونه في اتخاذ القرارات، وما البيانات التي تدعمه. نقطة انطلاق عملية هي توحيد الوثائق عبر أنظمة الذكاء الاصطناعي، مدعومة بأدوات داخلية مثل بطاقات النماذج: وثائق قصيرة مقدمة مع نماذج التعلم الآلي التي تفسر السياق الذي يُقصد استخدامه فيه، و تفاصيل إجراءات تقييم الأداء، ومعلومات أخرى ذات صلة. بدون شفافية، لا يمكن للمستخدمين الطعن في النتائج غير العادلة، ولا يمكن للمنظمين التدخل بشكل فعال، وقد يتم إخفاء الآثار الضارة تحت السجال.

يتضمن الأمان حماية أنظمة الذكاء الاصطناعي من الوصول غير المصرح به أو التلاعب أو السلوك غير المقصود. إذا كان الأمان ضعيفًا، يمكن لأنظمة الذكاء الاصطناعي أن تضع المنظمات والمستخدمين وبياناتهم تحت خطر، وتعرضهم لخسارة مالية وسمعة. يجب على المنظمات تحديد معايير الأداء والدقة، واختبار الأنظمة تحت ظروف واقعية، ودمج اختبار الفريق الأحمر لتحديد نقاط الضعف.

أخيرًا، يضمن الطعن أن الناس لديهم طريقة واضحة وممكنة للطعن أو الاستئناف القرارات التي يحركها الذكاء الاصطناعي. بدون ذلك، لا يملك المستخدمون المتأثرون أي وسيلة ولا يتم اكتشاف أو حل المشاكل أبدًا. يجب على المنظمات توفير قنوات الإبلاغ في نقطة الاستخدام، وAssigning مسؤولين رفيعي المستوى لإدارة الشكاوى، وضمان أن الأنظمة يمكن تعليقها أو مراجعتها أو تحديثها عند الضرورة.

ما هي فوائد الإطار القائم على القيم؟

هناك两个 سبب قوي لتبني نهج قائم على القيم في حوكمة الذكاء الاصطناعي. أولًا، لأن الذين يبنيون ونشر أنظمة الذكاء الاصطناعي لديهم مسؤولية أخلاقية للأشخاص والمنظمات المتأثرة بها؛ وثانيًا، لأن هذا النهج أكثر فعالية في تحقيق فوائد الذكاء الاصطناعي المpromised في الممارسة.

مستخدمو أنظمة الذكاء الاصطناعي، سواء كانوا شركات أو أفراد، يضعون ثقتهم بشكل ضمني في منشئيها بعدم إساءة استخدام بياناتهم الشخصية أو تعرضهم لمخاطر غير ضرورية. عندما تنتهك المنظمات هذه الثقة، يصبح من الصعب بالنسبة لهم الاحتفاظ بتلك المستخدمين. في النهاية، ما لم يثق الناس في أنظمة الذكاء الاصطناعي، ويمكنهم رؤية الفوائد الواضحة التي تقدمها، فإنهم لن يوافقوا على إدخالها. هذا سوف يؤدي إلى مزيد من الانقسام الاجتماعي والاقتصادي، وسنفقد العديد من الفرص التي تقدمها هذه التكنولوجيا.

من ناحية أخرى، يمكن للشركات التي تطبق إطارًا قائمًا على القيم في كل مكان – بما في ذلك المناطق التي تتمتع بمتطلبات حوكمة أكثر راحة – أن تثبت للعملاء والمستثمرين والمنظمين أنهم يلتزمون بمعايير أعلى مما يتطلبه الامتثال الأساسي. هذا يبني الثقة والانخراط، و في النهاية، النجاح التجاري.

الحوكمة القوية للذكاء الاصطناعي هي مصدر للقيمة، وليست عبئًا على الامتثال. إنها تمكن الأعمال من إطلاق منتجات جديدة إلى السوق بسرعة أكبر، وتقليل تعرضها للمخاطر، وتنسيق حلولها عبر أسواق متعددة بثقة.

تقرير “حالة الذكاء الاصطناعي” من مكينسي وجد أن “إشراف الرئيس التنفيذي على حوكمة الذكاء الاصطناعي … هو عنصر واحد أكثر من أي شيء آخر يرتبط مع تأثير أساسي أعلى على صافي ربح المنظمة من استخدام الذكاء الاصطناعي العام”، مما يؤكد الفوائد التجارية لنهج كهذا.

ما وراء كل هذا، ومع ذلك، أنه ببساطة الشيء الصحيح الذي يجب فعله. لقد بنينا سياستنا العالمية للأخلاقيات في الذكاء الاصطناعي حول نفس المبدأ: أن التكنولوجيات المتقدمة يجب أن تخدم الناس والمجتمع، وليس العكس. هذا يعكس رؤية أوسع لمجتمع 5.0: نموذج ابتكاري يركز على الإنسان يهدف إلى الجمع بين التقدم الاقتصادي مع حل التحديات الاجتماعية.

إذا كان التكنولوجيات الناشئة مثل الذكاء الاصطناعي ستسهم في خلق مجتمع أكثر سعادة وتناغمًا، فيجب أن يتم بناؤها على أسس أخلاقية قوية. هذا يبدأ بالتركيز ليس فقط على المعايير التي يتعين على المنظمات أن تفي بها، ولكن أيضًا على المعايير التي يرغبون في تحقيقها.

التقدم مع حل التحديات الاجتماعية. إذا كانت التكنولوجيات الناشئة مثل الذكاء الاصطناعي ستسهم في خلق مجتمع أكثر سعادة وتناغمًا، فيجب أن يتم بناؤها على أسس أخلاقية قوية. هذا يبدأ بالتركيز ليس فقط على المعايير التي يتعين على المنظمات أن تفي بها، ولكن أيضًا على المعايير التي يرغبون في تحقيقها.