مقابلات
ستافروس غادينيس، أستاذ القانون في Berkeley Law ومؤلف كتاب «التنظيم المؤسسي» – سلسلة مقابلات

النقاط الرئيسيةيصف الطلب المؤسسي كيف تكتب الشركات القواعد وتراقب نفسها قبل أن يتصرف المنظمون.
عرض المزيد
- يصف الطلب المؤسسي كيف تكتب الشركات القواعد وتراقب نفسها قبل أن يتصرف المنظمون.
- تفتقر تقييمات سلامة الذكاء الاصطناعي إلى الاستقلالية عندما توظف الإدارة مراجعيها الخارجيين ويمكنها إقالتهم.
- إطار السلامة الذي لم يؤخر إطلاقًا قط لا يمكن تمييزه عن العلاقات العامة.
Stavros Gadinis هو أستاذ القانون جورج آر. جونسون في كلية الحقوق بجامعة UC Berkeley. يبحث في أبحاثه حوكمة الشركات، والتنظيم المالي، والأنظمة الداخلية التي تستخدمها الشركات لاتخاذ القرارات ومراقبتها. وقبل دخوله المجال الأكاديمي، مارس قانون الشركات في أوروبا.
يتناول كتابه الجديد التنظيم المؤسسي: كيف تتعامل الشركات مع الصراع الاجتماعي، الصادر عن Cambridge University Press، كيفية تطوير الشركات أنظمة حوكمة في ظل عدم استقرار القواعد العامة. ومن خلال حالات تتعلق بخدمات النقل التشاركي، والاستدامة المناخية، والذكاء الاصطناعي، يبحث الكتاب في كيفية وضع الشركات للقواعد، وممارستها للسلطة، وإشرافها على سلوكها.
تمتد مسيرتك المهنية بين ممارسة قانون الشركات في أوروبا والبحث في حوكمة الشركات والتنظيم المالي في Berkeley Law. كيف أسهمت هذه الخلفية في تشكيل طريقة تفكيرك، وما الذي ألهمك لكتابة كتاب «التنظيم المؤسسي»؟
بدأت مسيرتي المهنية بممارسة قانون الشركات في أوروبا، ثم أمضيت سنوات طويلة في Berkeley أدرس حوكمة الشركات والتنظيم المالي، بما في ذلك كيفية انتشار القواعد عبر الحدود عندما لا تكون هناك حكومة واحدة تتولى المسؤولية. نميل إلى النظر إلى عالم الأعمال والعالم التنظيمي باعتبارهما نقيضين: فأحدهما يتوق إلى القرارات السريعة والأرباح الكبيرة، بينما يلتزم الآخر بالإجراءات البيروقراطية والصالح العام. وقد علمتني الممارسة والبحث معًا أن الخط الفاصل بينهما أكثر ضبابية بكثير مما نتصور.
نشأ الكتاب من حوارات مع المستشارين القانونيين العامين وكبار المسؤولين التنفيذيين حول كيفية تعاملهم مع القرارات المثيرة للجدل، أي تلك التي تتباين فيها مطالب الموظفين والعملاء والمجتمعات والحكومات. وما لفت انتباهي هو مدى تشابه أساليبهم مع أساليب الجهة التنظيمية الجيدة. فهم يجمعون المعلومات بالتواصل مع الأشخاص المتأثرين، ويوضحون خياراتهم علنًا، ويضعون آليات للتحقق من صمود تلك الخيارات. وهذه ليست عادات تنظيمية ولا عادات مؤسسية؛ بل هي مبادئ اتخاذ القرارات الرشيدة في أي مؤسسة تمارس سلطة على الآخرين. وكتاب «التنظيم المؤسسي» محاولتي لوصف هذه الآليات، وبيان مواطن نجاحها وإخفاقها.
ما المقصود بـ«التنظيم المؤسسي»، وكيف يساعد على تفسير الطريقة التي تضع بها شركات الذكاء الاصطناعي قواعد للتقنيات التي لم تواكبها اللوائح بعد؟
التنظيم المؤسسي هو البنية التحتية للحوكمة الداخلية التي تنشئها الشركات لاتخاذ القرارات الخلافية قبل أن يحدد القانون ما ينبغي عليها فعله. وله ثلاث وظائف تحاكي فروع الدولة. فوضع القواعد هو الطريقة التي تصوغ بها الشركة مبادئها الخاصة. والعمل التنفيذي هو الطريقة التي تطبق بها تلك المبادئ على قرارات محددة. أما الرقابة، فهي الطريقة التي تتحقق بها الشركة من تنفيذ ما قررته، وتكتشف بها ما إذا كانت قد أخفقت في ذلك.
تتجلى الوظائف الثلاث كلها في شركات الذكاء الاصطناعي. فالمختبرات الرائدة تضع دساتير ومواصفات للنماذج وأطرًا للسلامة، وهذا هو وضع القواعد. وهي تقرر ما إذا كان النموذج جاهزًا للإطلاق، وما الذي سيرفضه، ومن سيُسمح له بالوصول إليه، وهذا هو العمل التنفيذي. كما أنها تكلف بإجراء اختبارات الفرق الحمراء، وتقييمات خارجية، وإعداد تقارير عن الحوادث، وهذا هو دور الرقابة. وأرصد في الكتاب هذه الوظائف لدى المختبرات الكبرى. والاختلافات بينها حقيقية، لكن التقارب اللافت بينها حقيقي أيضًا، إذ تكتشف كل شركة حاجتها إلى جميع هذه العناصر.
أريد أن أوضح أمرًا واحدًا، لأنه كثيرًا ما يُساء فهمه: التنظيم المؤسسي ليس حجة ضد التنظيم الحكومي، بل يصف المادة التي ستُبنى عليها اللوائح. فعندما يتحرك المشرّعون، يستعيرون مفاهيم طورتها الشركات أولًا. والسؤال الحقيقي هو ما إذا كانت تلك المسودة الأولى قد صيغت بعناية كافية لتستحق الاقتباس منها.
يتناول كتابك خدمات النقل التشاركي، والاستدامة المناخية، وحوكمة الذكاء الاصطناعي. ما الدروس الأكثر فائدة للذكاء الاصطناعي المستفادة من المجالين الأولين، وما التحديات التي تجعل الذكاء الاصطناعي مختلفًا اختلافًا جوهريًا؟
الدرس المستفاد من خدمات النقل التشاركي والمناخ هو أن الشركات كثيرًا ما تكتب المسودة الأولى للقانون. فقد طورت Uber وLyft ممارسات للإبلاغ عن التأمين والسلامة قبل أن تضع الولايات قواعد بشأنها، كما أن جانبًا كبيرًا من محاسبة الشركات للكربون يعتمد على GHG Protocol، وهو معيار ساعد قطاع الأعمال على وضعه. ثم أقرت الجهات التنظيمية تلك الممارسات، أو استكملتها، أو أدرجتها في القانون. فنادرًا ما يبدأ التنظيم من صفحة بيضاء. وكلما أبدت الشركات مزيدًا من التبصر في خياراتها وأخذت الأطراف المتأثرة في الحسبان، زادت احتمالات استمرار تلك الخيارات في اللوائح.
يختلف الذكاء الاصطناعي من ناحيتين. الأولى هي السرعة. فكثيرًا ما تتأخر الجهات التنظيمية خطوة عن الصناعة، لكن الفجوة في مجال الذكاء الاصطناعي أوسع بكثير. وسيتعين على الجهات التنظيمية أن تعتمد على الشركات في تطوير المعايير والعمليات الداخلية، وأن تركز جهودها هي على الرقابة والتحقق والإنفاذ. وهذا يجعل دورها مختلفًا، لا أقل أهمية. فالتحقق هو المجال الذي تبرز فيه أهمية السلطة العامة بأكبر قدر، لأن تضارب المصالح مع الإدارة يكون فيه أشد ما يكون. والاختلاف الثاني هو نطاق التأثير. فالذكاء الاصطناعي يمسّ جميع جوانب الحياة اليومية تقريبًا، وأصبح استثمارًا كبيرًا للدولة بأسرها. ومن الصعب إغفال تداعياته على المخاطر النظامية، مثلما يصعب استيعابها.
عندما تختار شركة للذكاء الاصطناعي جهات تقييم خارجية للسلامة وتدفع أتعابها، ما الضمانات التي تجعل هذه الرقابة مستقلة فعلًا؟
هذا التضارب في المصالح مألوف في التدقيق المالي، ولدى قانون الشركات أدوات قائمة للتعامل معه. أولها تحديد الجهة التي تعيّن المقيِّم وتنهي عمله. ينبغي أن تكون العلاقة مع المقيِّم بيد أعضاء مستقلين في مجلس الإدارة ليست لهم أي صلات مالية أخرى بالشركة، على غرار لجنة التدقيق التي تشرف على المدقق الخارجي، لا الرئيس التنفيذي ولا المدير المالي. ويجب ألا تتمكن الإدارة من إقالة مراجع لمجرد أن نتائجه لا تلائمها.
ثانيها إتاحة الاطلاع والنشر. ينبغي أن يتمكن المقيِّم من الاطلاع على ما يطلب الاطلاع عليه، وأن يكون له حق نشر نتائجه، أو على الأقل خلاصة وافية لها، من دون أن تملك الشركة حق النقض. فالمخاطر التي تمس السمعة هي ما يمنح المراجعة أثرها الرادع. وثالثها وضع معايير موحدة للمراجعة، بحيث يكون للتقييم المعنى نفسه لدى الشركات المختلفة، ولا يتنافس المقيِّمون عبر التساهل. ورابعها حماية المبلّغين عن المخالفات، بل ومكافأتهم أيضًا حين يقدمون معلومات قابلة لاتخاذ إجراء بشأنها، لأن العاملين داخل الشركة هم غالبًا أول من يعلم أن مسار التقييم قد جرى توجيهه.
لنفترض أن مقيِّمًا خارجيًا رصد مشكلة خطيرة تتعلق بالسلامة قبيل إطلاق نموذج رئيسي. فمن ينبغي أن يتلقى هذه النتيجة، ومن ينبغي أن يملك صلاحية تأجيل النشر أو إيقافه؟
ينبغي أن تُرفع النتيجة مباشرة إلى مجلس الإدارة، والأفضل أن تصل إلى لجنة من الأعضاء المستقلين فيه مسؤولة عن السلامة، لا أن تمر فحسب عبر فريق الإدارة الذي يدفع باتجاه الإطلاق. ويمكن للإدارة، بل ينبغي لها، أن ترد، لكن يجب ألا تكون هي الجهة التي تصفي المعلومات. وينبغي أن تكون صلاحية تأجيل النشر أو إيقافه بيد مجلس الإدارة، لأن هذا تحديدًا نوع القرارات التي وُجدت مجالس الإدارة لاتخاذها: قرارات تنطوي على رهانات كبيرة ومصالح متعارضة، ولا إجابة صائبة واضحة لها.
لكن الأهم أن يكون القرار صريحًا وموثقًا، وأن يكون من الممكن تتبّع المسؤولية عنه إلى الأشخاص الذين اتخذوه. فإذا مضى مجلس الإدارة قدمًا رغم المخاوف، ينبغي أن يبيّن السجل ما كان على علم به، وما أخذه في الحسبان، ولماذا رأى أن المخاطر مقبولة. وهذا السجل المكتوب يهيئ الظروف للمساءلة القانونية، أو على الأقل للإضرار بالسمعة، ويدفع الناس إلى التفكير مليًا قبل الإقدام. وتزداد المحاكم استعدادًا للإقرار بأن خيارات تصميم البرمجيات تترتب عليها عواقب تمس المستخدمين، كما أن الشركة التي تستطيع إثبات بذلها جهدًا جادًا وموثقًا تكون في موقف مختلف تمامًا عن شركة لا تستطيع ذلك.
عندما تتعارض مخاوف السلامة مع أهداف الإيرادات أو الضغوط التنافسية، كيف ينبغي أن تبدو عملية موثوقة لاتخاذ مجلس الإدارة قراراته؟
تكون العملية موثوقة حين تستند إلى معلومات كافية وتترك سجلًا موثقًا. وينبغي أن يطّلع مجلس الإدارة على معلومات ملموسة عن تكاليف التأجيل، وطبيعة مخاوف السلامة ومدى احتمال تحققها، والخيارات المتاحة للتخفيف منها. كما ينبغي أن يسأل ما إذا كانت الاختبارات كافية، وأن يطلب إجراء مزيد منها أو يستعين بمراجعة خارجية إذا لم تكن كذلك. وحين يستمر قدر حقيقي من عدم اليقين، تتوفر خيارات بين الإطلاق والتخلي عن المنتج، مثل إتاحته على نطاق محدود، أو طرحه تدريجيًا، أو تشغيله في بيئة اختبار معزولة، بما يتيح للشركة معرفة المزيد قبل الالتزام. وأيًا يكن قرار مجلس الإدارة، يجب أن تكون تصريحات الشركة العلنية اللاحقة بشأن سلامة النموذج دقيقة، إذ يكمن هنا جانب كبير من مخاطر التقاضي الراهنة.
بعد ذلك، ينبغي لمجلس الإدارة أن يوثق قراره وأسبابه. ومع مرور الوقت، تشكل هذه السجلات رصيدًا من السوابق، بحيث يُقاس القرار الصعب التالي بالقرار السابق، ويستطيع كل من يراجع أداء الشركة أن يرى ما إذا كانت مبادئها المعلنة ملزمة لها فعلًا. وقد بدأت Microsoft في إنشاء هذا النوع من سجلات القرارات، وأرى أنه من أكثر أدوات حوكمة الذكاء الاصطناعي التي لا تحظى بالتقدير الكافي. فالضغوط التنافسية حقيقية، وقد يقرر مجلس الإدارة، على نحو معقول، المضي قدمًا. لكن ما لا يجوز له هو ترك القرار يُتخذ تلقائيًا بحكم الأمر الواقع.
يقترح عملك معيار «الحكم التجاري الاجتماعي» لتقييم قرارات مجالس الإدارة. كيف يمكن تطبيقه على شركة ذكاء اصطناعي تؤجل إطلاق منتج مربح بسبب احتمال تسببه في ضرر عام؟
بموجب قانون الشركات القائم، يتمتع مجلس الإدارة أصلًا بحماية جيدة إذا أجّل إطلاقًا مربحًا. فالمحاكم تحترم تقدير أعضاء مجالس الإدارة في شؤون الأعمال، وقبول أرباح أقل اليوم لتجنب الضرر غدًا يندرج بوضوح ضمن هذا التقدير. أما السؤال الأصعب فيتعلق بالحالة المعاكسة: هل أخذ مجلس الإدارة الضرر العام على محمل الجد أصلًا؟
يدعو معيار الحكم التجاري الاجتماعي مجلس الإدارة إلى تقييم الضرر العام المحتمل كما يقيّم أي مخاطر تجارية أخرى، بالاستناد، حيثما أمكن، إلى مقاييس ملموسة وقابلة للقياس ومحددة. وينصب التركيز على العملية والعناية الواجبة، لا على النتيجة. ويكون مجلس الإدارة الذي يحصل على المعلومات المناسبة، ويستمع إلى المتأثرين، ويوثق مبرراته، قد استحق احترام قراره، سواء أجّل الإطلاق أم مضى فيه. أما المجلس الذي لا يفعل شيئًا من ذلك، فلا يستحقه. لذا، فالتأجيل بحد ذاته ليس موضع الإشكال في الحالة التي تصفها؛ بل الإشكال هو ما إذا كان المجلس يستطيع بيان كيفية وصوله إلى ذلك القرار، وما إذا كان سيتخذ القرار نفسه مرة أخرى في ظل الوقائع ذاتها.
تنشر شركات الذكاء الاصطناعي أطرًا للسلامة وتعهدات طوعية، لكن القراء نادرًا ما يرون كيف تؤثر تلك السياسات في القرارات الفردية. فما الأدلة التي تميّز الحوكمة الفاعلة عن مجرد استعراض للعلاقات العامة؟
كثيرًا ما يظل الجمهور، عندما تنشر الشركات أطرًا، متسائلًا عمّا إذا كان الإطار يُطبَّق فعلًا على قرارات محددة أم يظل مجرد خطاب لا تلتزم الشركة بتنفيذه. والجواب هو الإفصاح من نوع محدد. فبدلًا من إصدار مزيد من البيانات المبدئية، ينبغي للشركات أن تكشف عن الخيارات المحددة التي اتخذتها، وكيف وجّهها الإطار، وأي عمليات إطلاق تأخرت، وأي قدرات أُرجئ إتاحتها، وأي عتبات للمخاطر جرى تجاوزها، وما الذي أعقب ذلك.
أبلغ الأدلة دلالةً قرارٌ كلّف الشركة شيئًا. فمن الصعب تمييز إطار لم يغيّر نتيجة قط، ولم يؤخر إطلاقًا قط، ولم يُحتكم إليه قط على حساب الإيرادات، عن مجرد ممارسة للعلاقات العامة. وينبغي أيضًا أن تكون هذه الإفصاحات محددة بما يكفي للتحقق منها، وأن تتحقق منها جهة خارجية تتمتع بالمكانة التي تخوّلها إعلان ذلك علنًا، ولا سيما في المسائل الأشد أهمية.
إلى أين تصل حدود الحوكمة الذاتية للشركات؟ وأي القرارات المتعلقة بمستوى مخاطر الذكاء الاصطناعي المقبول تستلزم قواعد عامة أو رقابة ديمقراطية؟
يتعلق أهم هذه الحدود بالإخفاق في الرقابة. فحتى الشركة المسؤولة وحسنة النية قد تواجه أزمة كبرى، وعندئذ تتفاقم تضاربات المصالح. وقد يحجب الموظفون معلومات من شأنها الإضرار بوظائفهم أو مكافآتهم. وقد يكتم المسؤولون التنفيذيون الأخبار السيئة تفاديًا للانتقاد العلني. وقد يمنع الخوف من الدعاوى القضائية الشركة من التحلي بالشفافية. وفي أزمات الشركات السابقة، جاءت المعلومات الحاسمة عادةً من أشخاص لا تستطيع الإدارة السيطرة عليهم، أو من مدققين ومراجعين خارجيين، أو من أطراف متضررة، أو من مبلّغين داخليين عن المخالفات يستخدمون قنوات إبلاغ مستقلة.
هنا تبرز الأهمية القصوى للقواعد العامة. فالقانون لا يستطيع أن يضيف إلا القليل نسبيًا في مرحلة وضع القواعد، لأن التشريعات تميل إلى استعارة مفاهيمها الأساسية من الشركات. ويمكنه أن يضيف المزيد في مجال الإفصاح، عبر إلزام الشركات التي لا تفصح طوعًا بذلك. أما أكبر إسهام له فيكون في التحقق، من خلال اشتراط المراجعة المستقلة، وحماية المبلّغين عن المخالفات، ومنح جهات الرقابة الخارجية صلاحيات فعلية.
والقيد الآخر جماعي. فأقصى ما تستطيع شركة واحدة فعله هو كبح نفسها، لكنها لا تستطيع كبح منافسيها. وتتطلب القرارات المتعلقة بالمخاطر الكارثية، ومنها قرار إبطاء التقدم عند الحدود المتقدمة، تنسيقًا بين الشركات والحكومات، محليًا ودوليًا. ومن النماذج الواعدة في نظري إنشاء هيئة دولية لوضع المعايير على غرار المجلس الدولي لمعايير الاستدامة (ISSB)، تكون مستقلة عن الحكومات، لكن يشرف عليها أمناء من بينهم ممثلون عنها. ويُعدّ التنظيم المؤسسي ضروريًا لهذا العمل، لأن ترويض هذه النماذج يحدث داخل الشركات التي تطورها، لكنه لا يستطيع الاضطلاع بالعمل وحده.
لو كنت تقدم المشورة اليوم لمجلس إدارة شركة ذكاء اصطناعي سريعة النمو، فما التغييرات الثلاثة التي ستعطيها الأولوية في الحوكمة، وما الأدلة التي ستبحث عنها بعد عام لتحديد ما إذا كانت قد نجحت؟
أولًا، التواصل في عملية وضع القواعد. فقبل اعتماد إطار السلامة أو سياسات الاستخدام أو مراجعتهما، ينبغي للشركة التشاور مع المتأثرين بهما (المستخدمين والمجتمع المدني وخبراء المجال)، ونشر ما سمعته وكيف استجابت له. ثانيًا، تقديم تقارير دورية عن المسؤولية، أي تقرير سنوي عن القرارات الصعبة التي اتخذها مجلس الإدارة والإدارة بموجب الإطار، مع تفاصيل كافية تتيح التحقق منها. ثالثًا، تعيين جهة رقابة خارجية، يختارها أعضاء مجلس الإدارة المستقلون وترفع تقاريرها إليهم، مع منحها حق الوصول الكامل وحق النشر.
بعد عام، سأبحث عن أدلة تثبت أن لكل إجراء أثرًا فعليًا. ففيما يتعلق بالتواصل، سأبحث عن قاعدة واحدة على الأقل تغيرت استجابةً لما سمعته الشركة. وفيما يتعلق بالتقارير، سأبحث عن قرارات كُشف عنها رغم أن الشركة كانت تفضّل عدم مناقشتها، بما فيها القرارات التي كلّفتها إيرادات أو وقتًا. أما فيما يتعلق بجهة الرقابة، فسأبحث عن نتائج لم ترغب فيها الشركة، وسجل لما فعله مجلس الإدارة حيالها. وإذا كانت كل الأخبار الواردة في التقارير بعد عام إيجابية، فهذا يعني أن التغييرات لم تنجح.
شكرًا على هذه المقابلة الرائعة. وللقراء الراغبين في التعرّف إلى الكتاب وخيارات شرائه، يُرجى زيارة الموقع الرسمي لـالتنظيم المؤسسي.












