جيرالد كيرس، الرئيس التنفيذي ومؤسس ترستيبل – سلسلة المقابلات

جيرالد كيرس، الرئيس التنفيذي ومؤسس ترستيبل، هو قائد في مجال التكنولوجيا والسياسة يركز على تنفيذ الذكاء الاصطناعي المسؤول. يقود مهمة ترستيبل في مساعدة المنظمات على بناء الثقة وإدارة المخاطر والامتثال لللوائح الجديدة المتعلقة بالذكاء الاصطناعي. في السابق، شغل منصب نائب الرئيس ومدير عام حلول الذكاء الاصطناعي في فسكالنوت، حيث أشرف على منتجات الذكاء الاصطناعي للشركات وكذلك شغل مناصب رفيعة في التطوير الشركة والمنتج ونجاح العملاء والعمليات التنفيذية.

ترستيبل توفر منصة حوكمة الذكاء الاصطناعي التي تساعد المنظمات على تقييم المخاطر وتقليلها وتنفيذ الامتثال من خلال عمليات ووثائق منظمة. مصممة للفرق القانونية والامتثال والذكاء الاصطناعي، تركز المنصة على أنشطة الحوكمة، وتوحد استخدامات الذكاء الاصطناعي مع الإطارات التنظيمية، وتمكن من نشر الذكاء الاصطناعي المسؤول بشكل أسرع وأكثر شفافية عبر المؤسسة.

انتقلت من تسويق المنتج وchief of staff إلى قيادة حلول الذكاء الاصطناعي في فسكالنوت قبل تأسيس ترستيبل. ماذا رأيت في تلك الأدوار الذي أقنعك بأن حوكمة الذكاء الاصطناعي تحتاج إلى منصة مخصصة، وما هي المشكلة التي كنت حازما على حلها أولا عند إطلاق ترستيبل؟

كنت محظوظا بما يكفي لشغل العديد من الأدوار خلال 8+ سنوات في فسكالنوت، حيث بدأت كموظف مبكر في مرحلة التمويل الأولي وغادرت كمسؤول تنفيذي بعد الاكتتاب العام.

على مدار تسويق المنتج وchief of staff وعملية قيادة حلول الذكاء الاصطناعي في فسكالنوت، استمرت في رؤية نفس المشكلة من زوايا مختلفة. حوكمة الذكاء الاصطناعي هي في الأساس مشكلة اجتماعية تقنية، لكن معظم المنظمات كانت تتعامل معها بطرق منفصلة. تعاملت الفرق مع أداء الذكاء الاصطناعي والأمان والخصوصية والأخلاقيات والمراجعات القانونية على أنها مسارات منفصلة، غالبا ما تمت ملكيتها من قبل وظائف مختلفة مع قليل من العمود الفقري التشغيلي الذي يربطهم معا.

في الوقت نفسه، كان البيئة التنظيمية حول الذكاء الاصطناعي تتغير واضحا. قانون الاتحاد الأوروبي للذكاء الاصطناعي والمعايير ذات الصلة أشار إلى تحول نحو حوكمة الذكاء الاصطناعي كبنية تحتوي على لوائح بدلا من تقنية تجريبية. ما أصبح واضحا هو أن العديد من الشركات كانت تحاول رسم السياسات والتوقعات التنظيمية على أنظمة الذكاء الاصطناعي بعد النشر، بدلا من تصميم الحوكمة التي يمكن أن تعمل بشكل مستمر على تنفيذ النية التنظيمية عبر هذه الأبعاد الاجتماعية التقنية.

خبرتي في فسكالنوت كانت مهمة لأننا كنا نطبق الذكاء الاصطناعي على المناظر القانونية والتنظيمية نفسها. كنا نساعد المنظمات على فهم كيف تتطور القوانين، وكيف يتم تفسير المتطلبات، وكيف يتم ترجمة التوقعات التنظيمية إلى التزامات تشغيلية مع مرور الوقت. هذه الخبرة جعلت من الواضح أن حوكمة الذكاء الاصطناعي الفعالة تتطلب نفس الانضباط في الاتجاه العكسي: تطبيق التفكير السياسي والتنظيمي مباشرة إلى كيفية بناء أنظمة الذكاء الاصطناعي، ونشرها، ومراقبتها، وتكيفها مع التغييرات في الظروف.

الcustomers لاحقا وصفوا نفس النقاط الألم. لم يتمكنوا من الإجابة بثقة على ما هي أنظمة الذكاء الاصطناعي في الإنتاج، وأي منها كانت عالية المخاطر تحت اللوائح الجديدة، ومن هو المسؤول عندما تعبر الأنظمة الحدود الوظيفية، أو كيف يظهرون الامتثال المستمر مع تطور النماذج والبيانات والبائعين واللوائح في نفس الوقت.

عندما أطلقنا ترستيبل، كانت أول مشكلة حاولنا حلها هي تحويل حوكمة الذكاء الاصطناعي من النظرية إلى الواقع العملي. ركزنا على إنشاء نظام يربط السلوك التقني سياق المخاطر والملكية والتوقعات التنظيمية في مكان واحد. تم بناء ترستيبل لتزويد المنظمات بنظام سجلات حي للذكاء الاصطناعي، مع رؤية مستمرة ومسؤولية، بحيث يمكن للحوكمة مواكبة التغيير التكنولوجي والتطور التنظيمي بدلا من التأخر عنه.

من الخطوط الأمامية، ماذا تعلمت خلال العام الماضي حول سبب توقف برامج الحوكمة عندما يتحرك الذكاء الاصطناعي إلى قرارات حقيقية، وعمليات عمل، وتجارب تواجه العملاء؟

عندما يتحرك الذكاء الاصطناعي من التجربة إلى عمليات العمل الحقيقية، تميل الحوكمة إلى التوقف لأسباب عملية hơn من الأسباب الفلسفية. معظم المنظمات ببساطة لا تعرف كيف تقييم مخاطر الذكاء الاصطناعي بطريقة تتناسب مع كيفية استخدام الأنظمة في الواقع. يمكنهم تقييم النماذج في المجرد، لكنهم يجدون صعوبة في تقييم المخاطر على مستوى حالة الاستخدام، حيث يهم السياق والآثار والقرارات الناتجة أكثر من المقاييس الفنية وحدها.

تزداد هذه المشكلة سوءا مع الذكاء الاصطناعي التوليدي. قد يتم استخدام نموذج أساسي واحد للدعم العملاء أو البحث الداخلي أو دعم القرار أو توليد المحتوى، كل ذلك مع ملفات مخاطر مختلفة جدا. بدون طريقة منظمة لتقييم ومقارنة هذه الاستخدامات، الفرق إما أن تبالغ في الحذر أو تتقدم بدون ثقة حقيقية.

الذكاء الاصطناعي من البائعين يزيد الأمور تعقيدا. تعتمد المنظمات بشكل كبير على البائعين والقدرات المدمجة للذكاء الاصطناعي، ومع ذلك تفتقر إلى أساليب متسقة لتقييم هذه الأنظمة، وفهم التحكمات في العائد، أو تحديد كيف يترجم خطر البائع إلى التعرض التنظيمي والتشغيلي.

تضاعف هذه التحديات بسبب فجوات في الخبرة والملكية. يتم توزيع مسؤوليات الحوكمة على فرق القانون والامتثال والأمان والبيانات والمنتج بدون إطار مشترك أو مالك مسؤول واضح عندما تصل الأنظمة إلى الإنتاج. يضاف إلى ذلك أدوات غير ملائمة مثل جداول البيانات ومستودعات الوثائق أو منصات الحوكمة التقليدية، ويفقد فريق الحوكمة رؤيته لما يتغير ولماذا يهم.

في جوهره، تتوقف الحوكمة لأن المنظمات تطبق كتب اللعب القديمة المصممة لأنظمة ثابتة على أنظمة الذكاء الاصطناعي الديناميكية. يتطلب الذكاء الاصطناعي تقييم المخاطر المستمر، وملكية واضحة مرتبطة بالنتائج، وأدوات تعكس كيفية سلوك الأنظمة في الواقع بدلا من كيف تمت الموافقة عليها على الورق. لا يمكن لفريق الحوكمة رؤية ما يتغير، متى يتغير، ولماذا يهم.

أخيرا، غالبا ما يبقى ملكية غير محسومة. في العديد من المنظمات، لا يوجد مالك مسؤول واضح لأنظمة الذكاء الاصطناعي عندما تعبر من التجربة إلى الإنتاج. بدون مالك أعمال مسؤول عن النتائج، تصبح الحوكمة استشارية والتقدم يبطئ.

الخيط المشترك هو أن المنظمات تطبق كتب اللعب القديمة للحوكمة على تكنولوجيا جديدة بشكل أساسي. تم بناء هذه الكتب على أنظمة ثابتة ومراجعات دورية. يتطلب الذكاء الاصطناعي تقييم المخاطر المستمر، ملكية أكثر وضوحا، وأدوات تربط الحوكمة مباشرة إلى كيفية عمل الأنظمة في الواقع بدلا من كيف تمت الموافقة عليها على الورق.

كيف تعرف الحوكمة للعام الثاني، وماذا يتغير عندما تتحرك المنظمة من التبني الأولي إلى المراقبة المستمرة وإدارة الانحراف والامتثال المستمر؟

حوكمة الذكاء الاصطناعي للعام الثاني هي اللحظة التي يتوقف فيها الذكاء الاصطناعي عن التعامل معه كمسلسلات من المشاريع ويتحول إلى التعامل معه كبنية تحتية أساسية للقرارات. ما أعنيه بهذا هو أن حوكمة الذكاء الاصطناعي في العام الأول تتعلق في الغالب بالتمكين. الفرق متورطة في الموافقة على حالات استخدام، وثائق النماذج، ووضع عمليات المراجعة في مكانها حتى يتمكن الذكاء الاصطناعي من التقدم مسؤوليا.

随着 توسع أنظمة الذكاء الاصطناعي ودمجها في عمليات الأعمال الأساسية، يتغير التركيز. السؤال لم يعد ما إذا كان يجب نشر شيء ما، ولكن ما إذا كان يمكن تشغيله بأمان وموثوقية مع مرور الوقت مع تغير البيانات والمستخدمين والبائعين واللوائح. تصبح حوكمة الذكاء الاصطناعي مستمرة بدلا من الحوادث، وتتحرك بالفعل التغييرات الحقيقية في السلوك أو السياق بدلا من المراجعات المجدولة.

تتغير المخاطر أيضا بشكل ديناميكي. بدلا من تعيين تصنيف مخاطر ثابت عند الإطلاق، تحتاج المنظمات إلى فهم كيف تتطور المخاطر مع انحراف النماذج أو توسيع نطاقها أو تفاعل مستخدمين جدد مع النظام. يتبع الامتثال نفس التحول. تتحرك المتطلبات التنظيمية من كونها خريطة إلى السياسات إلى كونها مفروضة من خلال التحكمات الحية وإشارات المراقبة والدلائل التي يتم 捕获ها بشكل مستمر.

جوانب أخرى مهمة من حوكمة الذكاء الاصطناعي للعام الثاني هي إدخال إدارة حوادث الذكاء الاصطناعي الحقيقية. تحتاج المنظمات إلى معرفة ما هي الأنظمة التي يتم مراقبتها، وتحديد الأولويات بناء على المخاطر الكامنة، وتكامل البيانات الصحيحة لتعرض إشارات معنوية، ووضع معايير واضحة للتنبيه والترقية. هذا يسمح للفرق بالتدخل مبكرا، قبل أن تتحول القضايا إلى حوادث.

مع أنظمة منقسمة وموارد محدودة، ما هي أول قدرات الحوكمة التي تعتقد أن الشركات يجب أن تقوم بتقييسها عبر المنظمة؟

عندما تكون الموارد محدودة، تحتاج المنظمات إلى أن تكون مدروسة في حيث تبدأ، لأن الاختيارات المبكرة تحدد المسار لكل ما يلي. الأولوية الأولى هي الحصول على رؤية موثوقة لما هي أنظمة الذكاء الاصطناعي في الإنتاج، وفهم أين تؤثر على قرارات حقيقية، وتعيين ملكية واضحة.

مرة واحدة توجد الرؤية من خلال مخزنك للذكاء الاصطناعي، من ثم دفع المسؤولية إلى حالات استخدام الذكاء الاصطناعي. الحوكمة تتوقف بسرعة عندما يتم توزيع المسؤولية عبر لجان أو وظائف. تحتاج المنظمات إلى تعيين بوضوح من هو المسؤول عن النتائج عندما يتخذ نظام الذكاء الاصطناعي أو يؤثر على قرارات، وليس فقط من بناه أو راجعه في البداية. يصبح هذا الوضوح مهمًا بشكل خاص عندما تحدث حوادث أو يتطور النماذج إلى ما وراء نطاقها الأصلي.

من هناك، تحتاج الفرق إلى طريقة عملية للتفكير في المخاطر. هذا يعني إنشاء نهج مشترك لتصنيف المخاطر يعمل عبر الأنظمة المبنية داخليا، وحالات استخدام الذكاء الاصطناعي التوليدي، والبائعين الثالثين. بدون عدسة مخاطر مشتركة، المنظمات إما تفتيش بشكل زائد الأنظمة منخفضة التأثير أو تفتيش بشكل غير كاف الأنظمة التي تهم أكثر.

أخيرا، يجب أن تنتج الحوكمة دلائل كجزء من العمليات العادية. غالبا ما نناقش “Say It, Do It, Prove It” كطريقة لتحقيق الثقة في حوكمة الذكاء الاصطناعي. 捕获 الموافقات والتغييرات وإشارات المراقبة أثناء تشغيل الأنظمة يسمح للمنظمات بالاستجابة للمراجعات والحوادث وطلبات العملاء والأسئلة التنظيمية بثقة بدلا من إعادة البناء. هذه الأسس لا تحتاج إلى الكمال في البداية، ولكنها تحتاج إلى أن تكون متسقة ومتكررة إذا كانت الحوكمة ستتوسع.

لماذا تعتقد أن حوكمة الذكاء الاصطناعي تحتاج إلى أن تُعامل بجدية مماثلة لأمن المعلومات أو الحوكمة والرقابة، وأين يقدر القادة بشكل خاطئ العبء التشغيلي؟

حوكمة الذكاء الاصطناعي تحمل مخاطر 系统ية قابلة للمقارنة بأمن المعلومات والحوكمة والرقابة، ولكن مع تعقيدات إضافية. مثل فشل أمن المعلومات، يمكن أن تنتشر فشل الذكاء الاصطناعي بسرعة وبدون رؤية عبر المنظمة. مثل الحوكمة والرقابة، يتقاطع الذكاء الاصطناعي مع التزامات قانونية وأخلاقية وعملياتية. على عكس أي منهما، يمكن لأنظمة الذكاء الاصطناعي أن تتغير سلوكها مع مرور الوقت دون عمل بشري صريح.

حيث يقلل القادة من تقدير العبء العمل، هو في المتطلبات التشغيلية المستمرة. المراقبة مستمرة بدلا من دورية. التنسيق يمتد عبر فرق المنتج والبيانات وتكنولوجيا المعلومات والقانون والامتثال والشراء. إدارة التغيير مستمرة لأن النماذج والبائعين وحالات الاستخدام واللوائح تتطور في نفس الوقت.

المنظمات التي تعامل حوكمة الذكاء الاصطناعي كتمرين امتثال لمرة واحدة دائما ما ت투ق. تلك التي تتعامل معها كبنية تحتية تشغيلية، مثل أمن المعلومات أو هندسة الموثوقية، تكون في وضع أفضل للتوسع في الذكاء الاصطناعي بأمان ومستدام.

كما تدفع الولايات الأمريكية قواعد الذكاء الاصطناعي في حين يبقى السياسة الفيدرالية محل نزاع، كيف يجب على الشركات تصميم الحوكمة التي تبقى قوية خلال عدم اليقين التنظيمي؟

البيئة التنظيمية للذكاء الاصطناعي غير مؤكدة وتتطور. أكثر برامج الحوكمة متينة يتم بناؤها حول المتطلبات بدلا من اللوائح الفردية. بدلا من الاستجابة لكل قانون جديد بعملية مخصصة، يجب على المنظمات التركيز على التوقعات الشائعة التي تظهر عبر الولايات القضائية، مثل الجرد والشفافية والمسؤولية وتقييم المخاطر والرقابة البشرية والوثائق.

عندما تكون أنظمة الحوكمة قابلة للتعديل، يمكن ربط المتطلبات التنظيمية الجديدة بالضوابط الحالية بدلا من إجبار الفرق على إعادة اختراع نهجها كل مرة يتغير فيها المنظر.

الهدف ليس تحسين الامتثال للقواعد الحالية، ولكن التكيف مع التطورات.

متجهين إلى 2026، ما هي قدرات حوكمة الذكاء الاصطناعي التي تتوقع أن تصبح غير قابلة للتفاوض كما تتوسع المنظمات في الذكاء الاصطناعي عبر وحدات الأعمال أكثر؟

随着 تحرك الذكاء الاصطناعي من تجارب معزولة إلى أنظمة تؤثر على قرارات حقيقية، تتغير توقعات الحوكمة بسرعة. بحلول عام 2026، لن تتمكن المنظمات من الاعتماد على كتب اللعب التي عملت في 2024 و 2025، عندما كانت حوكمة الذكاء الاصطناعي غالبا ما تكون يدوية ومرة واحدة ومركزة على المراجعات الفردية. ستصبح المراقبة المستمرة هي المقامرة، لأن الوثائق الثابتة وتقييمات النقطة في الوقت لن ت满ي المنظمين والboards والموظفين أو العملاء في بيئة الذكاء الاصطناعي الديناميكية.

随着 اندماج الذكاء الاصطناعي في فرق وعمليات أكثر، ستحتاج المنظمات إلى حوكمة متسقة عبر سلاسل إمداد الذكاء الاصطناعي المتزايدة التعقيد. النماذج الداخلية والبائعون الثالثون وميزات الذكاء الاصطناعي المدمجة والمكونات المستقلة ستحتاج جميعها إلى الحوكمة من خلال نفس العدسة، بدلا من معاملتها ك điểm أعمى أو افتراض انتهاء المسؤولية عند الشراء.

ستحتاج الأدلة الجاهزة إلى توافرها عند الطلب مع تضييق تنفيذ اللوائح وتزايد التوقعات العامة للشفافية. هذا يعني 捕获 نشاط الحوكمة أثناء تصميم أنظمة الذكاء الاصطناعي وتنفيذها ومراقبتها، بدلا من إعادة بناء القرارات بعد حادث أو طلب مراجعة.

أخيرا، ستحتاج الحوكمة إلى اندماجها عبر دورة حياة الذكاء الاصطناعي الكاملة. ستصبح الرقابة قدرة تشغيلية متكاملة في SDLC و MLOps وعمليات الشراء للبائعين الثالثين. المنظمات التي تبني هذه القدرات سوف تكون في وضع أفضل للتكيف مع عدم اليقين التنظيمي والاستجابة للحوادث وتوسيع الذكاء الاصطناعي بشكل أسرع وأكثر أمانا مع استمرار التطورات.

إذا كنت مستشارا لشركة لديها بالفعل الذكاء الاصطناعي في الإنتاج ولكن لا يوجد برنامج حوكمة رسمي، ماذا سيكون واقعيا خلال أول 90 يوما؟

الأيام الثلاثون الأولى يجب أن تركز على الحصول على رؤية أساسية. هذا يعني تحديد ما هي أنظمة الذكاء الاصطناعي في الإنتاج، وفهم أين تؤثر على قرارات حقيقية، وتعيين ملكية واضحة.

المرحلة التالية تتعلق بتعيين ضوابط أساسية. يجب على المنظمات تحديد كيفية تصنيف المخاطر، وإدخال نقاط موافقة لمنظومات المخاطر الأعلى، وبدء مراقبة المناطق التي تهم أكثر.

في المرحلة النهائية، يجب أن تتحرك الحوكمة من الإعداد إلى التشغيل. يجب دمج المراقبة في سير العمل الحالية، ووضع مسارات الترقية واضحة، وبدء جمع الأدلة بشكل طبيعي مع تشغيل الأنظمة.

الهدف خلال أول 90 يوما ليس الكمال. هو الزخم. برنامج الحوكمة الذي يعمل بشكل غير مثالي في الممارسة أكثر قيمة من ذلك الذي يوجد فقط على الورق.

شكرا جزيلا على المقابلة الرائعة، القراء الذين يرغبون في التعلم أكثر يجب أن يزوروا ترستيبل.