ج. بول هينز، الرئيس التنفيذي لشركة Cinchy – سلسلة المقابلات

ج. بول هينز، الرئيس التنفيذي لشركة Cinchy، هو مسؤول أمن سيبراني وتكنولوجيا مع عقود من الخبرة في بناء وتوسيع شركات الأمن المؤسسية. وهو معروف جيدًا بقيادته في eSentire، حيث ساعد في نمو الشركة إلى مزود رئيسي لخدمات الكشف عن التهديدات والاستجابة المدارة، ويجلب خلفية قوية في الهندسة والأمن السيبراني والنمو المدعوم من رأس المال الخاص والمخاطر المؤسسية إلى Cinchy في الوقت الذي تركز الشركة على تبني الثقة بالذكاء الاصطناعي والحوكمة.

Cinchy هي شركة حوكمة الذكاء الاصطناعي وتعاون البيانات المؤسسية، تركز على مساعدة المنظمات في ربط الذكاء الاصطناعي والنظم والبيانات بشكل آمن. منصة PeriMind تعمل كطائرة تحكم للactions الذكاء الاصطناعي، مما يعطي المؤسسات الرؤية وتنفيذ السياسات والأمان والمراقبة لآلية تفاعل وكلاء الذكاء الاصطناعي مع أنظمة الأعمال، في حين يساعد منصة التعاون مع البيانات الفرق في إدارة ومشاركة البيانات الخاضعة للحوكمة في جميع أنحاء المنظمة دون الاعتماد على التكاملات المعقدة أو مخازن البيانات التكرارية.

قضيت أكثر من 15 عامًا في مساعدة بناء وتوسيع eSentire إلى واحدة من الشركات الأكثر شهرة في صناعة الأمن السيبراني. ما هي الدروس التي تعلمتها من تلك الرحلة التي تجلبها إلى دورك الجديد كمسؤول تنفيذي لشركة Cinchy، ولماذا كنت تعتقد أن هذا هو الوقت المناسب للتركيز على حوكمة الذكاء الاصطناعي وتبني الثقة بالذكاء الاصطناعي؟

أحد أكبر الدروس التي تعلمتها في eSentire هو أن المنظمات لا تعاني لأنها تفتقر إلى التكنولوجيا. تعاني لأن التكنولوجيا الناشئة تخلق تعقيدات تشغيلية أسرع مما يمكن للمعظم من الشركات إدارته بنفسها. أرى الذكاء الاصطناعي يتبع مسارًا مشابهًا بشكل ملحوظ.

التحدي الحالي ليس في حث الموظفين على التجربة مع الذكاء الاصطناعي. معظم المنظمات تقوم بذلك بالفعل. التحدي الحقيقي هو نقل الذكاء الاصطناعي إلى الإنتاج، حيث تؤثر القرارات على العملاء والنتائج المالية وامتثال التنظيمات والعمليات التجارية.

القطاعات الخاضعة للتنظيم بشكل كبير مثل الخدمات المالية توضح ذلك بشكل مثالي. لا تتحرك ببطء لأنها لا تفهم الذكاء الاصطناعي. تتحرك بحذر لأنها لا تستطيع بعد أن تثق بالذكاء الاصطناعي في العمل الحاسم. قبل أن يتخذ نظام الذكاء الاصطناعي قرارات، المنظمات تحتاج إلى إجابات على أسئلة أساسية: من وافق على تلك القرارات؟ كيف يتم رصدها؟ متى يتدخل الإنسان؟ ماذا يحدث إذا انحرفت النماذج أو فشلت أو أصبحت غير متاحة؟

تذكرني تلك الأسئلة بمكان الأمن السيبراني قبل خمسة عشر عامًا. تطور الأمن من مشكلة تكنولوجية إلى منهجية تشغيلية. أعتقد أن حوكمة الذكاء الاصطناعي على نفس المسار.

ذلك هو السبب في انضمامي إلى Cinchy. نعتقد أن تبني الثقة بالذكاء الاصطناعي (وليس تجربة الذكاء الاصطناعي) سيحدد العقد القادم، ونرى أن الحوكمة الإدارية للذكاء الاصطناعي ستصبح مهمة مثل ما كانت الحوكمة الإدارية للأمن السيبراني.

كثير من المؤسسات قد تجربت الذكاء الاصطناعي التوليدي خلال السنوات القليلة الماضية، ومع ذلك، قامت عدد قليل نسبيًا بنشر الذكاء الاصطناعي بنجاح عبر تدفقات العمل الحيوية. ما هي أكبر الحواجز التي تمنع المنظمات من الانتقال من التجارب إلى الإنتاج؟

لا أعتقد أن الشركات تعاني لأن التكنولوجيا ليست جيدة بما فيه الكفاية. أعتقد أنهم يعانون لأن الرهان يصبح أعلى بكثير بمجرد انتقال الذكاء الاصطناعي إلى الإنتاج.

التجربة شيء، ووضع الذكاء الاصطناعي في الإنتاج شيء آخر تمامًا. الآن يتم الوصول إلى بيانات المؤسسة والتفاعل مع أنظمة الأعمال، وربما حتى اتخاذ قرارات نيابة عن الموظفين. هذا عندما يبدأ القيادة في التساؤل بشكل hợpي: “كيف نتحكم في هذا؟ كيف نرصده؟ وكيف نعرف متى نحتاج إلى شخص ما؟”

هذه ليست أسبابًا لتباطؤ تبني الذكاء الاصطناعي. هي الأشياء التي تجعل تبني الذكاء الاصطناعي ممكنًا في المقام الأول. إذا كنت تستطيع الإجابة على تلك الأسئلة بثقة، تتحرك المنظمات بشكل أسرع.

قضيت معظم مسيرتك المهنية في تأمين بيئات المؤسسات ضد التهديدات السيبرانية. كيف يختلف تأمين منظمة مدعومة بالذكاء الاصطناعي عن تأمين بيئة تكنولوجيا المعلومات التقليدية؟

الأمن السيبراني التقليدي يركز على حماية النقاط النهائية، والهويات، والشبكات، والبيئات السحابية. يضيف الذكاء الاصطناعي سطح تهديد دائم للمؤسسة. كل نظام ذكاء اصطناعي يطرح مخاطر جديدة. الوصول إلى النماذج، وحقوق الوصول الزائدة، وصنع القرار المستقل، ومسارات الهجوم الجديدة التي لم تكن موجودة من قبل.

النقطة المهمة هي أن أمن الذكاء الاصطناعي لا يختلف عن الأمن السيبراني. إنه يمتد إلى الأمن السيبراني. المنظمات لا تزال تحتاج إلى كل سيطرة أمنية موجودة، ولكنها تحتاج الآن إلى أمان مصمم خصيصًا لأنظمة الذكاء الاصطناعي العاملة في الإنتاج.

الذكاء الاصطناعي المظلم أصبح تحديًا جديدًا. ما مدى خطورة هذا التحدي، وما هي المخاطر التي تقلل منها المنظمات؟

الذكاء الاصطناعي المظلم يصبح واحدًا من أسرع المخاطر التجارية الناشئة لأن فرق الإدارة تشجع على تبني الذكاء الاصطناعي السريع دون وضع الحوكمة في البداية. معظم الموظفين لا يعملون بملاءمة. هم يحاولون أن يكونوا أكثر إنتاجية. المشكلة هي أن أنظمة الذكاء الاصطناعي ترث جميع الأذونات التي يمتلكها المستخدمون.

يمكن للمanager التجريبي أن يكشف عن بيانات مالية سرية، أو معلومات العملاء، أو الملكية الفكرية عن طريق الخطأ من خلال سؤال الذكاء الاصطناعي لتحليلها.

ذلك هو السبب في أن المنظمات تحتاج إلى الرؤية وسيطرة السياسات والحوكمة، ليس لتباطؤ تبني الذكاء الاصطناعي، ولكن لجعلها آمنة بما يكفي للتوسع.

يتم منح وكلاء الذكاء الاصطناعي بشكل متزايد الوصول إلى أنظمة المؤسسة، والبيانات، وعمليات اتخاذ القرار. ما هي التحديات الجديدة للحوكمة والمساءلة التي تظهر عندما يمكن لوكلاء الذكاء الاصطناعي العمل بشكل مستقل بدلاً من توليد المحتوى فقط؟

وكلاء الذكاء الاصطناعي يغيرون بشكل أساسي محادثة الحوكمة لأنهم لا يولّدون المحتوى فقط. إنهم يأخذون إجراءات. كلما كان نظام مستقل يمكنه الموافقة على المعاملات أو الوصول إلى أنظمة المؤسسة أو اتخاذ قرارات الأعمال، المنظمات تحتاج إلى مساءلة كاملة.

كل إجراء يجب أن يجيب على أسئلة بسيطة:

• ماذا حدث؟
• لماذا حدث؟
• أي وكيل ذكاء اصطناعي اتخذ القرار؟
• من أذن به؟
• متى يجب على الإنسان التدخل؟

هذه المبادئ ليست جديدة. القطاعات تعيش مع متطلبات المساءلة لعدة عقود تحت لوائح مثل Sarbanes-Oxley. الذكاء الاصطناعي يمتد هذه التوقعات نفسها إلى العمال الرقميين المستقلين.

كثير من المنظمات تتسابق لتنفيذ الذكاء الاصطناعي بسبب الضغط التنافسي. كيف يمكن لقادة الأعمال تحقيق التوازن بين الحاجة إلى السرعة والحاجة إلى الحوكمة وامتثال التنظيمات وإدارة المخاطر؟

الحوكمة لا يجب أن تبطئ تبني الذكاء الاصطناعي. يجب أن تسريعه. المنظمات تتحرك بشكل أسرع عندما ثقة القيادة في البيئة التي تبنيها. هذا يعني إنشاء بنية تحتية للذكاء الاصطناعي آمنة ومراقبة، وتقييم النماذج بشكل مستمر للانحراف والأداء، وإدارة الوصول إلى أنظمة المؤسسة، وامتلاك سيطرات تشغيلية واضحة قبل وصول الذكاء الاصطناعي إلى الإنتاج.

كما اعتمدت المنظمات الكشف عن التهديدات والاستجابة المدارة لتسهيل الأمن السيبراني، أعتقد أن العديد منها سيعتمد الحوكمة الإدارية للذكاء الاصطناعي لاكتساب الخبرة دون الحاجة إلى بناء فرق متخصصة كبيرة داخليًا.

مجالس الإدارة تصبح أكثر انخراطًا في الإشراف على الذكاء الاصطناعي. ما هي الأسئلة التي يجب أن يطرحها أعضاء مجلس الإدارة على فرق الإدارة حول استراتيجية الذكاء الاصطناعي والحوكمة والمساءلة؟

يجب على مجالس الإدارة أن تسأل سؤالاً أساسياً: هل يمكن إدارة أن تثبت أن الذكاء الاصطناعي يعمل تحت نفس مستوى الحوكمة مثل أي نظام تجاري حاسم آخر؟

هذا يعني فهم مكان استخدام الذكاء الاصطناعي، ومَن يملكه، وكيف يتم رصد القرارات، وكيف يتم إدارة المخاطر، وكيف ستستمر المنظمة في العمل إذا أصبحت خدمة الذكاء الاصطناعي غير متاحة. المنظمات التي تنجح لن تكون بالضرورة تلك التي تتبنى الذكاء الاصطناعي بأسرع ما يمكن. سيكونون أولئك الذين يبنيون الانضباط التشغيلي لثقة الذكاء الاصطناعي على نطاق واسع.

قضت صناعة الأمن السيبراني عقودًا في تطوير الإطارات والسيطرات وأفضل الممارسات. هل هناك دروس من الأمن السيبراني يمكن تطبيقها مباشرة على حوكمة الذكاء الاصطناعي، أو هل يحتاج الذكاء الاصطناعي إلى نهج جديد تمامًا؟

الأمن السيبراني يقدم مخططًا رائعًا لحوكمة الذكاء الاصطناعي. إدارة الهوية، وسياسة الأقل امتياز، والمراقبة المستمرة، وسجلات المراقبة، واستجابة الحوادث، والمرونة جميعها لا تزال أساسية. ما هو جديد هو أن الذكاء الاصطناعي يطرح تحديات لم تكن موجودة في الأنظمة التقليدية، بما في ذلك انحراف النماذج، والهلوسة، وتمثيل البرمجة، والاعتماد على نماذج الأساس الثالثة. لذلك، الذكاء الاصطناعي لا يُستبدل بالأمن السيبراني. إنه يبني عليه مع طبقة حوكمة إضافية.

ماذا يبدو “تبني الذكاء الاصطناعي الموثوق” في الواقع؟ هل هناك مبادئ حوكمة أو ضوابط تشغيلية يجب أن تضعها كل مؤسسة قبل توسيع مبادرات الذكاء الاصطناعي؟

أنا أميل إلى التفكير فيه بنفس الطريقة التي كنا نفكر فيها في الأمن السيبراني من قبل. لم يكن أحد يسأل عما إذا كان الأمن يخلق قيمة. السؤال كان عما إذا كنت تثق في بيئتك بما يكفي لاستمرار العمل.

الذكاء الاصطناعي يذهب في نفس الاتجاه تمامًا. إذا كنت لا تستطيع رؤية ما يفعله، أو التحكم في ما يصل إليه، أو فهم سبب اتخاذه لبعض القرارات، فمن المحتمل أنك لن تسمح له بمعالجة أي شيء مهم.

بمجرد أن تحصل على تلك الثقة، يحدث التبني بشكل طبيعي. المنظمات تتوقف عن معاملة الذكاء الاصطناعي كتجربة مثيرة للاهتمام وت开始 معاملته كجزء آخر من الأعمال.

نظرًا إلى الأعوام الثلاثة إلى الخمس القادمة، كيف ترى العلاقة بين حوكمة الذكاء الاصطناعي والمنافسة تطور؟ هل ستصبح الحوكمة القوية ميزة تميز، أو مجرد شرط للقيام بأعمال؟

خلال الأعوام الثلاثة إلى الخمس القادمة، لن تكون الحوكمة القوية للذكاء الاصطناعي ميزة تميز. ستصبح شرطًا تجاريًا. المنظمات التي تقيم الحوكمة في وقت مبكر ستبني الذكاء الاصطناعي بشكل أسرع لأنها ستكون لديها الثقة للنقل الحمل الحاسم إلى الإنتاج. تلك التي لا تفعل ذلك ستبقى عالقة في التجارب بينما تدرك المنافسين مكاسب قابلة للقياس في الإنتاجية والابتكار وخبرة العملاء. في النهاية، لن تبطئ الحوكمة تبني الذكاء الاصطناعي. سيكون السبب الذي تجعل المنظمات تثق بالذكاء الاصطناعي بما يكفي لتبنيه بالكامل.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في التعلم المزيد يجب أن يزوروا Cinchy.