نيك كاثمان، مسؤول أمن المعلومات ومدير تقنية المعلومات في LogicGate – سلسلة المقابلات

نيكولاس كاثمان هو مسؤول أمن المعلومات ومدير تقنية المعلومات في LogicGate، حيث يقود برنامج أمن المعلومات في الشركة، ويشرع في تحسينات أمنية للمنصة، ويتفاعل مع العملاء في إدارة مخاطر الأمن السيبراني. مع أكثر من عقدين من الخبرة في مجال تكنولوجيا المعلومات و18 عامًا في مجال الأمن السيبراني، بنى كاثمان وقيادة عمليات أمنية عبر الشركات الصغيرة وشركات فورتشن 100.

LogicGate هي منصة مخاطر وامتثال تساعد المنظمات على توفير وتوسيع برامج الحوكمة والرقابة والامتثال. من خلال منتجها الرئيسي، Risk Cloud، تمكّن LogicGate الفرق من تحديد وتقييم وإدارة المخاطر عبر المؤسسة مع سير عمل مخصصة ورسومات الوقت الحقيقي والتكاملات. تدعم المنصة مجموعة واسعة من الحالات، بما في ذلك مخاطر الطرف الثالث وامتثال الأمن السيبراني وإدارة التدقيق الداخلي، مما يساعد الشركات على بناء استراتيجيات مخاطر أكثر مرونة.

كيف ترى تحول مسؤوليات هذه الأدوار في السنوات 2-3 القادمة مع تطور الذكاء الاصطناعي؟

الذكاء الاصطناعي يتحول بالفعل هذه الأدوار، ولكن في السنوات 2-3 القادمة، أعتقد أننا سنجهد في ظهور الذكاء الاصطناعي العامل الذي يمكن أن يعيد تصور كيفية التعامل مع العمليات التجارية اليومية. كل ما ي goto إلى مكتب دعم تكنولوجيا المعلومات – مثل إعادة تعيين كلمات المرور وتثبيت التطبيقات والمزيد – يمكن التعامل معه بواسطة وكيل ذكاء اصطناعي. حالة استخدام حرجة أخرى ستكون استخدام وكلاء الذكاء الاصطناعي لمعالجة تقييمات التدقيق المملة، مما يسمح لمسؤولي أمن المعلومات ومديري تكنولوجيا المعلومات بالتركيز على الطلبات الاستراتيجية.

كيف يجب على الشركات التعامل مع تطبيق الذكاء الاصطناعي مع الحفاظ على موقف أمني قوي في ظل الإلغاء التنظيمي والتقليص؟

في حين أننا نشهد اتجاه إلغاء تنظيمي في الولايات المتحدة، فإن التنظيمات تتعزز في الواقع في الاتحاد الأوروبي. إذا كنت شركة متعددة الجنسيات، فانتظر أن تكون لديك متطلبات تنظيمية عالمية حول استخدام الذكاء الاصطناعي. بالنسبة للشركات التي تعمل فقط في الولايات المتحدة، أرى أن هناك فترة تعلم فيما يتعلق بتطبيق الذكاء الاصطناعي. أعتقد أن من المهم بالنسبة لتلك الشركات إنشاء سياسات حوكمة قوية للذكاء الاصطناعي والحفاظ على بعض الإشراف البشري في عملية التطبيق، والتأكد من أن لا شيء يخرج عن السيطرة.

ما هي أكبر النقاط العمياء التي تراها اليوم عند دمج الذكاء الاصطناعي في الإطارات الأمنية الحالية؟

هناك بعض المجالات التي يمكنني التفكير فيها، ولكن النقطة العمياء الأكثر تأثيرًا ستكون حيث تقع بياناتك وأين تنتقل. إدخال الذكاء الاصطناعي سيجعل الرقابة في ذلك المجال أكثر تحديًا. الموردين يتيحون ميزات الذكاء الاصطناعي في منتجاتهم، ولكن تلك البيانات لا تذهب دائمًا مباشرة إلى نموذج/مورد الذكاء الاصطناعي. هذا يجعل الأدوات الأمنية التقليدية مثل حماية البيانات ومراقبة الويب فعالة بشكل أعمى.

ما هي المكونات الأساسية لإطار حوكمة يعمل بالفعل؟

عندما أقول “النمور الورقية”، أنا أ اشاره إلى استراتيجيات الحوكمة حيث يعرف فقط فريق صغير العمليات والمعايير، ولا يتم تطبيقها أو حتى فهمها في جميع أنحاء المنظمة. الذكاء الاصطناعي منتشر جدًا، مما يؤثر على كل فريق وكل فريق. استراتيجيات “الحجم الواحد” لن تعمل. مكونات إطار الحوكمة القوي تختلف، ولكن الهيئات الاستشارية مثل IAPP وOWASP وNIST لديها إطارات جيدة لتحديد ما يجب تقييمه. الجزء الأكثر صعوبة هو تحديد متى يتم تطبيق المتطلبات على كل حالة استخدام.

كيف يمكن للشركات تجنب انحراف نموذج الذكاء الاصطناعي وضمان الاستخدام المسؤول مع مرور الوقت دون تعقيد السياسات؟

الانحراف والتدهور هو جزء من استخدام التكنولوجيا، ولكن الذكاء الاصطناعي يمكن أن يسرع هذه العملية بشكل كبير. ولكن إذا أصبح الانحراف كبيرًا جدًا، فإن تدابير تصحيحية سوف تكون ضرورية. استراتيجية اختبار شاملة تبحث عن وقياس الدقة والتحيز وغيرها من العلامات الحمراء ضرورية مع مرور الوقت. إذا أرادت الشركات تجنب التحيز والانحراف، يجب أن يبدأوا بضمان وجود الأدوات اللازمة لتحديد وقياسها.

ما دور سجلات التغيير والتحديثات السياسية المحدودة والاتصالات التفاعلية في الحفاظ على حوكمة الذكاء الاصطناعي المرنة؟

في الوقت الحالي، تلعب دورًا في تقليل المخاطر والمسؤولية对于 المزود، ولكن الحلقات التفاعلية تضعف قدرة العملاء والمستخدمين على أداء حوكمة الذكاء الاصطناعي، خاصة إذا حدثت تغييرات في آليات الاتصال بشكل متكرر.

ما هي المخاوف التي لديك حول انحياز الذكاء الاصطناعي والتمييز في التقييم الائتماني أو التمويل، خاصة مع خدمات “اشتر الآن، ادفع لاحقًا”؟

في العام الماضي، تحدثت إلى باحث في الذكاء الاصطناعي والتعلم الآلي في بنك كبير متعددة الجنسيات الذي كان يجرّب الذكاء الاصطناعي عبر نماذج المخاطر. النماذج، حتى عندما تم تدريبها على مجموعات بيانات كبيرة ودقيقة، كانت تتخذ قرارات غير متوقعة وغير مدعومة لتمويل أو رفض التمويل. على سبيل المثال، إذا ذكر كلمة “ائتمان جيد” في سجل المحادثة أو الاتصالات مع العملاء، فإن النماذج كانت ترفض القرض افتراضيًا – بغض النظر عما إذا قالها العميل أو موظف البنك. إذا كان الذكاء الاصطناعي سوف يعتمد عليه، فإن البنوك تحتاج إلى رصد أفضل ومسؤولية، وتلك “ال驚ازات” تحتاج إلى تقليلها.

ما هو رأيك حول كيفية تدقيق أو تقييم الخوارزميات التي تتخذ قرارات عالية المخاطر — ومن يجب أن يكون مسؤولاً؟

هذا يعود إلى نموذج الاختبار الشامل، حيث من الضروري اختبار وتحديد معايير الخوارزمية/النماذج في الوقت الحقيقي قدر الإمكان. هذا يمكن أن يكون صعبًا، حيث قد يكون للخروج من النموذج نتائج مرغوبة سوف تحتاج إلى بشر لتحديد القيم غير العادية. على سبيل المثال، نموذج يرفض جميع القروض سوف يكون لديه تصنيف مخاطر جيد، حيث لن يحدث أي قروض يعتمد عليها أبدًا. في هذه الحالة، المنظمة التي تطبق النموذج/الخوارزمية يجب أن تكون مسؤولة عن نتيجة النموذج، تمامًا كما لو كانت البشر يأخذون القرار.

كيف يغير أدوات الذكاء الاصطناعي من مشهد المخاطر وتحديدات التأمين نفسها؟

أدوات الذكاء الاصطناعي جيدة في نشر كميات كبيرة من البيانات وfinding أنماط أو اتجاهات. على جانب العملاء، هذه الأدوات سوف تكون أداة في فهم مخاطر المنظمة الفعلية وإدارتها. على جانب المُصدر، تلك الأدوات سوف تكون مفيدة في العثور على عدم الاتساق والمنظمات التي تصبح غير ناضجة مع مرور الوقت.

كيف يمكن للشركات استخدام الذكاء الاصطناعي لخفض المخاطر الأمنية وتفاوض على شروط أفضل في سوق التأمين الحالي؟

اليوم، أفضل طريقة لاستخدام الذكاء الاصطناعي لتقليل المخاطر وتفاوض على شروط تأمين أفضل هي تصفية الضوضاء والتحوّل، مما يساعدك على التركيز على المخاطر الأكثر أهمية. إذا قمت بتقليل تلك المخاطر بطريقة شاملة، يجب أن تنخفض أسعار التأمين على السيبرانية. من السهل أن تتعثر مع حجم المخاطر. لا تتعب نفسك في محاولة معالجة كل قضية عندما يمكن أن يكون التركيز على الأكثر أهمية له تأثير أكبر.

ما هي الخطوات التكتيكية التي تنصح بها للشركات التي تريد تطبيق الذكاء الاصطناعي بشكل مسؤول — ولكن لا تعرف من哪里 تبدأ؟

أولاً، عليك فهم حالات استخدامك ووثيقة النتائج المرغوبة. الجميع يريد تطبيق الذكاء الاصطناعي، ولكن من المهم التفكير في أهدافك أولاً والعمل بعكسها — شيء أعتقد أن العديد من المنظمات ي투غون معه اليوم. بمجرد أن تفهم حالات استخدامك، يمكنك البحث في الإطارات المختلفة للذكاء الاصطناعي وفهم أي التحكمات المعمول بها تهم حالات استخدامك وتطبيقك. الحوكمة القوية للذكاء الاصطناعي هي أيضًا حرجة للأعمال، لتقليل المخاطر وزيادة الكفاءة، حيث أن التأتمتية ليست مفيدة إلا بمقدار مدخلات البيانات. المنظمات التي تستخدم الذكاء الاصطناعي يجب أن تفعل ذلك بشكل مسؤول، حيث أن الشركاء والمشترين يطرحون أسئلة صعبة حول انتشار واستخدام الذكاء الاصطناعي. عدم معرفة الإجابة يمكن أن يعني تفويت صفقات أعمال، مما يؤثر مباشرة على الأساس.

إذا كنت تتنبأ بأكبر مخاطر أمنية متعلقة بالذكاء الاصطناعي في غضون خمس سنوات — كيف يمكننا الاستعداد اليوم؟

تنبؤي هو أن مع بناء الذكاء الاصطناعي العامل في المزيد من العمليات التجارية والتطبيقات، المهاجمون سوف يشاركون في الاحتيال والاستغلال لتحويل تلك الوكلاء إلى نتائج خبيثة. لقد رأينا هذا بالفعل مع تحريف وكلاء خدمة العملاء، مما أدى إلى صفقات غير مصرح بها ومدفوعات. المهاجمون استخدموا خدع لغة للتحايل على السياسات والتدخل في اتخاذ القرارات.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة LogicGate.