Claudionor Coelho، كبير مسؤولي الذكاء الاصطناعي في Zscaler – سلسلة المقابلات

Claudionor Coelho هو كبير مسؤولي الذكاء الاصطناعي في Zscaler، وهو مسؤول عن قيادة فريقه لfinding طرق جديدة لحماية البيانات والأجهزة والمستخدمين من خلال تقنيات التعلم الآلي المتقدم (ML) والتعلم العميق والذكاء الاصطناعي التوليدي. قبل انضمامه إلى Zscaler، شغل منصب كبير مسؤولي الذكاء الاصطناعي ونائب الرئيس الأول للهندسة في Advantest. في السابق، كان كوهيلو نائب الرئيس ورئيس مختبرات الذكاء الاصطناعي في Palo Alto Networks. كما شغل مناصب في التعلم الآلي والتعلم العميق في Google.

Zscaler يركز على تعزيز التحول الرقمي من خلال تمكين المنظمات من تحقيق المزيد من المرونة والكفاءة والمتانة والأمان. منصة Zero Trust Exchange السحابية الخاصة بالشركة مصممة لحماية المستخدمين من الهجمات الإلكترونية وفقدان البيانات من خلال الاتصال الآمن للمستخدمين والأجهزة والتطبيقات، بغض النظر عن موقعهم. تقدم Zscaler خدماتها إلى آلاف العملاء في جميع أنحاء العالم، مع التركيز على الأمان القوي والاتصال السلس.

ككبير مسؤولي الذكاء الاصطناعي في Zscaler، كيف قمت بتشكيل استراتيجية الشركة للذكاء الاصطناعي، خاصة في دمج الذكاء الاصطناعي مع الأمن السيبراني؟

قامت Zscaler بإحراز تقدم كبير في مجال الذكاء الاصطناعي للأمن السيبراني، مما يميزها عن المنافسين. تستخدم منصة Zero Trust الخاصة بالشركة الذكاء الاصطناعي لاكتشاف وหยصاد سرقة بيانات الاعتماد وتخريب المتصفحات من صفحات التصيد. توفر المعلومات الاستخباراتية من أكثر من 400 مليار معاملة يومية تحليلات في الوقت الفعلي التي تعزز الدفاع ضد الهجمات الإلكترونية المتطورة. بالإضافة إلى ذلك، نتعاون مع NVIDIA لتسليم ابتكارات أمنية وتكنولوجية مدعومة بالذكاء الاصطناعي التوليدي، مثل Zscaler ZDX Copilot، الذي يبسط عمليات تكنولوجيا المعلومات والشبكات، مع معالجة البيانات من منصة Zero Trust Exchange ™ لالدفاع عن الشركات بشكل استباقي ضد التهديدات. وأخيراً، مع استحواذ Avalor، قمنا بتوسيع قدرات Zero Trust Exchange ™ باستخدام Data Fabric للأمان. مع أكثر من 150 تكاملًا مسبقًا، يتم تحديد وتحديد الثغرات الحاسمة وتحسين الكفاءات التشغيلية.

لقد أسست شركات متعددة، بما في ذلك Kunumi، وشغلت مناصب قيادية في شركات رائدة. كيف أثرت خلفيتك المبتكرة على نهجك كقائد شركات للذكاء الاصطناعي في Zscaler؟

عندما كنت نائب الرئيس الأول للهندسة في Jasper Design Automation، وهي شركة بدء تشغيل في أتمتة التصميم الإلكتروني، كنا نتنافس مع شركات تبلغ قيمتها مليارات الدولارات ولكن حققنا أكثر من 70-80٪ من الحصة السوقية بسبب الابتكار والعمليات التجارية والمرونة. واحدة من الكتب التي كنت أعتمد عليها دائمًا خلال اجتماعاتنا الاستراتيجية هي “التنافس على الحافة: الاستراتيجية كفوضى منظمة” للبروفيسور كاثلين م. إيزنهاردت. على الرغم من أن هذه الكتاب هو من عام 1998، إلا أنه لا يزال ساريًا لما نراه مع الذكاء الاصطناعي التوليدي اليوم.

لم يحدث من قبل أن تحرك تكنولوجيا عالمية مثل هذه السرعة. قام مهندس موتورولا مارتن كوبر بالدعوة الهاتفية الخلوية الأولى في عام 1973، ولكن استغرق العالم 10 سنوات حتى افتتح أول شبكة تجارية و 24 عامًا أخرى حتى إصدار iPhone، مما غير الطريقة التي نتفاعل بها مع أجهزة الحاسوب.

تم إصدار ChatGPT في نوفمبر 2022. في العام التالي، ناقشنا في حلقة دراسية برعاية المنتدى الاقتصادي العالمي أن الذكاء الاصطناعي العام (AGI) سيأتي قريباً. في ذلك الوقت، كان فقط عدد قليل منا يدرك أننا يمكن أن نستخدم الوكلاء لإنشاء العديد من الأنظمة الذكية عن طريق ملء الفجوات في LLMs بالأدوات – حتى قبل AGI. في عام 2024، تحول النقاش إلى وكلاء الذكاء الاصطناعي، ونحن في نهاية العام نبدأ في رؤية العديد من وكلاء الذكاء الاصطناعي الذكي (مثل ZDX Copilot أو منصة المدونة Kiroku).

يمكن أن يحدث هذا السرعة فقط في بيئة بدء تشغيل، لذلك فهي تسبب ضغطًا كبيرًا على المنظمات الكبيرة، التي تكافح لتصبح مرنة بما يكفي لتسريع تكنولوجيا السرعة غير المسبوقة.

مع خبرتك في قيادة الشركات في البرازيل والولايات المتحدة، ما هي بعض الاختلافات الرئيسية بين السوقين فيما يتعلق بتبني الذكاء الاصطناعي والأمن السيبراني؟

مناقشة الشركات الناشئة هي طريقة جيدة لبدء توضيح التشابهات والاختلافات بين الأسواق، منذ أن تكون هذه هي حيث غالبًا ما ترى الابتكارات الراديكالية قبل وصولها إلى الشركات الكبيرة. استراتيجية شائعة في البرازيل للشركات الناشئة هي نسخ الشركات الناشئة الناجحة في الولايات المتحدة، لأن الشركات الناشئة في الولايات المتحدة عادة ما تنظر إلى السوق الداخلي أولاً (على الرغم من أن هذا يتغير). ومع ذلك، كان للولايات المتحدة نظام رأس مال أكثر استقرارًا مما يجعل من الأسهل بدء شركة.

أنشأت Kunumi في عام 2014 كأول شركة تعلم sâu في البرازيل. تم بيعها إلى بنك Bradesco في وقت سابق من هذا العام. بشكل عام، لا تعرف الشركات في البرازيل كيف ستتبنى الذكاء الاصطناعي التوليدي، وسترون الكثير من الأخطاء – كما هو الحال في الولايات المتحدة. لقد بنيت أربعة وكلاء في حياتي – الأول في عام 2016، أثناء وجودي في Synopsys. كان وكيلًا يمكنه مسح سجلات التجميع والتنفيذ لأجهزة التمثيل الكبيرة، البحث عن المعلومات المتعلقة بالأسئلة الخاصة بالمستخدم، مع دعم متعدد اللغات. في ذلك الوقت، لم تكن هناك محولات، ولا LLMs، وكانت الترجمة مختلفة جدًا عما لدينا اليوم.

في عام 2020، كنت باحثًا في Google أعمل في ضغط نموذج التعلم العميق وكمية، مع CERN باستخدام ما أنشأته في البحث عن الجسيمات دون الذرية. عندما كنت أعتقد أننا في حرب على البيانات، أصبح واضحًا أن الأمن السيبراني هو مشكلة عالمية لا تقتصر على دولة أو أخرى. لذلك قررت الانتقال إليه.

منذ بضعة أشهر، كنت أتحدث مع مسؤول حكومي أجنبي كان يقول إن الأمن السيبراني هو مشكلة الولايات المتحدة ووكالته لا تقلق بشأن شيء – فقط لتتعرض للهجوم الإلكتروني في منظمته بعد بضعة أسابيع.

أخيرًا، عند مقارنة حالة الأمن السيبراني بشحنة الفدية بين البرازيل والولايات المتحدة، الحقيقة هي أن شحنة الفدية المقدرة متشابهة تقريبًا.

كيف تختلف البيئة التنظيمية للذكاء الاصطناعي والأمن السيبراني بين البرازيل والولايات المتحدة، وكيف يؤثر ذلك على الابتكار في هذه المناطق؟

بسبب سرعة الذكاء الاصطناعي التوليدي، تعترف الحكومات بضرورة حماية شيء ما، لكنها غالبًا ما تكون غير واضحة فيما هي تحاول حمايته. ما هو التأثير إذا قمنا بإنشاء قوانين لل LLMs في عام 2023، وفي عام 2024 نحن نستخدم وكلاء الذكاء الاصطناعي؟ نحن بحاجة إلى لوائح، ولكننا أيضًا بحاجة إلى إجراء تحليل غير عاطفي للبيئة التنظيمية لمعرفة كيف يمكننا حماية المواطنين المحليين بشكل أفضل.

على سبيل المثال، عندما يقوم الذكاء الاصطناعي بصنع القرارات بناءً على مدخلات رقمية دقيقة تمثل أسبابًا أو سمات، غالبًا ما يكون التحليل غير كاملاً ويields نتيجة حية معيبة. على سبيل المثال، إذا قام خوارزمية الذكاء الاصطناعي بصنع قرار القرض لشخص بناءً على معيار غامض مثل “الاحتمالية” وعامل مثل الراتب أو العرق، يمكنك بسهولة رؤية سيناريو حيث يتم رفض القرض بناءً على التأثير الشبكي لأحد هذه العوامل. مع الذكاء الاصطناعي التوليدي، يصبح المشكلة أسوأ، بسبب عدم khả năng LLMs لجلب البيانات الخارجية لصنع افتراضات المنطق. من المهم التأكد من أن لدينا لوائح لا تسمح للنظم المعيبة بصنع القرارات (خاصة بدون إشراف عميق)، لأنها محكمة لارتكاب الأخطاء.

من ناحية أخرى، كنت سعيدًا للغاية بالقدرة على القيادة الذاتية الكاملة لسيارات Tesla، والتي أظهرت، بالمقارنة مع البشر، أنها تتجاوز عدد الأميال المقطوعة قبل أن تكون متورطة في حوادث. نعم، họ làm lỗi، ولكن حتى في الطائرات مع طيار مساعد، يجب على الطيارين أن يأخذوا السيطرة على التحكم في حالة الطوارئ.

فيما يتعلق بالأمن السيبراني، ناقش العديد من المنظمات الأمريكية (مثل JCDC.AI، NIST، CISA، إلخ) ضرورة معالجة الذكاء الاصطناعي والأمن السيبراني. بالطبع، في الأسواق السريعة أو التكنولوجيا، تحتاج إلى التكيف المستمر مع التغييرات، وعندما تتحرك بسرعة كبيرة، تحتاج إلى العمل على حافة الفوضى.

Zero Trust Exchange من Zscaler هو جزء رئيسي من نموذج الأمان الخاص بهم. كيف يعزز الذكاء الاصطناعي هذه المنصة، وما هي بعض التطورات الأكثر إثارة في هذا المجال؟

تساعد منصة Zero Trust التابعة لشركة Zscaler المنظمات على إنشاء بيئة أكثر أمانًا لتنفيذ الذكاء الاصطناعي، ولكن المنصة تستخدم أيضًا الذكاء الاصطناعي في العديد من الطرق، بدءًا من ZDX Copilot الذي يقدم ابتكارات أمنية مدعومة بالذكاء الاصطناعي التوليدي. تم تطوير الوكيل بالتعاون مع NVIDIA، ويستخدم الذكاء الاصطناعي التوليدي لالدفاع استباقيًا عن الشركات ضد التهديدات وتبسيط عمليات تكنولوجيا المعلومات والشبكات، مع معالجة البيانات من منصة Zero Trust Exchange ™ لالدفاع عن الشركات بشكل استباقي ضد التهديدات. كما قامت Zscaler بتعزيز تحديد الثغرات التنبؤي bằng إضافة Data Fabric للأمان إلى Zero Trust Exchange. أخيرًا، يعيش الذكاء الاصطناعي في قلب منصة Zero Trust التابعة لشركة Zscaler، واكتشاف وหยصاد سرقة بيانات الاعتماد وتخريب المتصفحات من صفحات التصيد. تعزز التحليلات في الوقت الفعلي، بناءً على المعلومات الاستخباراتية من أكثر من 400 مليار معاملة يومية، الدفاع ضد الهجمات الإلكترونية المتطورة.

أصبح الذكاء الاصطناعي أكثر مركزية في مكافحة التهديدات السيبرانية. كيف ترى الذكاء الاصطناعي يتطور لمواجهة تعقيدات المخاطر السيبرانية المتزايدة، خاصة في مجال أجهزة IoT و OT؟

تطورت مناظر التهديدات بشكل لا لبس فيه مع ظهور الهجمات الإلكترونية القائمة على الذكاء الاصطناعي، لذلك قد تقاتل المنظمات الذكاء الاصطناعي بالذكاء الاصطناعي. التطور الرئيسي سيكون تعزيز حلول الذكاء الاصطناعي بمصادر بيانات إضافية.

كما يزداد عدد الهجمات الإلكترونية، نحن بحاجة إلى استخدام المزيد من التأتمتة مع الذكاء الاصطناعي لاكتشاف ومعالجة المخاطر السيبرانية. ومن الجدير بالذكر أن الذكاء الاصطناعي والذكاء الاصطناعي التوليدي يتم استخدامهما حاليًا لإنشاء جبهات هجوم جديدة، وبالتالي نحن بحاجة إلى رفع مستوى اللعبة عن طريق ربط المزيد من الإشارات مما فعلنا من قبل.

في حالة أجهزة IoT و OT، تشكل هذه الأجهزة مخاطر كبيرة للمنظمات، حيث لا تستخدم العديد من أجهزة IoT أحدث برامج التكنولوجيا – على الرغم من أنك يمكن بسهولة شراء مفتاح التوجيه اللاسلكي، والتلفزيونات المتوافقة مع الإنترنت، والغسالات، والفرن، إلخ. لسنوات، رأينا مقالة عديدة التي تظهر الثغرات الأمنية التي نحن معرضون لها في IoT / OT.

نحن بحاجة إلى الوعي المستمر وتعزيز الدفاع السيبراني عن طريق تحليل جميع أنواع البيانات والإشارات لاكتشاف الشذوذ والتهديدات المحتملة. للفوز في هذه اللعبة، نحن بحاجة إلى نماذج الذكاء الاصطناعي المتقدمة المدربة بملايين البيانات في الوقت الفعلي. يلعب الذكاء الاصطناعي التوليدي دورًا أساسيًا، من خلال تمكين الشركات من تحليل و تلخيص النتائج للمستخدمين و مشغلي الأمان.

كعضو في مجموعات العمل للذكاء الاصطناعي والأمن السيبراني في المنتدى الاقتصادي العالمي، كيف تؤثر المناقشات العالمية حول أخلاقيات الذكاء الاصطناعي والأمن السيبراني على نهجك ل دورك في Zscaler؟

بسبب سرعة التكنولوجيا، تحتاج الحكومات والمنظمات إلى معلومات أساسية، وأنا أرى هذا كدور المنتدى الاقتصادي العالمي. الذكاء الاصطناعي والأمن السيبراني وحدهما لهما حاجة كافية لتطلب مجموعات منفصلة، ولكن عندما تدمج هذين، فهو تقريبًا مجال جديد بحد ذاته. على سبيل المثال، أظهرت Gartner هذا العام أن الذكاء الاصطناعي التوليدي يزيد من سطح الهجوم بشكل كبير، مما يجعله من الحقن في البرنامج إلى هجمات التطبيق و هجمات النموذج و حتى هجمات الإضافة.

بعض هذه الهجمات هي محددة ل LLMs مثل ChatGPT، ولكن إذا كنت تعتبر أننا نتحرك من LLMs إلى وكلاء الذكاء الاصطناعي و أنظمة وكلاء متعددة، تحتاج إلى考虑 المزيد من المعلومات. على سبيل المثال، في LLMs قد تهتم بالحقن في البرنامج، وسلوك الخلايا النائمة (تحرير LLM للاستجابة بشكل مختلف بناءً على الكلمات الرئيسية الخاصة)، أو تسرب المعلومات الخاصة. عندما نناقش وكلاء الذكاء الاصطناعي، نحن بحاجة إلى考虑 هجمات على الأدوات ومصادر البيانات أيضًا – حتى افتراض أن حقن SQL و OS قد يكون ممكنًا مرة أخرى.

أخيرًا، نحن بحاجة إلى إعداد قوتنا العاملة لاستخدام الذكاء الاصطناعي التوليدي، بتوفير الأدوات والبيئة التي يمكنهم فيها العمل في هذا العالم الجديد.

لقد كنت مدافعًا قويًا عن التنوع والشمول، خاصة كمراقب تنفيذي ل Zscaler لللاتينيين والهسبانيين ERG، Sabor. كيف أثرت خلفيتك الثقافية على أسلوب قيادتك ونهجك لتطوير الذكاء الاصطناعي؟

كлатيني فخور ولد وتربى في البرازيل، أنا متحمس لدعم وتأهيل المجتمعات اللاتينية والهسبانية في Zscaler. أشعر bằng إنجاز كبير في أنني قادر على المساهمة في عالم أفضل من خلال الأمن السيبراني، حيث نساعد على حماية المجتمع في عالم معقد بشكل متزايد. قيمتي ساعدتني على الوصول إلى حيث أنا اليوم، وأنا فخور جدًا بما أتي منه.

نصيحتي ستكون ألا تنسى أبدًا من أين أتيت وما فعلته. كن دائمًا فخورًا بما يجعلك فريدًا، ولكن أيضًا تعرف أن التنوع هو الملك. أنا أعيش مع نفسي 24 ساعة في اليوم. إذا كنت أستأجر أشخاصًا يشبهونني ويوافقون معي، لن أزيد معرفتي. توظيف أشخاص من مواقع و خلفيات متعددة يساعدنا على فهم احتياجات قاعدة عملائنا العالمية بشكل أفضل.

أخيرًا، ما هو ما يثيرك أكثر حول مستقبل الذكاء الاصطناعي في الأمن السيبراني، وما هو الدور الذي ترى Zscaler يلعبه في هذا المستقبل؟

الذكاء الاصطناعي لا يغير الأساسيات الفعالة للدفاع السيبراني – إنه يبرز أهميته. نتوقع رؤية الشفافية، وممارسات الأمان القوية، والرصد المستمر التي تنتشر في جميع أنحاء الصناعة. يجب على المنظمات أن تتبنى نهجًا شاملاً للأمان، وتنفذ تدابير متقدمة لاكتشاف والاستجابة للتهديدات. هذا يشمل تعزيز ثقافة الوعي بالأمان، وإجراء فحوصات أمنية منتظمة، والتعاون مع أصحاب المصلحة لتطوير استراتيجيات أمنية فعالة. من خلال القيام بذلك، يمكن للمنظمات خفض خطر الاختراقات وحماية معلوماتها الحساسة.

تعتزم Zscaler حماية خصوصية المستخدم، و sử dụng تقنيات متقدمة لتحويل البيانات وضمان إبقائها خارج LLMs، ومنع تحديد المستخدمين الفردية أو المنظمات. بينما قد نستكشف ضبط LLMs في المستقبل، سيظل إجراؤنا الصارم لضمان خصوصية البيانات لضمان عدم تعرض بيانات المستخدمين للتأثير هامًا. هدفنا هو استغلال قوة الذكاء الاصطناعي لتحسين الأمان دون المساس بخصوصية العملاء.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا Zscaler.