كلوديونور كويلو، رئيس قسم الذكاء الاصطناعي في Zscaler – سلسلة المقابلات

كلوديونور كويلو هو رئيس قسم الذكاء الاصطناعي في Zscaler، ويتحمل مسؤولية قيادة فريقه لتحديد طرق جديدة لحماية البيانات والأجهزة والمستخدمين من خلال تقنيات الذكاء الاصطناعي المطبقة الحديثة، مثل التعلم الالي والتعلم العميق والذكاء الاصطناعي التوليدي. قبل انضمامه إلى Zscaler، شغل منصب رئيس قسم الذكاء الاصطناعي ونائب الرئيس التنفيذي للهندسة في Advantest. كما كان نائب الرئيس ومدير مختبرات الذكاء الاصطناعي في Palo Alto Networks (PANW ). كما شغل مناصب في مجال التعلم الالي والتعلم العميق في Google (GOOGL ).

Zscaler تركز على تعزيز التحول الرقمي من خلال تمكين المنظمات من تحقيق المزيد من المرونة والكفاءة والقدرة على الصمود والأمان. منصة Zero Trust Exchange السحابية الخاصة بالشركة مصممة لحماية المستخدمين من الهجمات السيبرانية وفقدان البيانات من خلال الاتصال الآمن للمستخدمين والأجهزة والتطبيقات، بغض النظر عن موقعهم. تقدم Zscaler خدماتها إلى آلاف العملاء في جميع أنحاء العالم، مع التركيز على الأمان القوي والاتصال السلس.

كيف قمت بتشكيل استراتيجية الشركة للذكاء الاصطناعي، خاصة فيما يتعلق بدمج الذكاء الاصطناعي مع الأمان السيبراني، كما رئيس قسم الذكاء الاصطناعي في Zscaler؟

قامت Zscaler بإحراز تقدم كبير في مجال الذكاء الاصطناعي للأمان السيبراني، مما يميزها عن المنافسين. تستخدم منصة Zero Trust الخاصة بالشركة الذكاء الاصطناعي لاكتشاف وหยصان سرقة الاعتماديات وتسخر المتصفحات من صفحات التصيد. توفر المعلومات الاستخباراتية من أكثر من 400 مليار معاملة يومية تحليلات في الوقت الفعلي التي تعزز الدفاع ضد الهجمات السيبرانية المتطورة. بالإضافة إلى ذلك، نتعاون مع NVIDIA (NVDA ) لتسليم ابتكارات أمان وابتكارات تكنولوجيا المعلومات مدعومة بالذكاء الاصطناعي التوليدي، مثل Zscaler ZDX Copilot، الذي يبسط عمليات تكنولوجيا المعلومات والشبكات، مع معالجة البيانات من منصة Zero Trust Exchange ™ لالدفاع بشكل استباقي عن المنظمات ضد التهديدات. وأخيراً، مع استحواذ Avalor، قمنا بتوسيع قدرات Zero Trust Exchange ™ باستخدام Data Fabric للأمان. مع أكثر من 150 تكاملًا مسبقًا، يمكنها تحديد وتوقيع الثغرات الحرجة مع تحسين الكفاءات التشغيلية.

لقد أسست عدة شركات، بما في ذلك Kunumi، وشغلت مناصب قيادية في شركات رائدة. كيف أثرت خلفيتك الرئاسية على نهجك كقائد للذكاء الاصطناعي في Zscaler؟

عندما كنت نائب الرئيس التنفيذي للهندسة في Jasper Design Automation، وهي شركة بدءية في تكنولوجيا التصميم الإلكتروني، كنا نتنافس مع شركات تبلغ قيمتها مليارات الدولارات ولكننا حققنا أكثر من 70-80٪ من الحصة السوقية بسبب الابتكار والعمليات التجارية والمرونة. واحدة من الكتب التي كنت أعتمد عليها دائمًا خلال اجتماعاتنا الاستراتيجية هي “التنافس على الحافة: الاستراتيجية كفوضى منظمة” لبروفيسور كاثلين م. آيزنهاردت. على الرغم من أن هذه الكتاب هو من عام 1998، لا يزال ساريًا لما نراه مع الذكاء الاصطناعي التوليدي اليوم.

من قبل لم يتحرك تكنولوجيا عالمية تغييرية بسرعة بهذا الشكل. قام مهندس موتورولا مارتن كوبر بإجراء أول مكالمة هاتفية خلوية في عام 1973، ولكن استغرق العالم 10 سنوات حتى افتتح أول شبكة تجارية و 24 عامًا أخرى حتى إطلاق آيفون، الذي غير الطريقة التي نتفاعل بها مع أجهزة الحاسوب.

تم إطلاق ChatGPT في نوفمبر 2022. في العام التالي، ناقشنا في حلقة ندوة برعاية المنتدى الاقتصادي العالمي أن الذكاء الاصطناعي العام قادم قريباً. في ذلك الوقت، كان فقط عدد قليل منا يدرك أننا يمكن أن نستخدم الوكلاء لإنشاء العديد من الأنظمة الذكية عن طريق ملء الفجوات في LLMs بالأدوات – حتى قبل الذكاء الاصطناعي العام. في عام 2024، تحول النقاش إلى وكلاء الذكاء الاصطناعي، وفي نهاية العام، بدأنا نرى العديد من وكلاء الذكاء الاصطناعي الذكيين (مثل ZDX Copilot أو منصة المدونات Kiroku).

يمكن رؤية هذه السرعة فقط في بيئة بدءية، لذلك فهي تسبب ضغطًا كبيرًا على المنظمات الكبيرة، التي تكافح لتصبح مرنة بما يكفي لاستيعاب تكنولوجيا تتحرك بسرعة غير مسبوقة.

ما هي بعض الاختلافات الرئيسية بين الأسواق البرازيلية والأمريكية فيما يتعلق بتبني الذكاء الاصطناعي والأمان السيبراني؟

من الجيد مناقشة الشركات الناشئة لتوضيح التشابهات والاختلافات بين الأسواق، لأنها غالبًا ما تكون حيث ترى الابتكارات الجذرية قبل وصولها إلى الشركات الكبيرة. استراتيجية شائعة في البرازيل للشركات الناشئة هي نسخ النجاحات المبكرة للشركات الناشئة الأمريكية، لأن الشركات الناشئة الأمريكية عادة ما تنظر إلى السوق الداخلي أولاً (على الرغم من أن هذا يتغير). ومع ذلك، كان للولايات المتحدة نظام رأسمالي أكثر استقرارًا يسهل إنشاء شركة.

أنشأت Kunumi في عام 2014 كأول شركة تعلم عميق في البرازيل. تم بيعها إلى بنك Bradesco في وقت سابق من هذا العام. بشكل عام، لا تعرف الشركات في البرازيل كيف ستعتمد الذكاء الاصطناعي التوليدي، وسترون الكثير من الأخطاء – كما هو الحال في الولايات المتحدة. لقد بنيت أربعة وكلاء في حياتي – الأول في عام 2016، أثناء وجودي في Synopsys. كان وكيلًا يمكنه مسح سجلات التجميع وتنفيذ أجهزة التمثيل الكبيرة، البحث عن المعلومات المتعلقة بالأسئلة للمستخدم، مع دعم متعدد اللغات. في ذلك الوقت، لم تكن هناك معالجات أو LLMs، وكانت الترجمة مختلفة تمامًا عما لدينا اليوم.

في عام 2020، كنت باحثًا في Google يعمل في ضغط نموذج التعلم العميق وكمية، مع CERN باستخدام ما أنشأته في البحث عن الجسيمات دون الذرية. عندما ظننت أننا في حرب على البيانات، أصبح واضحًا أن الأمان السيبراني هو مشكلة عالمية لا تقتصر على دولة أو أخرى. لذلك قررت الانتقال إليه.

قبل بضعة أشهر، كنت أتحدث مع مسؤول حكومي أجنبي كان يقول إن الأمان السيبراني هو مشكلة الولايات المتحدة ووكالته لا تقلق بشأنها – فقط ليتعرض لهجوم سيبراني في منظمته بعد بضعة أسابيع.

أخيرًا، عند مقارنة حالة الأمان السيبراني بتهم الفدية بين البرازيل والولايات المتحدة، الحقيقة هي أن التكاليف المقدرة لتهديدات الفدية متشابهة تقريبًا.

كيف تختلف البيئة التنظيمية للذكاء الاصطناعي والأمان السيبراني بين البرازيل والولايات المتحدة، وكيف يؤثر ذلك على الابتكار في هذه المناطق؟

بسبب تحرك الذكاء الاصطناعي التوليدي بسرعة كبيرة، تعترف الحكومات بضرورة حماية شيء ما ولكنها غالبًا ما تكون غير واضحة فيما هي تحاول حمايته. ما هو التأثير إذا قمنا بإنشاء قوانين لل LLMs في عام 2023، وفي عام 2024 نحن نستخدم وكلاء الذكاء الاصطناعي؟ نحن بحاجة إلى لوائح، ولكننا بحاجة أيضًا إلى تحليل غير عاطفي للبيئة التنظيمية لمعرفة كيف يمكننا حماية المواطنين المحليين بشكل أفضل.

على سبيل المثال، إذا قام خوارزمية الذكاء الاصطناعي بصنع قرارات بناءً على مدخلات رقمية دقيقة تمثل أسبابًا أو سمات، فإن التحليل غالبًا ما يكون غير كامل ويؤدي إلى نتائج حياتية معيبة. على سبيل المثال، إذا قام خوارزمية الذكاء الاصطناعي بصنع قرار قرض لشخص بناءً على معيار غامض مثل “الاحتمالية” وتم تضمين عامل مثل الراتب أو العرق، يمكنك بسهولة رؤية سيناريو حيث سيتم رفض قرض الشخص بسبب تأثير واحد من هذه العوامل. مع الذكاء الاصطناعي التوليدي، يصبح المشكلة أسوأ، بسبب عدم قدرة LLMs على إحضار بيانات خارجية لصنع افتراضات منطقية.

من ناحية أخرى، كنت سعيدًا جدًا بالقدرة على القيادة الذاتية الكاملة لسيارات تيسلا، التي أظهرت، بالمقارنة مع البشر، أنها تتجاوز عدد الأميال التي يتم فيها القيادة قبل أن تكون متورطة في حوادث. نعم، يرتكبون أخطاء، ولكن حتى في الطائرات مع طيار مساعد، يحتاج الطياران إلى أخذ السيطرة في حالة طارئة.

فيما يتعلق بالأمان السيبراني، ناقشت عدة منظمات أمريكية (مثل JCDC.AI، NIST، CISA، إلخ) ضرورة معالجة الذكاء الاصطناعي والأمان السيبراني. بالطبع، في الأسواق السريعة أو التكنولوجيا، تحتاج إلى التكيف المستمر مع التغييرات، وعندما تتحرك بسرعة كبيرة، تحتاج إلى العمل على حافة الفوضى.

كيف يعزز الذكاء الاصطناعي منصة Zero Trust Exchange، وما هي بعض التطورات الأكثر إثارة في هذا المجال؟

تساهم منصة Zero Trust في Zscaler في خلق بيئة أكثر أمانًا لتنفيذ الذكاء الاصطناعي، ولكن المنصة تستخدم أيضًا الذكاء الاصطناعي بطرق عديدة، بدءًا من ZDX Copilot الذي يقدم ابتكارات أمان مدعومة بالذكاء الاصطناعي التوليدي. تم تطوير الوكيل بالتعاون مع NVIDIA ليدفع ابتكارات أمان وتكنولوجيا المعلومات مدعومة بالذكاء الاصطناعي التوليدي، مثل Zscaler ZDX Copilot، الذي يبسط عمليات تكنولوجيا المعلومات والشبكات، مع معالجة البيانات من منصة Zero Trust Exchange ™ لالدفاع بشكل استباقي عن المنظمات ضد التهديدات. كما قامت Zscaler بتعزيز تحديد الثغرات التنبؤي بإضافة Data Fabric للأمان إلى Zero Trust Exchange. أخيرًا، يعيش الذكاء الاصطناعي في قلب منصة Zero Trust، واكتشاف وหยصان سرقة الاعتماديات وتسخر المتصفحات من صفحات التصيد. تعزز التحليلات في الوقت الفعلي، بناءً على المعلومات الاستخباراتية من أكثر من 400 مليار معاملة يومية، الدفاع ضد الهجمات السيبرانية المتطورة.

كيف ترى تطور الذكاء الاصطناعي لمواجهة تعقيدات المخاطر السيبرانية المتزايدة، خاصة في مجال أجهزة إنترنت الأشياء وأجهزة التكنولوجيا التشغيلية؟

تطورت مناظر المخاطر السيبرانية بشكل لا لبس فيه مع ظهور الهجمات السيبرانية القائمة على الذكاء الاصطناعي، لذلك قد تقاتل المنظمات الذكاء الاصطناعي بالذكاء الاصطناعي. التطور الرئيسي سيكون تعزيز حلول الذكاء الاصطناعي بمصادر بيانات إضافية.

随着 زيادة عدد الهجمات السيبرانية، نحتاج إلى استخدام المزيد من التأتمات مع الذكاء الاصطناعي لاكتشاف ومعالجة المخاطر السيبرانية. ومن الجدير بالذكر أن الذكاء الاصطناعي والذكاء الاصطناعي التوليدي يتم استخدامهما حاليًا لإنشاء جبهات هجوم جديدة، وبالتالي نحتاج إلى رفع مستوى اللعبة من خلال تحليل إشارات أكثر مما كنا نفعل من قبل.

في حالة أجهزة إنترنت الأشياء وأجهزة التكنولوجيا التشغيلية، تشكل هذه الأجهزة مخاطر كبيرة للمنظمات، حيث لا تستخدم العديد من أجهزة إنترنت الأشياء أحدث حزم البرامج – على الرغم من أنك يمكن بسهولة شراء مفتاح التوصيل اللاسلكي والتلفزيونات المتصلة بالإنترنت والغسالات والأفران، إلخ. لسنوات عديدة، رأينا مقالة عديدة تظهر الثغرات الأمنية التي نخضع لها في إنترنت الأشياء / التكنولوجيا التشغيلية.

نحتاج إلى الوعي المستمر وتعزيز الدفاع السيبراني من خلال تحليل جميع أنواع البيانات والإشارات لاكتشاف الشذوذ والتهديدات المحتملة. للفوز في هذه اللعبة، نحتاج إلى نماذج الذكاء الاصطناعي الحديثة المدربة بملايين البيانات في الوقت الفعلي. يلعب الذكاء الاصطناعي التوليدي دورًا حاسمًا، من خلال تمكين الشركات من تحليل و تلخيص النتائج للمستخدمين و مشغلي الأمان.

كعضو في مجموعات العمل للذكاء الاصطناعي والأمان السيبراني في المنتدى الاقتصادي العالمي، كيف تؤثر المناقشات العالمية حول أخلاقيات الذكاء الاصطناعي والأمان السيبراني على نهجك في دورك في Zscaler؟

بسبب سرعة تحرك التكنولوجيا، تحتاج الحكومات والمنظمات إلى معلومات أساسية، وأرى ذلك كدور المنتدى الاقتصادي العالمي. الذكاء الاصطناعي والأمان السيبراني seul لديهما حاجة كافية لتبرير مجموعات منفصلة، ولكن عندما تدمج هذين الأمرين، إنه تقريبًا مجال جديد بذاته. على سبيل المثال، أظهرت Gartner هذا العام أن الذكاء الاصطناعي التوليدي يزيد من سطح الهجوم بشكل كبير، مما يجعله ينتقل من حقن البرومت إلى هجمات على الشفرة و هجمات على النموذج و حتى هجمات على البرنامج الإضافي.

بعض هذه الهجمات خاصة بال LLMs مثل ChatGPT، ولكن إذا كنا نعتبر أننا نتحرك من LLMs إلى وكلاء الذكاء الاصطناعي وأنظمة وكلاء متعددة، نحتاج إلى考虑 المزيد من المعلومات. على سبيل المثال، في LLMs قد تهتم بالحقن البرومتي وسلوك الخلايا النائمة (تحرير LLM للاستجابة بشكل مختلف بناءً على كلمات مفتاحية خاصة) أو تسرب المعلومات الخصوصية. عندما نناقش وكلاء الذكاء الاصطناعي، نحتاج إلى考虑 هجمات على الأدوات ومصادر البيانات أيضًا – حتى افتراض أن حقن SQL و OS قد يكون ممكنًا مرة أخرى.

أخيرًا، نحتاج إلى إعداد قوتنا العاملة لاستخدام الذكاء الاصطناعي التوليدي، بتوفير الأدوات وبيئة يمكنهم فيها العمل في هذا العالم الجديد.

لقد كنت مدافعًا قويًا عن التنوع والشمول، خاصة كمراقب تنفيذي لفرقة Zscaler اللاتينية والإسبانية Sabor. كيف أثرت خلفيتك الثقافية على أسلوبك القيادي ونهجك لتطوير الذكاء الاصطناعي؟

كлати诺 لاتيني فخور ولد وتربى في البرازيل، أنا متحمس لدعم وتأهيل المجتمعات اللاتينية والإسبانية في Zscaler. أشعر بتحقيق كبير في القدرة على المساهمة في عالم أفضل من خلال الأمان السيبراني، حيث نساعد على حماية المجتمع في عالم متزايد التعقيد. قيمتي ساعدتني على الوصول إلى حيث أنا اليوم، وأنا فخور جدًا بمكاني.

نصيحتي ستكون ألا تنسى أبدًا من أين أتيت وما قمت به. كن دائمًا فخورًا بما يجعلك فريدًا، ولكن تعرف أيضًا أن التنوع هو الملك. أنا أعيش مع نفسي 24 ساعة في اليوم. إذا كنت أستأجر فقط أشخاصًا مشابهين لي ويوافقون معي، لن أزيد معرفتي. توظيف أشخاص من مواقع و خلفيات متعددة يساعدنا على فهم احتياجات قاعدة عملائنا العالمية بشكل أفضل.

أخيرًا، ما هو ما يثيرك أكثر حول مستقبل الذكاء الاصطناعي في الأمان السيبراني، وما هو الدور الذي ترى Zscaler يلعبه في ذلك المستقبل؟

الذكاء الاصطناعي لا يغير الأساسيات الفعالة للدفاع السيبراني – إنه يبرز أهميتها. نتوقع رؤية الشفافية وممارسات الأمان القوية والرصد المستمر تنتشر في جميع أنحاء الصناعة. يجب على المنظمات أن تعتمد نهجًا شاملاً للأمان، من خلال تنفيذ تدابير متقدمة لاكتشاف الاستجابة للتهديدات. هذا يشمل تعزيز ثقافة الوعي بالأمان، وإجراء فحوصات أمان منتظمة، والتعاون مع أصحاب المصلحة لتطوير استراتيجيات أمان فعالة. من خلال القيام بذلك، يمكن للمنظمات تقليل خطر الاختراقات وحماية معلوماتها الحساسة.

تتعهد Zscaler بحماية خصوصية المستخدم، باستخدام تقنيات متقدمة لتعطيم البيانات وضمان إبقائها خارج LLMs، ومنع تحديد المستخدمين أو المنظمات الفردية. بينما قد نستكشف ضبط LLMs في المستقبل، ستظل إجراءاتنا الصارمة لحماية البيانات لضمان ألا يتم المساس ببيانات المستخدمين هامة. هدفنا هو استغلال قوة الذكاء الاصطناعي لتحسين الأمان دون المساس بخصوصية العملاء.

شكرًا على المقابلة الرائعة، يرغب القراء في معرفة المزيد في زيارة Zscaler.