ستيف ويلسون، رئيس قسم الذكاء الاصطناعي والمنتجات في إكسابيم – سلسلة المقابلات

ستيف ويلسون هو رئيس قسم الذكاء الاصطناعي والمنتجات في إكسابيم، حيث يطبق فريقُه تقنيات الذكاء الاصطناعي المتقدمة لمواجهة التحديات الأمنية الحقيقية. وهو مؤسس ورئيس مشروع أمان الجيل الجديد في منظمة أواسب، المنظمة خلف قائمة أواسب توب 10 للأمان في نماذج اللغة الكبيرة.

كتابه الحائز على الجوائز، “كتاب المطورين للغة الجيل الجديد” (مدينة أوريلي)، تم اختياره كأفضل كتاب أمان سيبراني حديث من قبل مجلة الدفاع السيبراني.

إكسابيم هي شركة رائدة في مجال الذكاء والآليّة التي تزوّد عمليات الأمن بالتقنيات المتقدمة. من خلال الجمع بين قوة الذكاء الاصطناعي وقوة تحليل السلوك والآليّة الرائدة في الصناعة، تكتسب المنظمات رؤية أكثر شمولاً للاختراقات الأمنية، وتكتشف شذوذات لم تكتشفها الأدوات الأخرى، وتحقق استجابات أسرع وأكثر دقة ومتكررة. تزوّد إكسابيم فرق الأمن العالمية بمكافحة التهديدات السيبرانية، وتقليل المخاطر، وتبسيط العمليات.

ما هو دورك الجديد كرئيس قسم الذكاء الاصطناعي والمنتجات في إكسابيم؟ كيف يعكس هذا التطور الأهمية المتزايدة للذكاء الاصطناعي في مجال الأمن السيبراني؟

كان الأمن السيبراني من بين أول المجالات التي اعتمدت تعلم الآلة – في إكسابيم، لقد كنا نستخدم تعلم الآلة كجزء أساسي من محرك الكشف لدينا لمدة عقد من الزمن لتحديد السلوك غير العادي الذي قد يفوت الإنسان وحده. مع وصول تقنيات الذكاء الاصطناعي الجديدة، مثل الوكلاء الذكيين، نمت أهمية الذكاء الاصطناعي من كونها مهمة إلى كونها مركزية.

دوري المزدوج كرئيس قسم الذكاء الاصطناعي والمنتجات في إكسابيم يعكس هذا التطور بالضبط. في شركة متعطشة لدمج الذكاء الاصطناعي في جميع منتجاتها، وفي صناعة مثل الأمن السيبراني حيث دور الذكاء الاصطناعي يزداد أهمية، كان من المنطقي توحيد استراتيجية الذكاء الاصطناعي و استراتيجية المنتج في دور واحد. هذا التوحيد يضمن أننا موجهون استراتيجياً لتقديم حلول ذكية مدفوعة بالذكاء الاصطناعي للanalysts وأفراد العمليات الذين يعتمدون علينا أكثر.

إكسابيم رائدة في مجال “الوكلاء الذكيين” في عمليات الأمن. يمكنك أن تفسر ما يعنيه ذلك في الممارسة وكيف يختلف عن النهج التقليدي للذكاء الاصطناعي؟

الوكلاء الذكيين يمثلون تطوراً معنوياً من النهج التقليدي للذكاء الاصطناعي. إنه ذو اتجاه العمل – يبدأ العمليات بشكل استباقي، ويحلل المعلومات، ويعرض الأفكار قبل أن يطلبها المحللون. بخلاف تحليل البيانات فقط، يعمل الوكيل الذكي كمساعد، يقدم توصيات استراتيجية عبر مركز العمليات بأكمله، ويوجه المستخدمين نحو الفوز الأسهل، ويقدم إرشادات خطوة بخطوة لتحسين وضعهم الأمني. بالإضافة إلى ذلك، يعمل الوكلاء كفرق متخصصة، وليس كمذكرة واحدة معقدة، كل منها مصمم بPERSONALITIES ومجموعات بيانات محددة تندمج بشكل متساوٍ في تدفق عمل المحللين والمهندسين والإداريين لتوفير مساعدة مستهدفة وفعالة.

مع إكسابيم نوفا الذي يدمج العديد من الوكلاء الذكيين عبر تدفق عمل مركز العمليات، ما هو شكل دور المحلل الأمني في المستقبل؟ هل يتطور، ي缩ص، أو يصبح أكثر تخصصاً؟

دور المحلل الأمني يتطور بالتأكيد. المحللون، مهندسو الأمن، وإداريو مركز العمليات جميعهم مشغولون بالبيانات والتنبيهات والحالات. التغيير الحقيقي في المستقبل ليس فقط حول توفير الوقت في المهام الروتينية – على الرغم من أن الوكلاء يساعدون هناك – ولكن حول رفع دورهم إلى دور قائد الفريق. سيظل المحللون بحاجة إلى مهارات تقنية قوية، ولكنهم سيكونون قادة فريق من الوكلاء الذين يسرعون مهامهم، ويعززون قراراتهم، ويدفعون تحسينات حقيقية في الوضع الأمني. هذا التحول يضع المحللين في موقع قيادة استراتيجية بدلاً من الاستجابة التكتيكية.

بيانات حديثة تظهر انفصالاً بين التنفيذيين والمحللين بشأن تأثير الذكاء الاصطناعي على الإنتاجية. لماذا تعتقد أن هذا الفجوة في الإدراك tồn؟ وكيف يمكن معالجته؟

البيانات الحديثة تظهر فجوة واضحة: 71% من التنفيذيين يعتقدون أن الذكاء الاصطناعي يزيد الإنتاجية بشكل كبير، ولكن فقط 22% من المحللين في الخط الأمامي، المستخدمين اليوميين، يوافقون على ذلك. في إكسابيم، لقد رأينا هذا الفجوة تتوسع مع الاهتمام الأخير بالذكاء الاصطناعي في الأمن السيبراني. أصبح من السهل إنشاء عروض ذكية للذكاء الاصطناعي، والبائعون سريعون في الادعاء بأنهم حلوا كل تحديات مركز العمليات. في حين أن هذه العروض تذهل التنفيذيين في البداية، فإن العديد منها يفشل حيث يهم الأمر – في أيدي المحللين. الإمكانات موجودة، وهناك جيب من المكافآت الحقيقية، ولكن هناك الكثير من الضوضاء والقليل من التحسينات المهمة. لمعالجة هذا الفجوة في الإدراك، يجب على التنفيذيين أن يprioritize أدوات الذكاء الاصطناعي التي تمكن المحللين حقاً، وليس فقط التي تذهل في العرض. عندما يعزز الذكاء الاصطناعي فعالية المحللين حقاً، ستتبع الثقة والتحسينات الحقيقية في الإنتاجية.

الذكاء الاصطناعي يسرع الكشف والاستجابة للتهديدات، ولكن كيف تحافظ على التوازن بين الآلية والحكم البشري في حوادث الأمن السيبراني عالية الخطورة؟

القدرات الذكية تتقدم بسرعة، ولكن نماذج اللغة التأسيسية التي تدعم الوكلاء الذكيين كانت مصممة في الأصل لمهام مثل ترجمة اللغة – وليس اتخاذ القرارات الدقيقة أو التعامل مع العوامل البشرية المعقدة. هذا يجعل الحكم البشري أكثر أهمية من أي وقت مضى في الأمن السيبراني. دور المحلل لا يتناقص بسبب الذكاء الاصطناعي؛ إنه يرتفع. المحللون هم الآن قادة الفريق، يستخدمون خبرتهم وفرصتهم لتوجيه وتوجيه العديد من الوكلاء، وضمان أن القرارات تظل مدعومة بالسياق والدقة. في النهاية، التوازن بين الآلية والحكم البشري هو حول إنشاء علاقة توافقية حيث يعزز الذكاء الاصطناعي الخبرة البشرية، ولا يبددها.

كيف تتطور استراتيجية المنتج عندما يصبح الذكاء الاصطناعي مبدأ تصميم أساسي بدلاً من إضافة؟

في إكسابيم، استراتيجية المنتج لدينا تتأثر بشكل جوهري بالذكاء الاصطناعي كمبدأ تصميم أساسي، وليس إضافة سطحية. بنينا إكسابيم من الصفر لدعم تعلم الآلة – من استهلاك السجلات، وفك الشفرة، والتحسين، والتنظيم – لملء نموذج معلومات مشترك قوي محسّن خصيصاً لتغذية أنظمة تعلم الآلة. البيانات عالية الجودة والمهيكلة ليست فقط مهمة لأنظمة الذكاء الاصطناعي – إنها دماؤهم. اليوم، ندمج الوكلاء الذكيين مباشرة في تدفقات العمل الحيوية، وتجنب النماذج القديمة غير المريحة. بدلاً من ذلك، نستهدف استخدامات حيوية محددة توفّر فوائد ملموسة للمستخدمين.

مع إكسابيم نوفا، أنتم تهدفون إلى “الانتقال من المساعدة إلى اللامركزية”. ما هي المعالم الرئيسية للوصول إلى عمليات أمن سيبراني لامركزية بالكامل؟

فكرة عمليات أمن سيبراني لامركزية بالكامل مثيرة للاهتمام ولكنها غير ناضجة. الوكلاء اللامركزيون، في أي مجال، ليسوا كفؤين أو آمنين بعد. في حين أن اتخاذ القرارات في الذكاء الاصطناعي يتحسن، لم يصل إلى مستوى موثوقية الإنسان بعد. في إكسابيم، نهجنا ليس ملاحقة اللامركزية الكاملة، التي تحددها مجموعتي في أواسب كضعف أساسي يسمى الوكالة الزائدة. إعطاء الوكلاء المزيد من اللامركزية أكثر مما يمكن اختباره وتأكيده يضع العمليات على أرض خاطئة. بدلاً من ذلك، هدفنا هو فرق من الوكلاء الذكيين، قادرون وموجهون بدقة، يعملون تحت إشراف خبراء بشريين في مركز العمليات. هذا الجمع بين الإشراف البشري والدعم الموجه هو الطريق الأمثل والفعال.

ما هي أكبر التحديات التي واجهتموها في دمج الذكاء الاصطناعي وتعلم الآلة في النطاق المطلوب لعمليات الأمن السيبراني في الوقت الفعلي؟

أحد أكبر التحديات في دمج الذكاء الاصطناعي وتعلم الآلة في النطاق المطلوب لعمليات الأمن السيبراني هو التوازن بين السرعة والدقة. الذكاء الاصطناعي وحده لا يمكن أن ي换ل نطاق ما يتعامل معه محرك تعلم الآلة السريع – معالجة تيرابايت من البيانات بشكل مستمر. حتى الوكلاء الذكيين الأكثر تقدمًا لهما “نافذة سياق” محدودة للغاية. بدلاً من ذلك، وصفةنا تتضمن استخدام تعلم الآلة لتحويل البيانات الكبيرة إلى رؤى قابلة للتنفيذ، والتي يترجمها الوكلاء الذكيون ويعملون عليها بشكل فعال.

لقد شاركت في تأسيس قائمة أواسب توب 10 لأمان تطبيقات الجيل الجديد. ما الذي ألهم ذلك، وكيف ترى ذلك يؤثر على ممارسات أمان الذكاء الاصطناعي؟

عندما أطلقت قائمة أواسب توب 10 لأمان تطبيقات الجيل الجديد في بداية 2023، كانت المعلومات المنظمة حول أمان الجيل الجديد والذكاء الاصطناعي نادرة، ولكن الاهتمام كان كبيرًا للغاية. في غضون أيام، انضم أكثر من 200 متطوع إلى المبادرة، جلبوا معهم آراء وخبرات متنوعة لتشكيل القائمة الأصلية. منذ ذلك الحين، تم阅读ها أكثر من 100,000 مرة وأصبحت أساسية للمعايير الدولية. اليوم،扩عت هذه الجهود إلى مشروع أواسب لأمان الجيل الجديد، الذي يغطي مجالات مثل اختبار الأمان، وأمان الأنظمة الوكيلية، وتحليل الاستخدامات الهجومية للجيل الجديد في الأمن السيبراني. مجموعتنا достигت أكثر من 10,000 عضو وتستمر في تعزيز ممارسات أمان الذكاء الاصطناعي عالميًا.

كتابك، “كتاب المطورين للغة الجيل الجديد“، فاز بجائزة رائدة. ما هو أهم مخرج أو مبدأ من الكتاب الذي يجب على كل مطور ذكاء اصطناعي فهمه عند بناء تطبيقات آمنة؟

أهم مخرج من كتابي، “كتاب المطورين للغة الجيل الجديد”، هو بسيط: “مع القوة الكبيرة تأتي المسؤولية الكبيرة”. في حين أن فهم المفاهيم الأمنية التقليدية يظل ضروريًا، يواجه المطورون الآن تحديات جديدة تمامًا فريدة من نوعها للغة الجيل الجديد. هذه التكنولوجيا القوية ليست جوازاً مجانياً – إنها تتطلب ممارسات أمنية فاعلة ومدروسة. يجب على المطورين توسيع перспكتيفهم، واعتراف بالخطورات الجديدة هذه، ومعالجتها من البداية، ودمج الأمان في كل خطوة من دورة حياة تطبيق الذكاء الاصطناعي.

كيف ترى تطور قوة العمل الأمنية في السنوات الخمس القادمة مع انتشار الوكلاء الذكيين؟

نحن حاليًا في سباق تسلح ذكاء اصطناعي. الأعداء يعتمدون بشكل عدواني الذكاء الاصطناعي لتحقيق أهدافهم الخبيثة، مما يجعل محترفي الأمن السيبراني أكثر أهمية من أي وقت مضى. السنوات الخمس القادمة لن تقلل من قوة العمل الأمنية – سترفعها. يجب على المحترفين أن يدمجوا الذكاء الاصطناعي في فرقهم وعملياتهم. دور الأمن سيتغير نحو القيادة الاستراتيجية – أقل حول الجهد الفردي وأكثر حول توجيه الاستجابة الفعالة مع فريق من الوكلاء الذكيين. هذا التحول يمنح محترفي الأمن السيبراني القيادة بثقة ووضوح في معركة التهديدات المتطورة.

شكراً على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة إكسابيم.