Nati Hazut، الرئيس التنفيذي والشريك المؤسس لشركة Bold Security – سلسلة مقابلات

Nati Hazut هو الرئيس التنفيذي والشريك المؤسس لشركة Bold Security. وسبق له أن شارك في تأسيس SAM Seamless Network وPolyrize، واكتسب خبرة في أمن الأجهزة المتصلة والهوية وأذونات السحابة وحماية البيانات. ويطبّق في عمله لدى Bold هذه الدروس لتأمين التفاعلات بين الموظفين ووكلاء الذكاء الاصطناعي وبيانات المؤسسات الحساسة.

Bold Security تطوّر تقنية لحماية بيانات الأجهزة الطرفية، تستخدم نماذج لغوية صغيرة تعمل مباشرة على الأجهزة لتصنيف المعلومات الحساسة وفهم كيفية استخدامها. وتمنح منصتها فرق الأمن أدوات لإرشاد المستخدمين أو إعادة توجيه الأنشطة أو حظر الإجراءات المحفوفة بالمخاطر عبر المتصفحات وتطبيقات سطح المكتب ووكلاء الذكاء الاصطناعي. وفي هذه المقابلة، يناقش Hazut الذكاء الاصطناعي الخفي والذكاء على الأجهزة والوكلاء المستقلين وتغيّر الحدود الأمنية المحيطة ببيانات المؤسسات.

سبق أن شاركت في تأسيس SAM Seamless Network وPolyrize قبل أن تبدأ Bold Security مع Hadar Krasner وOmri Mallis. ما التغيّرات التي لاحظتها في أمن المؤسسات والذكاء الاصطناعي، وأقنعتك بالحاجة إلى تأسيس شركة أمن جديدة من الصفر؟

أبرز ما أحدثه الذكاء الاصطناعي هو تغيير المكان الذي يجري فيه العمل. فعلى مدى عقود، كانت أكثر المهام حساسية التي ينفذها الأشخاص باستخدام بيانات الشركة تتم عبر المتصفحات وتطبيقات البرمجيات كخدمة (SaaS)، وهي تحديدًا البيئة التي ركّزت عليها منظومة الأمن. أما الآن، فيُنجز مزيد من هذه المهام على الجهاز نفسه: إذ يكتب الأشخاص المسودات باستخدام مساعد ذكاء اصطناعي على سطح المكتب، ويلصقون الشيفرة المصدرية في تطبيق أصلي، ويشغّلون وكلاء يتعاملون مباشرة مع الملفات والتطبيقات وأنظمة الشركة على الحاسوب المحمول.

أدى هذا التحول إلى تقويض الافتراضات التي بُنيت عليها معظم منتجات الأمن. ففحص الشبكة لا يرى سوى حركة المرور التي تمر عبره، بينما تشفّر تطبيقات سطح المكتب حركة مرورها وتتجاوز الخادم الوكيل. وترى أنظمة CASB تطبيقات السحابة المعتمدة. أما أنظمة DSPM فترى البيانات المخزنة في السحابة. ولا يرى أيٌّ منها ملفًا محليًا يُنقل إلى تطبيق ذكاء اصطناعي على سطح المكتب، أو وكيلًا ينقل البيانات من دون وجود شخص أمام لوحة المفاتيح.

أنشأنا Bold لأن الجهاز الطرفي هو المكان الوحيد الذي تجتمع فيه كل هذه العناصر. فمن خلاله، يمكن رؤية البيانات والموظف أو الوكيل الذي يتفاعل معها وما يحاول فعله والجهة التي تتجه إليها المعلومات. كما يمكن اتخاذ إجراء حيال ذلك قبل أن تغادر البيانات الحساسة نطاق سيطرة الشركة.

قد يتراوح الذكاء الاصطناعي الخفي بين استخدام الموظفين حساباتهم الشخصية على ChatGPT وتطبيقات سطح المكتب وإضافات المتصفح وواجهات برمجة التطبيقات واتصالات بروتوكول سياق النماذج، وصولًا إلى الوكلاء الذين تزداد استقلاليتهم. ما أشكال الذكاء الاصطناعي الخفي التي يصعب على فرق أمن المؤسسات اليوم اكتشافها والتحكم فيها؟

قبل عام، كان الجميع قلقين بشأن «الذكاء الاصطناعي الخفي»، لكن النقاش بدأ يتعمق. وتدرك فرق أمن المؤسسات أن الموظفين يتبنون أدوات ذكاء اصطناعي جديدة بوتيرة أسرع من أي وقت مضى. لذلك لم يعد السؤال يتمحور كثيرًا حول حصر الأدوات، بل حول التحكم في البيانات التي تمر عبرها.

بالطبع، لا يمكنك التحكم فيما لا تستطيع رؤيته. وأصعب القنوات التي يمكن رصدها هي تلك التي لا تمر مطلقًا عبر مسار شبكي يراقبه أحد. فتطبيقات سطح المكتب تقرأ الملفات مباشرة من الجهاز وتشفّر حركة مرورها، ولذلك لا يمر أي شيء عبر الأدوات المصممة لفحصها. كما تملك الوكلاء إمكانية الوصول إلى معلومات الشركة، ويواصلون استخدامها من دون أن يزوّدهم موظف بشيء في كل مرة.

كل هذه القنوات تمثل وسائل جديدة لتسريب البيانات، وما يمر عبرها هو جوهر المسألة. فإدخال مستند عام إلى حساب مؤسسي معتمد لا يعادل إدخال قاعدة بيانات للعملاء أو شيفرة مصدرية مملوكة للشركة إلى حساب شخصي، ولا يظهر هذا الفرق إلا في المكان الذي توجد فيه البيانات ويجري فيه الإجراء. لذا، فإن الذكاء الاصطناعي الخفي الذي لا يمكنك رؤيته هو أيضًا المجال الذي تكتسب فيه مسألة البيانات أكبر أهمية.

تعتمد Bold نهجًا يركّز على الجهاز الطرفي، إذ تشغّل الذكاء الاصطناعي محليًا على الجهاز بدلًا من الاعتماد أساسًا على مراقبة الشبكة أو السحابة. ما الذي يستطيع نموذج يعمل على الجهاز فهمه عن تفاعل مع الذكاء الاصطناعي ولا تستطيع حلول منع فقدان البيانات التقليدية فهمه؟

تختلف Bold في أمرين. أولًا، نستخدم الذكاء الاصطناعي لحماية البيانات الحساسة من دون الحاجة إلى إرسالها إلى خدمة ذكاء اصطناعي أخرى لتحليلها. تعمل نماذجنا اللغوية الصغيرة مباشرة على الجهاز، حيث يمكنها فهم البيانات الحساسة، ومعرفة من يصل إليها، والجهة التي تتجه إليها. وهذا يتيح لنا تحديد الإجراءات المحفوفة بالمخاطر وإيقافها في الوقت الفعلي، من دون زمن الانتقال والتكلفة الناجمين عن إرسال كل شيء إلى السحابة.

ثانيًا، نتجاوز القنوات التي تراقبها أدوات الأمن التقليدية. فما زال معظم القطاع يركّز على المتصفحات وحركة مرور الشبكة، لكن البيانات الحساسة تنتقل بصورة متزايدة عبر تطبيقات الذكاء الاصطناعي على سطح المكتب وأدوات البرمجة والطرفيات والوكلاء المستقلين. ويصعب على حلول منع فقدان البيانات التقليدية ومنتجات أمن السحابة رصد هذه القنوات.

ومن خلال العمل على مستوى الجهاز الطرفي، نستطيع حماية البيانات في جميع هذه البيئات والتدخل قبل أن تغادر المعلومات الحساسة نطاق سيطرة الشركة.

صُممت تقنيتكم لفهم البيانات التي يجري الوصول إليها، إلى جانب سياق الإجراء والغاية منه. كيف تميّزون بين الاستخدام المشروع للمعلومات الحساسة والسلوك الذي يشكل خطرًا أمنيًا فعليًا، من دون التسبب في عدد مفرط من النتائج الإيجابية الكاذبة؟

السياق هو كل شيء هنا. لا يمكنك التعامل مع كل ملف يُرفع أو كل وكيل يصل إلى البيانات على أنه حادث أمني، وإلا فلن يتمكن أحد من إنجاز أي عمل.

قد يكون الملف نفسه إجراءً اعتياديًا في مكان، وأمرًا خطيرًا في مكان آخر. فمن المتوقع وجود قائمة العملاء داخل أداة الدعم، بينما يمثل رفعها إلى حساب شخصي مشكلة حقيقية. مكان الشيفرة المصدرية هو المستودع، لا في مطالبة تُوجَّه إلى أداة ذكاء اصطناعي استهلاكية.

الأداة التي لا تعرف سوى أن المحتوى يطابق قاعدة ما، عليها أن تطلق تنبيهًا في الحالتين أو لا تطلقه في أي منهما. وهذا هو مصدر الإنذارات الكاذبة. ومعرفة ماهية البيانات، ومن ينقلها، وإلى أين يوجّهها، هي ما يتيح التمييز بين الاستخدام الطبيعي للذكاء الاصطناعي والمخاطر الحقيقية.

تُدخل وكلاء الذكاء الاصطناعي نموذجًا أمنيًا مختلفًا، إذ باتت البرمجيات قادرة على الوصول إلى الملفات واستدعاء الأدوات والاتصال عبر خوادم MCP وتنفيذ الإجراءات مع تدخل بشري محدود. كيف ينبغي لأمن نقاط النهاية أن يتطور عندما يكون الطرف الذي يتعامل مع بيانات الشركة الحساسة وكيلًا مستقلًا بدلًا من موظف؟

صُممت التدابير الأمنية إلى حد كبير لتناسب البشر، لكن الوكلاء باتوا قادرين على العمل بسرعة الآلة، وفتح الملفات واستدعاء الأدوات ونقل البيانات من دون أن يوافق أحد على كل خطوة. لذا ينبغي للأمن أن يعمل بالسرعة نفسها. وتستخدم منتجات كثيرة الذكاء الاصطناعي لتحليل الحوادث بعد وقوعها. أما نحن فنستخدمه لفهم الإجراءات الخطرة وإيقافها في الوقت الفعلي، بما في ذلك الإجراءات التي تحدث خارج المتصفح.

قد يعمل الوكيل عبر تطبيق سطح مكتب أو طرفية أو أداة أخرى يكتشفها أثناء إنجاز مهمة. وينبغي للتدابير الأمنية أن تتبع البيانات والإجراء في مختلف هذه البيئات، سواء كان المسؤول عنهما شخصًا أم وكيلًا.

ويثير ذلك أيضًا سؤالًا لم تضطر فرق الأمن إلى طرحه من قبل: عندما يحدث أمر خطير، هل تعمد الشخص فعله، أم أن الوكيل أخطأ؟ يتطلب الأمران استجابتين مختلفتين. فإذا اتخذ موظف قرارًا سيئًا، فعليك توجيهه. أما إذا نفّذ وكيل أمرًا لم يطلبه أحد، فعليك إيقافه.

نقطة النهاية هي المكان الذي يمكنك فيه تمييز الفرق، لأنها الموضع الذي تجتمع فيه البيانات والعملية والإجراء.

استجابت مؤسسات كثيرة لمخاطر الذكاء الاصطناعي التوليدي بتقييد أدوات معينة أو حظرها. هل تعتقد أن المؤسسات تتجه نحو نموذج يُسمح فيه باستخدام أي أداة ذكاء اصطناعي تقريبًا، ما دامت هناك ضوابط تحدد البيانات التي يمكنها الوصول إليها والجهة التي يمكن إرسال تلك البيانات إليها؟

لن تحلّ الحظورات الشاملة هذه المشكلة. يستطيع الموظفون العثور على أداة ذكاء اصطناعي جديدة والبدء باستخدامها في ثوانٍ، ومعظمهم لا يحاولون التحايل على إجراءات الأمن، بل يسعون إلى إنجاز أعمالهم بسرعة أكبر.

السؤال الأجدر بالطرح هو: ماذا يحدث لبيانات الشركة عند استخدامهم تلك الأدوات؟

إذا كان أحدهم يستخدم حسابًا شخصيًا للذكاء الاصطناعي في عمل غير ضار، فربما يكفي توجيهه إلى حساب الشركة. أما إذا كان على وشك إرسال الشيفرة المصدرية أو معلومات العملاء أو بيانات اعتماد الدخول إلى جهة لا تسمح بها الشركة، فعلى فريق الأمن التدخل.

أعتقد أن هذا هو المسار الذي نتجه إليه: إتاحة المجال للناس لاستخدام الذكاء الاصطناعي، مع فرض ضوابط على البيانات. معرفة ما يجري الوصول إليه، وإلى أين يُرسل، ومتى ينبغي التدخل.

قد يحقق تشغيل الذكاء الاصطناعي محليًا مزايا من حيث زمن الاستجابة والخصوصية، لكن قدرات المعالجة والذاكرة في الأجهزة الطرفية محدودة. ما المقايضات التقنية التي واجهتموها عند بناء نماذج قادرة على تصنيف البيانات دلاليًا وفرض الضوابط في الوقت الفعلي مباشرة على أجهزة الموظفين؟

لا يمكنك وضع نموذج ضخم على حاسوب محمول لأحدهم، واستنزاف وحدة المعالجة المركزية والذاكرة فيه، ثم تسمية ذلك أمنًا. فإذا جعل منتجك الأمني استخدام الحاسوب بائسًا، فسيكرهه الموظفون، وسيعطّله قسم تقنية المعلومات.

لذلك تنطوي المسألة على مقايضات حقيقية. ينبغي للنموذج أن يفهم البيانات بما يكفي للتمييز بين ما لا ضرر منه وما هو حساس، وأن يكون في الوقت نفسه سريعًا وصغيرًا وموثوقًا بما يكفي للعمل باستمرار في الخلفية.

تمثل العمل الأولي في بناء نماذج تقدم تصنيفًا مفيدًا على أنواع مختلفة من الحواسيب من دون إبطائها. وقد أنجزنا بالفعل هذا العمل الهندسي، كيلا يضطر العملاء إلى إجراء تلك المقايضات بأنفسهم.

كانت تجربة المستخدم أولويتنا القصوى طوال مراحل التطوير. يستهلك منتجنا نحو 20% من موارد الحوسبة التي تستهلكها وكلاء المنافسين التقليديين غير المعتمدين على الذكاء الاصطناعي، بينما يتخذ القرارات محليًا لحظة وقوع الإجراء. ولا حاجة إلى مغادرة البيانات الحساسة للجهاز لمجرد تحديد ما إذا كانت حساسة.

يستطيع Bold تحديد أدوات الذكاء الاصطناعي والحسابات وأنشطة الوكلاء، مع توجيه المستخدمين أو إعادة توجيههم أو حظر الإجراءات الخطرة. كيف تحددون متى ينبغي للنظام الاكتفاء بتحذير المستخدم، ومتى ينبغي له إيقاف الإجراء تلقائيًا؟

تخيّل كيف سيتصرف زميل جيد في العمل. إذا كنت على وشك لصق مسودة في حسابك الشخصي على ChatGPT، فسيميل نحوك ويقول: «مرحبًا، لدينا حساب للشركة لهذا الغرض». أما إذا كنت على وشك رفع قاعدة بيانات العملاء إلى حسابك الشخصي على Drive، فسيمسك بذراعك.

نحاول اتباع النهج نفسه، وقد وجدنا أن التوجيه ينجح في إعادة توجيه المستخدمين إلى البديل الآمن في 90% من الحالات على الأقل. وفي معظم الحالات، يكون السبب أن الشخص يستخدم الحساب الخطأ عن غير قصد، أو أنه لا يعرف سياسة الشركة بشأن الأماكن التي يُسمح بنقل البيانات إليها.

في نهاية المطاف، يعود قرار تحديد ما يجب حظره إلى العميل، وتضع كل شركة هذا الحد على نحو مختلف. ومهمتنا هي تزويدهم بالسياق والثقة اللازمين لاتخاذ القرار الصائب. أما في مسارات العمل الأكثر تعقيداً وخطورة، فيعني ذلك الاستناد إلى السياق الذي تحدثنا عنه سابقاً، ومقارنته بسجل المستخدم نفسه، بل وبسجل أقرانه أيضاً.

انتقلت مسيرتك المهنية من تأمين الأجهزة المتصلة في SAM، إلى إدارة الهوية وأذونات السحابة في Polyrize، ثم إلى حماية التفاعلات بين الأشخاص ووكلاء الذكاء الاصطناعي وبيانات المؤسسات في Bold. كيف تغيرت رؤيتك للحد الأمني الأساسي عبر هذه الأجيال الثلاثة من الأمن السيبراني؟

أصبحت رؤيتي للأساسيات أكثر وضوحاً. والقاسم المشترك هو تقريب الأمن من موضع حدوث النشاط، وضمان عمله على نطاق واسع.

في SAM، أتحنا مستوى أمان المؤسسات لأجهزة التوجيه ذات الموارد المحدودة جداً. وقد علّمنا ذلك كيفية إيصال التقنيات المتقدمة إلى الأجهزة الطرفية بكفاءة. وفي Polyrize، ركزنا على حماية البيانات عبر البيئات السحابية وبيئات البرمجيات كخدمة (SaaS)، من خلال توفير الرؤية وإدارة الوضع الأمني. إن فهم مدى التعرض للمخاطر أمر أساسي، لكنه لا يتيح بالضرورة منع إجراء ينطوي على مخاطر.

تجمع Bold هذه الدروس معاً. فنحن نضع الذكاء على الجهاز الطرفي، حيث يتفاعل الأشخاص ووكلاء الذكاء الاصطناعي مع البيانات، ونوفر لفرق الأمن السياق اللازم لفهم المخاطر والتدخل في الوقت الفعلي.

لا يزال أمن الشبكات والسحابة مهماً، لكن الجهاز الطرفي قادر على رصد الأنشطة عبر تطبيقات سطح المكتب والملفات المحلية والحسابات الشخصية والوكلاء الذين يعملون على الجهاز. وقد تعلمت أن مكان عمل الأمن وتوقيته لا يقلان أهمية عن مستوى ذكائه.

إذا نظرنا إلى السنوات الثلاث إلى الخمس المقبلة، ومع عمل الموظفين جنباً إلى جنب مع وكلاء ذكاء اصطناعي يتزايد استقلالهم، فإلى ماذا تتوقع أن يتحول الجهاز الطرفي في المؤسسات؟ وهل يمكن أن نصل إلى مرحلة يعمل فيها كل جهاز فعلياً كطبقة أمنية ذكية خاصة به، تتخذ باستمرار قرارات بشأن الأشخاص والوكلاء الذين يمكنهم التفاعل مع بيانات معينة؟

أعتقد أن هذا هو بالضبط الاتجاه الذي نسير فيه.

سيصبح الجهاز الطرفي طبقة أمنية ذكية تفهم البيانات الموجودة على الجهاز، وتعرف ما إذا كان شخص أو وكيل يتفاعل معها، وتتخذ محلياً قرارات بشأن ما ينبغي وما لا ينبغي أن يحدث.

تزداد أهمية ذلك مع تزايد استقلالية الوكلاء. فقد يكون لدى شخص ما عدة وكلاء يعملون نيابة عنه في الوقت نفسه، عبر الملفات والتطبيقات وأنظمة الشركة. ولا يمكن أن يعتمد الأمن على موافقة ذلك الشخص على كل خطوة، لأنه لن يكون متابعاً لكل شيء، على نحو متزايد.

لا تزال البيانات بحاجة إلى الحماية، لكن عدد الجهات التي تصل إليها سيتجاوز بكثير شخصاً واحداً يجلس أمام لوحة مفاتيح. وستحتاج الأنظمة الأمنية إلى التواصل مع الوكلاء، واتخاذ القرارات، والاستجابة تلقائياً أثناء تنفيذ الإجراءات. وسيشرف المشغّلون على الضوابط والقرارات بوتيرة متزايدة، بدلاً من مراجعة كل حدث على حدة. والجهاز الطرفي هو الموضع الذي يمكن فيه اتخاذ تلك القرارات مع بقاء البيانات تحت سيطرة الشركة.

شكراً على هذا الحوار الرائع. ويمكن للقراء الراغبين في استكشاف حماية بيانات الأجهزة الطرفية والتبني الآمن للذكاء الاصطناعي في المؤسسات زيارة Bold Security.