ريك كاشيا، الرئيس التنفيذي ومؤسس شركة WitnessAI – سلسلة المقابلات

ريك كاشيا، الرئيس التنفيذي ومؤسس شركة WitnessAI، لديه خبرة واسعة في إطلاق منتجات الأمن والامتثال. شغل مناصب قيادية في الإدارة والتسويق في Palo Alto Networks (PANW ) و Google (GOOGL ) و Symantec. وكان كاشيا يرأس التسويق المنتج في ArcSight خلال الاكتتاب العام الأولي والعمليات اللاحقة كشركة عامة، وخدم كأول مدير تسويق في Exabeam. يحمل شهادات متعددة من جامعة كاليفورنيا، بيركلي.

WitnessAI تعمل على تطوير منصة أمنية تركز على ضمان استخدام آمن ومأمون للذكاء الاصطناعي في الشركات. مع كل تحول تقني كبير – مثل الويب والجوال والحوسبة السحابية – تظهر تحديات أمنية جديدة، مما يخلق فرصًا للقادة في الصناعة للظهور. يمثل الذكاء الاصطناعي الجبهة التالية في هذه التطور.

تهدف الشركة إلى إقامة نفسها كقائدة في أمن الذكاء الاصطناعي من خلال الجمع بين الخبرة في التعلم الآلي والأمن السيبراني وعمليات السحابة على نطاق واسع. يأتي فريقها بخبرة عميقة في تطوير الذكاء الاصطناعي والهندسة العكسية ونشر كوبرنيتس متعدد السحب، مما يعالج التحديات الحرجة لتأمين التكنولوجيا التي تقودها الذكاء الاصطناعي.

ما الذي ألهمك لتأسيس WitnessAI، وما هي التحديات الرئيسية في حوكمة الذكاء الاصطناعي والأمن التي كنت تهدف إلى حلها؟

عندما بدأنا الشركة لأول مرة، كنا نفكر أن فرق الأمن سوف تكون قلقة بشأن الهجمات على نماذج الذكاء الاصطناعي الداخلية. ومع ذلك، فإن أول 15 مدير أمن معلومات تحدثنا إليهم قالوا العكس، أن انتشار تكنولوجيا اللغة الكبيرة في الشركات كان بعيدًا، ولكن المشكلة العاجلة كانت حماية استخدام موظفيهم لتطبيقات الذكاء الاصطناعي للآخرين. لقد اتخذنا خطوة إلى الوراء و رأينا أن المشكلة لم تكن الدفاع عن الهجمات الإلكترونية المخيفة، بل كانت تمكين الشركات من استخدام الذكاء الاصطناعي بشكل منتج. في حين أن الحوكمة قد تكون أقل جاذبية من الهجمات الإلكترونية، إلا أنها ما يحتاجه فرق الأمن والخصوصية حقًا. لقد احتاجوا إلى رؤية ما يفعله موظفوهم مع تطبيقات الذكاء الاصطناعي من طرف ثالث، وطريقة لتنفيذ سياسات الاستخدام المقبولة، وطريقة لحماية البيانات دون حظر استخدام تلك البيانات. لذلك بنينا ذلك.

كيف أثرت خبرتك الواسعة في Google Cloud و Palo Alto Networks وشركات أمن سيبراني أخرى على نهجك في بناء WitnessAI؟

لقد تحدثت مع العديد من مديري أمن المعلومات على مر السنين. واحدة من أكثر الأشياء الشائعة التي أسمعها من مديري أمن المعلومات اليوم هي: “لا أريد أن أكون ‘دكتور لا’ عندما يتعلق الأمر بالذكاء الاصطناعي؛ أريد مساعدة موظفينا على استخدامه لتحسين أدائهم.” كما شخص عمل مع موردين لأمن السيبراني لفترة طويلة، هذا بيان مختلف جدًا. إنه أكثر تذكرًا بعصر Dotcom، عندما كان الويب تكنولوجيا جديدة ومحولة. عندما بنينا WitnessAI، بدأنا بشكل محدد من قدرات المنتج التي تساعد العملاء على تبني الذكاء الاصطناعي بأمان؛ رسالتنا كانت أن هذا الموضوع يشبه السحر، وبالطبع يريد الجميع تجربة السحر. أعتقد أن شركات الأمن سريعة جدًا في لعب بطاقة الخوف، واريد أن نكون مختلفين.

ما يميز WitnessAI عن منصات حوكمة الذكاء الاصطناعي وأمنه الأخرى في السوق اليوم؟

حسناً، لأحد الأشياء، فإن معظم البائعين الآخرين في هذا المجال يركزون بشكل رئيسي على الجزء الأمني، وليس على الجزء الحكومي. بالنسبة لي، الحوكمة مثل الفرامل في السيارة. إذا كنت تريد حقًا أن تصل إلى مكان بسرعة، فكنت بحاجة إلى فرامل فعالة بالإضافة إلى محرك قوي. لا أحد سوف يقود سيارة فيراري بسرعة إذا لم تكن لديها فرامل. في هذه الحالة، استخدام شركتك للذكاء الاصطناعي هو سيارة فيراري، و WitnessAI هي الفرامل وال方向.

في المقابل، يركز معظم منافسينا على الهجمات النظرية المخيفة على نموذج الذكاء الاصطناعي للشركة. هذا مشكلة حقيقية، ولكنها مشكلة مختلفة عن الحصول على رؤية وسيطرة على كيفية استخدام موظفيك لتطبيقات الذكاء الاصطناعي على الإنترنت. من السهل علينا إضافة جدار حماية للذكاء الاصطناعي (ولدينا ذلك)، أكثر من أن يكون لدى بائعين جدار حماية للذكاء الاصطناعي إضافة حوكمة فعالة وإدارة المخاطر.

كيف توازن WitnessAI بين حاجة الابتكار في الذكاء الاصطناعي وأمن الشركات وامتثالها؟

كما كتبت من قبل، نعتقد أن الذكاء الاصطناعي يجب أن يكون مثل السحر – يمكن أن يساعدك على القيام بأشياء رائعة. مع ذلك في الاعتبار، نعتقد أن الابتكار في الذكاء الاصطناعي وأمنه مترابطان. إذا كان موظفوك يستطيعون استخدام الذكاء الاصطناعي بأمان، فسيستخدمونه بشكل متكرر وسوف تتقدم. إذا قمت بتطبيق العقلية الأمنية التقليدية وقمت بتقليده، فإن منافسيك لن يفعل ذلك، وسوف يتقدمون. كل ما نفعله هو تمكين تبني آمن للذكاء الاصطناعي. كما قال لي أحد العملاء، “هذا الموضوع مثل السحر، ولكن معظم البائعين يعتبرونه سحرًا أسود، مخيفًا وشيئًا يُخاف منه.” في WitnessAI، نحن نساعد على تمكين السحر.

يمكنك التحدث عن فلسفة الشركة الأساسية بشأن حوكمة الذكاء الاصطناعي – هل ترى أمن الذكاء الاصطناعي كمنشط بدلاً من تقييد؟

نحن نتلقى بانتظام مديري أمن المعلومات يأتون إلينا في الأحداث التي قدمنا فيها، ويقولون لنا، “منافسينا جميعًا يتحدثون عن مدى خوفهم من الذكاء الاصطناعي، وأنت الوحيد الذي يخبرنا كيف نستخدمه بشكل فعّال.” قال سوندار بيتشاي في Google إن “الذكاء الاصطناعي يمكن أن يكون أكثر عمقًا من النار،” وهذا مجاز intéressant. النار يمكن أن تكون مدمرة بشكل كبير، كما رأينا مؤخرًا. ولكن النار الخاضعة للسيطرة يمكن أن تصنع الفولاذ، مما يسرع الابتكار. أحيانًا في WitnessAI نتحدث عن إنشاء الابتكار الذي يسمح لنا بتمكين عملائنا من توجيه “نار” الذكاء الاصطناعي بأمان لإنشاء ما يعادل الفولاذ. أو، إذا كنت تفكر في الذكاء الاصطناعي على أنه سحر، فربما هدفنا هو إعطائك عصا سحرية، لتوجيهه وسيطرته.

ما هي أكبر المخاطر التي تواجهها الشركات عند نشر الذكاء الاصطناعي التوليدي، وكيف تعالج WitnessAI هذه المخاطر؟

الأولى هي الرؤية. العديد من الناس ي驚ون من معرفة أن宇宙 تطبيقات الذكاء الاصطناعي ليس فقط ChatGPT و DeepSeek الآن؛ هناك آلاف التطبيقات على الإنترنت والشركات تتحمل المخاطر من استخدام موظفيه لتطبيقات الذكاء الاصطناعي، لذلك الخطوة الأولى هي الحصول على الرؤية: أي تطبيقات الذكاء الاصطناعي يستخدمها موظفو الشركة، ماذا يفعلون مع تلك التطبيقات، وهل هي مخاطرة؟

الثانية هي السيطرة. فريقك القانوني قد وضع سياسة استخدام مقبولة شاملة للذكاء الاصطناعي، واحدة تضمن سلامة البيانات الزبون، والمواطن، والملكية الفكرية، بالإضافة إلى سلامة الموظف. كيف ستنفذ هذه السياسة؟ هل هي في منتج أمان النقطة النهائية؟ في جدار الحماية؟ في الشبكة الافتراضية الخاصة؟ في السحابة؟ ماذا لو كانت جميعها من موردين مختلفين؟ لذلك، تحتاج إلى طريقة لتحديد وتنفيذ سياسة الاستخدام المقبولة بشكل متسق عبر نماذج الذكاء الاصطناعي، والتطبيقات، والسحابة، ومنتجات الأمن.

الثالث هو حماية تطبيقاتك الخاصة. في عام 2025، سنرى تبني أسرع للنماذج اللغوية الكبيرة داخل الشركات، ثم طرح أسرع لتطبيقات الدردشة التي تعمل بالذكاء الاصطناعي. لذلك، تحتاج الشركات إلى التأكد من حماية التطبيقات، وألا تقول أشياء “غبية”، مثل التوصية بمنافس.

نحن نعالج جميع هذه. نحن نقدم رؤية حول التطبيقات التي يصل إليها الناس، وكيف يستخدمون تلك التطبيقات، وسياسة تستند إلى من أنت وما تحاول القيام به، وأدوات فعالة جدًا لمنع الهجمات مثل الهجوم على السجن أو السلوك غير المرغوب فيه من البوتات.

كيف تساعد ميزة مراقبة الذكاء الاصطناعي في WitnessAI الشركات في تتبع استخدام موظفيها للذكاء الاصطناعي ومنع مخاطر “الذكاء الاصطناعي الخفي”?

WitnessAI يصل إلى شبكتك بسهولة ويبني كتالوجًا صامتًا لكل تطبيق ذكاء اصطناعي (وهناك آلاف منهم على الإنترنت) الذي يصل إليه موظفوك. نحن نخبرك أين تقع تلك التطبيقات، وأين تستضيف بياناتها، إلخ، حتى تفهم مدى مخاطر تلك التطبيقات. يمكنك تشغيل رؤية المحادثة، حيث نستخدم فحص الحزمة العميق لمشاهدة التحفيزات والاستجابات. يمكننا تصنيف التحفيزات حسب المخاطر والغرض. الغرض قد يكون “كتابة رمز” أو “كتابة عقد شركات”. من المهم لأننا نسمح لك بكتابة سياسات التحكم القائمة على الغرض.

ما هو دور تنفيذ سياسة الذكاء الاصطناعي في ضمان امتثال الشركات، وكيف تسهل WitnessAI هذا العملية؟

الامتثال يعني التأكد من أن شركتك تتبع اللوائح أو السياسات، وهناك جزأين لضمان الامتثال. الأول هو أن عليك أن تتمكن من تحديد النشاطات المشكلة. على سبيل المثال، أنا بحاجة إلى معرفة أن موظفًا يستخدم بيانات العملاء بطريقة قد تتعارض مع قانون حماية البيانات. نحن نفعل ذلك من خلال منصتنا المراقبة. الجزء الثاني هو وصف وتنفيذ السياسة ضد ذلك النشاط. لا تريد أن تعرف فقط أن البيانات الزبون تتسرب، تريد أن تمنع تسربها. لذلك، بنينا محرك سياسة فريد للذكاء الاصطناعي، Witness/CONTROL، الذي يسمح لك ببناء سياسات مبنية على الهوية والغرض لحماية البيانات، ومنع الاستجابات الضارة أو غير القانونية، إلخ. على سبيل المثال، يمكنك بناء سياسة تقول شيئًا مثل “يسمح فقط لقسمنا القانوني باستخدام ChatGPT لكتابة عقود الشركات، وإذا فعلوا ذلك، فسيتم حذف البيانات الشخصية تلقائيًا، ثم إلغاء الحذف في استجابة الذكاء الاصطناعي، بحيث تحصل على جواب مفيد مع الحفاظ على أمان البيانات.” سهل القول، ومع WitnessAI، سهل التنفيذ.

كيف تعالج WitnessAI مخاوف حول اختراقات الذكاء الاصطناعي وحقن التحفيزات؟

لدينا فريق بحث في الذكاء الاصطناعي قوي – حقًا حاد. في وقت مبكر، بنوا نظامًا لإنشاء بيانات هجوم اصطناعي، بالإضافة إلى استيراد مجموعات بيانات التدريب المتاحة على نطاق واسع. ونتيجة لذلك، قمنا بتحديد معايير حقن التحفيزات لدينا ضد كل شيء هناك، ونحن أكثر من 99% فعالية ونت 捕获 الهجمات التي تفوتها النماذج نفسها.

في الممارسة، معظم الشركات التي نتحدث معها تريد البدء بحوكمة تطبيقات الموظفين، ثم في وقت لاحق يطرحون تطبيقًا للذكاء الاصطناعي للعملاء بناءً على بياناتهم الداخلية. لذلك، يستخدمون Witness لحماية أشخاصهم، ثم يُشغلون جدار حماية حقن التحفيزات. نظام واحد، طريقة متسقة لإنشاء السياسات، سهلة النمو.

ما هي أهدافك الطويلة الأجل لشركة WitnessAI، وأين ترى تطور حوكمة الذكاء الاصطناعي في السنوات الخمس القادمة؟

حتى الآن، لم نتحدث إلا عن نموذج تطبيق الدردشة الشخصي هنا. مرحلتنا التالية سوف تكون التعامل مع التطبيق للتطبيق، أي الذكاء الاصطناعي الوكيل. لقد صممنا واجهات برمجة التطبيقات في منصتنا للعمل بشكل متساوٍ مع الوكلاء والبشر. وراء ذلك، نعتقد أننا بنينا طريقة جديدة للحصول على رؤية وسيطرة على مستوى الشبكة في عصر الذكاء الاصطناعي، وسننمو الشركة مع ذلك في الاعتبار.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا WitnessAI.