روني أوهايون، الرئيس التنفيذي ومؤسس ديبكيب – سلسلة المقابلات

روني أوهايون، الرئيس التنفيذي ومؤسس ديبكيب، هو رجل أعمال ومتخصص تكنولوجي محنك مع مسيرة مهنية تشمل الذكاء الاصطناعي والأمن السيبراني والأنظمة المستقلة وتكنولوجيا الفيديو على نطاق واسع. لقد أسس وقاد عدة شركات في هذه المجالات، بما في ذلك الأدوار الرئيسية في الاتصال بالمركبات المستقلة وانتقال الفيديو المباشر والهندسة المتقدمة، إلى جانب العمل الأكاديمي السابق في الهندسة الحاسوبية.

ديبكيب هي منصة أمنية للذكاء الاصطناعي مصممة لمساعدة الشركات على حماية الذكاء الاصطناعي والذكاء الاصطناعي التوليدي والنمذجة اللغوية الكبيرة والرؤية الحاسوبية والأنظمة متعددة الوسائط في جميع مراحل حياتها. تركز الشركة على تحديد الثغرات الأمنية و阻止 التهديدات المعادية ومنع المشكلات مثل تسرب البيانات وتلاعب الإشارات ودعم الامتثال التنظيمي وتوفير مراقبة مستمرة لضمان نشرات الذكاء الاصطناعي الموثوقة والمتينة والمحمية.

لقد قادت تحسينات كبيرة في مجالات نقل الفيديو والاتصال بالمركبات المستقلة والأنظمة الاصطناعية. ما هو الشيء الذي أقنعتك من مسيرتك المهنية أن التحدي الرئيسي التالي الذي تحتاج إلى حله هو تأمين الذكاء الاصطناعي للشركات؟

لقد كنت دائمًا محفزًا لمواجهة التحديات الكبيرة التي تغير الصناعات. على مر السنين، لاحظت نمطًا متكررًا حيث غالبًا ما يتجاوز التكنولوجيا الجديدة، خاصة الذكاء الاصطناعي، تدابير الأمن، مما يترك ثغرات أمنية حرجة.

تبني الشركات للذكاء الاصطناعي، خاصة مع ظهور النماذج اللغوية الكبيرة والذكاء الاصطناعي العامل، فتح بابًا جديدًا من المخاطر، وغالبًا ما تشعر الشركات بالارتباك وعدم الاستعداد لاستخدام هذه الأنظمة بأمان وثقة. لقد أظهرت تجربتي في الأنظمة الاصطناعية مدى أهمية دمج الأمن في قلب هذه التكنولوجيا لضمان أنها لا تكون فقط مبتكرة، ولكن أيضًا آمنة وموثوقة، وتنتج نتائج موثوقة لدعم الشركات بشكل استباقي. أدى هذا الاعتقاد إلى تأسيس ديبكيب، مع التركيز على تأمين أنظمة الذكاء الاصطناعي بحيث يمكن للشركات أن تتبنى الذكاء الاصطناعي بثقة لتعزيز الإنتاجية ونمو الأعمال دون المساس بالأمن أو الخصوصية.

عندما أسست أنت وشريكك ديبكيب في عام 2021، ما هو الفراغ الأمني المحدد الذي أقنعتك بوجود حاجة ملحة إلى منصة مخصصة، وكيف شكل ذلك رؤية الشركة المبكرة؟

بعد سنوات من العمل مع الذكاء الاصطناعي في الرؤية الحاسوبية، والتي تتطلب جهودًا كبيرة لضمان موثوقيتها ومتانتها، أدركنا أنه حان الوقت لتصميم حل مخصص لضمان الثقة والأمن في الرؤية الحاسوبية.

في عام 2021، قبل انفجار النماذج اللغوية الكبيرة، أطلقنا ديبكيب لمواجهة هذه المخاطر في نماذج الرؤية الحاسوبية.

يمكنك أن تأخذنا إلى الوراء إلى البروتوتايب الأول – ما كان يفعله، وكيف كان الفريق صغيرًا، وكيف قمت بالتحقق من أنك على الطريق الصحيح؟

عندما أسسنا ديبكيب، كان التركيز لا يزال على الذكاء الاصطناعي التقليدية – الرؤية الحاسوبية والنمذجة الجدولية واللغة الطبيعية المبكرة – قبل ظهور النماذج اللغوية الكبيرة. كان بروتوكولنا الأول نظامًا لاختبار متانة مصنّفات الرؤية الحاسوبية ضد الهجمات المعادية. إلى جانب ذلك، بنينا نسخة مبكرة من جدار الحماية الاصطناعي الذي يمكن الكشف عن هذه الهجمات في الوقت الفعلي وتحديدها.

جاءت الحالات الأولية من السيارات والتأمين والخدمات المالية، حيث تحمل سلوك النموذج مخاطر تشغيلية حقيقية. كنا فريقًا صغيرًا من حوالي ثمانية أشخاص في ذلك الوقت، مما أتاح لنا التكرار بسرعة وإنتاج بروتوكول وظيفي مبكر.

لقد قمنا بالتحقق من أننا على الطريق الصحيح من خلال التحدث مباشرة مع العملاء المحتملين، الذين أشاروا باستمرار إلى متانة الهجمات المعادية كقضية ناشئة. في نفس الوقت تقريبًا، بدأت إطلاق إطارات مثل إطارات MITRE ATLAS – التي تم إطلاقها لأول مرة في عام 2021 – والتي كانت إشارة خارجية مهمة إلى أن مجال أمن الذكاء الاصطناعي ونمذجة التهديدات المعادية على وشك النمو. كان التوجيه بين ملاحظات العملاء وتوجيه الصناعة يعطينا الثقة بأننا نسير في الاتجاه الصحيح.

تم تصميم ديبكيب من البداية لتأمين أنظمة الذكاء الاصطناعي بدلاً من البرمجيات التقليدية. كيف قمت بتحديد الأولويات لتحديد أنواع النماذج وسطوح الهجوم التي يجب التركيز عليها أولاً؟

من البداية، كنا نعلم أن تأمين الذكاء الاصطناعي للشركات يتطلب تغييرًا في النموذج. في حين أن العديد من المنظمات على دراية كافية بمعرفة أنها تحتاج إلى إجراء اختبار الاختراق وتقييم للنماذج التي تستخدمها، كنا ندرك أن هذه الإجراءات مجرد بداية. تظهر المخاطر الحقيقية داخل النظام البيئي التطبيقي بالكامل، وليس فقط في النماذج نفسها.

لذلك، بينما كان بداية الصناعة هي اختبار اختراق البوتات التقليدية، انتقلنا بسرعة إلى تطوير حلول لتأمين التطبيقات المخصصة والوكلاء الاصطناعيين، وسنطور في المستقبل لتأمين الخطوة التالية التي يتفاعل فيها الوكلاء مع بعضهم البعض ويتم تبادل الذكاء عبر المجالات.

نحن نسمح بمسح النماذج عبر جميع أنواع النماذج، ولكننا أيضًا نحمي ضد التهديدات الأكثر إلحاحًا مثل الهجمات المعادية وتسرب البيانات وسيء استخدام النظام وتآكل الثقة من خلال اختبار اختراق النماذج وتطبيق حواجز أمان لتأمين الإشارات والاستجابات الاصطناعية.

من المهم جدًا أننا نأمّن أيضًا “الطبقة الدلالية” للذكاء الاصطناعي من خلال فهم السياق الذي تعمل فيه النماذج. هذا يضمن أن النماذج لا يمكن أن تكون سهلة التلاعب.

ما هي أكبر الانعطافات الفنية أو الاستراتيجية التي قمت بها بين مرحلة التأسيس وتوجيه ديبكيب الحالي؟

كان أحد أكبر القرارات التي اتخذناها هو التوسع بعيدًا عن أمن النموذج التقليدية إلى مجال أمن تطبيقات الذكاء الاصطناعي. في البداية، ركزنا على تأمين النماذج الفردية، ولكن随ما تطور مشهد الذكاء الاصطناعي، أدركنا أن تأمين النظم البيئية الاصطناعية بأكملها، حيث تتقاطع النماذج والوكلاء والحالات الاستخدامية، هو أكثر أهمية. هذا أدى بنا إلى توسيع نهجنا من خلال دمج اختبار الاختراق وطريقة جدار الحماية الشامل لتأمين كل互одействة بين الوكلاء والموظفين والتطبيقات مع الذكاء الاصطناعي، ومراقبة وقت التشغيل.

قرار آخر مهم هو تقديم مرونة كاملة في النشر، بما في ذلك حلول سحابية ومتوافقة مع السحابة ومتوافقة مع البيئة المحلية ومتوافقة مع البيئة المعزولة، مما يسمح للشركات بنشر ديبكيب بأمان في أي بيئة. لقد قمنا أيضًا مؤخرًا بدمج حارس متقدم لبيانات الهوية الشخصية في منصتنا، مما قدم لنا مستوى أعمق من حماية البيانات وضمان أن الشركات يمكنها تلبية متطلبات الامتثال العالمية مع توسع استخدامها للذكاء الاصطناعي.

يضع ديبكيب تركيزًا متساويًا على الأمن والموثوقية. في مرحلة ما أصبح التركيز المزدوج على هذه القيم جوهرًا للهوية الشركة؟

أصبح التركيز على كل من الأمن والموثوقية واضحًا في وقت مبكر، خاصة مع تطور فهمنا لعملائنا واحتياجاتهم.

عند التعامل مع نماذج الذكاء الاصطناعي، يلعبان الأمن والموثوقية دورًا متساويًا لأن كلاهما يمكن أن يؤدي إلى نتائج مدمرة ومُهلكة. لا يمكن لتطبيق ما أن يكون متينًا وغير موثوق به في نفس الوقت، والعكس صحيح.

لم تكن الأدوات الأمنية التقليدية مصممة لمهاجمة الإشارات أو الهلوسة أو تسرب البيانات أو التلاعب بالنموذج. أي من هذه المتغيرات الناشئة رأيت الشركات تكافح معها أكثر، وكيف أثرت هذه القضايا الواقعية على هيكلة ديبكيب؟

من بين التهديدات الناشئة، مهاجمة الإشارات وتسرب البيانات هما القضيتان الأكثر إلحاحًا التي نرى الشركات تكافح معها.随ما يتم دمج تطبيقات الذكاء الاصطناعي ووكلاء الذكاء الاصطناعي بشكل أكبر في عمليات الأعمال، تزداد مخاطر التلاعب بالإشارات وتسرب البيانات الحساسة. أدت هذه القضايا إلى تصميم ديبكيب مع التركيز على الأمن السياقي، لحماية ليس فقط النماذج ولكن أيضًا تدفق البيانات والتفاعلات داخل بيئات الذكاء الاصطناعي. تم بناء بنيتنا التحتية لتجربة اختبار هذه الطبقات في مرحلة التطوير، وحمايتها أثناء وقت التشغيل من خلال تأمين كل互одействة مع الذكاء الاصطناعي.

من الناحية الفنية، أي من هذه الطبقات – حواجز الأمان أو اختبار الاختراق أو طبقات حماية البيانات – أثبت أنها الأكثر صعوبة في الهندسة على مستوى الشركات، وماذا تعلمت أثناء بناء نظام يجب أن يتكيف مع نماذج الذكاء الاصطناعي السريعة التطور؟

كل طبقة – حواجز الأمان واختبار الاختراق وطبقات حماية البيانات – تأتي مع تحديات هندسية خاصة بها، ولكن وجدنا أن التحديات التي تتقاسمها هذه الطبقات جميعًا كانت في الواقع الأكثر صعوبة.

الأول هو سرعة التغيير: المخاطر الجديدة وتهديدات السجون وتقنيات الهجوم تظهر باستمرار، لذلك أي شيء ثابت يصبح قديمًا بسرعة. الثاني هو تبني السياق: في الشركات، لا يعمل نهج “الحجم الواحد يناسب الجميع” لأن كل تطبيق له سياسات و敏ainties بيانات وسلوك مستخدم مختلف.

لمواجهة التحدي الأول، بنينا هيكلاً متوافقًا تمامًا مع مكونات الشكل، مما يسمح لنا بإضافة هجمات جديدة إلى محرك اختبار الاختراق أو حواجز جديدة إلى جدار الحماية بسرعة ودون تعطيل النظام.

ولمواجهة التحدي الثاني، صممنا نظامًا ذا وعي سياقي. يتحليل بيئة التطبيق وتعديل تدابير الأمن بشكل تلقائي – وهو أمر ضروري عندما تتطور النماذج والقضايا الاستخدامية بسرعة.

كانت هذه القدرات، القدرة على التوسع والوعي السياقي، حاسمة للعمل على مستوى الشركات، مع مواكبة الأنظمة الاصطناعية السريعة التطور.

أمن الذكاء الاصطناعي هو مجال متطور. ما الفجوات التي ترى داخل الشركات اليوم – سواء في السياسة أو الأدوات أو فهم المخاطر – التي شكلت تصميم مكدس الأمان وتسجيل العميل في ديبكيب بشكل مباشر؟

تختلف الفجوات بشكل كبير حسب الصناعة وحجم الشركة و成熟ية تبني الذكاء الاصطناعي.

أحد أكبر الفجوات التي نراها في الشركات الكبيرة اليوم هو عدم وجود حل شامل يغطي جميع احتياجات أمن الذكاء الاصطناعي. العديد من هذه الشركات على دراية باحتياجاتها لأمن الذكاء الاصطناعي، ولكن随ما يزداد تبنيها، تزداد الحاجة إلى تغطية أمنية إضافية. تعلمنا في وقت مبكر أن هناك قيمة في حل قوي ومتكامل يضم قدرات مختلفة تعمل معًا وتتكامل بسلاسة. يستفيد العملاء من حل حيث أن الجزء الكامل أكبر من مجموع أجزائه.

随ما نضج السوق، حددنا فجوة أخرى، وهي أن المنظمات تبحث عن أدوات أمنية مخصصة وليست عامة لتأمين وكلائها وتطبيقاتها. كان أحد أسباب نهجنا الموجه للسياق هو مواجهة هذه الفجوة، مع فهم أن كل تطبيق وكل وكيل مختلف ويتطلب تأمينًا على هذا النحو.

إذا نظرنا إلى الأمام لمدة خمس سنوات، كيف تتوقع أن تتطور مخاطر الذكاء الاصطناعي للشركات – وأين تعتقد أن ديبكيب يجب أن يكون موضعًا للبقاء في صدارة هذا المستقبل؟

أتوقع أن تكون أكبر مخاطر الذكاء الاصطناعي في السنوات الخمس القادمة سوف تتطور جنبًا إلى جنب مع تقدم الذكاء الاصطناعي المستقل.随ما يصبح الوكلاء أكثر استقلالية وتكاملًا في عمليات الأعمال وقادرين على أداء مهام معقدة، سوف يزيد خطر الاختراقات الأمنية وسيء الاستخدام. نتوقع تطوير “إنترنت الوكلاء” (IoA)، حيث يتفاعل الوكلاء مع بعضهم البعض ويشكلون شبكة معقدة من التفاعلات الاصطناعية لتأمينها.

للبقاء في صدارة هذا المستقبل، سوف يستمر ديبكيب في تطوير منصته لتأمين هذه الأنظمة الاصطناعية المتزايدة التعقيد، مع ضمان أننا نقدم حماية وقت التشغيل عبر عدة نماذج من الذكاء الاصطناعي ودعم اتجاه اتخاذ القرارات المدعومة بالذكاء الاصطناعي. هدفنا هو أن نصبح الشريك الموثوق به الذي تعتمد عليه الشركات لتأمين نظامها البيئي الاصطناعي بالكامل، بغض النظر عن مدى تعقيداته.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة ديبكيب.