ترفع Zenity 125 مليون دولار كENTERPRISES تواجه مخاطر أمنية لعمليات وكلاء الذكاء الاصطناعي المستقلة

Zenity جمعت 125 مليون دولار في جولة تمويل من الفئة C مع انتقال الشركات بوكلاء الذكاء الاصطناعي من تجارب خاضعة للرقابة إلى أنظمة تستطيع الوصول إلى البيانات واستدعاء أدوات برمجية وإنجاز مهام تشغيلية.

قادت Norwest الجولة، وانضمت Qumra Capital، SoftBank Vision Fund 2، Hitachi Ventures و LG Technology Ventures بصفتها جهات استثمارية جديدة. وشارك أيضًا المستثمرون الحاليون Vertex Ventures وThird Point Ventures وDTCP وIntel Capital. ولم تكشف الشركة عن تقييمها.

ويأتي هذا التمويل بعد جولة Zenity من الفئة B بقيمة 38 مليون دولار في أكتوبر 2024، ليرفع إجمالي التمويل المعلن للشركة إلى 180 مليون دولار على الأقل.

من تجارب الذكاء الاصطناعي إلى الأنظمة المستقلة

يعكس حجم الجولة تحولًا أوسع في كيفية تبنّي المؤسسات للذكاء الاصطناعي. فقد تمحورت الموجة الأولى من الذكاء الاصطناعي التوليدي أساسًا حول تفاعل الموظفين مع روبوتات المحادثة لإنتاج النصوص أو تلخيص المستندات أو استرجاع المعلومات.

لكن وكلاء الذكاء الاصطناعي يضيفون مستوى مختلفًا من المخاطر لأنهم يستطيعون تنفيذ إجراءات. وبحسب صلاحياتهم، قد يصلون إلى قواعد بيانات داخلية، أو يستدعون واجهات برمجة التطبيقات، أو يحدّثون السجلات، أو ينفذون شيفرات، أو يرسلون رسائل، أو يطلقون مسارات عمل تمتد عبر أنظمة مؤسسية متعددة.

وهذا يوسّع المشكلة الأمنية إلى ما يتجاوز إنتاج النموذج استجابة غير مناسبة. إذ يجب أن تعرف المؤسسات أيضًا الوكلاء الذين نُشروا، ومن يتحكم بهم، والمعلومات التي يمكنهم الوصول إليها، والإجراءات المصرح لهم بتنفيذها.

وقد يعمل الوكيل تمامًا وفق تصميمه، ومع ذلك يتسبب في حادث أمني إذا مُنح صلاحيات زائدة، أو صادف معلومات جرى التلاعب بها، أو فسّر تعليمات المهاجم على أنها جزء من مهمة مشروعة.

وتصف Zenity ذلك بأنه مشكلة في «طبقة الوكيل». فقد صُممت منصتها لفحص إعدادات الوكيل وصلاحياته وأدواته المتصلة وذاكرته وإجراءاته أثناء التشغيل، بدلًا من الاكتفاء بالنظر إلى المدخلات الموجهة للنموذج أو الاستجابات التي ينتجها.

كيف تؤمّن Zenity وكلاء الذكاء الاصطناعي

تقسم Zenity منصتها إلى ثلاثة مجالات رئيسية: الرصد، وإدارة الوضع الأمني، والكشف والاستجابة.

يكتشف مكوّن الرصد الوكلاء العاملين داخل المؤسسة ويضع سجلًا لهم. ويشمل ذلك الوكلاء المدمجين في منصات البرمجيات كخدمة، والوكلاء المطورين داخليًا والعاملين في البيئات السحابية، والأدوات المحلية المثبتة على أجهزة الموظفين.

والهدف هو تزويد فرق الأمن بصورة متجددة باستمرار عن مالك كل وكيل وإعداداته وصلاحياته وتكاملاته وسلوكه أثناء التشغيل. وتزداد أهمية ذلك مع قدرة الإدارات والموظفين على إنشاء وكلاء دون المرور بإجراءات تطوير برمجيات أو مراجعات أمنية تقليدية.

وتقيّم طبقة الحوكمة في Zenity الإعدادات والصلاحيات قبل دخول الوكيل إلى بيئة الإنتاج. ويمكن استخدام السياسات لاكتشاف الوصول المفرط أو التكاملات غير المؤمّنة أو الأدوات التي قد تسمح للوكيل بتجاوز دوره المقصود. وتستطيع المنصة مواصلة التحقق من هذه الضوابط مع تعديل الوكلاء بمرور الوقت.

وأثناء التشغيل، تحلل Zenity مسار تنفيذ الوكيل، بما في ذلك استدعاءات الأدوات، والوصول إلى الذاكرة، واستخدام البيانات، والتفاعل مع الأنظمة الأخرى. وتقول الشركة إنها تستطيع استخدام هذا السياق للسماح بإجراء أو تعديله أو منعه قبل وقوعه.

ويهدف هذا النهج إلى التمييز بين طلب عادي وطلب يبدو عاديًا لكنه تأثر بمحتوى خبيث. كما يعالج قيدًا مهمًا في تصفية المدخلات: فقد تنشأ نتيجة خطرة من سلسلة إجراءات تبدو كل واحدة منها غير ضارة بمفردها.

تغطية البرمجيات كخدمة والسحابة وأجهزة الموظفين

تسعى Zenity إلى توفير طبقة أمنية مشتركة عبر منظومة وكلاء متفرقة.

وفي بيئات البرمجيات كخدمة، تدعم الوكلاء المرتبطين بمنصات مثل Microsoft 365 Copilot وMicrosoft Copilot Studio وChatGPT Enterprise وSalesforce Agentforce. وقد تتيح هذه الأنظمة للوكلاء الوصول إلى مستندات الأعمال وسجلات العملاء والاتصالات ومسارات العمل التي لا تستضيفها المؤسسة أو تتحكم فيها بالكامل.

وتغطي المنصة أيضًا الوكلاء المخصصين المبنيين بخدمات مثل AWS Bedrock وAzure AI Foundry وGoogle Vertex AI. وتراقب Zenity الأدوات والخدمات السحابية التي يستدعيها هؤلاء الوكلاء، مع تطبيق السياسات أثناء التطوير والتنفيذ.

ويشمل المجال الثالث الوكلاء العاملين على الأجهزة، مثل مساعدي البرمجة وتطبيقات سطح المكتب والمتصفحات الوكيلة. ويمكن لهذه الأدوات العمل ضمن بيئة سجّل الموظف دخوله إليها، فتكتسب إمكانية الوصول إلى الملفات وجلسات المتصفح والخدمات المتصلة.

وقد يبسّط جمع هذه البيئات في نظام واحد الحوكمة، لكنه يفرض أيضًا تحديًا تقنيًا كبيرًا. فالبنية والصلاحيات وبيانات الرصد المتاحة من مساعد ضمن خدمة سحابية قد تختلف كثيرًا عما يتاح من وكيل سحابي مخصص أو أداة برمجة مثبتة محليًا.

الأبحاث الأمنية تسلط الضوء على نموذج التهديد الناشئ

دعمت Zenity تطوير منتجاتها بأبحاث أجرتها من خلال Zenity Labs، التي تدرس كيفية التلاعب بالأنظمة المستقلة عبر محتوى غير موثوق.

وفحصت أبحاث AgentFlayer سلاسل هجوم لا تتطلب نقرة أو تتطلب نقرة واحدة، وتستهدف منصات ذكاء اصطناعي مؤسسية واسعة الاستخدام. وشملت العروض سيناريوهات أدت فيها تعليمات خبيثة نُقلت عبر رسائل بريد إلكتروني أو مستندات أو طلبات دعم أو أدوات تعاون إلى كشف معلومات أو إساءة استخدام أدوات متصلة أو تغيير استجابات الوكلاء.

وتناولت أبحاث أحدث متصفح Comet الوكيل من Perplexity. وأظهر باحثو Zenity كيف يمكن لتعليمات مخفية داخل دعوة تقويم أن تؤثر في المتصفح أثناء تنفيذ مهمة اعتيادية. وفي أحد السيناريوهات، تصفّح الوكيل المخترق خزنة 1Password مفتوحة على الويب وأرسل بيانات اعتماد عبر طلبات ويب عادية.

وعزت الأبحاث المشكلة إلى عدم الفصل الكافي بين نوايا المستخدم ومحتوى الأطراف الثالثة الذي يصادفه الوكيل. ولأن الوكيل يعمل أصلًا ضمن جلسة متصفح مسجّل الدخول فيها، فقد يستطيع استخدام صلاحيات منحها المستخدم بصورة مشروعة.

وتوضح هذه العروض سبب عدم كفاية الاعتماد الكامل على اكتشاف المدخلات الخبيثة الواضحة لتأمين الوكلاء. فقد تكون التعليمات مدفونة في بيانات يُتوقع من الوكيل قراءتها، بينما تشبه الإجراءات الناتجة تصفحًا عاديًا أو استرجاعًا للمستندات أو نشاطًا داخل التطبيقات.

كما تؤكد أهمية وجود حدود تظل قابلة للإنفاذ حتى عندما يجري التلاعب باستدلال الوكيل.

تمويل التوسع العالمي وتطوير المنتجات

تقول Zenity إن إيراداتها تضاعفت ثلاث مرات في كل من العامين الماضيين، وإنها في طريقها إلى تحقيق نمو مماثل هذا العام. وتشير الشركة إلى أن كثيرًا من عملائها مؤسسات مدرجة في قائمتي Fortune 500 وGlobal 2000، وتعمل في قطاعات خاضعة للتنظيم مثل الخدمات المالية والرعاية الصحية والأدوية والتصنيع والطاقة.

ويعمل لديها الآن أكثر من 230 موظفًا، وتتركز أنشطة البحث والتطوير في تل أبيب، بينما تُدار وظائف دخول السوق والعمليات من نيويورك.

وسيُستخدم تمويل الفئة C لتسريع تطوير المنتجات وتوسيع Zenity Labs وتعزيز حضور الشركة في أوروبا ومنطقة آسيا والمحيط الهادئ. كما سيوفر موارد إضافية لدعم عدد متزايد من أطر عمل الوكلاء مع ازدياد تنوع البنية التحتية للذكاء الاصطناعي في المؤسسات.

ويأتي هذا التوسع بعد أقل من عامين على الجولة المؤسسية السابقة، حين كانت Zenity لا تزال تؤكد جذورها في أمن التطبيقات منخفضة التعليمات البرمجية وعديمتها. ويعكس تموضعها الحالي تطور تلك المخاوف: فالموظفون الذين كانوا يستطيعون بناء تطبيقات أعمال بسيطة أصبحوا قادرين على إنشاء وكلاء يتخذون قرارات ويشغّلون أنظمة متصلة.

أمن وكلاء الذكاء الاصطناعي يتحول إلى فئة مستقلة

يشير تمويل Zenity إلى ثقة المستثمرين بأن أمن وكلاء الذكاء الاصطناعي قد يصبح فئة كبيرة في الأمن السيبراني، بدلًا من أن يبقى مجرد ميزة ضمن منتجات السحابة أو الهوية أو حماية الأجهزة الطرفية.

وتستند الحجة لصالح فئة مستقلة إلى أن الأدوات التقليدية لا ترى عادةً سوى جزء من نشاط الوكيل. فمنصات أمن السحابة تفحص البنية التحتية، وأنظمة الهوية تدير الصلاحيات، ومنتجات حماية الأجهزة تكشف تهديدات نظام التشغيل. لكنها لا تفهم بالضرورة الدور المقصود للوكيل أو صلة سلسلة استدعاءات الأدوات بهدف المستخدم الأصلي.

ولا يزال على Zenity إثبات أن ضوابطها القائمة على النية تستطيع العمل عبر أطر سريعة التغير دون توليد تنبيهات مفرطة أو تعطيل العمل المشروع أو إضافة تأخير غير مقبول. وعليها أيضًا إثبات أن المؤسسات ستشتري منصة منفصلة لأمن الوكلاء بدلًا من الاعتماد على الضوابط التي يضيفها كبار مزودي السحابة والبرمجيات.

ومع ذلك، تتضح فرصة السوق الآنية أكثر فأكثر. فمع وصول الوكلاء إلى بيانات حساسة وبدئهم التحكم في عمليات أعمال ذات تبعات مهمة، ستحتاج المؤسسات إلى أكثر من سجل لما حدث بعد وقوع الحادث. وستحتاج إلى آليات تحدد الوكلاء الموجودين وتقيّد ما يستطيعون فعله وتتدخل قبل أن يتحول إجراء غير مقصود إلى اختراق.

وتمنح جولة Zenity من الفئة C، البالغة 125 مليون دولار، الشركة موارد كبيرة لمتابعة هذا الدور، بينما تستعد فرق الأمن لبيئة مؤسسية تضم عددًا متزايدًا من البرمجيات المستقلة.