DeepKeep يضيف ضمانات وقت التشغيل للوكلاء البرمجيين للذكاء الاصطناعي مع AI Lens للمطورين

DeepKeep قدمت AI Lens للمطورين، طبقة أمان صُممت لتزويد مديري الأمن (CISOs) بالرؤية والتحكم في السياسات على وكلاء البرمجة بالذكاء الاصطناعي الذين يعملون على أجهزة المطورين. يوسع المنتج قدرات DeepKeep الحالية في التحكم باستخدام الذكاء الاصطناعي وحماية وقت التشغيل لتشمل أدوات مثل Cursor وClaude Code، مع دعم GitHub Copilot وOpenAI Codex وLovable وWindsurf وخطط لإضافة وكلاء برمجة إضافيين.

يُعالج الإطلاق مشكلة أمان نتجت عن تزايد استقلالية أدوات المطورين. يمكن للوكلاء البرمجيين الحديثين فحص وتعديل الملفات المحلية، وتنفيذ أوامر الصدفة، واستدعاء الخدمات الخارجية عبر بروتوكول سياق النموذج (MCP). هذه الصلاحيات تجعل الأدوات مفيدة، لكنها تسمح أيضًا للوكيل بالكشف عن بيانات الاعتماد، وتغيير الشيفرة الحساسة، أو التفاعل مع أنظمة خارج الضوابط التي يطبقها فرق الأمن عادةً على تطبيقات السحابة.

النتيجة هي توسيع فجوة الرؤية. قد توافق شركة على مساعد برمجي كمنتج بينما تفتقر إلى دليل واضح حول ما فعله وكيل معين خلال جلسة معينة. كما استكشف Unite.AI مؤخرًا، فرق الأمن تحتاج بشكل متزايد إلى تتبع استدعاءات أدوات الوكيل، وتنفيذ الأوامر، والأحداث التي تغير النظام، وليس مجرد الحفاظ على قائمة بالخدمات الذكاء الاصطناعي المعتمدة.

فحص إجراءات الوكيل قبل وبعد التنفيذ

تم بناء AI Lens للمطورين كإضافة خفيفة الوزن بدلاً من وكيل نقطة النهاية الكامل. تقول DeepKeep إنه يدمج نفسه في سير عمل الوكيل البرمجي لفحص المطالبات، وقراءات الملفات، وأوامر الصدفة، واستدعاءات أدوات MCP قبل وبعد تنفيذها. يمكن توجيه كل نشاط عبر نظام سياسات الشركة للحصول على قرار السماح أو الحظر أو التدقيق.

التمييز بين المراقبة قبل التنفيذ وبعده مهم. يمكن لسجل التدقيق توضيح سبب حدوث الحادث، لكنه لا يستطيع منع أمر مدمر أو إيقاف سر من مغادرة بيئة المطور. تُصنّف DeepKeep AI Lens كوسيلة تحكم وقائية ومصدر دليل للاستجابة للحوادث والامتثال.

يمكن للمنتج تمييز بيانات الاعتماد، ورموز الوصول، وكلمات المرور المتضمنة في المطالبات أو الملفات المرفقة. كما يفحص الشيفرة التي يولدها الوكيل بحثًا عن أنماط غير آمنة، مثل الدوال التي تتجاهل المصادقة. يمكن حجز الأوامر التي تُصنف على أنها مدمرة للمراجعة البشرية، بينما يمكن للمسؤولين إنشاء قواعد عبارات مفتاحية مخصصة لتحديد الإشارات إلى المستودعات الحساسة أو أقسام الشيفرة أو المشاريع الداخلية.

تقول DeepKeep إن كل جلسة تُنشئ سجل تدقيق مفصل يمكن أن يتضمن معرف الجهاز، ومحتوى المطالبة، ومعرف المستخدم. يوفّر ذلك لفرق الأمن وسيلة لإعادة بناء نشاط الوكيل حتى لو عدّل المطور طلبًا محظورًا وحاول تنفيذه مرة أخرى.

سياسة مركزية للذكاء الاصطناعي الموجه للمطورين

يدير المسؤولون القواعد عبر مركز سياسات DeepKeep. يمكن تطبيق السياسات بحسب الدور أو على مستوى المؤسسة بأكملها، ويمكن أن تغطي فئات تشمل المعلومات الشخصية القابلة للتعريف، وبيانات الاعتماد، والأوامر المدمرة. يهدف هذا النهج إلى تمكين الشركات من وضع وضع أمان متسق مع السماح لفرق الهندسة بالاستمرار في استخدام سير عمل التطوير القائم على الوكلاء.

تركيز المنتج على MCP يأتي في وقت ملائم. يوفر البروتوكول لتطبيقات الذكاء الاصطناعي طريقة معيارية للاتصال بالأدوات وبيانات المؤسسة، لكن كل خادم وإجراء قابل للاستدعاء يمكن أن يوسّع سطح الهجوم الذي يمكن للوكيل الوصول إليه. تشير دليل إلى Model Context Protocol من Unite.AI إلى أن مضيفي MCP والخوادم يشكلون حدود أمان متميزة، بما في ذلك التعرض لحقن المطالبات ومخرجات الأدوات غير الموثوقة. لذا فإن مراقبة النموذج وحده غير كافية عندما يستطيع النموذج اتخاذ إجراءات عبر أنظمة أخرى.

يؤكد أوفر روتبرغ، نائب رئيس المنتج في DeepKeep، أن وكلاء البرمجة يحصلون على وصول غير عادي للقوة للمطورين بينما يتصرفون باستقلالية متزايدة. من وجهة نظره، يحتاج مدراء الأمن (CISOs) إلى رؤية مستمرة لسلوك الوكيل وإلى القدرة على إيقاف الإجراءات الضارة في الوقت الفعلي بدلاً من الانتظار للتحقيق في الحادث التالي.

جزء من منصة أمان الذكاء الاصطناعي الأوسع

يتواجد AI Lens للمطورين ضمن منصة أمان الذكاء الاصطناعي الأوسع لشركة DeepKeep. كما تقدم الشركة جدار حماية للذكاء الاصطناعي، واختبار اختراق للذكاء الاصطناعي مؤتمت وموجه بشري، وضوابط استخدام الذكاء الاصطناعي، وفحص الوكلاء وفحص النماذج. تقول DeepKeep إن ضوابطها يمكن تطبيقها عبر دورة حياة الذكاء الاصطناعي، من التطوير والاختبار إلى الاستخدام الإنتاجي للتطبيقات والوكلاء.

تأسست الشركة في عام 2021 وتصف منصتها بأنها غير مرتبطة بنموذج معين، مع دعم للنشر في بيئات SaaS والسحابة الخاصة وعلى الخوادم المحلية والبيئات المعزولة. رسالتها الأوسع هي أن المؤسسات تحتاج إلى لغة سياسات موحدة للنماذج والتطبيقات والموظفين والوكلاء المستقلين بدلاً من ضوابط منفصلة لكل أداة ذكاء اصطناعي.

بالنسبة لمدراء الأمن (CISOs)، تصبح الوكلاء الموجهون للمطورين اختبارًا عاجلًا لهذه الفكرة. يركز أمان التطبيقات التقليدي بشكل كبير على الشيفرة التي تصل إلى الإنتاج. تضيف وكلاء البرمجة طبقة إضافية من المخاطر: العملية التي تقرأ المستودع، وتُنشئ الشيفرة، وتنفذ الأوامر قد تكون ذاتية الاستقلال. تحاول منتجات مثل AI Lens جعل هذه العملية قابلة للملاحظة والتنفيذ دون إلغاء مزايا السرعة التي دفعت المطورين إلى اعتماد الوكلاء في المقام الأول.