تطلق Sysdig ‏AI Defense لحوكمة إجراءات الوكلاء من نقطة النهاية إلى السحابة

أطلقت Sysdig ‏AI Defense، وهو منتج لأمن وقت التشغيل والحوكمة، صُمم لفحص ما تفعله وكلاء الذكاء الاصطناعي والتدخل عندما تتجاوز إجراءاتهم سياسات المؤسسة. وأُعلن في 4 نوفمبر عن إتاحة المنتج عمومًا لنظامَي macOS وWindows، مع إمكانات رصد تهدف إلى ربط النشاط على محطات عمل الموظفين بموارد السحابة التي تتيح بيانات اعتمادهم الوصول إليها.

يعالج المنتج التحول من ذكاء اصطناعي يقدّم إجابات إلى ذكاء اصطناعي يشغّل البرامج. إذ يستطيع وكيل البرمجة قراءة الملفات واستدعاء الأدوات وبدء العمليات وتغيير البنية التحتية. ويتطلب تأمين سير العمل هذا فهم المهمة التي يعتقد الوكيل أنه ينفذها، وكذلك العمليات التي تجري فعليًا في الخلفية.

ربط نوايا الوكيل بالأدلة المستمدة من نظام التشغيل

تقول Sysdig إن AI Defense يجمع بين أدوات الرصد داخل بيئة تشغيل الوكيل—أي الإطار الذي يشغّله—وبين بيانات القياس عن بُعد لنظام التشغيل. وتسجل أدوات الرصد في بيئة التشغيل الاستدعاءات الموجّهة إلى الأدوات وخوادم بروتوكول سياق النماذج (Model Context Protocol) والمهارات والمكونات الإضافية، بما في ذلك معطياتها والجهات المستهدفة بها. أما الرصد على مستوى النظام، فيوفّر سجلًا منفصلًا للعمليات والأنشطة الناتجة عن تلك الاستدعاءات.

تكتسب هذه التفرقة أهميتها عندما يكون وصف الوكيل لما حدث ناقصًا أو عندما يتعرض للاختراق. فقد يؤدي إجراء واحد لأداة أبلغ عنه الوكيل إلى بدء عدة عمليات، كما قد يؤدي إضافة اتصال أو مهارة أثناء الجلسة إلى تغيير ما يستطيع الوكيل فعله. وتفيد Sysdig بأنها رصدت في مرحلة مبكرة نحو سبع عمليات أساسية لكل إجراء في سجلات الوكلاء؛ وهذا استنتاج للشركة، وليس نسبة عامة تنطبق على جميع الوكلاء.

يراعي النظام أيضًا مستوى الصلاحيات: فقد تترتب على عملية قراءة الملف نفسها عواقب مختلفة بحسب ما إذا كانت بيانات الاعتماد المعنية تتيح الوصول إلى بيئة اختبار أو تمنح صلاحية إدارة بيئة الإنتاج. وتهدف خريطة الإجراءات إلى ربط تسلسل الأحداث بالشخص المسؤول، والنشاط الذي أفاد الوكيل بأنه ينفذه، والموارد التي يمكنه الوصول إليها.

سياسات تسمح بالإجراء أو توقفه مؤقتًا أو تحظره

يمكن للمؤسسات بدء تطبيق السياسات في وضع التنبيه قبل تفعيل فرضها. وتقول Sysdig إن هذه السياسات، بعد فرضها، تستطيع حظر الأدوات والاتصالات التي لم تخضع للتدقيق، ومنع الوصول المحفوف بالمخاطر إلى بيانات الاعتماد، أو تعليق إجراء إلى حين موافقة شخص عليه. ويصف الإصدار أيضًا إمكانية إنهاء عملية إذا تجاوز إجراءٌ أحد الضوابط السابقة.

تعمل هذه الآليات في مراحل مختلفة من تسلسل التنفيذ. فمنع عملية من الاكتمال يختلف عن رصد النشاط وإنهاء عملية بعد ذلك. ولا يتضمن الإعلان مصفوفة متاحة للعامة توضّح الضوابط الوقائية على كل نظام تشغيل وبيئة تشغيل ومنصة مُدارة مدعومة.

تتضمن قوالب السياسات مواءمات مع قائمة OWASP لأهم 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة، إلى جانب مسارات للاستثناءات التي يطلبها المطورون. وتصف Sysdig أيضًا سجلات للجلسات تبيّن السياسة التي طُبقت، وما سُمح به أو حُظر، والشخص الذي وافق على الاستثناء. ويمكن لهذه السجلات أن تدعم التحقيق والتدقيق، من دون اضطرار الفرق إلى إعادة بناء الجلسة بعد وقوع حادث.

ما الذي تضيفه مؤسسة Falco

تربط Sysdig المنتج بخبرتها في أمن وقت التشغيل للأنظمة السحابية الأصلية وبـFalco، المشروع مفتوح المصدر الذي أنشأته في الأصل. وتوضح وثائق Falco أنه يرصد أحداث نواة Linux ومصادر الأحداث التي توفرها المكونات الإضافية، ويثري الأحداث بسياق الحاويات وKubernetes، ويطبّق القواعد لإصدار التنبيهات.

تساعد هذه الخلفية على توضيح سبب تركيز Sysdig على التنفيذ المرصود بدلًا من الاعتماد حصرًا على وصف نظام الذكاء الاصطناعي لما فعله. لكنها لا تعني أن مشروع Falco مفتوح المصدر نفسه يوفر كل إمكانات حوكمة الوكلاء أو حظر الإجراءات الموصوفة في AI Defense. وينبغي فهم بنية الكشف الموثقة في Falco والمنتج التجاري من Sysdig كلٌّ على حدة.

يسمّي الإصدار Claude Code وCodex وGitHub Copilot وCursor ضمن بيئات الوكلاء التي يهدف المنتج إلى حصرها وتتبعها وصولًا إلى الشخص المسؤول عنها. ويحدد بيان التوافر لنظامَي macOS وWindows نطاقًا أدق من الوصف الأوسع للتغطية التي تمتد إلى Linux وKubernetes ومنصات الوكلاء المُدارة؛ لذا ستحتاج المؤسسات إلى تحديد التكامل المناسب لكل بيئة.

حوكمة وقت التشغيل تكمل اختبار النماذج

يقدّم الشرح التقني الذي نشرته Sysdig حول المسؤولية المشتركة ضوابط وقت التشغيل بوصفها طبقة تحيط بالعمل الذي يؤديه الوكيل. ويتمثل الفرق العملي في التمييز بين مطالبة نموذج باحترام حدٍّ ما وفرض هذا الحد عندما يحاول برنامج تنفيذ عملية.

يُطرح AI Defense بوصفه مكمّلًا للحماية الحالية لنقاط النهاية واختبار النماذج والاختبارات الهجومية. ويفحص الاختبار سلوك نموذج أو سير عمل في ظل ظروف مختارة، بينما تتناول حوكمة وقت التشغيل الإجراءات أثناء جلسة فعلية. ولا يثبت أي من الوصفين أن عملية النشر محصّنة ضد الاختراق؛ إذ تعتمد الفاعلية على إعداد السياسات ومدى تغطية مسار التنفيذ.

إسناد نشاط الوكلاء وإنفاق الذكاء الاصطناعي إلى الجهات المسؤولة

إلى جانب الأمن، تقول Sysdig إن AI Defense تربط استدعاءات النماذج بالوكيل والفريق والشخص المسؤول، بما في ذلك الأنشطة التي لا تمر عبر بوابة مركزية للذكاء الاصطناعي. وقد يساعد ذلك المؤسسات على التمييز بين الاستخدام المكلف للنماذج في المهام الاعتيادية والأنشطة التي تستدعي نموذجًا أكثر قدرة.

تتمثل الفكرة الأوسع في إنشاء طبقة موحدة من الأدلة تدعم الأمن والحوكمة وإدارة التكاليف. ومع اكتساب الوكلاء مزيدًا من الأدوات وعملهم باستخدام بيانات اعتماد الموظفين الفعلية، يتحدد أثرهم بما يمكنهم تنفيذه. وتهدف Sysdig AI Defense إلى إتاحة رؤية هذه الصلاحيات وإنفاذها عند تنفيذ الإجراءات.