استراتيجيات الأمن السيبراني لتطوير الوكلاء منخفض البرمجة وعالي البرمجة

مع بدء المؤسسات بتوظيف وكلاء الذكاء الاصطناعي في أنظمة الأعمال، يغدو الارتباط وثيقًا بين سرعة التطوير والإشراف الأمني. وينبغي لاستراتيجيات الأمن السيبراني الخاصة بتطوير الوكلاء منخفض البرمجة وعالي البرمجة أن تراعي كيفية إتاحة كل نهج الوصول إلى المعلومات وتمكين تنفيذ الإجراءات. ويمكن لتدابير الحماية الموجّهة معالجة هذه الاختلافات، فيما تضمن الحوكمة المشتركة توافق أنشطة الوكلاء مع المهام المصرّح بها مع توسع نطاق عمليات النشر.

ما الذي يميز تطوير وكلاء الذكاء الاصطناعي منخفض البرمجة عن عالي البرمجة؟

تتيح المنصات منخفضة البرمجة للمطورين إنشاء الوكلاء عبر واجهات مرئية وموصلات جاهزة تربط خدمات الأعمال. أما التطوير عالي البرمجة فيمنح المبرمجين مرونة أكبر لتحديد سلوك الوكيل باستخدام شيفرات مخصصة وتكاملات الأدوات وبيئات التنفيذ. ويتطلب كلا النهجين الإشراف على المعلومات التي يمكن للوكلاء الوصول إليها والإجراءات التي يمكنهم تنفيذها.

تختلف المسؤوليات الأمنية لأن موضع التحكم يختلف من نهج إلى آخر. يعمل مطورو الحلول منخفضة البرمجة ضمن إعدادات المنصة التي تحكم المشاركة والوصول إلى الموصلات، ما يجعل قرارات التهيئة بالغة الأهمية. وتتحمل فرق التطوير عالي البرمجة مسؤولية أكبر عن البرمجيات والبيئات التي تنفذ تعليمات الوكلاء، بما في ذلك وضع حدود للوصول إلى الملفات وبيانات الاعتماد.

The Cybersecurity and Infrastructure Security Agency تحدّد عدة مخاطر للذكاء الاصطناعي الوكيلي التي توفّر إطارًا مفيدًا لكلا النهجين. يشير اتساع سطح الهجوم إلى وجود نقاط دخول إضافية، بينما يشير تضخم الصلاحيات إلى تراكم صلاحيات الوصول. وينطوي عدم التوافق السلوكي على انحرافات عن المهام المقصودة، كما أن عدم وضوح سجلات الأحداث يعقّد التحقيق. وقد يؤدي موصّل واسع الاستخدام وأداة غير مقيّدة لسطر الأوامر إلى صور مختلفة للمشكلات نفسها.

المخاطر الأمنية للوكلاء منخفضة البرمجة وسبل معالجتها

تتيح سهولة استخدام أدوات البرمجة منخفضة التعليمات البرمجية للموظفين خارج فرق التطوير التقليدية إنشاء الوكلاء. وينبغي أن يشمل الإشراف الأمني هؤلاء المطورين لضمان اتساق عمليات الربط الميسّرة مع استخدامات الأعمال المصرّح بها.

أوجه القصور الأمنية في بيئات البرمجة منخفضة التعليمات البرمجية

قد يربط المطورون من غير المتخصصين في البرمجة وكيلاً بملفات مشتركة أو تطبيقات أعمال من دون فهم كامل لصلاحياته. وقد يعرّض الوصول الممنوح عبر هذه الروابط معلومات حساسة للخطر أو يتيح تنفيذ إجراءات تتجاوز سير العمل المقصود. كما قد تؤدي المشاركة الواسعة وعدم وضوح المسؤولية إلى تفاقم هذا التعرض.

يجعل حجم التبني الإشراف المتسق عبر الإدارات أمرًا مهمًا. وفي تحليل سوقي لعام 2024، تذكر Forrester أن 87% من مطوري المؤسسات يستخدمون منصات منخفضة البرمجة في بعض أعمال التطوير. وتتعلق هذه النتيجة بالتطوير عمومًا، لذا فهي تبيّن مدى انتشار هذه المنصات من دون أن تقيس تحديدًا مدى تبني وكلاء الذكاء الاصطناعي.

سبل عملية لتعزيز أمن الوكلاء منخفضة البرمجة

ينبغي للفرق مراجعة أذونات الموصلات ومقارنتها بالمهمة الموكلة إلى كل وكيل، وتطبيق مبدأ الحد الأدنى من الصلاحيات. كما ينبغي أن يتضمن سجل مركزي بيانات مالك كل عملية نشر والخدمات المتصلة بها، مع اشتراط الموافقة على الإجراءات الحساسة. ويوفر ذلك لفرق الأمن أساسًا لتحديد الوكلاء غير المسجلين والتحقيق في حالات الوصول غير الملائمة.

يركز نهج Microsoft في حوكمة البيانات على ضبط الوصول إلى معلومات الأعمال. ويوصي Naveen Jangir، كبير المعماريين في Microsoft Digital، المؤسسات بأن «تحكم الوصول إليها وتحميها بفرض قيود مناسبة على الوصول». وتتيح هذه الضوابط للمستخدمين المخولين وإمكانات الذكاء الاصطناعي استخدامها من دون تعريضها للخطر بلا داعٍ ضمن حدود الأذونات المعتمدة. ويمكن لتطبيق سياسات الموصلات إلى جانب تحديد المسؤوليات بوضوح أن يجعل هذه القيود جزءًا من ممارسات التطوير اليومية.

المخاطر الأمنية للوكلاء عاليي البرمجة وسبل معالجتها

عندما تستخدم الفرق وكلاء البرمجة بالذكاء الاصطناعي لبناء أنظمة مخصصة، قد تصل التغييرات المُنشأة بوتيرة أسرع من قدرة الأشخاص على مراجعتها. لذلك، يتطلب أمن التطوير عالي البرمجة ضوابط تشمل عملية التطوير والبيئات التي ينفذ فيها الوكلاء المهام.

التحديات الأمنية الفريدة للتطوير عالي البرمجة

قد تتعرض وكلاء البرمجة لهجمات حقن غير مباشر للتعليمات عند قراءة مستودعات خارجية تحتوي على تعليمات وضعها خصم. وإذا اتبع الوكيل تلك التعليمات أثناء امتلاكه صلاحية الوصول إلى أدوات التطوير، فقد ينفذ أوامر غير آمنة أو يكشف بيانات اعتماد. وتتوقف العواقب المحتملة جزئيًا على الملفات والأدوات والوجهات الخارجية التي تسمح له بيئة التنفيذ بالوصول إليها.

تتناول إرشادات NVIDIA بشأن العزل مشكلة كشف بيانات الاعتماد ضمن حدود بيئة التنفيذ. وتشير إلى أن «بيئات العزل ينبغي أن تعتمد على حقن الأسرار صراحةً» للحد من الوصول إلى بيانات الاعتماد. وبناءً على ذلك، ينبغي ألا ترث الوكلاء بيانات اعتماد البيئة كاملةً عندما لا تتطلب مهامها سوى وصول محدود. وينبغي للفرق توفير بيانات الاعتماد اللازمة للمهمة المحددة، وإبقاء الأسرار غير المرتبطة بها بعيدًا عن متناول الوكيل.

استراتيجيات تعزيز أمن مسارات عمل الوكلاء المطوّرة بالبرمجة عالية المستوى

ينبغي لبيئات التنفيذ المقيّدة أن تحدّ من الوصول إلى الملفات والاتصالات الصادرة بما يتناسب مع المهمة. وينبغي للفرق أيضًا إجراء اختبارات أمن التطبيقات الساكنة على الشيفرات البرمجية المُولّدة. كما ينبغي لمراجعين مستقلين فحص قرارات التفويض أو منطق الأعمال التي قد لا ترصدها عمليات التحقق الآلية. وتعالج هذه الطبقات حدود التنفيذ ونقاط الضعف في البرمجيات الناتجة.

توصي Amazon Web Services، ضمن إطارها لضوابط وكلاء البرمجة، بفصل توليد الشيفرة البرمجية عن تقييمها. وتشير إلى أن «الجلسة المنفصلة تساعد على تجنب تحيز تأكيد الذات». لكن جلستين تستخدمان النموذج نفسه قد تحملان النقاط العمياء الأساسية نفسها أثناء المراجعة. وحيثما أمكن، يمكن استخدام نموذج مختلف للمراجعة، إلى جانب تقييم بشري للتغييرات الحساسة أمنيًا، لإخضاعها لمزيد من التدقيق.

وضع استراتيجية أمنية تشمل النهجين

يتطلب أمن الذكاء الاصطناعي في تطوير الوكلاء منخفض البرمجة وعالي البرمجة رؤية موحّدة للأنشطة في كل موضع تتبادل فيه الوكلاء المعلومات. فعلى سبيل المثال، قد يرسل سير عمل منخفض البرمجة محتوى إلى وكيل مُصمَّم خصيصًا، ثم يستدعي هذا الوكيل خدمة أعمال أخرى. وقد تؤدي مراجعة كل مكوّن على حدة إلى حرمان فرق الأمن من السياق اللازم لفهم التسلسل كاملًا.

يرى خبراء أمن الذكاء الاصطناعي في Darktrace أن المؤسسات ينبغي أن تفحص المطالبات والجلسات إلى جانب الردود، عبر أدوات الذكاء الاصطناعي التوليدي المؤسسية ونهجي التطوير كليهما. ويشمل منظورها أيضًا بيئات البرمجيات كخدمة وحافة الوصول الآمن إلى الخدمات. وبفضل هذه الرؤية، تحصل المؤسسات على سياق يمكّنها من «اكتشاف هجمات المطالبات الحوارية الماكرة وسلاسل الهجمات الخبيثة».

يدعم منظور Darktrace اعتماد استراتيجية أوسع لأمن الذكاء الاصطناعي في تطوير الوكلاء منخفض البرمجة وعالي البرمجة، إذ تساعد رؤية المطالبات ومراقبة الجلسات والإشراف على الهويات الفرقَ على فهم كيفية تفاعل الوكلاء عبر الأدوات المتصلة. وينبغي لفرق الأمن دراسة كيفية تغيّر التعليمات عبر الجلسات المتصلة، وما إذا كانت الإجراءات اللاحقة تظل متوافقة مع التفويض الأصلي. كما ينبغي لها مراعاة مدى حساسية أي معلومات يُحتفَظ بها لأغراض التحقيق.

الحوكمة والمراقبة لضمان أمن الوكلاء على المدى الطويل

ينبغي أن يكون لكل وكيل مسؤول محدد ونطاق واضح للعمل المسموح به، بصرف النظر عن طريقة تطويره. وينبغي للحوكمة أيضًا أن تحدد من يملك صلاحية الموافقة على التغييرات التي تطرأ على هذا النطاق، ومن يستطيع تعليق نشاط الوكيل إذا تصرّف على نحو غير متوقع.

تشير الأبحاث المتعلقة بحوكمة الوكلاء إلى ضرورة أن تتمتع الوكلاء بصلاحيات قابلة للتحقق من صحتها وقابلة للتدقيق، بما يدعم المساءلة. ويربط هذا النهج بين الشخص الذي يمنح الإذن والمهام التي يجوز للوكيل تنفيذها. وبذلك، تستطيع المؤسسات التحقق من توافق الإجراء مع ذلك التفويض.

ينبغي للفرق الاحتفاظ بسجلات للأنشطة تربط بين الصلاحيات المفوّضة واستخدام الأدوات والنتائج. وينبغي للمراجعات الدورية إعادة النظر في تلك الصلاحيات مع تغيّر القدرات، وإلغاء ما تبقى من صلاحيات بعد إنجاز العمل، والتأكد من أن المسؤولية لا تزال محددة على نحو سليم. ويمكن لفرق التطوير والأمن الاستفادة من هذه المراجعات لضمان توافق الضوابط التشغيلية مع الغرض المعتمد للوكيل.

مواكبة مخاطر أمن وكلاء الذكاء الاصطناعي

يتطلب التطوير منخفض البرمجة عناية فائقة بصلاحيات المنصة وحوكمة الموصلات، بينما يستلزم التطوير عالي البرمجة اهتمامًا وثيقًا ببيئات التنفيذ المخصصة ومراجعة الشيفرات البرمجية. وتوفر المراقبة المركزية والمساءلة المتسقة أساسًا مشتركًا للإشراف على كيفية وصول الوكلاء إلى المعلومات وتصرفهم عبر أنظمة الأعمال المتصلة. ومع اتساع القدرات، ينبغي للمطورين إعادة تقييم الضمانات بالتوازي مع التغييرات في أدوات الوكلاء ومسؤولياتهم، مع توضيح الأنشطة المسموح بها لكل عملية نشر طوال دورة حياتها.