أنكوندا تقترن أسراب وكلاء الذكاء الاصطناعي باختبار الأمان المستقل

إعطاء وكيل ذكاء اصطناعي مزيدًا من الأدوات يمكن أن يجعله أكثر فائدة. إتاحة هذه الأدوات لعدة وكلاء في آن واحد يطرح سؤالًا أصعب: كيف يمكن للمؤسسة تتبع ما يفعله كل وكيل، وإيقاف فعل ضار قبل أن يصل إلى نظام حقيقي؟

توسعة منصة أنكوندا في 6 أكتوبر تحل هذه المشكلة من خلال ربط تطوير الذكاء الاصطناعي المنسق باختبار الأمان المستقل. وتجمع التقنية من Kilo Code و Enkrypt AI و Outerbounds عبر مساحات عمل التطوير، وضوابط الأمان، وتنسيق الإنتاج.

الفكرة الإستراتيجية هي ربط الأماكن التي يبني فيها الوكلاء البرمجيات، حيث يتم اختبار سلوكهم، وأين تُشغَّل سير العمل الناتج. تُسمي أنكوندا ذلك بـ AI Dev Factory. بالنسبة للمؤسسات، السؤال العملي هو ما إذا كانت هذه الروابط تجعل توسيع استقلالية الوكلاء أسهل في الفحص والحكم.

كيف ينسق وكلاء Kilo عملهم

يقوم سرب الوكلاء بتوزيع المهام ذات الصلة عبر عدة وكلاء ذكاء اصطناعي. قد يحقق أحدهم في تصميم المصادقة بينما يكتب آخر اختبارات أو ينفّذ مكوّنًا منفصلًا. الميزة المحتملة هي التقدم المتوازي، بشرط أن يتمكن الوكلاء من مشاركة الاكتشافات وتجنب العمل المتعارض.

الوصف الفني لـ Kilo عن Swarm يشرح آلية التنسيق: جلسة رئيسية ووكلاؤها المتفرعون يشاركون لوحة رسائل. يمكن للوكلاء نشر النتائج وقراءة اللوحة أثناء استمرار العمل، بدلاً من الانتظار حتى يكتمل كل مهمة فرعية قبل تبادل النتائج.

هذا التمييز مهم. يمكن لوكيل الاختبار أن يتعرف على قرار المصادقة قبل كتابة مجموعة اختبارات تفترض شيئًا مختلفًا. تقول Kilo إن التقييمات الداخلية المبكرة تشير إلى أن تقليل العمل المتكرر قد يقلل من استهلاك الرموز، لكنها لم تنشر نتائج رقمية لهذا الادعاء.

توثيق النظام نفسه يحدد أيضًا حدًا يستحق الفهم: رسائل اللوحة لا تُيقظ الوكلاء ولا تُعيد تشغيلهم أو توافقهم، ورسائل الإيقاف الاستشارية أو الاعتراض لا توقفهم تلقائيًا. يمكن لكل مشارك قراءة تاريخ اللوحة بالكامل. لذا يجب تمييز التنسيق عن الأذونات القابلة للتنفيذ وضوابط التنفيذ.

أنكوندا صفحة الإطلاق توضع هذه سير العمل في VS Code وتصف العمل المتوازي عبر شجرات العمل. كما تُقدِّم Kilo Desktop في مرحلة التجريب، حيث تجمع بين الهندسة، علم البيانات وإدارة بيئة بايثون مع إمكانية الوصول إلى أكثر من 500 نموذج واستدلال محلي.

اختبار الأمان الذي يغيّر التكتيكات

توفر Enkrypt AI جانب الاختبار العدائي للمنصة. تقول أنكوندا إن العرض الأمني الموسَّع يختبر النماذج والوكلاء وتكاملات MCP عبر أكثر من 300 فئة هجوم، إلى جانب حماية وقت التشغيل.

الشرح الفني للفرق الأحمر المستقل تصف أنكوندا البدء بأنماط هجوم معروفة ثم استخدام الوكلاء لتكييف نهجهم وفقًا لاستجابات الهدف. يُكوِّن الوكيل فرضية حول ضعف ما، يختبرها، يفحص النتيجة ويقرر ما سيجربه لاحقًا.

على سبيل المثال، يمكن للرفض أن يدفع إلى تغيير الاستراتيجية بدلاً من إعادة صياغة الطلب نفسه. يستخدم النظام ذاكرة الجلسة لتجنب تكرار الأساليب الفاشلة والاستكشاف المتوازي للتحقق من مخاطر مختلفة في آن واحد. تقول أنكوندا إن هذا الاختبار يُجرى داخل بيئة العميل ومُضبط ليتوافق مع نموذج تهديد النشر.

هذا النهج ذو صلة بالوكلاء الذين يستهلكون المعلومات من الأدوات والمصادر الخارجية. لا يقتصر الخطر على إجابة غير آمنة فقط: قد توجه تعليمات مخفية في المادة المسترجعة نداء أداة لاحق. يحتاج الاختبار إلى فحص سلاسل السلوك، بما في ذلك المعلومات التي يثق بها الوكيل والإجراءات التي تليها.

ضوابط الحماية أثناء التشغيل تعالج مشكلة مختلفة

إيجاد ضعف أثناء الاختبار ومنع إجراء غير آمن أثناء التشغيل هما مهمتان منفصلتان. تم تصميم منتج Guardrails من Enkrypt AI للموافقة على السلوكيات الخطرة أو تعديلها أو حظرها عبر الوكلاء والأدوات وتوليد الاسترجاع المعزز واتصالات بروتوكول سياق النموذج.

تحدد الشركة حقن الأوامر، الإجراءات غير الآمنة للأدوات، انتهاكات حدود الامتيازات وتسريب البيانات الحساسة كجزء من المخاطر التي تستهدفها. تركيزها على القرارات القابلة للتدقيق يجعل طبقة التحكم ذات صلة بتحقيق الحوادث وكذلك الوقاية.

تشمل إصدارة أنكوندا أيضًا درجات مخاطر النماذج داخل Kilo وسجل حوادث الوكلاء الذي يحتوي على تقارير حوادث عامة مدعومة بالمصادر. يمكن لهذه المعلومات إرشاد اختيار النماذج وأولويات الاختبار. يجب اعتبارها مدخلات لعملية الأمان، وليس دليلًا على أن نشرًا معينًا آمن.

تحتاج أرقام النطاق إلى نفس العناية. تُبلغ أنكوندا أن 63٪ من المستجيبين في استبيانها لمطوري الذكاء الاصطناعي الأصليين كانوا يتجهون نحو الأسراب بشكل ما. كما تشير إعلاناتها إلى بحث Enkrypt الذي وجد ثغرات في 73٪ من 25,264 خادم MCP تم فحصها على مدار أربعة أشهر. هذه نتائج أبلغ عنها البائع حول المستجيبين والأنظمة التي فُحصت، وليست قياسًا لكل نشر وكلاء في المؤسسات.

لماذا بيئة الإنتاج تُعد جزءًا من القصة

تُعالج منصة Anaconda منصة تنسيق الذكاء الاصطناعي، سابقة Outerbounds ما يحدث بعد التطوير. تصف موقعها الإلكتروني تشغيلات سير العمل القابلة لإعادة الإنتاج، وتتبع القطع الأثرية وسلالتها، مع إمكانية الحوسبة المتاحة عبر سحابات متعددة وتطبيق الحوكمة على الحزم والنماذج.

يوفر ذلك طريقة لربط الناتج بالبيئة والاعتمادات التي أنتجته. عندما يتغير سير العمل، تحتاج الفرق إلى معرفة أي نموذج أو حزمة أو سياسة تغيرت معه. تجعل القابلية لإعادة الإنتاج التحقيق والمقارنة أكثر عملية.

يضيف الإطلاق في أكتوبر وصولًا أصليًا إلى القطع الأثرية الخاضعة للحوكمة داخل سير عمل التنسيق. كما تصف صفحة الإصدار الموسعة Fast Bakery، التي تُنشئ صور الحاويات من اعتمادات conda و PyPI، بما في ذلك المكتبات الأصلية، وكاتالوجًا موسعًا يضم أكثر من 19,000 حزمة منقاة و77 نموذجًا مفتوح المصدر موثوقًا.

توفر هذه التوسعة لـ Anaconda دورًا أوسع من مجرد توفير مكونات بايثون. تمتد مقترحاتها الآن لتشمل التطوير بمساعدة الوكلاء، والتقييم العدائي، وضوابط وقت التشغيل، والتسليم القابل لإعادة التكرار. الاختبار الحقيقي سيكون ما إذا كانت هذه العناصر تمنح الفرق سجلًا موثوقًا بما بنته الوكلاء، وما تم اختباره، وما سُمح لهم بفعله عندما بدأ البرنامج في العمل.