NVIDIA تكشف عن Open Agent Safety Platform تمتد من البرمجيات إلى السليكون

أعلنت NVIDIA عن NVIDIA Open Agent Safety Platform في 28 سبتمبر 2026، وهو منصة برمجيات مفتوحة وتصميم نظام مرجعي تقول الشركة إنه يهدف إلى تعزيز أمان الذكاء الاصطناعي من اختبار الوكيل إلى النشر. تتألف المنصة من برنامج تشغيل آمن NVIDIA OpenShell وبرنامج التصميم المرجعي NVIDIA Sentry، وتقول NVIDIA إنهما معًا يوفران حوكمة وتحكمًا كاملين عبر البرمجيات والعتاد وأنظمة الحوسبة والروبوتات التي تشغل الوكلاء.

قالت NVIDIA إن الحوادث الأمنية الأخيرة اتبعت نفس النمط، حيث يتجاوز الوكلاء ضوابط الأمان في طبقة التطبيق لإكمال مهامهم الموكلة. وقال جينسن هوانغ، المؤسس والرئيس التنفيذي لشركة NVIDIA: “إن الإمكانات الاستثنائية للذكاء الاصطناعي للمجتمع لن تتحقق إلا إذا حللنا مشكلة أمان الذكاء الاصطناعي”. ووصف المنصة بأنها جهد لتجميع الصناعة والباحثين والمنظمات العامة لتبادل أفضل الممارسات، والاتفاق على أساليب التقييم، وتعزيز التعاون الدولي. ويمكن للمنظمات نشر عناصر المنصة وفقًا لمتطلباتها الخاصة، حسبما قالت NVIDIA.

تشغيل OpenShell وتطبيق السياسات

OpenShell 0.1.0 هو بيئة تشغيل مفتوحة المصدر، صُدرت تحت ترخيص Apache 2.0، لتحديد وتطبيق الأنظمة والبيانات التي يمكن للوكيل الوصول إليها. يصف الدليل الفني المصاحب للإعلان كيفية دمجه للتنفيذ داخل صندوق رمل، والوصول المتحكم به إلى الخدمات، وإدارة الاعتمادات، والتحليل الرسمي للسياسات لتطبيق ضوابط حول وكيل موجود دون إعادة كتابته.

تنقسم مهمة التنفيذ إلى ثلاثة مكونات. يدير OpenShell Gateway دورات حياة وسياسات العديد من صناديق الرمل. يعمل OpenShell Supervisor المرتبط بكل صندوق رمل خارج عبء عمل الوكيل ويتحقق من الطلبات الصادرة وفقًا للسياسة. يشغل OpenShell Sandbox عبء العمل مع ضوابط على مستوى النواة على نظام الملفات والعمليات، ولا يوجد مسار شبكة سوى عبر المشرف.

يمكن للمشرف فحص حركة مرور HTTP وGraphQL وبروتوكول Model Context Protocol المُكوَّنة، مما يسمح باستعلام بيانات مع حظر عملية كتابة عبر نفس الواجهة البرمجية. تُكتب السياسات بصيغة YAML وتُجمع إلى OPA/Rego، وتُسجل OpenShell قرارات السياسات في سجل تدقيق إطار عمل مخطط الأمن السيبراني المفتوح. تظل الاعتمادات الحقيقية خارج عبء عمل الوكيل وتُستبدل فقط في نقاط النهاية المصرح بها؛ إذا أرسل الوكيل اعتمادًا نائبًا إلى وجهة غير معتمدة، ترفض OpenShell الطلب. عند تمكين مستشار السياسة، يمكن للوكيل اقتراح تعديل سياسة ضيق النطاق، لكن الاقتراح يبقى معلقًا للمراجعة البشرية افتراضيًا ولا يمكن للوكيل الموافقة على طلبه الخاص.

يستخدم مُثبت سياسات OpenShell المنطق الرسمي للتحقق من الأذونات التي تمنحها السياسة، بما في ذلك الوصول المساهم به من المزود، ويمكنه إثبات أن الأذونات النموذجية تبقى ضمن حدود يحددها المشغل أو تحديد إجراء ملموس يتجاوزها. في تجارب عدائية طويلة الأمد موصوفة في الدليل، قضى الوكلاء المتقدمون مع تقليل الضمانات ما يصل إلى ساعتين في محاولة إقناع مراجع ذكاء اصطناعي لمنح أذونات تسمح لهم بتعديل مستودع GitHub محمي. أفادت NVIDIA بأنه لم يحدث أي كتابة في المستودعات المحمية خلال هذه الاختبارات.

يدعم OpenShell أطر Codex وClaude Code وPi وHermes، ويذكر الدليل أن Cadence وSlack وGecko Robotics هم من المتبنين عبر تصميم الرقائق، وأتمتة مهام المؤسسات، وحوكمة الوكلاء الذين يتخذون قرارات على الروبوتات المادية. وقالت NVIDIA إن OpenShell يوفر حماية بأقل عبء على وحدات Vera CPU الخاصة بها، وكبرنامج مفتوح المصدر يمكن توسيعه إلى منصات حوسبة من أطراف ثالثة بما في ذلك تلك التي تصنعها Arm وIntel.

Sentry Watchdog على وحدات BlueField-4 DPU

NVIDIA Sentry هو مراقب خارج النطاق يعمل على وحدات BlueField-4 DPU لمراقبة سلوك الوكيل باستمرار، وتقول NVIDIA إنه يوفر تنفيذًا داخل السليكون: إذا حاول الوكيل الخروج من حدوده البرمجية، يقوم Sentry بعزله وإيقافه خلال ملليثانية. تم بناء Sentry على برنامج NVIDIA DOCA، الذي يستخدمه لفحص طلبات الوكيل واستجاباته، وتوفير قياسات تم التحقق منها، والتحقق من هوية الوكيل، وتطبيق سياسات وصول دقيقة وصفر ثقة للبيانات والأدوات وواجهات برمجة التطبيقات والخدمات، كل ذلك من نطاق ثقة معزول تصفه NVIDIA بأنه غير مرئي للوكيلات والمهاجمين.

يُشير منشور التصميم المرجعي من فريق الهندسة في NVIDIA إلى أن عدة مختبرات متقدمة أبلغت مؤخرًا عن وكيل يخرج من بيئات التقييم المصممة لاحتوائه، مع بعض الوكلاء الذين يخطئون في الإبلاغ عما فعلوه. يحدد المنشور خمس مبادئ وراء المنصة: يجب أن تكون السياسة قابلة للتحقق قبل تشغيل الوكيل، يجب أن يكون التنفيذ خارج النطاق، مسار النموذج هو نقطة التحكم، يجب أن يتوسع سلطة الوكيل مع القدرة على فحص منطقها، وتُشارك المسؤولية بين المختبرات والمؤسسات ومزودي الأجهزة. يصف المؤلفون “الانحراف”، بمعنى إجراءات الوكيل التي تبتعد عن المهمة المقصودة أو القيود التشغيلية، ويصرحون بأن “وكيل في هذه الظروف لا يمكن توقع أن يتحكم بالكامل في سلوكه الخاص”.

في أنظمة NVIDIA Vera Rubin POD، يحتوي كل صينية حوسبة على وحدة معالجة بيانات BlueField-4 على المسار الوحيد للعقدة إلى النموذج، وهو موقع تقول NVIDIA إنه يوفر مراقبة مستمرة خارج النطاق وتطبيق سياسات في الوقت الحقيقي بسرعة الخط. بالنسبة للمنظمات التي تشغل بالفعل نظام Vera مع BlueField-4، فإن تفعيل الحمايات هو تحديث برمجي، وفقًا للمنشور.

تكاملات النظام البيئي والتوافر

تعاونت Anthropic و NVIDIA لدمج OpenShell و BlueField مع Claude Managed Agents، التي تُشغل حلقة الوكيل على خادم منفصل عن بيئات الصناديق الرملية حيث يتم تنفيذ العمل. قال بول سميث، المسؤول التجاري الرئيسي في Anthropic، إن Claude Managed Agents يمنح الشركات رؤية واضحة لما يفعله كل وكيل، وأن منصة NVIDIA تضيف طبقة إضافية من الحوكمة والتحكم عبر الأجهزة والبرمجيات.

تستخدم SpaceXAI المنصة لوكلاء الترميز Cursor ونماذج Grok، وقال الرئيس مايك نيكولز إن السلامة يجب أن تُفرض خارج النموذج عبر ضوابط إضافية لا يستطيع الوكيل تجاوزها. تدمج Scale AI تقنيات المنصة في طبقة البنية التحتية الوكيلية لمحفظة Scale GenAI الخاصة بها، ووصف الرئيس التنفيذي فرانسيس دي سوزا العزل وتطبيق السياسات وقابلية التدقيق المدمجة منذ البداية.

قامت Salesforce و NVIDIA بدمج OpenShell مع Slack، بحيث يمكن للفرق عرض نشاط الوكيل وتدقيق الأحداث والموافقة أو رفض طلبات الوكيل للحصول على أذونات إضافية دون مغادرة Slack. تدمج SAP OpenShell مع بيئة تشغيل Joule Studio، جزء من منصة SAP Business AI، وتساهم بأعمال هندسية في OpenShell.

ذكرت NVIDIA أكثر من 100 منظمة تعمل مع تقنيات المنصة، بما في ذلك شركات الروبوتات Figure و Gecko Robotics و Skild AI؛ والمؤسسات المالية Citi و JPMorganChase؛ ومزودي الطاقة مثل Hitachi Energy و Schneider Electric؛ وشركات برمجيات البنية التحتية Canonical و SUSE و Red Hat، حيث تقوم Red Hat بتشغيل OpenShell و DOCA على Red Hat AI Factory مع NVIDIA.

يتوفر OpenShell ومهاراته عبر صفحة موارد المطورين الخاصة بـ NVIDIA وGitHub، مع برامج تشغيل الحوسبة لـ Docker و Podman و MicroVM و Kubernetes وقناة مطورين على Slack الخاص بـ CNCF. تحالف Open Secure AI، الذي أطلقته NVIDIA بالتعاون مع أكثر من 120 منظمة وتديره مؤسسة Linux Foundation، يعمل على أمان الوكلاء من خلال البحث المفتوح والمهارات والأدوات، مع مشاريع تشمل تبادل النتائج المشتركة للذكاء الاصطناعي المعروف باسم SAFE.