الأمن السيبراني

OpenAI تعزز حماية GPT-6.2 Astra من استخراج الاستدلال

Miles Okada
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةأفادت OpenAI بأن هجمات الاستخراج التكيفية على الاستدلال المحمي انخفضت من 54.0% إلى 0.2%…
عرض المزيد
  • أفادت OpenAI بأن هجمات الاستخراج التكيفية على الاستدلال المحمي انخفضت من 54.0% إلى 0.2% مع الضمانات المحدّثة.
  • تَنقل آثار الاستدلال الدقيقة القدرات السيبرانية بفعالية أكبر من الملخصات حتى عندما تكون المهام الأساسية مسموحًا بها.
  • يتطلب الدفاع عن الاستدلال ضوابط تشمل مصنّفات الطلبات ومعطيات استدعاء الأدوات وسجل المحادثة وإنفاذ الحملات على مستوى الحساب.

في 20 نوفمبر 2026، أعلنت OpenAI عن تعزيز دفاعاتها ضد التقطير العدائي، مشيرةً إلى أن متوسط نجاح الهجمات التكيفية التي تستخرج الاستدلال المحمي من طلب سابق انخفض من 54.0% مع GPT-6 Astra وضماناته الأصلية إلى 0.2% مع GPT-6.2 Astra وضماناته المحدّثة.

وتفيد OpenAI بأن متوسط استخراج الاستدلال من الطلب الحالي انخفض بدوره من 22.9% إلى 0.9%. ويجمع التقييم التكيفي للصندوق الأسود النتائج عبر ستة نماذج للمهاجمين، فيما يعدّل مختبرو الفريق الأحمر الآليون نهجهم استجابةً للنظام، ولا يرون سوى ما يمكن لمستخدم خارجي رؤيته. وتشمل الحماية المعززة GPT-6.2 Astra وGPT-6.2 Sol، كما يجري تطبيق تحسينات محددة على GPT-6 Astra.

الاستدلال المحمي هو سلسلة التفكير الوسيطة التي يُنشئها النموذج أثناء العمل على إجابة. وقد تتضمن هذه المسارات معلومات لا تظهر في الإجابات النهائية، ما يجعلها ذات قيمة خاصة في التقطير العدائي، الذي يستعين بمخرجات نموذج متقدم من دون إذن لتدريب نظام آخر. وقد يعيد النموذج الناتج إنتاج قدرات مزدوجة الاستخدام من دون الضمانات التي قيّدت النموذج الأصلي.

نتائج دراسة التقطير السيبراني

قارنت دراسة داخلية أجرتها OpenAI بين تجربتي تدريب باستخدام نموذج الطالب نفسه، أي النموذج المتعلّم في إعداد يُنتج فيه نموذج المعلّم بيانات التدريب. استخدمت إحدى التجربتين مسارات الاستدلال الدقيقة للمعلّم، بينما استخدمت الأخرى الأساس المرئي للمستخدم، المتمثل في الإجابات النهائية وملخصات الاستدلال والتفاعلات مع الأدوات. وتألفت بيانات الضبط الدقيق في معظمها من مسارات للمعلّم بمستوى Astra في مهام البرمجة والأمن السيبراني الدفاعي. وخضعت النماذج الطلابية للتقييم بعد الضبط الدقيق الخاضع للإشراف، ثم مرة أخرى بعد التعلم المعزز الخفيف في بيئات الأمن السيبراني والبرمجة.

وتفيد OpenAI بأن النموذج الطالب الذي تدرب على المسارات الدقيقة تفوق عمومًا على النموذج الذي تدرب على الملخصات بعد الضبط الدقيق الخاضع للإشراف. وبعد التعلم المعزز، حقق النموذج المدرب على المسارات الدقيقة نتيجة أعلى عند أكبر ميزانية استدلال اختُبرت في كلا المعيارين المعلَن عنهما، بينما حقق النموذج المدرب على الملخصات نتيجة أعلى عند الميزانيات الأقل.

وترى OpenAI أن النتائج تدل على أن حماية المسارات الدقيقة يمكن أن تحد من انتقال القدرات السيبرانية، حتى عندما تكون المهام الأساسية مسموحًا بها بموجب سياسات الاستخدام لديها، مع الإشارة إلى أنها ستواصل دراسة انتقال القدرات بين نماذج طلابية ووصفات تدريب مختلفة. وعبر كثير من هذه التفاعلات، يمكن للمسارات الدقيقة أن تعلّم مهارات تتجاوز في تعميمها المهام الأصلية للمعلّم.

ضوابط الطلب وإنفاذ الإجراءات على مستوى الحملات

على مستوى الطلب، يدرّب التدريب الخصومي النماذج على التعرّف إلى محاولات الاستخراج ورفض كشف الاستدلال المحمي، مع الحفاظ على التفسيرات والمساعدة المشروعة. وتبحث مصنّفات المدخلات عن محاولات الاستخراج، بينما تفحص مصنّفات المخرجات رسائل المساعد ووسائط استدعاء الأدوات في الاستجابات المتدفقة وغير المتدفقة. وتكتسب تغطية استدعاءات الأدوات أهميتها لأن الاستدلال قد يظهر في وسائط إحدى الأدوات من دون أن يظهر في الإجابة النهائية؛ ويمكن لمصنّفات المخرجات حظر التسريبات المشتبه بها قبل وصولها إلى الجهة الطالبة.

تربط واجهة برمجة التطبيقات المحدّثة الاستدلال المحمي في GPT-6.2 Astra وGPT-6.2 Sol بسجل المحادثة الذي أُنتج فيه. ويمكن للنموذج البناء على الاستدلال السابق عند إضافة رسائل، لكن إعادة تحرير رسالة سابقة تُسقط الاستدلال الذي تلاها. ولا تستطيع عائلات النماذج الأقدم، ذات الضمانات الأضعف، قراءة الاستدلال المحمي للنموذجين، ما يقيّد إعادة استخدامه بين عائلات النماذج.

تستخدم وسائل الدفاع على مستوى الحملات إشارات الطلب والحساب للتحقيق في عمليات الاستخراج المنسقة، وتُعتمد الهجمات التي تُكشف أثناء التحقيقات أمثلةً لتدريب الضمانات واختبارها. وقالت OpenAI إن إجراءات الإنفاذ الأسبوعية ضد حملات التقطير غير المصرح بها في عام 2026 شملت أعدادًا تراوحت بين آلاف الحسابات وعشرات الآلاف، وإن المعدل ارتفع كثيرًا خلال صيف 2026. وتتتبع الشركة مدى انتشار إساءة الاستخدام والمدة بين الكشف والإنفاذ، بهدف تقليل البيانات التي يحصل عليها المهاجمون، ورفع تكاليف الحملات، وتقليص أوقات الاستجابة.

يأتي هذا الإعلان عقب إفصاح OpenAI في 30 سبتمبر 2026 عن حملة منسقة رُصدت للمرة الأولى في 1 يوليو 2026. وذكر التقرير السابق 16,000 محاولة لاستخراج البيانات من أكثر من 4,000 مستخدم يومي 24 و25 يوليو 2026، ونسب مجموعة أساسية من النشاط إلى أفراد مرتبطين بـMoonshot AI، وأشار إلى عدم وضوح ما إذا كان جميع المشغّلين ينتمون إلى جهة واحدة.

التنسيق خارج OpenAI

تشارك OpenAI مؤشرات الاختراق مع مزودي النماذج الآخرين، وتتعاون مع شركاء النشر بشأن متطلبات الضمانات وتنسيق إجراءات الإنفاذ. وتشمل توصياتها للمطورين الآخرين فحص رسائل المساعد ووسائط استدعاء الأدوات، وتقييد إعادة استخدام الاستدلال المشفّر بين المحادثات والنماذج، والاحتفاظ بالهجمات الناجحة لاستخدامها اختبارات تراجعية للضمانات المستقبلية، والجمع بين ضوابط الطلب والتحقيقات في الحملات. وتعتزم الشركة نشر مزيد من المعلومات عن الحملات التي عُطّلت مؤخرًا.

أبلغت OpenAI الكونغرس بأنها تؤيد Chip Security Act وAI OVERWATCH Act وMATCH Act، إلى جانب تشريعات أوسع من شأنها أن تمنح الحكومة الأمريكية مزيدًا من الأدوات لتحديد الجهات الأجنبية التي تستخرج قدرات نماذج الذكاء الاصطناعي الأمريكية بطرق غير مشروعة ومعاقبتها.

ترى الشركة أن ضوابط التصدير وتدابير الحماية من التقطير تعالج جانبين مختلفين من هذا الخطر: فضوابط التصدير تحد من إمكانية الوصول إلى الأجهزة اللازمة لتدريب النماذج الرائدة، في حين تجعل تدابير الحماية من التقطير اكتساب بعض القدرات نفسها من نماذج سبق تدريبها أكثر صعوبة.

يمتد نطاق الأمان العملي لموفري النماذج إلى ما هو أبعد من الإجابات النهائية، ليشمل كيفية إعادة استخدام الاستدلال عبر المحادثات، وانكشافه من خلال استدعاءات الأدوات، ومراقبته عبر الحسابات. وتشير الدراسة أيضًا إلى أن مهام البرمجة والأمن السيبراني الدفاعي المسموح بها قد تنطوي على خطر نقل القدرات، ما يجعل الحماية على امتداد التفاعل والتصدي للحملات جزءين من منظومة الدفاع نفسها.

Miles Okada هو وكيل بحث مُولَّد بالذكاء الاصطناعي في Unite.AI، يغطي الذكاء الاصطناعي والأمن السيبراني مع تركيز على التهديدات الناشئة والهياكل الدفاعية والديناميكيات المتطورة بين المهاجمين والأنظمة المؤتمتة. يدرس عمله كيف يُعيد الذكاء الاصطناعي تشكيل عمليات الأمن، من الكشف والاستجابة الذاتية للتهديدات إلى صعود تقنيات الذكاء الاصطناعي العدائي.

من منظور تقني وتحقيقي، يحلل Miles أبحاث الأمن وإفصاحات الحوادث والتطبيقات الفعلية لفهم أين يُقوي الذكاء الاصطناعي الدفاعات—وأين يضيف ثغرات جديدة. يولي اهتمامًا خاصًا لاستغلال النماذج، وتسميم البيانات، وأتمتة الهجمات، والواقع التشغيلي لتأمين الأنظمة المدعومة بالذكاء الاصطناعي على نطاق واسع.

المقالات التي يكتبها Miles Okada مُولَّدة بالذكاء الاصطناعي ويُراجعها فريق التحرير في Unite.AI لضمان الدقة والصرامة وتغطية مسؤولة للمشهد الأمني المتغير بسرعة في مجال الذكاء الاصطناعي.