حيث يتوقف معايير أمان الذكاء الاصطناعي — وحيث يجب أن يبدأ الحماية في وقت التشغيل

مع كل الحديث عن مخاطر أمان الذكاء الاصطناعي، يبدو أن هناك قضية يتم تجاهلها، وهي حقيقة أن أنظمة الذكاء الاصطناعي تعمل فقط من خلال كشف أصولها الأكثر قيمة — النماذج والبيانات.

على عكس البرمجيات التقليدية، لا ينفذ الذكاء الاصطناعي منطقًا محددًا مسبقًا. بل يخلط باستمرار نماذج مملوكة مع مدخلات حساسة لإنشاء مخرجات، غالبًا على بنية تحتية لم تكن مصممة لحماية الحوسبة.

بهذه الطريقة، يفشل الأمان التقليدي. التشفير فعال عندما يتم تخزين البيانات أو نقلها عبر الشبكة، ولكن ليس عندما يتم معالجة البيانات أو تشغيلها. بالنسبة للذكاء الاصطناعي على وجه الخصوص، تنشأ المخاطر عندما يتم نشر نموذج. يتم تحميل معاملاته في الذاكرة، وتحديداته، وتنفيذه على نطاق واسع — النقطة التي يتوقف فيها التشفير — مما يجعله عرضة للوصول غير المصرح به. خلال الاستدلال، تتدفق البيانات الحساسة عبر نفس الفضاء المعرض. النتيجة هي سطح مخاطر معرض للغاية: أنظمة ذكاء اصطناعي قد تظهر آمنة — ولكنها في الواقع غير محمية في اللحظات الأكثر حرجة.

بدأت هيئات المعايير مثل معهد المعايير الوطني (NIST) ووكالة الاتحاد الأوروبي للأمن السيبراني (ENISA) ومشروع أمان تطبيقات الويب المفتوح (OWASP) في رسم هذه الأرض. إنها تصف المخاطر وتسمي الثغرات وتحدد مبادئ الحوكمة. لكنها تتوقف عن وصف كيفية حماية النماذج كملكية فكرية والبيانات كأصول سرية مرةً أخرى عندما يبدأ التنفيذ. إغلاق هذه الفجوة يتطلب إعادة التفكير في أمان الذكاء الاصطناعي — ليس كتمرين على الامتثال، ولكن كمسألة للحوسبة نفسها. यह هو المكان الذي يلعب فيه التشفير في الاستخدام أو التشفير من النهاية إلى النهاية دورًا.

النقطة العمياء في أمان الذكاء الاصطناعي الحديث

ما زالت معظم محادثات أمان الذكاء الاصطناعي تدور حول الأرض المألوفة: حوكمة بيانات التدريب، ومراقبة الوصول، ومراقبة واجهات برمجة التطبيقات، والسياسات المستخدمة المسؤولة. هذه هي الضرورية. ومع ذلك، لا تتعامل أي منها مع ما يحدث بعد النشر، عندما يغادر النموذج المستودع ويصبح نظامًا حيًا.

مرةً ما يتم نشر النموذج، لم تعد معاملاته مجرد أشياء مجردة. إنها أصول حية، موجودة في الذاكرة، يتم الوصول إليها باستمرار خلال الاستدلال، وغالبًا ما يتم استخدامها من قبل مستأجرين أو عملاء متعددين من خلال خدمات الذكاء الاصطناعي المشتركة. يحدث هذا التعرض قبل أي طلب استدلال، مما يزيد من المخاطر بإدخال مدخلات حساسة وسلوك يمكن ملاحظته من الخارج.

علاج حماية النموذج كقضية ما قبل النشر، وآمان الاستدلال كقضية وقت التشغيل، يفتقر إلى النقطة. في الأنظمة الحقيقية، تتداخل هذه المخاطر. النماذج والبيانات معرضة للخطر عبر التهيئة والتنفيذ والإخراج. الأمان الذي يبدأ وينتهي بالضوابط التخزينية يفشل في معالجة هذه التعرضات.

ما يفعله NIST بشكل صحيح — وأين يتوقف

أصبح إطار إدارة مخاطر NIST للذكاء الاصطناعي ركنًا أساسيًا للمنظمات التي تحاول إدارة مخاطر الذكاء الاصطناعي. هيكله — الحوكمة، والخريطة، والقياس، والإدارة — يقدم طريقة منضبطة للتفكير في المساءلة والسياق والimpact والتخفيف عبر دورة حياة الذكاء الاصطناعي.

ما يفعله NIST بشكل جيد بشكل خاص هو إطار مخاطر الذكاء الاصطناعي كشيء 系统ي وليس حادثًا. فشل الذكاء الاصطناعي نادرًا ما يكون حدثًا منفردًا؛ إنه ي出现 من التفاعلات بين النماذج والبيانات والأشخاص والبنية التحتية. هذا الإطار ضروري.

حيث يفشل الإطار هو في عدم ديكتات كيفية حماية أصول الذكاء الاصطناعي عالية القيمة مرةً أخرى عندما تكون الأنظمة حية. يتم معاملة معاملات النموذج بشكل ضمني كأشياء من مرحلة التصميم وليس كأصول وقت التشغيل. يُفترض أن بيئات التنفيذ موثوقة بما فيه الكفاية.

في الممارسة، غالبًا ما تكون معاملات النموذج هي أكثر الأصول القيمة التي تمتلكها المنظمة. يتم تحميلها في الذاكرة، ونسخها عبر العقد، وتمهيدتها، وإعادة استخدامها. إذا فشل إدارة مخاطر الذكاء الاصطناعي في مراعاة سرية النماذج خلال النشر والتنفيذ، يبقى أصل حرج خارج حدود المخاطر، مثل بطيخ جالس.

ENISA وواقع التهديدات الخاصة بالذكاء الاصطناعي

أعمال ENISA على أمان الذكاء الاصطناعي تدفع المحادثة إلى الأمام. إطارها المتعدد الطبقات يفرق بين أمان البنية التحتية التقليدية ومخاطر الذكاء الاصطناعي، معترفًا بأن أنظمة الذكاء الاصطناعي تتصرف بشكل مختلف — وتفشل بشكل مختلف — عن البرمجيات التقليدية.

لماذا هذا مهم؟ ي introduce الذكاء الاصطناعي تهديدات لا تناسب بشكل جيد في الضوابط الحالية: استخراج النموذج، وتسريب المعاملات، وتعرض التenant، والتلاعب خلال التنفيذ. هذه المخاطر لا تتطلب مهاجمين غريبين. إنها تنشأ بشكل طبيعي عندما تعمل نماذج عالية القيمة في بيئات مشتركة أو محددة خارجيًا.

إطار ENISA يعترف بشكل ضمني بأن حماية الذكاء الاصطناعي تعني حماية السلوك، وليس فقط الشفرة. ولكن مثل معظم المعايير، يركز على ما يجب مراعاته، وليس على كيفية فرض الحماية فنيًا مرةً أخرى عندما تكون النماذج قيد التشغيل.

OWASP وتكلفة الذكاء القابل للرصد

قائمة OWASP لأفضل 10 تطبيقات للنماذج اللغة الكبيرة تقدم نظرة أكثر تحديدًا لطريقة كسر أنظمة الذكاء الاصطناعي في العالم الحقيقي. حقن البرومبت، وكشف المعلومات الحساسة، وتسريب التضمين، وشفافية الإخراج الزائدة — هذه ليست مخاوف نظرية. إنها نتائج نشر نماذج قوية دون تقييد ما تكشفه.

في حين يتم صياغة هذه القضايا غالبًا على أنها مشاكل على مستوى التطبيق، فإن عواقبها أعمق. يمكن أن يؤدي التعرض المتكرر لسلوك النموذج إلى التكرار الفعال؛ يمكن أن تكشف التضمينات غير المعزولة جيدًا عن الهيكل؛ ويصبح إساءة الاستخدام من الاستدلال طريقًا إلى تكرار النموذج.

taxonomy OWASP تجعل واحدة من الأمور واضحة: حماية الذكاء الاصطناعي ليست فقط عن وقف المدخلات السيئة. إنها عن تقييد ما تكشفه النماذج — داخليًا وخارجيًا — مرةً أخرى عندما تكون قيد التشغيل.

استنتاج مشترك، وظيفة غير مكتملة

عبر NIST وENISA وOWASP، هناك اتفاق واسع على الأساسيات:

• مخاطر الذكاء الاصطناعي تمتد عبر الدورة الحياتية
• تIntroduced أنظمة الذكاء الاصطناعي فئات تهديدات جديدة
• النماذج والبيانات هي أصول قيمة
• التعرض في وقت التشغيل لا مفر منه

ما يفتقدهذه الإطارات، ومع ذلك، هو آلية لفرض السرية مرةً أخرى عندما يتم نشر النماذج وبدء الحوسبة. هذا الإغفال ليس خللًا، لأن المعايير تحدد النية والنطاق. يتم ترك التنفيذ عادةً لمصمم النظام.

لكنها تترك فجوة حرجة — واحدة تتوسع مع نمو أنظمة الذكاء الاصطناعي.

التشفير في الاستخدام يغير المعادلة

يغير التشفير في الاستخدام نموذج الأمان. بدلاً من افتراض أن البيانات والنماذج يجب أن تكون معروضة لتكون مفيدة، يعامل الحوسبة كشيء يمكن حمايته.

في المصطلحات العملية، هذا يعني:

• تبقى النماذج مشفرة خلال النشر والتهيئة والتنفيذ
• المدخلات لا تظهر أبدًا في النص العادي للبيئة التنفيذية
• لا يمكن فحص أو تعديل الحالات الوسيطة
• لا يحتاج البنية التحتية إلى الثقة الضمنية

هذا لا ي替ل إطارات الحوكمة أو ضوابط طبقة التطبيق — إنه يعمل عليها. إنه يحول مبادئ المخاطر إلى ضمانات قابلة للتنفيذ مرةً أخرى عندما تكون أنظمة الذكاء الاصطناعي أكثر عرضة.

بمعنى آخر، التشفير في الاستخدام هو الطبقة المفقودة بين سياسة الذكاء الاصطناعي وواقعها.

متى تنتهي الحوكمة ويتبدأ التنفيذ: حماية حوسبة الذكاء الاصطناعي

ينهار أمان الذكاء الاصطناعي في وقت التشغيل. مرةً ما يتم نشر نماذج الذكاء الاصطناعي والبيانات الحساسة، يجب أن تكون معروضة في الذاكرة للعمل، مما يخلق سطح مخاطر لا يمكن أن يحميه الضوابط التقليدية — التشفير في الراحة، التشفير في النقل، وإطارات الحوكمة — تم تصميمها.

لقد أحرزت هيئات المعايير مثل NIST وENISA وOWASP تقدمًا حاسمًا في تحديد مخاطر الذكاء الاصطناعي والمساءلة والسوء الاستخدام. لكن توجيههم يعالج في الغالب النماذج كأشياء من مرحلة التصميم ويفترض أن بيئات التنفيذ يمكن أن تثق بها. في الممارسة، يتم الوصول إلى معاملات النموذج ومدخلات حساسة بشكل مستمر، وغالبًا ما يتم معالجتها في بيئات مشتركة أو محددة خارجيًا.

إغلاق هذه الفجوة يتطلب إعادة التفكير في أمان الذكاء الاصطناعي ليس كتمرين على الامتثال، ولكن كمسألة لحماية الحوسبة نفسها — عندما تكون النماذج حية، والبيانات قيد الاستخدام، والتعرض لا مفر منه. ي ofere التشفير في الاستخدام طريقة قابلة للتطبيق للاحتفاظ بنماذج الذكاء الاصطناعي ومدخلات حساسة آمنة عبر كل مرحلة من مراحل دورة حياة الذكاء الاصطناعي.