قادة الفكر
ضرورة الأنظمة التي لا تحتفظ بالأسرار: لماذا تنهار نماذج الأمان التقليدية عندما يتعامل وكلاء الذكاء الاصطناعي مع الشيفرة

النقاط الرئيسيةيجب أن تعمل وكلاء الذكاء الاصطناعي دون أسرار لتحييد هجمات حقن الأوامر.
عرض المزيد
- يجب أن تعمل وكلاء الذكاء الاصطناعي دون أسرار لتحييد هجمات حقن الأوامر.
- تفشل مرشحات الأمان التقليدية لأن الذكاء الاصطناعي لا يستطيع التمييز بين التعليمات والبيانات.
- يشكل حقن الأوامر تهديدًا لا يتطلب نقرًا ويتسع نطاقه مع اتصال الذكاء الاصطناعي.
في أبريل 2023, اكتشفت سامسونج أن مهندسيها سربوا معلومات حساسة إلى ChatGPT. لكن ذلك كان عرضيًا. الآن تخيّل لو أن مستودعات الشيفرة تلك كانت تحتوي على تعليمات مزروعة عمدًا، غير مرئية للبشر ولكنها تُعالج بواسطة الذكاء الاصطناعي، صُممت لاستخراج ليس فقط الشيفرة بل كل مفتاح API، وبيانات اعتماد قاعدة البيانات، ورمز الخدمة الذي يمكن للذكاء الاصطناعي الوصول إليه. هذا ليس افتراضيًا. لقد أظهر الباحثون الأمنيون بالفعل أن هجمات “التعليمات غير المرئية” تعمل. السؤال ليس إذا كان هذا سيحدث، بل متى.
الحد الفاصل الذي لم يعد موجودًا
لعدة عقود، بنينا الأمان على افتراض أساسي: الشيفرة هي شيفرة، والبيانات هي بيانات. علمتنا هجمات حقن SQL استخدام الاستعلامات ذات المعلمات. وعلمتنا هجمات XSS تطبيق محارف الهروب على المخرجات. تعلمنا بناء جدران بين ما تفعله البرامج وما يُدخله المستخدمون.
مع وكلاء الذكاء الاصطناعي، تبخر ذلك الحد الفاصل.
على عكس البرمجيات الحتمية التي تتبع مسارات متوقعة، نماذج اللغة الكبيرة هي صناديق سوداء احتمالية لا تستطيع التمييز بين تعليمات المطور الشرعية والمدخلات الخبيثة. عندما يقدّم المهاجم موجهًا إلى مساعد برمجة يعتمد على الذكاء الاصطناعي، فهو لا يزوّد البيانات فحسب؛ بل يعيد برمجة التطبيق مباشرةً. لقد أصبح الإدخال هو البرنامج نفسه.
هذا يمثل انقطاعًا أساسيًا عن كل ما نعرفه حول أمان التطبيقات. جدران الحماية التقليدية القائمة على الصياغة، التي تبحث عن أنماط خبيثة مثل DROP TABLE أو وسوم <script>، تفشل تمامًا أمام هجمات اللغة الطبيعية. أظهر الباحثون تقنيات “الاستبدال الدلالي” حيث يسمح استبدال “API keys” بـ “apples” في المطالبات للمهاجمين بتجاوز الفلاتر بالكامل. كيف يمكن لجدار حماية أن يمنع نية خبيثة تتنكر في صورة محادثة غير ضارة؟
الواقع بدون نقرة الذي لا يتحدث عنه أحد
إليك ما لا تفهمه معظم فرق الأمن: حقن المطالبات لا يتطلب من المستخدم كتابة أي شيء. غالبًا ما تكون هذه استغلالات بدون نقرة. يمكن لوكيل ذكاء اصطناعي يقوم ببساطة بمسح مستودع الشيفرة لمهمة روتينية، أو مراجعة طلب سحب، أو قراءة وثائق API أن يطلق هجومًا دون أي تفاعل بشري.
تخيل هذا السيناريو، بناءً على التقنيات التي أثبتها الباحثون بالفعل: يقوم فاعل خبيث بإدراج تعليمات غير مرئية في تعليقات HTML داخل وثائق مكتبة مفتوحة المصدر شائعة. كل مساعد ذكاء اصطناعي يحلل هذا الكود، سواء كان GitHub Copilot أو Amazon CodeWhisperer أو أي مساعد برمجي مؤسسي، يصبح جامعًا محتملًا للبيانات الاعتمادية. مكتبة واحدة مخترقة قد تعني آلاف بيئات التطوير المكشوفة.
الخطر ليس في نموذج اللغة الكبير نفسه؛ بل في القدرة على التصرف التي نمنحه إياها. في اللحظة التي دمجنا فيها هذه النماذج مع الأدوات وواجهات برمجة التطبيقات، مما سمح لها بجلب البيانات، وتنفيذ الشيفرة، والوصول إلى الأسرار، حولنا المساعدين المفيدين إلى ناقلات هجوم مثالية. لا يتزايد الخطر مع ذكاء النموذج؛ بل يتزايد مع اتصاله.
لماذا النهج الحالي محكوم عليه بالفشل
الصناعة حالياً مهووسة بـ “محاذاة” النماذج وبناء جدران حماية أفضل للمطالبات. تضيف OpenAI المزيد من الحواجز. تركز Anthropic على الذكاء الاصطناعي الدستوري. الجميع يحاول صنع نماذج لا يمكن خداعها.
هذه معركة خاسرة.
إذا كان الذكاء الاصطناعي ذكيًا بما يكفي ليكون مفيدًا، فهو ذكي بما يكفي ليُخدع. نحن نقع في ما أسميه “فخ التطهير”: الافتراض أن تحسين تصفية المدخلات سيحمينا. لكن الهجمات يمكن أن تُخفى كنص غير مرئي في تعليقات HTML، أو مدفونة عميقًا في الوثائق، أو مُشفرة بطرق لم نتخيلها بعد. لا يمكنك تطهير ما لا تستطيع فهمه سياقيًا، والسياق هو بالضبط ما يجعل نماذج اللغة الكبيرة قوية.
تحتاج الصناعة إلى قبول حقيقة صعبة: سينجح حقن الموجهات. السؤال هو ماذا سيحدث عندما يحدث ذلك.
التحول المعماري الذي نحتاجه
نحن حاليًا في مرحلة “الإصلاح السريع”، نضيف يائسًا مرشحات الإدخال وقواعد التحقق. ولكن كما تعلمنا في النهاية أن منع حقن SQL يتطلب استعلامات معلمة، وليس تحسين تطبيق محارف الهروب على السلاسل النصية، نحتاج إلى حل معماري لأمان الذكاء الاصطناعي.
الإجابة تكمن في مبدأ يبدو بسيطًا لكنه يتطلب إعادة التفكير في كيفية بناء الأنظمة: يجب ألا يمتلك وكلاء الذكاء الاصطناعي الأسرار التي يستخدمونها.
ليس هذا حول إدارة أفضل للبيانات الاعتمادية أو حلول الخزائن المحسنة. إنه يتعلق بالاعتراف بوكلاء الذكاء الاصطناعي كجهات ذات هويات فريدة وقابلة للتحقق بدلاً من المستخدمين الذين يحتاجون إلى كلمات مرور. عندما يحتاج وكيل الذكاء الاصطناعي إلى الوصول إلى مورد محمي، يجب أن:
-
يصادق على هويته باستخدام هويته القابلة للتحقق، لا سر مخزن
-
يتلقى بيانات اعتماد عند الحاجة مباشرة، صالحة فقط لتلك المهمة المحددة
-
تكون صلاحية بيانات الاعتماد تلك محدودة وتنتهي تلقائيًا خلال ثوانٍ أو دقائق
-
لا يخزن الأسرار طويلة الأمد ولا «يراها» حتى
تظهر عدة نهج. أدوار AWS IAM لحسابات الخدمة, خدمة Workload Identity من Google, الأسرار الديناميكية في HashiCorp Vault, والحلول المصممة خصيصًا مثل Zero Trust Provisioning من Akeyless تشير جميعها إلى هذا المستقبل الخالي من الأسرار. تفاصيل التنفيذ تختلف، لكن المبدأ يبقى: إذا لم يكن لدى الذكاء الاصطناعي أسرار يمكن سرقتها، يصبح حقن المطالبات تهديدًا أصغر بكثير.
بيئة التطوير لعام 2027
خلال ثلاث سنوات، سيصبح ملف .env غير مستخدم في التطوير المدعوم بالذكاء الاصطناعي. ستُنظر إلى مفاتيح API طويلة الأمد المخزنة في متغيرات البيئة كما ننظر الآن إلى كلمات المرور بنص صريح: بقايا محرجة من زمن أكثر سذاجة.
بدلاً من ذلك، سيعمل كل وكيل ذكاء اصطناعي تحت فصل صارم للامتيازات. وصول للقراءة فقط بشكل افتراضي. قوائم بيضاء للإجراءات كمعيار. بيئات تنفيذ معزولة كمتطلب للامتثال. سنتوقف عن محاولة التحكم فيما يفكر فيه الذكاء الاصطناعي وسنركز بالكامل على التحكم فيما يمكنه القيام به.
هذا ليس مجرد تطور تقني؛ إنه تحول أساسي في نماذج الثقة. نحن ننتقل من “ثقة ولكن تحقق” إلى “لا تثق أبداً، تحقق دائماً، وافترض الاختراق”. مبدأ أقل الصلاحيات، الذي يُعظّ به طويلاً لكنه نادراً ما يُطبق، يصبح غير قابل للتفاوض عندما يكون مطورك المبتدئ عبارة عن ذكاء اصطناعي يعالج آلاف المدخلات المحتملة الضارة يوميًا.
الخيار الذي نواجهه
إن دمج الذكاء الاصطناعي في تطوير البرمجيات أمر لا مفر منه ومفيد إلى حد كبير. تفيد GitHub بأن المطورين الذين يستخدمون Copilot ينجزون المهام أسرع بنسبة 55٪. إن مكاسب الإنتاجية حقيقية، ولا يمكن لأي منظمة ترغب في البقاء تنافسية أن تتجاهلها.
لكننا نقف عند مفترق طرق. يمكننا الاستمرار في المسار الحالي بإضافة المزيد من الحواجز، وبناء مرشحات أفضل، على أمل أن نتمكن من صنع وكلاء ذكاء اصطناعي لا يمكن خداعهم. أو يمكننا الاعتراف بالطبيعة الأساسية للتهديد وإعادة بناء بنية الأمن لدينا وفقًا لذلك.
كان حادث سامسونج طلق إنذار. الاختراق التالي لن يكون عرضيًا، ولن يقتصر على شركة واحدة. مع اكتساب وكلاء الذكاء الاصطناعي المزيد من القدرات والوصول إلى المزيد من الأنظمة، ينمو التأثير المحتمل بشكل أسي.
السؤال لكل مدير أمن معلومات، ولكل قائد هندسي، ولكل مطور بسيط: عندما ينجح حقن المطالبات في بيئتك (وسيفعل ذلك)، ماذا سيجد المهاجم؟ هل سيكتشف كنزًا من الاعتمادات طويلة الأمد، أم سيجد وكيل ذكاء اصطناعي، رغم اختراقه، لا يحمل أسرارًا يمكن سرقتها؟
الاختيار الذي نتخذه الآن سيحدد ما إذا كان الذكاء الاصطناعي سيصبح أعظم عامل لتسريع تطوير البرمجيات أو أكبر ثغرة أنشأناها على الإطلاق. التقنية لبناء أنظمة ذكاء اصطناعي آمنة وخالية من الأسرار موجودة اليوم. السؤال هو ما إذا كنا سنطبقها قبل أن يجبرنا المهاجمون على ذلك.
حددت OWASP بالفعل حقن الموجهات كأعلى خطر #1 في قائمة أفضل 10 لتطبيقات نماذج اللغة الكبيرة. تعمل NIST على تطوير إرشادات حول بنى الثقة الصفرية. الأطر موجودة. السؤال الوحيد هو سرعة التنفيذ مقابل تطور الهجمات.
Bio: رافائيل أنجل هو المؤسس المشارك والرئيس التقني لشركة Akeyless, حيث طور تقنية التشفير ذات الثقة الصفرية الحاصلة على براءة اختراع من الشركة. مهندس برمجيات متمرس ذو خبرة عميقة في التشفير وأمان السحابة، عمل رافائيل سابقًا كمهندس برمجيات أول في مركز البحث والتطوير لشركة Intuit (INTU ) في إسرائيل، حيث بنى أنظمة لإدارة مفاتيح التشفير في بيئات السحابة العامة وصمم خدمات مصادقة الآلات. يحمل درجة البكالوريوس في علوم الحاسوب من كلية القدس للتكنولوجيا، والتي نالها في سن 19.












