المبدأ غير السري: لماذا تنهار نماذج الأمان التقليدية عندما يتعامل الوكلاء الذكاء الاصطناعي مع الشيفرة

في أبريل 2023, اكتشفت سامسونج أن مهندسيها سربوا معلومات حساسة إلى ChatGPT. لكن ذلك كان عرضيًا. الآن تخيّل لو أن مستودعات الشيفرة تلك كانت تحتوي على تعليمات مزروعة عمدًا، غير مرئية للبشر ولكنها تُعالج بواسطة الذكاء الاصطناعي، صُممت لاستخراج ليس فقط الشيفرة بل كل مفتاح API، واعتماد قاعدة البيانات، ورمز الخدمة الذي يمكن للذكاء الاصطناعي الوصول إليه. هذا ليس افتراضيًا. لقد أظهر الباحثون الأمنيون بالفعل أن هجمات “التعليمات غير المرئية” تعمل. السؤال ليس إذا كان هذا سيحدث، بل متى.

الحد الفاصل الذي لم يعد موجودًا

لعدة عقود، بنينا الأمان على افتراض أساسي: الشيفرة هي شيفرة، والبيانات هي بيانات. علمتنا حقن SQL أن نُعَدِّل الاستعلامات باستخدام المتغيرات. علمتنا هجمات XSS أن نهرب المخرجات. تعلمنا بناء جدران بين ما تفعله البرامج وما يُدخله المستخدمون.

مع وكلاء الذكاء الاصطناعي، تبخر ذلك الحد الفاصل.

على عكس البرمجيات الحتمية التي تتبع مسارات متوقعة، نماذج اللغة الكبيرة هي صناديق سوداء احتمالية لا تستطيع التمييز بين تعليمات المطور الشرعية والمدخلات الخبيثة. عندما يقدّم المهاجم موجهًا إلى مساعد برمجة يعتمد على الذكاء الاصطناعي، فهو لا يزوّد البيانات فحسب؛ بل يعيد برمجة التطبيق مباشرةً. لقد أصبح الإدخال هو البرنامج نفسه.

هذا يمثل انقطاعًا أساسيًا عن كل ما نعرفه حول أمان التطبيقات. جدران الحماية التقليدية القائمة على الصياغة، التي تبحث عن أنماط خبيثة مثل DROP TABLE أو وسوم ، تفشل تمامًا أمام هجمات اللغة الطبيعية. أظهر الباحثون تقنيات “الاستبدال الدلالي” حيث يسمح استبدال “API keys” بـ “apples” في المطالبات للمهاجمين بتجاوز الفلاتر بالكامل. كيف يمكنك جدار حماية النية عندما تكون متخفية كمحادثة غير ضارة؟

الواقع بدون نقرة الذي لا يتحدث عنه أحد

إليك ما لا تفهمه معظم فرق الأمن: حقن المطالبات لا يتطلب من المستخدم كتابة أي شيء. غالبًا ما تكون هذه استغلالات بدون نقرة. يمكن لوكيل ذكاء اصطناعي يقوم ببساطة بمسح مستودع الشيفرة لمهمة روتينية، أو مراجعة طلب سحب، أو قراءة وثائق API أن يطلق هجومًا دون أي تفاعل بشري.

تخيل هذا السيناريو، بناءً على التقنيات التي أثبتها الباحثون بالفعل: يقوم فاعل خبيث بإدراج تعليمات غير مرئية في تعليقات HTML داخل وثائق مكتبة مفتوحة المصدر شائعة. كل مساعد ذكاء اصطناعي يحلل هذا الكود، سواء كان GitHub Copilot أو Amazon CodeWhisperer أو أي مساعد برمجي مؤسسي، يصبح جامعًا محتملًا للبيانات الاعتمادية. مكتبة واحدة مخترقة قد تعني آلاف بيئات التطوير المكشوفة.

الخطر ليس في نموذج اللغة الكبير نفسه؛ بل في الوكالة التي نمنحه إياها. في اللحظة التي دمجنا فيها هذه النماذج مع الأدوات وواجهات برمجة التطبيقات، مما سمح لها بجلب البيانات، وتنفيذ الشيفرة، والوصول إلى الأسرار، حولنا المساعدين المفيدين إلى ناقلات هجوم مثالية. لا يتزايد الخطر مع ذكاء النموذج؛ بل يتزايد مع اتصاله.

لماذا النهج الحالي محكوم عليه بالفشل

الصناعة حالياً مهووسة بـ “محاذاة” النماذج وبناء جدران حماية أفضل للمطالبات. تضيف OpenAI المزيد من الحواجز. تركز Anthropic على الذكاء الاصطناعي الدستوري. الجميع يحاول صنع نماذج لا يمكن خداعها.

هذه معركة خاسرة.

إذا كان الذكاء الاصطناعي ذكيًا بما يكفي ليكون مفيدًا، فهو ذكي بما يكفي ليُخدع. نحن نقع في ما أسميه “فخ التطهير”: الافتراض أن تحسين تصفية المدخلات سيحمينا. لكن الهجمات يمكن أن تُخفى كنص غير مرئي في تعليقات HTML، أو مدفونة عميقًا في الوثائق، أو مُشفرة بطرق لم نتخيلها بعد. لا يمكنك تطهير ما لا تستطيع فهمه سياقيًا، والسياق هو بالضبط ما يجعل نماذج اللغة الكبيرة قوية.

تحتاج الصناعة إلى قبول حقيقة صعبة: سيُنجح حقن الموجه. السؤال هو ماذا سيحدث عندما يحدث ذلك.

التحول المعماري الذي نحتاجه

نحن حاليًا في مرحلة “الإصلاح السريع”، نضيف يائسًا مرشحات الإدخال وقواعد التحقق. ولكن كما تعلمنا في النهاية أن منع حقن SQL يتطلب استعلامات معلمة، وليس تحسين هروب السلاسل، نحتاج إلى حل معماري لأمان الذكاء الاصطناعي.

الإجابة تكمن في مبدأ يبدو بسيطًا لكنه يتطلب إعادة التفكير في كيفية بناء الأنظمة: يجب ألا تمتلك وكلاء الذكاء الاصطناعي الأسرار التي يستخدمونها.

ليس هذا حول إدارة أفضل للبيانات الاعتمادية أو حلول الخزائن المحسنة. إنه يتعلق بالاعتراف بوكلاء الذكاء الاصطناعي كهوية فريدة وقابلة للتحقق بدلاً من المستخدمين الذين يحتاجون إلى كلمات مرور. عندما يحتاج وكيل الذكاء الاصطناعي إلى الوصول إلى مورد محمي، يجب أن:

1. المصادقة باستخدام هويتها القابلة للتحقق (ليس سرًا مخزنًا)

2. استلام بيانات اعتماد في الوقت المناسب صالحة فقط لتلك المهمة المحددة

3. اجعل تلك البيانات الاعتمادية تنتهي صلاحيتها تلقائيًا خلال ثوانٍ أو دقائق

4. لا تقم بتخزين أو حتى “see” الأسرار طويلة الأمد

تظهر عدة نهج. AWS IAM roles for service accounts, Google’s Workload Identity, HashiCorp Vault’s dynamic secrets, والحلول المصممة خصيصًا مثل Zero Trust Provisioning من Akeyless تشير جميعها إلى هذا المستقبل الخالي من الأسرار. تفاصيل التنفيذ تختلف، لكن المبدأ يبقى: إذا لم يكن لدى الذكاء الاصطناعي أسرار ليستولي عليها، يصبح حقن المطالبات تهديدًا أصغر بكثير.

بيئة التطوير لعام 2027

خلال ثلاث سنوات، سيصبح ملف .env غير مستخدم في التطوير المدعوم بالذكاء الاصطناعي. ستُنظر إلى مفاتيح API طويلة الأمد المخزنة في متغيرات البيئة كما ننظر الآن إلى كلمات المرور بنص صريح: بقايا محرجة من زمن أكثر سذاجة.

بدلاً من ذلك، سيعمل كل وكيل ذكاء اصطناعي تحت فصل صارم للامتيازات. وصول للقراءة فقط بشكل افتراضي. قوائم بيضاء للإجراءات كمعيار. بيئات تنفيذ معزولة كمتطلب للامتثال. سنتوقف عن محاولة التحكم فيما يفكر فيه الذكاء الاصطناعي وسنركز بالكامل على التحكم فيما يمكنه القيام به.

هذا ليس مجرد تطور تقني؛ إنه تحول أساسي في نماذج الثقة. نحن ننتقل من “ثقة ولكن تحقق” إلى “لا تثق أبداً، تحقق دائماً، وافترض الاختراق”. مبدأ أقل الصلاحيات، الذي يُعظّ به طويلاً لكنه نادراً ما يُطبق، يصبح غير قابل للتفاوض عندما يكون مطورك الصغير عبارة عن ذكاء اصطناعي يعالج آلاف المدخلات المحتملة الضارة يوميًا.

الخيار الذي نواجهه

إن دمج الذكاء الاصطناعي في تطوير البرمجيات أمر لا مفر منه ومفيد إلى حد كبير. تقرير GitHub أن المطورين الذين يستخدمون Copilot ينجزون المهام أسرع بنسبة 55٪. إن مكاسب الإنتاجية حقيقية، ولا يمكن لأي منظمة ترغب في البقاء تنافسية أن تتجاهلها.

لكننا نقف عند مفترق طرق. يمكننا الاستمرار في المسار الحالي بإضافة المزيد من الحواجز، وبناء مرشحات أفضل، على أمل أن نتمكن من صنع وكلاء ذكاء اصطناعي لا يمكن خداعهم. أو يمكننا الاعتراف بالطبيعة الأساسية للتهديد وإعادة بناء بنية الأمن لدينا وفقًا لذلك.

كان حادث سامسونج طلق إنذار. الاختراق التالي لن يكون عرضيًا، ولن يقتصر على شركة واحدة. مع اكتساب وكلاء الذكاء الاصطناعي المزيد من القدرات والوصول إلى المزيد من الأنظمة، ينمو التأثير المحتمل بشكل أسي.

السؤال لكل مدير أمن معلومات، ولكل قائد هندسي، ولكل مطور بسيط: عندما ينجح حقن المطالبات في بيئتك (وسيفعل ذلك)، ماذا سيجد المهاجم؟ هل سيكتشف كنزًا من الاعتمادات طويلة الأمد، أم سيجد وكيلًا ذكاءً اصطناعيًا، رغم اختراقه، لا يحمل أسرارًا ليستولى عليها؟

الاختيار الذي نتخذه الآن سيحدد ما إذا كان الذكاء الاصطناعي سيصبح أسرع محرك لتطوير البرمجيات أو أكبر ثغرة أبدًا أنشأناها. التقنية لبناء أنظمة ذكاء اصطناعي آمنة وخالية من الأسرار موجودة اليوم. السؤال هو ما إذا كنا سنطبقها قبل أن يجبرنا المهاجمون على ذلك.

حددت OWASP بالفعل حقن الإرشاح كأعلى خطر #1 في قائمة أفضل 10 لتطبيقات نماذج اللغة الكبيرة. تعمل NIST على تطوير إرشادات حول بنى الثقة الصفرية. الأطر موجودة. السؤال الوحيد هو سرعة التنفيذ مقابل تطور الهجمات.

Bio: رافائيل أنجل هو المؤسس المشارك والرئيس التقني لشركة Akeyless, حيث طور تقنية التشفير ذات الثقة الصفرية الحاصلة على براءة اختراع من الشركة. مهندس برمجيات متمرس ذو خبرة عميقة في التشفير وأمان السحابة، عمل رافائيل سابقًا كمهندس برمجيات أول في مركز البحث والتطوير لشركة Intuit’s R&D في إسرائيل، حيث بنى أنظمة لإدارة مفاتيح التشفير في بيئات السحابة العامة وصمم خدمات مصادقة الآلات. يحمل درجة البكالوريوس في علوم الحاسوب من كلية القدس للتكنولوجيا، والتي نالها في سن 19.