تعتبر الشفرة المولدة بواسطة الذكاء الاصطناعي هنا للبقاء. هل نحن أقل أمانًا نتيجة لذلك؟

البرمجة في عام 2025 ليست عن الكفاح على شظايا أو قضاء ساعات طويلة في تصحيح الأخطاء. إنه نمط مختلف تمامًا. تعتبر الشفرة المولدة بواسطة الذكاء الاصطناعي معظم الشفرة في المنتجات المستقبلية وأصبحت أداة أساسية للمطور الحديث. يُعرف باسم “البرمجة بالاتجاه”، استخدام الشفرة المولدة بواسطة أدوات مثل Github Copilot و Amazon CodeWhisperer و Chat GPT سيكون هو الحال وليس الاستثناء في تقليل وقت البناء وزيادة الكفاءة. لكن هل يهدد الراحة التي توفرها الشفرة المولدة بواسطة الذكاء الاصطناعي بخطر أغمق؟ هل تزيد الشفرة المولدة بواسطة الذكاء الاصطناعي من نقاط الضعف في هندسة الأمان أو هل هناك طرق للمطورين لتحقيق “البرمجة بالاتجاه” بأمان؟

“الحوادث الأمنية الناجمة عن نقاط الضعف في الشفرة المولدة بواسطة الذكاء الاصطناعي هي واحدة من المواضيع الأقل مناقشة اليوم”، قال سانكيت ساوراف، مؤسس DeepSource. “لا تزال هناك الكثير من الشفرة المولدة بواسطة منصات مثل Copilot أو Chat GPT التي لا يتم مراجعتها من قبل البشر، ويمكن أن تكون انتهاكات الأمان مدمرة للشركات المتضررة”.

مطور منصة مفتوحة المصدر تستخدم التحليل الثابت للجودة والأمان، أشار ساوراف إلى هجوم SolarWinds في عام 2020 على أنه نوع من “حدث الانقراض” الذي يمكن أن تواجهه الشركات إذا لم يتم تثبيت الحوافز الأمنية الصحيحة عند استخدام الشفرة المولدة بواسطة الذكاء الاصطناعي. “يتمكن التحليل الثابت من تحديد أنماط الشفرة غير الآمنة وممارسات البرمجة السيئة”، قال ساوراف.

الهجوم من خلال المكتبة

يمكن أن تأخذ التهديدات الأمنية للشفرة المولدة بواسطة الذكاء الاصطناعي أشكالًا مبتكرة وتكون موجهة إلى المكتبات. المكتبات في البرمجة هي شفرة قابلة لإعادة الاستخدام مفيدة التي يستخدمها المطورون لتوفير الوقت عند الكتابة.

غالبًا ما تحل هذه المكتبات مهام برمجة منتظمة مثل إدارة التفاعلات مع قواعد البيانات وتساعد المبرمجين على عدم كتابة الشفرة من الصفر.

واحدة من هذه التهديدات ضد المكتبات هي ما يُعرف بـ “الوهم”، حيث تظهر الشفرة المولدة بواسطة الذكاء الاصطناعي نقطة ضعف من خلال استخدام مكتبات وهمية. وهناك هجوم أحدث على الشفرة المولدة بواسطة الذكاء الاصطناعي يُعرف باسم “سلوبرسكوتينج” حيث يمكن للمهاجمين استهداف المكتبات بشكل مباشر لاختراق قاعدة البيانات.

معالجة هذه التهديدات بشكل مباشر قد تتطلب المزيد من اليقظة أكثر مما قد يُقترح من مصطلح “البرمجة بالاتجاه”. يتحدث البروفيسور رافائيل خوري من مكتبه في جامعة كيبيك في أوتاوا، وقد كان يتابع عن كثب التطورات في أمان الشفرة المولدة بواسطة الذكاء الاصطناعي، ويتفائل بأن التقنيات الجديدة ستحسن أمانها.

في مقال نشر في عام 2023، قام البروفيسور خوري بتحليل نتائج طلب من ChatGPT توليد شفرة بدون أي سياق أو معلومات إضافية، وهي ممارسة أدت إلى شفرة غير آمنة. كانت هذه الأيام الأولى لتشات جي بي تي، ويتفائل خوري الآن بمستقبل أفضل. “منذ ذلك الحين، هناك الكثير من الأبحاث قيد المراجعة الآن والمستقبل يبدو وكأنه استراتيجية لاستخدام نموذج اللغة الكبير الذي قد يؤدي إلى نتائج أفضل”، قال خوري، مضيفًا أن “الأمان يتحسن، لكننا لسنا في مكان يمكننا فيه تقديم توجيه مباشر والحصول على شفرة آمنة”.

واصف خوري دراسة واعدة حيث تم توليد الشفرة وإرسالها إلى أداة تحليلها للبحث عن نقاط الضعف. يُعرف الطريقة المستخدمة من قبل الأداة باسم “العثور على الشذوذ الخطي باستخدام الذكاء الاصطناعي” (FLAG اختصارًا).

“تُرسل هذه الأدوات أعلامًا قد تحدد نقطة ضعف في السطر 24، على سبيل المثال، والتي يمكن للمطور إرسالها مرة أخرى إلى نموذج اللغة الكبير مع المعلومات وطلب تصحيح المشكلة”، قال خوري.

اقترح خوري أن هذا التبادل قد يكون حاسمًا لتصحيح الشفرة التي تكون عرضة للهجوم. “تُظهر هذه الدراسة أن بإمكاننا تقليل نقاط الضعف إلى الصفر مع خمس تكرارات”.

مع ذلك، فإن طريقة FLAG ليست خالية من المشاكل، لا سيما أنها يمكن أن تؤدي إلى نتائج إيجابية كاذبة وسلبية كاذبة. بالإضافة إلى ذلك، هناك حدود في طول الشفرة التي يمكن أن يولدها نموذج اللغة الكبير، ويمكن أن يضيف فعل ربط الشظايا طبقة أخرى من المخاطر.

الحفاظ على البشر في الحلقة

يُنصح بعض الأفراد في “البرمجة بالاتجاه” بتقسيم الشفرة وضمان أن يبقى البشر في صدارة التحريرات الأكثر أهمية في قاعدة الشفرة. “عند كتابة الشفرة، فكّر بالتزامات”، قال كيفن هاو، رئيس هندسة المنتج في Windsurf، مشيدًا بحكمة القطع الصغيرة.

“قسم المشروع الكبير إلى قطع صغيرة ستكون عادةً التزامات أو طلبات سحب. اجعل الوكيل يبني النطاق الصغير، ميزة معزولة في كل مرة. هذا يمكن أن يضمن أن إخراج الشفرة مدروس جيدًا ومفهوم جيدًا”، أضاف.

في وقت الكتابة، كان Windsurf قد قام بمعالجة أكثر من 5 مليارات سطر من الشفرة المولدة بواسطة الذكاء الاصطناعي (من خلال اسمه السابق Codeium). قال هاو إن السؤال الأكثر إلحاحًا الذي كانوا ي回答ونه هو ما إذا كان المطور على دراية بالعملية.

“الذكاء الاصطناعي قادر على إجراء الكثير من التحريرات عبر العديد من الملفات في نفس الوقت، لذلك كيف يمكننا التأكد من أن المطور يفهم ويُراجِع ما يحدث بدلاً من قبول كل شيء بشكل أعمى؟” سأل هاو، مضيفًا أنهم استثمروا بشكل كبير في واجهة المستخدم في Windsurf “بطرق直ة للبقاء في خط متواصل مع ما يفعله الذكاء الاصطناعي، والحفاظ على البشر في الحلقة”.

وهذا هو السبب في أن “البرمجة بالاتجاه” تصبح أكثر شيوعًا، يجب على البشر في الحلقة أن يكونوا أكثر حذرًا من نقاط الضعف. من “الوهم” إلى تهديدات “سلوبرسكوتينج”، التحديات حقيقية، ولكن الحلول كذلك.

تظهر الأدوات الناشئة مثل التحليل الثابت وطرق التطوير التكراري مثل FLAG وتصميم واجهة المستخدم المدروس أن الأمان والسرعة لا يتعارضان.

المفتاح يكمن في الحفاظ على المطورين منخرطين ومطلعين ومتحكمين. مع الحوافز الصحيحة وتصور “ثقة ولكن تحقق”، يمكن أن تكون البرمجة بمساعدة الذكاء الاصطناعي ثورية ومسؤولة.