في السنوات الأخيرة، أصبحت نماذج اللغات الضخمة (Large Language Models) تكتسب شهرة واسعة في تسريع وتسهيل عملية تطوير البرمجيات. ومع ذلك، يرافق هذه التكنولوجيا المتقدمة موقف مقلق حول أمان الشيفرات المُولّدة، حيث تفتقر الكودات الناتجة إلى اعتبارات أمنية مهمة، مما قد يعرضها لمشاكل مثل ضعف التشفير والتحقق غير السليم من المدخلات.

لمعالجة هذه القضية، أُجريت دراسة شاملة لتقييم جودة أمان الشيفرات الناتجة عن خمس نماذج لغوية ضحمة عبر أربع لغات برمجة: Java وC++ وC وPython. تمت دراسة التأثير الناتج عن مجموعة من طرق التنبيه، من خلال تقديم استراتيجية جديدة تُعرف باسم "طريقة التنبيه المعنية بالضعف" (Weaknesses-aware zero-shot chain-of-thought) التي تهدف إلى إثراء التنبيهات بسياقات أمنية باستخدام خرائط نقاط الضعف المعروفة (CWE) لتوجيه تفكير النموذج.

في التحليل التجريبي المدعوم باختبارات كاي تربيع (chi-square tests)، لم تُظهر النتائج أي انخفاضات ملحوظة إحصائيًا في تواتر الضعف أو كثافة الضعف بين طرق التنبيه المستخدمة. ومع ذلك، أظهرت الاستراتيجيات مثل WA-0CoT تأثيرًا منهجيًا على توزيع فئات نقاط الضعف (CWE) والتي كانت تختلف حسب لغة البرمجة.

تسلط هذه النتائج الضوء على أهمية تصميم التنبيه القائم على اللغة ونموذج الذكاء الاصطناعي عند تقييم خصائص الأمان للكود المولد. بينما يعد تحسين الهيكل من خلال التنبيه المعني بالضعف خطوة إيجابية، إلا أنه يظهر أن تحسين أمان الشيفرات يتطلب مجهودًا أعمق من مجرد أساليب التنبيه وحدها.

ختاماً، تبقى مسألة أمان الكود المولد من قبل نماذج اللغات الضخمة موضوعًا معقدًا يتطلب تقنيات جديدة واستراتيجيات تحسينية. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.