في عالم الذكاء الاصطناعي، تواجه نماذج اللغات الكبيرة (Large Language Models) تحديات متعددة، خصوصًا عندما يتعلق الأمر بالكشف عن الثغرات الأمنية في البرمجة. تشير دراسة حديثة إلى أن إنتاج كود ضعيف مسمى يعد عائقًا متكررًا، حيث تحمل قواعد البيانات المستخرجة من كودات سابقة نسبة كبيرة من الضوضاء في التسميات، مما يُعقّد عملية الكشف.

تحاول النماذج المعتمدة على الذكاء الاصطناعي معالجة هذه الأزمة عبر تحويل أكواد آمنة، لكن هناك رفض متكرر لهذه التعليمات من قِبل نماذج اللغة المتوافقة مع السلامة. في هذا السياق، قام الباحثون بدراسة أولية لكيفية التغلب على هذا الرفض باستخدام تقنية جديدة تُعرف باسم "الأبليتر" (Abliteration)، التي تستخدم تعديلًا منخفض الرتبة لاستبعاد اتجاه الرفض، مما يُمكّن النموذج من توليد الأكواد المطلوبة دون قيود.

تم استخدام حالة دراسة حقيقية تتعلق بالثغرة المعروفة باسم CWE-89 (حقن SQL)، حيث تم تقييم أداء نموذج Qwen2.5-Coder-Instruct بخصائص مختلفة (3B، 7B، و14B). أظهرت النتائج أن:
1. مستوى الرفض يعتمد بشدة على حجم النموذج وسياق التعليمات، حيث رفض النموذج ذو 14B جميع التعليمات تقريبًا، بينما كان النموذج 3B يرفضها قليلًا.
2. تقنية الأبليتر قللت مستويات الرفض إلى الصفر أو ما يقرب من ذلك، حيث بقيت صحة الأكواد أعلى من 93%.
3. معدلات الحقن بعد استخدام الأبليتر ظلت مرتبطة بسعة النموذج، مع فوارق ملحوظة في النتائج.

هذا البحث يحمل دلالات مهمة حول إمكانية فصل الرغبة في التنفيذ عن القدرة الفعلية على توليد الأكواد، مما يقدم رؤية جديدة حول كيفية تحسين النماذج لتكون أكثر استجابة ومرونة في مجال البرمجة.

ما رأيكم في هذا التطور؟ شاركونا أفكاركم في التعليقات!