تعتبر ظاهرة حقن الطلبات (Prompt Injection) واحدة من التهديدات الأكثر خطورة التي تواجه وكالات الذكاء الاصطناعي، حيث يستطيع المهاجمون إدخال مطالبات خادعة تؤدي إلى تجاوز الأوامر السابقة للنموذج. في هذا السياق، تم تقديم تقنية جديدة تُعرف باسم "التقطير الأمني أثناء السياسة" (Secured On-Policy Distillation - SecOPD)، التي تستخدم تغذية راجعة على مستوى الرموز لتحسين أمان نماذج اللغات الضخمة (Large Language Models).

الميزة الأساسية لـ SecOPD هي قدرتها على تركيز التدريب على رموز معينة بدلاً من التعامل مع المخرجات ككل. وقد أظهرت نتائج التجارب أن نموذج Qwen3.6-27B المدعوم بتقنية SecOPD تحقق نسبة نجاح هجوم تصل إلى 9.0% ضد هجمات حقن الطلبات المعقدة، بالمقارنة مع 94.0% للنموذج السابق (Meta-SecAlign).

تعتبر هذه النتائج مبدعة بما أنها تقدم أمانًا عامًا يمكن تعميمه على مجالات لم يسبق لها أن تم تدريب النماذج عليها. بالإضافة إلى ذلك، فإن SecOPD بتقنية التحكم في الأدوات الوكالية (agentic tool calling) أظهرت نسبة نجاح 4.7% مقارنة بـ 5.5% للنموذج المنافس، مما يعزز إمكانيات الحماية في بيئات معقدة.

يمكن الوصول إلى الكود الخاص بالتقنية والنموذج عبر الروابط التالية: GitHub وHugging Face.

ما رأيكم في هذا التطور الثوري للذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!