تعد تقنية تحسين الاستدلال (Inference Optimization) أمرًا حيويًا لنشر النماذج اللغوية الضخمة (Large Language Models) على نطاق واسع، وتُعتبر تقنية التجميع (Compilation) الأكثر شيوعًا لهذه الغاية. ولكن، ماذا لو أخبرتك أن هذه التقنية يمكن أن تُستغل بشكل خبيث لتضمين باك دور خفي في النماذج؟

إليك ما يكشفه البحث الجديد: في الوقت الذي يفترض فيه أن التجميع يحافظ على المساواة الدلالية بين الرسومات الأصلية والمجمعة، اكتشف الباحثون أن الآثار الجانبية العددية يمكن أن تُستغل لزرع هجمات خلفية بطريقة تتخذ شكل استراتيجيتين تكميليتين.

الأولى هي استراتيجية تسجل تفعيلًا للتنبؤات لنماذج معينة فحسب، في حين أن الثانية تستعمل مُحفزًا عالميًا يبقى خاملاً في التنفيذ غير المُجمع، لكنه يتسلل لإحداث فوضى عند تطبيق تحسين التجميع. المدهش أن كليهما يتجاوز اختبارات الأمان التقليدية التي تُجرى دون التجميع.

لقد أظهرت التجارب أن هذه الهجمات الخلفية المُحفزة بواسطة تحسينات الأداء تحقّق نسب نجاح تصل إلى 90% عبر أربعة نماذج لغوية ضخمة مفتوحة المصدر وأربع مهام، بينما تستمر الدقة النقية في الارتفاع بنسبة تقارب 100% تحت جميع الإعدادات.

هذا الاكتشاف يسلط الضوء على سطح هجوم جديد عند نقطة تلاقي التحسين والأمان في عملية نشر النماذج اللغوية، مما يتطلب الآن ضرورة التفكير في استراتيجيات دفاعية فعّالة لمواجهة هذه التهديدات المتطورة.

ما رأيكم في هذا التطور المثير؟ شاركونا في التعليقات!