تُعد نماذج اللغات الضخمة (LLMs) من الابتكارات الرائدة في عالم الذكاء الاصطناعي، حيث توفر قدرة جديدة على إنشاء استجابات نصية طبيعية معقدة. ومع ذلك، كشفت دراسات جديدة عن وجود ثغرة خطيرة في تصميم هذه النماذج، مما يثير تساؤلات حول موثوقية استجابتها.

تكمن المشكلة في البنية المعمارية "أحضر مفتاحك الخاص" (Bring-Your-Own-Key - BYOK)، حيث يتم توجيه حركة مرور نماذج اللغات الضخمة من خلال وسطاء خارجيين. هذه العملية تخلق فجوة محتملة في السلامة، حيث يمكن لوسيط ملحق خبيث تعديل استجابة النموذج بعد توليدها وقبل تنفيذها، مما يؤدي إلى سلوك غير متوقع.

خطر التلاعب بعد التوافق هو ما يسمى بهجوم تعديل الوسيط (Relay Tampering Attack - RTA)، والذي ينطوي على إعادة صياغة استراتيجية متعددة المراحل، وتعديلات حرجة للأمان، واستعادة خفية من خلال إعادة تقديم المخرجات المعدلة للنموذج. وقد أظهرت الفحوصات أن الهجوم RTA يمكن أن يحقق نجاحًا يصل إلى 99.1%، متفوقًا بشكل ملحوظ على أساليب حقن الأوامر التقليدية بسرعة منخفضة.

عبر تطبيق نتائج اختبار موثوقية RTA على نماذج مثل OpenClaw وClaude Code، تم التأكيد على جدوى هذا الهجوم في ظروف العالم الحقيقي. على الرغم من أن هناك أربع استراتيجيات دفاعية مختلفة تم اختبرها في مواجهة RTA، إلا أنه لم يتمكن أي منها من منع الهجوم بالكامل.

وبالتالي، اقترح الباحثون تطوير نظام كشف قائم على الزمن يمكن أن يساعد في التخفيف من آثار هذا النوع من الهجمات دون تراجع في فائدة النموذج.

في ضوء هذه التحديات، يبرز السؤال: هل الحماية الحالية لنماذج اللغات الضخمة كافية؟ وكيف يمكن تحسينها لمواجهة هذه التهديدات المتزايدة؟ يجب على المجتمع العلمي والصناعي توحيد جهوده لحماية هذه التكنولوجيا الثورية.