في خطوة مثيرة، كشف الباحثون عن دراسة جديدة تُعرف باسم Minionese، والتي تستهدف تقييم أمان نماذج اللغات الكبيرة (Large Language Models) عبر 18 لغة مختلفة. في الوقت الذي تعتمد فيه هذه النماذج بشكل أساسي على اللغة الإنجليزية، تُظهر النتائج أن هناك ثغرات واضحة في أمانها عند التعامل مع لغات أخرى، وخاصة تلك التي تندرج تحت فئات موارد منخفضة.

تتناول الدراسة أنواعًا متعددة من الهجمات، منها الترجمة القياسية والتبديل اللغوي (Code-Switching) والتعريب، مما يكشف عن تباين ملحوظ في قدرة النماذج على تحديد محتوى ضار أو غير مرغوب فيه. وبدلاً من حماية فعالة، تفشل نماذج الأمن في مواجهة تأثيرات هذه الهجمات، مما يؤدي إلى قلق متزايد حول استخدامها في بيئات لغوية متنوعة.

علاوة على ذلك، تُظهر الدراسة تأثير هوية أسلوب الكتابة في vulnerability، حيث تتأثر نماذج اللغات الكبيرة بتغير أساليب التحويل بينها. ومن الجدير بالذكر أن هناك فارقًا حادًا في الانتقال بين مستوى الأمان 2 و3، وهو ما يتكرر عبر جميع النماذج المدروسة.

تؤكد النتائج الجديدة أن التقييمات التي تركز فقط على اللغة الإنجليزية ليست كافية لضمان السلامة؛ بل يجب أخذ عتبات الخطأ وطرق التقلب في الاعتبار عند تقييم أداء الأمان لنماذج اللغات الكبيرة. الحصول على منحى آمن فعّال يتطلب توسيع نطاق الدراسة.

للمهتمين، يمكن الوصول إلى قاعدة البيانات وتحليل التعليمات البرمجية الخاصة بالدراسة عبر هذا الرابط. هل تعتقد أن الأمان في نماذج اللغات الكبيرة كافٍ؟ شاركونا آرائكم في التعليقات!