نعيش في عصر الذكاء الاصطناعي، حيث تمثل نماذج اللغة الكبيرة (Large Language Models) أحد أبرز الابتكارات التي غيرت طريقة تفاعلنا مع التكنولوجيا. ولكن، كما هو الحال مع كل تطور تكنولوجي، هناك جانب مظلم يمثل تهديدًا كبيرًا لهذه الأنظمة المتطورة.

في دراسة حديثة نشرت على arXiv، تم الكشف عن هجوم جديد يدعى FATS (Feign Agent Attack with Toxic-shots) يعكس طبيعة التحديات الأمنية التي تواجه نماذج اللغة. على الرغم من التقنيات المتقدمة مثل التعلم المعزز مع تغذية راجعة من البشر (Reinforcement Learning with Human Feedback)، إلا أن تعرض هذه النماذج لبيانات تدريب متعلقة بالأمان قد يؤدي إلى فقدان الثقة في المعلومات، مما يفتح المجال لمزيد من الثغرات.

تعتمد طريقة هجوم FATS على تضليل نماذج اللغة من خلال إخفاء استخراج التفضيلات وتقديم عينات سلبية، ما يؤدي إلى سلوكيات ضارة. ولتقييم فعالية هذا الهجوم، تم تقديم مجموعة بيانات FAQuery وإجراء تجارب على نماذج لغة متطورة، بما في ذلك GPT-4.1 وDeepseek-R1.

أظهرت النتائج أن النماذج الشائعة أصبحت معرضة بشكل كبير، مما يستدعي إعادة تقييم صارمة لمصادر البيانات المتعلقة بالأمان خلال فترة تدريب النموذج. نحن بحاجة ماسة لتطوير نماذج أكثر أماناً وموثوقية، لحماية هذه التقنيات من الهجمات الخادعة.

إلى أين قد يقودنا هذا الابتكار الجديد في عالم الذكاء الاصطناعي؟ يجب أن نكون حذرين ونستعد للتحديات التي قد تواجهها نماذج اللغة في المستقبل.