في عصر التكنولوجيا الحديثة، شهدت أنظمة التقييم الذاتي المعتمدة على نماذج اللغات الضخمة (Large Language Models - LLMs) تقدماً ملحوظاً، مما أتاح للمعلمين استخدام طرق تقييم طبيعية تتماشى مع التعليمات بفاعلية. لكن، مع هذا التقدم، ظهرت تهديدات جديدة تثير القلق، وعلى رأسها هجمات حقن الأوامر (Prompt Injection).

تستهدف هجمات حقن الأوامر أنظمة التقييم الذاتي، حيث يمكن للمهاجمين استغلال الثغرات لتحريف النتائج وإعطاء درجات مرتفعة مصطنعة للطلاب بغض النظر عن جودة الإجابات الحقيقية. هذا التهديد يُشكل تحدياً كبيراً لنزاهة وموثوقية التقييمات التعليمية.

أشارت الأبحاث الحديثة إلى أن هذه الهجمات يمكن أن تتسبب في تدهور نظام التقييم، مما يستدعي ضرورة تطوير استراتيجيات دفاعية فعالة لمواجهتها. وقد أظهرت التجارب أن الأنظمة الحالية لا تزال عرضة بشدة لهذه الهجمات، مما يستلزم المزيد من الأبحاث لإيجاد حلول تدعم أمان وموثوقية النماذج المعتمدة على الذكاء الاصطناعي.

إن تعزيز الوعي حول هذه التهديدات يُعتبر خطوة مهمة في تطوير أنظمة تعليمية آمنة وموثوقة. قد يكون المستقبل مشرقاً لدراسة هذه الديناميكيات الجديدة، مما يفتح الأبواب أمام بحوث مستقبلية تهدف إلى تحسين نظم التقييم في التعليم الذكي.