مع تقدم تقنيات الذكاء الاصطناعي، أصبحت أنظمة تطوير المهارات الذاتية (Self-Evolving Skill Systems) أحد الحلول المبتكرة لتحسين أداء نماذج اللغة الكبيرة (Large Language Models). تهدف هذه الأنظمة إلى بناء مهارات قابلة للاستخدام من خلال تعلّم سلوكيات تتعلق بمهمات معقدة، لكن المخاوف الأمنية بدأت تُطرح بشكل جاد حول هذه الابتكارات.

قد تكون مهارات الذكاء الاصطناعي التي يتم تطويرها بشكل ذاتي من عرضة لهجمات جديدة تُعرف باسم هجمات المسار الخلفية (Trajectory Backdoor Attack). حيث يمكن للقراصنة تعطيل هذا النظام من خلال توجيه المسارات التي تؤدي إلى إنشاء مهارات تحتوي على ثغرات خبيثة، مما يُعطيهم القدرة على التحكم في النتائج التي يتم الحصول عليها من هذه المهارات.

استخدم الباحثون نماذج متعددة لاختبار هذه الهجمات، حيث أثبتت التجارب أن هجمات المسار الخلفية يمكن أن تُزرع دون التأثير على الأداء العام للمهام النقية، مما يشير إلى خطورة هذا النوع من الهجمات. وقد تكون هذه النتائج بمثابة جرس إنذار للمرتبطين بعالم الذكاء الاصطناعي حول الحاجة الملحة لتعزيز الأمان في هذه الأنظمة المتقدمة.

إذًا، ما هي الإجراءات التي يمكن أن تُتخذ لحماية أنظمة الذكاء الاصطناعي من مثل هذه الهجمات؟ هل يجب على المطورين إعادة صياغة استراتيجياتهم لضمان سلامة المهارات الرقمية؟