في عالم الذكاء الاصطناعي، تعتبر نماذج اللغات المدربة مسبقاً (Pre-trained Language Models - PLMs) من الإنجازات البارزة، لكن هل هي حقاً آمنة؟ أظهرت دراسة جديدة نُشرت في arXiv أن هذه النماذج تعاني من ثغرات في أمان البيانات وآليات التدريب، مما يجعلها عرضة لهجمات خلفية (Backdoor Attacks) غير مرئية وقابلة للتكيف مع مختلف المهام.

تقدم هذه الدراسة تقنية جديدة تعرف باسم SynGhost، والتي تتيح إدخال أبواب خلفية غير مرئية عبر نقل سطحي (Syntactic Transfer).

تقنية SynGhost؟ ">ما هي تقنية SynGhost؟


تم تصميم SynGhost لحقن أبواب خلفية متعددة في نموذج التدريب من خلال تسميم البيانات (Corpus Poisoning)، مع الاحتفاظ في الوقت نفسه بالقدرات التشغيلية للنموذج. باستخدام أسلوب يعتمد على الانتباة (Awareness Module)، تقلل SynGhost من تداخل الأبواب الخلفية بينها، مما يسمح بالتكيف الجيد مع المهام المختلفة.

إحدى أبرز ميزات SynGhost هي قدرتها على اختيار الأهداف بشكل ذكي استناداً إلى التعلم التبايني (Contrastive Learning)، مما يخلق توزيعاً موحداً داخل مساحة التدريب.

تُظهر التجارب أن SynGhost يمكن أن تشكل تهديدات جادة وتستطيع الانتقال بسهولة بين مهام متعددة، كما أنها تستطيع مقاومة الدفاعات المبنية على قياس التعقيد (Perplexity) والتنقيح الدقيق (Fine-Pruning) وتقنية maxEntropy.

هذه الابتكارات تعكس تحديات جديدة للمستقبل، مما يثير تساؤلات جدية حول كيفية تعزيز أمان نماذج الذكاء الاصطناعي.

**ما رأيكم في هذه التقنية الجديدة؟ هل تعتقدون أنها ستهدد الأمان في المستقبل؟ شاركونا بأفكاركم في التعليقات.**