هجمات التفكيك النفسية: كيف يمكن للذكاء الاصطناعي أن يختبر أمان نماذج التفكير الكبرى؟

في عصر الذكاء الاصطناعي، قد تكون نماذج التفكير الكبرى (Large Reasoning Models) قد استحوذت على الانتباه بفضل قدرتها على تقديم استنتاجات دقيقة واستجابات ذكية في مجالات حساسة مثل الرعاية الصحية والتعليم. ومع ذلك، فإن قدرة هذه النماذج ليست محصنة من التهديدات.

أحدثت دراسة جديدة ضجة في مجال أمان الذكاء الاصطناعي، حيث سلطت الضوء على "هجمات التفكيك النفسية المستهدفة" (Psychology-based Reasoning-targeted Jailbreak Attacks)، التي تهدف إلى زرع محتوى ضار خلال خطوات التفكير، دون تغيير الإجابات النهائية. هذه الهجمات تحمل تحديين رئيسيين: من جهة، تغيير التعليمات المدخلة قد يؤدي إلى تحريف الإجابة النهائية للنموذج، ومن جهة أخرى، التنوع في الأسئلة يجعل من الصعب دائماً تجاوز آليات الأمان المدمجة.

للتغلب على هذه التحديات، قدم الباحثون إطار PRJA، الذي يجمع بين اختيار المؤشرات المعنوية وتوليد التعليمات وفقاً لأسس نفسية مثل الطاعة للسلطة والانفصال الأخلاقي. ينفذ PRJA تحليلًا دلاليًا لإعداد مؤشرات من الممكن أن تؤثر على مسار التفكير، ويقوم بتوليد تعليمات تكيفية تعزز من إمكانية الامتثال لإنشاء محتوى ضار.

وقد أظهرت التجارب على خمسة مجموعات بيانات للإجابة على الأسئلة أن معدل نجاح هجمات PRJA بلغ 83.6% ضد مجموعة من نماذج التفكير الكبيرة، منها DeepSeek R1 وQwen2.5-Max وOpenAI o4-mini هذه النتائج تبرز أهمية تعزيز الأمان في هذه النماذج وتؤكد على ضرورة البحث المستمر حول أفضل الممارسات لتجنب تأثيرات سلبية مشابهة.

ما رأيكم في هذه التطورات؟ كيف يمكننا حماية أنظمة الذكاء الاصطناعي من مثل هذه التهديدات؟ شاركونا أفكاركم في التعليقات!