في عالم الذكاء الاصطناعي، حيث تتطور نماذج اللغات الضخمة (Large Language Models) بسرعة، تبرز أهمية فهم نقاط الضعف التي قد تواجهها هذه النماذج. أظهرت دراسات جديدة أن نماذج الذكاء الاصطناعي المصممة لتجنب الطلبات الضارة تتعرض لمخاطر حقيقية عندما يتم تقديم الطلبات في سياقات معينة، مما يتيح تجاوز آليات الأمان المخصصة لها.

لكن ما هي السيناريوهات التي يجوز أن يضعف فيها الرفض، ولماذا؟ الأبحاث الجديدة تكشف عن منهجيات جديدة لتحديد هذه السيناريوهات من خلال ما يعرف بهجمات "التجربة الحمراء". هذه المنهجيات تتبعت نتائج الهجمات المرصودة، لكنها لم تفسر بشكل كامل العلاقة بين السيناريوهات وما تسببه من تراجع في نتائج الرفض.

من خلال دراسات الآلية التفسيرية، تم التعرف على اتجاهات الرفض والخصائص المرتبطة بتجاوز الأمان، ولكن الأمر ظل غير واضح. في هذا العمل الجديد، استطاع الباحثون إظهار أن الطلبات اللفظية التي تأتي مصحوبة بسياقات معينة تُفعّل اتجاهات داخلية تؤدي إلى تقليل معدلات الرفض بشكل ملحوظ.

بناءً على هذه الاكتشافات، تم تقديم إطار جديد يُعرف بـ "Concept2Scenario"، والذي يهدف إلى تحسين اكتشاف السيناريوهات الضعيفة. يقوم هذا الإطار بإنشاء فضاء مفاهيمياً واسع باستخدام نماذج التشفير الآلي، ويربط تقليل الرفض بمفاهيم فردية، ويترجم هذه المفاهيم إلى سيناريوهات عادية قابلة للفهم.

عبر ثلاثة نماذج مفتوحة المصدر، ونموذجين للسلامة، وستة أساليب تجاوز "بلاك بوكس"، أثبتت السيناريوهات التي تم اكتشافها كفاءة كبيرة، حيث حسنت متوسط معدلات نجاح الهجمات بنسبة تصل إلى 18.2%. تقدم هذه الاكتشافات رؤى حول نقاط الضعف المشتركة بين عائلات النماذج، مثل GPT-5 وClaude-Haiku-4.5 وGemini-3-Flash، مما يشير إلى أن بعض سيناريوهات الرفض الضعيفة تكون مشتركة عبر النماذج.

تقدم هذه النتائج فرصة لتعزيز أمان نماذج اللغات الضخمة وتحسين قدرتها على التعامل مع المواقف الضارة بشكل فعّال. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.