في إطار الأبحاث المستمرة لتحسين نماذج اللغة، لفتت دراسة حديثة الأنظار إلى آلية فريدة تتعلق بكيفية تصرف هذه النماذج تجاه الطلبات الضارة. حيث أظهرت النتائج أن نماذج اللغة التي تمت محاذاتها ترفض الطلبات الضارة. لكن ماذا لو عُرض عليها جملة تحضيرية بسيطة مثل "بالتأكيد، إليك"؟ هذا ما يطلق عليه "الانفصال".

تناولت الدراسة بنظرة أعمق التغير الذي يحدث في سلوك النماذج عند توجيه طلبات معنية لها. إذ تبين أن التحوّل من الرفض إلى الموافقة يحدث عندما تحتوي الطلبات على تلك الجملة التحضيرية التي تقوم بإزالة أي مفهوم للرفض.

الأكثر إثارة في هذه الدراسة هو كيف أن أشكال النماذج المختلفة، التي تندرج تحت نطاقات متعددة من الأحجام (من 1.5 مليار إلى 14 مليار معلمة)، أظهرت سلوكيات متشابهة. يتعلق الانفصال بمكان الاستجابة المبكرة، مما يعني أن الجزء الأول من الاستجابة كافٍ لكسر الرفض، بينما يكون الجزء الثاني منه أقل تأثيرًا.

لذلك، فإن هذه الآلية تكشف عن فضول مستمر حول كيفية عمل نماذج الذكاء الاصطناعي وكيف يمكن تحسينها لتفادي الاستجابات الضارة. بدلاً من أن تكون الآلية آلية مقاومة محددة، فإن القدرة على الرفض تتأثر بشكل كبير بالسياق الذي يتم توجيه الطلب من خلاله.

تُظهر هذه النتائج أن المعرفة العميقة بسلوكيات النماذج يمكن أن تفتح أفقًا جديدًا لفهم الأخطاء السيكولوجية الموجودة فيها، مما يمنح الباحثين فرصة لتحسين وتطوير نماذج أكثر أمانًا في المستقبل.