تعتبر نماذج اللغات الضخمة (Large Language Models) من أعظم الابتكارات في مجال الذكاء الاصطناعي، ومع ذلك، فإن قدراتها المذهلة قد تتعرض للاهتزاز بسبب عدم استقرارها. تظهر الأبحاث أن التغييرات الطفيفة، حتى تلك التي تبدو بلا دلالة، يمكن أن تؤدي إلى تقلبات كبيرة في الأداء، وهو ما يعرف بحساسية الضغوط (Prompt Sensitivity).

في دراستنا الجديدة، نقدم طريقة مبتكرة لفهم هذا المفهوم بشكل أعمق. بعكس الدراسات السابقة، التي كانت تعتمد على مقارنة النتائج النهائية عند تغيير الضغوط، نستخدم أداة دقيقة تُسمى "التفاعلات" لتحليل مدى حساسية النماذج تجاه المدخلات.

من خلال فك التفاعل الناتج عن نموذج اللغة إلى مجموعة من المتغيرات المدخلة، قمنا برصد كيفية تأثير التغييرات الطفيفة على التفاعلات، التي قد تظهر عدم استقرار بالغ، رغم استمرار النتائج نفسها.

نقدم أيضًا مقياس جديد يسمى "مقياس حساسية الضغوط القائم على التفاعلات" (Interaction-based Prompt Sensitivity - IPS)، والذي يتيح لنا قياس مدى تأثر التفاعلات بتغييرات دقيقة في المدخلات. لقد قمنا بتطبيق هذا المقياس على 50 نموذجًا مفتوح المصدر، وكشفنا عن أربعة عوامل رئيسية يمكن أن تقلل من حساسية هذه النماذج، وهي:

- تحسين خاضع للإشراف
- زيادة نطاق النموذج
- هياكل كثيفة
- التعلم القليل

والأهم من ذلك، اكتشفنا آلية شائعة تعمل بها هذه العوامل الأربعة على تقليل الحساسية: جميعها تميل إلى تقليل حساسية التفاعلات ذات المستوى المنخفض المعنية بمدخلات قليلة.

هذه النتائج تفتح بابًا جديدًا للبحث في كيفية تحسين أداء نماذج اللغات الضخمة، مما يجعل فهمنا لهؤلاء المساعدين الذكيين أكثر عمقًا. ما آراؤكم في هذه التطورات الرائعة؟ شاركونا في التعليقات.