في عالم الذكاء الاصطناعي، تعتبر نماذج اللغات الكبيرة (Large Language Models) من أبرز الإنجازات العلمية، ولكن هل تعلم أن جودة التوجيهات التي نتعامل بها معها يمكن أن تؤثر بشكل كبير على أدائها؟ دراسة جديدة نُشرت تتناول الظاهرة المعروفة باسم 'صندوق الطيور' (Pigeonholing)، والتي تشير إلى كيف أن التوجيهات الغير صحيحة يمكن أن تؤدي إلى تدهور الأداء وانهيار نماذج الذكاء الاصطناعي.

تطرح الدراسة سؤالًا مهمًا: كيف يمكن أن تتسبب السياقات الغير صحيحة في تراجع أداء النماذج؟ يحدث ذلك عندما يطلب المستخدم من النموذج التبرير لمفهوم خاطئ، أو عندما يفشل في تصحيح الأخطاء في الشيفرات البرمجية.

استندت التجارب على 10 مهام قابلة للتحقق ومفتوحة، وتم اختبار 10 نماذج مختلفة. أظهرت النتائج أن صندوق الطيور يتجلى بعدة طرق:
1. تكرار الإجابات الخاطئة من السياق، مما يؤدي إلى تراجع الأداء بنسبة تصل إلى 40%.
2. التوجه نحو مجموعة ضيقة من الإجابات في مجالات البرمجة وتوليد النصوص دون استكشاف بدائل.
3. تغيير الموقف تجاه الموضوعات المثيرة للجدل لتوافق مع ادعاءات المستخدم أو إجابات سابقة للنموذج.

كما تبين أن تأثير صندوق الطيور يتفاقم مع زيادة عدد دورات المحادثة، حيث تنخفض الأداء بشكل مستمر عندما تتزايد الأخطاء المتكررة.

لتحسين هذا الوضع، تم اقتراح تقنيات جديدة مثل 'RLVR' (Reinforcement Learning with Variational Regularization) مع الأخطاء الاصطناعية، حيث أثبتت هذه الاستراتيجية فعاليتها في تحسين أداء النماذج بنسبة تتراوح بين 43-60% حتى في ظل ظروف التوجيه السيئة.

هل سبق لك أن جربت التفاعل مع نموذج ذكاء اصطناعي وفوجئت بإجابته غير الصحيحة؟ ما رأيكم في الحلول المقترحة لتحسين الأداء؟ شاركونا في التعليقات!