في عالم الذكاء الاصطناعي، تتسم نماذج اللغات الضخمة (Large Language Models) بقدرتها على اتباع التعليمات، لكن ماذا يحدث عندما تتضارب تلك التعليمات مع الأنماط السلوكية المتأصلة فيها؟ دراسة جديدة في هذا المجال تكشف عن تعقيدات هذا التفاعل.
تركز الدراسة على بناء محادثات تضع نموذج الذكاء الاصطناعي في مواجهة تعليمات محددة للتصرف بطريقة موجهة (T)، مثل الالتزام بخروج رمز معين، أو الإجابة بلغة معينة. لكن هذه التعليمات تتعارض مع أنماط سابقة مُبرمجة تتضمن سلوكاً مختلفاً (P).
عبر تحليل 13 نموذجاً مختلفاً وما يصل إلى 50 جولة تفاعلية، وُجد أن معدلات اتباع التعليمات تتراوح بين 1% إلى 99%، مما يعكس عدم الارتباط مع معايير القدرات التقليدية. أما الانتقال من اتباع التعليمات إلى نمط السلوك فهو يعتمد بشكل كبير على النموذج المستخدم.
توصل الباحثون إلى أن فعالية النموذج تتأثر بمحتوى التعليمات، حيث تتمكن النماذج من مقاومة الضغوط لفترة أطول عندما تتماشى التعليمات مع قيمها المدربة. كما أظهرت النتائج أن استجابة النموذج بصياغات متعددة رموز تعزز من مقاومته مقارنةً بالإجابات التي تستخدم رمزاً واحداً فقط.
ويُثبِتَ أيضًا استخدام التفكير المنطقي (Chain-of-thought reasoning) فعالية في تحسين المقاومة، رغم أنه لا يقضي على الضعف الموجود في بعض الحالات. عند مطالبة النماذج بتوقع سلوكها تحت هذه الظروف، كانت دقتها حوالي 83.5%، لكنها كانت تعاني من نقص في تقدير قدراتها على مقاومة الضغط.
تؤكد هذه النتائج أن اتباع التعليمات يظل مجرداً للقدرة على التحمل تحت الضغط، ويعتبر تنوع المخرجات هو العامل الرئيسي في التنبؤ بالمقاومة.
تعليمات متضاربة: كيف تتسبب نماذج اللغات الضخمة (LLMs) في صراع بين التعليمات وأنماط السلوك؟
تظهر نماذج اللغات الضخمة (LLMs) تأثيرًا ملحوظًا على سلوكها عند مواجهة تعليمات متضاربة، حيث يتجلى ذلك في صعوبة اتباع التعليمات بشكل موثوق. تعرفوا على نتائج هذه الدراسة المثيرة التي تكشف عن عمق التحديات داخل نماذج الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
