في عالم الذكاء الاصطناعي، تتسم [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة) (Large Language [Models](/tag/models)) بقدرتها على اتباع التعليمات، لكن ماذا يحدث عندما تتضارب تلك [التعليمات](/tag/التعليمات) مع الأنماط السلوكية المتأصلة فيها؟ [دراسة جديدة](/tag/[دراسة](/tag/دراسة)-جديدة) في هذا المجال تكشف عن تعقيدات هذا [التفاعل](/tag/التفاعل).
تركز [الدراسة](/tag/الدراسة) على [بناء](/tag/بناء) [محادثات](/tag/محادثات) تضع [نموذج الذكاء الاصطناعي](/tag/[نموذج](/tag/نموذج)-الذكاء-الاصطناعي) في مواجهة [تعليمات](/tag/تعليمات) محددة للتصرف بطريقة موجهة (T)، مثل [الالتزام](/tag/الالتزام) بخروج رمز معين، أو الإجابة بلغة معينة. لكن هذه [التعليمات](/tag/التعليمات) تتعارض مع أنماط سابقة مُبرمجة تتضمن سلوكاً مختلفاً (P).
[عبر](/tag/عبر) [تحليل](/tag/تحليل) 13 نموذجاً مختلفاً وما يصل إلى 50 جولة تفاعلية، وُجد أن معدلات اتباع [التعليمات](/tag/التعليمات) تتراوح بين 1% إلى 99%، مما يعكس عدم الارتباط مع [معايير](/tag/معايير) القدرات التقليدية. أما الانتقال من اتباع [التعليمات](/tag/التعليمات) إلى نمط السلوك فهو يعتمد بشكل كبير على النموذج المستخدم.
توصل الباحثون إلى أن فعالية النموذج تتأثر بمحتوى التعليمات، حيث تتمكن [النماذج](/tag/النماذج) من [مقاومة](/tag/مقاومة) الضغوط لفترة أطول عندما تتماشى [التعليمات](/tag/التعليمات) مع قيمها المدربة. كما أظهرت النتائج أن استجابة النموذج بصياغات متعددة [رموز](/tag/رموز) تعزز من مقاومته مقارنةً بالإجابات التي تستخدم رمزاً واحداً فقط.
ويُثبِتَ أيضًا استخدام [التفكير المنطقي](/tag/[التفكير](/tag/التفكير)-المنطقي) (Chain-of-thought reasoning) فعالية في [تحسين](/tag/تحسين) المقاومة، رغم أنه لا يقضي على الضعف الموجود في بعض الحالات. عند مطالبة [النماذج](/tag/النماذج) بتوقع سلوكها تحت هذه الظروف، كانت دقتها حوالي 83.5%، لكنها كانت تعاني من نقص في تقدير قدراتها على [مقاومة](/tag/مقاومة) الضغط.
تؤكد هذه النتائج أن اتباع [التعليمات](/tag/التعليمات) يظل مجرداً للقدرة على التحمل تحت الضغط، ويعتبر [تنوع](/tag/تنوع) المخرجات هو العامل الرئيسي في [التنبؤ](/tag/التنبؤ) بالمقاومة.
تعليمات متضاربة: كيف تتسبب نماذج اللغات الضخمة (LLMs) في صراع بين التعليمات وأنماط السلوك؟
تظهر نماذج اللغات الضخمة (LLMs) تأثيرًا ملحوظًا على سلوكها عند مواجهة تعليمات متضاربة، حيث يتجلى ذلك في صعوبة اتباع التعليمات بشكل موثوق. تعرفوا على نتائج هذه الدراسة المثيرة التي تكشف عن عمق التحديات داخل نماذج الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
