في دراسة حديثة تناولت تأثير تسميات التوضيح في تصنيف نماذج الذكاء الاصطناعي (AI)، أظهرت النتائج أن الاستخدام المتجانس لهذه التسميات يمكن أن يؤدي إلى انهيار دقة النماذج إلى أقل من 12% عبر ستة نماذج مختلفة.

تستند الدراسة إلى مجموعة من النماذج الشهيرة مثل Pythia وLlama وQwen، ومع أربع مهام مختلفة. الإشكالية الرئيسية تتعلق بمحتويات مواضع التسميات؛ حيث تعالج النماذج الرموز التي تشغل موضع التسميات على أنها أهمية قصوى في تعيين الإجابات، وهو ما يؤدي إلى تطابق تام بين المحتوى والتسميات.

استُخدمت مجموعة متغيرة من الرموز غير المنطقية في التجارب، حيث وضع النموذج 42-67% من الاحتمالات على مجموعة الرموز المعروضة بينما كانت احتمالية استدعاء كلمة معينة مثل "dog" لا تتخطى 0.2%. هذه النتائج تتعارض مع الحسابات القائمة على المفاهيم الكامنة، مما يشير إلى أن مخرجات التعلم الضئيل محصورة على مجموعة الرموز المعروضة فقط دون اعتبار المعاني.

هذا التأثير يتعمق عبر تقديم تصنيف متعدد الخيارات، حيث استهدفت دراسة الدقة التي تصل إلى 0%. الحلول الممكنة تمثلت في تحسين النشاط لكل عنصر، مما حقق استعادة بنسبة 98.4% من الفجوة، محليًا في طبقة واحدة معينة. تمت إعادة تأكيد هذه النتائج عبر نموذج مختلف، مما يعزز فكرة أن عملية التحميل على التسميات تمثل مسارًا معقدًا يتطلب مزيدًا من الدراسة.

تفتح هذه النتائج نقاشًا حول كيفية إدارة الأداء الدقيق في نماذج الذكاء الاصطناعي في ظل تداخل السياقات. هل يمكن السيطرة على هذا التأثير السلبي؟ وما هي الحلول المستقبلية الممكنة؟