من الفوضى إلى الوضوح: تطوير إطار جديد لتحسين تصنيف النصوص باستخدام المعرفة الإضافية

تُعاني نماذج اللغة الكبيرة (Large Language Models) من صعوبة في تصنيف النصوص ضمن تصنيفات تحتوي على العديد من التسميات المتشابهة دلاليًا، حيث أن الفروق تنبع من مجالات محددة ولا تُلتقط أثناء مرحلة التعلم المسبق. لمعالجة هذه المشكلة المعقدة، تُستخدم استراتيجية شائعة تستند إلى استرجاع أفضل K تسميات محتملة بناءً على تشابه التضمين، حيث يتم توجيه النموذج لاختيار التسميات من بين تلك الخيارات.

ومع ذلك، فإن استرجاع أفضل K يحصر عدد الخيارات المتاحة ولكنه لا يُقدّم للنموذج إشارات كافية للتمييز بين التسميات المتشابهة. عندما تظهر تسميتان متشابهتان كخيارات، يواجه النموذج صعوبة في الاختيار الصحيح بينهما.

هنا تأتي أهمية الإطار الجديد الذي اقترحه الباحثون، والذي يعمل على:
1. تحديد أزواج التسميات التي يجد النموذج صعوبة في التمييز بينها.
2. توسيع مجموعة المرشحين لتشمل التسميات المتشابهة.
3. توليد قواعد مستهدفة لمساعدته في التفريق بين الخيارات المتشابهة.

هذا الإطار لا يتطلب تعديلات دقيقة، كما أن القواعد المستندة إليه يمكن أن تنتقل إلى نماذج أصغر وأقل كلفة. وقد أظهرت التجارب على ثلاثة معايير مختلفة (WOS، Flipkart، LEDGAR) أن هذه الطريقة تُحسن من معدل F1 بشكل ملحوظ يصل إلى 10.0 نقطة مقارنة بأساليب الاسترجاع التقليدية، حيث حققت النماذج الصغيرة (من 2B إلى 20B) زيادة تصل إلى 11.5 نقطة عبر نقل النموذج.