R-DEIM Net: نموذج مبتكر للكشف عن إعادة الصياغة يعزز الأداء والشفافية

تشهد تقنيات الكشف عن إعادة الصياغة تقدمًا ملحوظًا في الآونة الأخيرة، ومع ذلك، يواجه الباحثون تحديًاٍ كبيرًا في تحقيق توازن بين دقة النموذج واحتياجاته الحاسوبية. بالنظر إلى هذا التحدي، تم تقديم R-DEIM Net، نموذج ثنائي الخبراء الذي يتجاوز العقبات التقليدية.

يتكون R-DEIM Net من معمارية تحتوي على 76 مليون معلمة، مستكشفًا ما إذا كانت النماذج متوسطة الحجم يمكن أن تحقق دقة تنافسية في الكشف عن إعادة الصياغة، في الوقت الذي توفر فيه توليد تفسيرات بشرية مفهومة.

يعتمد النموذج على مكونين متخصصين:
1. **الخبير التفاعلي** (Interaction Expert): يقوم باستخراج أنماط التشابه على مستوى الرموز عبر استخدام تلافيف ثنائية الأبعاد متعددة المقاييس ورؤوس الانتباه، مما يوفر مرونة في التعامل مع أطوال المدخلات المتغيرة.
2. **خبير الاستدلال** (Reasoning Expert): يعتمد على مُشفر Flan-T5-small لتوليد التفسيرات، مما يعزز التعاون بين المكونات المختلفة.

بدلاً من إعادة ترميز النصوص المولدة، يقوم R-DEIM Net باستخراج وتجميع حالات الخفاء للمشفر كميزات تكميلية لأغراض التصنيف.

تم اختبار النموذج على مجموعة بيانات أسئلة كورا (Quora Question Pairs)، وحقق دقة تصل إلى 90.07% ونتيجة F1 تقدر بـ 90.16% عبر الاختبار المتقاطع (10-fold cross-validation). هذا الأداء يتفوق على بعض النماذج القوية المعتمدة على المحولات، مثل MFAE BERT، الذي سجل 90.54% في الدقة، بالإضافة إلى الأساليب الحديثة المعتمدة على نماذج اللغات الضخمة مثل LLaMA-70B، مع استخدام ميزانية معلمات أقل بكثير.

إذاً، R-DEIM Net لا يوفر أداءً قويًا فحسب، بل يعزز أيضًا إمكانية استخراج تفسيرات بشرية تدعم الفهم الأفضل للنموذج. كيف ترى الابتكار في هذا المجال؟ شاركونا آراءكم في التعليقات!