تعزيز دقة نماذج اللغة: كيف تُقلل التنوع العصبي من الهلوسات بشكل ملحوظ؟

نجحت نماذج اللغة (Language Models) في تحقيق تقدم كبير في معالجة اللغة الطبيعية، إلا أنها لا تزال تعاني من مشكلة الهلوسات (Hallucinations) بغض النظر عن زيادة عدد المكونات والمعطيات المستخدمة. ولتجاوز هذه النقطة الحرجة، تم اقتراح مفهوم "التنوع العصبي" (Neural Diversity) كآلية مبتكرة تهدف إلى تقليل معدلات الهلوسة بشكل فعال، حتى مع الاحتفاظ بعدد الثوابت والبيانات.

في سياق هذه الدراسة، تم تقديم "ND-LoRA" (التكيف منخفض الرتبة للتنوع العصبي)، الذي يجمع بين محولات LoRA (Low-Rank Adapters) والتنظيم باستخدام أسلوب Barlow Twins. تمكن هذا النظام من تقليل الهلوسات بنسبة تصل إلى 25.6٪ وبتقليص متوسط قدره 14.6٪، مع الحفاظ على الدقة العامة لنموذج اللغة.

تشير الأبحاث إلى أن تكامل محولات LoRA مع أساليب التنظيم يحقق نتائج مُوجزة وفعّالة، حيث تم إثبات أن التنوع العصبي يرتبط ارتباطاً وثيقاً بتحسين موثوقية النماذج في ظل المعطيات الثابتة. كما تمت ملاحظة أن زيادة التنوع العصبي بنحو 0.1٪ يقابلها زيادة قدرها 3.8٪ في حالات الهلوسة.

هنا تنشأ مسألة ملائمة المهام: حيث تستدعي المهام المختلفة أشكالاً متنوعة من التنوع العصبي. تكشف هذه النتائج عن أهمية التنوع العصبي كأبعاد جديدة للتوسع، متلازمة بذلك مع المعايير والبيانات، مما يوفر مساراً نحو تحسين موثوقية النماذج اللغوية أمام حدود معطيات معينة.