تجنب الأخطاء: إطار عمل مبتكر لمكافحة الخيال في نماذج اللغة الكبيرة

لا يزال الخيال (Hallucination) يمثل تحدياً رئيسياً في نماذج اللغة الكبيرة (Large Language Models)، حيث تتراكم الأخطاء الواقعية المبكرة من خلال الجيل الذاتي التكراري، مما يؤدي إلى تأثير كرة الثلج الذي لا يمكن تصحيحه بسهولة من خلال التدخلات اللاحقة. لمعالجة هذه المشكلة، تم اقتراح إطار العمل الجديد DescaPE (DEcoding Signal Control Against Path Error-snowballing)، والذي يستفيد من إشارات النموذج الداخلية لتقليل المسارات المعرضة للخيال أثناء عملية الاستدلال.

من خلال إجراء اختبارات على نطاق تقسيم الطبقات المتحركة (sliding-window MLP ablation)، نجح الباحثون في تحديد نطاق طبقة بارز من الحقائق ضمن النماذج التي يمكن من خلالها رفع الإشارات بشكل انتقائي، حيث تظهر هذه الإشارات مستويات شاذة أثناء المراحل المعرضة للخيال. كما تم تدريب فحص خفيف الوزن لتقريب هذه الإشارات من خلال تمريرة واحدة متقدمة، وتم دمجها في عملية تقييم المرشحين لتقليل استمرار المخاطر العالية مع مكافأة الخيارات الموثوقة.

أظهرت التجارب عبر خمسة معايير موضوعية على ثلاثة نماذج لغة كبيرة أن DescaPE يُحقق تحسينات ملحوظة في الدقة مقارنة بالأساليب التقليدية، بينما لا تزيد من زمن الاستجابة إلا بنسبة 1.10x، مما يعكس كفاءة هذا الابتكار. كود التطبيق متاح على GitHub.

إن هذا التطور يعد خطوة هامة نحو تعزيز دقة نماذج اللغة الكبيرة، ويعكس الجهود المبذولة لتجاوز العقبات الحالية في مجال الذكاء الاصطناعي. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.