كيف تحفز خوارزميات التعلم العميق الهلوسة المعرفية؟ اكتشف الحلول الفعالة!

تُعد الهلوسة المعرفية واحدة من التحديات البارزة التي تواجه نماذج اللغة الضخمة (Large Language Models)، حيث تميل هذه النماذج إلى إصدار معلومات غير دقيقة أو خاطئة. وفقاً لدراسة حديثة نُشرت على arXiv، يُعتبر التعلم الموجه (Supervised Fine-Tuning) من مصادر هذه الأخطاء، إذ يُمكن أن يؤدي إلى زيادة الهلوسات فيما يتعلق بالمعلومات التي تم تعلمها خلال مرحلة التدريب السابقة.

تناقش الدراسة كيفية الحد من هذه الظاهرة المزعجة باستخدام أدوات مثبتة من أدب التعلم المستمر، حيث تتسبب الهلوسة كمظهر جانبي لتآكل المعرفة أثناء التدريب. من خلال الاقتراح بأسلوب التعلم الذاتي القائم على التعلم الموجه، تم تصميم طريقة تسمح بالتعلم الفعّال للمعلومات الدقيقة مع تقليل الهلوسات الناتجة عن معرفتنا السابقة عبر التحكم في انزياح توزيع المخرجات.

كما تُظهر التجارب التي أُجريت في هذه الدراسة أن هناك حاجة إلى فرض قيود على مرونة المعلومات المفاهيمية في الحالات التي لا تكون فيها المعرفة الجديدة مطلوبة، مما يساعد على الحفاظ على أداء المهام وتقليل الهلوسات.

تم التحقيق أيضًا في آلية الهلوسة الناتجة عن التعلم الموجه من خلال ثلاث فرضيات: قيود السعة، واستنساخ السلوك، والتداخل المحلي. وأظهرت النتائج أن أحد المحركات الرئيسية لظهور الهلوسات هو التداخل بين التمثيلات الدلالية المتداخلة، بينما تنجح استراتيجية التعلم الذاتي في التخفيف من هذا التداخل.

وبناءً على ذلك، تُظهر هذه النتائج أهمية البحث المستمر في طرق تحسين نماذج اللغة للحد من الهلوسات وتحسين دقتها في تقديم المعلومات. إذ يعد التعلم المستمر والمبتكر وسيلة أساسية لتحقيق هذا الهدف.