تتعمق الأبحاث الحديثة في كيفية عمل نماذج اللغة (Language Models) من خلال استخدام مصدرين رئيسيين للمعرفة: الذاكرة البارامترية (Parametric Memory) التي تحمل الحقائق في الأوزان، والذاكرة العملية (Working Memory) التي تعتمد على السياق. وتتناول الدراسة منطقتين مميزتين من أخطاء النماذج، وهما النزاع والهوس.

النزاع يحدث عندما تتعارض الذاكرة البارامترية والذاكرة العملية، مما يؤدي إلى اضطراب النتائج. في المقابل، يحدث الهوس عندما يسأل النموذج عن حقائق لم يُتعلمها مطلقًا. ورغم هذا الاضطراب، فإن النماذج تقوم بإنتاج مخرجات واثقة، مما يجعل أي مراقبة تعتمد على المخرجات غير فعالة بشكل أساسي.

تظهر هذه الدراسة كيف تشترك فشلتا النزاع والهوس في تفسير هندسي موحد. حيث تطور الأبحاث فحصًا لهذه المسألة من خلال تحليل التنافس على "أحواض الجاذبية" في فضاء الحالة المخفية، وهو ما يساعد على فهم كيفية تأثير هذه الأحواض على النتائج.

كما تؤكد الأبحاث على أن عدم وجود حوض مذكر يؤدي إلى تحول الحالة المخفية بحرية، مما يزيد من احتمالية حدوث الهلوسة. وقد تم شمولية هذا المفهوم من خلال اختبار تجريبي محدد، يخدم كإثبات عملي لكيفية تفاعل العوامل المختلفة.

تتطلب معالجة هذه النماذج فهمًا عميقًا للتفاصيل الهندسية، حيث ينص التحليل على أن المسافة بين الحالة المخفية وأقرب حوض مذكور تُساعد بشكل أفضل في التفريق بين الاسترجاع الصحيح والهلوسة، بالمقارنة مع قياسات تقلب المخرجات.

تظهر البيانات أن نسبة حالات الهلوسة تتبع قانونًا معينًا، حيث تزداد مع اتساع نطاق النموذج. وبالتالي، فإن المزيد من الأبحاث مطلوبة لفهم هذه الظواهر وتحسين دقة النماذج بشكل عام. كيف تؤثر هذه النتائج على استخدامك اليومي لنماذج اللغة؟ شاركونا آراءكم في التعليقات.