في دراسة حديثة، تم تسليط الضوء على الآليات المعقدة المتعلقة بكشف الهلاوس (hallucinations) ضمن نماذج اللغات الضخمة (Large Language Models). من خلال تحليل النمط التوبولوجي لتدفقات المعلومات في الرسوم البيانية للانتباه، يسعى الباحثون إلى تطوير طرق دقيقة للتفريق بين الاستجابات الهلوسية وغير الهلوسية.
تكشف الدراسة عن استخدام الانحناء وفقًا لـ Forman-Ricci لفحص الأنماط الهيكلية التي تظهر الاختناقات المعلوماتية في الرسوم البيانية للانتباه. كما تم تقديم طريقة جديدة تلتقط الخصائص المحلية والعالمية لتدفقات المعلومات المرتبطة بالاستجابات الهلوسية، مما يجعل هذا البحث جزءًا من الرؤية الأوسع لمواجهة التحديات الموجودة في الذكاء الاصطناعي.
تم إجراء تقييم شامل للنهج المقترح عبر مجموعة متنوعة من نماذج اللغات الضخمة والمرجعيات المعتمدة. وتظهر النتائج التجريبية أن الطريقة الجديدة لا تقتصر على تحسينات متسقة على أساليب الكشف السابقة، بل تحقق أيضًا أداءً تنافسيًا بين هياكل نماذج مختلفة.
علاوة على ذلك، تبين التحليلات أن ضعف تبادل السياق بين الرموز أثناء عملية التوليد يرتبط ارتباطًا وثيقًا مع حدوث الهلاوس. إذ تتميز الاستجابات الهلوسية عمومًا بالاعتماد المفرط على الانتباه الذاتي (self-attention) وبتشابه السياق السيء واسترجاع المعلومات غير الفعال، خصوصًا في الطبقة الأخيرة من النماذج المتركبة.
إن هذا البحث يفتح آفاقًا جديدة لفهم عميق لعمليات النماذج اللغوية وكيفية تحسين دقتها من خلال مواجهة التحديات الحالية في الذكاء الاصطناعي.
اكتشاف الهلاوس في نماذج اللغات الضخمة: قراءة مبتكرة لتوقيعات توبولوجية تبين ضعف تبادل السياق
تقدم دراسة جديدة أساليب مبتكرة للتفريق بين الإجابات الهلوسية وغير الهلوسية في نماذج اللغات الضخمة، من خلال تحليل تدفقات المعلومات وتجاوز القيود على التفاعلات القائمة على الانتباه. النتائج تشير إلى ارتباط وثيق بين ضعف تبادل السياق وحدوث الهلاوس.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
