في عالم الذكاء الاصطناعي، تُعتبر مشاكل "هلوسة المعلومات" (Hallucination) من أبرز التحديات التي تواجه نماذج اللغات الضخمة (Large Language Models). وتحديدًا، تُعرف "الهلاوس العنيدة" (Stubborn Hallucinations) بأنها أخطاء تحدث عندما تكون النماذج واثقة تمامًا من معلوماتها، رغم كونها خاطئة. من هنا، طرح الباحثون حلاً مبتكرًا لتحسين الكشف عن هذه الأخطاء.

يسمى هذا الحل "حساسية التدرجات المتغيرة المدمجة" (Embedding-Perturbed Gradient Sensitivity أو EPGS)، ويعتمد على فرضية مهمة: بينما تكمن الحقائق الثابتة في نقاط منحنى "مسطحة"، فإن الهلاوس العنيدة تكون في نقاط "حادّة"، مدعومة بذاكرة هشة.

تعتمد تقنية EPGS على إحداث اضطرابات في مكونات الإدخال باستخدام ضوضاء غاوسية، ومن ثم قياس الزيادة الناتجة في شدة التدرج. وهذا يوفر إشارة فعّالة لتحليل سرعة التغير، مما يساعد في التمييز بين المعرفة المستقرة والذاكرة غير المستقرة.

أظهرت التجارب أن أداء EPGS متفوق بشكل ملحوظ على الطرق التقليدية التي تعتمد على مستوى الانتروبيا أو التمثيل، مما يجعلها أداة قوية للكشف عن الأخطاء المعلوماتية ذات الثقة العالية.

إذا كنت مهتمًا بعالم تكنولوجيا الذكاء الاصطناعي وكيفية تحسين دقته، فإن EPGS تمثل خطوة رئيسية نحو فهم أعمق وأكثر دقة للمعلومات المقدمة من قبل هذه النماذج.

فما رأيكم في هذا التطور الجديد؟ شاركونا آرائكم في التعليقات.