تشهد نماذج اللغات الضخمة (Large Language Models) تطورًا متسارعًا في الآونة الأخيرة، حيث أصبحت تلعب دورًا حيويًا في العديد من التطبيقات. ولكن، تظل مشكلة الهلوسة (Hallucination) إحدى العقبات الرئيسية التي تعترض سبيل هذه النماذج، مما يؤثر سلباً على موثوقيتها.

للحد من هذه المشكلة، ظهرت أساليب متعددة لكشف هلوسة نماذج اللغات الضخمة، لكن معظمها يعتمد على أساليب تدريبية تحتاج إلى بيانات كثيرة وتكاليف إضافية لتدريب النماذج. هذا الأمر يقيد قدرة هذه الأساليب على التعميم عبر مجالات مختلفة ويزيد من التعقيد عند النشر.

إلى أن جاء الابتكار الجديد: TRE، وهو مقياس لكشف هلوسة نماذج اللغات الضخمة دون الحاجة إلى أي تدريب! تُعتبر TRE تقنية خالية من المتغيرات وقائمة على عملية واحدة فقط، حيث تقوم بتقدير خطر الهلوسة مباشرة من إشارات الانتروبيا الناجمة عن جيل واحد، بدون الحاجة إلى إعدادات تدريبية أو تكرار العينات.

تعمل TRE من خلال استخراج إشارات الإنتروبيا أثناء عملية فك التشفير الخاصة بنماذج اللغات الضخمة على كل من الأبعاد المكانية والزمانية. إذ نسلط الضوء على الرموز (Tokens) كحاملات للمعلومات الأكثر أهمية حول عدم اليقين، مما يسمح لنا برصد المناطق التي تحدث فيها عدم اليقين بشكل ملحوظ. على مستوى الخطوات الزمنية، نجمع بين إشارات الانتروبيا المتأخرة باستخدام مخطط وزني بسيط يضمن فعالية الأداء.

أظهرت التجارب الشاملة على نماذج لغوية ضخمة متعددة ومجموعات بيانات الأسئلة والجواب (QA datasets) أن تقنية TRE تحقق أداءً تنافسياً، مع الاستمتاع بقوة التعميم والكفاءة والصلابة.

هل تعتبر TRE بداية عصر جديد في مجال كشف الهلوسة؟ نحن في انتظار آرائكم وتجاربكم!