في ظلّ التطورات المتسارعة في عالم الذكاء الاصطناعي، يظهر تحدي جديد يتمثل في "الهلوسات" التي يمكن أن تتسلل إلى أنظمة توليد المعلومات المعززة (Retrieval-Augmented Generation - RAG). وفي مسعى لمعالجة هذه المشكلة، تمّ تقديم تقنية جديدة تُعرف باسم "الحساسية المدركة على الأساس (Grounding-Aware Sensitivity by Perturbation - GASP)".

تم تصميم GASP ككاشف على مستوى الجمل، حيث يقوم بتقييم كل جملة بناءً على مدى اعتمادها على الأدلة المستخرجة، وهو ما يُعرف بـ "حساسية التأسيس". تعتمد التقنية على الاحتفاظ بالإجابة ثابتة وإعادة تقييمها في سياقات مختلفة، مثل السياق الكامل أو بدون سياق، مما يتيح قياس الفروق في الاعتماد على المعلومات.

يعتمد GASP على قياسات دقيقة تشمل انخفاضات في احتماليات log و divergences من نوع Jensen-Shannon. بينما تنهار إمكانية الجملة المدعومة عند إزالة فعالية المقطع الداعم، تظل الجمل المهلوسة شبه مستقلة.

تم اختبار هذه التقنية في ثلاثة بنود معيارية (RAGTruth، TofuEval، RAGBench) بواسطة ثلاثة مقيمون تم ضبطهم وفقاً للتعليمات من عائلتين من النماذج. النتائج كانت مثيرة، حيث حققت GASP مساحة تحت منحنى ROC تبلغ حوالي 0.73 على مستوى الاستجابة و0.67 على مستوى الجملة، متفوقة بشكل ملحوظ على تقنيات سابقة.

من الواضح أن GASP تقدم أداة قوية لمواجهة تحدي المعلومات المضللة، مما يجعلها أداة محورية للباحثين والمطورين في مجال الذكاء الاصطناعي.