في عالم الذكاء الاصطناعي، يعتبر الأداء العالي لنماذج اللغات الضخمة (Large Language Models) في استدعاء الوظائف (Function Calling) أحد أهم الإنجازات الحديثة. لكن، هل يمكن الاعتماد على هذه النماذج عندما تكون الإجابات غير مؤكدة؟ تشير الأبحاث إلى وجود مشكلة كبيرة تتعلق بما يُعرف بـ "الهلاوس" (Hallucinations)؛ وهي الحالة التي تقدم فيها النماذج معلومات غير صحيحة أو مشوهة.

لذلك، تم اقتراح مقياس تقييم جديد لوكلاء الذكاء الاصطناعي يأخذ في الاعتبار العواقب السلبية لاستدعاءات الوظائف الخاطئة. ولتقليل هذه الهلاوس قبل أن تتسبب في ضرر، تم تطوير فلتر قابل للتدريب يمكنه قياس درجة عدم اليقين لنموذج اللغة، وإزالة استدعاءات الوظائف التي يحتمل أن تكون ضارة.

من خلال تدريب هذا الفلتر لاكتشاف وإخفاء استدعاءات الوظائف غير المؤكدة دون تعديل النموذج الأساسي، يظهر الباحثون طريقاً عملياً نحو وكلاء يدركون متى ينبغي عليهم قول "لا أعلم"، وهو ما يعتبر خاصية أساسية لتعزيز الاعتمادية في التطبيقات الإنتاجية.