تعتبر وكالات الذكاء الاصطناعي المدعومة بنماذج اللغات الضخمة (Large Language Models) من أكثر الأنظمة التفاعلية شيوعاً في الزمن الحالي. ومع ذلك، تتمثل إحدى التحديات المهمة التي تواجه هذه الوكالات في الهلاوس، وهي_outputs التي تتناقض بشكل كبير مع الحقائق، مما يُثقل كاهل مصداقيتها.

لحل هذه المشكلة، تم تقديم HalMit، إطار عمل متطور يهدف إلى تقليل هذه الهلاوس من خلال استخدام مراقب (Watchdog) يمكنه تقييم حدود التعميم (Generalization Bound) لوكالات الذكاء الاصطناعي. تكمن أهمية HalMit في أنه لا يتطلب الوصول إلى المعلومات الداخلية للنماذج، مما يجعله إطار عمل يُمكن استخدامه بفعالية دون التعرض للقيود المعروفة.

يعتمد HalMit على تقنية أخذ العينات الكسرية الاحتمالية (Probabilistic Fractal Sampling) لإنتاج عدد كافٍ من الاستفسارات، مما يمكنه من تحفيز العديد من الاستجابات المثيرة للاهتمام في وقت واحد، وبالتالي يتعلق بجمع المعلومات حول حدود التعميم للوكالة المعنية. أثبتت التقييمات التجريبية أن HalMit يتفوق بشكل كبير على الطرق الحالية في رصد الهلاوس، مما يجعله حلاً واعدًا في تعزيز موثوقية النظم المدعومة بنماذج اللغات الضخمة.

هل أنتم متحمسون لمعرفة المزيد عن التطورات الجديدة في مجال الذكاء الاصطناعي؟ ناقشوا معنا تأثير هذه الاكتشافات!